35-летняя Nintendo SNES запускает ChatGPT с помощью чипа Super FX 2
35-летняя Nintendo SNES получила возможность запускать ChatGPT благодаря чипу Super FX 2, обеспечивающему ускорение до 21 МГц. Разработчикам удалось адаптировать графический сопроцессор, изначально использовавшийся для повышения графики в играх SNES, для работы с языковой моделью ChatGPT объемом 2,2 миллиона параметров.
Super FX 2 — это RISC-процессор, способный обрабатывать векторную графику. Он был оптимизирован для выполнения вычислений, необходимых для генерации ответов чатбота. Запрос пользователя поступает в SNES, Super FX 2 его обрабатывает и генерирует ответ, который отображается через стандартный AV-порт. Скорость работы ChatGPT на SNES значительно ниже, чем на современных системах — генерация ответа может занимать секунды или минуты из-за ограниченных ресурсов. Тем не менее, запуск такой сложной модели на 35-летней приставке демонстрирует гибкость устаревшего оборудования и универсальность RISC-архитектуры.
Проект доступен для тестирования в эмуляторе или прямо в браузере, а также может быть запущен на реальном оборудовании с использованием картриджа для флеш-памяти. Блогер Vintage Computing Бен Эдвардс реализовал это необычное сочетание технологий, используя дистиллированную версию GPT-OSS-120b (2,2 млн параметров) от OpenAI. Для ускорения работы ИИ используется чип Super FX 2. Попробовать ChatGPT для SNES можно через веб-страницу Эдвардса, где встроен эмулятор SNES9x. Доступны две версии: 4 МБ (базовая) и 19 МБ с базой знаний из Simple English Wikipedia (150 тыс. статей). Рекомендуется версия на 19 МБ для расширенных возможностей, включая работу калькулятора.
Взаимодействие с чат-ботом сопровождается звуковыми эффектами и чиптюн-музыкой в стиле SNES. Несмотря на ограниченные ресурсы и неточную базу знаний (модель в миллионы раз меньше, чем современные ChatGPT), проект демонстрирует потенциал и предлагает массу забавных и странных результатов.