Энтузиаст создал «разговорный ИИ» Z80-?LM, уместившийся в файле на 40 КБ и запускаемый на 50-летнем процессоре
Современные модели ИИ обычно ассоциируются с огромными вычислительными мощностями. Но энтузиаст с псевдонимом HarryR решил создать ИИ-модель, которую можно будет запустить на древнем процессоре полувековой давности.
Речь о CPU Zilog Z80 из 1976 года. Это восьмибитный процессор, который совместно со своими клонами был одним из самых распространённых CPU всех времён.
Само собой, даже нормально сравнить это решение с современными не выйдет, однако это не остановило HarryR. Он создал проект Z80-μLM, который описан, как разговорный ИИ.
Z80-μLM — это «разговорный ИИ», который генерирует короткие посимвольные последовательности с обучением с учетом квантизации (QAT) и работает на процессоре Z80 с 64 КБ оперативной памяти.
В основе этого проекта лежал вопрос: насколько компактным мы можем стать, сохранив при этом индивидуальность, и можно ли будет легко обучать или дорабатывать его? С возможностью простого самостоятельного распространения?
Ответ — да! И это 40-килобайтный бинарный файл .com (включая вывод данных, веса и пользовательский интерфейс в стиле чата), работающий на процессоре с частотой 4 МГц 1976 года выпуска.
Этот ИИ не пройдёт тест Тьюринга, но зелёный экран, возможно, вызовет у вас улыбку.
В целом ИИ умеет работать в двух режимах: Tinychat — это разговорный чат-бот, который отвечает на приветствия и вопросы о себе очень короткими сообщениями, а также Guess — игра из 20 вопросов, в которой модель знает секрет, а мы должны попытаться его угадать. Никаких полноценных бесед с таким чат-ботом вести не получится.