Европейский стартап представил миниатюрные модели искусственного интеллекта
Один из наиболее известных европейских стартапов в области искусственного интеллекта, Multiverse Computing, представил две новые модели ИИ, которые настолько малы, что их назвали в честь мозга курицы и мухи.
Эти модели предназначены для внедрения в устройства Интернета вещей (IoT), а также для локального запуска на смартфонах, планшетах и ПК. Основатель Роман Орус заявил TechCrunch, что модели можно сжать настолько, чтобы они поместились на различных устройствах.
Multiverse Computing, штаб-квартира которой находится в Доностии, Испания, привлекла около 100 миллионов евро на разработку технологии сжатия моделей под названием CompactifAI. Эта технология, вдохновлённая квантовой физикой, позволяет уменьшать размер существующих моделей ИИ без ущерба для их производительности.
Компания уже выпустила множество сжатых версий открытых моделей, включая популярные маленькие модели типа Llama 4 Scout или Mistral Small 3.1, а также запустила сжатые версии двух новых открытых моделей OpenAI.
Две новые модели настолько малы, что могут обеспечить возможности чат-ИИ практически для любого устройства IoT и работать без подключения к интернету. Компания называет это семейство Model Zoo, поскольку продукты названы в честь размеров мозга животных.
Модель SuperFly — это сжатая версия открытой модели Hugging Face SmolLM2-135. Исходная модель имеет 135 миллионов параметров и была разработана для использования на устройствах. SuperFly имеет 94 миллиона параметров, что, по словам Оруса, сравнимо с размером мозга мухи.
Другая модель, ChickBrain, имеет 3,2 миллиарда параметров и обладает способностями к рассуждению. Это сжатая версия модели Meta Llama 3.1 8B. ChickBrain достаточно мал, чтобы работать на MacBook без подключения к интернету.
Орус утверждает, что ChickBrain даже немного превосходит оригинальную модель в нескольких стандартных тестах, включая оценку языковых навыков MMLU-Pro, тесты математических навыков Math 500 и GSM8K, а также тест общих знаний GPQA Diamond.