Meta Platforms выпустила четвёртое поколение открытой языковой модели Llama. Llama 4 использует архитектуру Mixture of Experts (MoE), поддерживает мультимодальный ввод (текст + изображения) и показывает существенный прирост качества по сравнению с предшественником.
Ключевые изменения
Архитектура MoE (смесь экспертов) означает, что при обработке каждого запроса активируется лишь часть параметров модели¹. Это позволяет создавать модели с большим числом параметров при меньших вычислительных затратах на инференс. Llama 4 имеет несколько версий: Scout (17B активных параметров из 109B), Maverick (17B из 400B), Behemoth (более 288B активных из 2T).
Мультимодальность: Llama 4 Scout и Maverick принимают изображения и текст совместно, что открывает применения для анализа документов, описания фото, кода по скриншотам.
Значение открытых весов
Открытость весов Llama 4 — стратегическое решение Meta. Это позволяет разработчикам по всему миру бесплатно использовать и дообучать модели на собственных данных. Для корпораций это означает возможность создать полностью приватную ИИ-систему без зависимости от внешних API.
Российский контекст
Llama 4 доступна через Hugging Face и скачивается российскими разработчиками без ограничений. Это одна из наиболее доступных передовых моделей для российского рынка. Яндекс, Сбер и независимые исследователи используют Llama-серию для файн-тюнинга под российские задачи.
---
¹ Источник: Meta AI Blog — https://ai.meta.com/blog/llama-4/
² TechCrunch — https://techcrunch.com/2026/02/05/meta-llama-4/