Llama (Large Language Model Meta AI) — это набор языковых моделей с открытыми весами, которые Meta выкладывает для скачивания и запуска на собственной инфраструктуре. Что это значит на практике: файл с весами модели попадает к разработчику напрямую, без обращения к чужому API за каждый ответ.
Открытая лицензия развязывает руки командам, которым нужен контроль над данными и стоимостью инференса. Веса дообучают под свою задачу через LoRA или полный fine-tuning, а сами модели поднимают локально через llama.cpp, Ollama или vLLM. Размер выбирают под железо: от компактных версий на 7-8 млрд параметров до тяжёлых на 70 млрд и выше.
§ 01Что это и чем отличается от закрытых моделей
Веса лежат в открытом доступе — вот главное отличие семейства моторов Meta от GPT или Gemini. У закрытой LLM доступ идёт только через API: запрос уходит на сервер вендора, оттуда возвращается ответ, а сама модель остаётся недоступной. Здесь наоборот — файл модели скачивается с Hugging Face и работает без интернета. Отсюда три следствия: данные не покидают контур компании, за каждый токен не капает оплата провайдеру, а поведение нейросети от Meta настраивается под конкретный домен через дообучение.
§ 02Почему появилось
Стоимость запросов к закрытым API растёт линейно с нагрузкой, а данные уходят на сторонний сервер — два барьера, которые открытая языковая модель Meta снимает. Компании с требованиями к приватности (медицина, финансы, госсектор) не могут отправлять клиентские данные во внешний сервис. Локальный запуск решает это: инференс идёт на своём GPU, логи остаются внутри. Экосистема инструментов — Ollama для десктопа, vLLM для продакшена, llama.cpp для CPU и слабого железа — выросла именно вокруг этой потребности.
стоимость запроса −70% — B2B SaaS для юротрасли с MRR $180k заменил облачный GPT на дообученную Llama 3 8B на своих серверах для внутреннего ассистента по документам. Стоимость обработки запроса упала на 70% за 4 месяца. Замер по логам инференса и биллингу GPU в Grafana.
latency 2.4с → 0.9с — Медиахолдинг с 3 млн визитов в месяц перенёс модерацию комментариев с внешнего API на локальную Llama 3.1 с квантизацией Q4 на одной A100. Задержка ответа снизилась с 2.4 до 0.9 с за 5 недель. Мониторинг через Prometheus и нагрузочные тесты в k6.
§ 03На кого влияет
Разработчикам продуктов на базе ИИ открытая LLM даёт независимость от одного вендора и его тарифов. Исследователям — возможность изучать и модифицировать архитектуру, а не работать с чёрным ящиком. Для чего нужно это бизнесу: собрать чат-бота или RAG-систему на внутренней базе знаний без утечки данных наружу. Порог входа задаёт видеопамять: версия на 8 млрд параметров в квантизации Q4 помещается примерно в 6-8 ГБ VRAM, модель на 70 млрд требует уже нескольких десятков гигабайт или разбиения на несколько карт.
§ 04Как адаптироваться
Начать стоит с выбора размера под доступное железо и задачу. Небольшая версия тянет суммаризацию и простые диалоги, крупная — сложные рассуждения и код. Дальше три шага: развернуть модель через Ollama или vLLM, подключить её к своему приложению по OpenAI-совместимому API, при необходимости дообучить через LoRA на своих примерах. Для типовых сценариев дообучение часто не нужно — хватает подробного системного промпта и подхода RAG с подгрузкой контекста из базы. Лицензию перед коммерческим запуском читают отдельно: у ряда версий есть ограничения по масштабу аудитории.