Локальная нейросеть или API: железо, качество, цена и приватность

Локальная нейросеть или API — вопрос, который встаёт у разработчика, как только появляется регулярная задача для модели: отвечать на письма, разбирать документы, помогать с кодом. Своя модель кажется бесплатной и приватной, API — мощнее и проще. Ниже — честное сравнение по железу, контексту, качеству, стоимости и приватности, расчёт цены API по ценам на 7 октября 2026 и код, который работает с обоими вариантами.

Как запускают локальную нейросеть

Самый популярный путь — Ollama: программа ставится одной командой на macOS, Linux и Windows, скачивает открытые модели и запускает их на вашем компьютере. Пример из официального README:

ollama run gemma4

После запуска Ollama поднимает локальный сервер на http://localhost:11434. У него есть OpenAI-совместимый эндпоинт /v1, поэтому один и тот же код на OpenAI SDK работает и с локальной моделью, и с API — меняются только адрес, ключ и имя модели:

from openai import OpenAI

local = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")  # ключ обязателен, но Ollama его игнорирует
cloud = OpenAI(base_url="https://api.zukko.pro/v1", api_key="fetch_ваш_ключ")


def ask(client: OpenAI, model: str, prompt: str) -> str:
    resp = client.chat.completions.create(
        model=model,
        messages=[{"role": "user", "content": prompt}],
    )
    return resp.choices[0].message.content


question = "Объясни в двух предложениях, что значит HTTP 503"
print(ask(local, "gemma4", question))
print(ask(cloud, "deepseek-v4.1-flash", question))

Одна оговорка про приватность. Кроме локальных, в Ollama есть облачные модели — они работают на серверах Ollama, а не у вас. Если вам нужна именно локальная работа, убедитесь, что используете локальную модель. По документации Ollama облачные функции можно отключить настройкой disable_ollama_cloud в ~/.ollama/server.json.

Локальная нейросеть или API: сравнение

Железо

По документации Ollama поддерживает видеокарты Nvidia (compute capability 5.0 и новее, драйвер 550 и новее), AMD Radeon, а на Mac — ускорение через Metal. Главное ограничение — память: модель должна поместиться в видеопамять, иначе часть уходит на процессор и работа замедляется. Проверить, как модель распределилась, можно командой ollama ps — в колонке PROCESSOR должно быть 100% GPU.

Контекст

Здесь локальные модели удивляют сильнее всего. По документации Ollama контекст по умолчанию зависит от видеопамяти:

Для агентов, веб-поиска и инструментов для кода та же документация советует не меньше 64 000 токенов. Увеличить контекст можно (например, переменной OLLAMA_CONTEXT_LENGTH), но это требует больше памяти. У моделей в каталоге Zukko контекст 1M токенов, у glm-5.3 и glm-5.3-flash — 128K.

Качество

Цифр «локальная модель X на N% хуже» мы приводить не будем: сравнение зависит от конкретной модели и ваших задач. Два факта, которые можно утверждать точно:

• Локально запускаются только модели с открытыми весами, и только те, что помещаются в вашу память. Модели Claude и GPT из каталога локально не запустить: их веса не публикуются.
• Для моделей в API есть ориентир — индекс силы в каталоге Zukko (Intelligence Index от Artificial Analysis): Claude Opus 5.5 — 58, GPT-6.1 Sol — 52, Gemini 3.8 Flash — 41, DeepSeek V4.1 Flash — 39.

Как сравнить на практике: соберите 30–100 реальных примеров с эталонными ответами и прогоните их через локальную модель и через 2–3 модели API тем самым кодом выше. Метод подробно описан в статье об индексе силы и мини-eval↗.

Сколько стоит API

Возьмём нагрузку 1 000 запросов в день по 2 000 входных и 500 выходных токенов. Цены на 7 октября 2026, формула за день: 1000 × (2000 × вход + 500 × выход) / 1 000 000, то есть 2 × вход + 0.5 × выход; за месяц — × 30.

Проверка строки: для GPT-6.1 Sol 2 × 0.27 + 0.5 × 1.32 = 0.54 + 0.66 = $1.20 в день, × 30 = $36. Если в запросах повторяется длинный общий префикс (системный промпт, инструкции), часть входа может пойти по цене чтения кэша, и сумма будет ниже. Актуальный список и цены — GET https://api.zukko.pro/v1/models или страница «Модели» в кабинете.

Как посчитать локальный вариант

Цены на железо и электричество у всех разные, поэтому вместо наших цифр — формула для ваших:

Если железо уже есть и простаивает, в расчёт идёт только электричество. Если его надо покупать, сравните с таблицей выше: при объёмах, где дешёвая модель API обходится в единицы долларов в месяц, покупка видеокарты ради экономии вряд ли окупится. Картина меняется при больших постоянных объёмах на дорогих моделях — поэтому посчитайте свой сценарий. Подборка недорогих моделей для массовых задач — в статье о самых дешёвых моделях↗, а на сколько запросов хватит бонуса $0.50 — в статье бесплатный API нейросети↗.

Приватность

Это самый сильный аргумент за локальную модель. По документации Ollama, при локальной работе сервис не видит ваши запросы и данные: всё остаётся на машине. С API запрос проходит через шлюз и уходит провайдеру модели.

Если вы работаете с персональными данными или коммерческой тайной, сначала выясните, какие требования к обработке данных действуют в вашей компании. Частый компромисс — гибрид: локальная модель обезличивает или классифицирует документы, а в API уходит уже очищенный текст.

Когда что выбирать

Локальная модель, если:

• данные нельзя передавать за пределы компьютера или сети;
• нужна работа без интернета;
• задачи простые и однотипные, а небольшой модели на них хватает — это проверено на ваших примерах;
• подходящее железо уже есть.

API, если:

• нужны сильные модели или длинный контекст — агенты, работа с кодом, большие документы;
• нагрузка неравномерная, и платить за простаивающее железо не хочется;
• нет времени на драйверы, обновления и подбор моделей;
• с моделями работает команда, и нужен общий доступ с лимитами на ключах.

Гибрид, если часть данных чувствительная, а часть задач требует сильной модели. Код из начала статьи как раз позволяет переключаться между двумя клиентами по типу задачи.

Чтобы попробовать API-сторону сравнения, создайте ключ в кабинете и прогоните на нём те же примеры, что и на локальной модели; подключение описано в быстром старте↗.

Частые вопросы

Можно ли подключить Claude Code или Codex к локальной модели?

В README Ollama среди поддерживаемых интеграций указаны Claude Code и Codex. Учтите требование к контексту: для инструментов программирования документация Ollama советует не меньше 64 000 токенов, а по умолчанию на видеокарте меньше 24 GiB контекст — 4k.

Сколько видеопамяти нужно для локальной нейросети?

Зависит от модели и размера контекста. Ориентируйтесь на размер модели в библиотеке Ollama и проверяйте командой ollama ps, поместилась ли она целиком в видеопамять.

Что дешевле при небольшой нагрузке?

При 1 000 запросов в день по нашему профилю самая дешёвая модель в таблице обходится в $1.35 в месяц. Если железо нужно покупать, на таких объёмах API, скорее всего, выйдет дешевле — но проверьте по формуле из статьи со своими ценами.

Можно ли совмещать оба варианта?

Да. Ollama и Zukko принимают OpenAI-совместимые запросы, поэтому в коде достаточно двух клиентов с разными base_url и правила, какую задачу куда отправлять.