GLM-5.3-Flash vs GPT-5.6-Luna: самые дешёвые модели в API

GLM-5.3-Flash и GPT-5.6-Luna — две самые дешёвые модели в Zukko, и выбор между ними обычно решают три вещи: цена, размер контекста и поддержка нужного эндпоинта. Качество ответов на ваших задачах таблица не покажет — его нужно проверить самим, и ниже есть скрипт для этого.

Сравнение по фактам

Что из этого следует:

• Цена. На одном и том же объёме Flash обходится в 0.04 / 0.10 от стоимости Luna. Например, 10 млн токенов: 10 × 0.04 = $0.40 на Flash и 10 × 0.10 = $1.00 на Luna.
• Контекст. Всё, что вместе с ответом больше 128K токенов, во Flash целиком не поместится. Luna принимает до 1M.
• Эндпоинты. Инструменты, которые работают только через Responses API (например, Codex), могут использовать Luna, но не Flash: GLM-модели в Zukko через /v1/responses не работают.

Набор моделей меняется — актуальный список: GET https://api.zukko.pro/v1/models или страница «Модели» в кабинете.

Когда решает цена: потоки коротких запросов

Классификация обращений, извлечение полей из писем, теги для товаров, короткие ответы в боте — всё это тысячи небольших запросов, где контекст далеко от 128K.

Пример: запрос на 5000 входных и 2000 выходных токенов.

• Flash: (5000 × 0.04 + 2000 × 0.04) / 1 000 000 = $0.00028 за запрос, $0.28 за 1000 запросов.
• Luna: (5000 × 0.1 + 2000 × 0.1) / 1 000 000 = $0.0007 за запрос, $0.70 за 1000 запросов.

Пример с очень короткими запросами: классификация, 300 токенов входа и 10 выхода, миллион запросов — это 310 млн токенов.

• Flash: 310 000 000 × 0.04 / 1 000 000 = $12.40.
• Luna: 310 000 000 × 0.1 / 1 000 000 = $31.

Если на ваших примерах обе модели дают приемлемый результат, при таких объёмах разница в цене становится заметной статьёй расходов.

Когда решает контекст: большие документы и длинные сессии

Лог на 50 тыс. токенов плюс вопрос на 1000 и ответ на 3000 — всего 54 000 токенов. Это помещается в обе модели:

• Flash: 54 000 × 0.04 / 1 000 000 = $0.00216;
• Luna: 54 000 × 0.1 / 1 000 000 = $0.0054.

Лог на 300 тыс. токенов во Flash целиком не поместится. В Luna: (300 000 + 3000) × 0.1 / 1 000 000 ≈ $0.030. Альтернатива — разбить лог на части и обработать каждую во Flash, но тогда модель не видит связи между частями.

Отдельный случай — агенты и длинные диалоги. Каждый шаг заново отправляет всю накопленную историю, и контекст растёт. Если сессии у вас регулярно подходят к 100K токенов, Flash упрётся в лимит раньше. Учтите и цену: на десятом шаге агента вы платите за всю историю десяти шагов во входе. Кэшированные токены в Zukko оплачиваются по обычной входной цене, тогда как у вендоров чтение из кэша стоит около 10% входной, поэтому длинные агентные сессии выгодно держать компактными.

Как выбрать на практике

1. Посчитайте размер запросов. Возьмите 20–50 реальных запросов и посмотрите usage.prompt_tokens в ответах. Если вход вместе с ожидаемым ответом с запасом меньше 128K — подходят обе модели.
2. Проверьте, какой эндпоинт нужен вашему инструменту. Нужен /v1/responses — остаётся Luna.
3. Сравните результат на своих данных скриптом ниже: одни и те же запросы, обе модели, ответы — в файл для слепой оценки.
4. Посчитайте месяц по формуле: (вход + выход за месяц) × цена / 1 000 000.

Скрипт для сравнения на ваших задачах

Скрипт прогоняет ваши промпты через обе модели, считает стоимость по usage и сохраняет ответы в JSON, чтобы их можно было оценить, не зная, какая модель что написала.

import json
import os
import random
import time

from openai import OpenAI

client = OpenAI(
    base_url="https://api.zukko.pro/v1",
    api_key=os.environ["OPENAI_API_KEY"],
)
PRICES = {"glm-5.3-flash": 0.04, "gpt-5.6-luna": 0.10}  # $ за 1M, вход = выход

Как пользоваться: попросите коллегу оценить ответы A и B в comparison.json, не открывая поле model, и только потом посмотрите, какая модель победила. Время ответа скрипт тоже записывает — но это ваш замер в ваших условиях, и его стоит повторить в разное время суток.

Подробнее о формате запросов — в справке по Chat Completions↗ и справке по моделям↗.

Типичные сценарии

Частые вопросы

Справится ли Flash с запросом на 100K токенов?

По размеру — да: 100K меньше 128K. Но в лимит контекста входит и ответ, поэтому 100K входа плюс max_tokens должны с запасом помещаться в 128K. Если запрос больше контекста модели, он будет отклонён с ошибкой — сокращайте вход, режьте документ на части или используйте модель с 1M контекста. Не путайте это с HTTP 413 payload_too_large: эта ошибка Zukko про размер тела запроса больше 32 МБ, а не про токены.

На сколько хватит $1?

На glm-5.3-flash $1 — это 1 / 0.04 = 25 млн токенов. При запросе на 7000 токенов (5000 + 2000) это около 3570 запросов; при 100 запросах в день — примерно 35 дней. На gpt-5.6-luna $1 — это 10 млн токенов, около 1430 таких запросов, примерно 14 дней.

Какая модель быстрее?

Данных, на которые можно опереться, у нас нет: скорость зависит от длины ответа, нагрузки и времени суток. Замерьте сами скриптом выше на своих запросах и повторите замер несколько раз.

Можно ли переключаться между моделями без переписывания кода?

Да. Обе модели работают через один и тот же /v1/chat/completions с тем же ключом, меняется только поле model. Вынесите имя модели в настройки — и сравнение, и переход займут минуту. Чтобы начать, создайте ключ в кабинете↗ и пройдите быстрый старт↗.