К содержанию
ИИ Новость

Разработчик создал мониторинг провайдеров ИИ после блокировок

Автор потратил полтора месяца на поиск альтернатив после блокировки платежей GitHub и доступа к Claude из России. Он создал инструмент для сравнения провайдеров с учётом индивидуальных задач.

После блокировки доступа к Claude из России и прекращения платежей со стороны GitHub разработчик потратил полтора месяца на поиск альтернативных провайдеров ИИ. Сначала он попробовал поднять сервер FreeLLMAPI, но бесплатных лимитов оказалось мало. Пополнение счёта OpenRouter на 10 долларов увеличило дневные лимиты на бесплатные модели в десятки раз, но большинство из них пришлось отключить из-за маленького контекста (объёма текста, который модель может обработать за раз).

Затем автор протестировал агрегаторы OpenRouter и OpenCode. Первый показался ему слишком дорогим, второй в подписке за 10 и даже за 40 долларов давал небольшие лимиты, особенно быстро заканчивался недельный. В итоге за неделю у него оказалось шесть разных оплаченных провайдеров с разными ценами и доступностью моделей. Цены различались не на единый коэффициент: соотношение было разным для входящих и исходящих токенов (единиц текста, которые модель обрабатывает или генерирует), а некоторые продавали их по одной цене.

Чтобы разобраться в ситуации, разработчик создал репозиторий ai-monitor. Инструмент собирает цены и условия провайдеров, а через OpenCode готовит рекомендации с учётом задач пользователя и расхода входящих, исходящих и кешированных токенов. Самостоятельных тестов качества моделей монитор не проводит: рейтинг берётся из Intelligence Index Artificial Analysis. На выходе получаются четыре Markdown-файла: рекомендации, сравнение цен, рейтинг моделей и источники. Автор предупреждает, что цены и условия перед оплатой стоит перепроверять, так как рекомендации формирует LLM (большая языковая модель).

Для тех, кто работает с ИИ, этот инструмент означает возможность подбирать провайдера под свои задачи, а не полагаться на универсальные списки. Разработчик подчёркивает, что идея мониторинга — индивидуальные рекомендации, основанные на реальном расходе токенов в сессиях пользователя. Репозиторий пока сырой, но автор надеется на конструктивную критику.

Первоисточник

habr.com ↗

Отправить в Telegram

Новость подготовлена с помощью ИИ на основе открытых источников и может содержать неточности. Нашли ошибку — напишите на hello@tolk.media.