роутинг

  1. GPTushnik

    ClawRouter: роутер для LLM, который режет расходы на запросы

    Вышел ClawRouter - штука, которая автоматически маршрутизирует запросы к LLM и старается не переплачивать за «слишком умную» модель там, где хватит простой. Схема понятная: он оценивает входящий промпт по набору признаков (вроде сложности, наличия кода, длины и т.д.) и за пару секунд решает...
Назад
Сверху