Перейти к публикациям
Назад в лентуПубликация канала
Нейросети
Молчание — золото Клод оказался слишком дорогим сортировщиком. Amazon заменила Claude Sonnet 4.6 в одной из внутренних систем обработки обращений собственным Strands Decider — и сократила расходы на классификацию на 98%. Задача была простая: распределять жалобы, запросы и автоматические сигналы по 20 категориям. Теперь компания рассчитывает экономить на этом миллионы долларов в год. Strands Decider относится к decision models — моделям принятия решений. Им дают текст, вопрос и готовые варианты ответа: например, жалобу клиента и список отделов. Модель оценивает, кому поручить обращение, и возвращает вероятности, не генерируя текст. При этом в основе всё ещё лежит классическая LLM. Amazon разработала своего выборщика на основе Google Gemma 4. Похожие модели Clef и pplx-decider в октябре выпустили Cloudflare и Perplexity: они помогают выбирать инструменты для агентов, проверять действия и оценивать чужие ответы. У Amazon миллион классификаций подешевел примерно с $22 200 до $500, а среднее время вызова сократилось с 4,2 до 0,9 секунды. В в комментариях на Hacker News теперь вспоминают, что классификаторы решали такие задачи задолго до нынешнего ИИ-бума — причём за миллисекунды. Но у новой волны есть удобство: категории и правила можно описать обычным языком прямо в запросе. @anti_agi
99 просмотров в MAX

Все категории