
Длинный контекст не отменяет чтение договора
Окно в сотни тысяч токенов полезно только там, где заранее известен вопрос к документу. Иначе модель пересказывает текст и пропускает риск.
Правила
Большинству компаний не нужен отдел по комплаенсу моделей. Им нужно понять, где ИИ принимает решение о человеке, а где только готовит черновик.
Лента новостей смешивает три разных сюжета: правила для разработчиков базовых моделей, правила для компаний, которые принимают решения о людях, и обычную гигиену данных. Если вы не обучаете модель и не скорите кредиты, первый сюжет вас почти не касается. Третий касается уже сегодня.
Этого деления достаточно, чтобы не ждать идеального закона и не покупать «комплаенс-платформу» на ровном месте. Следующий практический шаг — одностраничная памятка: какие данные можно отправлять в какой сервис. Каталог решений как раз показывает, у каких продуктов есть свой сервер, а какие живут только в чужом облаке.

Окно в сотни тысяч токенов полезно только там, где заранее известен вопрос к документу. Иначе модель пересказывает текст и пропускает риск.
Открытая модель снимает зависимость от одного API, но переносит на вас сервер, качество и ответственность за ответы.
Демо ресепшена, который «умеет всё», почти никогда не доживает до платежа. Рабочий голосовой сценарий отвечает за одну операцию и умеет отдать человека человеку.