КРИТИЧНОИИSIGNAL 9/10
ИИ-боты ошибаются в финансовых вопросах: до 57% неверных ответов
Банки, использующие LLM в чат-ботах, рекомендациях и расчётных сервисах, рискуют выдавать клиентам некорректные данные о продуктах, налогах или инвестиционных решениях — это прямой путь к репутационным и регуляторным претензиям, а также к финансовым потерям клиентов. Зона влияния: ИИ, банковский продукт, комплаенс.
Банкам нужно внедрять обязательную верификацию финансовых расчётов LLM, ограничивать сценарии использования и добавлять человеческий контроль на критичных операциях.
«Самые популярные ИИ-модели от ChatGPT, Claude, Copilot, Grok и Gemini в среднем давали неверные ответы на финансовые запросы в 57% случаев, при сложных вопросах — до 99% ошибок»