Фото: Шедеврум
Специалисты ВТБ поделились методами минимизации «галлюцинаций» искусственного интеллекта — ситуаций, когда нейросети выдают правдоподобный, но ложный или вымышленный текст. Такие ошибки могут привести к серьезным последствиям, включая финансовые потери и репутационные риски для бизнеса.
По словам экспертов, ключевая причина «галлюцинаций» — особенности работы языковых моделей, которые опираются на вероятностные связи, а не на понимание смысла. Среди основных типов ошибок — фактические искажения (неверные даты, имена, события), фабрикация данных (ссылки на несуществующие источники), ошибки в логике (например, неправильные расчеты).
Как снизить риски? Четкие инструкции — чем точнее запрос, тем меньше «фантазий» у ИИ. Разделение сложных задач — использование «цепочки рассуждений» (пошаговый анализ). Проверка данных — подключение внешних проверенных источников. Дообучение моделей — адаптация ИИ под конкретные задачи. AI guardrails — защитные механизмы для блокировки неверных ответов.
В банке уже применяют каскадные системы, где несколько моделей корректируют результаты друг друга. Также важно качество обучающих данных: их фильтрация и проверка экспертами.
«ИИ — мощный инструмент, но без контроля он может ошибаться. Ответственный подход к данным и алгоритмам — залог надежности», — отметили в банке.
Внедрение этих методов позволит бизнесу безопаснее использовать нейросети, избегая ложной информации и сохраняя доверие клиентов.