ЦБ предложил регулировать использование ИИ-моделей в банках

Банк России считает, что массовое использование глобальных платформ искусственного интеллекта российскими банками создаёт риск для финансовой стабильности всей системы — и предлагает это регулировать. Об этом на форуме Data Day 2026 заявила заместитель директора юридического департамента ЦБ Екатерина Дёмкина.

Проблема в том, что данные, на которых обучены глобальные ИИ-модели, невозможно проверить, объяснила Дёмкина: искусственный интеллект может обучаться на некачественных данных, а качество источников напрямую влияет на решения, которые модель принимает. По её словам, новым предметом регулирования может стать именно архитектура данных, на основании которой ИИ выстраивает свои решения.

Главная опасность глобальных платформ — их непрозрачность, соглашается председатель комиссии по финансовой безопасности совета ТПП России Тимур Аитов: банки не видят внутреннюю логику таких моделей и могут лишь догадываться о рисках. Когда десятки банков используют одну и ту же платформу, возникает эффект синхронизации ошибок — сбой у поставщика или незаметное изменение параметров могут одновременно заставить весь рынок сократить лимиты. По оценке Аитова, потери кредитного портфеля в отдельных сегментах при таком сценарии могут достигать 3–5% за квартал.

Похожий эффект резонанса возможен и на рынке ценных бумаг, добавляет глава Ассоциации участников рынка электронных денег Виктор Достов. Если множество игроков синхронизируются через одну модель, система начинает колебаться со всё большей амплитудой и становится неустойчивой: одна и та же модель будет инвестировать в одни и те же бумаги, разгоняя спрос и создавая иллюзию прибыльности — а это подстёгивает спрос ещё сильнее, и цикл повторяется. Повлиять на такие модели у отдельного банка почти нет возможности.

Есть и инфраструктурный риск. У глобальных вендоров вычислительные мощности, облака и сами модели тесно связаны между собой, поясняет гендиректор компании Morizo Денис Царев: любое отключение или изменение условий лицензии превращается в операционный сбой — рынок уже видел это в 2023 году, когда часть вендоров уходила из России. Есть и риск для кибербезопасности: по словам Аитова, злоумышленник может через искажение входных данных заставить общую модель систематически ошибаться, а закрыть такую уязвимость своими силами банк не может — только ждать «заплатку» от вендора, и счёт идёт на часы.

У российских решений в этом смысле есть преимущество, отмечают эксперты: они обеспечивают полный вертикальный контроль на всех этапах — от обучения до размещения серверов на территории страны. Отечественные модели обучаются на массиве российской отчётности, нормативных документах, типовых кредитных и депозитных договорах и учитывают специфику поведения российских клиентов, говорит Царев. Это позволяет разворачивать модель внутри контура банка и получать предсказуемую юридическую ответственность вендора.

На практике будущее регулирование, по мнению Царева, может затронуть своеобразный «паспорт ИИ-модели»: состав обучающей выборки, требования к обработке данных внутри российского контура, контроль дрейфа модели и «галлюцинаций», назначение ответственного за решения, лимиты на использование внешних моделей, а также требования к прозрачности и возможности сменить поставщика. Достов же считает, что упор стоит делать не на «паспорт», а на тщательный анализ результатов — через жёсткие ограничения, заранее заданные правила и сравнение моделей между собой.

Источник: Коммерсант

admin