Банк России призвал финансовые организации усилить защиту ИИ-систем

Банк России опубликовал методические рекомендации, посвященные безопасному применению технологий искусственного интеллекта в финансовой сфере. В документе регулятор систематизировал основные риски, связанные с использованием ИИ, рассмотрел возможные сценарии атак на такие системы и предложил меры по обеспечению их информационной защиты.

ЦБ рекомендует финансовым организациям предусмотреть дополнительный контроль при использовании искусственного интеллекта в критически важных процессах, связанных с повышенными рисками информационной безопасности. В частности, при проведении платежных операций, где задействованы ИИ-решения, окончательное подтверждение действий должно оставаться за сотрудником организации.

Отдельное внимание в рекомендациях уделено применению внешних ИИ-сервисов, предоставляемых сторонними компаниями. По мнению регулятора, дополнительным фактором надежности поставщика может служить участие его модели искусственного интеллекта в программах по выявлению и устранению уязвимостей.

Также Банк России рекомендовал участникам финансового рынка сформировать собственные модели угроз и внутренние политики информационной безопасности при работе с технологиями ИИ. Ответственность за разработку таких документов предлагается возложить на заместителя руководителя организации, курирующего вопросы защиты информации. Печать