Российским банкам рекомендовали предоставлять клиентам возможность отказаться от взаимодействия с искусственным интеллектом и обратиться к сотруднику. Если ИИ принял решение, затрагивающее клиента, тот также должен иметь возможность потребовать его пересмотра человеком. Такие положения содержит Кодекс этики в сфере разработки и применения искусственного интеллекта на финансовом рынке.
К документу Банка России присоединился ВТБ, подписав соответствующий меморандум. Кодекс носит рекомендательный характер и не устанавливает обязательного для всех банков порядка. Его участникам предлагается предупреждать клиентов об использовании ИИ, если оно неочевидно, рассказывать о связанных с технологией рисках и маркировать созданные генеративными моделями материалы.
Одновременно банкам рекомендуют проверять качество алгоритмов и использованных для их обучения данных, обеспечивать защиту конфиденциальной информации и контролировать решения систем с высоким уровнем риска.
— Мы работаем с искусственным интеллектом ответственно и хотим, чтобы клиенты понимали, где и как эта технология применяется. Присоединение к Кодексу Банка России является частью нашей стратегии развития ИИ: чем прозрачнее правила, тем выше доверие клиентов и тем увереннее банк может масштабировать такие решения, — отметил заместитель руководителя технологического блока ВТБ Сергей Безбогов.
ВТБ намерен учитывать положения Кодекса при дальнейшем внедрении ИИ. Присоединение к документу также предполагает обмен опытом с другими участниками финансового рынка и участие в создании отраслевых стандартов.
Среди основных принципов Кодекса названы человекоцентричность, справедливость, прозрачность, безопасность и ответственное управление рисками. Банкам, в частности, рекомендовано не учитывать при принятии решений национальность, язык, расу, вероисповедание и принадлежность клиента к политическим или общественным организациям.
Максим Рокатанский