Правление Сбербанка утвердило принципы этики разработки и применения технологий искусственного интеллекта (ИИ) в Группе Сбер.
Как отметили представители банка, принципы разработаны с учетом требований национальной стратегии развития искусственного интеллекта на период до 2030 года, утвержденной Президентом РФ, и обязательны для всех участников Группы Сбер.
Принцип № 1 «Контролируемость и управляемость систем ИИ» (Secure AI) предполагает, что разработка и применение технологий ИИ в Сбере являются безопасными, управляемыми и контролируемыми в максимальной возможной степени. Сбер учитывает все риски, связанные с безопасностью технологий ИИ, и не допускает причинения системой вреда человеку. Согласно данному принципу, внедрение ИИ в Сбере никогда не является самоцелью, а применяемые технологии должны пользоваться доверием клиентов, сотрудников и общества.
Принцип № 2 «Прозрачность и предсказуемость функционирования технологий ИИ» (Explainable AI) означает, что Сбер обеспечивает максимальную прозрачность, внутренний контроль и предсказуемость процессов и результатов работы системы ИИ, а также несет за это полную ответственность. Этим же принципом предусматривается, что технологии ИИ применяются Сбером с соблюдением законодательства, в том числе требований конфиденциальности, и с уважением к частной жизни человека, а также к коммерческой тайне. При работе с технологиями ИИ обеспечивается безопасность данных, а системы ИИ никогда не используются для незаконной обработки персональной информации граждан или информации корпоративных клиентов Сбера.
Принцип № 3 «Стабильность и надежность систем ИИ» (Reliable AI) гарантирует, что Сбер обеспечивает полную стабильность и надежность функционирования систем ИИ, а также обеспечивает необходимый уровень технического оснащения и создает условия наибольшего благоприятствования для разработки и внедрения надежных систем ИИ в Сбере. Банк реализует высокий уровень гарантий всех прав и свобод человека при применении ИИ, поддерживая применение технологий ИИ исключительно на законных основаниях.
Принцип № 4 «Ответственное применение ИИ» (Responsible AI) касается внедрения системы ИИ. В этом случае Сбер должен в первую очередь учитывать потребности клиентов и сотрудников, принимать во внимание и ответственно относиться ко всем опасениям, которые возникают в связи с применением технологий ИИ.
Принцип № 5 «Непредвзятый ИИ» (Fair AI) означает, что технологии ИИ применяются Сбером справедливо и объективно на равных для всех условиях. Банк стремится к тому, чтобы технологии приносили пользу для развития человечества.
Для реализации данных принципов была создана рабочая группа по этике разработки и применения технологий ИИ (в качестве подгруппы комитета ESG), которая будет рассматривать спорные этические вопросы, связанные с разработкой, применением ИИ; заниматься формированием корпоративной этики в сфере ИИ среди сотрудников; отвечать за реализацию принципов в Сбере; проводить по запросу внутреннего заказчика экспертизу рисков применения технологий ИИ в работе Сбера и оценку последствия их внедрения совместно с комитетом по рискам группы Сбер; осуществлять мониторинг эффективности реализации принципов и их восприятия в обществе.
«Технологии искусственного интеллекта, как и любые другие, несут с собой не только возможности, но и риски. Утверждая этические принципы разработки и применения технологий ИИ и создавая механизмы для их реализации, мы действуем в русле лучших мировых практик и в соответствии с Национальной стратегией развития ИИ. Этот вопрос масштабный и непростой, поэтому наши правила и принципы будут совершенствоваться, конкретизироваться.
Мы открыты к мнению экспертного сообщества, которое будем учитывать при обновлении наших принципов. Для целого ряда этических проблем, возникающих при использовании ИИ, мы пока не нашли ответов даже с учетом изучения лучшего мирового опыта в этой сфере, поэтому наши принципы, безусловно, будут совершенствоваться по мере того, как человечество будет находить соответствующие решения. Особенно я хочу отметить, что это принципы Сбера и мы их никому за пределами нашей группы не навязываем, более того, не считаем эти принципы идеальными, и другим компаниям необязательно использовать их в своей деятельности», - отметил президент, председатель правления Сбербанка Герман Греф.
