ООО «Пермский научно-образовательный центр»
В России появился Кодекс этики в сфере искусственного интеллекта
Кодекс этики в сфере искусственного интеллекта (26 октября 2021)
Что это?
Кодекс этики в сфере искусственного интеллекта — документ, который устанавливает общие этические принципы и стандарты поведения для всех, кто связан с созданием, развитием и применением искусственного интеллекта (ИИ). Принят в 2021 году. Разработан Альянсом в сфере ИИ, объединяющим ведущие технологические российские компании.
Имеет рекомендательный характер, присоединение к нему добровольное. Правила распространяются только на гражданские разработки. Распространяется на отношения, связанные с этическими аспектами создания, внедрения и использования технологий ИИ на всех этапах жизненного цикла, которые не урегулированы законодательством РФ и/или актами технического регулирования.
Принципы
Некоторые принципы Кодекса этики в сфере ИИ:
- Человеко-ориентированный и гуманистический подход — права и свободы человека рассматриваются как наивысшая ценность, развитие технологий не должно мешать реализации возможностей людей.
- Уважение автономии и свободы воли — нельзя допускать разработки ИИ, которые могут негативно влиять на развитие когнитивных способностей человека.
- Соответствие закону — создатели ИИ должны соблюдать положения законодательства РФ на всех этапах своей деятельности.
- Недискриминация — важно, чтобы группировка и классификация данных не приводили к ущемлению прав по признакам расовой, национальной или половой принадлежности, политических взглядов, религиозных убеждений, возраста, социального и экономического статуса или сведений о частной жизни.
- Оценка рисков и гуманитарного воздействия — создатели ИИ обязаны учитывать сложность поведения ИИ и заранее прогнозировать потенциальные опасности для человека, общества и государства.
- Польза разработок для людей — создание новых технологий должно быть направлено на развитие безопасных решений с учётом национальных приоритетов.
- Соблюдение принципов добросовестной конкуренции — при сравнении ИИ между собой важно использовать только достоверную информацию.
- Максимальная прозрачность — общество и СМИ должны получать честную и полную информацию о методах применения ИИ, вреде, пользе и ограничениях в использовании.
Требования
Некоторые требования, изложенные в Кодексе этики в сфере ИИ:
- Риск-ориентированный подход — оценка уровня рисков учитывает как известные, так и возможные риски, при этом принимается во внимание как уровень вероятности угроз, так и их возможный масштаб в краткосрочной и долгосрочной перспективе.
- Предосторожность — когда деятельность акторов ИИ может привести к морально неприемлемым для человека и общества последствиям, должны быть приняты меры, чтобы предотвратить или ограничить наступление таких последствий.
- Непричинение вреда — любое использование, в том числе проектирование, разработка, тестирование, внедрение, эксплуатация систем ИИ, способных целенаправленно причинять вред окружающей среде, жизни и (или) здоровью человека, имуществу граждан и юридических лиц, недопустимо.
- Идентификация ИИ в общении с человеком — акторам ИИ рекомендуется осуществлять добросовестное информирование пользователей об их взаимодействии с СИИ, когда это затрагивает вопросы прав человека и критических сфер его жизни, и обеспечивать возможность прекратить такое взаимодействие по желанию пользователя.
- Безопасность работы с данными — акторы ИИ должны соблюдать законодательство РФ в области персональных данных и охраняемых законом тайн при использовании СИИ, обеспечивать охрану и защиту персональных данных, разрабатывать и внедрять инновационные методы борьбы с несанкционированным доступом третьих лиц к персональным данным.
Ответственность
Ответственность за последствия применения СИИ всегда несёт человек. При этом ответственность должна соответствовать характеру, степени и размеру ущерба, который может последовать в результате использования технологий, а также учитывать роль актора в жизненном цикле СИИ и степень возможного и реального влияния конкретного актора на причинение ущерба и его размер.
Не допускается передача полномочий ответственного нравственного выбора системам ИИ.
Регулирование
Кодекс этики в сфере ИИ предусматривает, например:
- Использование института уполномоченных по этике или формирование коллегиальных отраслевых органов (например, комиссии по этике).
- Создание свода наилучших практик решения возникающих этических вопросов при эксплуатации систем ИИ.
- Добровольную сертификацию — акторы ИИ могут внедрять системы добровольной сертификации соответствия разработанных технологий ИИ нормам, установленным законодательством РФ, и создавать системы добровольной сертификации и маркировки СИИ, свидетельствующие о прохождении данными системами процедур добровольной сертификации и подтверждающие стандарты качества.
Положения Кодекса могут быть расширены и конкретизированы для отдельных групп акторов ИИ в отраслевых или локальных документах по этике в сфере ИИ с учётом развития технологий, особенностей решаемых задач, класса и назначения СИИ, уровня возможных рисков, а также специфического контекста и среды, в которой применяются СИИ.
КОДЕКС ЭТИКИ В СФЕРЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
- Текст цит. по [1]
Кодекс этики в сфере искусственного интеллекта (далее - Кодекс) устанавливает общие этические принципы и стандарты поведения, которыми следует руководствоваться участникам отношений в сфере искусственного интеллекта (далее - Акторы ИИ) в своей деятельности, а также механизмы реализации положений настоящего Кодекса.
Кодекс распространяется на отношения, связанные с этическими аспектами создания (проектирования, конструирования, пилотирования), внедрения и использования технологий ИИ на всех этапах жизненного цикла, которые в настоящее время не урегулированы законодательством Российской Федерации и/или актами технического регулирования.
Рекомендации настоящего Кодекса рассчитаны на системы искусственного интеллекта (далее - СИИ), применяемые исключительно в гражданских (не военных) целях.
Положения Кодекса могут быть расширены и/или конкретизированы для отдельных групп Акторов ИИ в отраслевых или локальных документах по этике в сфере ИИ с учетом развития технологий, особенностей решаемых задач, класса и назначения СИИ, уровня возможных рисков, а также специфического контекста и среды, в которой применяются СИИ. [1]
Раздел I. Принципы этики и правила поведения
1. Главный приоритет развития технологий ИИ в защите интересов и прав людей и отдельного человека
2. Необходимо осознавать ответственность при создании и использовании ИИ
3. Ответственность за последствия применения СИИ всегда несет человек
4. Технологии ИИ нужно применять по назначению и внедрять там, где это принесет пользу людям
5. Интересы развития технологий ИИ выше интересов конкуренции
6. Важна максимальная прозрачность и правдивость в информировании об уровне развития технологий ИИ, их возможностях и рисках
Раздел 2. Применение кодекса
1. Основы действия кодекса
2. Механизм присоединения и реализации кодекса
Скачать
Список
- "Кодекс этики в сфере искусственного интеллекта" - https://legalacts.ru/kodeks/kodeks-etiki-v-sfere-iskusstvennogo-intellekta/
- В России появился Кодекс этики в сфере искусственного интеллекта // Аналитический центр при Правительстве РФ, 26 октября 2021 - https://ac.gov.ru/news/page/v-rossii-poavilsa-kodeks-etiki-v-sfere-iskusstvennogo-intellekta-27078