Создана первая в Украине саморегулируемая организацию в cфері ИИ, сообщает Минцифра. Соответствующий Меморандум подписали 14 ведущих украинских IT-компаний, которые будут разрабатывать инновационные продукты с соблюдением принципов безопасного использования ИИ.
Каждая компания обязуется раз в год или чаще подавать отчет с описанием, как она интегрирует этичные принципы в разработку, внедрение и использование искусственного интеллекта.
Основой деятельности саморегулируемой организации является Добровольный кодекс поведения по этичному и ответственному использованию искусственного интеллекта, который определяет стандарты этичного и ответственного использования ИИ в бизнесе и других сферах.
Кодексом определенно восемь принципов, соблюдение которых может предотвратить распространение предубеждений, дискриминации и неумышленный вред:
1. Риско-ориентированный подход (RISK-BASED APPROACH)
Соблюдение принципа может предусматривать: определение и оценку потенциального риска и влияния ИИ на права человека; разработку и внедрение политик, процедур и обучения персонала; обновление систем ИИ для устранения безопасностных уязвимостей; разработку и внедрение кризисных протоколов, направленных на своевременное и надлежащее реагирование на выявленные риски; применение разнообразных методов тестирования и мероприятий для оценки, устранения и уменьшения безопасностных рисков ИИ и дискриминационных предубеждений и др.
2. Безопасность и надежность (SAFETY AND ROBUSTNESS)
Это и создание процедур для сообщения о безопасностных инцидентах и документированиях зарегистрированных инцидентов в роботе ИИ, и применение разнообразных методов тестирования, и применение мероприятий кибербезопасности, и проведение обучения и внутреннего тестирования относительно цифровой безопасности и кибербезопасности для персонала и др.
3. Приватность и защита данных (PRIVACY AND DATA PROTECTION)
Принцип включает сообщение субъектов персональных данных об источниках сбора, передачи персональных данных третьим странам, цель их обработки, механизм автоматической обработки персональных данных и тому подобное.
4. Справедливость и равенство (EQUITY AND FAIRNESS)
Компании-подписанты должны создавать системы ИИ таким образом, во избежание нарушений прав человека, дискриминации, предубеждений на всех этапах жизненного цикла систем ИИ. В частности, идет речь о создании структурного подразделения или назначениях ответственного лица, которые осуществляют надзор по системе ИИ, использование репрезентативных наборов данных для обучения систем ИИ, удержание от использования широко запрещенных практик для систем ИИ, например: осуществление социальной ранжировки (social scoring), манипулирования поведением людей и распознавание лиц в режиме реального времени, если другое не будет установлено в соответствии с действующим законодательством.
5. Прозрачность (TRANSPARENCY)
Обнародование достаточной и понятной для пользователя информации о возможностях и ограничениях системы ИИ, использование методов маркировки, должное и понятное информирование пользователей о факте взаимодействия с системой ИИ и др.
6. Контроль со стороны человека и мониторинг (HUMAN OVERSIGHT AND MONITORING)
Компании должны предусматривать возможность пересмотра и корректировки решений систем ИИ человеком и право пользователя соответствующей системы обжаловать такое решение в случаях, когда это решение имеет юридические или другие значительные последствия. В частности, внедрение процедур мониторинга для отслеживания производительности систем ИИ, создание механизмов и/или порталов для получения отзывов, жалоб и обращений от пользователей и тому подобное
7. Лидерство в развитие осведомленности (AWARENESS BUILDING AND LEADERSHIP)
Приобщение к разработке и внедрению отраслевых стандартов, инвестирование в исследование и разработку безопасного, надежного и справедливого ИИ, а именно поддержку академических исследований, создание собственных исследовательских лабораторий и сотрудничество с другими организациями, в частности гражданским обществом. Приобщение к разработке и внедрению образовательных программ для общественности и др.
8. Интеллектуальная собственность (INTELLECTUAL PROPERTY)
Компании-подписанты обязуются придерживаться норм действующего законодательства в сфере защиты прав интеллектуальной собственности (ІВ) в разработке и использовании ИИ, включая: избежание нарушения авторского права на компьютерные программы, тренировочные данные, которые используются для обучения систем ИИ; определение собственности на контент, сгенерированный системами ИИ или с их использованием, и обеспечение справедливого распределения выгод от использования ИИ.
Приобщиться к саморегулируемой организации могут и другие компании при условии соответствия критериям, определенным в Меморандуме.
Вся информация для твоей компании - теперь в едином продукте LIGA360. Увеличивай скорость выявления бизнес-рисков: правовых, регуляторных, санкционніх, репутационных, судебных, финансовых, договорных. Закажи презентацию прямо сегодня.
Читайте также:
Как помогает искусственный интеллект в масштабах среднего и большого бизнеса?
Train-use и авторское право: современные вызовы искусственного интеллекта для авторов
Развитие искусственного интеллекта, в частности GPT: юридические аспекты и их регулирования
Требования к использованию искусственного интеллекта в ЕС: что нужно учесть украинскому бизнесу
