Влиятельный институт Ватикана и высшие должностные лица из Европейского Союза, Организации Объединенных Наций, IBM и Microsoft объединили свои усилия для продвижения этики развития искусственного интеллекта.

Чиновники подписали документ под названием «Римский призыв к этике ИИ», который был представлен папе Франциску в пятницу.

«Технологии на основе ИИ никогда не должны использоваться для эксплуатации людей, особенно тех, кто наиболее уязвим», - говорится в документе. «Вместо этого искусственный интеллект нужно использовать, чтобы помогать людям развивать свои способности и сохранять планету».

В документе излагаются шесть общих принципов этического развития ИИ. Он был создан под эгидой Папской академии жизни, института Ватикана, в задачу которого входит примирение учений католической церкви о святости человеческой жизни с возникающими проблемами в науке и праве.

В прошлом взгляды Академии формировали иногда противоречивые позиции Церкви в таких новых областях, как исследования стволовых клеток, редактирование генов и клонирование.

Винченцо Палья, президент Академии, сказал, что этические принципы, содержащиеся в письме, «должны стать достоянием общественности, а не только экспертов по искусственному интеллекту».

Брэд Смит, президент Microsoft, и Джон Келли III, исполнительный вице-президент IBM, сказали, что их компании гордятся тем, что поддерживают Римский призыв. «Мы благодарны руководству Ватикана за то, что оно настаивает, чтобы эра ИИ опиралась на этику», - сказал Келли в своей речи в Академии в Риме.

В дополнение к Келли, Смиту и Палье, Дэвид Сассоли, президент Европейского парламента, и Донгюй Ку, генеральный директор Продовольственной и сельскохозяйственной ООН, также подписали Римский призыв.

В прошлом году Папа Франциск выступал перед группой, в том числе представителей ряда компаний Силиконовой долины, которые предупреждали, что такие технологии, как ИИ, могут, если не руководствоваться «теоретическими и практическими моральными принципами», привести к «новой форме варварства». Он также сказал, что его беспокоит способность ИИ проводить кампании по дезинформации, которые «отравляют общественные обсуждения и даже манипулируют мнениями миллионов людей, угрожая тем самым, институтам, гарантирующим мирное гражданское сосуществование».

Новый документ по этике ставит католическую церковь в авангарде основных мировых религий для возможной разработки доктрины об искусственном интеллекте. Ватикан присоединяется к длинному списку правительств, компаний и неправительственных групп, которые сформулировали принципы этики ИИ за последние три года. Например, только в прошлом месяце Европейский Союз изложил свою стратегию развития и регулирования ИИ в белой книге, а Министерство обороны США выпустило этические руководящие принципы по использованию ИИ.

Некоторые специалисты по этике даннях, защитники прав человека и гражданских свобод критикуют эти прежние усилия, которые по их мнению были слишком расплывчатыми, обходили явные запреты на использование ИИ, в таких технологиях как распознавание лиц в государственных системах наблюдения, использование алгоритмов в уголовном правосудии или создание автономного оружия. В то же время, некоторые ученые обвинили их в том, что такие правила либо нецелесообразны, либо потенциально слишком ограничительны, ведь они ставят барьеры для более выгодного применения технологий ИИ.

Microsoft и IBM являются частью организации, называемой Партнерством по ИИ, которая также сформулировала ряд этических принципов, которыми должны руководствоваться разработчики ИИ. Однако, некоторые критики обвинили организацию в использовании своего влияния, чтобы ослабить государственное регулирование технологии. Эта организация также включает в себя Facebook, Google и Amazon - три крупные технологические компании, которые поставили ИИ в основу своих бизнес-планов и на данный момент не учатсвуют в Римском призыве, хотя они могут подписать документ позднее.

Вот шесть основных принципов Римского Призыва:

• Прозрачность;

• Ответственность;

• Беспристрастность;

• Надежность;

• Безопасность;

• Конфиденциальность

Как и в случае с другими этическими кодексами ИИ, он также может подвергнуться критике за расплывчатые, непрактичные и, как правило, слабые механизмы принуждения.

Например, в контексте прозрачности Римский призыв говорит: «В принципе, системы ИИ должны быть объяснимы». Но некоторые из наиболее эффективных алгоритмов машинного обучения часто чрезвычайно трудно интерпретировать людям. Некоторые выдающиеся исследователи ИИ обеспокоены тем, что требование объяснения таких алгоритмов ограничит или задержит многие потенциально полезные применения технологии в таких областях, как медицина.

В документе также не указывается, должен ли алгоритм быть объяснимым для всех заинтересованных сторон - его создатели, пользователи и те, на кого повлиял его результат, - это лишь некоторые из них.

Надежность также является плохо определенным термином, поскольку исследователи ИИ не соглашаются с тем, какой стандарт следует использовать для измерения надежности алгоритма.

IBM, наряду с Microsoft, считает продажу сервисов с поддержкой ИИ и доступ к облачным центрам обработки данных для приложений ИИ одним из ключевых факторов получения дохода. Однако в своем выступлении в Институте Келли сказал, что IBM ставит этику ИИ выше прибыли. «Мы не просто передаем нашу технологию тем, кто за нее заплатит», - сказал он. «Мы гарантируем, что клиенты, с которыми мы работаем, используют технологии таким образом, чтобы улучшить наш человеческий опыт».

В свою очередь, Microsoft высказала опасения в отношении использования технологии распознавания лиц и заявила, что никогда не будет продавать эту технологию для государственного надзора.

Ни одна из компаний, однако, не сказала, будут ли они предпринимать шаги, чтобы контролировать приложения, которые клиенты используют в своих облачных сервисах. В некоторых случаях клиенты используют эти «облака» для запуска программного обеспечения ИИ, которое они разработали внутри или приобрели у сторонних поставщиков. Например, Microsoft недавно выиграла противоречивый проект Пентагона по созданию совместной инфраструктуры защиты предприятий (JEDI) и будет управлять многими рабочими процессами армии США, включая приложения ИИ, участвующие в военных действиях. Некоторые из этих работ, такие как использование беспилотников для целенаправленных убийств, могут не соответствовать этическим принципам Ватикана.

Источник: internetua.com

Новости портала «Весь Харьков»