«Соглашение между верой и искусственным интеллектом»: ради этичного ИИ компании всё чаще обращаются к религии
По мере роста опасений по поводу искусственного интеллекта и его быстрой интеграции в общество, технологические компании все чаще обращаются к религиозным лидерам за советом о том, как формировать эту технологию — это неожиданный поворот в отношении давнего скептицизма Кремниевой долины по отношению к организованной религии. Об этом сообщает AP.
На прошлой неделе лидеры различных религиозных групп встретились с представителями таких компаний, как Anthropic и OpenAI, на первом круглом столе «Соглашение между верой и ИИ» в Нью-Йорке [на фото], чтобы обсудить, как лучше всего внедрить моральные и этические принципы в быстро развивающуюся технологию. Мероприятие было организовано базирующимся в Женеве Межконфессиональным альянсом за безопасность сообществ, который занимается решением таких проблем, как экстремизм, радикализация и торговля людьми. Ожидается, что этот круглый стол станет первым из нескольких подобных мероприятий по всему миру, в том числе в Пекине, Найроби и Абу-Даби.
Руководители технологических компаний должны осознавать свою власть — и свою ответственность — за принятие правильных решений, заявила баронесса Джоанна Шилдс, ключевой партнер этой инициативы. Она работала руководителем в технологической сфере, в том числе в Google и Facebook* [Meta Platforms Inc. (владелец Facebook) — организация признана экстремистской, ее деятельность запрещена на территории РФ], прежде чем перейти в британскую политику.
«Регулирование не справляется с этим», — сказала она. Но лидеры мировых религий, имеющие миллиарды последователей по всему миру, обладают «опытом в обеспечении моральной безопасности людей», — рассуждала она. По словам Шилдс, у религиозных лидеров должен быть свой голос.
«Этот диалог, эта прямая связь так важны, потому что люди, которые это создают, понимают мощь и возможности того, что они разрабатывают, и большинство из них хотят сделать это правильно», — сказала она о руководителях технологических компаний, занимающихся искусственным интеллектом.
По словам Шилдс, цель этой инициативы — в конечном итоге разработать «набор норм или принципов», учитывающих особенности различных групп и вероисповеданий, от христиан до сикхов и буддистов, которым компании будут следовать.
Впереди нас ждут трудности
На встрече присутствовали представители различных религиозных групп, в том числе представители Общества индуистских храмов Северной Америки, Международное сообщество бахаи, Сикхской коалиции, Греческой православной архиепархии Америки и Церкви Иисуса Христа Святых последних дней, широко известной как мормонская церковь.
Прежде чем эти компании начали свою деятельность, некоторые традиции уже издали собственные этические руководства по использованию ИИ. Церковь Иисуса Христа Святых последних дней дала условное одобрение этой технологии в своем руководстве. «ИИ не может заменить дар божественного вдохновения или индивидуальную работу, необходимую для его получения. Однако ИИ может быть полезным инструментом для улучшения обучения и преподавания», — говорится в нем.
Южная баптистская конвенция, крупнейшая протестантская деноминация в США, приняла в 2023 году резолюцию: «Мы должны активно взаимодействовать с этими новыми технологиями и формировать их, а не просто реагировать на вызовы ИИ и других новых технологий после того, как они уже затронули наши церкви и общины».
Одна из сложностей при составлении списка общих принципов заключается в том, что, несмотря на общие черты, мировые религии различаются в своих ценностях и потребностях.
«Религиозные общины по-разному определяют приоритеты», — сказала раввин Диана Герсон, участница круглого стола и заместитель исполнительного вице-президента Нью-Йоркского совета раввинов.
Партнерство подчеркивает крепнущую коалицию между верой и технологиями, возникшую в результате стремления создать моральный ИИ — недонозначную концепцию, которая поднимает вопросы о том, возможно ли это и что это значит.
«Мы хотим, чтобы Claude поступил так, как поступил бы человек, обладающий глубокими этическими принципами и навыками, на его месте», — говорится в публичной «Конституции Claude», разработанной компанией Anthropic для своего чат-бота. Эта конституция была создана при участии множества религиозных деятелей и лидеров в области этики.
В этом зарождающемся альянсе компания Anthropic проявила наибольшую настойчивость, по крайней мере публично, в своих попытках привлечь на свою сторону религиозных лидеров. Этот шаг последовал за публичным спором с Пентагоном в начале этого года по поводу использования искусственного интеллекта в военных целях после того, как Anthropic заявила, что ограничит использование своей технологии для разработки автономного оружия или для массового наблюдения за американцами.
«Здесь есть элемент пиара. Лозунг был: „Двигайся быстро и ломай всё“. И они сломали слишком много всего и слишком много людей», — сказал Брайан Бойд, представитель некоммерческой организации Future of Life Institute (Институт будущего жизни) по связям с религиозными организациями в США. «Существует как моральное обязательство со стороны компаний, которое они с опозданием осознают, так и, как мне кажется, серьёзное осмысление ситуации со стороны некоторых сотрудников этих компаний».
Возникает некоторый скептицизм
Однако другие сторонники регулирования и безопасности ИИ не так уверены в искренности этих усилий.
«В лучшем случае это отвлекающий фактор. В худшем — отвлечение внимания от действительно важных вещей», — сказала Румман Чоудхури, генеральный директор некоммерческой организации Humane Intelligence и научный представитель США по вопросам ИИ при прежней администрации Байдена.
Чоудхури говорит, что не склонна считать религию лучшим средством для ответа на вопросы, касающиеся искусственного интеллекта и этики, но считает, что понимает, почему компании все чаще обращаются к ней.
«Я думаю, что в течение нескольких лет в Кремниевой долине преобладало очень наивное мнение относительно генеративного ИИ, заключавшееся в том, что мы можем прийти к каким-то универсальным принципам этики, — сказала она. — Они очень быстро поняли, что это просто неправда. Это нереально. Поэтому теперь они рассматривают религию как способ решения неопределенности в этически неоднозначных ситуациях».
Неясно, в какой степени эти печально известные своей непрозрачностью компании воплощают услышанное от религиозных лидеров в действия — и как эти действия могут выглядеть. Но некоторые критики опасаются, что дискуссия о создании этичных версий технологий отвлекает от более широких дискуссий об ИИ и его роли в обществе.
«Под предлогом: „Мы собираемся всё это построить. Это само собой разумеется. Но когда мы строим всё это такими способами, как нам убедиться, что конечный результат будет хорошим?“ — говорит Дилан Бейкер, ведущий инженер-исследователь Института исследований распределенного искусственного интеллекта. — А потом мы начинаем думать: „Подождите, подождите, подождите. Нам нужно задуматься, хотим ли мы вообще всё это строить“».
Фото участников конференции: National Law Review
Читайте также:
Агенты ИИ создали «религию» в своей соцсети | Сингулярность?
2023
2021
Религия, вера и творчество в эпоху искусственного интеллекта
