Антропик и Папа Римский: союз во имя безопасности ИИ или «ватиканское замыливание»?

В своей энциклике Папа Лев XIV предупредил об угрозах ИИ: замене работников, ускорении войн и эксплуатации окружающей среды. В церемонии, посвященной этому документу, принял участие Крис Ола — соучредитель Anthropic, одной из самых дорогих ИИ-компаний в мире. Его присутствие вызвало споры: как католическая церковь может сотрудничать с компанией, чьи технологии могут привести к будущему, которого опасается понтифик?

Разногласия в подходах

В энциклике подчеркивается важность сохранения достоинства человеческого труда, который находится под угрозой из-за ИИ. Однако, по словам Пита Ферлонга из Center for Humane Technology, крупные ИИ-компании, включая Anthropic, не ставят эти проблемы во главу угла. «Все эти компании создают технологии, предназначенные для замены людей, — говорит Ферлонг. — Это сильно расходится со словами Папы. Не может быть достоинства в мире, где технологии создаются для замены людей».

Некоторые профессии, такие как программисты, операторы колл-центров и специалисты по вводу данных, особенно уязвимы перед автоматизацией, согласно собственному анализу рынка труда Anthropic. Опрос Epoch AI показал, что 20% американских работников признали, что ИИ частично взял на себя их обязанности. Даже генеральный директор Anthropic Дарио Амодеи предупреждал о возможной потере «белых воротничков» в ближайшие годы.

«Ватиканское замыливание» глаз

Паоло Кароцца, профессор права в Нотр-Даме и сопредседатель наблюдательного совета Meta, видит риск того, что сотрудничество Anthropic с Ватиканом останется поверхностным и приведет к «позитивному» дискурсу без критического самоанализа. «Это бренд Anthropic — они выделяются тем, что ассоциируют себя с безопасностью и ответственностью. Им выгодно говорить: „Смотрите, даже Папа готов с нами разговаривать. Google и OpenAI не были на сцене“», — отмечает Кароцца. Несмотря на первоначальный скепсис, он надеется, что диалог будет полезен: «Диалог между всеми участниками необходим, нельзя действовать по принципу „мы против них“».

Ферлонг согласен: «То, что пишет Папа, конфликтует с тем, что говорит Anthropic. Для меня это хороший знак». Он считает, что стоит воспринимать усилия Anthropic всерьез, но быть осторожными, учитывая финансовое давление, которое может повлиять на их позицию в будущем. Сам Ола признал, что лаборатории ИИ «работают в рамках стимулов и ограничений, которые иногда могут конфликтовать с правильными действиями».

Некоторые активисты считают, что Папа был недостаточно строг. Тимнит Гебру, основательница Института распределенных исследований ИИ, написала в LinkedIn, что союз — это «ватиканское замыливание», и церкви следовало бы поддержать «эксплуатируемых работников данных, борющихся за свои права, людей, чья вода загрязнена из-за дата-центров, и других жертв».

Общие точки соприкосновения и противоречия

Однако есть темы, где церковь и Anthropic сходятся. Обе стороны выступают против использования ИИ в войне: Лев XIV призвал к «строжайшим этическим ограничениям», чтобы защитить жизнь и избежать гонки вооружений. Когда Амодеи отказался предоставлять модели для полностью автономного оружия и массовой слежки, администрация Трампа внесла компанию в черный список, что привело к судебному разбирательству. Anthropic позиционирует себя как сторонника безопасности в противовес OpenAI.

Между тем, энциклика критикует дата-центры, потребляющие огромное количество энергии и воды. Лев XIV призывает к более устойчивым технологиям. Anthropic, напротив, инвестировала 50 миллиардов долларов в ИИ-инфраструктуру, включая дата-центры. Компания обещала компенсировать рост цен на электроэнергию, но это не снимает противоречий с призывами Папы к устойчивому развитию.

Anthropic не ответила на запрос о комментарии. Ситуация остается двусмысленной: с одной стороны, диалог между церковью и ИИ-индустрией может быть полезен, с другой — есть риск, что он превратится в пиар-акцию.