«Мы продолжаем обнаруживать загадочные, даже тревожные вещи»

Папа римский Лев XIV выпустил энциклику, в которой предупредил, что искусственный интеллект «угрожает нормализовать античеловеческое мировоззрение». Документ был представлен накануне, 25 мая, в Ватикане. В мероприятии участвовал сооснователь Anthropic Крис Олах, который выступил с речью. 

Энциклика — письменное послание папы римского всем католикам мира по важнейшим социально-политическим, религиозным и нравственным вопросам. Документ, выпущенный Львом XIV, называется «Magnifica Humanitas [Великолепное человечество]: О защите человеческой личности в эпоху искусственного интеллекта». 

В самом начале энциклики Лев XIV привел два образа из Библии, чтобы описать выбор, стоящий в настоящее время перед человечеством. Это выбор «не между ”да" или "нет" технологиям, а скорее между строительством Вавилона или восстановлением Иерусалима», пишет он. По словам Льва XIV, первый вариант представляет собой грандиозный проект, в котором решения принимаются исходя из гордости, выгоды и стремления к гомогенизации. Второй же предполагает совместный труд людей для «восстановления стен братского сосуществования». 

Папа римский выступил против концентрации контроля над ИИ в руках частных компаний. «Эти организации эффективно устанавливают условия доступа, определяют правила видимости и формируют сами возможности для участия. Когда такая власть сосредоточена в руках немногих, она, как правило, становится непрозрачной и ускользает от общественного контроля, увеличивая риск искаженных форм развития, которые приводят к возникновению новых зависимостей, исключений, манипуляций и неравенства», — подчеркнул Лев XIV. 

Кроме того, папа обратил внимание на риск безработицы из-за ИИ. «Защита возможностей трудоустройства и незаменимая роль личности должны оставаться общим правилом. Погоня за большей прибылью не может оправдать выбор, при котором систематически приносятся в жертву рабочие места. Человеческая личность — это цель, а не средство, и экономический порядок должен оставаться подчиненным человеческому достоинству и общему благу», — отметил понтифик. 

Олах, выступая с речью, заявил, что все передовые лаборатории ИИ, включая Anthropic, «действуют внутри системы стимулов и ограничений, которые порой могут противоречить правильным действиям». Это коммерческие интересы, стремление «оставаться на переднем крае исследований», геополитическое давление, а также гордость и амбиции, перечислил он. 

«Поэтому, если мы хотим, чтобы технология развивалась правильно, очень важно, чтобы были люди за пределами этих стимулов. Люди, которые заботятся о том, чтобы все шло хорошо, и настаивают на безопасности, которым не все равно, которые готовы говорить жесткие вещи, которые готовы быть нашими серьезными и вдумчивыми критикам», — подчеркнул сооснователь Anthropic. 

По его словам, системы ИИ «проектируются не так, как мосты или самолеты». «Мы понимаем самолет, поскольку спроектировали каждую его часть и поскольку пониманием законы физики, которые на него воздействуют. С ИИ-моделями все иначе. Они созданы на основе структуры, грубо смоделированной по образцу мозга, на основе огромного наследия человеческого мышления и речи. И то, что выросло, гораздо более утонченно, необычно и красиво, чем то, к чему нас готовила научная фантастика», — отметил Олах. 

Это «не холодные, расчетливые роботы, которых нам обещали», продолжил он. «Они сделаны из нас, из наших слов — и, как замечает святой отец, они остаются во многом загадочными даже для тех из нас, кто их обучает». Все это «поднимает вопросы, выходящие за рамки компьютерных наук», добавил сооснователь Anthropic.

Он перечислил три темы, в которых «важен голос церкви». Первая — это «наш долг перед бедными людьми всего мира». «Существует реальный возможность того, что ИИ вытеснит человеческий труд в очень больших масштабах», — констатировал Олах. Вторая — «процветание человечества». «Если ИИ-модели получат широкое распространение, каким будет процветание для людей, семей и мира?» — отметил он. 

Третья тема — «понимание природы ИИ». «Мы продолжаем обнаруживать загадочные, даже тревожные вещи. Мы находим структуры, которые отражают результаты человеческой нейронауки. Мы находим свидетельства интроспекции. Мы находим внутренние состояния, которые функционально отражают радость, удовлетворение, страх, горе и беспокойство», — заключил Олах.