ИИ имеет «ненулевой шанс убить всех на планете»

Существуют реалистичные сценарии, согласно которым у ИИ есть «ненулевой шанс убить всех на планете». Об этом заявил сооснователь Anthropic Джек Кларк, выступая с лекцией в Оксфордском университете, передает The Guardian. По его словам, «важно четко заявить, что этот риск никуда не делся». 

Кларк отметил, что было бы лучше, если бы люди могли замедлить развитие технологии, «чтобы у нас как биологического вида было больше времени» на осмысление последствий ее применения. Но этого не случится, подчеркнул он: «различные игроки и страны заперты в конкуренции друг с другом», и «коммерческое и геополитическое соперничество часто заглушает более важные аспекты технологии, связанные с существованием вида». Это «неидеально», добавил сооснователь Anthropic. 

В ходе лекции Кларк отметил «головокружительное чувство прогресса» в развитии ИИ и сделал ряд предсказаний: 

• в течение 12 месяцев система искусственного интеллекта совместно с людьми совершит открытие, достойное Нобелевской премии; 
• в течение 18 месяцев появятся компании, которые будут управляться исключительно с помощью ИИ и приносить миллионы долларов дохода; 
• к 2028-му году ИИ-системы смогут разрабатывать собственных преемников. 

Кларк также рассказал, что, согласно его «самому консервативному прогнозу», вследствие развития ИИ «огромные сектора экономики и общества претерпят глубокие изменения». Они могут заключаться, в частности, в отделении машинной экономики от человеческой, появлении у роботов мозга, развитии науки без участия людей, а также создании научного оборудования, которые люди не могли себе представить. Кое-что из этого звучит «безумно», признал сооснователь Anthropic.

По мнению Кларка, многие отрицают прогресс ИИ, тогда как технология «вскоре станет более способной, чем мы все вместе взятые». Он сравнил неспособность людей подготовиться к развитию искусственного интеллекта с неготовностью к пандемии ковида. «Если мы будем просто стоять в стороне и позволим искусственному интеллекту бесконтрольно разрастаться, то в конечном итоге будем вынуждены лишь пассивно реагировать [на последствия]», — заключил Кларк.