Алексей Турчин: «Искусственный разум может выйти из-под контроля»

Алексей Турчин — эксперт Российского трансгуманистического движения по глобальным рискам, автор книг «Структура глобальной катастрофы», «Война и еще 25 сценариев конца света», а также ряда статей о влиянии новых технологий на выживаемость человеческой цивилизации. Он рассказал «Футуристу», что может угрожать человечеству в 2017 году.

По своей природе риски непредсказуемы. Если бы человечество умело в точности предсказывать угрозы, это помогло бы избежать многих ошибок. Несмотря на то, что мы не умеем смотреть в будущее, некоторые «черные ласточки» дают нам понять, что произойдет в будущем.

Глобальные риски в 2017 году будут развиваться на двух уровнях. Первый — это риск конфронтации ведущих сверхдержав. Второе направление — продолжение экспоненциального развития технологий.

Искусственный интеллект может выйти из-под контроля

Сейчас существует множество программ, которые претендуют на звание искусственного интеллекта. Победа компьютера Alpha Go над чемпионом мира по игре в го Ли Седолем ознаменовала вступление в эру искусственного интеллекта. Однако неожиданно для себя человечество может создать программу, которая окажется в сотни и тысячи раз умнее нас. Это творение может выйти из гаража или небольшой лаборатории и стать угрозой для человеческого вида.

Риск, что ученые создадут искусственный интеллект такой силы в 2017 году, составляет 1%. Эта цифра может показаться незначительной, однако в контексте экспоненциального роста технологий она выглядит довольно внушительной. Через 20 — 30 лет эти малые проценты вероятности сложатся в угрожающую картину.

Гаражные ученые создадут биологическое оружие

Развитие биотехнологий и их доступность таят в себе угрозу создания мощнейшего биологического оружия. Редактировать геном становится все проще, поэтому биохакеры смогут добиться поразительных результатов. В новом году вряд ли начнется пандемия синтетического вируса. Однако нельзя исключить элемент случайности, который, с одной стороны, мешает нам предсказывать будущее, а с другой — позволяет строить интереснейшие гипотезы.

Геополитика

Необходимо принять во внимание риски, связанные с избранием Дональда Трампа президентом США. Например, если итоги выборов будут опротестованы, часть штатов может захотеть отделения. Непредсказуемость и импульсивность нового президента, его желание идти против мейнстрима могут повлечь геополитические конфликты. Трамп обещал разобраться с Китаем, позволял себе выпады в сторону Ирана и Северной Кореи. Кроме того, будущий президент отрицает климатические изменения, и, несмотря на то, что в следующем году резких скачков температуры не ожидается, это нанесет ущерб всемирной борьбе с глобальным потеплением.

Огромную роль в геополитике играет случайность. Необходимо отслеживать ситуацию в горячих точках, таких как Сирия, Северная Корея и Индия – Пакистан, и не давать конфликтам разгораться.