Футуролог Юваль Ной Харари считает, что в 2020‑е годы человечество столкнется сразу с несколькими серьезными проблемами, которые поставят под угрозу возможность его существования. Своими мыслями на этот счет эксперт поделился во время выступления на Всемирном экономическом форуме в Давосе, а мы хотим рассказать об этом вам.
По словам Харари, израильского историка, футуролога и профессора Еврейского университета в Иерусалиме, в настоящее время человечеству угрожают три проблемы. Это ядерная война, экологический кризис и разрушительная сила технологий. И если с первыми двумя люди более или менее знакомы, то третья для них пока остается загадкой.
Харари считает, что технологии, помимо очевидной пользы, несут массу угроз. А главная опасность заключается в том, что никто не знает потенциальных последствий от их постоянного усовершенствования. Можно только догадываться, что ждет планету, если наступит повсеместная автоматизация и развитие искусственного интеллекта. Поэтому профессор сконцентрировал свое внимание именно на этой проблеме и поделился мыслями на этот счет.
«Бесполезные» люди
Автоматизация скоро уничтожит миллионы рабочих мест и люди останутся без дела. Конечно же, появятся новые специальности, связанные, в том числе с созданием ПО. Но, согласитесь, непросто освоить профессию программиста, если до этого ты 30 лет работал на заводе? В такой ситуации многие люди станут «бесполезными» с точки зрения экономической и политической системы.
Те же, кто сможет освоить новые профессии (а это, скорее всего, придется делать не раз, и не два), превратятся в своего рода элиту. И между этими двумя «классами» будет вестись постоянная борьба.
Неравенство между странами
В XIX веке несколько стран, в том числе Великобритания и Япония, первыми начали индустриализацию. Они успешно продолжили завоевывать и эксплуатировать большую часть мира. Если мы не будем соблюдать осторожность, то же самое произойдет в XXI веке с искусственным интеллектом (ИИ).
Мы уже можем наблюдать «гонку вооружений» ИИ, и Китай с США, несомненно, в ней лидируют. Если не принять меры по распределению пользы и мощи ИИ между всеми людьми и странами, вероятнее всего, огромное количество государств просто обанкротится, в то время как другие превратятся в высокотехнологичные центры.
Цифровая диктатура
Эту опасность можно сформулировать в виде простого уравнения, которое, по мнению Харари, может быть определяющим уравнением жизни в XXI веке:
B x C x D = AHH
Где B — биологические знания, C — компьютерные вычисления, D — данные, а AHH — способность «взламывать» людей.
«Если вы обладаете всеми переменными из левой части уравнения, то легко сможете взломать мое тело, мой мозг и мою жизнь. Вы можете узнать мой тип личности, мои политические взгляды, мои сексуальные предпочтения, мои психические слабости, мои самые глубокие страхи и надежды», – говорит футуролог.
Эти знания можно использовать во благо — например, для улучшения системы здравоохранения. Но если информация попадет в нечистые руки, результатом может стать худший тоталитарный режим в истории человечества.
Представьте себе этакую Северную Корею через двадцать лет, когда каждый гражданин должен будет носить биометрический браслет, который постоянно контролирует кровяное давление, частоту сердечных сокращений и активность мозга двадцать четыре часа в сутки. Вы слушаете по радио речь великого лидера, и они знают, что вы на самом деле чувствуете. Вы можете хлопать в ладоши и улыбаться, но если вы злитесь – они об этом знают, и завтра вы уже будете в ГУЛАГе.
Во власти алгоритмов
Но даже если человечеству удастся предотвратить установление подобных цифровых диктатур, способность взламывать людей все же может подорвать сам смысл свободы. Так как люди будут полагаться на ИИ в принятии решений, власть постепенно начнет переходить от них к алгоритмам. И это происходит уже сейчас.
Сегодня миллиарды людей доверяют алгоритму Facebook, который сообщает, что нового происходит в мире, алгоритму Google, который рассказывает, что правда, а что – нет, Netflix, который указывает нам, что смотреть, и алгоритмам Amazon и Alibaba, которые говорят нам, что покупать.
Если это продолжится, уже скоро подобные алгоритмы будут указывать нам, где работать и на ком жениться, а также решать, следует ли нанимать нас на работу, давать ли нам кредит, и должен ли банк повышать процентную ставку.
Таким образом, даже в относительно свободных странах люди могут потерять контроль над своей жизнью и способность понимать государственную политику.
Уничтожение человечности
Технологии могут разрушить не только экономику, политику и философию, но и саму биологию человека. В ближайшие десятилетия ИИ и биотехнологии дадут нам «божественные» способности реинжиниринга жизни и даже создания совершенно новых ее форм. После четырех миллиардов лет органической жизни, сформированной естественным отбором, мы вступаем в новую эру неорганической жизни, сформированной разумным замыслом.
И этот замысел станет новой движущей силой эволюции, из-за которой люди будут совершать ошибки в космических масштабах. Например, правительства, корпорации и армии, вероятнее всего, будут использовать технологии для улучшения необходимых им человеческих навыков, таких как интеллект и дисциплина. И при этом игнорировать такие навыки, как сострадание, чувствительность и духовность.
Профессор Харари подчеркивает, что все это не пророчество, а просто варианты развития возможных сценариев. По его мнению, три экзистенциальные проблемы, с которыми могут столкнуться люди, требуют глобальных решений.
Всякий раз, когда лидер говорит что-то вроде «Сначала моя страна!», мы должны напомнить этому лидеру, что ни одна нация не может предотвратить ядерную войну или остановить экологический коллапс сама по себе. И ни одна нация не может самостоятельно регулировать ИИ и биоинженерию.
Юваль Ной Харари
Футуролог считает, что представителям разных стран нужно сотрудничать, ведь только так удастся обеспечить безопасность и будущее соотечественников. Удачным примером такой модели ученый назвал чемпионат мира по футболу.
Чемпионат мира – это соревнование команд из разных стран, и люди часто проявляют жесткую преданность своей национальной команде. Но, в то же время, чемпионат мира – это удивительное проявление глобальной гармонии, поскольку правила игры одни для всех. Это и есть глобализм в действии.