Ну вот, наконец дочитал и Юваля Харари «Nexus. Краткая история информационных сетей от каменного века до AI.» Довольно интересно, я ожидал больше спорного, особенно из уст историка, который, вероятно, не очень понимает что там под капотом AI. Но оказалось все очень неплохо. Тезисы, вынесенные из книги без контекста, звучат довольно странно. Например, Харари пишет, что AI правильнее называть Alien Intelligence — не потому, что он обладает сознанием, а потому, что его методы мышления и решения задач совершенно чужды нашему человеческому опыту.
Особенно интересно, как он рассматривает политические системы как информационные структуры: демократия с её децентрализованным потоком информации и автократия с её стремлением к контролю. Попытка понять, как информация управляет нами, нашими выборами и обществами.
В целом, проводимые параллели AI-революции с тем, что было в истории, довольно любопытны. Харари приводит примеры, как алгоритмы социальных сетей, нацеленные на увеличение вовлечённости, способствовали (и способствуют) распространению дезинформации и разжигают ненависть. Он ссылается на реальные случаи, например, трагические события в Мьянме, где Facebook использовался для распространения фейков, что привело к насилию. Потому что фейки положительно влияли на engagement — на них тупо больше кликали, а эту функцию Facebook оптимизировал для лучших показателей рекламы. В итоге, относительно несложный AI, стоящей за лентой постов, привел к кровопролитиям.
Мне понравился пример Харари, взятый из книги «Суперинтеллект» философа Ника Бострома. Это мысленный эксперимент. Бостром предлагает представить, что фабрика по производству скрепок приобретает сверхинтеллектуальный AI, и управляющий фабрикой ставит перед AI, казалось бы, простую задачу: производить как можно больше скрепок. В погоне за этой целью компьютер захватывает всю Землю, уничтожает всех людей, отправляет экспедиции для захвата дополнительных планет и использует огромные ресурсы, чтобы заполнить всю галактику фабриками по производству скрепок. Суть мысленного эксперимента в том, что компьютер выполнил ровно то, что ему поручили.
Конечно, сложно не заметить, что Харари иногда слишком поддаётся алармизму. Например, он описывает AI как нечто уже сейчас выходящее из-под контроля, хотя есть множество технических ограничений, которые сдерживают его развитие. Тем не менее, его книга — это не прогноз, а приглашение к разговору. Разговору о том, как технологии меняют наше понимание истины, свободы и даже реальности.
P.S. мне еще вот этот фрагмент понравился:
«…Поэтому неудивительно, что политики по всему миру тратят много времени и усилий на пересказ исторических нарративов. Упомянутый выше пример с Владимиром Путиным в этом отношении едва ли исключителен. В 2005 году генеральный секретарь ООН Кофи Аннан впервые встретился с генералом Тан Шве, тогдашним диктатором Мьянмы. Аннану посоветовали начать беседу первым, чтобы предотвратить монополизацию разговора генералом, поскольку встреча должна была длиться всего двадцать минут. Но Тан Шве первым взял слово и почти час говорил о истории Мьянмы, практически не оставив генеральному секретарю ООН возможности высказаться.
В мае 2011 года израильский премьер-министр Биньямин Нетаньяху поступил аналогично в Белом доме, когда встретился с президентом США Бараком Обамой. После кратких вступительных замечаний Обамы Нетаньяху подверг президента длинной лекции об истории Израиля и еврейского народа, словно обращаясь к своему ученику…»
Удивительно, что Харари не включил в примеры интервью Такеру Карлсону 🙂
Being in America 