Сейчас читаю Юваля Ноя Харари «Nexus», там описывается интересная история румынского ученого-компьютерщика по имени Георге Иосифеску (смотрите мои предыдущие заметки на тему — #raufnexus). В 1976 году, Иосифеску пришел в свой офис и обнаружил там какого-то человека, сидящего за его рабочим столом. Иосифеску представился, но мужчина не ответил. Он занялся своими делами, а тот человек просто тихо сидел, смотрел на экран компьютера и делал заметки. В целом, было очевидно, что тот прибыл из румынской секретной полиции.
Интересно посмотреть на работу глазами этого агента. Вот вы завтракаете и идете в чужой офис молчать целый день и что-то записывать. И так тринадцать лет! Тринадцать, Карл!
Тринадцать лет Иосифеску приходил на работу, а мужчина всегда был там, у стола, чтобы наблюдать и записывать что-то. Всё закончилось только с падением румынского правительства. Харари пишет, что Иосифеску так и не узнал имени этого человека.
Но если задуматься, то к 2024 году мы в целом имеем тоже самое, только агенты у нас цифровые, их много, и данные, которые они собирают, несколько разбросаны и разобщены. Харари в целом, справедливо замечает, что мы приближаемся к тому моменту, когда повсеместная компьютерная сеть сможет круглосуточно отслеживать население целых стран.
Еще у Харари интересная история про массовый сбор образцов почерка в Румынии. Когда румынский режим обнаружил анонимные письма с критикой, отправленные на Radio Free Europe, Чаушеску распорядился собрать образцы почерка всех 20 миллионов граждан. Студенты писали эссе, а взрослые — автобиографии, которые передавались в архивы Секуритате. Даже владельцы пишущих машинок обязаны были зарегистрировать их и предоставить образцы текста.
Вот интересно, собрать-то они их собрали, а как предполагалось искать по такому объему информации? Возможно и не предполагалось совсем. Наверное, эта база использовалась для создания улик — если подозревался кто-то, то из разных баз на него собирали данные, и пытались их как-то использовать в его деле. Если что-то случайно или нет совпадало, то все, дело закрыто, человек посажен.
* * *
Еще мне понравилась идея о информационных сетях.
В племенных обществах, где отсутствовали письменные документы и бюрократия, человеческая сеть состояла только из двух цепочек:
1) «человек->человек» и
2) «человек->история» (составляющая цепочку человек->история->человек).
Власть принадлежит тем, кто контролирует узлы, соединяющие различные цепочки. Эти узлы — это фундаментальные мифы племени. Харизматичные лидеры, ораторы и создатели мифов умеют использовать эти истории для формирования идентичности, создания союзов и воздействия на эмоции.
В человеческих сетях, связанных письменными документами и бюрократическими процедурами, общество частично опирается на взаимодействие между людьми и документами. Помимо цепочек «человек-человек» и «человек-история», такие общества удерживаются вместе за счёт цепочек «человек-документ».
То есть, получается три типа цепочек:
1) человек->человек
2) человек->история
3) человек->документ
Это привело к изменениям в распределении власти. Поскольку документы стали важным узлом, связывающим многие социальные цепочки, в них было вложено значительное количество власти, а эксперты в сложной логике работы с документами стали новыми авторитетными фигурами. Администраторы, бухгалтеры и юристы овладели не только навыками чтения и письма, но и умением составлять формы, систематизировать архивы и управлять бюрократическими процессами.
К цепочке человек-человек можно отнести семью, к человек->документ — церковь.
Но есть еще две цепочки, которые возникли совсем недавно:
4) компьютер->человек
5) компьютер->компьютер
Примером «компьютер-человек» являются соцсети, например, Facebook and TikTok. Эти цепочки отличаются от традиционных цепочек «человек-документ», потому что компьютеры могут использовать свою мощь для принятия решений, создания идей и глубокого манипулирования близостью, чтобы влиять на людей так, как никакой документ не мог бы. Библия оказала глубокое влияние на миллиарды людей, даже будучи немым документом. А теперь представьте себе священную книгу, которая не только может говорить и слушать, но и узнавать ваши самые глубокие страхи и надежды и постоянно их формировать. Собственно, алгоритмы соцсетей (и не только), согласно Харари, могут влиять на поведение человека сами по себе, а не потому что авторы этих алгоритмов заложили в них такое поведение. Хороший пример приводится с обвинением Фейсбука на возбуждении ненависти в Мьянме, так как соцсеть продвигала посты, набирающие популярность, а те были вообще-то про геноцид.
Во-вторых, пишет Харари, появляются цепочки «компьютер-компьютер», в которых компьютеры взаимодействуют друг с другом автономно, и это взаимодействие стремительно набирает сложность, которую уже без помощи других алгоритмов не распутать. Алгоритмы этого взаимодействия разрабатывались и отлаживались на объемах, которые можно еще понять и траблшутить, но потом начинается «магия». Пример — торговые боты и алгоритмическая торговля в целом, и, например, «флэш-крэш» 2010 года, когда за несколько минут американский рынок акций обрушился на триллионы долларов, после чего столь же быстро восстановился. Причины флэш-крэша этого потом нашли, но было непросто (и причин было несколько).
Being in America 