Распутывая информационную сеть: что предсказывает Харари в своей новой книге

«Наивный взгляд» на постправду 

Любой, кто хоть раз задавал себе вопрос, какой информации можно верить, сталкивался со сложностью устройства медийного мира сегодня: горячая убежденность спикера и ладная логика повествования отнюдь не гарантируют истину. Многие наше время называют эпохой постправды — периодом, в котором объективные факты оказывались менее значимыми, чем эмоциональные призывы и личные убеждения. 

Термин стал популярным в 2016 году, когда на фоне избрания на первый срок Дональда Трампа и «Брекзита» Оксфордский словарь объявил «постправду» словом года. В таких условиях постоянный поиск достоверных фактов кажется необходимым, однако вера в то, что можно найти истину, собрав все данные воедино, и создать таким образом сильную информационную систему, — не более чем «наивный взгляд на информацию», утверждает Харари. Некоторые сильнейшие информационные связи построены на иллюзии, и это не мешает им определять настоящее и будущее, отмечает автор.  

Чтобы разобраться в новой реальности, нужен новый глоссарий: как северные народы используют десятки слов для обозначения разного вида снега, так и современному Homo sapiens необходимо уметь различать виды информации. Харари убеждает читателя, что кроме объективной и субъективной реальностей существует еще и «интерсубъективная», сформированная человеческими взаимоотношениями и стремлениями людей рассказывать истории. Профессор верит и из страницы в страницу приводит доказательства того, что в этом заключена не слабость человечества, а сила: именно благодаря умению рассказывать истории были созданы такие масштабные человеческие сети, как религии, деньги и государства, что полностью изменило баланс сил в мире. 

«Сюжетные сети сделали Homo sapiens самым могущественным из всех животных, дав ему решающее преимущество не только надо львами и мамонтами, но и над другими видами древних людей, такими как неандертальцы», — пишет Харари. Стоит ли ожидать от них правды в значении стопроцентной истины — вопрос риторический: правда в целом часто некрасива и запутанна, а если речь заходит об интерсубъективной реальности, то она и вовсе теряется в мираже субъективной относительности. 

Рассматривая одни и те же исторические события палестино-израильского конфликта, живущий в Иерусалиме израильтянин Харари наглядно показывает, что одни и те же факты могут быть трактованы по-разному: и дело не столько во лжи (хотя и ей находится место), а в разных интерсубъективных сетях. Политики разных стран используют подобную вариативность, чтобы формировать нужное им мнение, завоевывая власть и поддерживая порядок.

«Чтобы выжить и процветать, любая человеческая информационная сеть должна делать две вещи одновременно: открывать истину и создавать порядок», — пишет Харари. Решение и баланс, по его убеждению, посередине: «С одной стороны, как и ожидает наивный взгляд, сети научились обрабатывать информацию, чтобы получить более точное представление о таких вещах, как медицина, мамонты и ядерная физика. В то же время сети научились использовать информацию для поддержания более прочного социального порядка среди больших популяций, используя не только правдивую информацию, но и вымыслы, фантазии, пропаганду и — иногда — откровенную ложь». 

Власть алгоритма

В своей новой книге Харари стремится доказать, что именно в связи с существованием этих самых «интерсубъективных реальностей» радужные взгляды на информационные технологии не оправдывают себя. Он приводит в пример статьи прошлых лет, не требующие даже никаких дополнительных комментариев: в 1858 году в редакционной статье журнала The New Englander, посвященной изобретению телеграфа, говорилось: «Невозможно, чтобы старые предрассудки и вражда продолжали существовать, когда создан такой инструмент для обмена мыслями между всеми народами Земли». 

Спустя почти два века и две мировые войны Марк Цукерберг тоже верил в нечто подобное и заявлял, что цель Facebook (принадлежит компании Meta, признанной экстремистской и запрещенной на территории России) — «помочь людям делиться информацией, чтобы сделать мир более открытым и способствовать взаимопониманию между людьми». 

В какой-то степени это действительно так: социальные сети способны познакомить людей, живущих на разных концах Земли, сблизить их и развеять предрассудки. Однако на деле алгоритмы соцсетей уже не раз работали не на объединение. 

Доказано, что именно они, например, помогли раздуть пламя насилия против исповедующего ислам народа рохинья в Мьянме (Бирме) в 2016–2017 годах. Наводнившие ленты соцсетей описания злодеяний рохинья и многочисленные теории заговора запустили волну ярости: пользователи поверили, что все представители рохинья — террористы, не заслуживающие никаких прав. 

Именно алгоритмы, по мнению Amnesty International, «активно усиливали и продвигали контент на платформе Facebook, который подстрекал к насилию, ненависти и дискриминации в отношении рохинья», не давая при этом платформу голосам за более миролюбивый вариант разрешения конфликта. В 2018 году Миссия ООН по установлению фактов в Мьянме пришла к выводу, что, распространяя наполненный ненавистью контент, Facebook сыграл «определяющую роль» в кампании по этнической чистке. 

Результат, прямо противоположный желаемому «установлению взаимопонимания», представители соцсети тогда оправдывали тем, что они лишь платформа: что, по мнению Харари, является преуменьшением. Алгоритмы рекомендаций действительно влияют на людей, уверен он: искусственный интеллект, рекомендующий нам контент, а значит, и сами платформы соцсетей сегодня можно сравнить не с отцом книгопечатания Гутенбергом, создавшим гениальный способ распространения информации, а с редакторами газет, курирующими вашу повестку. Это, разумеется, не значит, что люди, управляющие Facebook, хотели спровоцировать массовое убийство в Мьянме: созданный компанией сложный алгоритм лишь основывался на максимальном повышении вовлеченности пользователей, чтобы собирать больше данных, продавать больше рекламы и захватывать большую долю информационного рынка. Кто виноват в том, что большую вовлеченность вызвали именно возмущение и теории заговора, наполненные ненавистью, — а не проповедь о сострадании или урок кулинарии? Алгоритм лишь наглядно продемонстрировал и мультиплицировал чувства и убеждения, формировавшиеся десятилетиями.

Подобные опасности алгоритмов касаются не только соцсетей, но и других информационных систем, использующих искусственный интеллект. «Кремниевые чипы могут создавать шпионов, которые никогда не спят, финансистов, которые никогда не забывают, и деспотов, которые никогда не умирают. Как это изменит общество, экономику и политику?» — задается логичным вопросом Харари. 

«Нексус» значит связь 

Заглядывать в будущее, когда дело касается развития технологий, — занятие не самое благодарное: мало кто из футурологов полвека назад смог бы предсказать происходящее сейчас. Захватит ли нас ИИ? Займут ли роботы все рабочие места? Не установится ли мировая диктатура в духе страшных антиутопий? Все эти вопросы обсуждались десятки, если не сотни раз, и острого интереса они, прямо скажем, уже не вызывают — куда интереснее поразмышлять об уже наступившем будущем, как это делает Харари. Например, становится очевидным, что развитие новых информационных технологий лишь углубит существующее неравенство стран. В книге приведены оценки PwC, что к 2030 году ИИ добавит мировой экономике $15,7 трлн, при этом 70% этой суммы достанется Китаю и Северной Америке. Именно эти страны и «прописанные» там корпорации будут снимать сливки с экономического бума от развития ИИ.

Чтобы преодолеть разрыв, Харари предлагает, например, пересмотреть налоговую систему и корпорациям платить налоги там, где собираются данные о пользователях, а не только в странах, где расположены их штаб-квартиры. Этот принцип в налоговом праве известен как «нексус» — термин, обозначающий связь компании с определенной юрисдикцией. Но если раньше наличие нексуса у корпорации в конкретной стране определялось ее физическим присутствием — офисами, исследовательскими центрами, магазинами, — то сейчас их роль играет информация: если компания хочет собирать и анализировать данные о пользователях, то она должна платить деньги. Название книги было, однако, выбрано не поэтому: оно отсылает к латинскому слову, которое означает «соединение» или «сцепление», подчеркивая идею взаимосвязей, лежащих в основе технологий и общества.  

«В иврите (как и в русском языке. — прим. автора), нет разницы между pigeon и dove, — рассказывает в одном из недавних интервью Харари, описывая обложку Nexus. — Я знаю, что в англоговорящей части мира pigeon (обыкновенный голубь, которого мы можем встретить в городе или любом парке. — прим. автора) часто называют «крысами с крыльями», а то время как dove (дикие белые птицы. — прим. автора) обычно воспринимаются белыми ангелами мира. В Библии Ной во время потопа выпускает голубя — не белоснежного ангела, а обычного серого голубя, чтобы увидеть, закончился ли потоп. Сейчас мы живем во время настоящего потопа информации — и это (книга с голубем на обложке) как раз мой способ узнать, когда он завершится». 

 
Текст: Анастасия Ворошкевич. Главное фото: Yahav-Harari Group Ltd.