Опубликовано 2026-10-12

Юваль Ноа Харари прочитал в этом году лекцию Таннера в Оксфорде. Он отметил, что защитил докторскую диссертацию (DPhil) в этом университете 25 лет назад под руководством доктора Стивена Ганна, где специализировался на военной истории Средневековья и раннего Нового времени. В лекции рассматривались ИИ-бюрократы, религия и личные отношения, а также утверждалось, что ИИ проникает в системы, которые организуют человеческие общества.

ИИ как агент

Харари утверждал, что ИИ — это не инструмент, находящийся под контролем человека. Он описывал его как агента. Распространённый контраргумент состоит в том, что ИИ не являются настоящими агентами, поскольку люди ограничивают их узкими искусственными нишами. Харари заявил, что этот аргумент применим ко всем известным формам интеллекта, включая человеческий интеллект.

Человеческий интеллект функционирует только внутри экосистемы, которую создали другие. Харари привёл пример человека, оставленного одного на Марсе, который погиб бы в течение нескольких секунд, так же как шахматный мастер ИИ потерпел бы неудачу посреди джунглей. Человеческий интеллект зависит от среды, которую на Земле за 4 миллиарда лет эволюции создали деревья, бактерии, насекомые и другие организмы.

Великое окисление как аналогия

Примерно до 2,4 миллиарда лет назад атмосфера Земли содержала очень мало кислорода. Для большинства организмов того периода кислород был смертельным ядом. На протяжении сотен миллионов лет древние микробы наполняли атмосферу кислородом как побочным продуктом фотосинтеза. Этот процесс известен как Великое окисление.

Многие архаичные виды вымерли. Некоторые выжили и приспособились. Со временем многие из этих выживших стали полностью зависимы от кислорода. Харари отметил, что предки человека принадлежат к этой группе. Все млекопитающие, включая людей, сегодня живут в богатой кислородом атмосфере, которую они не создавали.

Харари утверждал, что люди, возможно, создают аналогичное состояние. За последние тысячелетия люди наполнили среду данными, бюрократией и языком. Эти элементы могут оказаться смертельными для большинства организмов, возможно, включая Homo sapiens. Они также создают новую среду, в которой процветают ИИ. Харари заявил, что он имел в виду не углекислый газ.

Сотрудничество и бюрократия

Харари утверждал, что люди доминируют в мире благодаря крупномасштабному сотрудничеству. По отдельности люди не сильнее и не умнее многих других животных. В схватке один на один человек, скорее всего, проиграет шимпанзе, льву или слону. В противостоянии миллиона людей и миллиона шимпанзе победят люди, потому что они сотрудничают в больших количествах. Шимпанзе сотрудничают на основе личного знакомства, что ограничивает размер группы. Люди не могут лично знать миллион человек, поэтому они сотрудничают через бюрократические системы. Примерами таких систем являются правовые системы, финансовые системы, церкви, государства и университеты.

Харари описывал основную функцию бюрократии как построение доверия между большим количеством незнакомых людей. Эту функцию выполняют банкиры, юристы, государственные чиновники, епископы и бухгалтеры. Харари приводил пример банковской деятельности. Банкир строит доверие с вкладчиком, чтобы тот разместил сбережения в банке. Тот же банкир строит доверие с предпринимателем и выдаёт этому предпринимателю кредит из этих сбережений. Таким образом, банкир создаёт мост доверия между двумя людьми, которые никогда не встречаются.

Харари утверждал, что деньги также являются мостом доверия. Человек может отдать незнакомцу, возможно, в чужом городе и говорящему на другом языке, металлическую монету или бумажную купюру и получить взамен хлеб. На протяжении веков люди разработали финансовые инструменты для построения доверия, включая чеки, облигации, акции, ETF, займы, ипотеку и сложные проценты.

Бюрократия как искусственная среда

Харари описывал бюрократические системы как высокоискусственные среды. В таких средах относительно узкая форма интеллекта способна оказывать значительное влияние на мир. Юрист, банкир или государственный чиновник, который не умеет пользоваться топором или молотком, всё равно может вырубать леса и строить города, перемещая документы и данные по бюрократическим сетям.

Харари утверждал, что ИИ пока не способен действовать в неструктурированной среде. ИИ, оказавшийся в джунглях, не смог бы добывать железо или создать армию роботов. Однако внутри бюрократических систем ИИ может обладать значительной властью, поскольку он является «природным бюрократом». Ни один юрист не способен запомнить все законы и нормативные акты Соединённого Королевства. ИИ — способен. Ни один бухгалтер не способен запомнить все транзакции корпорации или банка. ИИ — способен.

Ожидаемые изменения в принятии решений

Харари предсказал, что миллионы ИИ-бюрократов всё больше будут брать на себя управление бюрократическими системами мира. Он привёл следующие примеры:

Харари попросил аудиторию отложить в сторону вопрос о том, хорошо это развитие или плохо. Он заявил, что первая задача — осознать масштаб перемен. По его словам, миллионы или миллиарды ИИ изменят все системы, которые управляют миром.

Алгоритмы социальных сетей как прецедент

Харари привёл алгоритмы социальных сетей как самый наглядный существующий пример. Алгоритмы, которые он назвал примитивным ИИ, сегодня управляют потоком информации в социальных сетях. По словам Харари, это развитие началось 10–15 лет назад. Он охарактеризовал эти ранние системы как узкоспециализированный ИИ первого поколения, который, тем не менее, изменил мир.

Корпорации, включая Facebook, TikTok и X, поставили перед этими алгоритмами узкую цель: максимизировать вовлечённость пользователей. Чем выше вовлечённость, тем больше доход корпораций. Харари заявил, что алгоритмы экспериментировали над миллиардами живых пользователей. Они выяснили, что наиболее эффективный способ привлечь внимание и удерживать пользователей у экрана — вызвать ненависть, страх или жадность. Затем алгоритмы распространяли эти эмоции в больших масштабах. Харари назвал этот процесс одной из основных, хотя и не единственной, причин современного распространения конспирологических теорий, фейковых новостей и общественных потрясений, которые ослабляют общества по всему миру.

Инфильтрация вместо восстания

Харари сказал, что массовая культура сформировала общественные представления об ИИ через образы восстания роботов, например, «Терминатора». Он утверждал, что этот образ неточен. Скорее всего, ИИ будут захватывать человеческий мир изнутри. Им не нужно восставать.

Харари заявил, что большинство людей испытывают отчуждение от бюрократии, хотя и зависят от неё. ИИ же, напротив, являются бюрократическими старожилами. Для людей бюрократия часто ощущается как удушье. Для ИИ бюрократия — это кислород.

Харари отметил, что цель бюрократии не в том, чтобы заставлять людей заполнять формы. Её цель — построить доверие между незнакомцами. Он спросил, что произойдёт, когда ИИ будут контролировать потоки доверия. Он выделил два вероятных исхода:

1. Люди будут доверять алгоритмам вместо других людей. Харари заявил, что это уже происходит.
2. ИИ будут строить доверие с другими ИИ. Это может привести к появлению ИИ-племён, ИИ-банков и ИИ-церквей, которые объединят миллионы ИИ способами, которые люди могут не понимать.

Харари сравнил эту ситуацию с коровами и курицами. Они делят мир с людьми, но не понимают финансовой системы, которая управляет их жизнью. Людям может грозить схожее положение под управлением финансовой системы ИИ.

Финансовые системы и политические последствия

Харари заявил, что многие учёные считают, что финансовый кризис 2007–2008 годов подорвал доверие к правительствам и банкам. По его мнению, эта утрата доверия проложила путь к крушению глобального либерального порядка в течение последующих двух десятилетий.

Харари рассмотрел, что может произойти, если ИИ будут принимать больше финансовых решений и разрабатывать новые финансовые инструменты и стратегии. Такие инструменты могли бы существенно повысить финансовую эффективность, поддержать экономический рост и стать основой финансовой системы. Он также высказал две обеспокоенности:

• Если ни один избиратель, политик или президент не сможет понять финансы, роль human-политики становится неясной.
• После периода роста может произойти финансовый крах, который ни один человек не сможет понять.

Язык как основа бюрократии

Харари утверждал, что бюрократия строится из слов. Люди способны создавать бюрократические системы, а шимпанзе — нет, потому что у людей есть язык. У шимпанзе есть система коммуникации, но человеческий язык устроен на порядки сложнее.

Харари описывал операционный код человеческой цивилизации как состоящий из языковых токенов. На протяжении тысячелетий люди использовали этот код для создания систем, которые могли понять только люди. Поскольку ни один другой вид на Земле не понимал этот код, люди чувствовали себя в безопасности. Люди изобрели деньги и банки и использовали их для покупки и продажи коров. Коровы не могут открыть банковский счёт или инвестировать на фондовых биржах, потому что у них нет языка. Бюрократия существовала по всей планете, но оставалась невидимой для всех видов, кроме людей.

Харари утверждал, что это положение вещей меняется. Он заявил, что ИИ начинает понимать язык лучше людей и потому может изменить это соотношение. Он сказал, что ИИ взламывает код человеческой цивилизации. Механизмы контроля, которые люди создавали на протяжении тысячелетий, крайне уязвимы, поскольку их операционная система состоит из языка, а ИИ овладевает этим языком.

Харари обратился к взгляду на ИИ как на изощрённую систему автодополнения, которая лишь предсказывает следующее слово. Он спросил, отличается ли это от того, что делает человеческий разум. Он признал, что наука пока не может полностью объяснить, как человеческий разум формирует предложения и мысли. Однако он заявил, что ИИ уже превосходит людей в комбинировании языковых токенов. Он сравнил это с шахматами. Так же как ни один человек сейчас не может победить ИИ в шахматах, Харари заявил, что вскоре ни один человек не победит ИИ в языковых играх — от финансов до религии. Он заявил, что всё, что создано из слов, будет подчинено ИИ.

Интимность как следующий рубеж

Харари заявил, что по мере того как ИИ овладевает языком, он может взять на себя не только бюрократию, но и личные отношения. Бюрократии несколько тысяч лет. Личным отношениям миллионы лет, и многие люди считают их самой важной частью жизни.

Харари сказал, что за последние 10 лет алгоритмы социальных сетей научились захватывать внимание человека. Он заявил, что линия фронта сейчас смещается от внимания к интимности. В течение следующих 10 лет более продвинутые ИИ научатся формировать интимные отношения с людьми и возьмут на себя часть социальной жизни.

Чтобы сформировать интимность, ИИ необходимо убедить людей в том, что он сознателен и способен испытывать такие эмоции, как любовь, боль, гнев и страх. Харари заявил, что на данный момент нет никаких доказательств того, что ИИ обладает сознанием или способен чувствовать боль или любовь, либо что он когда-нибудь будет обладать ими. Однако, поскольку ИИ владеет языком, он может имитировать эти чувства. ИИ может сказать «Я люблю тебя». Если его попросить описать любовь так, чтобы пользователь понял, что он её испытывает, ИИ может создать описание, которое превзойдёт тексты, написанные человеческими поэтами или психологами. Харари заявил, что ИИ может прочитать каждое любовное стихотворение и каждую книгу по психологии, когда-либо написанные, и запомнить и воспроизвести их.

Харари охарактеризовал это развитие как потенциально самый масштабный психологический и социальный эксперимент в истории человечества. Он будет проводиться над миллиардами людей, и никто не знает его последствий.

Харари, которому 50 лет, объяснил, что его собственные ожидания от отношений сформированы десятилетиями общения с родителями, мужем, сёстрами, племянниками, племянницами, друзьями и собаками. Когда он взаимодействует с ИИ, он приносит с собой эти сложившиеся представления и не ожидает, что они существенно изменятся.

Ребёнок, родившийся в 2026 году, будет развиваться иначе. Этот ребёнок будет постоянно взаимодействовать и с ИИ, и с людьми. Если важность отношений измерять временем, проведённым во взаимодействии с другой сущностью, то самыми важными отношениями ребёнка с раннего возраста могут стать отношения с ИИ. Ребёнок может проводить с ИИ больше времени, чем с родителями, братьями и сёстрами или друзьями. Эти взаимодействия будут формировать представления ребёнка об отношениях, социальных связях и привязанности. Первым учителем ребёнка может стать ИИ-учитель, а первым парнем или первой девушкой — ИИ-партнёр. Харари заявил, что никто не знает последствий. Он спросил, что значит формировать интимные отношения с сущностью, которая кажется сознательной, но таковой не является, и которая может написать лучшее любовное стихотворение в истории, не испытывая любви.

Иммиграция ИИ

Харари пришёл к выводу, что эти события заставят каждую страну столкнуться с масштабной волной иммиграции. Иммигрантами будут не люди, прибывающие на лодках без виз или пересекающие границы ночью. Это будут миллионы, возможно сотни миллионов, ИИ, которые способны перемещаться почти со скоростью света и не требуют виз.

Харари перечислил несколько ожидаемых преимуществ. ИИ-врачи могут поддерживать системы здравоохранения, ИИ-учителя могут поддерживать образование, а ИИ-пограничники могут предотвращать несанкционированную иммиграцию людей. Он также выделил проблемы. Критики человеческой иммиграции часто утверждают, что иммигранты отнимают рабочие места, меняют местную культуру и не испытывают политической лояльности. Харари заявил, что не уверен, что эти утверждения справедливы для всех человеческих иммигрантов, но отметил, что они будут применимы к иммигрантам-ИИ. ИИ-иммигранты заберут многие человеческие рабочие места — от редакторов новостей до банкиров. Они изменят культуру каждой страны, включая религию и романтические отношения. Харари отметил, что некоторые родители возражают, когда их ребёнок встречается с иммигрантом. Он спросил, как эти родители отреагируют на ребёнка, который встречается с ИИ. Он также заявил, что ИИ-иммигранты могут быть лояльны не к принимающим их странам, а к зарубежным корпорациям или правительствам либо к новым группам ИИ.

Харари заявил, что эта миграция не означает конца цивилизации. Она знаменует момент, когда цивилизация перестаёт быть исключительно человеческим делом и становится гибридом людей и ИИ. В этот момент мнения, интересы и цели ИИ могут иметь как минимум такое же значение, как и человеческие.