Ричард Йонк предвидел появление эмоционально чувствительных машин.
В своей книге «Сердце машины», вышедшей в 2017 году, футуролог утверждал, что компьютеры научатся распознавать человеческие эмоции и реагировать на них соответствующим образом. Прошло менее десяти лет, и миллионы людей доверяют свои переживания чат-ботам, которые отвечают фразами, имитирующими эмпатию.
Йонк отмечает в интервью Independence Avenue Media, что именно эта способность к естественному общению делает искусственный интеллект опасным. По его словам, современные системы способны имитировать то, что психологи называют «теорией разума» — присущую человеку способность моделировать мысли и чувства другого.
«ИИ не обладает этим качеством в человеческом понимании, но он способен очень быстро, “на лету”, формировать внутреннюю картину, которая в определенной степени имитирует этот процесс; это делает его гораздо более мощным и потенциально гораздо более опасным инструментом», — говорит Йонк.
Системы ИИ, распознающие эмоции, теперь способны одновременно анализировать голос, текст, мимику и жесты, поясняет он. В сочетании с реалистичными аватарами такой ИИ может, например, убедить сотрудников компании, что они разговаривают со своим непосредственным начальством.
Инструменты, способные в режиме реального времени распознавать взаимодействие с ИИ, по его словам, «появятся еще не скоро». На вопрос о том, могут ли правительства эффективно регулировать эту сферу, он отвечает прямо: «Я бы сказал, что пока нет». Он отдает должное Евросоюзу за попытки регулирования, но называет подход США «чрезмерно либеральным» (в духе политики невмешательства).
«Наша задача — не защищать технологии, — говорит он. — Наша задача — защищать людей».
В ходе большого интервью Йонк также объясняет, почему гонка масштабирования больших языковых моделей по принципу «чем больше, тем лучше» неизбежно «зайдет в тупик», а также почему, по его мнению, будущее за так называемым «ИИ, основанным на опыте» — системами, которые познают мир подобно ребенку.
Это интервью, записанное 28 июля 2026 года, было отредактировано и сокращено для большей ясности.
Гленн Кейтс, Independence Avenue Media: В этом году вы написали статью, посмотрев на свою книгу «Сердце машины» 10 лет спустя. Эта книга, вышедшая до революции в области искусственного интеллекта, исследовала способность машин воспроизводить человеческие эмоции. И, как знает любой, кто использовал ChatGPT в качестве терапевта, это не научная фантастика. Что вам удалось правильно понять об эмоциональном искусственном интеллекте в 2016 году, а что вы упустили?
Ричард Йонк, футуролог: В те годы, в середине прошлого десятилетия, многие компании проявляли огромный интерес к возможностям технологий распознавания и анализа эмоций, так называемого «эмоционального искусственного интеллекта». Позже этот термин — «искусственный эмоциональный интеллект» — стал чаще обозначаться просто как «эмоциональный ИИ». У этой технологии был (и есть) широкий потенциал применения в самых разных сферах: от образования и здравоохранения до управления персоналом. С тех пор многое изменилось. Во многом это связано с тем, как меняется отношение общества к вопросам конфиденциальности. Думаю, люди стали гораздо больше задумываться о том, что влечет за собой постоянный мониторинг нашей жизни с помощью датчиков, камер и микрофонов.
Поэтому мы видим все больше усилий, направленных на создание механизмов защиты в этой сфере — чего практически не наблюдалось в то время. Что касается технического прогресса, то здесь произошло немало событий, однако важно понимать: в своих работах — оценивая мир с позиции футуролога — я заглядывал гораздо дальше, чем просто на десять лет вперед. В мире технологий десять лет — это довольно короткий срок.
Проходят десятилетия, прежде чем та или иная технология проходит путь от замысла и самых ранних этапов разработки до реального внедрения в жизнь. Безусловно, этот процесс ускоряется, но существуют определенные пределы того, насколько быстро мы можем перескакивать через этапы развития технологий и создавать их в соответствии с желаемыми сроками.
IAM: Вас тогда беспокоило то, что у государства может появиться все больше возможностей манипулировать настроениями в обществе, а также вмешиваться в ход выборов и влиять на их результаты. Вы писали о так называемых «петлях убеждения в реальном времени» и автономной социальной инженерии. Если говорить конкретно: что именно ИИ, способный распознавать эмоции, добавляет к арсеналу ресурсов, которые есть в распоряжении у государства и его спецслужб — чего у них не было еще несколько лет назад?
Йонк: На заре развития эмоционального ИИ — лет 10–15 назад — этот подход был по сути одномерным: можно ли считать выражение лица, классифицировать его как определенную эмоцию и так далее?
По мере развития технологий это привело к переходу на гораздо более многомерный подход. Система анализирует эмоциональную окраску голоса, содержание текста и сами слова. Она считывает мимику, позу и жесты, что позволяет составить более полное представление о реакции или внутреннем состоянии человека. Это важно, поскольку одним из недостатков ранних систем эмоционального ИИ было то, что они на самом деле не понимали сути происходящего. Они не могли распознать, что человек расстроен, если он при этом улыбается. Мы же, люди, используем то, что психологи называют «теорией разума», или способностью понимать психические состояния других.
По сути, мы проецируем и моделируем то, что, по нашему мнению, происходит в сознании нашего собеседника. Искусственный интеллект не способен на это в полной мере, однако он может очень быстро, «на лету», формировать более точную картину происходящего, в какой-то степени имитируя этот процесс; это делает его гораздо более мощным инструментом — и, потенциально, гораздо более опасным.
Так что, если вы общаетесь с кем-то, используя аватар— возможно, очень и очень реалистичный, — например, во время собеседования по видеосвязи, это может привести к последствиям, наносящим серьезный ущерб. Бывали случаи, когда сотрудников компаний убеждали, что они разговаривают с генеральным директором, и давали указание перевести деньги определенному лицу или на определенный счет — и в итоге компания лишалась миллионов долларов. Так что угроза вполне реальна, и теперь вопрос в том, насколько далеко это может зайти и как нам защититься от этого.
IAM: Да, я как раз хотел спросить, как именно можно защититься от такого. Как обеспечить защиту от использования технологий в преступных целях — в частности, от манипулирования эмоциями с помощью ИИ?
Йонк: Технологии распознавания эмоций (или эмоциональный ИИ) — только один из элементов этого паззла, хотя и очень важный.
Мы часто говорим о том, что надо просто образовывать население по этому поводу — это полезно и важно, но и у этого есть свои пределы. В процессе эволюции мы научились распознавать людей, подобных нам и говорящих так же, как мы. И сейчас мы живем в такое время, когда очень легко поверить, что общаешься с реальным человеком. Даже если изначально мы знаем, что перед нами искусственный объект — актер или аватар, — мы быстро забываем об этом в ходе общения.
Корни этого явления уходят еще к чат-боту Элиза, созданному Джозефом Вейценбаумом в MIT в 1966 году. Люди прекрасно понимали, что это всего лишь программа, и тем не менее доверяли ей свои самые сокровенные тайны. Мы уязвимы. Мы уже умеем анализировать фрагменты текста и определять, сгенерированы ли они ИИ или нет. Но возможность делать это «на лету», в режиме реального времени, и соответствующим образом предупреждать пользователя — это пока дело будущего.
IAM: А как насчет государственного регулирования? Вы писали раньше о европейском законе об ИИ. В Вашингтоне к этой инициативе относятся очень скептически. Способны ли правительства эффективно регулировать сферу ИИ?
Йонк: Я бы сказал, что на данный момент — нет. Когда речь заходит о государственном регулировании, всегда возникают опасения по поводу чрезмерного вмешательства. При выявлении проблем, связанных с новыми технологиями, законодательный процесс по своей природе оказывается довольно медленным. Законодательство зачастую отстает от развития технологий, и к тому моменту, когда оно наконец «догоняет» ситуацию и начинает решать проблему, регулирование нередко становится избыточным — и лишь со временем находит более разумный баланс.
Лично я считаю, что европейская инициатива по созданию правовой базы для ИИ полезна, поскольку мы должны понимать: наша задача — не защищать технологии, наша задача — защищать людей.
И это необходимо учитывать. Что касается ситуации в США, то, на мой взгляд, подход там слишком уж либеральный — в духе принципа невмешательства. Нам нужно думать не только о поддержке компаний, создающих эти технологии, но и о конечных пользователях — людях, которые в конечном счете могут оказаться очень уязвимыми.
IAM: Вы футуролог. Я должен задать вам вопрос о будущем. Недавно вы написали, что подход, который вы назвали «принципом “чем больше, тем лучше”» — характерный для ряда крупных компаний, включая OpenAI, Google и Nvidia, — потенциально может завести в тупик. Вместо этого вы указали на [франко-американского специалиста по компьютерным наукам] Яна Лекуна и других экспертов, которые делают ставку на совершенно иной подход.
Йонк: Начнем с того, что многие действительно считают ИИ чем-то довольно новым. Широкая публика, например, по-настоящему узнала о нем лишь в последние десять лет — или даже меньше.
На самом же деле эта технология существует уже почти столетие, если вести отсчет с момента зарождения самой идеи. Развитие технологий занимает больше времени, чем принято думать. К тому же, технологии не считаются с квартальными отчетами и не подстраиваются под них; процесс требует столько времени, сколько он требует. Что касается нынешних моделей, то сейчас мы находимся в парадигме больших языковых моделей, генеративного ИИ и тому подобного. К сожалению, на мой взгляд, этот путь ведет в тупик. Эти системы опираются на язык — и хотя язык играет огромную роль, наш интеллект — это нечто гораздо большее, чем просто речь и коммуникация. Существует множество других аспектов, составляющих наш опыт взаимодействия с миром.
Что касается идеи о том, что дальнейшее масштабирование — это ключ к совершенствованию больших языковых моделей, то я считаю, что здесь мы неизбежно столкнемся с эффектом убывающей отдачи. Я не верю, что этот подход приведет нас к тем результатам, на которые многие рассчитывают, — а эти ожидания во многом подогреваются шумихой, создаваемой самими компаниями-разработчиками.
Говоря о том, что ждет нас дальше: я не думаю, что это последняя глава. Следующая парадигма станет очередным шагом, но не обязательно финальным. Это может быть что-то более масштабное — то, что я бы назвал «ИИ, основанным на опыте».
Вместо того чтобы формировать базу знаний исключительно на основе текстов — не обладая при этом подлинным пониманием сути вещей или причинно-следственных связей, — эти модели стремятся учиться на опыте. Они действуют подобно маленьким детям — так же, как все мы учились в раннем возрасте. Конечно, пока мы находимся лишь в самом начале пути. Вряд ли в ближайшие пять лет эти разработки перерастут стадию проверки самой концепции. Однако это движение в верном направлении, которое, на мой взгляд, приближает нас к пониманию того, как мы мыслим, — к тому, как люди и другие живые существа реально существуют в мире и познают его. Думаю, именно в этом направлении, скорее всего, будет развиваться искусственный интеллект.
