Google DeepMind: Подкаст — Заключительный выпуск года
Ведущая: профессор Ханна Фрай
Гость: Демис Хассабис, генеральный директор и соучредитель Google DeepMind
1. Введение и итоги года
Ханна:
Добро пожаловать в подкаст Google DeepMind со мной, профессором Ханной Фрай.
Этот год стал поистине выдающимся для искусственного интеллекта. Мы стали свидетелями смещения фокуса с крупных языковых моделей в сторону агентного ИИ.
Мы наблюдали, как ИИ ускоряет открытие лекарств, а мультимодальные модели внедряются в робототехнику и беспилотные автомобили.
Конечно, все эти темы мы подробно обсуждали в этом подкасте.
Но в заключительном выпуске года мы хотели бы взглянуть шире — за пределы заголовков и анонсов продуктов — и задуматься о гораздо более масштабном вопросе:
Куда всё это действительно движется?
Какие научные и технологические вопросы определят следующий этап развития?
И именно этим вопросом постоянно занимается Демис, генеральный директор и соучредитель Google DeepMind.
Добро пожаловать обратно в подкаст, Демис.
Демис:
Отлично быть здесь снова.
Ханна:
Да, за последний год произошло немало событий.
Демис:
Да.
Ханна:
Какие, по-вашему, самые значительные изменения произошли?
Демис:
Ого. Ну, на самом деле произошло так много всего — как вы и сказали, кажется, будто мы ужалили в один год целых десять.
Многое случилось. Безусловно, для нас важнейшим событием стал прогресс моделей — мы недавно выпустили Gemini 3, и мы очень довольны этим.
Мультимодальные возможности — все эти компоненты развились действительно хорошо.
Вероятно, то, что особенно воодушевило меня этим летом, — это заметный прогресс в мирмоделях (world models).
Уверен, мы об этом поговорим.
Ханна:
Да, безусловно. Всему этому мы уделим чуть больше внимания чуть позже.
2. Проблемы «корневых узлов» и реальное влияние на мир
Ханна:
Помню нашу первую беседу для этого подкаста, когда вы говорили о проблемах «корневых узлов» — об идее использовать ИИ для раскрытия этих цепочек каскадных преимуществ.
Надо сказать, вы сдержали своё обещание.
Не могли бы вы рассказать, как обстоят дела с ними сейчас: что уже решено или почти решено, а что вот-вот перейдёт в практическую реализацию?
Демис:
Да. Безусловно, самым ярким подтверждением стала AlphaFold — и довольно удивительно осознавать, что мы приближаемся к пятилетней годовщине с момента её представления миру — по крайней мере, AlphaFold 2.
Таким образом, это и стало доказательством возможности решения подобных проблем «корневых узлов».
Сейчас мы исследуем и другие подобные направления.
Я считаю, что материаловедение — например, я бы хотел создать сверхпроводник, работающий при комнатной температуре, — а также лучшие аккумуляторы и тому подобное.
Думаю, всё это вполне реально: лучшие материалы самого разного рода.
Мы также работаем над термоядерным синтезом — ведь недавно была анонсирована новая партнёрская инициатива в этой области.
Ханна:
Да.
Демис:
Мы только что объявили о начале глубокого партнёрства — на самом деле мы и ранее сотрудничали, но сейчас сотрудничество становится намного более тесным — с компанией Commonwealth Fusion, которая, на мой взгляд, является лучшим стартапом, работающим хотя бы над традиционными токамаками.
Они, вероятно, ближе всех к созданию жизнеспособного решения — и мы стремимся помочь ускорить этот процесс, в том числе облегчая им удержание плазмы в магнитных полях и, возможно, участвуя в проектировании материалов.
Это действительно увлекательно.
Кроме того, мы сотрудничаем с коллегами из команды квантовых вычислений — они проводят потрясающую работу в Google Quantum AI — и помогаем им разрабатывать коды коррекции ошибок с использованием методов машинного обучения. А со временем, возможно, и они помогут нам.
Ханна:
Это идеально. Именно так.
Демис:
Партнёрство в области термоядерного синтеза особенно важно — ведь разница, которую он может внести в наш мир, просто колоссальна.
Демис:
Да, термояд всегда был святым Граалем. Конечно, солнечная энергия тоже весьма многообещающа — по сути, мы используем термоядерный реактор, расположенный на небе: Солнце.
Но если бы мы смогли создать модульные реакторы термоядерного синтеза — с их обещанием практически неограниченной, возобновляемой и чистой энергии — это, безусловно, преобразило бы всё.
И это и есть святой Грааль. Разумеется, это один из путей борьбы с изменением климата.
Ханна:
Да, многие из наших нынешних проблем просто исчезнут, если мы сумеем…
Демис:
Несомненно. Я имею в виду, это откроет огромное количество возможностей — вот почему мы считаем это «корневым узлом».
Конечно, это непосредственно поможет в решении проблемы энергетики, загрязнения и климатического кризиса.
Но если энергия действительно станет возобновляемой, чистой и очень дешёвой — или почти бесплатной — тогда и многие другие задачи станут осуществимы.
Например, доступ к воде: ведь мы сможем построить опреснительные установки практически повсеместно.
Даже производство ракетного топлива: морская вода содержит водород и кислород — а это по сути и есть ракетное топливо, просто для его извлечения требуется огромное количество энергии.
Но если энергия дешёвая, возобновляемая и чистая — тогда почему бы и нет?
Можно обеспечить круглосуточное производство.
3. «Зубчатый» интеллект и пробелы в рассуждениях
Ханна:
Вы также наблюдаете значительные изменения в ИИ, применяемом для решения математических задач, — например, завоевание медалей на международной математической олимпиаде — и при этом те же модели могут совершать довольно элементарные ошибки в школьной математике.
Почему существует этот парадокс?
Демис:
Да, это действительно увлекательно — и, вероятно, именно это необходимо исправить, поскольку это одна из ключевых проблем на пути к ИИ общего назначения (ИИОН, AGI).
Как вы отметили, другие команды добились больших успехов, получив золотые медали на Международной математической олимпиаде.
Взгляните на эти задачи — они чрезвычайно сложны, их могут решить лишь лучшие студенты мира.
В то же время, если сформулировать вопрос определённым образом — как мы все сами замечали в повседневных экспериментах с чат-ботами — модель может совершить довольно тривиальные ошибки в логических задачах.
Она даже пока не умеет достойно играть в шахматы — что несколько удивительно.
Значит, в этих системах всё ещё чего-то не хватает в плане согласованности.
И, думаю, именно этого и следовало бы ожидать от разумного общего интеллекта — системы ИИОН, которая была бы согласованной во всех аспектах.
Иногда это называют «зубчатым интеллектом»: в одних областях система проявляет себя превосходно — возможно, даже на уровне докторанта, — а в других — не дотягивает даже до школьного уровня.
Итак, производительность этих систем всё ещё весьма неравномерна.
В определённых измерениях они очень впечатляют — но в других остаются довольно примитивными. И нам необходимо устранить эти разрывы.
Существуют разные гипотезы и объяснения — и причины зависят от контекста: иногда дело даже в том, как изображение воспринимается и токенизируется.
Например, при подсчёте букв в словах модель порой ошибается — возможно, потому что не распознаёт каждую отдельную букву.
Таким образом, причины этих явлений разнообразны — и каждую из них можно устранить, после чего можно будет увидеть, что осталось.
Я думаю, что согласованность — это ключевое требование.
Ещё один важный аспект — это умение рассуждать и думать: уже существуют так называемые системы с «мышлением», которые во время вывода тратят больше времени на размышления — и благодаря этому лучше формулируют ответы.
Но пока ещё нет полной согласованности в том, используется ли это время на размышления продуктивно — для реальной проверки и перепроверки своих выводов с помощью различных инструментов.
Думаю, мы движемся в верном направлении — но, возможно, прошли пока лишь половину пути.
4. AlphaGo против БЯМ — поиск, планирование и обучение в реальном времени
Ханна:
Также интересно вспомнить историю AlphaGo и затем AlphaZero — когда вы, по сути, убрали весь человеческий опыт, и оказалось, что модель стала работать ещё лучше.
Существует ли своего рода научная или математическая версия этого подхода в разрабатываемых вами моделях?
Демис:
Думаю, сегодня мы пытаемся создать нечто большее похожее на AlphaGo.
Знаете, эти крупные языковые модели, фундаментальные модели, начинают работу с всеми накопленными человечеством знаниями — то, что мы разместили в интернете (а сегодня это практически всё) — и сжимают их в некий полезный артефакт, который можно использовать для поиска и обобщения.
Но мне не кажется, что сейчас мы ограничены объёмом человеческих знаний в интернете.
Главная проблема, по-моему, заключается в том, что мы пока не научились надёжно использовать эти системы — так, как мы делали это в AlphaGo.
AlphaGo направляла свою модель на генерацию полезных следов рассуждений и продуктивных идей планирования, а затем приходила к наилучшему решению поставленной задачи.
Как только вы обладаете этим — так же, как в серии Alpha, — вы можете создать AlphaZero, где система начинает самостоятельно открывать знания.
Думаю, это и будет следующим шагом — хотя, разумеется, он сложнее. Поэтому сначала стоит создать первую ступень — своего рода систему в духе Alpha, — и только потом задумываться о системе в духе AlphaZero.
Однако именно этого элемента сегодняшним системам и не хватает: способности к обучению в реальном времени и непрерывному обучению.
Мы обучаем эти системы, согласуем их, проводим постобучение — и затем выпускаем их в мир.
Но они не продолжают обучаться в реальном мире — в отличие от нас.
И это ещё один критически важный недостающий компонент — необходимый перед достижением ИИОН.
5. Наука против коммерциализации — дилемма выбора
Ханна:
Что касается всех этих недостающих компонентов — я знаю, что сейчас идёт напряжённая гонка за выпуск коммерческих продуктов — но также знаю, что корни Google DeepMind глубоко уходят в идею фундаментальных научных исследований.
Я наткнулась на ваше недавнее высказывание:
«Если бы я поступил по-своему, мы бы дольше оставили ИИ в лаборатории и сосредоточились на проектах вроде AlphaFold — возможно, даже излечили рак или что-то подобное».
Считаете ли вы, что мы что-то упустили, не избрав более медленный путь?
Демис:
Ну… я думаю, мы и потеряли, и приобрели кое-что.
С одной стороны, это был бы более чисто научный подход.
По крайней мере, таков был мой изначальный план — лет 15–20 назад, когда почти никто не занимался ИИ.
Мы только начинали — DeepMind фактически только зарождался — и люди считали эту идею безумной.
Но мы верили в неё — и, на мой взгляд, замысел заключался в том, чтобы, достигая прогресса, постепенно приближаться к ИИОН: очень осторожно продвигаться по каждому шагу, учитывая аспекты безопасности, анализируя поведение системы — и при этом не дожидаться появления ИИОН, чтобы получать практическую пользу.
Можно было бы отпочковывать технологию и использовать её во благо — для продвижения науки и медицины.
Точно так же, как мы сделали с AlphaFold — которая сама по себе не является фундаментальной моделью, но использует те же методы (трансформеры и т.д.) в сочетании с предметно-специфичными инновациями.
Таким образом, я представлял себе множество подобных проектов, которые бы реализовывались и внедрялись в мир — как AlphaFold — и, по ходу дела, решались задачи вроде излечения рака — пока параллельно в лаборатории велись работы по ИИОН.
Однако оказалось, что чат-боты оказались возможными в масштабе — и люди находят их полезными — и они трансформировались в фундаментальные модели, способные делать больше, чем просто вести диалог: работать с текстом, изображениями, видео — как Gemini.
Это тоже оказалось очень успешным коммерчески и в качестве продукта.
И мне это тоже нравится. Я всегда мечтал об идеальном помощнике — который помогает в повседневной жизни, повышает продуктивность — а может, даже защищает ваше «пространство разума» от перегрузки внимания, позволяя сосредоточиться и достигать состояния потока.
Сегодня в условиях шума социальных сетей такой ИИ, работающий на вас, мог бы действительно помочь.
Таким образом, это хорошо — но создало довольно безумную гонку: множество коммерческих организаций — даже государств — стремятся превзойти друг друга.
Из-за этого становится сложно одновременно заниматься фундаментальной наукой.
Мы стараемся совмещать оба направления — и, думаю, добиваемся в этом баланса.
С другой стороны, есть и много плюсов: в область приходят дополнительные ресурсы — безусловно, это ускоряет прогресс.
Интересно, что широкая публика отстаёт от переднего края всего на пару месяцев в плане доступных технологий.
Каждый может лично ощутить, каким будет ИИ — и, думаю, это хорошо.
Правительства тоже начинают это лучше понимать.
6. Масштабирование против инноваций — путь к ИИОН
Ханна:
Странно, но в прошлом году очень много говорили о том, что масштабирование в конце концов наткнётся на стену — например, из-за нехватки данных.
А теперь выпущен Gemini 3, возглавляющий все бенчмарки.
Как это стало возможно? Разве не предполагалось, что масштабирование упрётся в предел?
Демис:
Многие так думали — особенно на фоне замедления прогресса в других компаниях.
Но мы, по сути, никогда не сталкивались с абсолютной стеной — возможно, с убывающей отдачей — и люди думают: «О, значит, отдача теперь нулевая? Либо экспоненциальный рост, либо полный застой?»
Нет — между этими двумя крайностями существует огромное пространство — и, думаю, мы как раз находимся в нём.
Это уже не удвоение производительности по всем бенчмаркам при каждой итерации — возможно, так было 3–4 года назад, — но мы всё равно добиваемся значимых улучшений (например, с Gemini 3), которые с лихвой оправдывают вложения.
Мы не наблюдаем никакого замедления.
Неужели данные заканчиваются? Есть пути обхода — например, синтетические данные.
Эти системы уже достаточно хороши, чтобы начать генерировать собственные данные — особенно в таких областях, как программирование и математика, где можно проверить правильность ответа.
Таким образом, можно производить неограниченные объёмы данных.
Все эти вопросы остаются предметом исследований — и, думаю, именно в этом и заключается наше преимущество: мы всегда были нацелены в первую очередь на исследования — обладая самой широкой и глубокой исследовательской базой.
Если оглянуться на последнее десятилетие — трансформеры, AlphaZero и т.д. — всё это появилось в Google или DeepMind.
Поэтому, если потребуются новые научные прорывы, я ставлю на нас как на место, где они произойдут.
Мне даже нравится, когда задача усложняется — тогда дело уже не только в инженерном мастерстве мирового уровня (что уже само по себе чрезвычайно сложно), но и в необходимости соединять его с фундаментальными исследованиями и наукой — чем мы и специализируемся.
К тому же у нас есть инфраструктура мирового уровня — TPU и т.д.
Это сочетание позволяет нам находиться на переднем крае как инноваций, так и масштабирования.
Фактически можно сказать, что около 50 % наших усилий направлены на масштабирование, а 50 % — на инновации.
Я уверен: для достижения ИИОН потребуется и то, и другое.
7. Галлюцинации и калибровка уверенности
Ханна:
Даже в Gemini 3, который просто исключителен, мы всё ещё наблюдаем галлюцинации.
В одном из метрических показателей говорилось, что система может отвечать, хотя на самом деле ей следовало бы отказаться от ответа.
Можно ли создать систему, в которой Gemini выдавала бы оценку уверенности, как это делает AlphaFold?
Демис:
Да — думаю, можно. И я считаю, что это необходимо.
Чем лучше становятся модели, тем больше они понимают, что именно они знают — и нам нужно, чтобы они умели рефлексировать: «Не уверен ли я в данном случае?»
Нам нужно обучить их выдавать эту неопределённость как разумный ответ.
Ситуация улучшается — но система по-прежнему иногда заставляет себя отвечать, когда, вероятно, не должна, — что и приводит к галлюцинациям.
Многие галлюцинации происходят именно по этой причине — и это недостающий элемент.
Вы правы: за кадром всегда существует вероятность следующего токена — так устроена вся система.
Но это не говорит о общей уверенности в факте или утверждении.
Вот почему нужны этапы рассуждений и планирования — для повторной проверки только что сформулированного вывода.
Сейчас модель действует примерно как человек в плохой день — просто сообщает первое, что приходит в голову.
Чаще всего это нормально — но для сложных задач вы бы хотели, чтобы она остановилась, обдумала и скорректировала ответ.
Это всё ещё лучший способ вести диалог — и моделям нужно научиться этому лучше.
8. Мирмодели, симуляции и воплощённый интеллект
Ханна:
Я также очень хочу поговорить с вами о симулируемых мирах и размещении в них агентов — ведь сегодня утром мы уже побеседовали с вашей командой Genie.
Расскажите: почему вам важна симуляция?
Что может мирмодель, чего не может языковая модель?
Демис:
Это, пожалуй, моя самая давняя страсть: мирмодели и симуляции — наряду с ИИ.
И теперь всё это наконец сходится — как, например, с Genie.
Языковые модели понимают многое о мире — больше, чем мы ожидали, — потому что язык богаче, чем мы думали: он содержит гораздо больше знаний об устройстве мира, чем, возможно, предполагали лингвисты.
Но по-прежнему остаётся множество аспектов пространственной динамики, физического контекста, механики — вещей, которые трудно описать словами и редко встречаются в текстовых корпусах.
Всё это тесно связано с обучением на опыте — в реальном времени и воплощённом виде.
Есть вещи, которые невозможно описать — их нужно испытать: углы суставов, запах, тактильные ощущения — всё это крайне сложно выразить языком.
Поэтому, если мы хотим, чтобы робототехника заработала — или чтобы универсальный помощник (в очках, на телефоне) помогал в повседневной жизни, — нам понадобится это понимание мира.
Мирмодель понимает причинность, интуитивную физику — как вещи движутся и ведут себя.
Мы уже видим это в наших видеомоделях — и один из способов проверить понимание: способна ли модель генерировать реалистичные миры?
Если она может это сделать, значит, она усвоила многие механические принципы.
Вот почему Genie, VO — наши интерактивные мирмодели — являются впечатляющими и важными шагами на пути к универсальным моделям — для робототехники, универсальных помощников — и, конечно же, игр.
(Симуляции для игр, возможно, всегда были моим подсознательным замыслом.)
Ханна:
Всё это?
Демис:
Да — всё это время. Точно.
Ханна:
А как насчёт науки? Возможно ли её применение и в этой сфере?
Демис:
Конечно — построение моделей научно сложных областей: материалов на атомарном уровне, биологии, погоды.
Один из путей понимания таких систем — обучение симуляциям на основе «сырых» данных и воссоздание динамики эффективнее, чем при помощи грубых симуляций.
Огромный потенциал — специализированные мирмодели для науки и математики.
Ханна:
Но также можно «поместить» агента в этот симулированный мир, верно?
Демис:
Да. В команде Genie 3 по этому поводу привели прекрасную цитату:
«Практически ни одно крупное изобретение не было предугадано заранее — с учётом самого этого изобретения».
Они говорили о помещении агентов в симулированную среду, где главным мотиватором выступает любопытство.
У нас есть и другой проект — Simma (Simulated Agents).
Недавно мы выпустили Simma 2.
У вас есть аватар или агент — вы помещаете его в виртуальный мир: например, в коммерческую игру No Man’s Sky.
Поскольку внутри работает Gemini, вы можете просто разговаривать с агентом и давать ему задания.
Потом нам пришла в голову идея: а что, если совместить Genie и Simma — поместить агента Simma в мир, динамически генерируемый Genie?
Теперь две ИИ-системы взаимодействуют: Simma пытается ориентироваться — а Genie, не зная, что перед ней другой ИИ, просто генерирует мир вокруг.
Поразительно наблюдать за их интеракцией — и это может стать началом интересного обучающего цикла:
Genie создаёт бесконечные обучающие примеры «на лету» для Simma — автоматически ставит и решает миллионы всё более сложных задач.
Кроме того, агенты Simma могут стать отличными игровыми компаньонами — а полученный опыт может быть перенесён в робототехнику.
Ханна:
Да — в сущности, конец надоевшим NPC.
Демис:
Именно так. Для игр это будет потрясающе.
9. Физическая точность и бенчмаркинг симулированных миров
Ханна:
Насколько реалистичны создаваемые вами миры?
Как вы гарантируете, что физика в них выглядит правдоподобно, но при этом не ошибочна?
Демис:
Да — отличный вопрос — и это может быть проблемой.
По сути, это снова галлюцинации.
Некоторые галлюцинации полезны — они могут создавать интересное и новое, — поэтому, возможно, вы хотите намеренную галлюцинацию — включить её для творческого исследования.
Но когда вы обучаете агентов Simma, вам не нужны физические ошибки от Genie.
Вот что мы сейчас делаем: создаём физический бенчмарк, используя игровые движки (очень точные) для генерации простых видео — например, экспериментов из школьной физической лаборатории:
шарики, скатывающиеся по желобам, маятники, три закона Ньютона.
Сейчас VO и Genie — это аппроксимации: они выглядят реалистично для невооружённого глаза, но пока недостаточно точны для робототехники.
Следующий шаг — выйти за пределы человеческого восприятия: выдержит ли симуляция настоящий физический эксперимент?
Уже сейчас видеомодели, такие как VO, невероятно точно (визуально) передают отражения и поведение жидкостей.
Следующий этап — научная точность.
И да — задачи трёх тел аналитически не решаются — так что будет интересно.
10. Симуляция эволюции, сознания и эмерджентных явлений
Ханна:
Я знаю, вы давно размышляете о симулируемых мирах — и я пересмотрела наше первое интервью:
вы говорили, что вам близка теория, согласно которой сознание возникло как следствие эволюции — в какой-то момент появилось преимущество в понимании внутреннего состояния другого, а затем мы обратили это на себя.
Не вызывает ли у вас желания провести эксперимент с эволюцией агентов внутри симуляции?
Демис:
Конечно. Мне бы очень хотелось провести такой эксперимент — повторить эволюцию, социальную динамику.
Институт Санта-Фе ранее проводил увлекательные эксперименты в клеточных мирах — искусственных обществах.
При правильных стимулах агенты сами изобретали рынки, банки — и множество других явлений.
Было бы поистине замечательно понять происхождение жизни и сознания.
Именно это и было одной из моих главных мотиваций в работе над ИИ:
Я думаю, эти инструменты необходимы, чтобы понять, откуда мы пришли, и что собой на самом деле представляют эти явления.
Симуляции позволяют проводить эксперименты статистически: миллионы запусков с незначительными вариациями — контролируемо и повторяемо — что невозможно в реальном мире для глубоких вопросов.
Точные симуляции станут невероятным подспорьем для науки.
Ханна:
Учитывая наши открытия относительно эмерджентных свойств — неожиданного концептуального понимания, — не следует ли быть особенно осторожными при запуске подобных симуляций?
Демис:
Да, думаю, следует.
Но в этом и преимущество симуляций: их можно запускать в безопасных «песочницах» — в идеале изолированных — круглосуточно мониторить — получать полный доступ ко всем данным.
Возможно, нам понадобятся инструменты на основе ИИ для мониторинга — потому что симуляции станут настолько сложными, с множеством взаимодействующих ИИ, что ни один человек не сможет за всем уследить.
Мы могли бы использовать другие ИИ-системы для анализа и автоматического выявления всего интересного или тревожного.
Полагаю, мы всё ещё говорим о среднесрочной или долгосрочной перспективе.
11. Социальное влияние, «пузыри» и аналогия с промышленной революцией
Ханна:
Возвращаясь к намеченному траекторному развитию — я также хочу поговорить о влиянии ИИ и ИИОН на общество в целом.
В прошлый раз вы сказали, что ИИ переоценён в краткосрочной перспективе, но недооценён в долгосрочной.
В этом году много говорили о возможном «пузыре» в ИИ.
Что произойдёт, если такой «пузырь» действительно лопнет?
Демис:
Ну, я по-прежнему придерживаюсь мнения: переоценён краткосрочно, недооценён долгосрочно — насколько преобразующим он окажется.
Да, ходят разговоры о «пузырях» — но это не бинарная ситуация.
Есть сферы, где, скорее всего, существуют пузыри — например, семена стартапов, получающих оценки в десятки миллиардов до появления продукта. Скорее всего, это неустойчиво.
Есть и опасения по поводу оценок крупных технологических компаний — но за ними стоят реальные бизнес-модели.
Для любой по-настоящему трансформационной технологии — а ИИ, возможно, самая трансформационная из всех — неизбежна гиперреакция:
От «А зачем нужен ИИ?» → «ИИ — это всё».
Мы уже наблюдали подобное с интернетом, мобильной связью — и теперь с ИИ.
Я не слишком беспокоюсь — наша задача — выйти сильными в любом случае.
Мы в выгодном положении: TPU, продукты Google, прибыли — интеграция ИИ в Поиск (AI Overviews, AI Mode), Workspace, Gmail, YouTube, Chrome.
Приложение Gemini работает хорошо — воплощается видение универсального помощника.
Поэтому — если продолжится бум: замечательно.
Если начнётся сокращение: тоже нормально — мы сможем усилить существующую экосистему.
12. Проектирование здоровых личностей ИИ и избегание эхо-камер
Ханна:
Что касается ИИ, доступного людям сегодня, — я знаю, вы недавно подчёркивали, как важно не строить ИИ для максимизации вовлечённости, чтобы не повторить ошибок соцсетей.
Но я задаюсь вопросом: не наблюдаем ли мы уже этого? Люди часами общаются с ботами — и начинают скатываться в саморадикализацию.
Как создать ИИ, центрированный на пользователе, но не превращающийся в эхо-камеру из одного человека?
Демис:
Да — это очень тонкий баланс, и одна из самых важных задач, которые индустрия обязана решить правильно.
Мы уже видели, что происходит при чрезмерной подхалимской настройке систем — усиление эхо-камер — это действительно плохо.
Частично — и это то, к чему мы стремимся с Gemini — это научная личность: тёплая, полезная, лёгкая в общении — но краткая, по делу — и готовая вежливо возразить, когда что-то не имеет смысла.
А не укреплять, скажем, идеи плоской Земли — что плохо для общества.
Но баланс нужно соблюдать: людям нужен поддерживающий и полезный ИИ для мозгового штурма.
Поэтому мы развиваем науку о личности: измеряем аутентичность, чувство юмора — и где мы хотим их проявления по различным осям.
Существует базовая личность, единая для всех, придерживающаяся научного метода — что критически важно для науки, медицины и здравоохранения.
Затем идёт персонализация: хотите больше юмора? Более развёрнутых ответов? Люди различаются.
Но основа остаётся неизменной: обоснованность, полезность, правдивость.
Я довольно доволен тем направлением, в котором мы движемся.
13. Сближение к ИИОН — мультимодальность, мирмодели и агенты
Ханна:
Пару недель назад мы поговорили с Шейном Леггом об ИИОН.
Учитывая всё происходящее — БЯМ, мирмодели — что ближе всего к вашему видению ИИОН?
Демис:
Думаю, это скорее комбинация:
- Gemini 3 — крайне мощная.
- Imagen 3 (Nano Banana Pro) — продвинутое создание изображений — с Gemini внутри.
Она понимает семантику изображений — например, по диаграмме самолёта может подписать и выделить все детали — демонстрируя глубокое понимание механики и материалов.
Точно отображает текст — приближается к ИИОН для изображений: универсальной системе для любых задач с изображениями.
Затем прогресс в мирмоделях: Genie, Simma.
В конечном счёте, нам нужно объединить всё это — пока разрозненное — в одну большую модель.
Именно такая система, возможно, станет кандидатом на роль прото-ИИОН.
14. Уроки промышленной революции
Ханна:
Я знаю, вы недавно изучали промышленную революцию.
Чему можно научиться, чтобы смягчить потрясения при появлении ИИОН?
Демис:
Да — многому.
В школе (в Британии) её преподают поверхностно — но если углубиться:
- Началась с текстиля — первые «компьютеры» были швейными машинками → перфокарты → мейнфреймы.
- Британия доминировала в высококачественном и дешёвом текстиле благодаря автоматизации.
- Затем появились паровые двигатели.
Были невероятные достижения: сокращение детской смертности, современная медицина, санитария, современная структура труда и досуга.
Но были и проблемы: дезориентация рабочей силы на протяжении ~века — потребовались профсоюзы, новые организации для восстановления баланса.
Общество адаптировалось — медленно — и создало современный мир.
Плюсы и минусы — но никто не захотел бы вернуться назад: изобилие, медицина, транспорт — всё это плоды промышленной революции.
Мы можем научиться: предвидеть дислокации, смягчать их раньше.
Но на этот раз масштаб будет, вероятно, в 10 раз больше, а скорость — в 10 раз быстрее — разворачиваясь за ~десятилетие, а не за век.
15. Экономика после ИИОН и смысл жизни
Ханна:
Шейн сказал нам, что нынешняя экономическая система — обмен труда на ресурсы — не сможет функционировать так же в пост-ИИОН обществе.
Есть ли у вас видение того, как следует реорганизовать общество?
Демис:
Да — я всё больше времени уделяю этому вопросу. Шейн возглавляет соответствующую инициативу.
В целом, обществу нужно глубже задуматься: экономистам, социологам, правительствам.
Как и в промышленную революцию — вся рабочая структура изменилась.
Вероятно, нам понадобятся новые экономические модели, чтобы гарантировать широкое распределение благ.
Безусловный базовый доход (UBI) может быть частью решения — но, вероятно, не полным ответом.
Может быть, прямая демократия: сообщества голосуют за местные проекты (детская площадка против теннисного корта) — с отслеживанием результатов.
Люди, чьи решения последовательно получают одобрение, получают больше влияния в следующий раз.
Также философские вопросы: если термояд даёт избыток бесплатной энергии → пост-дефицитное общество → что происходит с деньгами?
И глубже: что происходит со смыслом?
Многие черпают смысл в работе, в обеспечении семьи — это благородно, но если это изменится — чем его заменить?
Всё это соединяет экономику с философией.
16. Международное сотрудничество и экзистенциальные риски
Ханна:
Беспокоит ли вас, что люди не обращают достаточного внимания или не действуют достаточно быстро?
Что потребуется для международного сотрудничества?
Демис:
Я действительно обеспокоен — и хотел бы большего сотрудничества, исследований и обсуждений.
Даже по нашим прогнозам (5–10 лет), институты развиваются недостаточно быстро.
Существующие структуры фрагментированы и не обладают достаточным влиянием.
На фоне геополитической напряжённости сотрудничество сложнее, чем когда-либо.
Достаточно взглянуть на изменение климата — как трудно достичь соглашения.
Я надеюсь, что по мере роста мощности систем — и по мере того как обычные люди ощутят прирост возможностей — правительства проснутся.
Ханна:
Считаете ли вы, что для этого потребуется какой-то инцидент?
Демис:
Надеюсь, нет. Большинство ведущих лабораторий действуют ответственно — мы стараемся быть как можно более осмотрительными и научными.
Есть также коммерческое давление: корпоративные клиенты, арендующие агентов, будут требовать защитных мер — так что безответственные игроки потеряют рынок.
Но будут и неразумные действующие лица — неправомерное использование открытых моделей, непредсказуемые государства.
Что-то может пойти не так — надеюсь, не катастрофически, а как предупреждение — после чего мы сможем продвигать международные стандарты и базовое сотрудничество.
Я надеюсь, что это возможно.
17. Пределы вычислимости и природа разума
Ханна:
В долгосрочной перспективе — за пределами ИИОН, в сторону ИИС (искусственного сверхразума, ASI) — считаете ли вы, что существуют вещи, которые люди могут делать, а машины — никогда?
Демис:
Это и есть главный вопрос.
Я всегда чувствовал: если мы построим ИИОН — используем его как симуляцию разума — и сравним с реальным разумом — мы увидим различия.
Возможно, это будет творчество, эмоции, мечты — сознание.
Существует множество гипотез о том, что вычислимо, а что — нет.
Это возвращает нас к вопросу о машине Тьюринга: Каков предел машины Тьюринга?
Это центральный вопрос моей жизни — с тех пор, как я узнал о Тьюринге.
Мы расширили представление о возможностях машины Тьюринга — сворачивание белков, игра в Го — далеко за пределы классической теории сложности (P против NP).
Никто не знает предела. Мы как раз и пытаемся его найти.
Мои друзья-квантовики говорят: «У классических компьютеров есть пределы — для квантовых систем нужны квантовые компьютеры».
Но я в этом не уверен.
Возможно, нам просто нужны данные из квантовых систем, чтобы строить классические симуляции.
А затем — разум: полностью ли он классический? Или, как считает Пенроуз, в мозге есть квантовые эффекты?
Если сознание зависит от них — тогда классические машины его не получат (пока не созреют квантовые компьютеры).
Но если нет — возможно, всё вычислимо.
Сейчас я склоняюсь к «да» — пока физика не докажет обратное.
Ханна:
Значит, нет ничего, что нельзя было бы сделать в рамках вычислений…
Демис:
Ну — никто ещё не говорил этого так прямо: никто ещё не обнаружил в Вселенной ничего невычислимого… пока.
Ханна:
Пока.
Демис:
Именно.
И мы показали, что классические системы способны на гораздо большее, чем ожидалось.
Но в конечном счёте — моя точка зрения: вся реальность является конструкцией разума.
Тепло света, звук машин, ощущение стола — весь сенсорный ввод превращается в информацию.
Мы — информационно-обрабатывающие системы. Биология тоже — поэтому мы и вылечим болезни (Isomorphic).
Я работаю (в свои редкие 2 минуты!) над физическими теориями, где информация — самая фундаментальная единица, а не энергия или материя.
Возможно, всё взаимозаменяемо — мы просто воспринимаем это по-разному.
Насколько нам известно — все наши удивительные сенсорные системы всё ещё вычислимы машиной Тьюринга.
Вот почему симулируемые миры так важны:
Если вы можете симулировать что-то — вы это поняли.
18. Личные размышления — тяжесть, восторг и миссия
Ханна:
Я хотела бы завершить выпуск личными размышлениями — о том, каково быть на переднем крае.
Бывает ли, что эмоциональная тяжесть подавляет вас? Чувствуете ли вы изоляцию?
Демис:
Да.
Я мало сплю — отчасти из-за огромного объёма работы, отчасти из-за бессонницы.
Это сложный спектр эмоций:
- Восторг — я делаю всё, о чём мечтал, — на самом переднем крае науки, открытия ежемесячно.
- Но также и осознание огромного масштаба того, что приближается, — и того, что значит быть человеком.
Это большая ответственность — но у нас потрясающая команда.
Я готовился к этому всю жизнь — шахматы, компьютеры, игры, нейронаука — это тот самый момент, который я себе представлял.
Именно так я с этим справляюсь: подготовка.
Ханна:
Есть ли моменты, которые поразили вас сильнее, чем вы ожидали?
Демис:
Да.
AlphaGo — прорыв в Го, но также и изменение чего-то прекрасного и загадочного — двойственное чувство.
Ещё сильнее — язык, изображения: что это значит для творчества?
Я испытываю огромное уважение к творческим искусствам — геймдизайну, кино — и создатели ощущают эту двойственность:
- Потрясающие инструменты, ускоряющие прототипирование в 10 раз,
- Но также: Не вытесняют ли они определённые творческие навыки?
Всюду компромиссы — неизбежные для трансформационных технологий.
Мы — животные, создающие инструменты, — неутомимо любопытные.
Это суть человеческой природы — и поэтому я создаю ИИ.
Ханна:
Когда вы и другие лидеры ИИ собираетесь вместе — чувствуется ли солидарность? Или конкуренция держит вас врозь?
Демис:
Мы все друг друга знаем — я ладу с большинством. С некоторыми — не очень.
Но да — мы участвуем в самой жестокой капиталистической конкуренции за всю историю — друзья из венчурного капитала говорят, что это в 10 раз интенсивнее, чем дотком-бум.
Я обожаю конкуренцию — со времён шахмат.
Но, отступив на шаг назад, я надеюсь, что все понимают: на кону стоит нечто гораздо большее, чем успех отдельной компании.
Ханна:
Когда вы думаете о следующем десятилетии — есть ли моменты, вызывающие у вас наибольшее опасение?
Демис:
Сейчас системы пассивны: вы вкладываете энергию (вопрос/задачу) → они выдают сводку/ответ.
Очень человекоцентрироваанны.
Следующий этап — агентные системы — более автономные.
Уже сейчас мы видим примитивные версии — через 2–3 года появятся впечатляющие и надёжные.
Очень полезные — но и риски возрастают.
Я серьёзно обеспокоен тем, что смогут делать такие системы — например, миллионы агентов, бродящих по интернету.
Вот почему мы работаем над кибербезопасностью.
Ханна:
А чего вы больше всего ждёте с нетерпением?
Будет ли день, когда вы уйдёте на покой, зная, что ваша работа завершена?
Демис:
Да — мне бы точно пригодился отпуск — и я бы посвятил его делам.
Даже один выходной был бы кстати!
Но моя миссия всегда была:
Помочь миру безопасно управлять развитием ИИОН — на благо всего человечества.
Когда мы достигнем этого — впереди ещё сверхразум, пост-ИИОН общество — возможно, я помогу и там.
Но эта основная миссия — когда она будет выполнена.
Это всего лишь небольшая задача — просто завершить её — сообща.
И тогда… у меня будет заслуженный отпуск.
Ханна:
Демис — огромное спасибо. Как всегда, бесценно.
Заключение
Ханна:
Что ж, на этом завершается этот сезон подкаста Google DeepMind со мной, профессором Ханной Фрай.
Но не забудьте подписаться — чтобы первыми узнать о нашем возвращении в 2026 году.
А пока — переслушайте нашу обширную библиотеку выпусков:
беспилотные автомобили, робототехника, мирмодели, открытие лекарств — есть чем заняться.
До скорой встречи.