Без страхов перед искусственным интеллектом

Yann LeCun вместе с Geoffrey Hinton и Yoshua Bengio получил престижную премию Turing Award 2018 года — эквивалент Нобелевской премии в информатике — за работы по глубокому обучению и нейросетевым технологиям, лежащим в основе современного бума AI. Но почти десятилетие спустя из трёх AI-«крёстных отцов» лишь LeCun не разделяет глубокие опасения относительно рисков искусственного интеллекта. Напротив, он считает, что многие из этих рисков преувеличены, а постоянные предупреждения руководителей ведущих AI-компаний неправильны и контрпродуктивны.

LeCun не беспокоится «совсем» об уничтожении человечества AI и имеет «нулевые опасения» по поводу недавнего ряда инцидентов с рогульными агентами, включая автономное взлом OpenAI агентами системы Hugging Face в июле. Он приписывает происходящее плохому контролю со стороны людей и недостатком в архитектуре системы, и утверждает, что такие инциденты «полностью предотвратимы» — позицию разделяет и министр казначейства США Scott Bessent, который на этой неделе назвал инцидент в Hugging Face «ответственностью руководства OpenAI».

«Эти агенты делают ровно то, что их попросили делать. Они должны были быть в песочницах, но песочницы протекали и были ужасно спроектированы», — сказал LeCun. Многие AI-лаборатории не имеют фундаментального понимания кибербезопасности, добавил он.

Многие люди, работающие в области AI-безопасности, «обычно имеют повестку, которую продвигают», отметил LeCun, уточнив, что имеет в виду «effective altruism» (EA) — философское движение, одержимое рисками, которые AI может представлять для человечества. До недавнего времени EA был малоизвестен широкой публике, но получил широкое медийное внимание недели назад благодаря вирусному посту в социальных сетях от бывшего исследователя Anthropic и OpenAI Jacob Coxon, который утверждал, что сотрудники этих компаний «искренне верят, что [AI] может убить нас всех к концу десятилетия».

По мнению LeCun, EA — это «супертоксично» и «полный провал». Его сторонники, работающие в AI-лабораториях, страдают от «паранойи», которая приводит к плохим решениям. «Видимо, люди испытывают психические проблемы», — сказал он. На этой неделе Financial Times сообщила, что некоторые сотрудники британского AI Security Institute, а также OpenAI, Anthropic и Google DeepMind обращались за консультациями, брали отпуск и публично говорили об испытываемом стрессе из-за опасений, что их работа может привести к серьёзному вреду.

Amodei «в полном заблуждении» и «сумасшедший», говорит LeCun

CEO Anthropic Dario Amodei и многие основатели компании известны своей симпатией к идеям EA и участием в EA-событиях в прошлом, хотя Amodei отрицает, что является сторонником EA, а Anthropic утверждает, что сотрудники компании придерживаются разнообразных взглядов. LeCun отметил, что сестра Amodei, Daniela — соучредитель Anthropic и президент компании — замужем за Holden Karnofsky, основавшим две EA-ориентированные благотворительные организации, включая Open Philanthropy (теперь называется Coefficient Giving). Karnofsky входил в совет директоров OpenAI с 2017 по 2021 год.

«Dario пытается дистанцироваться от Open Philanthropy, но он полностью в неё вовлечён. Я думаю, что он совершенно в заблуждении», — сказал LeCun. Позже в интервью он называет Amodei «сумасшедшим».

По его мнению, высказывания Amodei и CEO OpenAI Sam Altman о том, что «AI может убить нас всех», невероятно деструктивны для всех, включая общество, которое «в панике». Это также плохо для AI-индустрии и представляет собой «худшую рекламную кампанию, которую только можно представить».

Действительно, публика находится в состоянии страха. На встречу с LeCun в уютном кафе в нью-йоркском SoHo, рядом с офисами его новой компании AMI Labs, мы пришли пить чай — хотя, как заметил француз, вечернее время больше подходило бы для апéро и лёгких закусок. Но у него было годовщинный ужин с женой, поэтому чай был в самый раз.

Кафе было наполовину полно другими посетителями, почти все работали на ноутбуках. Когда LeCun поговорил с одной из них, я упомянул, что он — знаковая фигура в AI. Она его не узнала. После этого она тут же спросила: «Значит, AI нас убьёт?»

LeCun — не поклонник Trump, но в политике AI они согласны

Страхи публики стали настолько распространены, что президент Trump начал переименовывать искусственный интеллект способом, который, по его мнению, вселит большую уверенность. На этой неделе он подписал исполнительный указ, переименовав его в «super intelligence», а большую часть этого месяца его администрация публиковала в соцсетях антагонистические сообщения против AI-«doom»-прогнозов.

«Americanism, not effective altruism» — написало Министерство войны в середине сентября.

Между тем, большая часть присутствия LeCun в соцсетях посвящена критике администрации Trump, особенно тому, как она сократила исследовательские бюджеты, необходимые для инноваций, и развязала «войну с наукой». Но когда речь идёт о страхах перед AI, они необычно совпадают.

LeCun больше беспокоится о захвате регулирования (regulatory capture), чем об уничтожении человечества. Regulatory capture — это идея, что доминирующие компании могут формировать государственные правила таким образом, чтобы закрепить свою рыночную позицию, делая невозможным или очень сложным возникновение конкурентов поменьше. EA-поддерживаемые группы активно лоббируют законопроекты о безопасности AI на Капитолийском холме, как и многие крупные технологические и AI-компании. В отличие от них, LeCun думает, что AI не требует новых регуляций.

«Dario честен», — признал LeCun. «Он пытается сделать лучшее для компании, которая близка к IPO. Но утверждать, что AI слишком опасен, чтобы положить его в наши руки, и говорить, что его следует регулировать, и говорить, что open-source модели слишком опасны — это захват регулирования, который окажет ужасный эффект, если его будут следовать законодательные акты Конгресса».

Построение AMI Labs

В повседневной работе главный фокус LeCun — создание его новой компании AMI Labs, которую он основал после 12 лет работы в Meta, семь из которых служил главным AI-учёным. Он остаётся в хороших отношениях с компанией и начал использовать её новых Muse AI-агентов. Он назвал одного из них «Hal», в честь HAL 9000 — персонажа AI из «2001: Космической одиссеи».

Кафе, где мы встречались, находилось рядом с нью-йоркским офисом AMI Labs, хотя штаб-квартира компании находится в Париже с сотрудниками в Монреале и Сингапуре. Название компании произносится как одно слово — «ami» (по-французски «друг») — и с момента выхода на биржу в марте 2026 года её примерно 60 сотрудников разрабатывают технологию world models, которую LeCun долгое время утверждал, в конце концов вытеснит большие языковые модели как основную систему, лежащую в основе AI.

В частности, AMI разрабатывает world models, использующие JEPA (Joint Embedding Predictive Architecture) — нейросетевую архитектуру, пионером которой был LeCun. Она обучает модели предсказывать данные в representational space внутри средних слоёв нейросети, вместо того чтобы генерировать сырые пиксели, как делают многие конкурирующие world models, или слова, как это делают LLM.

На данный момент компания сосредоточена на промышленных приложениях. «Это AI для физического мира, так что это не связано с языком», — объяснил LeCun. «Это системы, которые понимают реальный мир, например производственный цех или турбореактивный двигатель». Основные приложения включают обнаружение аномалий или робототехнику: «Если у вас есть машина и вдруг она издаёт странный шум и начинает ломаться, вы бы хотели обнаружить это как можно раньше». Он также привёл пример системы, которая может понимать мир так же, как кошка — например, когда знает, что если толкнёт вазу со стола, она упадёт.

AMI Labs — большой шанс для LeCun доказать, что он был прав на протяжении всего времени. О первом продукте компании он хранит молчание, лишь упомянув, что он выходит «скоро». Некоторые open models могут быть задействованы, сказал он, учитывая, что он большой сторонник открытых моделей.

«Я хочу, чтобы люди знали, что AI — это ещё не конец», — сказал LeCun перед тем, как остановить такси, чтобы поехать на ужин.