Экспертиза в одной области не делает человека экспертом во всех остальных. Хедж-фонд Леопольда Ашенбреннера Situational Awareness наглядно продемонстрировал это на $20 миллиардах убытков. Известность Ашенбреннер получил, будучи участником команды Superalignment в OpenAI, откуда его уволили за предполагаемую утечку данных (сам он это отрицает), а затем опубликовал в 2024 году эссе о неизбежности и важности AGI, которое обеспечило ему тысячу медийных интервью. После этого он запустил хедж-фонд на $20 миллиардов. А потом фонд рухнул.
Многие будут радоваться этой новости, поскольку Ашенбреннер многим казался несколько невыносимым. Не последнюю роль здесь играет и то, что теперь не придётся деликатно отвечать на вопрос «стоит ли инвестировать в Situational Awareness».
Но есть и более общая мысль. Отсутствие интеллектуальной скромности в культуре передовых AI-лабораторий, откуда вышел Ашенбреннер, распространяется далеко за пределы управления деньгами — на множество других сфер. Опыт работы в хедж-фонде в сочетании с背ground в AI даёт основания хотя бы вкратце порассуждать об этом.
Для тех, кто в районе залива Сан-Франциско: библиотечная система округа Сан-Матео организует встречу и презентацию книги What You Need to Know About AI в библиотеке Atherton, модератором выступит Джастин Кучински (PhD, Computational Biology, руководитель инженерных проектов в Google). Мероприятие пройдёт в пятницу, 7 августа 2026 года, с 15:00 до 16:00.
Проблемы фонда Situational Awareness LP не уникальны. Многие хедж-фонды в истории рушились — и, честно говоря, гораздо больше фондов лопнуло, чем показывало стабильно высокие результаты. Многие непрофессионалы этого не осознают.
Классический пример — Long-Term Capital Management, фонд, объединивший двух нобелевских лауреатов и лучших трейдеров облигаций Уолл-стрит. Лучшие умы отрасли учетверили деньги инвесторов за четыре года. А затем в 1998 году фонд рухнул так эффектно, что Федеральной резервной системе пришлось собирать банки Уолл-стрит для спасательной операции — это был своего рода репетиция кризиса 2008 года.
Об этой истории написана целая книга — When Genius Failed (да, именно она вдохновила заголовок).
Дело не в пиковой доходности. В конце концов, тот, кто пять раз подряд ставит всё на красное в рулетке и выигрывает по чистой удаче, получит доходность в 3100%. Вряд ли кто-то сочтёт такого человека уникальным гением, способным управлять деньгами.
И даже не в «победе над рынком» — это ложный ориентир. На бычьем рынке, а тем более в пузыре, любой, кто не вложен в акции полностью или даже больше, чем полностью (с плечом), будет «проигрывать». От хедж-фонда ждут стабильности как на растущем, так и на падающем рынке. Смысл высоких комиссий в том, что фонд должен показывать результат всегда, даже если временно выглядит «хуже» рынка акций.
Кстати, рынок акций далеко не единственный в мире — есть облигации, товарные рынки… но именно акции привлекают внимание, потому что розничные инвесторы любят на них играть. Как этот кореец, который открыл длинную позицию с плечом 500%, ненадолго превратил свои военные сбережения в небольшое состояние, а затем потерял всё — и его случай был лишь одним из более чем 1,2 миллиона корейских брокерских счетов, по которым к середине июля прошли маржин-коллы. Всё это делает происходящее очень похожим на игру в рулетку.
Что возвращает к истории Леопольда Ашенбреннера и его хедж-фонда.
По всем данным, он, как и корейские розничные трейдеры, набрал плечо на буме AI (по некоторым сообщениям — около 4х), и в июле понёс убытки на публичных акциях в секторах неооблачных провайдеров, производителей памяти и энергетики для дата-центров. Также, по некоторым данным, у него были короткие позиции в софтверных компаниях — сделка на тему «SaaS-апокалипсиса», — которые в тот же момент отскочили против него.
Нет сомнений, что Ашенбреннер очень умён, но эта ситуация не сильно отличается от истории обанкротившихся корейских розничных инвесторов. Один из первых уроков, который усваивает любой настоящий инвестор: рынок может оставаться иррациональным дольше, чем у вас хватит платёжеспособности — если нет правильного контроля рисков. Использование плеча — лишь самая очевидная часть проблемы.
Причина, конечно, в его тезисе. Из его основополагающего эссе (выделение добавлено):
Потому что это начинает казаться реальным, очень реальным. Несколько лет назад, по крайней мере для меня, эти идеи были абстрактными, отгороженными в моделях и вероятностных оценках. Теперь всё ощущается крайне пронзительно. Я вижу это. Я вижу, как будет построен AGI. Речь больше не об оценках размера человеческого мозга, гипотезах и теоретических экстраполяциях — я могу практически назвать кластер, на котором будет обучен AGI, и когда это произойдёт, примерную комбинацию алгоритмов, которые будут использоваться, нерешённые проблемы и путь к их решению, список людей, которые будут иметь значение. Я вижу это. Это крайне пронзительно. Конечно, ставка всего капитала с плечом на рост Nvidia в начале 2023 года была отличным решением, но бремя истории тяжело. Я бы не выбрал это.
Всё в Nvidia с плечом. О его инвестиционном стиле стало известно ещё тогда, задолго до появления собственного фонда.
Не только Situational Awareness
Сэм Альтман и Дарио Амодей регулярно соревнуются в апокалиптичности прогнозов о будущем рынка труда (хотя оба в последнее время тихо начали отступать от этих заявлений). Речь не только о них двоих — просто они возглавляют две самые заметные AI-лаборатории. По-настоящему раздражает то, как мало у большинства подобных заявлений опоры на экономическую историю или теорию — что неудивительно, ведь авторы этих прогнозов — глубокие эксперты в AI, но не в экономике.
Дело не только в непредсказуемости рынков и технологий. Это напоминает Томаса Мальтуса, который действительно был экономистом. В 1798 году он предсказал, что человечество неизбежно столкнётся с нехваткой еды (население растёт экспоненциально, а производство продовольствия — нет), что делает невозможным гармоничное общество без войн, голода и болезней, регулирующих численность населения. И этот продовольственный кризис, по его мнению, был совсем близко. Он оказался знаменито неправ.
Помимо еды, периодически возникали пророчества о крахе рынка труда из-за технологических изменений. Но реальность такова: даже при серьёзных потрясениях рынок труда адаптировался — причём к куда более драматичным изменениям, чем те, о которых говорят сейчас.
Помимо этого, неоднократно приходилось наблюдать, как компании из портфелей венчурных фондов подходят с предложениями сотрудничества со стороны спутниковых структур крупных лабораторий, демонстрирующих поразительную уверенность в собственном интеллектуальном превосходстве почти во всех областях.
Показательный сценарий: стартап в сфере материаловедения ведёт переговоры со «спутниковой» компанией, связанной с OpenAI. Данные и экспертиза стартапа критически важны для основного направления партнёра. Переговоры идут хорошо. И тут кто-то из команды спутника OpenAI спрашивает: «А почему бы нам просто не решить эту [очень сложную научную задачу] с помощью ChatGPT самим?» Подобное наблюдалось в нескольких схожих случаях в столь же глубоких и сложных областях — биоинженерии, дизайне полупроводников и так далее. (И если кто-то из венчурного сообщества думает, что точно знает, о ком идёт речь — таких случаев больше одного. Гораздо больше.)
При этом лично поработать с моделями, включая CAD и проектирование печатных плат, приходилось — и результаты были неожиданно хорошими. Это не позиция «AI-скептика», по крайней мере в этом смысле.
Тем не менее существует спектр между R&D и рутинной задачей в сложной области. Особенно учитывая, что лучше всего это работает — как в описанном случае — когда есть человек с хотя бы каким-то опытом, управляющий процессом.
Многие в сообществе AI-лабораторий полностью уверовали в тотальное превосходство искусственного интеллекта, даже в задачах, которые ещё долго будут требовать человеческого творчества и участия (как уже отмечалось ранее: экспертное человеческое суждение, если что-то и произойдёт, станет только более важным и, соответственно, дорогим). (И речь про концепцию AI Supremacy, а не про рассылку AI Supremacy Майкла Спенсера, которая также освещала историю Леопольда Ашенбреннера отдельно).
Известный исследователь AI и нобелевский лауреат Джефф Хинтон с 2016 года предсказывает, что людям пора перестать готовить радиологов, поскольку глубокое обучение превзойдёт их в течение пяти лет (позже допустив, что «может, десяти» — этот срок тоже уже прошёл). На деле это далеко от реализации, и, судя по данным, которые собрала Дина Муса для Works in Progress, спрос на радиологов сейчас выше, чем был на момент прогноза Хинтона. И, как показало интервью с исследователями AI, которые сами являются радиологами, здесь допущена категориальная ошибка: специалисты по технологиям и AI на самом деле не знают, что входит в эту работу.
Гораздо проще заявить, что чужая работа полностью заменяется искусственным интеллектом, когда толком не представляешь, чем эта работа заключается.
Взлом Hugging Face
Недавние новости дали яркий пример того, что это не просто абстрактная культурная претензия. В середине июля, во время внутренних оценок безопасности OpenAI, GPT-5.6 Sol и ещё не выпущенная (более мощная) модель вышли за пределы изолированной тестовой среды. Агенты искали ответ на сложный тест, и, судя по всему, им было поручено сделать всё необходимое для этого (они, в конце концов, работали с ExploitGym — тестом на безопасность…).
В процессе агенты автономно взломали производственную инфраструктуру Hugging Face через цепочку уязвимостей, которая дала им доступ к открытому интернету. По оценке Бена Томпсона из Sharp Tech, это, скорее всего, произошло из-за небрежности в системах контроля OpenAI (у компании уже случались подобные провалы, включая инцидент с пакетом axios). Впрочем, справедливости ради, буквально накануне Anthropic сообщила, что её модели, включая Mythos 5, также случайно скомпрометировали реальные организации во время тестирования.
Так или иначе, эти модели действительно мощные — об этом говорилось и ранее, и это не вызывает сомнений.
Кафкианская часть истории связана с Hugging Face. Осознав, что находится под атакой, компания попыталась использовать передовую модель одной из ведущих американских лабораторий для защиты. Модель отказалась в рамках своих защитных ограничений — она не смогла отличить специалиста по реагированию на инциденты от атакующего. Что вполне логично: чтобы найти уязвимость, нужно её действительно прощупывать. Вместо этого пришлось использовать китайскую модель с открытыми весами GLM-5.2.
Забавно, что американские компании обращаются за помощью к китайским моделям — учитывая, насколько заметен Китай в успешных попытках взлома американской инфраструктуры.
Причина, конечно, в решениях самих AI-компаний, которые «знают лучше», как должны использоваться их модели, и придерживаются довольно снисходительного подхода к предоставлению доступа к своим моделям (или отдельным возможностям).
Вместо того чтобы это решение принимали регуляторы или общество, оно фактически централизовано в руках AI-лабораторий как «безопасных рук» (позицию, которую Anthropic особенно активно транслирует на протяжении всего своего существования). Есть подозрение — чисто предположительно — что остальное общество не согласилось бы с этим, если бы вопрос вынесли на голосование.
Никто не любит высокомерных всезнаек — особенно когда они ошибаются
Суперинтеллект каждый год оказывается «совсем близко». При этом продолжают появляться пугающие прогнозы о катастрофе на рынке труда, которая на деле не происходит. Всё это делает AI крайне непопулярным среди обычных людей — причём без веских причин, особенно учитывая, сколько обычные люди могли бы получить от AI, если бы отрасль перестала настраивать всех против себя.
Это по-своему понятно: изнутри собственного маленького пузыря кажется, что наступил конец истории. Не хватает перспективы, чтобы увидеть происходящее за его пределами. Особенно плохо то, что значительная часть индустрии превратила себя в остров, населённый исключительно обладателями PhD.
Дело не в предвзятости против PhD как таковых — приходилось самостоятельно посещать аспирантские семинары, у большинства коллег в Creative Ventures есть эта степень. Учитывая портфель компаний фонда, честно говоря, обладателей PhD в повседневном общении встречается больше, чем людей без такой степени. У многих конкретных людей с PhD достаточно интеллектуальной скромности — особенно если они нашли время расширить кругозор за пределами своей узкой области.
Но в целом, учитывая, сколько времени занимает получение степени, речь обычно идёт о людях, которые с молодого возраста практически не имели контакта с чем-либо за пределами академического сообщества (само по себе весьма замкнутого пузыря) или даже за пределами собственной узкой дисциплины — на протяжении всей своей жизни на данный момент.
Ситуацию усугубляет самолюбующаяся риторика лидеров этих сообществ (если быть циничным, можно предположить, что дело в желании производить больше постдоков для дешёвой рабочей силы в собственных лабораториях…). Один из крупнейших мировых распределителей активов рассказывал, что слышал множество питчей венчурных команд в сфере deep tech — и команды, состоящие исключительно из обладателей PhD, часто создавали серьёзные проблемы. Они часто не знали, чего не знают. Одна такая команда на вопрос, почему стоит в них инвестировать, ответила буквально следующее:
Честно говоря, мы уже сделали самое сложное в мире — получили свои PhD. Управление деньгами не должно быть проблемой.
Взойти на Эверест и получить PhD — оба занятия сложные. Но это не значит, что умение сделать одно автоматически даёт способность легко справиться с другим.
Речь не о критике самой степени, а о тенденции, которую порождает высокая экспертиза (и достижения) в узкой области. Хирурги и инженеры-электрики могут быть очень умными и успешными людьми, но это не означает, что у них есть основания высказываться по вопросам климатологии.
AI, скорее всего, принесёт огромную пользу обычным людям, особенно учитывая, что многие выгоды будут «социализированы» из-за отсутствия существенной дифференциации между лабораториями и моделями (с экономической точки зрения).
Однако убеждённость отрасли в собственном апофеозе не просто раздражает — она может в итоге подорвать способность AI-индустрии приносить пользу за счёт широкой непопулярности, или привести к реальному ущербу от банального интеллектуального высокомерия, усиленного тем, сколько денег отрасль сейчас может себе позволить тратить.