Долгая дуга истории склоняется к социал-демократии
Возможности ИИ развиваются быстрее, чем институциональный ответ на них. Скоро трансформационная технология столкнётся с капиталистической политической экономикой, создавая риски для выживания человечества, автономии личности и демократического порядка. Особую тревогу вызывает возможность того, что колоссальная власть и богатство сконцентрируются в руках класса, владеющего системами ИИ, либо использующего эти системы для обхода демократического контроля. В Кремниевой долине уже легкомысленно говорят о «перманентном低классе» — и явно намерены отвести туда всех остальных.
По мере автоматизации большинства, а затем и, вероятно, всех рабочих мест возникнет беспрецедентный кризис технологической безработицы: выгоды от технологии, обученной на корпусе данных всего человечества, достанутся узкому кругу акционеров. Большие языковые модели не возникают из ниоткуда — их обучают на огромных массивах текста, изображений и кода, собранных из интернета и оцифрованных архивов. В содержательном смысле эти модели — производные произведения коллективного человеческого труда. Они также построены на инфраструктуре, оплаченной обществом: сам интернет, университеты, готовившие исследователей ИИ, государственные гранты, поддержавшие фундаментальные исследования, публичные датасеты, сделавшие возможными первые прорывы. Финансирование DARPA заложило основы исследований нейросетей. Государственные университеты выпустили докторов наук. Данные пришли от всех нас. Это огораживание общих благ.
Компании, разрабатывающие ИИ, демонстрируют слабый интерес к благополучию человечества в целом и сопротивляются давлению гражданского общества и государства, требующих соблюдения стандартов безопасности, даже осознавая потенциал катастрофических рисков. Очевидно, что самая трансформационная технология со времён появления сельского хозяйства не должна оставаться в частных руках. Стандартная траектория развития событий — экстремальная концентрация выгод при обобществлении рисков.
Поэтому норвежский Government Pension Fund Global должен выкупить OpenAI и управлять компанией в интересах международного сообщества.
GPF-G оценивается более чем в $2 трлн, тогда как оценка OpenAI держится около $800 млрд. Прежде OpenAI была некоммерческой организацией с ограничением прибыли и пунктом о «неожиданной удаче» (windfall clause), гарантировавшим, что взрыв интеллекта принесёт пользу всему человечеству. С одобрения генерального прокурора Калифорнии это обязательство отменили, фактически экспроприировав некоммерческую структуру и позволив OpenAI превратиться в коммерческую корпорацию. Это невосполнимая потеря для человеческого сообщества. Капитал норвежской социал-демократии способен вернуть лабораторию в общественные руки. Хотя Norges Bank Investment Management пришлось бы ликвидировать 40% портфеля и нарушить мандат GPF-G, ускоренная концентрация возможностей ИИ в частных руках — это чрезвычайная ситуация, к которой все участники должны подходить с растущей гибкостью в отношении существующих правил и норм.
Тем, кто опасается концентрации власти в руках государства, стоит помнить: Норвегия — одна из самых стабильных демократий мира с многодесятилетним опытом коллективного управления богатством. Королевство глубоко встроено в международные институты и обладает моральной приверженностью космополитизму, которой не разделяют ни частные корпорации, ни Республиканская партия. GPF-G уже выходил из активов нескольких израильских компаний, сотрудничавших с оккупацией палестинских территорий. После выкупа GPF-G следовало бы передать управление лабораторией международному многостороннему институту с полномочиями над разработкой. Это желаемая конечная точка, но нужен какой-то механизм передачи — и, к счастью, умелое управление Норвегией нефтяными доходами даёт эгалитаристам агента, способного на это.
Норвегия — одна из немногих стран, стабильно достигающих или превышающих целевой показатель ООН в 0,7% валового национального дохода на иностранную помощь, часто доходя до 1%. Страна выступала посредником в конфликтах от Ближнего Востока до Шри-Ланки и Колумбии. Здесь вручают Нобелевскую премию мира. Здесь находится Всемирное хранилище семян на Шпицбергене — резервный фонд сельскохозяйственного биоразнообразия планеты, хранящийся в доверительном управлении для всего человечества. Внешнеполитическая идентичность Норвегии откровенно космополитична: как небольшая страна, она вынуждена добиваться безопасности и легитимности через международные институты, а не через одностороннюю силу.
Такое вмешательство наверняка будет заблокировано правительством США — впрочем, если Нобелевский комитет мира вручит награду Трампу, возможно, откроется окно политических возможностей. Возможно, этот вариант стоит держать в резерве для будущей администрации на случай, если Конгресс сам откажется передавать лаборатории в общественные руки.
Разрыв между масштабом трансформации, которую несёт ИИ, и политическим воображением левых сил невероятно велик. Предложения запретить строительство дата-центров — это рефлекторная реакция, отказывающаяся от выгод автоматизированного, но коллективного будущего в пользу наивного локализма. Окно Овертона в вопросах регулирования ИИ сужено до абсурда. Если структуры собственности лабораторий не изменятся, а демократическое управление не будет гарантировано, стандартным сценарием будущего станет лишение власти подавляющего большинства человечества. Нужны политические предложения, раздвигающие границы правдоподобного — те, что сегодня будут отвергнуты как невозможные или излишние. Нужна возможность выбора. В будущем времени на реакцию может остаться немного, и такие смелые планы должны быть наготове — доступны тем, кто держит в уме процветающее и эгалитарное будущее.
