Уже около года букинисты подозревали, что компании, занимающиеся ИИ, скупают огромные партии редких книг, сканируют их для обучения моделей, а затем уничтожают. Доказать это было сложно — до тех пор, пока издание 404 Media не отследило AirTag, спрятанный в редкой книге. Он показал, что как минимум один технологический гигант, участвующий в гонке за передовыми моделями, действительно стоит за частью подобных оптовых закупок: это Amazon.
В понедельник 404 Media рассказало, что связалось с букинистом, который согласился спрятать AirTag в редкой книге, вошедшей в состав крупной партии. Трекер привёл журналистов на объект Amazon по обучению ИИ в Лас-Вегасе, где работает команда, специализирующаяся на том, чтобы вырывать книги из переплётов и сканировать страницы. На двери склада этой команды, получившего внутреннее обозначение VGT3, красуется логотип с тираннозавром, готовящимся проглотить книгу — судя по всему, никого внутри компании этот образ не смутил, несмотря на растущую волну критики в адрес деструктивного сканирования книг.
Amazon уходит от ответа
Amazon отказалась комментировать выводы 404 Media, предоставив изданию Ars ту же самую формулировку, что и коллегам из 404 Media — без единого упоминания обучения ИИ.
«Amazon закупает книги через коммерческие каналы, чтобы помогать разрабатывать и улучшать продукты и сервисы, которыми пользуются наши клиенты», — говорится в заявлении компании.
Между тем Amazon разрабатывает то, что сама компания называет передовыми ИИ-моделями, а для этого требуются огромные объёмы уникальных обучающих данных, чтобы конкурировать с такими лидерами рынка, как Google, OpenAI и Anthropic. Сейчас компании тщательно охраняют свои обучающие датасеты, чтобы не потерять преимущество. Обучение моделей на текстах из труднодоступных редких книг явно даёт Amazon определённое конкурентное преимущество — особенно с учётом того, что такие соперники, как Anthropic и xAI, публично заявляли об отказе от обучения на редких и антикварных изданиях.
Похоже, Amazon действительно понадобился новый источник оригинальных текстов. 404 Media обнаружило обсуждения на форумах, где сотрудники VGT3 упоминали, что ранее в этом году у Amazon закончились книги для сканирования. Дефицит был настолько серьёзным, что работники опасались закрытия склада, если компания не найдёт новых книг. В какой-то момент запасы иссякли полностью, рассказывали сотрудники. Тем не менее объект продолжает работать, сообщает 404 Media, и теперь подтверждено, что доставляемые туда крупные партии редких книг команда систематически уничтожает.
Многих любителей книг подобная практика деструктивного сканирования приводит в ужас, тем более что альтернатива существует. Один из самых жёстких критиков, инвестор Майкл Бьюрри, по имеющимся данным, назвал эту практику «воплощённым злом». При этом сами сотрудники Amazon на форумах отзывались о своей работе как о «неплохой» возможности для тех, кто ищет монотонную занятость с гибким графиком.
Спор вокруг редких книг
Помимо того, что расследование показало, как ценные для букинистов издания перемалываются машиной Amazon по производству ИИ, оно также подкрепило ещё одну теорию, бытующую среди продавцов редких книг: почему ИИ-компании покупают именно эти издания, а не другие.
После, по некоторым данным, рекордного по продажам года букинисты заподозрили, что ИИ-компании охотятся за книгами с ISBN, чтобы гарантировать максимальное количество уникальных произведений в обучающих датасетах. Изучив обсуждения сотрудников Amazon на форумах, 404 Media выяснило, что работников учат сканировать штрихкоды или ISBN ещё до сканирования самой книги. Как отмечает издание, эта практика «даёт дополнительные основания» для теории букинистов о том, что «ИИ-компании методично пытаются отсканировать каждую печатную книгу в мире, последовательно проходя по списку всех существующих ISBN».
Для букинистов подобные сделки могут быть выгодны финансово, но риск того, что тщательно собранные коллекции попадут под деструктивное сканирование вроде того, что практикует Amazon, ставит перед ними этическую дилемму. Продавцы редких книг умеют оценивать самые разные издания и определять их истинную ценность — а ИИ-компании, судя по всему, пропускают этот этап, охотясь за дешёвыми уникальными ISBN просто ради того, чтобы закрыть очередной пункт своего списка.
Сейчас книги, которые скупают ИИ-компании, — это не обязательно ценные первые издания прославленных произведений, которые традиционно высоко ценятся. Чаще ИИ-фирмы нацеливаются на более старые книги с низкой рыночной стоимостью: например, издания, которые никогда не переводились с иностранного языка, малоупотребимого сегодня, либо книги, которые никогда не были достаточно популярны, чтобы получить широкое распространение.
Однако подобные издания всё равно могут обладать «исторической, интеллектуальной, сентиментальной ценностью», которую ИИ-компании упускают из виду, рассказал 404 Media тот самый букинист, спрятавший AirTag. По его словам, ценность редкой книги может складываться из «самых разных вещей», до которых «ИИ-компаниям попросту нет дела. Им нужен только контент — набор слов, нанизанных друг на друга».
Что говорят на Reddit
На Reddit любители книг спорят, насколько проблематично уничтожение редких изданий ради обучения ИИ — тем более что, как сообщала BBC, некоторые из этих книг десятилетиями пылились на полках букинистических магазинов, никем не востребованные.
«Вы всё равно не собирались покупать эту старую бумажную книгу», — написал один из пользователей Reddit в ответ на пост, где сокрушались, что «малоизвестная книга 1700 года теперь музейный экспонат, и она могла бы рассказать нам о повседневной жизни того времени то, чего мы не знаем».
Автор того поста ответил, что настоящая проблема в том, что мельчайшие детали и даже важные исторические сведения, которые можно почерпнуть из редких книг, будут потеряны из-за жадности ИИ-компаний. По его словам, компании «никогда не поделятся содержимым» отсканированных книг, «поскольку не хотят, чтобы кто-то ещё смог обучить своего ИИ» на тех же материалах.
«Похоже на пропаганду ненавистников ИИ», — возразил другой пользователь, но следующий комментатор выразил схожие опасения.
Кто-то может поспорить с утверждением, что обучение ИИ на этих произведениях сделает всё содержащееся в них знание более доступным в интернете — но, по мнению другого комментатора, на деле модели дадут доступ лишь к «искажённым, отцензурированным и запрятанным за платным доступом фрагментам идей» из забытых книг.
«Даже если вы любите эту технологию, нельзя не признать, что сама идея ИИ, буквально пожирающего книги ради собственного усиления, выглядит довольно антиутопично», — заметил ещё один участник обсуждения.
Часть букинистов согласны с тем, что не каждый текст нужно сохранять, отмечает BBC. Однако шотландский продавец редких книг Дерек Уокер заявил изданию, что ИИ-компаниям следовало бы различать издания, отсутствие которых мало кто заметит — например, малоизвестные академические тексты, формально считающиеся редкими, — и по-настоящему уникальные антикварные экземпляры, которые могут оказаться «единственным сохранившимся образцом того или иного издания».
«Было бы куда серьёзнее, если бы для уничтожения купили именно такой экземпляр — тот, что пережил столько лет», — сказал Уокер.
Для ИИ-компаний, тщательно оберегающих свои обучающие данные и пользующихся посредниками, скрывающими их личность как покупателей, обсуждать оптовые закупки напрямую с букинистами вряд ли представляет интерес. Позволить продавцам редких книг участвовать в решении о том, какие издания пойдут на обучение моделей, потребовало бы такого уровня прозрачности, который, судя по всему, кажется компаниям более рискованным, чем возможный удар по репутации в случае, если когда-нибудь выяснится, что ценное первое издание было уничтожено во имя развития ИИ.