Энтони «Бинджи» Арилотта годами ждал, чтобы стать полноправным членом преступной семьи Genovese, и когда в августе 2003 года ему наконец позвонили, он выполнил все инструкции буквально. Согласно показаниям под присягой, Арилотту вызвали в стейк-хаус в Бронксе, где заставили сдать телефон, пейджер и украшения, прежде чем отвезти его к жилому дому. На месте его провели в маленькую ванную комнату и обыскали на предмет электронных устройств. Для встречи с боссом ему выдали банный халат.
До недавнего времени о том, что их частные разговоры могут быть перехвачены электронной аппаратурой, настолько тщательно беспокоились только шпионы и преступники. Но скоро подобные меры предосторожности могут понадобиться и обычным людям. В следующий раз, затевая деликатный офисный разговор или делясь с другом романтическим либо финансовым секретом за напитками, стоит иметь в виду: сенсор, встроенный в чьи-то очки, кулон или значок на лацкане, может в этот момент наблюдать и слушать.
В марте технологический стартап Deveillance объявил о разработке Spectre I — устройства в форме хоккейной шайбы, которое призвано мешать другим записывать разговор (без обыска в ванной). Компанию основала Аида Барадари, недавняя выпускница колледжа, обеспокоенная ростом популярности носимых AI-рекордеров. Такие устройства могут выступать в роли молчаливого секретаря, личного помощника или даже своего рода терапевта. Пока эта технология не стала массовой, но это может измениться очень скоро. Apple — компания с крупнейшей экосистемой персональных гаджетов в мире — по слухам, разрабатывает AI-булавку или подвеску, которая станет постоянными «глазами и ушами» iPhone; на подходе и множество других продуктов такого типа. AI-аксессуары однажды могут стать такими же распространёнными, как AirPods.
Новые технологии наблюдения обычно порождают новые способы противодействия, а те в свою очередь ведут к появлению более изощрённых средств наблюдения. Во время Второй мировой войны, после того как Германия начала применять радар, Королевские военно-воздушные силы стали сбрасывать тонкие полоски металлизированной бумаги определённого размера, резонирующие с радарными волнами и заполняющие немецкие экраны фантомными отметками, неотличимыми от настоящих самолётов. Некоторые историки утверждают, что последовавшая радарная гонка вооружений повлияла на исход войны сильнее, чем Манхэттенский проект.
Десятилетиями людям, желающим избежать записи, продавали примитивные глушители. Ранние версии издавали громкий неприятный белый шум, маскирующий голоса. Позже компании начали выпускать модели, испускающие постоянный поток ультразвука на неслышимых частотах, эксплуатируя особенность микрофонного оборудования, которое преобразует эти высокие частоты в шум. В 2020 году команда Чикагского университета под руководством Юсинь Чэня сообщила, что закрепила 23 ультразвуковых преобразователя на одном браслете, благодаря чему сигналы глушения можно было направлять во все стороны сразу, а не концентрировать на одной цели.
Но даже высокотехнологичным глушителям сложно противостоять сегодняшним AI-гаджетам. Самые продвинутые булавки, кулоны и очки используют алгоритмы восстановления речи, чтобы отфильтровывать нежелательный шум — будь то бытовые звуки, например звон бокалов в переполненном баре, или сигнал ультразвукового глушителя. Эта задача крайне сложна для алгоритмов: в том же баре микрофон на лацкане одновременно перехватывает звуковые колебания из множества источников. Он улавливает бармена, выкрикивающего заказ, музыку из динамика, взрывы смеха за соседними столиками — и все эти звуки отражаются от стен и предметов, создавая ещё больше шума. Человеческое тело решает эту «проблему коктейльной вечеринки» незаметно для нас самих: уши работают как два микрофона, а мозг использует различия во времени и интенсивности сигналов между ними, а также многослойную обработку в слуховой коре, чтобы выделить голос собеседника, сидящего напротив.
Делян Ван, специалист по компьютерным наукам из Университета штата Огайо, десятилетиями обучал нейросети решать ту же задачу — с целью улучшить слуховые аппараты. Подавая сетям сотни часов записанной человеческой речи, он научил их распознавать частоты и ритмы речи. Модели строят внутреннее представление о «речеподобности», и когда сталкиваются с шумной записью, фокусируются на частях, соответствующих выученным паттернам, подавляя всё остальное. Самые продвинутые технологии сегодня умеют восстанавливать пропущенные слоги — подобно тому, как читатель по контексту достраивает вычеркнутое слово, — что позволяет реконструировать речь, изначально записанную нечисто.
Крупные технологические компании занимаются тем же самым. Microsoft с 2020 года ежегодно проводит конкурс Deep Noise Suppression Challenge для развития этого направления (внутренняя команда компании пытается сделать встречи в Teams менее мучительными). Другие компании работают над подавлением шума для звонков на смартфонах и подкаст-софта. Такие исследования призваны улучшить жизнь обычных пользователей технологий — если, конечно, слушателей подкастов можно назвать обычными пользователями, — но каждый прорыв в области шумоподавления также может быть использован AI-ассистентом для восстановления речи из заглушенной записи.
Победить эти алгоритмы, возможно, требует совершенно иного подхода к контрнаблюдению. Финн Брантон, историк из Калифорнийского университета в Дейвисе и соавтор книги Obfuscation: A User's Guide for Privacy and Protest, рассказал, что один из лучших способов — определить, какие данные пытается собрать устройство, и подсунуть ему подделку. Берлинский художник Адам Харви применил эту стратегию, разработав макияж и одежду, сбивающие с толку алгоритмы распознавания лиц. Дэниел Хау и Хелен Ниссенбаум сделали нечто похожее с браузерным плагином TrackMeNot: вместо того чтобы скрывать поисковые запросы пользователя в Google, расширение непрерывно генерирует в фоне собственные случайные ложные запросы, так что реальные поисковые интересы человека растворяются в потоке фальшивых следов.
Похожую технику пробовали применять и в области звука. Вудро Хартцог, профессор права Бостонского университета, изучающий приватность и наблюдение, рассказал, что в начале юридической карьеры работал с адвокатами по уголовным делам, которые опасались, что их разговоры с клиентами в тюрьме записывают. Чтобы противодействовать этому, они проигрывали фоном «babble tapes» — аудиофайлы с наложенными друг на друга 40 голосовыми дорожками на разных акцентах.
В 2023 году команда под руководством Мин Гао, ныне исследователя из Нанкинского университета, победила алгоритмы восстановления речи иным способом. Их глушитель, названный MicFrozen, надевает на себя человек, не желающий быть записанным. Устройство слушает его речь и генерирует в реальном времени поток ультразвуковой «антиречи», настроенной под голос говорящего — по принципу, схожему с шумоподавлением в наушниках. Затем устройство добавляет дополнительный слой поддельного, речеподобного звука, чтобы сбить с толку любой алгоритм, пытающийся восстановить утраченную информацию.
Барадари, компания которой работает над устройством Spectre I, не стала раскрывать точный принцип работы сигналов своего глушителя, но подтвердила, что они тоже имитируют речь. В промо-видео Spectre I утверждается, что устройство также сможет обнаруживать присутствие поблизости микрофонов. На вопрос о том, как именно это будет реализовано, Барадари ответила, что команда «сейчас как раз работает над этой частью».
Насколько бы эффективным ни оказался Spectre I, он не станет финалом гонки вооружений в сфере записи. Более мощные AI-модели со временем могут освоить и новые приёмы прослушивания — вплоть до того, что обойдутся без записанного звука вовсе. В фильме Стэнли Кубрика «2001: Космическая одиссея» два астронавта уединяются в звукоизолированной капсуле, чтобы обсудить отключение компьютера HAL 9000, а тот просто читает их слова по губам через иллюминатор. Носимое устройство на модели, обученной на достаточном объёме видеозаписей разговоров, теоретически способно на то же самое. В теории оно могло бы даже восстанавливать речь двух собеседников, наблюдая за вибрациями на поверхности стакана воды между ними.
У AI-гаджетов, скорее всего, всегда будет преимущество перед средствами защиты. Ведь они опираются на технологию, созданную усилиями всей индустрии обработки речи, в которую вкладываются миллиарды долларов — не только на AI-ассистентов, но и на слуховые аппараты, умные колонки и инструменты для видеоконференций. Тем временем защитой от этих технологий занимаются лишь немногочисленные учёные и небольшие компании. «Особенность игры в кошки-мышки в том, что мы прекрасно знаем, чем это обычно заканчивается для мыши, — сказал Хартцог. — А в данном случае в роли кота выступают одни из самых могущественных корпораций, когда-либо существовавших».
Мафия хорошо знает, каково быть мышью. К тому моменту, когда Арилотте, добивающемуся статуса полноправного члена, велели надеть халат, преступные организации десятилетиями вели собственные гонки вооружений в сфере наблюдения. После того как правоохранительные органы начали прослушивать телефоны, боссы стали вести дела лично. Иногда для этого использовали безопасные дома или автомобили, но их тоже могли прослушивать, поэтому чувствительную информацию порой передавали только во время прогулки. В итоге криминальные семьи перешли на одноразовые телефоны, а затем на устройства с шифрованием. Но и здесь они снова попались в лапы кота.
В 2018 году ФБР начало тайно управлять собственной компанией по продаже шифрованных телефонов Anom. Через информаторов бюро продало 12 000 устройств со специальным мессенджером Anom. Члены мафиозных семей, байкерских банд и других криминальных организаций воспринимали эти телефоны как символ статуса и использовали их для переговоров по сделкам с наркотиками, отмывания денег и участия во всех прочих видах незаконной деятельности. Но безопасность, которую якобы обеспечивали эти устройства, была обманом: каждое отправленное сообщение перехватывалось федералами.