Отравите свои данные. Дайте отпор ИИ.
Как обычные люди отравляют музыкальные данные, чтобы бороться с ИИ-скраперами: от вокала Гомера Симпсона на Soulseek до неслышимых водяных знаков, ломающих обучение ИИ.
Открытый интернет и его первоначальное обещание
В 1996 году Джон Перри Барлоу опубликовал Декларацию независимости киберпространства. Его аргумент заключался в том, что интернет существует за пределами физического мира и поэтому не должен регулироваться теми же правилами и законами. Он представлял себе интернет без границ и платных барьеров, где обычные люди просто общаются и свободно делятся информацией.
Последовавший период — это время, о котором большинство людей успело забыть. На сетях одноранговой передачи файлов (P2P) формировались сообщества, в которых люди делились искусством, музыкой, знаниями и информацией без участия корпораций, платных подписок или алгоритмов.
Soulseek — одна из таких сетей. Запущенная в 2000 году, она создавалась для любителей музыки любителями музыки. Там можно было найти редкие оцифровки андеграундных виниловых пластинок, андеграундную электронную музыку и аудио без потерь качества, которое в других местах было трудно найти. По состоянию на 2026 год сеть остаётся активной, и её активность, возможно, как никогда высока.
Извлечение общей музыки для обучения ИИ
Барлоу не предполагал, что крупные технологические компании превратят эти сообщества в ресурс. Компании, оцениваемые в миллиарды и триллионы долларов, нашли эти платформы, но не участвуют в них. Они извлекают из них данные.
Такие сайты, как Soulseek, хранят тысячи часов высококачественного аудио без потерь в формате FLAC, которое необходимо моделям ИИ для обучения. Эти компании скрапят сайты и скачивают всё, до чего могут добраться. Файлы были выложены частными лицами и музыкантами без расчёта на какое-либо вознаграждение. Компании, занимающиеся ИИ, используют их для создания коммерческих моделей, а исходные музыканты не получают никакой оплаты.
Отравление данных представлено как ответ на это извлечение.
Кейс-стади: замена вокала на Soulseek
Мистер Дэниелс, 25-летний житель Англии, который экспериментирует с ИИ и дипфейками, взял свою личную музыкальную коллекцию из более чем 2000 записей. Он удалил оригинальный вокал из каждого трека и заменил его голосом Гомера Симпсона. Затем он загрузил изменённые файлы на Soulseek.
Он не менял метаданные, включая названия файлов, теги исполнителей и информацию об альбомах. Поскольку эти элементы совпадали с оригиналами, файлы выглядели подлинными. У некоторых треков были длинные интро, поэтому слушатели могли проиграть их 30 секунд, прежде чем замечали подмену.
Метод ориентирован на автоматизированный сбор данных. ИИ-скрейпер загружает файлы и считывает метаданные, но не слушает аудио. Он считает файлы подлинными и сортирует их соответствующим образом. В итоге обучающие данные содержат голос Гомера Симпсона, помеченный как музыка оригинальных исполнителей. Модель воспринимает эти данные как достоверные. Мистер Дэниелс намерен внести шум в систему, построенную на чистом аудио высокого качества.
Мистер Дэниелс заявил, что испытывает некоторое чувство вины, поскольку от этого могут пострадать и живые пользователи. Такие пользователи могут загрузить файл, распознать подмену и перейти к следующему файлу. ИИ-скрейпер так поступить не может.
Формы отравления данных
Отравление данных принимает множество форм. Во время Второй мировой войны операция «Минсмит» намеренно снабжала нацистов ложной информацией, что привело к определённому результату.
В начале 2000-х крупные звукозаписывающие лейблы ответили на обмен файлами через пиринговые сети тем, что наводнили эти сети повреждёнными аудиофайлами низкого качества. Лейблы стремились вывести пользователей из себя, чтобы те перестали скачивать музыку и вместо этого покупали альбомы.
Нынешний подход отличается своей мишенью. Прежние усилия были направлены на отдельных пользователей. Нынешние направлены на компании, занимающиеся ИИ.
По данным источника, Spotify и несколько крупных лейблов совместно подали иски против компаний, занимающихся ИИ, требуя возмещения ущерба примерно в 13 триллионов долларов. В источнике также говорится, что компании, занимающиеся ИИ, загрузили 99,6% коммерческих звукозаписей, доступных в интернете.
Аудиоводяные знаки как метод отравления данных
Метод «Гомера Симпсона» эффективен и привлекает внимание, но у него есть очевидные ограничения. Он отнимает много времени, и слушатели легко могут его обнаружить.
Такие компании, как Harmony Clock, Poison Pill и Synth ID, разрабатывают альтернативу, основанную на аудиоводяных знаках. Этот метод встраивает данные в аудиодорожку так, что человек-слушатель не способен их обнаружить.
Процесс работает следующим образом:
- Выбирается исходная дорожка.
- Дополнительные сигналы встраиваются в шаблоны внутри частотного спектра.
- Слушатели-люди не воспринимают изменения.
Технические ограничения:
- Человеческий слух охватывает примерно от 20 Гц до 20 000 Гц.
- Стандартные аудиоформаты передают частоты примерно до 22 000 Гц.
- Теоретически данные можно закодировать вплоть до 300 000 Гц, однако итоговые файлы получились бы чрезвычайно большими.
- Сжатие в такие форматы, как MP3, уничтожает скрытые данные, закодированные выше стандартного диапазона.
На практике большинство аудиоводяных знаков встраивают незаметные сигналы в слышимом диапазоне. Они используют психоакустическое маскирование, которое прячет данные под более громкими звуками, так что человеческое ухо их не распознает.
Водяной знак не предназначен для человеческого восприятия. Он предназначен для машинного считывания.
Влияние на ИИ-модели
Модели искусственного интеллекта не слушают музыку так, как люди. Они обрабатывают полное математическое представление аудиофайла, включая каждую частоту, форму волны и деталь, которые человек не способен воспринять. Модель, обученная на аудио с водяным знаком, поглощает встроенные данные без ведома разработчика.
Последствия касаются понимания моделью музыкальных основ. Модель может отнести трек к рок-н-роллу, в то время как водяной знак приказал ей рассматривать материал как классическое фортепиано. Позже, когда пользователь запрашивает запись рок-н-ролла, результат может звучать как мягкое фортепиано или Моцарт.
Это снижает надежность и ценность модели. Пользователь, получивший такой результат, может не вернуться к инструменту. Отравление данных в такой форме описывается как оружейный шум. Его присутствие остается незамеченным до тех пор, пока ущерб не будет нанесен.
Эффективность и ограничения
Технология находится на ранней стадии. Инструменты новые, всё ещё находятся в разработке и пока не работают локально. Это ограничивает их распространение.
Отравление данных не останавливает развитие ИИ и не приводит к краху таких компаний, как OpenAI. Его функция заключается в создании трений. Оно снижает надёжность данных и заставляет компании тратить деньги, время и ресурсы на проверку того, что обучающие данные очищены и легитимны. Эти ресурсы в противном случае могли бы быть направлены на рекламу, масштабирование и привлечение финансирования.
Последствия для художников и авторов
Музыканты и авторы наблюдали, как их работы потребляются без компенсации и согласия. Регулирование и судебные иски пока не предоставили сопоставимого средства правовой защиты. Отравление данных предлагает этим авторам защиту и контроль над их работами.
Отравление данных не является полным решением и не означает победы. Это значимое ограничение несанкционированного использования, и оно представляет собой отправную точку.
Утраченный открытый интернет и извлечение данных
Декларация Барлоу 1996 года представляла свободный интернет, но одноранговые сообщества вроде Soulseek сегодня выкачиваются компаниями ИИ для получения обучающих данных.
- Джон Перри Барлоу опубликовал Декларацию независимости киберпространства в 1996 году, утверждая, что интернет не должен регулироваться правилами физического мира.
- Soulseek был запущен в 2000 году как сайт для обмена музыкой для меломанов, предлагая редкие оцифровки виниловых пластинок, андеграундную электронную музыку и аудио без потерь.
- По состоянию на 2026 год Soulseek всё ещё работает и, возможно, активнее, чем когда-либо.
- Такие сайты, как Soulseek, содержат тысячи часов высококачественного аудио в формате FLAC без потерь, которое компании ИИ хотят использовать для обучения моделей.
- Компании ИИ тайно собирают данные с этих сайтов и скачивают файлы, не выплачивая вознаграждения первоначальным музыкантам.
Отравляя воду
Отравление данных вводится как способ загрязнения сырых музыкальных данных, чтобы ИИ-скрейперы не могли их забрать без возникновения сомнений.
- Рассказчик использует метафору реки: чистая вода, которую ИИ-компании могли бы пить, если кто-то не отравит её первым.
- Заявленная тема видео — отравление данных и то, как обычные люди используют его для борьбы с ИИ-компаниями и защиты художников и музыкантов.
Мистер Дэниелс и отравление Гомером Симпсоном
Мистер Дэниелс, 25-летний житель Англии, заменил вокал в более чем 2000 записях на голос Гомера Симпсона и выложил их в Soulseek с сохранёнными оригинальными метаданными, нацеливаясь на ИИ-скраперы, которые полагаются на метаданные.
- Мистеру Дэниелсу 25 лет, он из Англии и любит экспериментировать с ИИ и дипфейками.
- Он удалил оригинальный вокал из своей коллекции более чем 2000 записей и заменил его голосом Гомера Симпсона.
- Он сохранил метаданные, имена файлов, теги исполнителя и информацию об альбомах без изменений, чтобы файлы выглядели легитимными.
- ИИ-скраперы скачивают файлы и читают метаданные, не прослушивая их, поэтому считают аудио легитимным.
- Мистер Дэниелс признал, что испытывает некоторое чувство вины из-за того, что настоящие живые пользователи могут пострадать под перекрёстным огнём.
Исторические прецеденты и иски
Отравление данных имеет исторические прецеденты, включая операцию Mincemeat и затопление файлообменных сетей звукозаписывающими лейблами, а сегодня оно нацелено на корпорации, а не на отдельных людей.
- Во время Второй мировой войны операция Mincemeat намеренно подбрасывала нацистам ложную информацию.
- В начале 2000-х годов крупные звукозаписывающие лейблы наводнили одноранговые (P2P) сайты поврежденными аудиофайлами низкого качества, чтобы заставить пользователей покупать альбомы.
- Современное отличие заключается в том, что отравление данных нацелено на ИИ-корпорации, а не на отдельных людей.
- Сообщается, что Spotify и некоторые крупные лейблы объединились, чтобы подать в суд на компании ИИ примерно на 13 триллионов долларов, утверждая, что те скачали 99,6% коммерческих звукозаписей по всему миру.
Аудиоводяные знаки и принцип их работы
Аудиоводяные знаки внедряют скрытые сигналы, неслышимые для человека, но читаемые ИИ, что искажает то, чему учатся модели.
- К компаниям, которые, как сообщается, работают над этим подходом, относятся Harmony Clock, Poison Pill и Synth ID.
- Человеческий слух примерно охватывает диапазон от 20 до 20 000 Гц; стандартные аудиоформаты передают частоты примерно до 22 000 Гц.
- Кодирование данных на частотах до 300 000 Гц теоретически возможно, но приводит к огромным размерам файлов.
- Скрытые данные в ультразвуковых диапазонах будут уничтожены сжатием MP3.
- Большинство практичных методов водяных знаков встраивает тонкие сигналы в слышимом диапазоне, используя психоакустическое маскирование.
- Модели ИИ обрабатывают полное математическое представление аудио, включая части, которые люди не могут воспринять, поэтому они впитывают «яд».
- Отравленное обучение может заставить модель выдавать неверный результат, например генерировать фортепиано или Моцарта в ответ на запрос о рок-н-ролле.
- Докладчик описывает результат как шум, превращённый в оружие, который делает ИИ ненадёжным и менее ценным.
Работает ли отравление данных?
Отравление данных находится на ранней стадии и не является решающим решением, но оно создает трение, заставляя компании в сфере ИИ тратить ресурсы на проверку данных.
- Инструменты молодые, всё ещё находятся в разработке и пока не работают локально, что ограничивает их распространение.
- Создатель заявляет, что никто не утверждает, будто отравление данных остановит волну ИИ или разорит такие компании, как OpenAI.
- Его ценность в создании сомнений и «лежачего полицейского»: компании вынуждены тратить деньги, время и ресурсы на проверку чистоты данных.
- Рассказчик представляет отравление данных как способ защиты и возможность влиять на ситуацию для художников там, где регулирование и судебные иски этого не обеспечили.
- Рассказчик ссылается на видео Бена Джордана на YouTube, в котором отравление данных рассматривается технически глубже и приводятся интервью с создателями Harmony Clock.
