毒害你的数据,反击人工智能
普通人如何通过在音乐数据中投毒来对抗AI爬虫,从Soulseek上的荷马·辛普森人声到干扰AI训练的听不见的音频水印。
开放互联网及其最初的承诺
1996年,约翰·佩里·巴洛发表了《网络空间独立宣言》(A Declaration of the Independence of Cyberspace)。他的论点是,互联网存在于物理世界之外,因此不应受到同样的规则和法规约束。他设想的网络没有边界,也没有付费墙,只有普通人之间自由地连接与分享。
此后的那段时期,是大多数人已经淡忘的时代。在点对点文件共享网络上,逐渐形成了各种社群,人们在这里分享艺术、音乐、知识和信息,无需企业、付费墙或算法的介入。
Soulseek就是这样的网络之一。它于2000年推出,由音乐爱好者为音乐爱好者而打造。它提供稀有的地下黑胶翻录版本、地下电子音乐,以及在其他地方难以找到的无损音频。截至2026年,它仍在运营,其活跃度或许比以往任何时候都要高。
为AI训练而提取共享音乐
巴洛没有预料到,大型科技公司会把这些社群变成一种资源。市值以十亿乃至万亿美元计的公司发现了这些平台,却并不参与其中,而是从中提取数据。
Soulseek 等网站保存着数千小时的高质量无损 FLAC 音频,这正是 AI 模型训练所需要的。这些公司抓取这些网站,并下载其能够访问的所有内容。这些文件是个人和音乐人在分享时并未考虑获得报酬而上传的。AI 公司利用它们构建商业模型,而原始音乐人却分文未得。
数据投毒被视为对这种提取行为的一种回应。
案例研究:在 Soulseek 上替换人声
来自英国、热衷于尝试人工智能和深度伪造技术的 25 岁男子丹尼尔斯先生(Mr. Daniels)拿出了他个人收藏的 2000 多张唱片的音乐库。他去除了每首曲目中的原始人声,并用霍默·辛普森(Homer Simpson)的声音替换。随后,他将这些修改过的文件上传到了 Soulseek。
他没有更改元数据,包括文件名、艺术家标签和专辑信息。由于这些信息与原版保持一致,这些文件看起来十分正规。部分曲目前奏较长,因此听众可能会先播放 30 秒才察觉到异样。
这种方法针对的是自动化采集。AI 爬虫会下载文件并读取元数据,但不会聆听音频内容。它默认这些文件是真实的,并据此进行分类。由此产生的训练数据中,霍默·辛普森的声音被标注为原唱艺术家的音乐。模型会将这些数据视为准确无误的内容。丹尼尔斯先生的意图是,向一个建立在纯净、高质量音频之上的系统中注入噪声。
丹尼尔斯先生表示,他对此感到一定的内疚,因为人类用户同样可能受到影响。这些用户可能会下载某个文件,识别出其中的替换内容,然后转而去下载下一个文件。而 AI 爬虫则无法做到这一点。
数据投毒的形式
数据投毒有多种形式。第二次世界大战期间,“绞肉行动”有意向纳粹提供虚假情报,并由此产生了特定的结果。
21世纪初,各大唱片公司应对点对点文件共享的方式,是用损坏的低质量音频文件充斥这些网络。唱片公司的目的是让用户感到沮丧,直到他们停止下载,转而购买专辑。
当前的做法在目标上有所不同。早期的努力针对的是个人用户,而当前的努力针对的是人工智能公司。
据该消息来源称,Spotify和几家主要唱片公司已联合对人工智能公司提起诉讼,寻求约13万亿美元的赔偿。该消息来源还指出,人工智能公司已下载了网上可获取的商业录音作品的99.6%。
作为投毒方法的音频水印
"霍默·辛普森"方法虽然有效且引人注目,但存在明显的局限性。它耗时较长,而且听众很容易察觉。
包括 Harmony Clock、Poison Pill 和 Synth ID 在内的公司正在开发一种基于音频水印的替代方法。该方法以人类听众无法察觉的方式将数据嵌入音轨中。
其流程如下:
- 选取一条原始音轨。
- 在频谱内的特定模式中嵌入额外信号。
- 人类听众无法感知这些变化。
技术限制:
- 人类听觉的范围大约为 20 赫兹至 20,000 赫兹。
- 标准音频格式可表示的频率上限约为 22,000 赫兹。
- 理论上,数据可以编码到 300,000 赫兹,但生成的文件会极其庞大。
- 压缩为 MP3 等格式会破坏编码在标准范围以上的隐藏数据。
在实践中,大多数音频水印会在可听范围内嵌入细微信号。它利用心理声学掩蔽,将数据隐藏在较响的声音之下,使人耳无法察觉。
该水印并非为人类感知而设计,而是为机器读取而设计。
对AI模型的影响
AI模型并不像人类那样聆听音乐。它们处理的是音频文件完整的数学表示,包括人类无法感知的每一个频率、波形和细节。在带有水印的音频上训练的模型,会在开发者不知情的情况下吸收其中嵌入的数据。
其后果涉及模型对音乐基本要素的理解。模型可能将某首曲目归类为摇滚乐,而水印却指示它将该素材视为古典钢琴曲。之后,当用户请求一段摇滚乐录音时,输出的内容可能听起来像柔和的钢琴曲或莫扎特的作品。
这会降低模型的可靠性和价值。收到此类输出的用户可能不会再回来使用该工具。这种形式的数据投毒被称为"武器化噪声"。它的存在在损害发生之前一直未被察觉。
有效性与局限性
该技术仍处于早期阶段。相关工具较新,仍在开发中,尚无法在本地运行。这限制了其普及应用。
数据投毒并不能阻止人工智能的发展,也不会导致OpenAI等公司倒闭。其作用在于制造摩擦。它降低了数据的可靠性,迫使公司投入资金、时间和资源,以核实训练数据是否干净、合法。否则,这些资源本可用于广告投放、规模扩张和融资。
对艺术家和创作者的启示
音乐人和创作者眼睁睁地看着自己的作品在未经补偿或未经同意的情况下被消费。监管和诉讼至今尚未提供与之相当的救济手段。数据投毒为这些创作者提供了对其作品的保护与控制权。
数据投毒并非完整的解决方案,也不构成胜利。它是对未经授权使用的一种有意义的限制,并代表着一个起点。
失落的开放互联网与数据提取
巴洛在1996年的宣言设想了一个自由的互联网,但像Soulseek这样的点对点社区如今正被AI公司收割,用作训练数据。
- 约翰·佩里·巴洛于1996年发表了《网络空间独立宣言》,主张互联网不应受现实世界规则的约束。
- Soulseek于2000年上线,是一个面向音乐爱好者的音乐分享网站,提供稀有黑胶唱片翻录、地下电子音乐和无损音频。
- 截至2026年,Soulseek仍在运营,活跃度甚至可能比以往任何时候都高。
- 像Soulseek这样的网站包含数千小时的高质量无损FLAC音频,这些是AI公司希望用于模型训练的素材。
- AI公司正在悄悄抓取这些网站并下载文件,却不向原创音乐人支付任何报酬。
给水源投毒
数据投毒被引入作为一种方式,用来污染原始音乐数据,使AI爬虫无法在不引发怀疑的情况下获取这些数据。
- 演讲者使用了河流的比喻:AI公司本可以饮用的干净水源,除非有人先下毒。
- 这段视频所述的主题是数据投毒,以及普通人如何利用它来对抗AI公司,保护艺术家和音乐人。
Daniels先生与荷马·辛普森投毒事件
来自英格兰的25岁Daniels先生,用荷马·辛普森的声音替换了2000多张唱片中的人声,并保留原始元数据后上传至Soulseek,以依赖元数据的AI爬虫为目标。
- Daniels先生今年25岁,来自英格兰,喜欢摆弄人工智能和深度伪造技术。
- 他从自己收藏的2000多张唱片中剥离了原始人声,并用荷马·辛普森的声音取而代之。
- 他保留了元数据、文件名、艺术家标签和专辑信息不变,使文件看起来合法。
- AI爬虫会下载文件并读取元数据而不去聆听,因此会将这些音频视为合法文件。
- Daniels先生承认自己有些内疚,因为真正的人类用户也可能在这场波及中受害。
历史先例与诉讼
数据投毒有其历史先例,包括“绝密行动”(Operation Mincemeat)以及唱片公司向文件共享网络中注入大量数据的做法。如今,数据投毒的目标从个人转向了企业。
- 第二次世界大战期间,“绝密行动”(Operation Mincemeat)有意向纳粹提供虚假情报。
- 21世纪初,各大唱片公司向点对点(P2P)网站大量投放损坏且音质低劣的音频文件,以挫败用户的使用体验,迫使他们购买专辑。
- 现代的不同之处在于,投毒的目标是人工智能公司,而非个人。
- 据报道,Spotify和一些主要唱片公司联手起诉人工智能公司,索赔金额约为13万亿美元,并声称这些公司下载了全球99.6%的商业录音作品。
音频水印及其工作原理
音频水印通过嵌入人类听不见但AI能够读取的隐藏信号,破坏模型所学习的内容。
- 被列为正在研究这一方法的公司包括Harmony Clock、Poison Pill和Synth ID。
- 人类听力范围大约为20至20,000赫兹;标准音频格式可表示的频率最高约为22,000赫兹。
- 理论上可以编码高达300,000赫兹的数据,但会产生极其庞大的文件。
- 超声波频段中的隐藏数据会被MP3压缩摧毁。
- 大多数实用的水印技术利用心理声学掩蔽,在可听范围内嵌入细微信号。
- AI模型处理音频的完整数学表示,包括人类无法感知的部分,因此会吸收这些“毒素”。
- 受污染的训练会使模型产生错误输出,例如被要求生成摇滚乐时却生成钢琴曲或莫扎特的音乐。
- 演讲者将这一结果描述为一种武器化噪声,它会使AI变得不可靠且价值降低。
数据投毒有效吗?
数据投毒仍处于早期阶段,并非决定性的解决方案,但它增加了摩擦,迫使AI公司花费资源核查数据。
- 这些工具还很年轻,仍在开发中,且尚不能在本地运行,这限制了其普及。
- 创作者表示,没有人声称数据投毒会阻止AI浪潮,或让OpenAI等公司破产。
- 其价值在于制造怀疑并设置减速带,迫使公司花费资金、时间和资源来核实数据是否干净。
- 讲述者认为,在监管和诉讼尚未覆盖之处,数据投毒为艺术家提供了保护和自主权。
- 讲述者提到Ben Jordan的YouTube视频,该视频更深入地介绍了数据投毒的技术细节,并采访了Harmony Clock的创作者。
