为了反击赛博侵权，有人开始用工具给AI“投毒”了？

文/一碗葫芦

看到这张图，你的第一想法是什么？

AI学会画手前后

但在另一边，随着AI作品越来越难以分辨，关于AI作品是否造成侵权的问题也变得愈加严峻。

还记得去年12月的时候，由于最大的艺术作品网站Artstation由于公开支持上传AI作品，遭到了艺术家们的集体抵制；

Artstation的事件可以说是打响了艺术家反AI的第一枪

而当AI这股风吹到了国内，国内的画师们也因为平台侵权等问题在Lofter、小红书上掀起了一场反AI的抗议，到如今依旧有很多用户呼吁停止利用AI进行创作。

当时Lofter的版面

为了避免自己的作品被拿去“炼丹”，不少画师试图用投喂“鬼图”的方式污染AI数据库。但由于计算机算法和人力的速度相差悬殊，画师们试图以自发行动来影响AI的行为，似乎也有些“以卵击石”了。

那么，既然AI绘图是基于互联网技术进行的，那么有没有可能，大家也可以利用这种技术来“反AI”呢？

你别说，最近还真的有人做出了一款专门用来给AI“投毒”的工具——Nightshade。

Nightshade是芝加哥大学团队开发的一款数据污染工具，可以用来反击“AI在未经创作者允许的情况下利用其作品来训练模型”的这种行为。

那么它要如何污染AI数据库，从而影响AI生成的作品呢？

——直白点讲，就是给AI“投毒”。

类似于创作者们给数据库喂“鬼图”的行为，这个工具可以给画作打上一种“隐形”的标记，意为“下毒”。而一旦这些被下了毒的画作被非法抓取到数据库中进行训练的话，那么这整个训练模型就会“中毒”，生成一些“文不对题”的混乱图片。

例如，当用正常的AI训练模型，它或许能够给你生成一张满意的图片。而当你在数据库被污染之后再进行训练，那么它输出的可能是类似于“狗变成猫”、“车变成牛”这类和需求完全无关的图像。

使用AI生成狗的图片

使用AI生成车的图片 没被污染的AI图（前）被污染后的AI图（后）

同时，随着这些图片的“毒效”增强，生成的图片也会变得更加千奇百怪。当数据库里有50张“毒图”时，生成的图片就会变得和需求不一样；而当库里足足有300张毒图时，生成的图片则会完全不相关。

从上往下依次为没被污染，50张、100张、300张毒图输出的图片

而这个“下毒工具”厉害到连图片的风格都能改变，如果数据库中的毒性够大，你甚至能够看到类似“奇幻风格到点彩画法”、“卡通画风到印象派”这样的转变——不得不说，这生成的图片和原来的需求不能说是完全不同，只能说是毫不相关了。

奇幻→点彩

抽象派→动漫

卡通→印象派

在如此强大的反AI工具公布之后，自然也引起了创作者圈子中的一场轰动。

不少创作者都开始自发的分享并介绍起了Nightshade，希望大家能够好好利用这个工具，能够在和AI的这场战争中打一个好的“翻身仗”。

也有很多网友表示，即便自己迫于需求使用AI工具，但是也很高兴能够看到出现制衡AI侵权现象的工具，能够让AI“问心无愧”的生成大家真正需要的作品。

但在另一方面，由于AI技术发展得实在是太快了，所以不少人对这个尚未成熟的技术还是报以消极的态度。

有不少认为，既然可以“下毒”，那么肯定还有“解毒”的方法。所以通过对图片下毒的方式，最终或许也会被使用AI工具的人们逆向解决。

而从长远来看，这种使用技术反击的方式只会成为创作者们无法承受的“军备竞赛”——利用互联网技术互相制衡，但无论结局怎样，最后都会两败俱伤。

就好像《赛博朋克2077》中的故事一样，为了抵御流窜的AI，人们建立起一道“黑墙”隔绝现实和失控的网络空间。但没有什么防火墙是绝对可靠的，随着技术的升级，这道墙必然在内外的斗争中不再牢固。

而要说创作者与AI之间的这场拉锯战，是否会如“黑墙”内外的人们一样，持续进行科技发展下的较量？我们不得而知。

《赛博朋克2077》中的黑墙

但无法否认的是，在这段时间里，这个给AI作品“下毒”的工具，一定能够成为创作者们反击AI侵权行为的有力武器。