孙燕姿都管不了AIGC了，平台怕也难-商品期货

挑战可能真的来了。平台最先按不住AIGC了。

最近两天，先是真的孙燕姿发文“原谅”了AI孙燕姿，然后AI又在美国闹出一个大新闻。美国当地时间5月22日，有一幅“五角大楼周围发生爆炸”的图在社交网站上流传。一时间全网震惊，甚至美股还为此小跌了一下。

图：遵照（现在还不成型的）AI流传道德，这里只放一张被打过叉的原图。

事宜经由一天时间的发酵，现在我们知道：图片是AI合成的。假新闻的源头之一是推特上一个叫作“Bloomberg Feed”的账号，原推的附文煞有介事地说：“华盛顿特区五角大楼修建周围发生伟大爆炸。——开端报道”。

这次的假新闻风浪，意味着推特的内容羁系没能兜住AI内容风险。而且这不是个案，随着AI内容生态的萌发，平台的羁系问题正逐一显露出来。

推特的难题

“五角大楼周围发生爆炸”事宜在发作的几小时内，就履历了几轮发酵。

凭证各方考证，假新闻的源头不止一个，最早的宣布时间可以追溯到当地时间早8点42分。最原始的图在上午10点多被一些蓝标账号捡起来，配上“五角大楼周围发生爆炸”之类的文案再度宣布。其中，前面那张图中的宣布者@Bloomberg Feed看起来最为可信，由于名字中含有Bloomberg（彭博社），而且获得了推特的蓝标认证。但实在该账号和彭博社毫无关系。

新闻发出来之后，好几条原推都被数百万人看到，被其他的蓝标认证用户转发，甚至被印度和俄罗斯带着推特“金标”的正规媒体账号。

早上十点多，美国股市也发生了小幅下跌。许多剖析人士以为，这是该图片引发的市场恐慌。

图：当地时间5月22日的美国道琼斯工业平均指数行情。在10点之后发生了小幅下跌。

不外很快，网民掀起了对该新闻真实性的讨论。首先，虽然许多最早发出来的推都说这是在五角大楼周围，然则照片上的楼并不是五角大楼。另外，照片内里路灯是歪的，而且栅栏与周围景物的遮挡关系也不很写实。

图：AI伪造图的细部。虽然像素不高，但照样看得出物体之间的穿插、遮挡关系异常不自然。

到了10点40多，图片引起了官方的注重。当地的消防机构首先辟谣说，当地没有爆炸发生。之后陆续又有其余组织出头辟谣，民众才确认这则新闻为假新闻，而且照片是AI天生的。

灰尘落定之后，一些网络舆论的矛头最先指向推特的蓝标政策。在马斯克收购推特之后，改变了蓝标用户的认证方式。在此之前，蓝标是免费授予经由身份认证的机构和名人的。去年11月，马斯克把蓝标政策改成了“付费 认证”的形式。然则，新的认证方式十分的不透明，被解读为“拿钱买认证”。本次“五角大楼爆炸”假新闻事宜也进一步印证了，马斯克掌管下的推特，认证制度存在重大缺陷。

不外，这真的只是认证的问题吗？

海内“AI内容羁系第 一枪”？

国资出手，合肥要当光伏第 一城

舆论对本次“五角大楼爆炸”假新闻事宜的问题意识，盯住的是推特的“蓝标认证”制度，由于“蓝标”意味着账号是由真实、认真任的人或组织运营的。这现实上的诉求在于“AI的使用者不能脱责”，这是现在针对AIGC（人工智能天生内容）羁系的一种典型战略。

同样，像微信同伙圈、微博这种即时分享类型的平台让每小我私人都成了新闻资讯的宣布者。那么，每个宣布者为自己宣布的信息认真，这一治理原则在这些平台强化AI内容治理时也被延续了下来。

在“可追责”的思量之上，一些平台最先思量给AI内容加标识，以防止观者混淆AI天生的内容与真实内容。5月9日，抖音祭出了被称为海内“AI内容羁系第 一枪”的行动，要求创作者给AI视频内容打上“AI天生”的水印。

图：抖音划定的“AI天生”水印样式。图片截取自《抖音关于人工智能天生内容标识的水印与元数据规范》

但眼下，随着AI内容生态的演化，我们可以得出一些新的判断：说抖音的行为是“AI内容羁系*枪”，可能强调了其行业意义。

AI水印政策与抖音自身的属性有关。抖音的内容本质上是一个博眼球、争流量的注重力生意，以是抖音理应更关注为了争取流量而掉臂道德原则的AI内容。把AI内容在显著的位置标出，或许能削减类似推特这次事宜，有人把AI虚构的图看成真实图像来流传，造成意料之外的穷苦。

类似地，抖音平台要阻止用户行使AI天生的劣质内容来冲流量。以是抖音阻止了单纯读文案带货的虚拟人直播。这些虚拟人主播可以永一直歇地一直播，而且可以被低成本复制，同时用多个账号播出，然则它在视觉、文案、表达上都十分粗制滥造。这种内容对于抖音的问题在于，用大规模低质量内容冲流量，冲淡平台上的优质内容。

抖音的一些AIGC治理行动，其起点照样抖音平台自身的一些特征。抖音对AIGC的问题意识纷歧定是普适的。

羁系重点的分化

在逻辑差其余内容平台，例如B站这种看重用户创意的平台，AI内容治理又是另一个样貌。

3月30日，B站董事长陈睿在中国网络视听大会上放出豪言，说B站是现在AIGC内容质量最高、最厚实的平台。果真不久之后，“AI孙燕姿”就在B站火了。

纯从内容上说，“AI孙燕姿”是对照原始形态的AIUGC，即“AI辅助用户天生内容”。它是AI内容的另一种样态，甚至可能是未来AI内容的主流样态。和抖音对“用AI虚构内容博眼球”的担忧差异，AIUGC内容拼的依然是创意，这是UGC/PUGC生态的延续。只不外，正如“AI孙燕姿”所露出出的问题，AIUGC现在露出出了知识产权珍爱方面的重大缺陷。

在“AI孙燕姿”这件事上，B站未曾站出来表达自己的羁系态度。倒是孙燕姿本人被炸出来，对“AI孙燕姿”表达了一种“无奈地饶恕”态度。孙燕姿的原话是：“我的粉丝们已正式替换门庭，接受我就是一名冷门歌手的事实，而我的AI角色成为了现在的顶流。我想说的是，你跟一个每几分钟就推出一张新专辑的人（虎嗅注：指AI孙燕姿）另有什么好争的。”

虽然孙燕姿小我私人很慷慨漂亮，然则AIGC的知识产权争议仍在。“AI孙燕姿”爆火之后，有人又提起了“数字水印”手艺。简朴讲，这种手艺是在图像、声音、数据等载体上加符号，这些符号是人看不到、听不出的，但可以用手艺手段识别，而且在原始版权素材被改动之后，依然可以识别出其中的版权符号。这种手艺颇受看好，但其规模性的落地尚需时日。

但总之，B站这类重创意的内容平台，或许能在AIGC的某些元问题上压过那些重流量的内容平台。正如Pinterest——着名的创意分享平台、“设计师之友”——的首席执行官Bill Ready近期在谈论AIGC时多次强调：AI内容应该是人们生涯的“调味品”（additive）而非“瘾品”（addictive）。若是内容平台的焦点算法原本就是让用户上瘾，那么AIGC会在这种算法中把人性的缺陷进一步放大。

Pinterest自身在推荐算法上，坚持探索若何推送具有创意、灵感、个性化价值的内容。这使得Pinterest对低质量的AIGC有一定的抵制力；同时富有新意的AIUGC艺术作品最先在Pinterest上涌现。

图：Pinterest上一位AI辅助创作者的作品目录。他把自己行使Midjourney天生出来的近百个主题（如“科幻场景”“通灵旅程”“政治画”“圣经气概”等）分门别类，整理成库。| 图片泉源：Pinterest @Vellectrum

以是在讨论AIGC平台羁系的时刻，也不能忽视AIGC反过来对平台的刷新，以及潜在的相互成就的时机。

在较短的时间尺度上，AI内容给平台带来一些羁系上的挑战，而且差异运营逻辑的内容平台，其AI治理重点另有分化之势。而在远期，AI内容或许反过来决议平台的生长远景。这个远期趋势，或许才是内容平台面临的*挑战。