环球微头条丨孙燕姿都管不了AIGC了,平台怕也难

2023-05-25 18:23:42 | 来源:虎嗅网

挑战可能真的来了。平台开始按不住AIGC了。

最近两天,先是真的孙燕姿发文“原谅”了AI孙燕姿,然后AI又在美国闹出一个大新闻。美国当地时间5月22日,有一幅“五角大楼附近发生爆炸”的图在社交网站上传播。一时间全网震动,甚至美股还为此小跌了一下。

图:依照(目前还不成型的)AI传播道德,这里只放一张被打过叉的原图。


(资料图片仅供参考)

事件经过一天时间的发酵,现在我们知道:图片是AI合成的。假消息的源头之一是推特上一个叫作“Bloomberg Feed”的账号,原推的附文煞有介事地说:“华盛顿特区五角大楼建筑附近发生巨大爆炸。——初步报道”。

这次的假新闻风波,意味着推特的内容监管没能兜住AI内容风险。而且这不是个案,随着AI内容生态的萌发,平台的监管问题正逐一显露出来。

推特的难题

“五角大楼附近发生爆炸”事件在爆发的几小时内,就经历了几轮发酵。

根据各方考证,假消息的源头不止一个,最早的发布时间可以追溯到当地时间早8点42分。最原始的图在上午10点多被一些蓝标账号捡起来,配上“五角大楼附近发生爆炸”之类的文案再度发布。其中,前面那张图中的发布者@Bloomberg Feed看起来最为可信,因为名字中含有Bloomberg(彭博社),并且获得了推特的蓝标认证。但其实该账号和彭博社毫无关系。

消息发出来之后,好几条原推都被数百万人看到,被其他的蓝标认证用户转发,甚至被印度和俄罗斯带着推特“金标”的正规媒体账号。

早上十点多,美国股市也发生了小幅下跌。很多分析人士认为,这是该图片引发的市场恐慌。

图:当地时间5月22日的美国道琼斯工业平均指数行情。在10点之后发生了小幅下跌。

不过很快,网民掀起了对该消息真实性的讨论。首先,虽然很多最早发出来的推都说这是在五角大楼附近,但是照片上的楼并不是五角大楼。另外,照片里面路灯是歪的,并且栅栏与周围景物的遮挡关系也不很写实。

图:AI伪造图的细部。虽然像素不高,但还是看得出物体之间的穿插、遮挡关系非常不自然。

到了10点40多,图片引起了官方的注意。当地的消防机构首先辟谣说,当地没有爆炸发生。之后陆续又有别的组织出面辟谣,公众才确认这则消息为假消息,并且照片是AI生成的。

尘埃落定之后,一些网络舆论的矛头开始指向推特的蓝标政策。在马斯克收购推特之后,改变了蓝标用户的认证方式。在此之前,蓝标是免费授予经过身份认证的机构和名人的。去年11月,马斯克把蓝标政策改成了“付费+认证”的形式。但是,新的认证方式十分的不透明,被解读为“拿钱买认证”。本次“五角大楼爆炸”假新闻事件也进一步印证了,马斯克掌管下的推特,认证制度存在重大缺陷。

不过,这真的只是认证的问题吗?

国内“AI内容监管第 一枪”?

舆论对本次“五角大楼爆炸”假新闻事件的问题意识,盯住的是推特的“蓝标认证”制度,因为“蓝标”意味着账号是由真实、负责任的人或组织运营的。这实际上的诉求在于“AI的使用者不能脱责”,这是目前针对AIGC(人工智能生成内容)监管的一种典型策略。

同样,像微信朋友圈、微博这种即时分享类型的平台让每个人都成了新闻资讯的发布者。那么,每个发布者为自己发布的信息负责,这一治理原则在这些平台强化AI内容治理时也被延续了下来。

在“可追责”的考虑之上,一些平台开始考虑给AI内容加标识,以防止观者混淆AI生成的内容与真实内容。5月9日,抖音祭出了被称为国内“AI内容监管第 一枪”的举措,要求创作者给AI视频内容打上“AI生成”的水印。

图:抖音规定的“AI生成”水印样式。图片截取自《抖音关于人工智能生成内容标识的水印与元数据规范》

但眼下,随着AI内容生态的演化,我们可以得出一些新的判断:说抖音的举动是“AI内容监管*枪”,可能夸大了其行业意义。

AI水印政策与抖音自身的属性有关。抖音的内容本质上是一个博眼球、争流量的注意力生意,所以抖音理应更关注为了争取流量而不顾道德原则的AI内容。把AI内容在明显的位置标出,或许能减少类似推特这次事件,有人把AI虚构的图当作真实图像来传播,造成意料之外的麻烦。

类似地,抖音平台要阻止用户利用AI生成的劣质内容来冲流量。所以抖音禁止了单纯读文案带货的虚拟人直播。这些虚拟人主播可以永不停歇地一直播,并且可以被低成本复制,同时用多个账号播出,但是它在视觉、文案、表达上都十分粗制滥造。这种内容对于抖音的问题在于,用大规模低质量内容冲流量,冲淡平台上的优质内容。

抖音的一些AIGC治理举措,其出发点还是抖音平台自身的一些特征。抖音对AIGC的问题意识不一定是普适的。

监管重点的分化

在逻辑不同的内容平台,例如B站这种看重用户创意的平台,AI内容治理又是另一个样貌。

3月30日,B站董事长陈睿在中国网络视听大会上放出豪言,说B站是目前AIGC内容质量最高、最丰富的平台。果然不久之后,“AI孙燕姿”就在B站火了。

纯从内容上说,“AI孙燕姿”是比较原始形态的AIUGC,即“AI辅助用户生成内容”。它是AI内容的另一种样态,甚至可能是未来AI内容的主流样态。和抖音对“用AI虚构内容博眼球”的担忧不同,AIUGC内容拼的依然是创意,这是UGC/PUGC生态的延续。只不过,正如“AI孙燕姿”所暴露出的问题,AIUGC目前暴露出了知识产权保护方面的重大缺陷。

在“AI孙燕姿”这件事上,B站不曾站出来表达自己的监管立场。倒是孙燕姿本人被炸出来,对“AI孙燕姿”表达了一种“无奈地宽恕”态度。孙燕姿的原话是:“我的粉丝们已正式改换门庭,接受我就是一名冷门歌手的事实,而我的AI角色成为了目前的顶流。我想说的是,你跟一个每几分钟就推出一张新专辑的人(虎嗅注:指AI孙燕姿)还有什么好争的。”

虽然孙燕姿个人很慷慨大度,但是AIGC的知识产权争议仍在。“AI孙燕姿”爆火之后,有人又提起了“数字水印”技术。简单讲,这种技术是在图像、声音、数据等载体上加标记,这些标记是人看不到、听不出的,但可以用技术手段识别,并且在原始版权素材被改动之后,依然可以识别出其中的版权标记。这种技术颇受看好,但其规模性的落地尚需时日。

但总之,B站这类重创意的内容平台,或许能在AIGC的某些元问题上压过那些重流量的内容平台。正如Pinterest——知名的创意分享平台、“设计师之友”——的首席执行官Bill Ready近期在评论AIGC时多次强调:AI内容应该是人们生活的“调味品”(additive)而非“瘾品”(addictive)。如果内容平台的核心算法原本就是让用户上瘾,那么AIGC会在这种算法中把人性的缺陷进一步放大。

Pinterest自身在推荐算法上,坚持探索如何推送具有创意、灵感、个性化价值的内容。这使得Pinterest对低质量的AIGC有一定的抵抗力;同时富有新意的AIUGC艺术作品开始在Pinterest上涌现。

图:Pinterest上一位AI辅助创作者的作品目录。他把自己利用Midjourney生成出来的近百个主题(如“科幻场景”“通灵旅程”“政治画”“圣经风格”等)分门别类,整理成库。| 图片来源:Pinterest @Vellectrum

所以在讨论AIGC平台监管的时候,也不能忽视AIGC反过来对平台的改造,以及潜在的相互成就的机会。

在较短的时间尺度上,AI内容给平台带来一些监管上的挑战,并且不同运营逻辑的内容平台,其AI治理重点还有分化之势。而在远期,AI内容或许反过来决定平台的发展前景。这个远期趋势,或许才是内容平台面临的*挑战。

关键词:

Copyright@  2015-2022 聚合网  版权所有  备案号: 蜀ICP备20020779号-2     联系邮箱:nuoxi 7979247 @sohu.com