文章图片
文章图片
早在生成式人工智能（AIGC）、大语言模型走红的2023年年底 ， 就曾有不少从业者预言AI将会成为互联网虚假内容的“制造机” 。 现实也确实如此 ， 仅仅过去不到两年时间 ， “AI污染互联网”就已经成为了诸多网友的共识 。
作为压实平台主体责任的一环 ， 抖音近日再次出手 ， “AI抖音求真”功能目前已正式上线 。 根据抖音方面介绍 ， 当用户浏览到容易产生误解的内容 ， 或是搜索谣言相关的信息时 ， 就能够通过“AI抖音求真”获知事件的完整信息 ， 了解相关辟谣内容 。
抖音相关负责人表示 ， 近期已将大模型技术应用于谣言治理 ， 7月以来平台谣言曝光量下降67% 。 以往的谣言治理往往需要依靠媒体报道或机构发声 ， 有了辟谣信息就能将谣言信息点人工纳入谣言库 ， 并以此为样本 ， 回查、下架和拦截新增的同类谣言内容 。
具体来说 ， “AI抖音求真”依托于抖音训练的“谣言治理大模型”、“资讯大模型” ， 以及专门的辟谣运营团队 ， 实现了精准定义“内容误导性”、“公共价值”、“可证伪”等谣言特征的能力 ， 做到“化被动为主动” ， 主动审查平台上到达一定热度的内容 ， 并通过提取视频信息、分析主旨、联网搜索 ， 来完成对内容是否为谣言的风险判断 。
当然 ， “AI抖音求真”也并非万灵药 ， 抖音副总裁李亮就在社交平台上表示 ， “AI识谣辟谣是一个新尝试 ， 可能还存在一些不准确、覆盖面不够完整的情况 ， 我们会持续提升 。 也欢迎大家在浏览视频和搜索场景 ， 多体验 ， 多给产品功能提意见 。 ”
兜兜转转一圈后 ， 抖音最终还是选择了“以AI治AI” 。 作为AI时代的弄潮儿 ， 互联网大厂对于AI的破坏力显然心知肚明 。 早在此前的百模大战刚刚开打时 ， 抖音、快手、知乎等内容平台就开始要求创作者主动添加“内容由AI生成”的声明 。
只可惜 ， 创作者普遍相信一旦打上了这个标签 ， 自己的作品就必然会被限流 。 其实这种阴谋论在创作者群体中有市场的原因也很简单 ， 因为内容平台对于AI可以说是又爱又恨 ， 既希望AIGC能实现内容的多元化、从而丰富内容池的深度和广度 ， 又不愿意看到低质量的AIGC内容污染自家内容生态 。
以彼时AI大模型的水平 ， 绝大多数使用AI生产内容的创作者还很难做出高质量的作品 。 再加上最初一批准备使用AIGC的创作者往往“目的不纯” ， 他们对于这个新技术敏感的原因 ， 往往是在上个时代通过“内容农场”赚到钱了 。 但相比自动化脚本 ， 基于多模态大模型的AIGC与人类创作的界限就更加模糊 。
“内容农场”的自动化脚本 ， 也就只能写写“XX到底是怎么回事呢？XX相信大家都很震惊 ， 但是XX到底是怎么回事呢 ， 下面就让小编带大家一起了解吧 。 ”随着网民们被这种生硬呆板的“小编体”拷打多了 ， 自然也就会对其脱敏 。 再说了 ， “小编体”由于呆板也很容易被平台的算法过滤 。
【指望创作者自觉没戏，抖音也开始用AI治理AI谣言】
可反观AIGC ， 它之所以会出圈 ， 就是因为表达能力与人类实在太过接近 。 但由此又诞生了另一个问题 ， 那就是为了让AI表现出与人类相似的智能 ， OpenAI、字节跳动等大厂可谓是穷尽一切 ， 使得AI与人类进入了“安能辨我是雌雄”的状态 。
与此同时 ， 流量分成依然是互联网内容平台坚持的政策 。 既然有利可图 ， 当年做“内容农场”的人现在做“AI农场”也就顺理成章了 ， 可偏偏平台没法自废武功 ， 毕竟取消流量分成会极大打击正常创作者的热情 。 由于指望消灭无良创作者用AI牟利的企图不太现实 ， 所以平台也就只能尝试用技术手段来解决这个问题 。
那么“AI抖音求真”能解决抖音平台的AI虚假内容吗？事实上 ， 这一招在短时间内还只能做到“治标不治本” 。 因为“AI抖音求真”依托的“谣言治理大模型”是通过联网搜索来判断内容的真假 ， 模型的搜索信源则来自权威媒体报道、政务公开平台 ， 以及历史谣言库样本 。
所以这就导致“AI抖音求真”对于以往存在的谣言类型会有效 ， 但对“新鲜事”、“新花样”可能就有力未逮了 。 换而言之 ， “AI抖音求真”的效能主要依托于“谣言治理大模型”的迭代速度 ， 如果它的进化能跟上AI虚假内容的发展 ， 那么用AI来治理AI就是有效的 。 可要是权威媒体没有报道相关内容 ， “AI抖音求真”就只能给出“存疑”的判断了 。
推荐阅读
- YouTube推出Shorts创作者生成式AI工具套件
- B站想用「视频播客」吸引更多优质创作者
- Transformer作者：DeepSeek才有搞头，OpenAI指望不上了
- 深圳这家公司，将麦克风卖给全世界500万创作者
- 抖音升级AI内容标识功能 协助创作者打标、支持元数据读写
- XMAGE“共见·安吉”：华为与创作者以艺术实践探索移动影像
- 可灵AI推出全新“优质创作者”计划，持续赋能创作者
- 大疆DJI Mic 3评测：轻巧全能，创作者无线收音新利器
- XMAGE\共见?安吉\：携手创作者捕捉自然之美，探索移动影像新可能
- 699元起！DJI Mic 3发布：下一款创作者收音神器？