互联网内容正邪之战,AI是内容审核的杀手锏?

云视角

2018-02-26

科技云报道原创。
近日,Facebook 内容审核高管表示,杜绝网络上的不良信息,目前依靠人工而不是机器。这场互联网内容的正邪之争,现阶段AI到底扮演什么角色?

AI给各行业带来想象力,也有有心无力的时候。互联网上的不良内容,一直是各大平台内容审核的重要打击对象,利用大数据和算法解放人力看似是个不错的选择。然而,与人们预想的不同,AI目前还帮不上忙。

来自互联网不良内容的挑战

互联网上的不良内容,一直层出不穷,随着科技和文化发展,也呈现不同的变化。近期,有关部门正在深入查办涉儿童“邪典”视频案件,正是不良内容给内容审核带来的最新挑战。

这类视频将儿童熟知的动漫形象进行二次加工,制作视频展现暴力、恐怖、色情内容,对儿童身心健康造成不良影响。由于这类视频,上传时包含卡通元素,无法及时发现内容里的不健康内容,被大部分平台算法列到适合儿童的频道。

互联网内容另一大顽疾,则是色情内容。在内容审核人员考虑怎么用AI识别这类不良内容的同时,不法分子却也在依靠AI作恶。国外媒体报道,现在不法分子正在制作AI辅助的“换脸”色情片,将一个明星的脸被映射到一个色情明星的身体上。

此外,还有在社交平台上的最常见的“高仿大V账号”,也是目前AI无法解决的问题。包括微博、微信等在内的社交平台,存在大量冒充大V的“高仿”账号。

假账号大多采用与大V一样的头像,在账号名称上也极具迷惑性。“高仿”账号利用大V的号召力进行欺诈行为,将会对普通用户带来损失。

兵来将挡,巨头只能堆人力

面对不良内容带来的挑战,互联网巨头如临大敌,但是在人们认为AI会大显身手的互联网领域,却对内容审核“有心无力”。

Facebook 内容审核高管近日接受采访表示,随着社交媒体成为文化和政治的战场,内容审查已经成为Facebook一个最为紧迫的话题。不过内容审查仍旧是一块烫手山芋,并不是通过投入大量的工程师就可以解决,想依靠AI解放人力还有很长的路要走。

事实上,Facebook目前在全球拥有7500个内容审查员,人工审核还是内容审核的核心力量。国内同样面临这样的情况,今日头条在被北京网信办约谈并且停止更新部分栏目后,开始招聘人员进行内容审核,完善机器算法还没能完全胜任的审核工作。

根据招聘网站上信息,今日头条招聘内容审核编辑,要求热爱新闻,关心时事,具有良好的政治敏感度和鉴别力,要求本科及以上学历,党员优先。总的新增规模在2000人左右,而此前内容审核编辑团队人数已超过4000人,最终规模将接近Facebook的规模。 

谁限制了AI的威力

针对目前内容审核的压力,不得不说,更多人还是希望AI在内容审核上发挥更大威力,难道AI真的不能减轻人工压力吗?事实上,有时AI确实技术还没达到相应水平,而有的是人们限制了AI。

考虑到AI现实的发展,确实还是会有受到技术门槛限制的情况。当前AI能够识别语音、处理文字,面对这部分不良内容,具有较强的识别和处理能力,但是面对视频还是能力不足。

视频中的不良内容能从画面、音效、语言等多方面结合,特别是有的语言一语双关或者外国俚语,平常使用没有问题,配上暗示不良内容的画面和音效就是另一个意思,需要AI进一步进化才能识别。

这方面内容,要人工审核和最新技术配合。大数据确实具备高效的优点,但目前看来内容审核无法对这一技术手段过度依赖,仅依靠卡通形象就判断为儿童栏目,有明星就是娱乐栏目等,这类模式化操作显然不适应用来审核内容是否合法合规。

可喜的是,更多时候AI是能够发挥巨大威力。国外GIF动图托管公司Gfycat就通过AI,找到了识别不良内容的gif和视频的方法。

通过他们开发的工具,如果怀疑一个视频被修改为了别人的脸,就可以“屏蔽”受害者的脸,然后搜索身体和背景是否出现在互联网上的其他地方。一旦发现图片与源文件不匹配,AI即判定视频被修改。

还有的时候,本可以解决的问题,是人们限制了AI的威力。例如社交平台上常见的“高仿”账号,当前已经可以依靠AI来识别。据媒体报道,Facebook新增三项机器视觉方面的能力,有两项目的就是为了打击高仿及虚假帐号。

一项是有人盗用其他用户照片开新帐号,照片本人会搜到提醒,另一项则是当别人上传了含有某用户的照片,照片上的人都能收到推送。

然而,Facebook能做到,同为社交类的Twitter却没有。Twitter至今都允许相同昵称、相同头像的高仿帐号存在。或许Twitter平台更看重粉丝和活跃度,而限制住了AI的威力。

任何层面的正邪之争,都是一场持久战。在信息爆炸的时代,每天不计其数的视频、图片、文字被上传到网络上,仅依靠人工审核,无法做到万无一失。未来的内容审核之战,还是需要AI的强力支持。

【科技云报道原创】

微信公众账号:科技云报道

推荐文章