您的位置：首页 >综合 >

全年无休的内容审核岗位，或将会被AI“干掉”

2023-08-17 14:11:21 来源：三易生活

在翻译、原画师、客服、编辑等岗位后，又一个职业要或许要遭到AI的“毒手”了。日前人工智能研究公司OpenAI在官网声称，其开发了一种使用GPT-4进行内容审核的解决方案，将有望减轻人工审核的负担。据悉，OpenAI此次是将GPT-4用于内容策略开发和内容审核决策，从而实现更一致的标记、更快的策略优化反馈循环，以及减少人工审核的参与。

根据OpenAI发布的相关内容显示，GPT-4可用于制定适当的内容政策，并可以更快的为帖子添加标签或是作出评判。该公司一直在测试这一技术，并邀请相关客户也进行试验，借助该系统，开发和制定内容策略的过程能够从几个月缩短到几小时，GPT-4还能解释长内容策略文档中的规则和细微差别，并立即适应策略更新，从而实现更为一致的标记。

(资料图片)

OpenAI方面认为，GPT-4的这一新功能够为数字平台的未来提供了更积极的应对方案，AI可以减轻大量人工审核员的精神负担。简单来说，OpenAI试图来用GPT-4代替现在互联网平台的审核算法，诸如知乎的“瓦力保镖”、哔哩哔哩的“阿瓦隆”，并进一步在目前主流的“人工+机审”内容审核模型中加重机器审核的比重，将人类从繁重的不良信息处理工作中解脱出来。

不得不说，此次OpenAI为GPT-4准备的内容审核解决方案有很强的现实意义，并且极有可能会成为OpenAI打开企业级市场的先锋。虽然OpenAI绝对是当下最为热门的投资标的，甚至微软投的100亿美元使得他们可以不用为钱发愁，但从盈利性质的研究实验室转变为营利性组织，就注定了OpenAI需要考虑盈利的问题。然而目前的现实，是OpenAI还没有足够的收入来实现收支平衡，这也是近日所谓“OpenAI可能到2024年破产”这一传言的事实基础。

ChatGPT的付费订阅服务和付费API尽管很稳定，但相较于每月维持相关服务需要花费的2100万美元费用，就显得有些杯水车薪了。即便人工智能如同互联网一般可能会改变人类社会的远景固然美妙，可毕竟一味给投资人画饼不能解决所有问题，因此如何赚取更多利润也是OpenAI的近忧。

所以基于GPT-4的内容审核解决方案可能会成为OpenAI的一剂“解药”，因为内容审核正是当下全球几乎所有互联网平台普遍头疼的问题。

在互联网时代早期，内容审核其实根本就不在相关厂商的认知范围里，因为《数字千年版权法案》在客观上使得早期的互联网厂商规避了内容审核这一义务，从自由到无序也是彼时整个互联网的特色。但随着互联网对于社会生活的影响逐渐扩大，相关监管也走上了正轨，进而使得内容审核变成了互联网平台的责任。毕竟除了满足用户猎奇的心态外，诸如血腥暴力、宣扬仇恨等内容对于平台的发展、变现模式，乃至用户健康是没有任何帮助的。

不良内容不适合公开展示给大众，彼时也成为了各大互联网厂商的共识，但内容审核本身又是一个与互联网可谓是格格不入的事物，也是互联网厂商为了合规而设置的岗位。在互联网厂商的体系中，内容审核更像是一个类似“清洁工”的职位，并且是活跃在虚拟世界里的保洁人员。由于互联网平台无时无刻不在限制、构建和推动在线的言论，因此也导致“商业性内容审核”是互联网平台合规的重要环节之一，可它本身又极其枯燥。

在在2018年，聚焦Facebook等海外平台的内容审核外包服务纪录片《网络审核员》上线。镜头从Facebook位于菲律宾马尼拉的内容审核办公室开始，向外界展示了内容审核人员鲜为人知的日常工作。他们的一天往往就是打开电脑、登陆后台系统，对着屏幕不停判断数以亿计的图片、文字、视频、音频等各种介质所承载的内容，其中合格的通过、不合格的删除或是打回。

枯燥乏味且面对的内容可能是负面的，就导致了内容审核人员往往背负了巨大的精神压力，所以受到心理创伤的情况也屡见不鲜。而这一点从互联网厂商招聘内容审核时，介绍该岗位需要具有良好的沟通能力、抗压能力出色、能够接受夜班安排等要求，就可见一斑。如果仅从内容审核这个工作本身出发，每天审核成百上千条各类内容的工作，其实与流水线上的计件工作几乎没有什么区别。

无论是从形式上分析，还是来自内容审核从业者的吐槽，都向外界描绘了一个真正意义上的互联网“打螺丝”工作。对于这一类机械的工作内容，互联网厂商自然就会想到外包，但外包模式的质量却难以控制，而且关联着合规的审核一旦出现意外，往往就不是小问题了。因此在内容审核外包偶尔翻车的情况下，互联网厂商一直在寄希望于用算法来代替人工。

用算法识别出的风险标签、进而自动过滤不良信息，这其实是到目前为止全球互联网厂商的通用策略。目前在大部分AI能力在线的平台上，算法负责的审核内容已经达到了95%，只有5%左右靠的是人工，但考虑到大平台的体量，即便仅仅只有5%的内容份额，绝对数量就已经十分夸张了。

此外算法加持下的机器审核最大的问题是“信任”，现阶段除了少量特定关键词是被完全禁止外，大量的内容是否合规其实是比较模糊的。而且网友们在经过了这些年与审核的斗智斗勇后，也逐渐找到了绕过审核的方式，比如在某平台上，“秒杀”、“赚钱”、“直播间”就变成了谐音词“秒秒”、“赚米”、“啵啵间”，这一切就导致了人工审核还肩负着校对的责任。

而OpenAI这一套基于GPT-4内容审核模式的最大优势，就是进一步减少人工干预。以往由于机器学习相关技术还存在上下文理解能力缺乏的问题，因此也导致相当多本来正常的内容被错误的判断为不良信息，而且内容政策是在不断变化的，算法的调整跟不上现实变化也是常态。但毫无疑问的是， GPT-4更加与时俱进，也更容易结合上下文来判断出内容的真实含义。

因此在许多业内人士看来，作为互联网行业中的“赛博搬砖”工作，内容审核未来会被人工智能代替再正常不过了。

标签：