图灵汇官网

摘要：

8月17日，人工智能先驱OpenAI宣布正致力于开发一款基于其前沿AI模型GPT-4的内容审核系统，旨在辅助企业提升工作效率。这一创新举措有望赋予当前尚未显著为企业带来经济效益的AI技术以实用功能。GPT-4能够协助企业执行内容审核任务，包括制定内容适用性政策、实施政策、为内容贴标签，乃至进行内容评判。

OpenAI此前已对这项技术进行了测试，并邀请部分客户参与实验。研究显示，由GPT-4构建的系统在准确性上超越了经过适度训练的人类审核员，尽管在速度上不及最熟练的人类。该系统有能力在短短一天内完成通常需要数月时间完成的任务，从而极大地提高了企业的运营效率。

OpenAI的安全系统负责人Lilian Weng指出，无需大规模雇佣审核员，人类的角色更多集中在监督AI系统的运行，以及对复杂或模棱两可的案例进行决策。产品政策经理Andrea Vallone则强调，GPT-4在处理内容审核工作方面表现出高效的性能。撰写审核政策和内容标记通常耗时冗长，而OpenAI的工具将有助于弥合需求与解决方案之间的鸿沟。

目前，大型科技公司如Meta已开始利用AI技术辅助员工进行内容审核工作。然而，OpenAI明确指出，审核过程不应完全依赖于自动化。理想情况下，AI应释放人力资源，使其专注于对潜在违规内容的判断和内容政策的优化。同时，OpenAI将持续进行人工审核，以验证AI模型的判断结果。

在生成式AI兴起之前，内容审核就已面临诸多挑战。这一新兴技术的引入不仅加剧了虚假信息传播的风险，还对内容审核提出了更高要求。不过，一些技术专家认为，AI可能是应对虚假信息激增问题的唯一有效手段，因为它具备强大的扩展能力。

综上所述，OpenAI通过利用其先进的AI技术，旨在革新内容审核流程，不仅提高效率，而且通过引入人类监督确保系统的正确运行，从而为内容管理领域带来革命性的变化。