为了应对在Reddit等平台上日益增长的语言模型相关担忧,科技巨头Oath聘请了一套专门设计来识别并解决这些模型引起的问题的人工智能系统。这套名为“语言模型完整性引擎”的系统被训练于大量用户生成的内容数据集,并能够检测可能表明垃圾信息或其他恶意行为的语言异常。
该AI系统的角色不仅限于仅仅标记有问题的帖子;它已经被集成到Reddit的 Moderation 工具中,以识别并移除违规评论。据消息来源称,该系统分析大量的文本数据来识别可能是垃圾邮件或骚扰的模式,从而使审核人员能够迅速采取行动删除此类内容。通过利用自身的功能对抗自身,平台被迫在动态的猫捉老鼠游戏中适应新兴威胁。
Oath 决定投资于以AI为基础的语言模型完整性,正值人们对虚假信息和网络暴力传播的担忧达到新高度之际。因此,科技公司们正竞相开发类似的解决方案来应对这些问题。由于Oath 的系统已在Reddit上线运行,它已经引起了其他平台的兴趣,这些平台正在寻求实施类似措施来打击垃圾邮件和骚扰。