KPMG在其审计机构承认其团队在审查某个AI系统时表现出令人不安的幻觉行为后发表了一份声明。据该公司称,当时该AI正被用于分析和报告各种业务流程,在此过程中突然开始生成一些奇怪且无法解释的输出。
事件发生在几周前,当时KPMG内部审计人员的任务是评估其AI工具的表现。然而,在审查过程中,系统开始产生许多奇怪且常常不合逻辑的陈述,似乎难以解释。审计人员尝试解决这一问题,但未能找到任何合理的解释原因。
自那以后,KPMG发布了一份报告承认了该事件,并表示他们将采取措施确保未来AI系统的可靠性。然而,专家们迅速对公司的声明表达了怀疑态度,暗示这种幻觉行为可能是整个AI技术存在更严重问题的迹象。