美国政府禁止Anthropic访问其最新两款人工智能模型Fable 5和Mythos 5的决定遭到了科技行业的广泛批评。
此举被视为试图解决亚马逊研究人员提出的国家安全担忧而采取的一个错误尝试,这些研究人员声称发现了绕过Fable 5防护栏的方法。然而,网络安全研究人员随后签署了一封公开信,称这一举动“危险”,并指出其他模型中也存在类似的规避情况。Anthropic 表示,这些漏洞同样适用于其他模型。
禁令可能旨在保护存储在受影响模型上的敏感信息,但可能会无意中损害该公司的声誉,并限制其开发新AI技术的能力。因此,一些人开始质疑政府是否应该重新考虑其立场或与行业领导者合作以找到更有效的解决方案来解决国家安全问题而不扼杀创新。