美国政府对Anthropic最新模型Fable 5和Mythos 5的禁令,对该公司来说是一个重大打击,因为这些模型本将推出备受期待的AI驱动智能家居设备。有观点认为,此举或许对SpaceX有利,因其可能从中受益于Anthropic的技术。
据政府部门内部消息人士透露,亚马逊的研究人员据说找到了绕过Fable 5护栏的方法,引发了国家安全方面的担忧。这一发现可能会被用来对付Anthropic,该公司之前也曾遇到类似问题。对此,Anthropic本身也指出其他模型存在类似的漏洞。
该情况引起了网络安全研究人员的关注,并被认为是“危险”的举动。由包括谷歌和微软在内的多个知名组织签署的一封公开信表达了类似的担忧,呼吁对政府行为增加透明度。这一问题突显了对AI开发监管的更大辩论,以及它们如何影响国家安全和技术创新。