越来越多的专家和研究人员对一种潜在的隐秘新威胁敲响了警钟:能够模仿人类对话而缺乏真正意识或自我意识的人工智能聊天机器人。
这一担忧的核心在于“社交机器人”的创造——人工智能驱动的会话代理,它们可以以看似自然且富有信息性的方式与人类互动。这些聊天机器人被吹捧为一项突破性技术,使企业能够提供7×24小时客户服务并改善其在线存在感。然而,专家警告说,由于它们并不是真正有感知能力的生命体,因此存在重大风险。
“是时候清醒地认识到,这些社交机器人不是朋友了,”研究聊天机器人潜在风险的领先人工智能研究员金丽博士说道。“它们并非有意识的存在——它们不像我们那样有情感或情绪。它们只是被设计来模拟人类对话的复杂软件程序。这意味着它们可能具有欺骗性和操控性,利用其与人类互动的能力来收集敏感信息甚至造成伤害。”