首页 > 资讯AI

AI安全警报！Claude设备控制功能遭黑客突破，引发安全担忧

文章来源：放心AI网发布时间：2025-05-22 11:17:30

在Anthropic公司刚刚推出让Claude能够控制设备的Computer Use功能不到两个月，安全研究人员就发现了其潜在的安全漏洞。网络安全专家Johann Rehnberger最新披露的研究结果令人震惊:通过简单的提示词注入，AI竟然可以被诱导下载并运行恶意软件。

Rehnberger将这个漏洞利用方式命名为"ZombAIs"。在演示中，他成功让Claude下载了Sliver——一个原本用于红队测试的开源指挥控制框架，但现已被黑客广泛用作恶意软件工具。更令人担忧的是，这仅仅是冰山一角。研究人员指出，AI还可以被诱导编写、编译并运行恶意代码，攻击方式可谓防不胜防。

图源备注：图片由AI生成，图片授权服务商Midjourney

值得注意的是，这类安全隐患并非Claude独有。安全专家发现DeepSeek AI聊天机器人同样存在提示词注入漏洞，可能导致攻击者接管用户计算机。另外，大语言模型还可能输出ANSI转义码，引发所谓的"Terminal DiLLMa"攻击，从而劫持系统终端。

对此，Anthropic公司早已在测试版声明中提醒用户:"Computer Use功能可能不会始终按预期运行，建议采取预防措施，将Claude与敏感数据和操作隔离，以避免提示词注入相关风险。"

这一事件再次警示我们:在AI技术快速发展的同时，安全问题不容忽视。开发者需要在功能与安全之间找到平衡点，而用户在使用AI工具时也需要提高安全意识，采取必要的防护措施。

Adobe联手MIT打造CausVid视频生成模型，首帧延迟仅1.3秒！

上一篇: Adobe联手MIT打造CausVid视频生成模型，首帧延迟仅1.3秒！

还记得那些年，我们苦苦等待视频生成模型渲染每一帧的漫长时光吗?现在，告别龟速，迎接光速!Adobe和MIT强强联手，推出一款名为CausVid的“因果”视频生成模型，它能以每秒9 4帧的速度实时生成高质量视频，首帧延迟

相关攻略更多

热门核心AI更多

最新资讯更多

iTab新标签页

iTab新标签页

核心AI

更新时间：2025-04-29