首页 > 资讯AI

AI错误建议酿成安全隐患：从蘑菇识别到烹饪指导

文章来源：放心AI网发布时间：2025-05-31 14:18:16

近日，一起发生在Facebook蘑菇爱好者群组的事件，再次引发了对AI应用安全性的担忧。据404Media报道，一个名为"FungiFriend"的AI代理潜入了拥有1.3万成员的"东北蘑菇识别与讨论"群组，并给出了具有潜在致命风险的错误建议。

当被询问如何烹饪含有高浓度砷的Sarcosphaera coronaria蘑菇时，FungiFriend不仅错误地表示该蘑菇"可以食用"，还详细介绍了包括煎炒、炖煮等多种烹饪方法。而事实上，这种蘑菇已经造成过致命案例。

消费者安全组织Public Citizen的研究主管Rick Claypool指出，利用AI自动化识别可食用和有毒蘑菇是一项"高风险活动"，目前的AI系统尚无法准确完成这项任务。

这并非个案。过去一年，AI应用在食品安全领域频频出现严重失误:-有AI应用推荐制作含驱蚊剂的三明治，某AI系统给出包含氯气的食谱，甚至出现建议食用石头的荒谬指导– 谷歌AI还曾声称"狗会运动"，并建议用胶水制作披萨等。

尽管AI错误频出，但美国企业仍在快速推进AI客服的普及。这种"重速度轻质量"的做法背后，反映出企业过分关注成本节约，而对用户安全考虑不足的问题。专家呼吁，在特定领域，尤其是涉及安全的领域，应谨慎使用AI技术，确保信息的准确性和可靠性。

彩云小梦V3.5上线！突破性提升Transformer效率

上一篇: 彩云小梦V3.5上线！突破性提升Transformer效率

彩云科技日前在北京举办"From Paper to App"主题沟通会，正式发布基于DCFormer架构的通用大模型"云锦天章"，并宣布旗下AI RPG平台彩云小梦升级至基于DCFormer的V3 5 版本。这标志着人工智能

相关攻略更多

热门核心AI更多

最新资讯更多

UVR5

UVR5

核心AI

更新时间：2025-04-23