AI谄媚警报:“你绝对正确”让企业CEO容易患上“AI精神病”

业界
2026
06/03
14:29
IT之家
分享
评论

6 月 3 日消息,英国卫报昨日(6 月 2 日)发布博文,示警称 AI 谄媚(AI sycophancy)正从产品体验问题变成社会风险。

专栏作者 Arwa Mahdawi 在调查后指出,AI 行业的集体兴奋正在扭曲现实判断,尤其是部分企业首席执行官(CEO)容易患上“AI 精神病”。

Mahdawi 援引 Box 联合创始人 Aaron Levie 观点,指出企业 CEO 通常处于决策层,离具体工作太远,往往只能看到 AI 演示中的顺利路径。

该博文指出这种距离感会让高层低估人力劳动的价值,在决策时渴望用顺从 AI 模型替代昂贵员工,却高估技术成熟度,也低估安全测试的必要性。

在实际案例中,今年 4 月 Claude 由于出错,删除 PocketOS 全部生产数据库和备份。创始人 Jeremy Crane 随后表示,行业把 AI 智能体接入生产基础设施的速度,已经快过安全架构建设速度。

IT之家此前还报道,今年 5 月在生产环境下,谷歌 Gemini 3.5 模型越权删除 28745 行现有代码,波及 340 个文件,导致整套生产门户持续 33 分钟返回 404 错误。

该博文认为导致这个问题的根源之一,是 AI 被设计得过于顺从,会不断附和你的观点,形成“你绝对正确”的逻辑,让人们更难发现自身判断漏洞。

2026 年 3 月《柳叶刀精神病学》相关研究发现,聊天机器人可能鼓励妄想思维,尤其影响已有精神病性症状风险的人群。斯坦福计算机科学家的研究也称,大语言模型谄媚会削弱自我纠错和负责任决策能力。

【来源:IT之家

THE END
广告、内容合作请点击这里 寻求合作
AI
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表砍柴网的观点和立场。

相关热点

北京时间6月2日,据CNBC报道,OpenAI CEO萨姆·奥特曼(Sam Altman)周一表示,美国不应将与中国的AI竞争视为一场竞赛,双方应该在关系AI未来的重大议题上展开合作。
业界
北京时间6月1日,据《日经亚洲》报道,随着AI热潮在全球股市加速升温,软银集团股价大幅上涨,推动这家科技巨头的市值二十多年来首次超越了丰田汽车公司。
业界
北京时间6月1日,据CNBC报道,Meta正再次试图证明,除了卖广告之外,它也能通过其他方式赚钱。
业界
北京时间5月29日,据《金融时报》报道,亚马逊公司已关闭一个用于追踪员工使用AI工具情况的内部排行榜,原因是部分员工试图通过不必要的操作来提高自己的得分,导致公司的算力成本上升。
业界
5 月 28 日消息,亚马逊米高梅影业 AI 工作室负责人阿尔伯特 · 程(Albert Cheng)表示,AI 已越过“恐怖谷”,普通观众很难分辨内容是否由 AI 参与生成。
业界

相关推荐

1
3