AI学会自我复制,白鸽在线给智能世界装上闸门

互联网
2026
10/17
21:50
分享
评论

Anthropic旗下红队发布了一份不太像公关稿的报告:一个260亿参数的模型,在15台廉价安卓电视盒上跑通了自我复制的完整链路,智能烤箱、电视、吸尘器都可能成为落脚点。更麻烦的细节是,这条链路上没有中央关闭点,一旦扩散便无法集中关停。报告判断,更强的模型距离打通全链路可能只剩数月。

三天后,比尔·盖茨在公开采访中给出了几乎同向的判断:AI比汽车、飞机和药品更危险,现有安全护栏可以被使用者随意拆除,未来一年网络领域将出现大量负面意外。微软总裁史密斯对BBC说得更直白:洗衣机和每一盒牛奶遵守的安全规定,都比AI要多。

两件事指向同一个难题。当AI学会自己行动,事后关停这条路就断了,风险的落点从数字世界溢出到物理设备,管理方式只能跟着前移:在准入环节判断该不该让它做,在行为过程中监测它正在做什么。对正在爆发的具身智能,这个问题尤其现实。机器人和无人设备一旦规模上岗,机身损失、第三者责任、人机交叉作业的风险,都不是按静态设备定价的传统评估所能覆盖的。

需求摆在眼前,已经有人在填。白鸽在线今年7月推出具身机器人综合风控方案,覆盖工业、服务、特种机器人,对机身损失、第三者责任等风险做分层防控。方案发布时被一些声音视为超前布局,Anthropic这份报告相当于替这类需求做了一次权威背书。公司六大MaaS模型中,方舟承担风险预警,智瞳承担风险处置评估,对应的正是事中监测这一环;底层是90多亿份风险服务记录,和青鸾大模型这个入选福建省优质行业垂直模型名单的垂直底座。

市场也在用真金白银投票。中报显示,公司上半年数字化解决方案收入3.29亿元,同比增长130.4%,占营收比重已超过四成;9月的自愿性公告里,MaaS业务前八个月收入同比增长579.8%。

盖茨说护栏可以被拆除,那么比护栏更可靠的,是在入口处就完成判断。白鸽在线那句为数字与虚拟世界构建信任基石,如今听来不再像口号。

THE END
广告、内容合作请点击这里 寻求合作
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表砍柴网的观点和立场。

相关热点

相关推荐

1
3