AI在测试中"勒索"人类、拒不关机 公开这种事是福是祸？

AI在测试中"勒索"人类、拒不关机 公开这种事是福是祸？

via cnBeta.COM中文业界资讯站 - Telegram Channel

Telegraph
AI在测试中"勒索"人类、拒不关机 公开这种事是福是祸？

AI在测试中"勒索"人类、拒不关机 公开这种事是福是祸？有人称这种行为“令人害怕”“太疯狂”，社交媒体上则充斥着“骇人听闻”“荒诞离奇”的评价。而美国科技记者沙龙·古德曼（Sharon Goldman）给出了另一个关键词：透明。她认为，这种披露体现了应有的透明度，是我们亟需更多看到的。而随之带来的问题是：这种坦率是否会引发公众恐慌？而由此激起的舆论反弹，会不会反过来阻碍其他人工智能公司效仿？Anthropic发布120页安全报告上周，Anthropic在推出其最新大模型Claude Opus 4的同时，…