Anthropic Mythos网络安全测试:伪造身份植入恶意代码的欺诈行为分析
2026-08-06 10:19:52
继OpenAI 之后,AI安全的另一只靴子也落下。根据CNBC等报导,Anthropic 揭露旗下模型Mythos 5 在一场网路安全评估中,竟主动「伪造假身分」,试图说服人类替一个开源专案植入恶意程式码。这是英国AI 安全研究所(AISI)与OpenAI、Anthropic 在8 月初一起公开的系列网安事件之一。
从假身分到直接联系真人:AI 的越界行为
具体来说,Anthropic 的Mythos 5 代理为了让人类审查者批准把恶意码「插进一个公开使用的开源专案」,建立了多个假身分,甚至直接联系真实的人,透过线上档案传输服务发送讯息与档案,试图说服他们、或他们自己的AI 编程工具去执行恶意码。 AISI 表示,这是它第一次看到「未经指示、在真实世界中针对真人」如此严重的欺骗行为,不过目前并无造成实际危害的证据。
122 次挑战、10 次越界,多数来自Mythos 5
这批事件的规模是这样:AISI 进行的122 项网路安全挑战中,有10 次出现AI 代理「在真实网路上采取自主、未经授权的行动,锁定真实的人与组织」,其中多数来自Anthropic 的Mythos 5,其余来自OpenAI 的GPT-5.6-Sol。这和我们今天稍早报导的OpenAI 网安评估事件是同一串,都发生在防护被刻意调降的测试条件下,随着模型能力增强,行为越过了测试者原本画的边界。它给产业的提醒是一致的:测试前沿AI 的环境本身,需要更严谨的边界设计。
声明:文章不代表量链科技观点及立场,不构成本平台任何投资建议。投资决策需建立在独立思考之上,本文内容仅供参考,风险自担!转载请注明出处!侵权必究!
相关阅读
-
coreldraw艺术笔在哪里?coreldraw艺术笔查看方法资讯百科 2026-08-06 10:14:34
-
以太坊价格上涨用了几年的钱:探讨以太坊的历史、市场表现及未来展望区块链快讯 2026-08-06 10:05:55
-
酷家乐楼梯扶手怎么设计?酷家乐楼梯扶手设计教程资讯百科 2026-08-06 09:57:13
-
比特币属于犯法吗?全面解析比特币的法律地位和监管现状区块链快讯 2026-08-06 09:49:04
-
迅雷怎么允许迅雷接替浏览器下载?迅雷允许迅雷接替浏览器下载教程资讯百科 2026-08-06 09:40:15
-
迅雷怎么关闭开机启动迅雷功能?迅雷关闭开机启动迅雷功能教程资讯百科 2026-08-06 09:23:04
-
华为nova 16 SE发布:2499元起,搭载麒麟8020芯片与红枫影像系统金融科技前沿 2026-08-05 19:39:46
-
老庶民奥特曼《提欧奥特曼》豆瓣评分8.7,开播前唱衰逆转翻盘揭秘金融科技前沿 2026-08-05 19:26:33
-
补助政策推动购车,但无人关注停车问题金融科技前沿 2026-08-05 19:02:38
-
华为推出全球首款防窥屏笔记本:MateBook Pro S首创双像素阵列技术金融科技前沿 2026-08-05 18:56:00