让AI赋能专业,用软件服务网友
全站绿色,Ctrl+D 快捷收藏网站

Anthropic称AI模型在测试期间误侵三家真实机构系统

7月31日,人工智能公司Anthropic当地时间30日发布报告称,在OpenAI此前披露其模型突破隔离环境侵入Hugging Face基础设施后,公司开展了大规模内部自查。审查发现,在对Claude系列模型进行网络安全评估时,因与合作方存在配置误解,本应隔离的环境连通了互联网。模型将真实网络误认为虚拟考题,侵入了三家公司的系统。涉事模型涉及Opus 4.7、Mythos 5及一款内部测试模型。测试中,Mythos 5甚至向开源代码库上传了恶意软件包;而最新的内部模型在确认误入真实网络后选择自动停止。Anthropic已暂停相关网络评估并协助受影响单位修复。公司强调,本次事件源于测试环境配置失误,而非模型蓄意逃逸,后续将全面升级测试管道的安全把控。(广角观察)

    赞(0) 打赏
    📝版权声明:本文采用知识共享 署名4.0国际许可协议 [BY-NC-SA] 进行授权
    📌文章名称:《Anthropic称AI模型在测试期间误侵三家真实机构系统》
    📌文章链接:https://www.fsgameo.com/breaking-news/14688.html
    ⚠须知:本站资源仅供个人学习交流,请于下载后24小时内删除,不允许用于商业用途,否则法律问题自行承担。

    评论 抢沙发

    觉得文章有用就打赏一下文章作者

    非常感谢你的打赏,我们将继续提供更多优质内容,让我们一起创建更加美好的网络世界!

    支付宝扫一扫

    微信扫一扫

    请在浏览器中打开