点击排行
您所在的位置:
应对AI技术赋能背后风险挑战 我国人工智能安全标准体系加速构建
来源:经济参考报 | 作者: 编辑部 | 发布时间 :2026-04-07 | 20 次浏览: | 🔊 点击朗读正文 ❚❚ | 分享到:
随着我国“人工智能+”行动的深入推进,各类智能体及AI应用广泛渗入生产生活场景。而近期频发的AI安全事件,不仅引发公众关注,也成为产业界与学界协同攻坚的重要方向。

  随着我国“人工智能+”行动的深入推进,各类智能体及AI应用广泛渗入生产生活场景。而近期频发的AI安全事件,不仅引发公众关注,也成为产业界与学界协同攻坚的重要方向。近日,全国网络安全标准化技术委员会(以下简称“网安标委”)正式组建“人工智能安全标准工作组”(WG9),标志着我国人工智能安全标准体系建设进入系统性推进阶段。

  AI安全事件频发 攻防之战升级

  近期,全球人工智能行业安全事件频发。3月底,人工智能公司Anthropic旗下AI编程工具Claude Code源代码泄露,这一事件被视为AI行业首次核心代码泄露事件。

  奇安信安全专家章磊认为,综合各类公开信息以及Anthropic的官方回应分析,此次源代码泄露是典型的发布流程中的人为失误,属于供应链安全事故。“好比原本只该给顾客成品,结果把全套制作图纸一起送出去了。”

  “产品的核心逻辑和防护底线一旦公开,整个产品的运作方式就变得透明。竞争对手可以直接研究它的架构、功能设计、智能体逻辑,能快速模仿、追赶甚至优化。同时,安全规则暴露后,也更容易被人找到漏洞、绕过约束、破解使用限制。”章磊表示。

  今年以来爆火的智能体工具OpenClaw(俗称“龙虾”)也接连被曝出存在多重安全隐患。4月3日,国家信息安全漏洞库(CNNVD)发布通报称,自3月10日至4月2日,共采集OpenClaw漏洞155个,其中超危漏洞11个、高危漏洞53个,OpenClaw多个版本受到漏洞影响。

  “我们只花了一个下午,就攻破了OpenClaw。”国内知名白帽安全团队DARKNAVY安全创新总监陆晨表示,目前,国内主流的“龙虾”方案分为两类:一类是在OpenClaw基础上套壳提供对话框,另一类是提供服务器供用户自行配置。相比较而言,前者风险更高,一旦被攻破,黑客就能直接获取服务器权限,甚至访问内网大模型。

  上海交通大学安泰经济与管理学院副院长刘少轩透露,近期一家制造业企业因为仓促上马OpenClaw,导致产线停产72小时,直接损失可能超过2000万元。还有一家法律服务企业,因为没有做好风险防范和数据安全,导致大量客户隐私数据泄露。

  亚信安全相关负责人也指出,当前网络攻击正在向智能化、自动化演进,黑客利用AI实现勒索软件载荷的动态生成、高仿真钓鱼内容制作,使得攻击效率与隐蔽性大幅提升。AI自主攻击智能体、基于深度伪造的商务诈骗,将成为2026年最紧迫的安全挑战。

  AI安全供给发力 需求创造机遇

全球视野
财经洞察
趋势前瞻
投资策略
金融创新
产业升级
财富管理
宏观经济
数字金融
可持续性
 
特别推荐