点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:数字丝路·大咖谈|权小文:用“魔法”对抗“魔法”,以AI守护AI时代安全
首页> 时政频道> 国内 > 正文

数字丝路·大咖谈|权小文:用“魔法”对抗“魔法”,以AI守护AI时代安全

来源:光明网2026-07-23 15:45

  当前,人工智能技术加速迭代,智能体从辅助工具向端到端自主执行体演进,安全防御面临根本性挑战。如何让AI在安全可控的框架内健康发展,成为产业界与政府共同关注的焦点。在2026年世界互联网大会数字丝路发展论坛期间,盛邦安全董事长权小文接受采访,分享了他在智能体安全、治理共治以及用“魔法对抗魔法”等方面的深刻洞察。

  记者:国内针对AI智能体的监管模式出现了怎样的新变化,这样的转变对行业发展有何积极意义?

  权小文:从上周的世界人工智能大会到这次世界互联网大会数字丝路发展论坛,大家关注的更多都是在智能时代怎么应对这个事情。

  刚结束的数字丝路发展论坛,第一是关于智能体发展,第二是关于智能体的共治。在这个过程中我们可以看到,政府对智能体的培育已经不是以前那种先让它野蛮生长、再踩刹车的机制了,现在慢慢变成政府在梳理引导产业的发展。

  新技术的出现,从早期的野蛮生长,到现在国家很有意识地去梳理共治,不再是要么不踩刹车、要么踩死刹车,我们看到了政府在做这方面的努力,这对产业是非常好的事情。

  记者:结合所在的行业,目前发展存在哪些瓶颈?有哪些落地可行的解决思路?

  权小文:从技术维度,要保证产业安全发展,智能体要把安全当成主旨来做。我们的监测数据显示,2025年互联网上有30万智能体,到2026年同期已经到了100万。

  智能体快速大规模出现,推动了产业发展,提高了效率,但同时也带来更大的暴露面。信息泄露、数据泄露比过去几年都严重,这是技术发展的伴生品。所以要让产业发展,两手都要硬:政府梳理好赛道、制定好标准,智能体的建设单位和应用单位要关注安全,安全不能作为外挂式,应该内植到整个智能体里面。

  记者:您所在的团队在研发安全防御智能体时,如何解决AI决策的可信度与确定性问题?防御智能体相较于传统方法,核心能力体现在哪里?

  权小文:很多人把想做的全扔给智能体,希望它分析、判断、决策,其实不对。智能体可以帮你做分析、做大量数据解读,不知疲倦地分析,但决策还得人做,人要定规则、定红线。攻很容易,目标清晰,踹开门就行;防御不一样,要画红线、定规则,几万条告警可以交给智能体分析,但最终决策、是否拦截处置由人来做。规则得自己制定,红线自己定,剩下的分析判断、数据采集交给智能体。对SOC(安全运营中心)来说,数字平台运营是核心,这是个枯燥长期的工作,不产生收益,很难被认可,所以需要用AI来解决。

  记者:AI自主化攻击对关键信息基础设施保护和实战化防御带来哪些根本性冲击?

  权小文:最近公布了一个案例,一个从攻击到勒索的全流程,分了八九个步骤,完全是智能体自动操作。早期数字系统攻击的主体是人,人累了可能就休息、心情不好可能就罢工,但智能体可以无休止地持续攻击。

  早期人工时代,时间是我们的朋友,攻击至少需要数周或数月;现在AI智能体让时间对攻击方有利,而我们的修复流程从发现问题、上报、形成决议、领导审批到修复,周期很长。

  经过统计,这一年多出现的漏洞数量是历史上的总和。另一个问题是攻击者可以摸清你网络里所有的东西,知道弱点在哪里,但作为业主自己都不知道家里有多少东西。原来攻击需要一堆人,需要行业大咖指导。现在AI把攻击能力蒸馏后,高手无处不在,攻击门槛大大降低。不要企图用原始手段对抗,得用AI对抗AI,先把家里摸清楚、做收敛,这是对抗的基础。

  策划:李政葳 撰文:胡平 拍摄:范子川、杨经国 制作:胡平

[ 责编:徐皓 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平出席金砖国家领导人第十八次会晤第一阶段会议并发表重要讲话

  • 习近平抵达新德里出席金砖国家领导人第十八次会晤

独家策划

推荐阅读
江苏省南京市溧水区白马镇浮山村层林尽染、秋意盎然。层叠山峦之间,村落与连片树林相映相融,勾勒出一幅色彩绚丽的秋日生态画卷,美不胜收
2026-09-12 17:10
第二届安徽省阜阳市青少年科技运动会在阜阳市科学技术馆举行。本届运动会共设抛石机攻城、无人机对抗、机器人格斗、抗震结构等8大竞赛项目
2026-09-12 17:06
甘肃省平凉市第五中学举办主题为"心怀家国 勇赴新程"的2027届高三级学生十八岁成人礼活动。
2026-09-12 16:57
贵州省黔西市锦星镇洪湖村高山梯田陆续进入收割季。漫山梯田依山傍湖,田畴顺着山体曲线层层缠绕,金秋稻穗遍染金黄,湖水、密林、民居与梯田交织
2026-09-12 16:51
金秋送爽,五谷丰登。丰收,是大地最厚重的馈赠,也是乡村最动人的答卷。一张张质朴灿烂的笑脸,藏着耕耘的汗水,映着四季的劳作,更是群众获得感、幸福感最真实的写照。
2026-09-12 16:46