点击右上角
微信好友
朋友圈

请使用浏览器分享功能进行分享

光明网香港4月14日电(记者 张晨昊)4月14日,2026年世界互联网大会亚太峰会人工智能安全治理论坛在香港举办。深信服科技集团股份有限公司总裁杜智伟表示,要可信可用与AI生产力之间找到最佳的平衡点和可信任点。

深信服科技集团股份有限公司副总裁杜智伟。光明网记者 赵金悦、潘迪/摄
杜智伟表示,随着AI能力的跃迁与持续演进,安全治理的重心也在相应发生变化。过去,对AI安全治理的关注主要集中在内容本身。未来,AI安全治理的重心将进一步转向AI行为的管控与行为合规,涵盖越权操作、逻辑失控以及目标偏离等问题。
结合全球AI安全保护实践,杜智伟将AI安全问题归纳为权限滥用、高级提示词注入和涌现行为三大类型。对此他认为,最核心的解决思路是:为AI安全构建一套“刹车系统”,使其在紧急情况下能够及时制动,从而将风险控制在可掌握的范围内。
在具体落地实践上,杜智伟认为,可从以下三条路径入手:一是将智能体定义为不可信任实体,实施严格访问管控;二是实施动态最小权限管理;三是动态收缩与清理“易燃物”。
杜智伟表示,智能体是生产力的一次飞跃,AI发展的进程不可阻挡,为此,要在可信可用与AI生产力之间找到最佳的平衡点和可信任点。
