点击右上角微信好友
朋友圈
请使用浏览器分享功能进行分享
在2024年世界互联网大会乌镇峰会期间,安恒信息研究院院长王欣接受采访时表示,人工智能时代,必须要通过AI来对抗AI。他认为,面对犯罪分子和黑客利用新兴AI技术开展网络攻击的现状,传统的网络安全攻防方式已难以满足需求,一旦被突破,很可能导致原有防护体系全面失效。
“因此,在过去两年多时间里,基于新一代人工智能技术,我们进行了广泛探索与应用。”王欣举例说,在网络安全领域,特别是安全运营方面,借助AI技术能更有效地发现风险,提升了网络安全监测与响应的效率;在数据安全领域,面对数据既要保护又要流通的双重需求,利用大模型进行数据分类分级,根据数据类型和业务需求定义安全级别,确保数据在保护的同时也能合理流通。
“数据分类分级的核心,在于理解结构化与非结构化数据的类型,并根据安全要求和业务需求设定级别,从而决定哪些数据可以公开,哪些需要脱敏后开放。让数据更加安全、可信地流通。”王欣解释说。
随着具身智能的日益普及,如何确保它们以人为本、智能向善,成为当下亟待解决的问题。对此,王欣分享了自身看法。他认为,人工智能不局限于数字世界,它正在与物理世界融合,如低空经济、具身智能。
“我们研究发现,有些大模型看似正常,但实际上可能早已被恶意操控者植入后门,一旦接收到特定指令,就能瞬间转变为恶意攻击工具。”王欣坦言,这种风险可能对未来与物理世界紧密连接的领域产生巨大影响。为此,我们仍需进行深入研究与实践,以期在人工智能与物理世界融合的浪潮中,为其发展保驾护航。
(拍摄:赵鹏超 制作:刘昊 撰文:雷渺鑫 统筹:李汶键 策划:李政葳)