【乌镇声音】瑞莱智慧田天：AI高质量发展须突破伦理和安全两关

　　近年来，随着算法的快速发展，算力、数据等资源的日益丰富，人工智能产业呈现快速发展态势。与此同时，要想实现产业的高质量发展，人机控制权分配、人工智能采信度等问题亟待解决。在2022年世界互联网大会乌镇峰会期间，瑞莱智慧CEO田天表示，放眼未来，人工智能若要实现高质量发展，需要突破伦理规则和技术安全两大关键问题。

　　田天认为，人工智能作为一项具有开放性但又远未成熟的新技术，不可避免地会对现有伦理关系与社会结构造成冲击。比如，人类对机器控制权的不适当让渡，会导致恶性事故的发生，典型的例子如自动驾驶汽车电子刹车系统失控引发交通事故等。

　　去年初，“19款安卓手机的人脸识别解锁系统被破解”的相关话题让很多用户关注到了田天的团队。当时团队成员佩戴了一副含有对抗样本图案的眼镜，低成本地完成了系统的破解。田天解释道，与传统软件系统运行逻辑的确定性不同，当前主流的人工智能应用基于第二代深度神经网络技术，其模型参数从数据中学习而来，决策逻辑和链路天然存在大量不确定性，鲁棒性和可解释性具有本质缺陷，只需在输入数据中添加细微的扰动噪点，就能够使模型出错，对抗样本攻击就是典型的例子。

　　面对上述问题，田天认为，需要从伦理规则和技术规则两方面加以解决。一是伦理规则建设。这涉及到人与人工智能之间控制权阈值如何设定、兜底机制如何设计等问题，需结合具体应用场景，打造可量化、可度量、可执行的具体标准，再落实到算法、代码层面。二是技术路径优化。在数据、算法、算力三大要素基础上，将知识要素融合进来，发展安全、可靠、可信和可扩展的第三代人工智能，不断提升人工智能的鲁棒性和可解释性，同时持续提高人工智能伦理安全、技术安全的敏捷测评水平，使之成为保障人工智能产业高质量发展的关键能力。（记者 李飞）