人工智能安全可信要实现“数据可用、算法可靠、应用可控”
2022-12-20 11:51:20   来源：智慧大运   评论：0 点击：

　　经过几十年的发展，人工智能呈现蓬勃发展态势，已成为新一轮科技革命和产业变革的重要驱动力量，在越来越多的领域中发挥着关键作用。但是，技术的快速迭代和变革有着两面性，人工智能同样存在着机遇和挑战

　　一 人工智能功能强大但存在风险

　　人工智能作为一项渗透性、实用性极强的通用目的技术，具有技术属性和社会属性高度融合的特点，在加速应用推动社会生产力跃升的同时，也带来伦理和法律挑战。发展与安全的平衡、多元协同治理确保人工智能向善，逐渐成为社会关注的焦点和人工智能产业健康可持续发展的关键。

　　一些人工智能系统可能是脆弱和不公平的，因此需要努力实现可信赖的人工智能。在人的层面，应加强伦理教育；在模型算法层面，期望它可信、可控、可解释并且被正当使用；在数据层面，期望数据具有充足的系统防护保证其安全。

　　由于当前的第二代人工智能主要采用的是深度学习技术，其模型核心能力从数据中学习而来，决策逻辑和链路天然存在大量不确定性，可靠性、安全性、可信性不足，无法满足关键场景高价值决策问题的需求，导致自动驾驶事故、刷脸支付受攻击、个人隐私泄露、企业数据资产流失等安全事件频频发生。可以想见，这些问题如不解决，必将制约经济社会的高质量发展。

　　二 人工智能安全产业化发展之路

　　人工智能安全领跑者的深度探索和实践“人工智能向善”的产业诉求。人工智能正迈入从高速增长向高质量增长转变的全新发展阶段，这对其自身安全性和可靠性提出了更高要求。

　　通过“三步走”来持续探索人工智能安全的突围之道：一是持续发掘人工智能发展中的潜在安全风险；二是提出治理理论、构建治理机制、探索治理模型；三是围绕数据可用、算法可靠、应用可控三个目标，系统布局、打造人工智能安全基础设施，探索人工智能安全产业化发展之路。

　　互联网之所以能服务于人类生产、生活的方方面面，离不开互联网安全公司、产品的助力。随着人工智能的发展，也应有专门人工智能安全的产品、基础设施来为之保驾护航，确保其始终走在服务于人类、有益于人类的向善道路上。

　　应秉持包容审慎的原则来鼓励人工智能技术发展，但同时也要设立红线，以实现正向牵引。此外，公众对于人工智能认知也应进一步增强，而企业应充分意识到安全隐患是层出不穷的，要有勇气暴露产品能力边界，还可以通过产业分工协作的方式来提升效能，实现产品价值和安全的双重收益。