可信人工智能总体框架
2022-04-13 11:00:14   来源：网易新闻   评论：0 点击：

　　可信人工智能是从产业维度出发，落实人工智能治理要求的一整套方法论，是人工智能治理和产业实践之间的桥梁。

　　根据《可信人工智能白皮书》，面对人工智能引发的全球信任焦虑，发展可信人工智能已经成为全球共识。可信人工智能是从产业维度出发，落实人工智能治理要求的一整套方法论，是人工智能治理和产业实践之间的桥梁。图5给出了可信人工智能的总体框架。

　　1.可信理念逐渐深入到人工智能全生命周期

　　可信人工智能从学术界提出，到各界积极研究，再到产业界开始落地实践，其内涵也在逐步的丰富和演进。可信人工智能已经不再仅仅局限于对人工智能技术、产品和服务本身状态的界定，而是逐步扩展至一套体系化的方法论，涉及到如何构造“可信”人工智能的方方面面，包括企业内部管理、研发、运营等环节，以及行业相关工作，将相关抽象要求转化为实践所需的具体能力要求，从而提升社会对人工智能的信任程度。

　　2.企业已成为实践可信人工智能的主要力量

　　企业作为人工智能技术研发和创新应用的一线，需要直面人工智能信任挑战，主动开展自律自治工作，充分发挥企业能动性落实人工智能技术、产品和服务的可信要求。2018年以来，谷歌、微软、IBM、旷视、腾讯等众多国内外企业纷纷推出了企业人工智能治理准则，并形成相应部门机构推动落实治理责任。另外，企业也在积极探索以实践可信为核心理念的人工智能治理模型，IBM、微软、华为、京东等国内外企业发布多个人工智能可信工具，以帮助人工智能产品在研发过程中提升安全性、鲁棒性、可解释性、公平性等可信能力，并通过开源生态凝聚开发者宣传可信理念。

　　3. 行业组织推进打造人工智能安全可信生态

　　可信人工智能的实现不仅仅是企业单方面的实践和努力就能够完成的，更需要多方参与和协同，最终形成一个相互影响、相互支持、相互依赖的良性生态。在标准制定层面，2017年以来ISO/IEC、IEEE、SAC/TC28/SC42等国内外标准组织已率先布局通用可信人工智能标准。2021年4月，我国在人脸识别场景下的国家标准《信息安全技术人脸识别数据安全要求》面向社会公开征求意见。在行业自律层面，中国人工智能产业发展联盟2019年发布了《人工智能行业自律公约》，随后在2020年发布了《可信AI操作指引》，并公布了首批商用人工智能系统可信评估结果，涉及11家企业的16个人工智能系统，为用户选型提供了重要参考。当前，正在联合业界共同编制《可信人工智能研发管理指南》等，以期推动人工智能研发源头的安全和可信。