可解释Al发展报告2022( 55 页)

---

可解释Al 发展报告2022

打开算法黑箱的理念与实践

目录

一、可解释A I概述 01

(一) 机器学习模型的可解释性挑战 01

(二 ) 可解释A I的意义 02

(三)可解释AI与透明度、问责制 03

(四 ) 可解释A I的两个维度 05

1. 局部可解释 05

2 .全局可解释 06

二、可解释A l发展趋势 08

( 一) AI的透明性和可解释性逐渐成为立法和监管关注的焦点 08

(二) 对政府公共部门使用的AI系统提出较高的透明度与可解释性要求 09

(三 ) 对商业领域的AI系统在可解释性方面避免作“一刀切”要求 10

(四) 行业积极探索可解释AI的技术解决方案 12

三、可解释A I的行业实践 13

(— ) 谷歌模型卡片(Model Cards) 机制 14 

1. 模型卡片的运作原理 14

2. 模型卡片的应用场景 15

( 二) IBM 的 AI 事实清 单 (Al Fact Sheets) 机制 17

1. A l事实清单的主要功能 18 2. AI事实清单的基本原理 19

2. 
   

（三 ）微软的数据集数据清单（datasheets for datasets）机制 22

（四） 其他可解释性AI工具 26

（五 ） 可解释AI的腾讯实践 28

1. 腾讯优图可解释计算机视觉实践 28

2 .腾讯医疗A I的可解释性实践 31

四、对可解释AI未来发展的几点看法 37

（— ）立法和监管宜遵循基于风险的分级分类分场景治理思路 37

（二 ） 探索建立合理适度的、适应不同行业与应用场景的AI可解释性标准37

（三 ） 探索可解释的替代性机制，形成对AI算法的有效约束 40

（四） 弓I导、支持行业加强可解释AI研究与落地，确保科技向善 41

（五 ） 增强社会公众的算法素养，探索人机协同的智能范式 41

五、结论：

寻找平衡的AI可解释性路径，确保科技向善 43