如何应对人工智能带来的科技伦理问题？

---

如何应对人工智能带来的科技伦理问题？政府、公众、企业多方共治推动“敏捷治理”

傅宏宇 阿里研究院

如何实现更好的科技伦理治理？如何在保证技术安全、公平、普惠的基础上，推动技术进步和经济增长？近日，2022（第八届）中国互联网法制大会在北京举行。在大会配套举行的“合规科技——科技伦理治理分论坛”上，阿里研究院数字经济中心傅宏宇发表了题为《科技企业参与敏捷治理的探讨与思考》的主题报告。傅宏宇在报告中提出了“敏捷治理”思路和方案，指出实施“敏捷治理”需要政府、公众、企业紧密合作、多方共治，并以算法透明度和多方平衡为例，给出了敏捷治理的实践建议。

以下为报告主要内容：

什么是“敏捷治理”？

敏捷治理尝试在科技发展过程中，构建一种多方、多元共治的体系，将科技全生命周期的治理要求，贯彻于科技的研发、部署、应用各环节。为突破企业单一视角局限性，需引入政府监管部门参与，并让社会用户反馈触达其中。敏捷治理通过多方参与形成多元共识，通过充分包容促进科技共治；以动态灵活的方式，通过持续沟通和优化来化解对立，建立信任。

“敏捷治理”既能服务于创新，又能准确识别和控制科技发展的各类风险。敏捷治理目标包括：

多元：科技研发应当推动产业发展，服务国家需求，满足社会公众的需要；

包容：科技治理需要在创新发展和安全可靠之间寻求平衡，让技术进步变得包容、温暖、可持续；

共治：每一个人都是科技进步的受益者，每一个人也都是科技治理的参与者，科技治理需充分沟通交流、凝聚广泛共识。

简而言之，敏捷治理可以让人工智能白盒化，让更多的人能够理解每一个算法应用背后的逻辑是什么、用到了什么样的数据、使用什么样的模型、进行了哪些优化，并且让用户和政府监管部门的意见都能融合到产品开发和技术部署中。

为什么要开展“敏捷治理”？

目前，科技治理面临多重不确定性，具体包括：

1、治理目标不确定。人工智能快速迭代发展，如果按照“先确定目标再设计方案”的传统治理思路，会造成治理滞后性。如何平衡人工智能的发展与安全？如何取得多元价值目标平衡？治理方法论亟需创新。

2、治理方式不确定。人工智能治理经历了从原则到规则再到工具的阶段，伦理原则逐渐被纳入到法律规定之中。透明度、可解释性原则以及消费者保护、知情可控等原则逐步纳入到法律体系之中，并融入了算法备案等治理工具，治理方式呈现多样化、动态化特征。

3、治理效果不确定。人工智能引发社会问题，既可能源于治理不到位，也可能是技术创新带来的变革，需要区分真正的社会问题和技术创新带来的进步，对两者采取不同的治理模式。

4、责任边界不确定。人工智能的受众巨大，数字经济时代的用户都是人工智能的使用者，但并不是人人都能够参与治理之中。用户面临着算法理解困难、意见反馈困难，如何设定人工智能企业的治理责任以达成共识是亟需解决的问题。

如何建立“敏捷治理”体系？

敏捷治理需建立政府、企业、公众三方动态联动的生态体系。

企业与政府：企业应该主动向政府部门报告重大风险。网络立法提出了重大网络安全事件报告制度，该制度是解决企业和政府之间信息不对称的重要抓手。企业履行合理的风险识别义务，同时政府部门应该促进利用、管控风险。尤其当科技治理面临大量不确定性时，政府及指导部门，应提供一些决策参考，供企业实践应用，比如给出算法的分级分类制度的指导思路，可以依据人工智能跟人类的联系来划分——是紧密还是松散的关系，是合作还是对立的态势，是服务还是支配的地位。

企业与公众：社会公众是科技使用者、受益者，也是伦理治理参与者，要建立包容、普惠、信任的关系。企业有责任和义务去向公众技术影响的解释，不仅需要有面向专业人群的解释，还应当帮助数字鸿沟下的弱势群体。同时企业要接受公众对技术的监督，快速响应公众的建议和需求。

政府和公众：政府部门要引导社会公众建立对科技的信任，而社会公众也要向政府部门反馈人工智能治理的方法和建议。

综上所述，敏捷治理治理机制要求是：一是，企业尽职履责。科技企业需要构建负责任的科技伦理治理和风险管理体系，主动、积极、有效地管理科技研发应用全生命周期的各类风险。二是，政府规范引导。政府为科技研发提供规则遵循，通过他律引导企业自律，为科技发展创造更好的制度环境。三是，社会监督理解。让技术可解释、影响能反馈、伤害有补救，增进公众对技术的信任

“敏捷治理”有哪些具体实践？

1、算法透明：算法透明不是固定的结果，而是与不同主体进行持续沟通的过程。

人工智能算法透明对象包含是专业人士，普通消费者和政府监管。需要将算法决策逻辑，数据利用合规性、合理性，面向不同主体对象有差别的解释和说明。

面向政府，需要解释算法是安全可信，风险可控的，并保留有人工可介入机制。面向公众，需要让公众知情，保证算法客观公正，如排序算法公平地反映搜索排序的结果，并提示了相关风险；广告算法有利益相关方的提示；生成含有数字水印标识等。面向消费者，当消费者去权益受到侵害时，企业应该提供相应的解释和救济。

上述是针对企业自用算法的透明度解释，科技企业还有一类服务是对外提供算法工具算法，此时需要采取何种透明度的策略，也是目前科技企业需要解决的问题。

2、多方平衡：算法系统需要满足多方主体的不同利益诉求。

例如推荐服务算法连接着平台、商户和消费者，各方对算法的目标期待是不一样的。同时，算法系统还承载着政府管理和社会治理目标，比如网约车调度算法在关注劳动保障的同时，满足收入、就业、隐私以及交通秩序和公共安全等要求。实现上述多重目标的优化，让算法进行更加准确合理而平衡的决策，保证多方的利益，实现社会价值的最大化，需要各个主体之间进行沟通，交流，合作，而不是采用一种对抗互不信任机制。

阿里巴巴积极推动“敏捷治理”

9月初召开的世界人工智能大会上，阿里巴巴发布了集团的科技伦理治理的六大准则，即以人为本、普惠正直、安全可靠、隐私保护、可控可信、开放共治。在其中第六条-开放共治原则中，明确提出建立敏捷治理机制，并积极敏捷治理探索。

阿里巴巴集团科技伦理六原则如下：

1、以人为本：我们从事科研、技术开发等活动，坚持以用户为中心，以人类整体和长期的福祉为目标，把对人的尊重和关怀放在第一位；

2、普惠正直：我们尊重和服务好全体利益相关者，避免歧视与偏见。在提供人工智能产品和服务时，充分尊重和帮助弱势群体、特殊群体， 并根据需要提供相应替代方案；切实保护各相关主体合法权益；

3、安全可靠：安全是一切业务的根基。我们进行科技系统设计时，将充分考虑安全、鲁棒和稳健性，减少并努力避免系统因缺陷或滥用而引 致的对用户的伤害。我们努力保证科技系统满足高性能标淮，该系统需要经过充分的测试与验证，以保障其安全运行；

4、隐私保护：充分尊重个人信息知情、同意等权利，依照合法、正当、必要和诚信原则处理个人信息，充分保障个人隐私与数据安全，不得 窃取、篡改、泄露个人信息，不得损害个人合法数据权益和隐私权；

5、可控可信：我们深知用户的信任与信赖，是阿里巴巴集团业务可持续发展的基础，因此我们努力让从事的科技活动和开发运营的科技系 具备应有的透明度和可解释性；让用户可以自主决定是否采纳、中止和退出人工智能相关的交互和服务；努力建立人工智能的问责机制， 确保关键环节的自律自省；

6、开放共治：我们将与政府、学界和其他科技企业一起，积极推进科技伦理治理。我们努力建立多方协同合作机制，打造负责任、可持续的 科技，建立开放和敏捷的治理机制，持续学习，不断探索企业自律、行业共治与监管规范相结合的解决方案。

大型科技企业作为科技伦理治理的排头兵，有义务识别风险。由于风险众多，可能影响太大又面临各类不确定性，因此政府、社会公众都要参与治理讨论之中，共同寻找到最好的治理方法，逐渐明确治理目标及响应的责任分配。