莫让AI游走法律灰色地带！陈靖代表提议制定人工智能治理法

随着科技的发展，人工智能已经进入了人们生活的多个领域。当前，在“新基建”的政策背景推动下，人工智能作为“新基建”的重要组成部分，又将得到极大的发展和广泛的应用。然而任何技术都是双刃剑，人工智能也不例外。我们在享受最新技术带来的便利时，由此引发的人与机器、机器与社会等诸多社会治理、道德伦理等问题也不容忽视。

在今年全国两会上，全国人大代表、上海市委副秘书长、市政府秘书长陈靖建议加快推进人工智能治理法律制度建设，制定符合中国人工智能产业发展需要、体现中国社会特征的人工智能法律制度框架，形成人工智能治理中国准则和标准。

莫让人工智能游走法律灰色地带！陈靖代表提议制定人工智能治理法

算法的透明度以及公平合理性问题

陈靖代表指出，人工智能是基于算法，通过数据训练，形成相应的产品或服务。人工智能的算法训练需要现有的大量的数据输入，在数据来源本身即存在限制的情况下将很可能导致歧视的产生。

以贷款为例，程序员最初可能只是使用算法寻找违约者的特征，如果发现特定种族、特定职业的人贷款违约概率更高，根据人工智能算法进行贷款审批的金融机构就会对这些人群进行差别化待遇，甚至不予放贷。

“效率和公平之间的矛盾如何调和，这就需要对算法的使用进行规范。”陈靖代表说。

隐私如何保护

当行政治理中引入人工智能系统后，不仅获取了更多信息，还使得行政机关有可能对更多信息加以利用和分析，使信息成为“源头活水”。同时，需要看到，人工智能与大数据治理可能会危及个人的隐私权。

因此，他认为为了保护隐私，在人工智能治理过程中，需要明确政府数据开放的范围与标准，并探索数据匿名化等新型数据保护工具，以更好保护相对人隐私。

人工智能对传统法律制度的冲击

随着机器智能化，在部分领域机器替代人已经成为无法回避的现实，由此引发的人与机器、机器与社会的角色定位、责任划分，为传统法律制度规则带来极大冲击。

如果仅仅将人工智能视为一个工具，那么传统上法律会认为使用工具的人需要为后果负责。但人工智能并不仅仅只是过去意义上的工具，很多时候人工智能系统是自主决策，而使用者并未参与决策之中，那么现有法律体系很难确定偶发事件导致特定伤害的法律责任由谁承担。

人工智能的安全保障

作为人工智能技术的核心基础的数据，如发生篡改可能直接导致训练出不符合设计需求的产品。例如，在自动驾驶车辆行使过程中，如发生黑客入侵，则可能引发重大的驾驶安全问题。因此陈靖代表认为无论是对于人工智能技术研发企业在研发过程中涉及的数据，还是对于采购人工智能产品的企业在使用产品过程中进一步收集的数据，相关企业均需要依托网络安全手段来保障相关数据的安全。

他指出，我国的《网络安全法》及相关配套措施在网络安全层面为企业提供了指引。但如何加强执法，确保法律的强制性力是接下来需要进一步关注的问题。

建议启动人工智能立法

为此，陈靖代表建议国家层面尽早启动人工智能治理方面的立法调研，及时出台人工智能治理法，为我国人工智能的发展提供法治保障。

具体而言，他建议确立算法治理和数据治理的基本规则。“算法作为人工智能时代的主要规则，究竟谁有权并通过何种程序来加以制定，谁来对其进行监督且又如何监督，透明要求、开源要求在内的诸多治理原则，应当被纳入到算法治理相关议题的考虑之中。”陈靖代表认为，个人隐私的保护、数据价值的分配、数据安全等相关议题也必将成为公共政策的焦点。如何平衡不同价值需求、规范数据的分享与应用，也同样成为人工智能时代公共政策选择的另一重要抓手。

同时，他建议通过立法规范人工智能发展活动，进而增进对人工智能的信赖，由此促进人工智能的健康发展，应当明确作为人工智能发展活动的基本要求。如在安全性方面，除了技术稳健性要求外，还应增加人工智能系统抵御网络攻击的安全要求、建立人工智能备用系统应对应急情况。在公平性方面，需要强调人工智能系统应该避免不公平的歧视，特别是避免因数据不完整和管理不当造成对特定人群歧视的现象发生。在隐私性方面，可以参考欧盟的《通用数据保护条例》，表明公民具有完全控制自己的数据的权利，而且与公民自身相关的数据使用时不会被用来伤害或歧视公民自身。

陈靖代表认为，应当鼓励、支持地方层面在实践的基础上，进行人工智能相关立法的探索和先行先试。比如在无人驾驶、数据开放等方面。