|
|
作者：南方都市报
当下，人工智能被深度应用在各个领域，从电商到物流，从智慧医学到智慧城市，人工智能无处不在。然而，人工智能在带来高效生产和便利生活的同时，也不可避免地对现有伦理关系和社会结构造成冲击，引发诸多伦理争议和法律问题。
6月1日上午，北京智源大会召开“人工智能伦理、治理与可持续发展论坛”。论坛由清华大学人工智能国际治理研究院、人工智能治理研究中心共同主办。
会上，多位专家指出，目前人工智能技术已经在应用中引发了侵犯隐私、歧视等伦理问题，亟需建立全新的治理模式，进一步健全相关治理体系，推动法律法规标准规范的出台和落地，同时还应加强伦理教育、提高全民伦理意识。
法律规制：各国家、组织制定人工智能标准进入“井喷期”
目前，人工智能在全球范围内被广泛应用的同时，也带来了伦理层面的挑战。清华大学公共管理学院教授、人工智能国际治理研究院副院长梁正指出，形成人工智能伦理和治理共识是当下的首要问题，否则将阻碍其发展。
他介绍，目前全球已经有160多个国家出台了人工智能的伦理原则或指南，这里面既包括各国政府，也包括G20、欧盟这种国际组织发布的指引、倡议等等。
国家新一代人工智能治理专业委员会委员、上海交通大学人工智能研究院首席顾问教授李仁涵对上述文件归类发现，国际有关组织制定的人工智能标准进入“井喷期”，而且从文件内容看，国际人工智能治理工作正在加速可操作化，尤其表现在数据治理、算法治理、网络治理、监管政策等方面。
“当前建立相应规则对于我们是比较迫切的……现在人工智能产品进国门或者出国门都要让它有规可依，这样才能赢得对方的尊重，更容易找到合作、发展的共同点。”他说。
事实上，中国人工智能伦理治理正在加快步伐。科技部中国科学技术信息研究所党委书记、所长赵志耘介绍，在建立组织推进机制方面，中国成立了新一代人工智能发展规划推进办公室、国家新一代人工智能治理专业委员会等；在治理实施文件方面，接连发布《新一代人工智能治理原则》《新一代人工智能伦理规范》等政策文件，国家科技伦理委员会人工智能分委会还在研究起草人工智能伦理高风险清单。
此外，中国还在新一代人工智能重大项目中专门部署了人工智能伦理治理相关的问题研究，针对重大领域伦理风险进行评估，并积极参与联合国教科文组织人工智能伦理问题建议书相关文件起草和全球人工智能峰会等国际会议研讨。
放眼国外，欧美也都在积极地对人工智能伦理立法。卡内基理事会资深研究员Wendell Wallach认为，不仅要由政府出台“硬法”去判定哪些行为符合规定、对高风险行为进行引导，还要让企业担起责任、推动行业共识形成“软法”。
他观察到，现在美国在执行“硬法”上越来越缓慢，“甚至处于落后状态”；欧盟则“做得很不错，处于领先的地位”。这导致美国涌现的一些高风险人工智能应用对社会治理和信用造成破坏，生产效率及社会成本遭到质疑；欧盟也因为其严苛的规定被诟病影响创新。
因此，在Wallach看来，人工智能的伦理治理需要一个稳健的机制，而这个机制“需要软法和硬法的结合”。对于企业来说，既要执行“硬法”，避免违法违规，也会彼此合作，推动“软法”的出台。
引发争议：伦理、隐私、歧视
随着人工智能渗透到人类经济社会的方方面面，引发了哪些争议？
清华大学文科资深教授、人工智能国际治理研究院院长薛澜提到，去年美国三所大学用人工智能体系设计了一个生物机器人，引发伦理争议；2019年亚马逊开发的员工监控系统、人脸识别技术也引发了关于隐私和个人信息保护的争议。
种族歧视、性别歧视也是人工智能技术应用中常见的问题。东京大学教授佐仓统团队所做的一项最新研究发现：以人脸识别技术作为观察对象，日本受访者在性别歧视上倾向特别明显；在人为歧视和机器歧视上的差异也十分明显。
因此，他认为，在评判人脸识别技术的歧视性时，应该把人类行为作为参考标准，看机器是否比人类做得更差。
“有些时候你会发现全部以人的态度为标准是不够的。因为人在判断的时候不能作为一个标准答案，特别是评判公平、透明性等等。我们要明白这一点。”佐仓统强调。
中科大机器人实验室主任陈小平将人工智能伦理治理挑战归为三类：合理性问题、可控性问题和重大相关问题。
如果一项人工智能技术应用在伦理上产生负效应或超过可容忍范围，就存在合理性问题，比如说用户隐私、数据安全、公平透明等当下大家最关心的问题。可控性问题是指人类无法控制一种人工智能的持续存在和未来的发展方向。而重大相关问题是人类面临的与人工智能相关的重大社会问题，比如无用阶层、数据鸿沟、人的发展等。
陈小平认为，合理性问题可以用传统的技术标准和市场监管的治理模式解决，但治理后两个问题需要创新。针对可控性问题，可以设立一个新的研究分支，回答不可控人工智能可不可靠、如何防范风险等；针对重大相关问题，事后治理模式无效，需要提前引导，建立全新的治理模式。
如何治理：构建评测平台，提升伦理意识
谈到如何治理，薛澜表示，首先要做好利弊权衡，分析人工智能治理给整个经济社会带来的收益和成本；其次要看技术的应用是否会对社会各种行为准则和规范产生影响；第三要预见和评估对经济社会的长远影响。
针对第三点，李仁涵提出可以构建人工智能评测平台体系。他进一步指出，如果智能时代到来，评测平台将成为未来社会发展的重要基础设施，也将成为技术与治理深度融合的平台——“技术在研发过程中要考虑治理，治理要给技术提供相应的‘子弹’。”
此外，评测平台将对相关人才的培养、成长发挥重要作用，对人工智能产业赋能。在于国外合作和交流方面，则可以展现中国的“硬实力”，成为参与国际规则制定的重要基础。
至于具体的伦理治理实践路径，薛澜提出，要健全相关治理体系，推动法律法规标准规范的出台和落地，在落地过程当中建立多主体参与对话机制、评估预警管理机制，还要加强伦理教育、提高伦理意识。
赵志耘则系统性地对人工智能全生命周期管理、研发、供应、使用四类活动提出建议。
她提到，管理主体应鼓励引导和审查监督双管齐下。一方面支持相关部门和组织继续做好人工智能前瞻性重大问题研究，提升各参与方伦理治理的积极性，另一方面通过科学立法、行政监管，设立伦理审查机制等方式，防范化解伦理风险。
研发主体则应加快制定数据、算法、系统开发等方面的自律规范和技术指南，通过改造研发流程，开发安全可信可控的技术工具，建立实时监测响应机制。供应主体应在把关产品及服务质量、保障用户基本权益的同时，积极提升品牌声誉和信誉度。使用主体应做到善用不滥用、恶用人工智能，提高伦理意识，支持开展形式多样的人工智能科普活动，全面提升全社会对于人工智能伦理的认知水平。
采写：实习生韩艳燕 南都记者蒋琳 |
|
