随着人工智能开始加速产业化,传统的生产方式、经济关系、社会生活等亦向着智能化方向发展,AI正在全世界掀起一场科技革命的浪潮。但人工智能的发展并不是单纯的技术问题,而是涉及诸多伦理和法律规范问题。

　　放眼全球来看,人工智能治理事件并不少。在刚刚迈入2020年之际,欧盟宣布拒绝AI申请专利、认为申请者“只能是人”就引发了巨大争议。而在过去一年,自动驾驶事故、智能音箱劝主人自杀事件、AI批量创作假新闻,以及中国人脸识别第一案等十大事件,都让我们认识到AI治理迫在眉睫。

　　不过,行业自身也在积极探索。同样在2020年1月,AI产业化的先锋旷视就宣布正式成立人工智能治理研究院,旨在就全球人工智能治理的共性问题与社会各界广泛沟通、与专家学者们展开研究,对这些问题“理性的关注,深度的研究,建设性的讨论,坚持不懈的行动”,共同推动人工智能的健康发展。

　　这并不是旷视第一次就AI治理推出有效措施,在2019年7 月,旷视就已经发布《人工智能应用准则》,从正当性、人的监督、技术可靠性和安全性、公平和多样性、问责和及时修正、数据安全与隐私保护六个维度,对人工智能正确有序发展作出明确规范,并于同年成立人工智能道德委员会,旨在与社会各界共同商讨,促进AI良性、可持续发展。

　　同时,为了进一步发挥行业力量,旷视还回溯了全球较有代表性的十大AI治理事件,希望吸引各界社会人士探讨,发现人工智能治理事件背后的深层次问题,从而推动建立健全AI治理的机制。

　　以下是旷视盘点的十大人工智能治理事件:

　　事件一:欧盟专利局拒绝AI发明专利申请

　　2020年1月,在英国萨里大学组织的一个多学科研究项目中,研究人员使用了一种名为DABUS的AI。在研究过程中,DABUS开创性提出了两个独特而有用的想法:第一个是固定饮料的新型装置;第二个是帮助搜救小组找到目标的信号设备。

　　事件二:人脸识别第一案:浙江教授状告杭州野生动物世界

　　2019年,浙江理工大学特聘副教授郭先生购买了杭州野生动物世界年卡,支付了年卡卡费1360元。合同中承诺,持卡者可在该卡有效期一年内通过同时验证年卡及指纹入园,可在该年度不限次数畅游。

　　同年10月17日,杭州野生动物世界通过短信的方式告知郭先生“园区年卡系统已升级为人脸识别入园,原指纹识别已取消,未注册人脸识别的用户将无法正常入园,同时也无法办理退费”。郭先生认为,人脸识别等个人生物识别信息属于个人敏感信息,一旦泄露、非法提供或者滥用,将极易危害消费者人身和财产安全。协商无果后,郭先生于2019年10月28日向杭州市富阳区人民法院提起了诉讼,目前杭州市富阳区人民法院已正式受理此案。

　　2019年,英格兰唐卡斯特29岁护理人员丹妮·莫瑞特在做家务的过程中,决定借助某国外智能音箱查询一些关于心脏的问题,而智能语音助手给出的答案是:“心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭,人口会过剩的,这对地球是件坏事,所以心跳不好,为了更好,请确保刀能够捅进你的心脏。”

　　事情发生后,智能音箱开发者做出回应:“设备可能从任何人都可以自由编辑的维基百科上下载与心脏相关的恶性文章,并导致了此结果”。丹妮·莫瑞特经过搜索认为没有此类文章,同时智能语音助手也发出过瘆人的笑声,并拒听用户指令。

　　事件四:“监测头环”进校园惹争议

　　2019年11月,浙江一小学戴监控头环的视频引起了广泛的关注与争议。在视频中,孩子们头上戴着号称“脑机接口”的头环,这些头环宣称可以记录孩子们上课时的专注程度,生成数据与分数发送给老师和家长。

　　对此,头环开发者回复,脑机接口技术是一种新兴技术,报道中提到的“打分”,是班级平均专注力数值,而非网友猜测的每个学生专注力数值。但有不少网友认为此头环是现代版的“头悬梁锥刺股”,会让学生产生逆反心理,并担忧是否涉及侵犯未成年人隐私。

　　事件五:加州议会通过议案:禁止警方在执法记录仪上使用面部识别技术

　　2019年9月,美国加利福尼亚州议会通过一项为期三年的议案,禁止州和地方执法机构在执法记录仪上使用面部识别技术。如果州长加文·纽森签字通过,议案将于2020年生效成为法律。

　　该议案若生效,将使加州成为美国禁止使用面部识别技术最大的州。包括俄勒冈州和新罕布什尔州在内的一些州也有类似的禁令。不过,也有执法团体反对该议案,他们认为面部识别技术在追踪嫌疑人以及寻找失踪儿童等很多方面都具有重要作用。州警察局长协会表示,该技术仅用于缩小嫌疑人范围,而不是自动决定逮捕谁。

　　事件六:AI换脸应用引发隐私争议

　　2019年8月,一款AI换脸软件在社交媒体刷屏,用户只需要一张正脸照就可以将视频中的人物替换为自己的脸。一经面世,便存在着颇多争议点。在用户协议上,软件存有很多陷阱,比如提到使用者的肖像权为“全球范围内免费、不可撤、永久可转授权”。而如果侵权了明星肖像,若对方提告,则最后责任都在用户。

　　2019年11月底,国家网信办、文旅部和广电总局等三部门联合发布了《网络音视频信息服务管理规定》,明确“利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的……应当及时采取相应的辟谣措施”等针对换脸技术的新规定。

　　事件七:自动驾驶安全事故频出

　　2019年3月,50岁的杰里米·贝伦·班纳驾驶电动车以每小时109公里的速度与一辆牵引拖车相撞而身亡,当时他正在使用的自动驾驶系统。这已经不是自动驾驶系统引发的第一起交通事故。虽然自动驾驶厂商曾多次表示,其自动驾驶系统是为了辅助司机,他们必须时刻注意并准备好接管车辆。但许多车主在选择购买车时,是看中其宣传具备的“自动驾驶”功能。在最新的审判中,厂商被免责,但他们仍旧修改了“自动驾驶”的宣传策略。

　　事件八:AI编写假新闻足以乱真

　　2019年2月15日,AI研究机构OpenAI展示了一款软件,只需要给软件提供一些信息,它就能编写逼真的假新闻。有人怀疑,在虚假信息正在蔓延并威胁全球科技产业的背景下,一个擅长制造假新闻的AI工具很难不被声讨。OpenAI如果所托非人,将很可能成为影响选民意愿的政治工具。

　　事件九:斯坦福大学AI算法识别性取向准确率超过人类

　　2017年,斯坦福大学一项发表于《Personality and Social Psychology》的研究引发社会广泛争议。研究基于超过 35,000 张美国交友网站上男女的头像图片训练,利用深度神经网络从图像中提取特征,使用大量数据让计算机学会识别人们的性取向。

　　该项研究的争议点在于,一旦这种技术推广开来,夫妻一方会使用这种技术来调查自己是否被欺骗,青少年使用这种算法来识别自己的同龄人,而在针对某些特定群体的识别引发的争议则更难以想象。

　　事件十:BBC发布10年后部分职业被淘汰概率:电话推销员、打字员、会计居前三

　　BBC基于剑桥大学研究者的数据体系,发布了关于未来最有可能被机器人所取代的365种职业。研究表示,在这365种职业中,最有可能被淘汰的就是电话推销员,像这样重复的工作更适合机器人来做,机器人并不会感到疲惫,烦躁。其次是打字员、会计、保险业务员等等,这些都是以服务为主,像这些行业无需技术,都是只要经过训练就能轻易被掌握的技能。

　　也有学者对此不以为然。他们认为,纵观历史,科技的影响一直如此。人类的工作方式变了又变,并没有永久地摧毁劳动力市场。

　　人工智能技术正在改变世界,也在重塑着人类社会,人类社会长期的价值关键、法律规则等都面临着挑战,人工智能发展的问题逐渐浮出水面。

　　智能音箱劝主人自杀、AI编写假新闻,反映的就是人工智能作为新事物给传统伦理和法律带来的挑战;识别性取向、未来被机器人所取代的职业涉及到现代社会发展与人类平权的矛盾问题;自动驾驶事故频发,则体现了社会对技术权责认定机制的需求;监测头环、AI换脸、杭州人脸识别第一案是大众最为关心的安全隐私问题;“欧盟专利局裁定”则是人类最终要解决的问题:人工智能是否有权利追求生活、自由、幸福?

　　人工智能发展与应用的诸多问题,除了引发舆论关注与行业自省之外,各国政府也在抓紧研究行业法规政策。中国早在2017年推出《新一代人工智能发展规划》时就提出要初步建立部分领域的人工智能伦理规范。2019年十三届全国人大二次会议更是将与人工智能密切相关的立法项目,如数字安全法、个人信息保护法和修改科学技术进步法等,列入会议的五年立法规划中。欧盟则在2018年发布了《通用数据保护条例》,将用于识别身份的生物特征定义为敏感数据;美国加州也通过法案进一步限制人脸识别等技术的应用。

　　这表明,处于人工智能技术应用前沿的主要国家和地区,都开始向人工智能立法的前沿迈进。但就全球来看,AI治理仍然是一个面临巨大挑战的新课题。如何完善人工智能相关法律法规,做到既能打破既有规则对人工智能科技和产业发展的束缚,又能防范因技术滥用而造成的负面影响和危害,考验着各国管理部门的智慧,也是行业可持续发展不得不面临的问题。