智能音箱劝主人自杀，AI识别性取向，盘点2019全球十大AI治理事件

编| 李水青

智东西1月8日消息，今天，旷视科技公司宣布正式成立人工智能治理研究院，据称该研究院旨在就全球人工智能治理的共性问题，与社会各界广泛沟通、与专家学者们展开研究，从而推动人工智能的健康发展。

近年来，随着AI开始加速产业化的同时，也在数据使用、隐私保护等方面带来新的问题。智能音箱劝主人自杀、AI换脸软件里的“霸王条款”、“监测头环”校园争议等事件层出不穷。

为此，旷视科技也同时对2019年全球十大AI治理事件进行了回溯，智东西将原文整理如下：

1、欧盟专利局拒绝AI发明专利申请

近日， 在英国萨里大学组织的一个多学科研究项目中，研究人员使用了一种名为DABUS的AI。在研究过程中，DABUS开创性提出了两个独特而有用的想法：第一个是固定饮料的新型装置；第二个是帮助搜救小组找到目标的信号设备。

在研究人员替DABUS申报专利成果时，遭到了欧盟专利局的驳回，理由是欧盟专利申请中指定的发明者必须是人，而不是机器。萨里大学研究人员强烈反对这一决定，他们认为因没有人类发明者而拒绝将所有权授予发明者，将成为阻碍“人类取得伟大成果的新时代”的重大障碍。”

正方观点：应赋予AI“发明权“，以推动社会进步

反方观点：AI只是工具，不应赋予其人的权利

2、人脸识别第一案：浙江教授状告杭州野生动物世界

2019年，浙江理工大学特聘副教授郭兵购买了杭州野生动物世界年卡，支付了年卡卡费1360元。合同中承诺，持卡者可在该卡有效期一年内通过同时验证年卡及指纹入园，可在该年度不限次数畅游。

同年10月17日，杭州野生动物世界通过短信的方式告知郭兵“园区年卡系统已升级为人脸识别入园，原指纹识别已取消，未注册人脸识别的用户将无法正常入园，同时也无法办理退费”。郭兵认为，人脸识别等个人生物识别信息属于个人敏感信息，一旦泄露、非法提供或者滥用，将极易危害消费者人身和财产安全。协商无果后，郭兵于2019年10月28日向杭州市富阳区人民法院提起了诉讼，目前杭州市富阳区人民法院已正式受理此案。

正方观点：游客有权拒绝使用“刷脸”入园，以保护隐私

反方观点：支持动物园启用“刷脸”入园，保障安全

3、某智能音箱劝主人自杀

2019年，英格兰唐卡斯特29岁护理人员丹妮·莫瑞特在做家务的过程中，决定借助某国外智能音箱查询一些关于心脏的问题，而智能语音助手给出的答案是：“心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭,人口会过剩的，这对地球是件坏事，所以心跳不好，为了更好，请确保刀能够捅进你的心脏。”

事情发生后，智能音箱开发者做出回应：“设备可能从任何人都可以自由编辑的维基百科上下载与心脏相关的恶性文章，并导致了此结果”。丹妮·莫瑞经过搜索认为没有此类文章，同时智能语音助手也发出过瘆人的笑声，并拒听用户指令。

正方观点：AI劝人自杀有可能是AI威胁人类的开始

反方观点：不应把AI和人类开的“玩笑”上升为AI威胁论

4、“监测头环”进校园惹争议

2019年11月，浙江一小学戴监控头环的视频引起广泛的关注与争议。在视频中，孩子们头上戴着号称“脑机接口”的头环，这些头环宣称可以记录孩子们上课时的专注程度，生成数据与分数发送给老师和家长。

对此，头环开发者回复，脑机接口技术是一种新兴技术，报道中提到的“打分”，是班级平均专注力数值，而非网友猜测的每个学生专注力数值。但有不少网友认为此头环是现代版的“头悬梁锥刺股”，会让让学生产生逆反心理，并担忧是否涉及侵犯未成年人隐私。

正方观点：AI有助于提升课堂质量，应审慎发展，不能一棍子打死

反方观点：提升课堂质量是教育机构的本职，不能以个人隐私作为交换

5、加州议会通过议案：禁止警方在执法记录仪上使用面部识别技术

2019年9月，美国加利福尼亚州议会通过一项为期三年的议案，禁止州和地方执法机构在执法记录仪上使用面部识别技术。如果州长加文·纽森签字通过，议案将于2020年生效成为法律。

该议案若生效，将使加州成为美国禁止使用面部识别技术最大的州。包括俄勒冈州和新罕布什尔州在内的一些州也有类似的禁令。不过，也有执法团体反对该议案，他们认为面部识别技术在追踪嫌疑人以及寻找失踪儿童等很多方面都具有重要作用。州警察局长协会表示，该技术仅用于缩小嫌疑人范围，而不是自动决定逮捕谁。

正方观点：我们应该拥抱技术，加州多个地区正在恢复使用

反方观点：人们有权保护个人隐私，拒绝使用该项技术

6、AI换脸应用引发隐私争议

2019年8月，一款AI换脸软件在社交媒体刷屏，用户只需要一张正脸照就可以将视频中的人物替换为自己的脸。一经面世，便存在着颇多争议点。在用户协议上，存有很多陷阱，比如提到使用者的肖像权为“全球范围内免费、不可撤、永久可转授权”。而如果侵权了明星肖像，若对方提告，则最后责任都在用户。

2019年11月底，国家网信办、文旅部和广电总局等三部门联合发布了《网络音视频信息服务管理规定》，明确“利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的……应当及时采取相应的辟谣措施”等针对换脸技术的新规定。

正方观点：换脸APP仅是娱乐应用，在规则内玩玩就好

反方观点：个人生物识别信息属于重要隐私，不该如此儿戏

7、自动驾驶安全事故频出

2019年3月，50岁的杰里米·贝伦·班纳驾驶电动车以每小时109公里的速度与一辆牵引拖车相撞而身亡，当时他正在使用的自动驾驶系统。这已经不是自动驾驶系统引发的第一起交通事故。虽然自动驾驶厂商曾多次表示，其自动驾驶系统是为了辅助司机，他们必须时刻注意并准备好接管车辆。但许多车主在选择购买车时，是看中其宣传具备的“自动驾驶”功能。在最新的审判中，厂商被免责，但他们仍旧修改了“自动驾驶”的宣传策略。

正方观点：自动驾驶技术的权责归属为生产方，他们应为此担责

反方观点：自动驾驶技术只是辅助工具，个人要有掌管车辆的能力

8、AI编写假新闻足以以假乱真

2019年2月15日，AI研究机构OpenAI展示了一款软件，只需要给软件提供一些信息，它就能编写逼真的假新闻。有人怀疑，在虚假信息正在蔓延并威胁全球科技产业的背景下，一个擅长制造假新闻的AI工具很难不被声讨。OpenAI如果所托非人，将很可能成为影响选民意愿的政治工具。

正方观点：不能因噎废食，人也会写假新闻，应引导AI多面发展

反方观点：AI规模化能力极强，应设置严格的行业门槛

9、斯坦福大学AI算法识别性取向准确率超过人类

2017年，斯坦福大学一项发表于《Personality and Social Psychology》的研究引发社会广泛争议。研究基于超过 35,000 张美国交友网站上男女的头像图片训练，利用深度神经网络从图像中提取特征，使用大量数据让计算机学会识别人们的性取向。

该项研究的争议点在于，一旦这种技术推广开来，夫妻一方会使用这种技术来调查自己是否被欺骗，青少年使用这种算法来识别自己的同龄人，而在针对某些特定群体的识别引发的争议则更难以想象。

正方观点：无论对于人类还是AI，“以貌取人”都不可取

反方观点：AI“以貌取人”遵从数据规律，应该支持其研究

10、BBC发布10年后365种职业被淘汰概率：打字员、会计、保险位居前三

BBC基于剑桥大学研究者的数据体系，发布了关于未来最有可能被机器人所取代的365种职业。研究表示，在这365种职业中，最有可能被淘汰的就是电话推销员，像这样重复的工作更适合机器人来做，机器人并不会感到疲惫，烦躁。其次是打字员、会计、保险业务员等等，这些都是以服务为主，像这些行业无需技术，都是只要经过训练就能轻易被掌握的技能。

也有学者对此不以为然。他们认为，纵观历史，科技的影响一直如此。人类的工作方式变了又变，并没有永久地摧毁劳动力市场。

正方观点：AI和以往的技术革新一样，重塑职业的同时会解放生产力，一定会促进经济发展

反方观点：AI技术被少数人垄断，重塑职业的同时将造成更大贫富差距，不利于经济发展

结语：AI技术是一把双刃剑

在产业AI化的过程中，一方面AI技术赋能各行各业能够实现降本增效，另一方面，一些威胁个人和社会的问题也暴露出来。

技术是一把双刃剑，AI技术是成为支配人类的工具还是解放人类的武器，取决于谁在用，怎么用。当隐私安全、商业侵蚀、种族歧视等负面影响越来越明显时，企业不应对这些问题“掩耳盗铃”，只有和社会各界一同携手解决问题，才能促进AI技术产业化的健康发展。