亚马逊人脸识别软件将议员识别成罪犯，到底是人工智能还是人工弱智？

只会越来越好 · 发表于 2018-7-31 12:10:39

如果说在2017年人工智能的发展达到了一个高峰的话，那么2018年，关于人工智能出问题的报道便越来越多地进入大众的视野。

就在最近，连“巨无霸”亚马逊都因其人脸识别产品闹了个笑话。

亚马逊人脸识别软件将议员识别成罪犯，到底是人工智能还是人工弱智？ B2B网络软件

美国公民自由联盟利用亚马逊人脸识别软件Rekognition对2.5万名犯罪分子与国会议员进行比对，结果Rekognition将28名议员识别为了犯罪分子。

据报道，美国公民自由联盟从“公开来源”下载了2.5万张警方拍摄的罪犯脸部照片，然后将535位国会议员的官方照片交给亚马逊的人脸识别产品Rekognition处理，问它在2.5万张照片中是否有照片与国会议员匹配？

Rekognition给出了“有28张匹配”的结果。

这28人中，有6人来自美国国会黑人同盟（Congressional Black Caucus）。一直以来，面部识别系统识别非裔美国人时错误率就会高一些。

据此亚马逊方面已做出回应，亚马逊方面将错误归咎为使用者操作方法不当。其认为若将识别结果信任阈值从80%上调为95%，情况会有所改善。

亚马逊发言人表示，“虽然对于热狗、椅子、动物和其他社交媒体用途的照片来说，80%的信任度是可以接受的，但对于确定一个人的身份而言是不恰当的。当在执法活动中使用人脸识别技术时，我们建议客户把信任度设置为95%，或者更高的水平。”

据悉，亚马逊方面在近段时间一直向美国执法机构推销其这款系统和配套技术，但引起了美国国会方面的质疑。在此乌龙事件之后，上述这些组织“体验”Rekognition人脸识别系统的国会议员们表示，他们比以往更加担忧亚马逊该项人脸识别技术若被用于执法机构工作，将对其造成较为严重的不良影响，后患无穷。

由此可见，如今越来越火热的人工智能技术发展程度，也许并没有人们想得那么成熟。虽然说人工智能技术被视为下一个风口，但对于它的担忧并不鲜见。从对种族、性别和其他因素的偏见到自动驾驶的无人机可能会带来致命的后果，这些问题一直都存在。

不久前，《麻省理工学院技术评论》（《MIT Technology Review》）发表了一篇题为《如果人工智能最终杀死了一个人，该谁负责？》的文章，这篇文章提出了一个问题：如果自动驾驶汽车撞击并杀死了一个人，应该适用什么样的法律呢？在这篇文章发表仅一周之后，一辆自动驾驶的Uber汽车在亚利桑那州撞死了一名女子。

人工智能目前存在哪些问题？

不可控的“粗鲁行为”

正如我们从微软的Tay聊天机器人事件中了解到的，会话式消息系统可能是荒谬的、不礼貌的、甚至是非常令人不快的。首席信息官们必须对自己使用的东西以及使用它们的方式非常小心。要摧毁一个品牌的形象，只需要聊天机器人一次令人恼怒的爆发就足够了。

感知能力很糟糕

谷歌人工智能科学家及斯坦福大学教授李飞飞在《纽约时报》的一篇专栏文章中表示，人工智能虽然是由人类开发的，但是具有讽刺意味的是，它根本不像人类。她表示，人类的视觉感知是高度背景化的，但人工智能对图像感知的能力却非常的狭隘。为此，人工智能程序员必须与领域专家合作——回归该领域的学术根源——以缩小人与机器感知之间的差距。

黑匣子难题

许多企业都想使用人工智能，但金融服务等行业的公司必须非常小心，因为对于人工智能是如何得出其结论这个问题尚未能解决。Fannie Mae的运营和技术负责人Bruce Lee表示：“企业如果不能解决好样本数据偏见对借贷公平造成的影响，就无法提供更好的抵押贷款利率。在诸如信贷决策之类的工作里，人工智能实际上受到了很多监管的阻碍，很多问题有待解决。所以我们所做的很多事情都必须进行彻底的回溯测试，以确保没有引入不恰当的偏见。”

民族和社会经济方面的偏见

即使是人工智能虚拟助手也会受到偏见的影响。你有没有想过为什么虚拟助理技术——例如Alexa、Siri和Cortana都设定为女性？客户服务软件专家LivePerson的首席执行官Rob LoCascio表示：“这源于人类自己对职场中女性的期望。许多人认为，女性本质上是‘助手’；她们更爱‘唠叨’；她们更多地担任行政职务；她们更擅长接受订单……”

黑客利用人工智能发动致命攻击

一份由剑桥大学、牛津大学和耶鲁大学25位技术和公共政策研究人员撰写的98页的报告指出，人工智能的快速发展意味着存在恶意用户很快就会利用该技术进行自动黑客攻击，模仿人类传播错误信息或将商业无人机转化为目标武器。

牛津大学未来人类研究所（Future of Humanity Institute）研究人员Miles Brundage 表示：“我们承认，人工智能有很多积极的应用。但是，它也的确存在着一个有关恶意使用问题的缺口。”

专家观点：虽遇困境，前景仍然乐观

即便如此，人工智能从业者仍抱着乐观的态度。Babson College教授Thomas Davenport在其认知技术课上表示，这些担心在很大程度上都是被夸大了。“我从来没见过任何一个曾经从事过人工智能分析工作的人会说偏见不存在。” Davenport最近完成了一本新书——《人工智能优势：大企业使用人工智能的一切》，他表示几家大公司正在非常负责任地测试人工智能。

“很多企业已经在实践中应用人工智能技术，并且没有停止这一系列计划的想法。”Davenport补充说，“虽然这项技术仍然不成熟，但聪明的公司知道如何更好地应用，并且尽力避免受到来自媒体的各种正面和负面看法的左右。”

事实上，根据Gartner统计，IT领导者似乎基本上不被对人工智能唱衰对言论所困扰，据统计，有超过85％的首席信息官将在2020年前通过购买、构建和外包的方式试点人工智能。

总体而言，人工智能的发展还处于初期阶段，其趋势是理论更完备、技术更先进、产业更繁荣、应用更广泛，我们应给予时间助其成长。

人工智能和人类智能各有所长，因此需要取长补短，融合多种智能模式的智能技术将在未来具有广阔应用前景。“人+机器”的组合将是人工智能研究的主流方向，“人机共存”将是人类社会的新常态，而学科交叉将成为人工智能创新的源泉。至于人工智能究竟会成为造福人类的天使，还是控制人类的魔鬼，这取决于人类自身。我们应未雨绸缪，形成合力，确保人工智能的正面效应，确保人工智能造福于人类。