人工智能的失败列子以及未来的挑战与机遇

人工智能是开创性的，有时甚至还是令人震惊。我们不断地获得有关效率，自动化和智能预测的惊人故事。但是，人工智能并不是完美的。对于每一个成功的故事，还有一个混乱或错误的故事–这种情况没有按计划进行。

虽然我们是AI的忠实信徒，并且已经在自己的企业中看到了AI的强大功能，但有时还是看到硬币的另一面，并记住我们都在努力推动更大的发展和更好的东西。但是沿着这条道路，会有摩擦和扰。我们如何应对这些异常和缺陷，最终定义了我们从这里出发的方向。

AI失败的例子

我们不希望人工智能是完美的。至少还没有。AI仍然会经历失败并导致意想不到的后果这一事实令人耳目一新。但是即使对于那些濒错误也可以作为成长和改进的教训。如今，失败越多，增长和改进就会越多-最终将引领通往更完善和完整的行业的道路。

以下是过去几年AI失败的一些优秀示例：

Microsoft AI Chatbot学习了一些不受欢迎的语言

人工智能聊天机器人已经成为社交媒体和其他网站上的规范。Facebook在Messenger中内置了一个非常出色的工具，它被用作提供客户服务和与潜在客户进行快速对话的强大业务工具。但是AI聊天机器人并不完美，以Microsoft的AI聊天机器人为例，该聊天机器人曾短暂地称为“ Tay”。

Tay于2016年3月发布并为Twitter用户部署，其编程方式是使用典型的千禧一代进行随意自然的交谈。但这只持续了24小时。发生了什么?好吧，该网站上针对了它的漏洞，并操纵Tay发表了非常性别歧视和种族主义的言论。

微软AI和研究副总裁Peter Lee因未提前预见这种可能性而不得不公开道歉。

运动员还是重罪犯?

亚马逊有一个名为“识别”的项目。这是一种基于AI的面部识别软件，已出售给警察机构以用于调查。从本质上讲，它应该交叉分析图像并将执法人员定向到可能的嫌疑人。问题在于它不是很准确。

在美国公民自由联盟马萨诸塞州分会的一项研究中，通过该系统运行了数十名波士顿地区运动员的照片。这些运动员中至少有27名(或大约六分之一)被错误地与面部照相配。其中包括三届超级碗冠军新英格兰爱国者队的杜伦·哈蒙。

你能说不好看吗?

用户在Apple的Face ID中发现缺陷

苹果一直在提出优秀技术。他们已经在智能手机和移动设备行业树立了标准。在大多数情况下，他们会把事情做好。但是有时候他们在行销中可能会显得太勇敢。一个例子是iPhone X的发布。在发布之前，苹果公司已经在其正面的面部识别系统上投入了大量时间和营销资源，以取代指纹读取器作为访问手机的主要方法。有人声称AI组件非常聪明，读者可以戴眼镜，化妆等，而不会影响功能。这本质上是对的。问题在于，苹果公司还明确表示，Face ID技术不能被面具或其他技术所欺骗。

一家位于越南的安全公司将其视为挑战。他们只用了200美元，就用石粉制成了一个面具，粘贴在一些打印的2D“眼睛”上，然后解锁了手机。这只是在提醒您，大胆的声明有时可能会再次引起人们的注意!

机器狗遇上致命的结局

谁不喜欢机器人小狗的主意?您会获得一台可爱的小机器，而无需吠叫，走路，大便，吃饭或昂贵的兽医账单。但是，如果您正在寻找生活伴侣，则可能不需要此机器人狗。

在2019年，波士顿机器人公司的机器人狗名叫Spot，而他在拉斯维加斯的一次会议上被公司CEO降职时遇上了戏剧性且不合时宜的舞台上的死亡。步行任务使他慢慢地跌跌撞撞，并最终跌倒在地，因为观众不舒服地喘着气并咯咯笑着。

IBM的Waston是一项了不起的技术。这款智能超级计算机在他的带领下取得了许多成就，包括在电视转播的危险游戏中击败了一些世界上最聪明的人。但是，就沃森所知，他还没有被当医生的信任。

在2018年，IBM Watson尝试启动医疗AI系统以提出治疗癌症患者的建议。IBM的目标无非是“消灭癌症”。但是，医院和肿瘤科医生很快就发现了重大缺陷。沃森(Watson)曾建议将出血过多的患者放到会导致更多出血的药物上，这可能会杀死患者!

IBM指责其工程师，称他们以假设和虚构案例为Watson编程，而不是依赖于实际的患者数据和历史病历。、

语音欺骗AI软件Cons首席执行官

伪造品正成为一个严重(且令人震惊)的问题。黑客发现了伪造声音，图片甚至视频的方法。在某些情况下，后果是灾难性的。

2019年3月，一家英国公司的首席执行官在德国母公司打了老板的电话。他被指示将相当于243000美元的款项转移给匈牙利供应商。该请求被标记为紧急请求，并要求首席执行官立即执行。该请求的唯一问题是，该行的另一端不是他的老板。这是一款基于AI的软件，用于模仿老板的声音。

当我们称其为AI失败时，现实是AI软件获胜。

我们可以清楚地看到，人工智能并非没有问题。就业务而言，人工智能的实施仍然面临一些挑战。它们包括：

• 处理能力有限。尽管AI和ML具有巨大的潜力，但它们利用了大量的处理能力。大多数计算根本没有那么先进。结果，很难在非常特定的环境之外充分利用这些技术。
• 知识有限。只有少数人真正足够了解AI，可以向市场进行解释。这使采用率无法达到应有的水平，并且正在减缓增长。
• 缺乏信任。人与计算机之间总是存在一定程度的不信任。尽管关系在过去几年中有所改善，但像本文中概述的那样的失败并没有太大帮助。
• 数据安全性。为了使AI应用程序正常工作，这些系统需要访问数百万个数据点。这为黑客创建了可能的弱点和漏洞，以使其成为目标并加以折衷。

尽管面临这些挑战，但AI的美丽在于其智能和光彩。不仅世界上许多最伟大的头脑都致力于改善和完善技术，而且将其与机器学习(ML)结合使用时，您将获得自我加油的增长周期，其中每一个问题和错误最终都为更大的发展铺平了道路。效率，准确性和机会。说到机会，以下是我看到的一些最重要的机会：

• 使大数据变得容易。企业对大数据的问题之一就是寻找方法来理解它。由于要整理的信息太多，因此很难发现如何解释和应用发现。人工智能可以简化这一过程，并导致更好，更有效的流程。
• 优越的分析。某些AI系统可用于监视，检测和分析各种设置中的更改。企业可以使用它来密切关注竞争对手并了解价格变化，公关活动，社会参与等内容。
• 更智能的搜索。互联网使世界运转。尤其是，搜索引擎可以确定趋势并控制信息流。诸如Google之类的搜索引擎公司正在使用AI和ML来改变行业，并为客户搜索提供更准确，及时的结果。

AI完美吗?如本文中的故事所示，这真是不可接受!但是它功能强大且不断改进吗?是的。因此，当我们展望未来的一，三年和五年时，请记住，人工智能是一项正在进行的工作。为了达到我们想要的目标，我们必须在过程中不断地解决一些摩擦。

https://ai.51cto.com/art/202008/622744.htm