摘要:12月，Synced编制了第一份“ 人工智能失败 ”概述，记录了去年的人工智能失误。人工智能已经取得了显着的进步，许多科学家梦想创建佩德罗多明戈斯提出的主算法 - 它可以解决人类设想的所有问题。然而，研究人员，刚刚起步的技术和有偏见的数据也不...
这就是为什么审查人工智能故障是必要和有意义的：本文的目的不是要淡化或模仿研究和开发结果，而是要看看出了什么问题，希望我们下次能做得更好。
中国亿万富翁的脸被认定为乱穿马路的人
中国主要城市的交通警察正在使用AI来解决乱窜问题。他们在十字路口使用面部识别技术部署智能相机，以检测和识别乱穿马路的人，其部分模糊的名称和面孔随后显示在公共显示屏上。
然而，南方港口城市宁波的人工智能系统，最近因为错误地“认出”了一张中国亿万富翁董明珠在过往公交车广告是乱穿马路的人，而感到尴尬。这个错误在中国社交媒体上传播开来，宁波警方道歉。董在微博上发表评论说：“这是一件小事。” 安全旅行更重要。“
CloudWalk深度学习研究员周翔告诉Synced，算法缺乏实时检测是可能的问题。“在这个距离进行现场探测是一项具有挑战性的工作，现在认识到一个真实的人是非常普遍的。”
董明珠出现在公共显示屏里
优步自动驾驶汽车杀死了一名行人
在公共道路上第一个已知的与车辆相关的自动行人死亡事件中，优步自驾SUV于3月28日在亚利桑那州的坦佩袭击并杀死了一名女性行人。优步车辆处于自动驾驶状态，驾驶人员安全驾驶。
所以发生了什么事？优步发现其自动驾驶软件决定在汽车传感器检测到行人后不采取任何行动。根据美国国家运输安全委员会关于事故的初步报告，优步的自动模式禁用了沃尔沃工厂安装的自动紧急制动系统。
在悲剧发生之后，优步在北美城市暂停了自驾驾驶测试，而Nvidia和丰田也在美国停止了自驾车道路测试。事故发生8个月后，优步宣布计划在匹兹堡恢复自驾车路试，尽管该公司的自驾车未来仍然不明朗。
优步事故截图
IBM Watson缺乏医疗保健
“这个产品很糟糕” ，根据Stat获得的内部文件，佛罗里达州朱庇特医院的一名医生为IBM的旗舰人工智能程序Watson写道。IBM最初是一个问答机器，一直在广泛的应用程序和流程（包括医疗保健）中探索Watson的AI功能。2013年，IBM开发了Watson首个针对癌症治疗推荐的商业应用程序，该公司在过去五年中与医院和研究中心建立了许多重要的合作伙伴关系。但Watson AI Health并没有给医生留下深刻印象。一些人抱怨它对癌症治疗提出了错误的建议，可能会导致严重甚至致命的后果。
据报道，在没有显着进步的项目上花费数年后，IBM正在缩小Watson Health的规模并裁掉该部门员工的一半以上。
亚马逊AI招聘工具具有性别偏见
据报道，亚马逊人力资源部门在2014年至2017年期间使用了支持AI的招聘软件来帮助审核简历并提出建议。然而，该软件对男性申请人更有利，因为其模型是在过去十年中提交给亚马逊的简历上接受培训的，当时雇用了更多的男性候选人。
据报道，该软件降级了包含“女性”一词的简历，或暗示申请人是女性，例如因为他们曾就读过女子大学。亚马逊此后放弃了该软件。该公司并未否认使用该工具提出建议，但表示从未用于评估候选人。
去年12月，Reddit出现了几个色情视频，其中包括“国际顶级女性名人”。用户“DeepFakes”采用生成对抗网络将名人的面孔与色情明星的脸交换。虽然面部交换技术已经开发多年，但DeepFakes的方法显示，任何拥有足够面部图像的人现在都可以制作他们自己非常有说服力的假视频。
2018年，知名人士的假视频充斥着互联网。虽然这种方法在技术上并非“失败”，但其潜在的危险是严重而深远的：如果视频证据不再可信，这可能会进一步鼓励流传假新闻。
星球大战明星Daisy Ridley的脸上与一名DeepFake视频中的色情女星交换过
谷歌照片混淆了滑雪者和山地
Google相册包含一个相对未知的AI功能，可以自动检测具有相同背景/场景的图像，并提供将它们合并为单个全景图片。1月份，Reddit用户“MalletsDarker”在滑雪场拍摄了三张照片：两张是风景照，另一张是他朋友的照片。当谷歌照片合并这三个时，发生了一件奇怪的事情，因为他的朋友的脑袋被渲染成一个从森林中窥视出来的尖峰巨人。
这张照片使得r / funny subreddit排名前十，并获得了202k的赞成票。社交媒体称赞谷歌算法巧妙地混合了图像，同时嘲笑它缺少成分基础的愚蠢。
Google相册混合图片
LG机器人Cloi在揭幕仪式上获得了舞台表演
1月8日应该是LG的IoT AI助手Cloi在拉斯维加斯举行的2018年国际消费电子展上首次亮相的那一天。Cloi被呈现为一个简单而愉快的界面，能够识别控制家用电器的语音命令。然而，当可爱的机器人走上舞台进行现场演示时，观众正在观看和等待，等待......它未能回应LG市场营销主管的命令，只产生尴尬的沉默。
波士顿动力学机器人blooper
SoftBank拥有的机器人制造商波士顿动力公司今年不止一次为互联网赢得了惊喜：它的机器人SpotMini可以灵巧地用头戴式抓手臂打开门; 它的人形机器人阿特拉斯现在可以做跑酷 - 顺利跳过原木，跳跃一系列40厘米的步骤而不会打破步伐。
但即使是波士顿动力公司也有其“哎呀”的时刻：在未来科学家和技术专家大会上首次亮相时，阿特拉斯在一个完美的演示中提升了盒子等。但就像阿特拉斯已经包装了它的演示并试图离开一样，这个可怜的机器人绊倒在窗帘上，笨拙地从舞台上摔下来。从好的方面来说，它很像人类的力量。
波士顿动力学机器人地图集跳过日志
2018年AI世界杯的预测几乎都是错误的
2018年世界杯是一年中最重要的体育赛事，高盛，德国多特蒙德技术大学，电子艺术，彼尔姆国立研究大学和其他机构的人工智能研究人员运行机器学习模型来预测多阶段比赛的结果。然而大多数都是完全错误的，只有EA - 使用其视频游戏FIFA 18的新评级进行模拟 - 正确地支持胜利者法国。EA游戏引擎以众多机器学习技术为后盾，旨在使玩家的表现尽可能逼真。
SQL服务数据科学家Nick Burns提供了一个解释：“无论你的模型有多好，它们都和你的数据一样好......但现有的足球数据还不足以预测世界杯的表现，它缺少信息和未定义的影响太多了。“
Startup声称可以从面部预测智商
以色列机器学习初创公司Faception提出了有争议的说法，即其人工智能技术可以分析面部图像和骨骼结构，以揭示人们的智商，个性，甚至是暴力倾向。数据科学家Ben Snyder在Twitter上斥责该公司的技术：“ 那是颅相学。你刚刚把ML当作一个种族主义的叔叔。“该推文收到了超过6,500转推送和近17,000个喜欢。
END
本文作者为Synced
由极限编译
