当前位置:首页 > 科技资讯 >

“AI翻车”事件已超1000+,特斯拉,微软、谷歌、苹果等全部在列科技资讯

来源:天之家 发表于:2021-01-11 21:24 阅读:

导读:如果不谨慎对待AI,未来它可能成为人类的终结者。 钢铁侠马斯克(Musk)曾经不止一次在公开社交平台表达对AI的担忧。 不过,并非所有科技大佬都对AI持悲观态度,贝索斯(Bezos)、扎克伯格(Zuckerberg)等人都抨击过马斯克的AI威胁论。扎克伯格认为,AI技术...

如果不谨慎对待AI,未来它可能成为人类的终结者。

钢铁侠马斯克(Musk)曾经不止一次在公开社交平台表达对AI的担忧。

不过,并非所有科技大佬都对AI持悲观态度,贝索斯(Bezos)、扎克伯格(Zuckerberg)等人都抨击过马斯克的AI威胁论。扎克伯格认为,AI技术的推动是为了让世界运转的更高效,帮助人们生活得更美好。

话虽没错,但马斯克的担忧也并非空穴来风。

如我们所见,近些年AI正在以超越想象的速度落地各行各业,如自动驾驶、仓储物流、信息安全等。但这些行业成功案例的背后,AI也没少发生“翻车”事故。

根据最新AI事故数据集AIID(AI Incident Database)显示,AI在行业应用中已发生超1000次翻车事件,涉及78个不同类别。

“AI翻车”事件已超1000+,特斯拉,微软、谷歌、苹果等全部在列

https://incidentdatabase.ai/

在这些事故中,有的可能只是闹了个笑话,但有的已经对人类造成了实质性的伤害,或者为国家完全埋下了隐患。此外还可以看到,特斯拉、谷歌、微软、亚马逊、苹果等颇具影响力的科技巨头在这份“翻车”列表中也频频出现。

「自动驾驶」频翻车

从列表来看,自动驾驶是AI“翻车”事故较为频繁且影响恶劣的领域。

包括特斯拉、Uber等大型车企均发生过多起受伤,或致死等交通事故。就在上个月,特斯拉还因险些造成事故登上了微博热搜。当日,正在高速行驶的特斯拉Model S,玻璃天窗突然脱落,并顺势向后飞去,翻转数圈后险些砸到后面行驶的车辆。

随即特斯拉官博做出回应,称“该车辆曾在第三方授权钣喷中心进行过车顶玻璃的更换,会对此事展开详细调查”。不少网友对此并不买账,认为“第三方也是特斯拉授权的,这是明显的甩锅行为”。

事实上,近些年特斯拉频频爆出的交通事故问题,已经让部分用户失去了信任。虽然大部分事故主要由驾驶员违规驾驶导致,但因技术问题,尤其是自动驾驶系统引发的案例也不在少数。

在列表中,影响最大的是2018年发生在加利福尼亚州的一场交通事故。3月23日,Uber因自动驾驶系统故障在亚利桑那州撞死行人事件刚刚过去不足一个月,特斯拉再次因自动驾驶系统引发了一起伤亡事故。

当时,高速行驶在山景城101号公路上的Model X,撞上了公路中间的混凝土分隔墙导致一名38岁的苹果工程师死亡。

“AI翻车”事件已超1000+,特斯拉,微软、谷歌、苹果等全部在列

https://futurism.com/officials-tesla-model-x-autopilot-killed-driver

经调查后发现,该工程师在撞上分隔墙之前,启动了Model X的自动驾驶系统。

此前,特斯拉曾表示其自动驾驶功能可以保持速度,改变车道和自动停车。在这项事故中,自动驾驶系统并未发挥作用,特斯拉的解释是,分隔墙之前已被损坏,系统并未作出正确识别,同时在撞击的前六秒,系统已发出了视觉和听觉上的警告。

但显然,仅六秒的时间不足以让驾驶员作出正确的应对。

「杀手」机器人

机器人是AI频繁发生翻车事故的第二大领域。从列表来看,机器人在医疗、仓储物流、、等多个场景中均发生过负面事故。例如:

2018年,亚马逊新泽西仓库的一个自动机器人意外刺穿了驱蚊喷雾罐,导致25名工人被火速送往医院。

“AI翻车”事件已超1000+,特斯拉,微软、谷歌、苹果等全部在列

https://abcnews.go.com/US/24-amazon-workers-hospital-bear-repellent-accident/story?id=59625712

据了解,当时一个9盎司重的驱熊喷雾罐被机器人刺穿后,释放出了大量浓缩的辣椒素,导致80多名困在封闭区域内工人受到伤害。虽然最后事故并未造成人员伤亡,但已引起工会部门的高度警惕。

在医疗领域,机器人被广泛用于外科手术中,根据监督管理局(US Food and Drug Administration)的记录显示,机器人外科医生在2000年至2013年期间共造成144人死亡,1391人受伤,并累计发生过8061起设备故障。

“AI翻车”事件已超1000+,特斯拉,微软、谷歌、苹果等全部在列

https://www.theregister.com/2015/07/21/robot_surgery_kills_americans/