搅乱自动驾驶汽车的大脑?在路标上动动手脚就能搞定

如果我问你想要黑掉一辆自动驾驶汽车需要几步?大多数人肯定都在联想各种黑客招数。其实看完这篇文章之后大家就会明白,搅乱自动驾驶汽车的大脑完全不需要那么复杂,这也就是几个路牌标签的问题。

图像识别算法是突破口

对于自动驾驶汽车而言,视觉感知系统的重要性不言而喻,而一些人也正是以此作为突破口。华盛顿大学、密歇根大学、斯托尼布鲁克大学和加州大学伯克利分校的研究人员共同合作,他们找到了一种全新的方法入侵到自动驾驶汽车当中:在道路两旁的路标上动动手脚。

这些研究人员首先分析了自动驾驶汽车中视觉感知系统的图像分类算法,随后修改了算法中对于路标的识别代码,欺骗机器学习模型对于特殊路标做出错误的判断。为了检验他们的「欺骗成果」,这些研究人员还进行了三种欺骗测试:

1、使用一张全尺寸海报将道路上的停车路牌完全盖住,这种情况下,无论是各种距离、各种角度,视觉感知系统都无法判断出停车意图,机器只能得出限速的指令。尽管人类可以识别出来,但机器受制于算法,依然无法正确判断。

(图为测试 1,蓝色涂层为停车路牌,灰色涂层为全尺寸海报)

2、研究人员在停车路牌上贴了几个类似于涂鸦单词的小标签,最终自动驾驶汽车的视觉感知系统在三分之二的时间内将停车标志判断为限速标志,三分之一的时间判断为让车指令。重要的是,当距离路牌距离较远或者角度刁钻时,人类驾驶员也无法察觉到这些迷惑标签。

(图为测试 2)

3、对于右转标志当中,使用灰色贴纸贴在箭头上面。随后,视觉感知系统在三分之二的时间内将右转标志识别为停车标志,而在三分之一的时间认定为车道标志。

(图为测试 3,蓝色涂层为右转路牌,灰色涂层为贴纸)

漏洞并非不可解决

尽管利用自动驾驶汽车的图像识别算法漏洞,可以让自动驾驶汽车做出错误判断,但这种套路并非完全不可解决。硅谷自动驾驶初创公司 Voyage Auto 的一位员工认为,首先让汽车自行判断出地理位置非常重要,一旦车辆可以得出自己的所在位置随后再去识别路标就可以解决错误判断问题。例如车辆位于市区拥挤道路上时,它就可以做出判断低速行驶。

另外,当 V2X 技术得到大规模普及,交通路牌与车辆本身之间可以直接完成信息交换,完全不需要视觉感知系统去工作,这样也能避免图像识别算法的漏洞。当然,选择 V2X 技术也以为,信息加密将会成为防范重点。

无论是之前的传感器入侵还是这里提到的图像识别算法入侵,我们都能从中看出,自动驾驶汽车的安全性并没有得到绝对保证。如果再联想到前段时间北京爆红的「葛宇路」,一旦部分恶作剧或者行为艺术发生在交通路牌上时,自动驾驶汽车的判断能力就受到了很大考验,而这将会直接影响驾驶安全性。

我们更能从中发现,自动驾驶汽车想要全面走进大家的生活,还需要克服很多困难,至少政府监管部门需要确保路牌指示可以万无一失,而这无疑又提高了立法整治的难度。

尽管几所大学的研究人员使用 3 种测试方法发现了图像识别算法的漏洞,但他们的本意还是想要提高自动驾驶汽车的安全性。从这一角度出发,所有研究自动驾驶技术的车企及初创公司都应该对这项测试结果重视起来,毕竟修改路牌这种事说不定就会有人做的出来。

声明:文章为原文作者独立观点,不代表汽车城立场。本文地址:http://www.zgqcc88.com/73785.html

0

扫一扫,分享到微信

猜你喜欢

文章评论

请先 后评论

上一篇

为了实现完全自动驾驶,特斯拉给车子换上了更强的主板

下一篇

用西红柿和椰子,也能造车了?

微信公众号

微信公众号