视觉芯片与混合相机助力无人驾驶 |《自然》论文
Nature Portfolio约 2 分钟《自然》近期发表的两篇独立研究报道了两种提升图像处理的方法，或能用于自动驾驶汽车。
图像传感器对自动化机器在内的各种应用至为重要，需要兼具良好的整体视觉质量（对场景的准确解读）以及快速运动探测（实现快速反应）。不过，整合各种理想功能可能会影响效率或是需要在图像质量和延迟上做出取舍。这两项研究证明了混合方法能在克服之前局限的同时满足这两种需要。
施路平和同事论文 A vision chip with complementary pathways for open-world sensing 中以人类视觉系统的运作方式为灵感，开发了一款传感芯片，能将快速但不精确的感觉与慢速但更精确的知觉相结合。这个视觉芯片名为“天眸”（Tianmouc），它有一个混合像素阵列，能将低准确度但快速的事件探测（无需太多细节便可对变化做出快速反应）与慢速处理相结合，实现对场景的准确可视化。作者用一个自动驾驶感知系统证明了该芯片能快速稳健处理图像的能力。该芯片在多个情景进行了测试，包括开车经过一个黑暗隧道，应对相机闪光灯的干扰，以及探测汽车前方有人走过。
“天眸”芯片结构示意图。来源：Yang et al
在另一篇论文 Low-latency automotive vision with event cameras 中，Daniel Gehrig和Davide Scaramuzza用视觉感知专用相机克服了这些困难。全彩相机分辨率很高但需要大量数据处理（带宽）来探测快速变化；降低带宽会导致延迟增加，从而会影响安全性。而事件相机虽然能探测快速的移动，但会牺牲准确度。作者的研究表明，有一种混合系统能让自动驾驶汽车实现稳健的低延迟目标探测。通过结合这两种相机，彩色相机的帧率会降低，从而在确保准确性的同时降低带宽、提升效率，而事件相机也能弥补彩色相机造成的高延迟，确保能探测到快速移动的目标，如行人和汽车。
图中显示的场景，左半部分来自彩色摄像头，右半部分来自事件摄像头。来源：瑞士苏黎世大学机器人与感知小组
Nature
DOI: 10.1038/s41586-024-07358-4
DOI: 10.1038/s41586-024-07409-w
扫码查看论文原文
A vision chip with complementary pathways for open-world sensing
扫码查看论文原文
Low-latency automotive vision with event cameras
《自然》及《自然》系列研究期刊均为作者提供OA发表选项，扫码或点击“阅读原文”查看Nature Portfolio的OA资助、政策和更多OA期刊选择