近年來(lái)，深度學(xué)習(xí)技術(shù)在涉及高維非結(jié)構(gòu)化數(shù)據(jù)領(lǐng)域展現(xiàn)出了最先進(jìn)的性能，如計(jì)算機(jī)視覺(jué)、語(yǔ)音、自然語(yǔ)言處理等方面，并且開(kāi)始涉及更大、更復(fù)雜的多模態(tài)信息問(wèn)題。

不同傳感器在進(jìn)行同一實(shí)驗(yàn)任務(wù)時(shí)，針對(duì)產(chǎn)生的同一現(xiàn)象進(jìn)行觀測(cè)，采集的數(shù)據(jù)構(gòu)成被測(cè)對(duì)象的多模態(tài)信息。多模態(tài)信息可以實(shí)現(xiàn)不同傳感器之間數(shù)據(jù)互補(bǔ)，并在相同學(xué)習(xí)任務(wù)獲取更豐富的特征，從而實(shí)現(xiàn)比單一模態(tài)更好的性能。

在自動(dòng)駕駛領(lǐng)域，多模態(tài)數(shù)據(jù)通常包括安裝在車(chē)輛上的多個(gè)傳感器，包括雷達(dá)、立體可見(jiàn)光攝像頭、紅外攝像頭、GPS等，為執(zhí)行自動(dòng)巡航，從傳感器收集的異構(gòu)數(shù)據(jù)用于學(xué)習(xí)許多相互關(guān)聯(lián)但復(fù)雜的任務(wù)，如定位和測(cè)繪、場(chǎng)景識(shí)別、路徑規(guī)劃和駕駛員狀態(tài)識(shí)別等。

大多數(shù)先進(jìn)的融合方法集中于如何融合來(lái)自多模態(tài)空間的信息或特征。根據(jù)多模態(tài)信息的融合策略主要可以分為早期融合、中期融合和晚期融合。

一、多傳感器數(shù)據(jù)融合處理方法

1、早期融合

早期融合在輸入端進(jìn)行簡(jiǎn)單鏈接多模態(tài)數(shù)據(jù)組合，然后輸入到特定的模型進(jìn)行處理。LaserNet采用了這種融合策略，將三維的點(diǎn)云映射到二維圖像上，采用全卷積網(wǎng)絡(luò)進(jìn)行概率預(yù)測(cè)，實(shí)現(xiàn)端到端的三維物體檢測(cè)。

早期融合的方式能夠保留最多原始數(shù)據(jù)的特征，但對(duì)于來(lái)自不同傳感器的模態(tài)信息來(lái)說(shuō)，這種融合方式計(jì)算量大，對(duì)設(shè)備運(yùn)行要求較高。

2、中期融合

中期融合又稱作是特征融合，需要對(duì)來(lái)自不同模態(tài)的數(shù)據(jù)進(jìn)行特征提取，并對(duì)特征圖進(jìn)行融合操作后輸入到目標(biāo)任務(wù)中進(jìn)行處理。通過(guò)ROI池化的方式將二維圖像和點(diǎn)云鳥(niǎo)瞰圖、前視圖特征整合到同一特征尺度進(jìn)行融合，并構(gòu)建兩個(gè)子網(wǎng)絡(luò)進(jìn)行多視圖區(qū)域特征融合，并在不同路徑中間層中交互特征，實(shí)現(xiàn)了自動(dòng)駕駛場(chǎng)景下高精度的三維物體檢測(cè)。

中期融合的方式能夠有效減少模型的數(shù)據(jù)輸入，能夠有效整合來(lái)自不同模態(tài)的深層特征。

3、晚期融合

晚期融合（決策融合）針對(duì)每種模態(tài)的目標(biāo)任務(wù)結(jié)果進(jìn)行決策投票，比其他兩種融合策略更為直觀，能夠有效地促進(jìn)多模態(tài)之間的協(xié)作，避免因?yàn)閭鞲衅魇Ф鴮?duì)最終任務(wù)結(jié)果造成嚴(yán)重影響。

晚期融合由于需要對(duì)不同模態(tài)的數(shù)據(jù)進(jìn)行處理和任務(wù)執(zhí)行，其任務(wù)完成質(zhì)量受到單一模態(tài)影響較大，同時(shí)也存在計(jì)算開(kāi)銷(xiāo)大的問(wèn)題。

二、aiSim仿真模擬平臺(tái)

作為一款端到端的自動(dòng)駕駛仿真模擬工具，康謀aiSim仿真模擬平臺(tái)能夠提供現(xiàn)實(shí)世界中難以捕捉的場(chǎng)景和自動(dòng)駕駛過(guò)程中的邊緣案例，具有高可擴(kuò)展性、高保真度的傳感器模擬和環(huán)境模擬，能夠擴(kuò)充不同測(cè)試場(chǎng)景的數(shù)據(jù)廣度和深度，有效提升ADAS/AD算法的能力。

傳感器是環(huán)境感知系統(tǒng)的核心，自動(dòng)駕駛車(chē)輛需要通過(guò)傳感器獲知周?chē)沫h(huán)境信息?？抵\aiSim設(shè)計(jì)了基于物理原理的傳感器模型，能夠全面準(zhǔn)確的模擬條件和交互環(huán)境。傳感器模型庫(kù)包括相機(jī)、激光雷達(dá)、雷達(dá)、超聲波傳感器等。

高度可擴(kuò)展框架能夠?qū)崿F(xiàn)在多個(gè)GPU上實(shí)現(xiàn)分布式光追渲染，實(shí)時(shí)仿真高度復(fù)雜的多傳感器配置。

具有污泥遮擋、冷凝水霧遮擋、鏡頭色差、鏡頭炫光等多種相機(jī)退化和鏡頭失真情景。

支持新傳感器模型配置和設(shè)計(jì)，并快速測(cè)試其感知性能。相機(jī)、激光雷達(dá)和雷達(dá)視場(chǎng)可視化有助于確定傳感器在車(chē)輛上的最佳安裝位置。

如您對(duì)上述產(chǎn)品感興趣，

歡迎聯(lián)系康謀自動(dòng)駕駛團(tuán)隊(duì)了解更多信息。

我們將竭誠(chéng)為您服務(wù)！

期待與您的交流！

審核編輯 黃宇