【編者按】一直以來，AI 進(jìn)行圖像識(shí)別都是一個(gè)難以清楚解釋的過程，而如今麻省理工學(xué)院林肯實(shí)驗(yàn)室情報(bào)和決策技術(shù)小組的這項(xiàng)研究試圖讓 AI 的決策過程更加可被解釋。

本文來源DeepTech ，經(jīng)億歐編輯，供行業(yè)人士參考。

麻省理工學(xué)院林肯實(shí)驗(yàn)室情報(bào)和決策技術(shù)小組在今年夏天的 CVPR 上發(fā)表了一篇論文《設(shè)計(jì)透明：彌合視覺推理的表現(xiàn)與可解釋性》 （Transparency by Design: Closing the Gap Between Performance and Interpretability in Visual Reasoning） ，論文中提出的系統(tǒng)可以執(zhí)行與人類一樣的推理步驟來進(jìn)行與圖像識(shí)別相關(guān)的任務(wù)，同時(shí)能以圖像形式呈現(xiàn)其決策的過程。

了解神經(jīng)網(wǎng)絡(luò)如何做出決策一直是 AI 研究人員長(zhǎng)期面對(duì)的問題。 神經(jīng)網(wǎng)絡(luò)是以人的大腦為參照開發(fā)的 AI 系統(tǒng)，旨在復(fù)制人類學(xué)習(xí)的方式。簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)有一個(gè)輸入層、一個(gè)輸出層，兩者之間還有一個(gè)將輸入轉(zhuǎn)換為正確的輸出結(jié)果的層。然而一些深度神經(jīng)網(wǎng)絡(luò)非常復(fù)雜，無法遵循這種簡(jiǎn)單的轉(zhuǎn)換過程。所以逐漸地， 神經(jīng)網(wǎng)絡(luò)的設(shè)置層越來越多，決策過程成為了一個(gè)“黑箱”問題，內(nèi)部流程非常不透明，以至于該網(wǎng)絡(luò)的開發(fā)者可能都無法完全掌握。

與此同時(shí)，了解 AI 的決策過程非常重要。例如，對(duì)用在自動(dòng)駕駛汽車中的神經(jīng)網(wǎng)絡(luò)來說，行人和路牌之間存在什么樣的差異？神經(jīng)網(wǎng)絡(luò)的哪個(gè)決策階段能夠發(fā)現(xiàn)兩者的區(qū)別？只有了解這一過程能夠更好地糾正神經(jīng)網(wǎng)絡(luò)的一些錯(cuò)誤。但目前最先進(jìn)的神經(jīng)網(wǎng)絡(luò)也缺乏有效的機(jī)制能讓人理解其推理過程。

對(duì)此，麻省理工學(xué)院林肯實(shí)驗(yàn)室情報(bào)和決策技術(shù)小組開發(fā)了一個(gè)神經(jīng)網(wǎng)絡(luò)，可以執(zhí)行類似人類的推理步驟來回答與圖像相關(guān)的問題。該模型被命名為 Transparency by Design Network（簡(jiǎn)稱：TbD-net），

同時(shí)，TbD-net 在解決問題時(shí)能夠用熱力圖來展示其進(jìn)行視覺分析的過程，即當(dāng)系統(tǒng)識(shí)別圖像時(shí)，會(huì)對(duì)識(shí)別的部分進(jìn)行突出顯示，這達(dá)到了將決策過程可視化的效果。 這種將決策過程可視化的形式讓研究人員能夠了解這一過程并對(duì)其進(jìn)行分析。

對(duì)于 TbD-net 的工作流程，該網(wǎng)絡(luò)內(nèi)有眾多模塊組成的集合，這是該系統(tǒng)中的一個(gè)關(guān)鍵部分，這些模塊是專門用于執(zhí)行特定子任務(wù)的小型神經(jīng)網(wǎng)絡(luò)。在 TbD-net 執(zhí)行圖像識(shí)別任務(wù)時(shí)，它會(huì)將問題分解為子任務(wù)并分配適當(dāng)?shù)哪K，這些子任務(wù)會(huì)被分別完成之后再進(jìn)行組合。

這些模塊就像流水線上的工人一樣，每個(gè)模塊基于前一個(gè)模塊的識(shí)別結(jié)果進(jìn)行工作，一起生成了最終的結(jié)論。TbD-net 利用的 AI 技術(shù)能像理解人類語言一樣，將句子分解為多個(gè)子任務(wù)。而 TbD-net 能夠在處理圖像時(shí)進(jìn)行類似的處理過程，分不同階段對(duì)圖像進(jìn)行識(shí)別。

對(duì)于 TbD-net，如果你問它“那個(gè)巨大的金屬立方體是什么顏色？”那么第一個(gè)模塊會(huì)框定一個(gè)大大的物體；第二模塊會(huì)識(shí)別哪些對(duì)象是金屬；第三模塊會(huì)在前面得出的結(jié)果中找出標(biāo)準(zhǔn)立方體；最后，負(fù)責(zé)顏色識(shí)別的模塊會(huì)最終得出對(duì)象的顏色。

TbD-net 研究人員之一的 Majumdar 說：“將一系列復(fù)雜的推理分解為一系列較小的問題，每個(gè)子問題都可以分別解決再進(jìn)行組合，是一種強(qiáng)大而直觀的推理手段?！?/strong>