AI究竟是如何做出決定的？谷歌研究員在研究

　　3月8日消息，據(jù)《紐約時(shí)報(bào)》報(bào)道，所謂的神經(jīng)網(wǎng)絡(luò)大大推動(dòng)了人工智能的發(fā)展，但理解計(jì)算機(jī)如何作出決策卻十分困難。谷歌的研究人員正在學(xué)習(xí)機(jī)器是如何學(xué)習(xí)的。

　　機(jī)器正在開始自己學(xué)習(xí)執(zhí)行任務(wù)。它們在鑒別面孔，識別口語詞匯，查看醫(yī)學(xué)掃描圖，甚至展開它們自己的對話。

　　所有這些任務(wù)都是通過所謂的神經(jīng)網(wǎng)絡(luò)來完成的，這些網(wǎng)絡(luò)屬于復(fù)雜的計(jì)算機(jī)算法，是通過分析海量的數(shù)據(jù)來學(xué)習(xí)執(zhí)行任務(wù)。但是，這些神經(jīng)網(wǎng)絡(luò)帶來了一個(gè)科學(xué)家正試圖解決的問題：判斷機(jī)器如何得出結(jié)論并不總是一件容易的事情。

　　周二，谷歌的一個(gè)團(tuán)隊(duì)朝著解決這個(gè)問題邁出了一小步。他們所展示的新研究成果，大概描述了顯示機(jī)器如何作出它們的決策的技術(shù)。

　　谷歌研究員克里斯托弗·奧拉(Christopher Olah)指出，“即使只是看到機(jī)器作出決策的一部分過程，你也能夠形成很多關(guān)于它失效的潛在方式的了解。”

　　越來越多的AI研究人員在開發(fā)更好地理解神經(jīng)網(wǎng)絡(luò)的方法。目前供職于打車服務(wù)巨頭Uber人工智能實(shí)驗(yàn)室的美國懷俄明州立大學(xué)教授杰夫·克蘭(Jeff Clune)將這類技術(shù)稱作“人造神經(jīng)科學(xué)”。

　　理解這些系統(tǒng)如何運(yùn)作將變得更加重要，因?yàn)樗鼈兯�做的決策目前是由人類來作出的，比如誰獲得工作，自動(dòng)駕駛汽車如何應(yīng)對緊急情況。

　　神經(jīng)網(wǎng)絡(luò)概念最早在20世紀(jì)50年代被提出，它旨在模擬大腦中的神經(jīng)元網(wǎng)絡(luò)。但那只是一個(gè)粗略的類似。這些算法真的是一連串的數(shù)學(xué)計(jì)算，每個(gè)操作都代表一個(gè)神經(jīng)元。谷歌的新研究，意在以高度可視的方式展示這些數(shù)學(xué)計(jì)算是如何執(zhí)行離散的任務(wù)的，如識別照片中的物體。

　　在神經(jīng)網(wǎng)絡(luò)內(nèi)，每個(gè)神經(jīng)元都會(huì)去識別照片中可能出現(xiàn)的特定特征，比如從特定角度從右到左彎曲的線條，或者合并形成更大形狀的多條線條。谷歌希望提供工具來顯示每個(gè)神經(jīng)元在試圖識別什么東西，哪些神經(jīng)元識別成功，以及它們的努力如何共同判斷照片中實(shí)際上有什么——可能是小狗、燕尾服或小鳥。

　　奧拉表示，谷歌正在討論的這種技術(shù)可能也有助于判斷神經(jīng)網(wǎng)絡(luò)為什么容易出錯(cuò)，以及在寫情況中解釋它是如何習(xí)得這種行為的。包括克蘭在內(nèi)的其他研究人員認(rèn)為，該類技術(shù)還有助于最大限度地減少“對抗樣本”的威脅，比如某人可能通過篡改圖像來欺騙神經(jīng)網(wǎng)絡(luò)。

　　研究人員坦言，這項(xiàng)研究仍處于起步階段。同樣供職于Uber人工智能實(shí)驗(yàn)室的Jason Yosinski認(rèn)為谷歌的技術(shù)理念“是頂級的”。 Uber的AI實(shí)驗(yàn)室產(chǎn)生于該公司收購回來的初創(chuàng)公司Geometric Intelligence。不過Jason Yosinski也警告稱，理解計(jì)算機(jī)思維可能永遠(yuǎn)都不會(huì)變?nèi)菀住?/p>

　　“在某種程度上，隨著這些網(wǎng)絡(luò)變得越來越復(fù)雜，要理解它們?yōu)槭裁醋龀鰶Q策將變得極其困難，”他說道，“這有點(diǎn)像試圖理解人類為什么做出某些決策。”