如何讓人工智能變得可解釋？

　　RegTech 公司Hawk: AI的首席技術(shù)官沃爾夫?qū)?middot;伯納(Wolfgang Berner)的表示，如果你真的可解釋性對(duì)于許多應(yīng)用尤為關(guān)鍵。

　　伯納表示:“在反洗錢等嚴(yán)格監(jiān)管的領(lǐng)域，考慮人工智能的使用透明度和可解釋性是完全合適的。當(dāng)AI的決策與原始數(shù)據(jù)過于脫節(jié)，以及算法的工作方式缺乏透明度時(shí)，人們就會(huì)對(duì)這種典型的“黑匣子AI”產(chǎn)生擔(dān)憂。”

　　Hawk AI認(rèn)為，合規(guī)行業(yè)、信任和接受的關(guān)鍵在于高度的透明度。因此，對(duì)于該公司來說，對(duì)人工智能可解釋性的需求遠(yuǎn)遠(yuǎn)超出了純粹的監(jiān)管要求。

　　借助可理解的人工智能，金融機(jī)構(gòu)甚至可以對(duì)神經(jīng)網(wǎng)絡(luò)等復(fù)雜模型進(jìn)行概覽和控制。對(duì)于 Hawk AI，可解釋性由兩個(gè)方面組成——人工智能驅(qū)動(dòng)的個(gè)人決策的理由是什么?有助于人工智能的算法是如何開發(fā)的?

　　Hawk AI 表示：“對(duì)于 Hawk AI 來說，這很清楚——只有技術(shù)上可以解釋的，最終才會(huì)被接受。決策的確切標(biāo)準(zhǔn)或某些風(fēng)險(xiǎn)的統(tǒng)計(jì)概率以及算法的組成與 AI 決策過程的完整文檔一樣重要。同樣重要的是，所有這些都以清晰易懂的語言而不是純粹的技術(shù)術(shù)語來表達(dá)。”

　　該公司認(rèn)為，每個(gè)細(xì)節(jié)和每個(gè)數(shù)據(jù)源都必須是可驗(yàn)證的——例如，與特定同行組相比，某些值是顯著高還是低。為什么人工智能假設(shè)某些預(yù)期值以及這些值如何相互關(guān)聯(lián)，必須是透明的。數(shù)據(jù)情況必須非常清楚，以至于合規(guī)官會(huì)使用相同的數(shù)據(jù)做出相同的決定。

　　此外，一致的反饋和驗(yàn)證流程有助于不斷改進(jìn)決策——因此，人工智能直接從合規(guī)團(tuán)隊(duì)的決策中學(xué)習(xí)，并可以在未來更好地支持他們。

　　Hawk 提到，AI 不僅在其應(yīng)用之初必須是透明的——因?yàn)樗�通過接觸新數(shù)據(jù)來獨(dú)立改進(jìn)，還需要能夠理解這樣的優(yōu)化。為此，該公司聲稱 AI 的每一個(gè)變更過程也都記錄在軟件中，并且需要明確的批準(zhǔn)。因此，如果沒有合規(guī)團(tuán)隊(duì)能夠理解和控制它，人工智能就永遠(yuǎn)不會(huì)進(jìn)化。

　　Hawk AI 總結(jié)道：“AI 反洗錢已經(jīng)準(zhǔn)備就緒——有了 Hawk AI，它是透明且安全的。由于這些原因，Hawk AI 談到了與人工智能相關(guān)的“白盒 AI”，與“黑盒 AI”相比，其技術(shù)對(duì)于合規(guī)團(tuán)隊(duì)來說是完全可以理解的。因此，我們的軟件提供了完全的控制和安全性。人工智能在金融領(lǐng)域的應(yīng)用正在徹底改變打擊金融犯罪的斗爭(zhēng)。

　　“技術(shù)驅(qū)動(dòng)的反洗錢不僅在效率和有效性方面明顯超越了傳統(tǒng)系統(tǒng)，而且由于它能夠從犯罪行為模式中學(xué)習(xí)，因此特別具有前瞻性。因此，從長(zhǎng)遠(yuǎn)來看，使用人工智能打擊金融犯罪將成為行業(yè)標(biāo)準(zhǔn)。多年來，該技術(shù)已在實(shí)踐中得到驗(yàn)證。即使在非常大的金融機(jī)構(gòu)中，它今天已經(jīng)在使用，或者至少在第一批試點(diǎn)中已經(jīng)建立。”

　　Hawk AI 已與推動(dòng)金融和零售互聯(lián)商務(wù)的領(lǐng)導(dǎo)者 Diebold Nixdorf 合作，以擴(kuò)大前者的 AML 解決方案的覆蓋范圍。