算法也有偏見？紐約市通過美國首個算法問責法案

　　算法在我們生活中發(fā)揮著越來越重要的作用，它們往往出自硅谷，但對它們進行問責的努力則可能來自另一個中心：紐約市。上周，紐約市議會一致通過一項法案，以解決算法歧視問題。這是美國首次對算法制定措施。

　　這個正在等待紐約市長Bill de Blasio將其簽署為法律的算法問責法案成立了一個專門工作組，以研究城市機構(gòu)如何使用算法來做出影響紐約人生活的決策，以及這些算法是否對人有年齡、種族、宗教、性別、性取向或國籍方面的歧視。工作組的報告也將探討如何使這些決策制定過程變得讓公眾可以理解。

　　紐約非盈利公司ProPublica調(diào)查了有種族偏見的算法，它們被用來評估被告的犯罪風險。上述法案的發(fā)起人、紐約市議員James Vacca說他受到了該調(diào)查的啟發(fā)。

　　“我的目的在于透明化和問責。”Vacca說

　　之前，該法案有一個更徹底的版本，規(guī)定市政機構(gòu)要公布所有用于“追蹤服務(wù)”(targeting services)或“對人施加懲罰或維護治安”的算法的源代碼，并讓它們接受公眾的“自我測試”。在10月份舉行的一次市政廳聽證會上，市長辦公室的代表表示擔心這種規(guī)定將威脅紐約人的隱私和政府的網(wǎng)絡(luò)安全。

　　該法案是市議會在上周就算法提出的兩項舉措之一。上周四，衛(wèi)生和公共安全委員會就紐約市的取證方法舉行了一場聽證會，包括首席法醫(yī)辦公室的犯罪實驗室針對難以分析的DNA樣本開發(fā)的有爭議的工具。

　　在9月份詳細披露的ProPublica/紐約時報調(diào)查中，科學專家和前犯罪實驗室員工質(zhì)疑該實驗室針對復雜的DNA樣本創(chuàng)建的一個算法。

　　這款軟件名為“司法統(tǒng)計工具”(FST)，美國其他實驗室從未采用過它。

　　紐約市議員、健康委員會主席Corey Johnson引用了ProPublica調(diào)查的兩個主要結(jié)果：FST的開發(fā)者已經(jīng)承認該程序的一個關(guān)鍵輸入的誤差范圍為30%，以及該程序不考慮家庭成員可能會共享DNA。

　　紐約市不再在新案件中使用這個工具。但出席聽證會的官員說，他們認為沒必要重審過去數(shù)年里依賴這項技術(shù)的數(shù)千起刑事案件。

　　“你是否愿意審查那些涉及測試非常小的混合物的案件，或者是否對在每個分配到實驗室的案件中所使用的所有方法和科學都充滿信心?”Johnson問官員。

　　“我們完全有信心，”紐約市首席驗尸官Barbara Sampson博士回答。

　　多年來，該算法的源代碼一直處于保密狀態(tài)。為此，ProPublica提交了一份申請，以解除對該算法的保護令。10月，一名聯(lián)邦法官批準了該申請，然后ProPublica公布了源代碼。

　　辯護律師在聽證會上作證，批評首席法醫(yī)辦公室，認為他們DNA工具的開發(fā)過程不透明，而這很危險。

　　9月，一些人聯(lián)合寫信給紐約州檢察長，要求調(diào)查犯罪實驗室和審查之前的案件。檢察長Catherine Leahy Scott尚未表示是否會進行追究。與此同時，紐約州法醫(yī)科學委員會(它負責監(jiān)督州內(nèi)實驗室的取證方法)在秘密會議上討論了這些批評。這些會議不對公眾開放，委員會委員也不能談?wù)撍鼈儭?/p>

　　聽證后，Johnson表示，法醫(yī)證詞與辯護律師證詞之間的不一致讓他感到擔憂，他打算進行進一步的探索。

　　“這是一個非常非常重要的問題，我們必須確保所使用的方法具有科學上的合理性，用適當?shù)姆绞綄ζ浼右则炞C，讓它們對公眾和辯護律師保持透明，確保民眾對司法系統(tǒng)更加信任，”Johnson說，“通過提出更多的問題，我們有望做到這些，并可能考慮在未來立法。”

　　編譯：鄧桂華。本文來自propublica