谷歌澄清AI使用條款：允許高風(fēng)險領(lǐng)域“自動化決策”，但需人工監(jiān)督

　　谷歌(Google)近日更新了其生成式AI的使用條款，明確指出客戶可以在醫(yī)療保健等“高風(fēng)險”領(lǐng)域部署其生成式AI工具進(jìn)行“自動化決策”，但前提是必須有人工監(jiān)督。

　　根據(jù)谷歌周二發(fā)布的最新版《生成式AI禁止使用政策》，客戶可以使用谷歌的生成式AI做出可能對個人權(quán)利產(chǎn)生“重大不利影響”的“自動化決策”。只要有人工以某種形式進(jìn)行監(jiān)督，客戶就可以使用谷歌的生成式AI來決定就業(yè)、住房、保險、社會福利和其他“高風(fēng)險”領(lǐng)域的事項(xiàng)。

　　在AI領(lǐng)域，自動化決策指的是AI系統(tǒng)基于事實(shí)數(shù)據(jù)和推斷數(shù)據(jù)做出的決策。例如，一個系統(tǒng)可能會自動決定是否批準(zhǔn)貸款申請，或篩選求職者。

　　此前，谷歌的條款草案暗示全面禁止在高風(fēng)險自動化決策中使用該公司的生成式AI。但谷歌告訴TechCrunch，只要有人工監(jiān)督，客戶始終可以使用其生成式AI進(jìn)行自動化決策，即使是高風(fēng)險應(yīng)用也不例外。

　　“對于所有高風(fēng)險領(lǐng)域，我們的人工監(jiān)督要求始終存在于我們的政策中，”谷歌發(fā)言人在通過電子郵件聯(lián)系時表示，“我們正在重新分類[條款中的]一些項(xiàng)目，并更明確地列出一些例子，以使客戶更清楚地了解。”

　　谷歌的主要AI競爭對手OpenAI和Anthropic對高風(fēng)險自動化決策中AI的使用有更嚴(yán)格的規(guī)定。例如，OpenAI禁止將其服務(wù)用于與信貸、就業(yè)、住房、教育、社會評分和保險相關(guān)的自動化決策。Anthropic允許其AI在法律、保險、醫(yī)療保健和其他高風(fēng)險領(lǐng)域用于自動化決策，但前提是必須由“合格的專業(yè)人員”監(jiān)督，并且要求客戶披露他們正在為此目的使用AI。

　　影響個人的自動化決策AI受到了監(jiān)管機(jī)構(gòu)的密切關(guān)注，他們對這項(xiàng)技術(shù)可能造成的偏見結(jié)果表示擔(dān)憂。研究表明，例如，用于批準(zhǔn)信貸和抵押貸款申請的AI可能會延續(xù)歷史歧視。

　　非營利組織人權(quán)觀察呼吁禁止“社會評分”系統(tǒng)，該組織認(rèn)為這可能會破壞人們獲得社會保障支持的機(jī)會，損害他們的隱私，并以帶有偏見的方式對他們進(jìn)行畫像。

　　在歐盟的《人工智能法案》中，高風(fēng)險AI系統(tǒng)(包括做出個人信貸和就業(yè)決定的系統(tǒng))面臨最嚴(yán)格的監(jiān)管。這些系統(tǒng)的提供商必須在數(shù)據(jù)庫中注冊，執(zhí)行質(zhì)量和風(fēng)險管理，雇用人工監(jiān)督員，并向相關(guān)部門報告事件，以及其他要求。

　　在美國，科羅拉多州最近通過了一項(xiàng)法律，要求AI開發(fā)人員披露有關(guān)“高風(fēng)險”AI系統(tǒng)的信息，并發(fā)布總結(jié)系統(tǒng)功能和局限性的聲明。與此同時，紐約市禁止雇主使用自動化工具篩選候選人的就業(yè)決定，除非該工具在前一年內(nèi)接受過偏見審計(jì)。

　　此次谷歌澄清AI使用條款，表明了該公司在AI應(yīng)用監(jiān)管方面的態(tài)度。允許高風(fēng)險領(lǐng)域自動化決策，但又強(qiáng)調(diào)人工監(jiān)督的重要性，這既體現(xiàn)了AI技術(shù)應(yīng)用的潛力，也反映了對潛在風(fēng)險的警惕。