AI沒(méi)有「無(wú)人區(qū)」

　　人工智障和AI藝術(shù)家的差距，更多是人工智能中“人”的差距。

　　在美國(guó)舉行的一場(chǎng)藝術(shù)博覽會(huì)中，Allen利用AI制圖工具M(jìn)idjourney生成的《太空歌劇院》獲得數(shù)字藝術(shù)類別冠軍后，不少藝術(shù)家指責(zé)Allen使用AI生成作品是作弊。

　　事實(shí)上，這副作品并非是由AI軟件生成后，直接拿去參加比賽，中途作者還用Photoshop對(duì)作品進(jìn)行了調(diào)色。

　　與冠軍作品《太空歌劇院》形成對(duì)比的，是網(wǎng)友在社交平臺(tái)貼出的自己通過(guò)AI關(guān)鍵詞“鮭魚回溯”生成的照片。

　　理想中成群結(jié)對(duì)的鮭魚結(jié)伴相游的照片并沒(méi)有出現(xiàn)，取而代之的是一片片漂浮在水面上試圖游泳的的三文魚片。

　　同樣是AI制圖，一個(gè)拿了藝術(shù)大獎(jiǎng)，一個(gè)被調(diào)侃人工智障。制作團(tuán)隊(duì)在模型設(shè)計(jì)、數(shù)據(jù)選擇上的差異，包括用戶使用軟件時(shí)描述方式的不同，導(dǎo)致了最終不同的呈現(xiàn)效果。

　　這樣看來(lái)，AI背后的人，似乎比人工智能更為重要。

　　喂養(yǎng)AI

　　人工智能應(yīng)用于某行業(yè)時(shí)，該行業(yè)的信息化程度應(yīng)處于高水平，事實(shí)上不同行業(yè)的信息化建設(shè)程度不盡相同，這也意味著，AI進(jìn)場(chǎng)首先將面臨不同程度的信息化挑戰(zhàn)。

　　以醫(yī)療行業(yè)來(lái)說(shuō)，雖然醫(yī)療數(shù)據(jù)已經(jīng)實(shí)現(xiàn)了數(shù)據(jù)化，但數(shù)據(jù)化程度不高，內(nèi)部系統(tǒng)分散，數(shù)據(jù)很難流通共享，而AI藥研需要醫(yī)療全過(guò)程的數(shù)據(jù)。

　　為了挖掘出數(shù)據(jù)的價(jià)值，需要專業(yè)人士借助中間系統(tǒng)，將不同系統(tǒng)里的醫(yī)療信息進(jìn)行統(tǒng)一，或者采用聯(lián)邦學(xué)習(xí)法進(jìn)行處理。

　　完成信息系統(tǒng)的統(tǒng)一后，相關(guān)人員往往還需對(duì)信息本身進(jìn)行二次處理。

　　有醫(yī)療行業(yè)人士對(duì)銀杏科技表示，有些醫(yī)生在錄入信息時(shí)，會(huì)使用到業(yè)內(nèi)人士才能明白的黑話，或者只記錄下關(guān)鍵詞。這些被省略的部分需要人工“翻譯”出來(lái)，經(jīng)過(guò)人工規(guī)范后的數(shù)據(jù)才能用于AI模型訓(xùn)練。

　　AI進(jìn)行訓(xùn)練的語(yǔ)言通常較為規(guī)范，而人們?nèi)粘Ｉ�活的語(yǔ)言會(huì)更為通俗。為了讓AI在日常應(yīng)用中更有人情味，會(huì)有專門的工作人員對(duì)它們的語(yǔ)言進(jìn)行“潤(rùn)色”。

　　以智能語(yǔ)音為例，用戶在與智能語(yǔ)音對(duì)話時(shí)，往往會(huì)省略掉一些關(guān)鍵性修飾詞，默認(rèn)智能語(yǔ)音明白。而用戶默認(rèn)智能語(yǔ)音懂的這部分關(guān)鍵信息，就需要設(shè)計(jì)師“補(bǔ)”上去。

　　騰訊的車機(jī)系統(tǒng)在進(jìn)入車載市場(chǎng)時(shí)曾遇到這樣一個(gè)小插曲。用戶要求語(yǔ)音助手播放《在路上》，但這既是一首歌曲名，也是一個(gè)電臺(tái)名稱。

　　面對(duì)這樣一詞多義的情況，正確的做法似乎是語(yǔ)音助手詢問(wèn)用戶播放歌曲《在路上》還是電臺(tái)《在路上》。

　　在實(shí)際的使用過(guò)程中，出于客戶要求，設(shè)計(jì)者將歌曲版作為默認(rèn)選項(xiàng)。而有的廠商在面對(duì)這樣的問(wèn)題時(shí)，考慮到電臺(tái)版關(guān)注者并不多，而歌曲版近期大熱，會(huì)將播放歌曲《在路上》作為默認(rèn)選項(xiàng)。

　　這一種排序的優(yōu)先級(jí)是人為對(duì)AI進(jìn)行的一個(gè)程序設(shè)置，目的是增加用戶在使用過(guò)程中對(duì)人工智能的親切感，然而這樣的設(shè)定會(huì)讓想聽(tīng)電臺(tái)版《在路上》的用戶對(duì)語(yǔ)音助手的好感度下降。

　　當(dāng)AI足夠智能化后，它可以根據(jù)用戶的喜好自動(dòng)生成用戶喜好或者習(xí)慣的排序優(yōu)先級(jí)。

　　從數(shù)據(jù)收集、產(chǎn)品測(cè)試、再到正式投入使用，人們?nèi)�程參與，及時(shí)根據(jù)AI的反饋調(diào)整模型和數(shù)據(jù)，確保在技術(shù)上達(dá)到理想效果。

　　從另一個(gè)角度講，到底是播放歌曲，還是電臺(tái)，這取決于平臺(tái)干預(yù)，從而讓AI平臺(tái)們擁有了某種“權(quán)力”，它們可以根據(jù)好惡選擇。

　　教會(huì)AI“善良”

　　人工智能的一大技能，是可以根據(jù)蛛絲馬跡找出人們?cè)噲D隱藏的信息，這能幫助福爾摩斯破案，也可能導(dǎo)致科技公司信息被泄密。

　　前幾年鬧得沸沸揚(yáng)揚(yáng)的亞馬遜智能音箱echo勸人自殺事件中，智能音箱只是從自己的數(shù)據(jù)庫(kù)中調(diào)取信息作為對(duì)用戶提問(wèn)的回復(fù)，它并不理解其中的含義，也無(wú)法共情這樣的答復(fù)會(huì)帶給用戶怎樣的情感傷害。

　　從技術(shù)的角度講，語(yǔ)音助手Alexa對(duì)用戶的提問(wèn)做出了回答，答案也不智障(拋開(kāi)人類立場(chǎng)不談)，但人們無(wú)法在情感上接受這一回答，于是向亞馬遜提出了抗議。

　　echo的工程師解釋，Alexa很可能是從維基百科上下載了帶有惡意文件的文本，才做出這樣反人類的回答。

　　這就是為什么它會(huì)勸用戶自殺，它的數(shù)據(jù)源出現(xiàn)了污染。

　　“機(jī)器人通過(guò)這些有缺陷的神經(jīng)網(wǎng)絡(luò)模型，學(xué)習(xí)到了有毒的刻板印象。”佐治亞理工大學(xué)的博士后研究員安德魯·亨特表示。

　　本質(zhì)上，Alexa的錯(cuò)誤言論是人類社會(huì)的偏激言論，通過(guò)人工智能傳遞回了人類社會(huì)。

　　也是因?yàn)榭紤]到這一點(diǎn)，即使是智能產(chǎn)品已經(jīng)在市場(chǎng)上成熟運(yùn)行了一段時(shí)間，科技公司通常也會(huì)安排專門的人員，負(fù)責(zé)對(duì)產(chǎn)品的數(shù)據(jù)庫(kù)、模型進(jìn)行監(jiān)測(cè)。

　　智能音箱數(shù)據(jù)被污染后，勸用戶自殺帶來(lái)的是可能發(fā)生的潛在傷害，而智能駕駛汽車的數(shù)據(jù)如果出現(xiàn)污染，帶來(lái)的傷害幾乎不可避免。

　　破壞者在系統(tǒng)中混入具有干擾性的數(shù)據(jù)，從而影響車輛對(duì)客觀環(huán)境的判斷，干擾車輛的正常行駛，很可能導(dǎo)致車輛失控。

　　嚴(yán)重情況下，攻擊者甚至可以還原出系統(tǒng)的算法邏輯，對(duì)裝載同款系統(tǒng)的汽車進(jìn)行無(wú)差別攻擊，給廠商帶去不可估量的損失。

　　人工智能已經(jīng)參與到互聯(lián)網(wǎng)內(nèi)容生產(chǎn)流通過(guò)程之中，抖音、快手的流量分發(fā)，內(nèi)容審核，大部分都是交給人工智能完成。

　　機(jī)器負(fù)責(zé)*遍信息篩選，根據(jù)以往數(shù)據(jù)對(duì)疑似違規(guī)的內(nèi)容進(jìn)行攔截或標(biāo)紅提示;之后再由審核人員對(duì)標(biāo)紅信息進(jìn)行核實(shí)。

　　為什么沒(méi)有辦法完全交給機(jī)器呢?一位抖音的審核人員對(duì)銀杏科技表示，機(jī)器是根據(jù)量化的指標(biāo)做決定，比如一旦識(shí)別到“果體”畫面或相關(guān)的關(guān)鍵詞，就會(huì)自動(dòng)攔截或作限流處理，但很多東西無(wú)法量化，比如意境、內(nèi)涵，機(jī)器尚無(wú)法對(duì)只能意會(huì)不能言傳的信息做出準(zhǔn)確判斷�，F(xiàn)在不少擦邊視頻，畫面與文字都不含敏感詞，組合在一起卻是妥妥的性暗示，像這樣機(jī)器審核的漏網(wǎng)之魚就只能人工抓捕。

　　紀(jì)錄片《監(jiān)視資本主義：智能陷阱》中，兩撥人在算法推薦營(yíng)造的繭房里將自身觀看到的信息奉為真理，并在算法的推薦下不斷強(qiáng)化這一信念，雙方的信仰差異逐漸演成暴力事件，而他們最初爭(zhēng)論的可能僅僅只是地球是圓是方。

　　一條具有傾向性的言論，一個(gè)投其所好的推薦機(jī)制，分開(kāi)看都沒(méi)什么問(wèn)題，湊上一起再加上時(shí)間的催化就演變成了一場(chǎng)暴力事件。哪一方都沒(méi)有責(zé)任，哪一方又好像都有責(zé)任。

　　相比前兩者，AI技術(shù)的外部性或許更需要科技公司注意。

　　AI不是萬(wàn)靈藥

　　邁過(guò)技術(shù)關(guān)卡，規(guī)避掉各類各類風(fēng)險(xiǎn)后，乖乖為我們所用的AI就一定能為公司帶來(lái)更好的經(jīng)濟(jì)效益嗎?未必。

　　對(duì)于曲庫(kù)量高達(dá)七千萬(wàn)的音樂(lè)平臺(tái)來(lái)說(shuō)，要求音樂(lè)編輯聽(tīng)完所有內(nèi)容后再進(jìn)行作品推薦顯然不現(xiàn)實(shí)。

　　誠(chéng)然，AI可以快速“聽(tīng)”完所有音樂(lè)后，根據(jù)聽(tīng)眾的審美偏好推薦相似風(fēng)格的小眾作品，從而提高整個(gè)曲庫(kù)的利用率，當(dāng)年蝦米音樂(lè)憑借獨(dú)特的算法邏輯在版權(quán)弱勢(shì)的情況下，依舊能與網(wǎng)易騰訊抗衡。

　　不過(guò)算法推薦也有弊端，不少用戶反應(yīng)推薦的音樂(lè)風(fēng)格過(guò)于單一，音樂(lè)平臺(tái)也嘗試改變算法的邏輯，在日推中加入風(fēng)格差異大的作品，以此緩解聽(tīng)眾的審美疲勞。

　　即使是看似完全交給機(jī)器的算法推薦，背后依舊是按照人的意志來(lái)執(zhí)行。

　　機(jī)器推薦始終稍顯冰冷，這缺失的人情味便由用戶自發(fā)上傳的各類歌單補(bǔ)足。用戶自建的歌單歌曲的風(fēng)格連貫性不高，卻熱情飽滿，大家自發(fā)地收藏評(píng)論，用戶與用戶的距離、用戶與平臺(tái)的距離，也就由此拉近了。

　　出于整體的商業(yè)利益考慮，大部分內(nèi)容平臺(tái)都會(huì)采用AI和人工兩種推薦方式，取長(zhǎng)補(bǔ)短。

　　內(nèi)容行業(yè)由于其文化上的特殊性，不能完全交給機(jī)器;而完全可以用AI代替，代替后效果更佳的工業(yè)，不少公司依舊使用人工，部分原因在于使用AI后帶來(lái)的收益并不能覆蓋前期投入的成本。

　　一位從事傳統(tǒng)行業(yè)的從業(yè)者對(duì)銀杏科技表示：如果采用AI技術(shù)，帶來(lái)了100萬(wàn)的收益，卻讓成本增加了110萬(wàn)，并且這個(gè)成本在三五年內(nèi)并不一定會(huì)下降，那么他傾向于保持現(xiàn)狀。如果成本與收益基本持平，但成本有望在三五年內(nèi)大幅下降，那么他會(huì)愿意嘗試。

　　除了成本問(wèn)題，上述從業(yè)者還表示，希望能夠在確保公司數(shù)據(jù)*隱私、*安全的情況下進(jìn)行AI模型訓(xùn)練，如果不能保證這一點(diǎn)，即使采用AI技術(shù)收益會(huì)更高，他也很可能不會(huì)采用AI技術(shù)。

　　事實(shí)上，該從業(yè)者擔(dān)心的數(shù)據(jù)安全、隱私泄露問(wèn)題，即使是完全采用普通機(jī)器或者人工，擔(dān)憂的事情也可能發(fā)生。

　　他告訴銀杏科技，在他看來(lái)AI的信息泄露肯定比傳統(tǒng)技術(shù)信息泄露造成的影響大，并且，法律對(duì)于傳統(tǒng)技術(shù)中出現(xiàn)的泄密等問(wèn)題是有明確的相關(guān)規(guī)定的，出現(xiàn)問(wèn)題直接走法律程序。

　　而AI技術(shù)在這方面的法律規(guī)定還在制定當(dāng)中，他表示，自己還是更愿意在這些配套設(shè)施基本完善之后再考慮AI技術(shù)。

　　從技術(shù)本身、到技術(shù)與人類社會(huì)的磨合、再到AI真正給用戶帶來(lái)價(jià)值，這其中的每一個(gè)環(huán)節(jié)都需要人參與，人的角色從一線的勞動(dòng)者變成指揮AI進(jìn)行一線勞動(dòng)的調(diào)控者。

　　人們利用數(shù)據(jù)和模型培養(yǎng)一個(gè)助手，如何引導(dǎo)這個(gè)助手以達(dá)到自己想要的市場(chǎng)效果，還在摸索階段。