一鍵禁用AI模型爬蟲(chóng)機(jī)器人，Cloudflare推出“Bot Fight Mode”防火墻服務(wù)

　　網(wǎng)絡(luò)服務(wù)商 Cloudflare 近日推出一款名為“Bot Fight Mode”的防火墻工具，站長(zhǎng)們可以在控制臺(tái)開(kāi)啟相關(guān)服務(wù)，從而防止自己網(wǎng)站的內(nèi)容被用于訓(xùn)練 AI 的機(jī)器人爬蟲(chóng)扒取。

　　IT之家注：爬蟲(chóng)是一種自動(dòng)化的程序，可以在互聯(lián)網(wǎng)上搜索和獲取信息，目前許多廠商使用相關(guān)爬蟲(chóng)扒取各大網(wǎng)站信息用于訓(xùn)練 AI 模型，相關(guān)爬蟲(chóng)容易導(dǎo)致被扒網(wǎng)站產(chǎn)生大量異常流量，為此站長(zhǎng)需支付高昂的網(wǎng)絡(luò)帶寬費(fèi)用，同時(shí)也容易導(dǎo)致網(wǎng)站上大量原創(chuàng) / 隱私內(nèi)容泄露。

　　據(jù)悉，Cloudflare 推出的相關(guān)工具主要利用簽名比對(duì)、啟發(fā)式算法、機(jī)器學(xué)習(xí)和行為分析技術(shù)來(lái)辨別爬蟲(chóng)，站長(zhǎng)還可以按照需要放行“好的 AI 機(jī)器人”抓取信息(此類“好的 AI 機(jī)器人”主要尋找網(wǎng)站的 robots.txt 來(lái)獲取信息，通常不會(huì)對(duì)網(wǎng)站本身產(chǎn)生異常流量，也不會(huì)將網(wǎng)頁(yè)所有數(shù)據(jù)直接用于全盤(pán)訓(xùn)練模型)。

　　互聯(lián)網(wǎng)為許多大語(yǔ)言模型(如 OpenAI 的 GPT 模型和谷歌的 Bard)提供了大部分的訓(xùn)練數(shù)據(jù)，如今許多廠商為了刷自家 AI 模型分?jǐn)?shù)，大肆通過(guò)網(wǎng)絡(luò)爬蟲(chóng)“拿來(lái)式”地獲取訓(xùn)練數(shù)據(jù)，從而讓本應(yīng)你情我愿的行為變得“污名化”，各大網(wǎng)絡(luò)商直接推出此類禁用 AI 爬蟲(chóng)的服務(wù)也在意料之中。