在網(wǎng)絡(luò)評論的戰(zhàn)場上，是人工智能與人工智能的較量。

生成式人工智能可以吐出聽起來像人類的評論，而經(jīng)過訓(xùn)練的人工智能可以檢測虛假評論。這種沖突對消費者和在線內(nèi)容的未來都有影響。

利用人工智能檢測虛假評論的初創(chuàng)公司Fakespot的創(chuàng)始人兼首席執(zhí)行官薩烏德·哈利法(Saoud Khalifah)表示，他的公司發(fā)現(xiàn)人工智能生成的虛假評論大量涌入。Fakespot正在研究一種檢測ChatGPT等人工智能平臺編寫的內(nèi)容的方法。

他說:“如今與以往大不相同的是，模特們知識淵博，可以寫出任何東西。”

虛假在線評論與真實在線評論存在的時間差不多一樣長，但由于人們對如今在互聯(lián)網(wǎng)上廣泛使用的先進人工智能技術(shù)產(chǎn)生了更廣泛的擔(dān)憂，這個問題變得更加緊迫。

美國聯(lián)邦貿(mào)易委員會(Federal Trade Commission)多年來一直通過逐案執(zhí)法來監(jiān)管這一問題，上個月，該委員會提出了一項新規(guī)定，以打擊欺詐性審查。如果獲得批準(zhǔn)，該規(guī)定將禁止撰寫虛假評論、為評論付費、隱瞞誠實評論和其他欺騙行為，并對違反規(guī)定的人處以巨額罰款。

但現(xiàn)在，什么是虛假評論，什么不是虛假評論已經(jīng)不那么清楚了，檢測虛假評論的技術(shù)仍在發(fā)展中。

聯(lián)邦貿(mào)易委員會廣告實踐部門的律師邁克爾·阿特爾森說:“我們不知道——真的沒有辦法知道——壞人在多大程度上使用了這些工具，以及有多少是機器人制造的，有多少是人為制造的。”“這真的是一個更嚴(yán)重的問題，這只是人們擔(dān)心這些聊天機器人將被用來在網(wǎng)上制造各種虛假內(nèi)容的一個縮影?！?/p>

有跡象表明，人工智能生成的評論已經(jīng)很普遍了。今年4月，美國全國廣播公司財經(jīng)頻道(CNBC)報道稱，亞馬遜上的一些評論有明顯的人工智能參與的跡象，許多評論都以“作為一種人工智能語言模型……”

亞馬遜是多年來與虛假評論作斗爭的眾多在線賣家之一。一位發(fā)言人表示，該公司每周都會收到數(shù)百萬條評論，并在2022年主動屏蔽了2億條可疑的虛假評論。該公司將人類調(diào)查人員和人工智能相結(jié)合，利用機器學(xué)習(xí)模型分析用戶的評論歷史、登錄活動以及與其他賬戶的關(guān)系等因素，來發(fā)現(xiàn)虛假評論。

讓問題更加復(fù)雜的是，人工智能生成的評論并不完全違反亞馬遜的規(guī)則。亞馬遜的一位發(fā)言人表示，該公司允許客戶發(fā)布人工智能生成的評論，只要這些評論是真實的，并且不違反政策指導(dǎo)方針。

這家電子商務(wù)巨頭也表示，它可能需要一些幫助。今年6月，亞馬遜負(fù)責(zé)全球銷售合作伙伴服務(wù)的副總裁達(dá)米什·梅塔(Dharmesh Mehta)在公司的一篇博客文章中呼吁“私營部門、消費者團體和政府”加強合作，以解決日益嚴(yán)重的虛假評論問題。

關(guān)鍵問題是，人工智能檢測是否能夠智勝制造虛假評論的人工智能。哈利法說，幾個月前，F(xiàn)akespot發(fā)現(xiàn)的第一批人工智能生成的虛假評論來自印度，由他所謂的“虛假評論農(nóng)場”——大量出售虛假評論的企業(yè)——生產(chǎn)。生成式人工智能有可能使他們的工作變得更容易。

杜克大學(xué)(Duke University)計算機科學(xué)助理教授布萬·丁格拉(Bhuwan dingra)說，“這些檢測工具肯定很難通過測試?！薄耙驗槿绻Ｐ团c人類寫東西的方式完全匹配，那么你真的無法區(qū)分兩者。我不指望在短時間內(nèi)看到任何探測器以優(yōu)異的成績通過測試?！?/p>

幾項研究發(fā)現(xiàn)，人類并不擅長識別人工智能撰寫的評論。許多技術(shù)專家和公司都在研究檢測人工智能生成內(nèi)容的系統(tǒng)，比如ChatGPT背后的OpenAI公司，甚至在研究檢測他們自己的人工智能。

芝加哥大學(xué)(University of Chicago)計算機科學(xué)教授趙本(Ben Zhao)表示，人工智能“幾乎不可能”接受消滅人工智能生成的評論的挑戰(zhàn)，因為機器人創(chuàng)建的評論通常與人類的評論無法區(qū)分。

他說:“這是一場持續(xù)的貓捉老鼠的追逐，但歸根結(jié)底，人工智能創(chuàng)造的內(nèi)容并沒有什么根本的區(qū)別?！薄澳銜l(fā)現(xiàn)一些系統(tǒng)聲稱它們可以區(qū)分人類編寫的文本和ChatGPT文本。但與它們試圖追趕的東西相比，它們背后的技術(shù)都相當(dāng)簡單?！?/p>

90%的消費者表示他們會在網(wǎng)上購物時閱讀評論，這一前景讓一些消費者權(quán)益倡導(dǎo)者感到擔(dān)憂。

“這對消費者來說是可怕的，”美國公共利益研究組織消費者監(jiān)督辦公室主任特蕾莎·默里說?！叭斯ぶ悄芤呀?jīng)在幫助不誠實的企業(yè)在幾秒鐘內(nèi)以對話的語氣發(fā)表數(shù)千條聽起來真實的評論?！?/p>

資訊來源：http://www.yjczg.com/news/show/127444/