讓我們來談?wù)効苹眯≌f。

尼爾·斯蒂芬森1992年的小說《雪崩》推動了上千家初創(chuàng)公司的誕生。這是第一本使用印度語“avatar”來描述一個人的虛擬形象的書，它創(chuàng)造了“textareaverse”這個詞，是馬克·扎克伯格(Mark Zuckerberg)為Facebook新高管必讀的書之一，10年后，他改變了整個公司的重點，試圖在現(xiàn)實中建立斯蒂芬森的虛構(gòu)世界。

情節(jié)圍繞著一個圖像展開，當在虛擬世界中觀看時，這個圖像劫持了觀眾的大腦，使他們致殘或死亡。在虛構(gòu)的世界里，圖像沖擊了大腦，呈現(xiàn)給大腦的是無法正確處理的輸入。

這是科幻小說中反復(fù)出現(xiàn)的一個想法。也許第一個清晰的例子出現(xiàn)在四年前，英國科幻作家大衛(wèi)·蘭福德的短篇小說《BLIT》中，它想象了一場利用“蛇怪”發(fā)動的恐怖襲擊，圖像中包含“人類設(shè)備無法安全運行的隱性程序”。在1999年發(fā)表在《自然》雜志上的這個故事的續(xù)集中，蘭福德引用了更早的相似之處，甚至引用了巨蟒劇團(Monty Python)的“飛行馬戲團”(Flying Circus)，“其著名的小劇講述了世界上最有趣的笑話，讓所有聽眾都笑死”。

集體小說項目SCP為這種想法創(chuàng)造了一個名字:認知危害。一種思想，這種思想本身就可能是有害的。

有一個問題值得我們越來越認真地對待:認知危害真的存在嗎?

你知道的東西會傷害你

本周，我開始思考這個問題，這是我們在全球選舉中自動識別深度造假的報道的一部分。自2017年以來，當我第一次在換臉色情的背景下聽到這個詞時，已經(jīng)有可能通過檢查來識別人工智能生成的圖像。但這項任務(wù)變得越來越困難，現(xiàn)在我們正處于這個領(lǐng)域的專家都無法理解的尖端。因此，在這些材料超出閾值之前，建立能夠自動識別和標記這些材料的系統(tǒng)是一場與時間的競賽。

但如果標簽還不夠呢?從我的故事中:

我們能把這樣的視頻稱為認知危害嗎?一些非?，F(xiàn)實的東西，即使你被告知不是這樣，你也會不自覺地把它當作現(xiàn)實，這似乎符合要求。

當然，這也適用于很多小說。如果這個定義被延伸到那么遠，一個讓你難以入睡的恐怖故事，或者一個讓你感到身體不適的令人內(nèi)心不愉快的暴力場景，都可能是一種認知危害。

多米諾骨牌倒下

也許與小說中的例子更接近的是劫持我們注意力而不是情感的技巧。畢竟，即使在最好的時候，情緒也很少在我們的控制之下;感受你不想感受的東西幾乎就是負面情緒的定義。

注意力應(yīng)該是不同的。這是我們有意識控制的東西。我們有時會說“分心”，但更嚴重的注意力發(fā)作需要越來越多的醫(yī)學(xué)術(shù)語:“癡迷”、“強迫”、“成癮”。

科技攻擊我們的注意力的想法并不新鮮，有一個“注意力經(jīng)濟”的概念支撐著這種攻擊。在一個廣告支持媒體的世界里，商業(yè)競爭越來越激烈，不是直接為了我們的錢，而是為了我們的時間，因為我們每天只有24小時，所以吸引和保持注意力是有巨大的商業(yè)動機的。為了實現(xiàn)這一目標而開發(fā)的一些交易工具確實讓人感覺它們觸及了一些原始的東西。關(guān)于新通知的醒目紅點，點擊刷新的觸感以及游戲化的持續(xù)推動，我們都進行了詳細的討論。

我認為，有些已經(jīng)越過了界限，成為真正的認知危害。雖然它們可能只對那些容易被注意力劫持的人來說是危險的，但這種強迫感覺是真實的。

一種是游戲類型:“點擊”或“空閑”游戲，如廣受好評的《Universal Paperclips》，將游戲的獎勵機制濃縮為最簡單的結(jié)構(gòu)。之所以這么說，是因為他們幾乎是在玩自己，空閑游戲呈現(xiàn)了一系列令人眼花繚亂的計時器，倒計時和升級，并不斷提供一些突破，改進或效率，就在幾秒鐘之后。我和其他許多人一樣，因為這些問題失去了一整天的生產(chǎn)力。

另一種是一種類型的內(nèi)容，我開始將其視為“多米諾骨牌視頻”，這是一種與空閑游戲相同的非互動內(nèi)容。一個視頻，一些過程進展有序，但不是完全可預(yù)測的，方式，吸引你，并導(dǎo)致一個不可阻擋的強迫看，直到結(jié)束。有時這簡直就是多米諾骨牌效應(yīng);其他時候，它可能是有人有條不紊地清潔地毯或脫毛。有時這個過程可能永遠不會完成;pong wars是一款自動生成的Breakout“游戲”，游戲中有兩個球，每個球都有入侵對方空間的威脅。它永遠不會結(jié)束，但你會看得太長而不值得。

有可能情況已經(jīng)糟到極點了。也許真正的注意力收割機本身就有一些令人反感的東西，這意味著在游戲過程中盯著他們看的沖動總是會被浪費時間的羞恥或厭惡所抵消。

但如果不是呢?如果生成式人工智能在社交媒體上被釋放出來，真正在工業(yè)規(guī)模上吸引注意力，會是什么樣子?如果父母給孩子的建議不僅僅是要小心他們在網(wǎng)上和誰說話，還要小心他們甚至看的東西?

在成為現(xiàn)實之前，一切都是科幻小說。

如果你想閱讀完整版的時事通訊，請在每周二的收件箱中訂閱TechScape。

加入亞歷克斯·赫恩的《衛(wèi)報》直播節(jié)目聯(lián)機事件a關(guān)于人工智能、深度造假和選舉，將于4月24日星期三晚8點英國夏令時舉行。在這里訂票。