編者按

本文是關(guān)于校園深度性犯罪的三篇系列文章中的第二篇。這些犯罪行為包括篡改照片和視頻來制作露骨的內(nèi)容，造成學(xué)生之間的不信任和緊張關(guān)系，有時(shí)還會(huì)導(dǎo)致學(xué)生和老師之間的關(guān)系緊張。該系列是與《韓國時(shí)報(bào)》的姊妹報(bào)紙《韓國日?qǐng)?bào)》的調(diào)查性報(bào)道專門小組“卓越實(shí)驗(yàn)室”（Excellence Lab）合作制作的。- ED。

在韓國和美國的學(xué)校都發(fā)生了嚴(yán)重的假性犯罪事件之后，15歲的弗朗西斯卡·馬尼（Francesca Mani）和她的母親多洛塔·馬尼（Dorota Mani）把她們的個(gè)人磨難變成了一場強(qiáng)大的變革運(yùn)動(dòng)。

“我不是在尋求同情，我想要的是責(zé)任，”弗朗西斯卡在最近的一次采訪中告訴《韓國時(shí)報(bào)》。

“學(xué)校需要明確表示，這種行為是不可接受的，并確保肇事者對(duì)他們的行為負(fù)責(zé)?！?/p>

她的故事與韓國的類似案件形成鮮明對(duì)比，受害者往往保持沉默或受到社會(huì)的污名化。

去年10月，新澤西州韋斯特菲爾德公立學(xué)校（Westfield Public School）的弗朗西斯卡（Francesca）和其他幾名10年級(jí)女生向?qū)W校管理人員報(bào)告說，男同學(xué)使用人工智能軟件制作并傳播了她們露骨的深度假照片。

學(xué)校在當(dāng)月晚些時(shí)候展開了調(diào)查。然而，該制度未能充分保護(hù)受害者。

雖然學(xué)校管理人員悄悄地詢問了一些涉案的男孩，但他們公開把弗朗西斯卡和其他被深度偽造的女孩叫到了學(xué)校辦公室，通過對(duì)講機(jī)宣布了她們的名字。

學(xué)校校長瑪麗·阿斯芬迪斯（Mary Asfendis）承認(rèn)事件的嚴(yán)重性，并給家長們發(fā)了一封電子郵件，稱深度造假是“非常嚴(yán)重的事情”。馬尼一家表示，盡管學(xué)生和家長擔(dān)心這些照片可能會(huì)被傳播，但阿斯芬迪斯向他們保證，學(xué)校相信所有偽造的照片都已被刪除，不再被分享。

雖然學(xué)校承認(rèn)事件的嚴(yán)重性，但未能對(duì)違法者采取適當(dāng)?shù)男袆?dòng)。

就在deepfake事件曝光幾天后，弗朗西斯卡發(fā)現(xiàn)，負(fù)責(zé)制作偽造圖像的一個(gè)男孩只被拘留了一到兩天，作為懲罰。

這些罪犯繼續(xù)上學(xué)，甚至代表學(xué)校參加體育比賽，表現(xiàn)得好像什么都沒發(fā)生過一樣。

當(dāng)她質(zhì)疑這種從輕處罰時(shí)，學(xué)校告訴她，他們無法采取進(jìn)一步措施，理由是缺乏針對(duì)此類事件的立法。

“那天，我女兒回到家說，‘這不對(duì)。我拒絕佩戴受害者的徽章，’”多洛塔回憶道。

她說：“這一事件最初令人震驚，但隨著時(shí)間的推移，更大的失望來自法律、立法和法規(guī)的缺乏?！?/p>

這位母親還譴責(zé)學(xué)校管理人員逃避責(zé)任，因?yàn)樗麄円圆皇煜ど疃葌卧旒夹g(shù)及其不斷發(fā)展的威脅為自己的不作為辯護(hù)。

弗朗西斯卡決心確保學(xué)校在未來能夠更有效地應(yīng)對(duì)，她告訴母親，她想倡導(dǎo)法律變革，并尋求母親的幫助。

“一切就是這樣開始的，”多洛塔回憶起她和女兒正在開始的努力時(shí)說。

“看似最難的其實(shí)是最容易的”

對(duì)于弗朗西斯卡和多洛塔來說，最初引發(fā)震驚和憤怒的深刻事件成為她們通過制度變革尋求正義的強(qiáng)大催化劑。

“我認(rèn)為最困難的部分——修改法律和通過立法——結(jié)果是最容易的，”多洛塔說。

他們聯(lián)系了包括眾議員喬·莫雷爾（Joe Morelle）在內(nèi)的議員，莫雷爾七年來一直在倡導(dǎo)反對(duì)深度造假。

多洛塔說：“莫雷爾是我們合作過的第一位議員。

1月16日，Morelle宣布了他的兩黨提案，即《防止深度偽造親密圖像法案》，旨在阻止人工智能生成的深度偽造色情內(nèi)容的傳播。

他強(qiáng)調(diào)，深度色情是一種性剝削和性虐待。令他震驚的是，這還沒有被列為聯(lián)邦犯罪。

“我的立法最終將使這種危險(xiǎn)的做法非法，并追究肇事者的責(zé)任，”莫雷爾通過電子郵件告訴《韓國時(shí)報(bào)》。

馬尼家族還與德克薩斯州參議員特德·克魯茲（Ted Cruz）合作，制定了兩黨立法《拿下它法案》（Take It Down Act）。

該提案于6月18日提出，旨在將發(fā)布未經(jīng)同意的性剝削圖像（包括人工智能生成的深度偽造圖像）定為刑事犯罪，并要求在線平臺(tái)實(shí)施允許受害者要求刪除此類內(nèi)容的機(jī)制。

多洛塔說：“《拿下它法案》確實(shí)與與深度造假有關(guān)的一般性犯罪產(chǎn)生了共鳴。”

她指出，有些受害者出于各種原因——宗教、家庭或個(gè)人原因——不愿意站出來。

“我們不該評(píng)判或強(qiáng)迫他們，但他們需要一種方式來奪回對(duì)這些照片的控制權(quán)，”她說。

多洛塔強(qiáng)調(diào)了賦予受害者權(quán)力的重要性，她指出：“人們需要一個(gè)渠道，讓他們能夠收回這些照片的力量?！?/p>

截至12月2日，該法案仍在參議院懸而未決。

除了與議員們合作，弗朗西斯卡和多洛塔還通過克魯茲的辦公室聯(lián)系了社交媒體公司Snapchat，這是一款流行的即時(shí)通訊應(yīng)用，大約60%的青少年都在使用。

多洛塔說：“Snapchat告訴我們，他們一直在進(jìn)行一項(xiàng)為期三年的研究，研究他們的平臺(tái)對(duì)年輕一代的影響。”

在涉及深度造假的反復(fù)事件發(fā)生后，該公司開發(fā)了一種工具，旨在幫助教育工作者了解并教學(xué)生如何在數(shù)字時(shí)代保護(hù)自己。

多洛塔繼續(xù)與Snapchat溝通，探索向教育工作者介紹該工具的機(jī)會(huì)。

她說：“這將為教育工作者提供資源，讓他們更深入地了解當(dāng)前的技術(shù)，從而更好地保護(hù)他們的學(xué)生?！?/p>

打破沉默，爭取問責(zé)制

雖然他們的積極努力導(dǎo)致了旨在擴(kuò)大受害者聲音的立法提案，但他們認(rèn)為，學(xué)校沒有改變，在制定有效的政策來應(yīng)對(duì)此類事件方面仍然落后。

監(jiān)督該地區(qū)公立學(xué)校的地區(qū)辦事處最初專注于控制ChatGPT等生成式人工智能工具的使用，以防止作業(yè)作弊，但未能采取措施解決深度造假問題。

10個(gè)月后，學(xué)校終于修改了人工智能規(guī)定。更新后的政策現(xiàn)在包括針對(duì)學(xué)生的課程，內(nèi)容包括制作非法深度贗品的民事和刑事后果，以及此類行為對(duì)受害者的深遠(yuǎn)影響。

盡管經(jīng)歷了種種磨難，但弗朗西斯卡稱自己很幸運(yùn)，因?yàn)樵S多人支持她努力創(chuàng)造有意義的改變。

“我的老師和朋友都非常支持我。是學(xué)校管理辜負(fù)了我們?！备ダ饰魉箍ㄕf。

她還表達(dá)了繼續(xù)反對(duì)深度造假的熱情，強(qiáng)調(diào)了她作為聯(lián)合國動(dòng)態(tài)青少年聯(lián)盟的合作伙伴和耶魯大學(xué)人工智能大使的工作。

她的努力為她贏得了巨大的認(rèn)可，包括被評(píng)為今年《時(shí)代》雜志人工智能100強(qiáng)中最年輕的人。

韓國也在采取措施打擊深度造假犯罪，10月10日通過的新立法要求對(duì)涉及該技術(shù)的數(shù)字性犯罪實(shí)施更嚴(yán)厲的懲罰。

修訂后的性犯罪處罰法規(guī)定，對(duì)于那些被發(fā)現(xiàn)擁有、購買、存儲(chǔ)或觀看深度偽造的性材料和其他偽造視頻的人，最高可判處三年監(jiān)禁或3000萬韓元（22251美元）的罰款。

此外，政府于11月宣布了旨在更有效地打擊與深度假相關(guān)的性虐待的措施，包括立即刪除剝削性材料和使用秘密調(diào)查。

然而，弗朗西斯卡的案例凸顯了受影響者的聲音如何在推動(dòng)系統(tǒng)性變革中發(fā)揮關(guān)鍵作用。

弗朗西斯卡強(qiáng)調(diào)了維護(hù)個(gè)人權(quán)利的重要性。

“如果這個(gè)體系讓你失望，那么是時(shí)候重新審視它，要求問責(zé)了，”她說。