要點:
近日，人工智能AI生成的加拿大溫尼伯學校女學生假裸照在網路上瘋傳，引發了大眾的關注。隨著人工智能的興起，也正迅速推動虛假色情圖片和視頻的發展。近年來，人工智能AI生成的裸照問題已經成為對女性和青少年造成嚴重困擾的一個問題。這些虛構的色情內容透過人工智能的深度造假技術，不僅輕而易舉地製造出看似真實的裸體照片，更在網路上廣泛傳播，對個人的聲譽和心理造成難以修復的傷害。
在“速食”成為主流的視聽傳播時代，社會每天都在產生大量信息。而應該探討的深度，卻永不止於話題或事件本身。我們一起，從社會發展中洞察有價值、有趣、有爭論點的生活方式及現象。
狂呼社會研究所聚焦社會變革下不同的聲音，向外延申社會背景、文化背景的思考深度，以多角度剖析、獨特的社會視角，引領大眾感知社會的“人間百態”。
狂呼，為每一個社會現象或事件的背后，提供具有探討價值的觀點，始於洞察、終於啟發。
聯系我們 // 相關文章
近期，加拿大曼尼托巴省溫尼伯大學的一起事件中受到關注，有未成年學生的裸照被發現通過人工智能/AI生成並在校內流傳。此前，新澤西州威斯特菲爾德高中也發生了類似事件，女學生的不雅照片被證實是透過人工智能生成的虛假圖片。這連串事件引起了公眾的高度關注，對於“AI假裸照”的蓬勃發展，人們感到前所未有的擔憂。
假裸照被發佈在網路上
截至2023年12月14日下午，溫尼伯大學一位受害者女孩的母親強調了對於肇事者負責的追究，同時質疑為何人工智能相關公司允許這樣的情況發生。該學校回應指出，“原始照片似乎是從公開的社群媒體收集，然後被修改。”但學校並未透露目前分享了多少照片，以及受到傷害的女孩數量。
學校向家長發送的電子郵件中提到，他們正在進行調查，以更全面地了解事件的嚴重程度和參與人員。此外，相關政府官員也正在積極釆取必要的措施，對已確定分享這些圖片的個人進行應對。
目前，學校官員已聯繫溫尼伯加拿大兒童保護中心運營的線上虐待舉報熱線Cybertip.ca。學校決定將收到的圖像上傳到Cyachnid項目，以協助刪除這些帶有“色情因素”的圖像。
Cybertip的主管表示，“多年來，透過在年輕人不知情的情況下使用照片編輯程式創建圖像然後在網路上共享，一直是一個令人不安的問題。但當下的人工智能，大大加速了這一進程。”儘管以前曾發生過人工智能被用來製作兒童“性虐待”材料的案例，包括魁北克省的一宗案例，但目前尚不清楚以前是否曾發生學校青少年以這種方式傷害其他青少年的案例。這引起了對於當前技術和青少年保護之間交織複雜議題的更深入探討。
AI假裸照正毀掉無數女性
今年，人工智能正迅速推動虛假色情圖片和視頻的發展。隨着廉價且易於使用的人工智能工具的興起，這些工具能夠在照片中“脫光”本應有衣物的人物，分析他們的裸體樣貌，并將其巧妙地嵌入圖像中，甚至可以將一張臉毫不費力地轉換成色情視頻。
業內分析師指出，自2018年以來，在托管人工智能生成的色情照片的十大網站上，假裸照的數量激增了超過290%。這些網站中不僅包括了名人和政治人物，如紐約眾議員亞曆山大·奧卡西奧科爾特斯，還有一般的年輕女性。她們的形象很容易成為不法分子的攻擊目標，被用於引發羞辱、勒索金錢或實現私人的幻想。
然而，受害者几乎沒有機會追求法律救濟。同時，目前尚未有針對深度色情的聯邦法律，只有極少數几個州通過了相關法規。法律學者發出警告，指出人工智能假圖像可能不受個人肖像版權的保護，因為它們是從數百萬張圖像組成的數據集中提取而來。
人工智能圖像的出現對女性和青少年搆成特別的威脅，因為其中很多人尚未做好接受這種虛假照片的心理准備。監測深度偽造的公司Sensity AI在2019年進行的一項研究發現，96%的深度偽造圖像是色情圖片，其中99%的照片是以女性為對象。
今年，人工智能生成的色情視頻在網絡上呈現“爆炸式增長”。通過對40個最受歡迎的假視頻網站的搜索，截至2023年已經新增了超過14.3萬個視頻，這一數字超過了2016年至2022年期間所有新視頻的總和。更令人擔憂的是，這些虛假視頻的瀏覽量已經超過42億次。
現實或比想象中更殘酷
在5月一個備受歡迎的色情論壇上，一位發帖者發起了一個名為“分享你想看的裸照，我可以利用人工智能進行偽造”的活動。短短几小時后，女性的照片紛至沓來，整個過程僅需几分鐘，裸照的虛搆版本就迅速在網絡上涌現。在這一過程中，多數用戶都迫切地期望看到“名人”裸體的模樣。
名人成為虛假色情創作者的瞄准對象，他們的目標是利用人們對名演員裸照的搜索興趣。然而，以名人為主題的網站可能導致其他類型的裸體內容激增。這些網站通常包含來自未知個人的“業余”內容，并附帶廣告，推銷人工智能色情制作工具。
目前，科技巨頭谷歌已經制定了相關政策，以防止未經同意的性圖片在搜索結果中出現，但在深度偽造圖像的保護方面，其措施并不那么強大。深度偽造的色情內容以及制作這些內容的工具，即使在沒有專門搜索人工智能生成的內容的情況下，也會在該公司搜索引擎中顯著出現。
對此，谷歌的發言人內德·阿德里安斯在一份聲明中表示，該公司“積極努力為搜索結果增加更多保護措施”。同時，他指出谷歌允許用戶請求刪除非自願的虛假色情內容，并表示公司正在“建立更廣泛的保護機制”，不需要受害者單獨請求刪除內容。
但殘酷的現實是，很難懲罰這些內容的創作者
根據美国“通信規范法”第230條，社交媒體公司受到保護，無需對其平台上發布的內容負責，因此網站几乎沒有責任對圖片進行監管。雖然受害者可以要求公司刪除與他們相似的照片和視頻，但由於人工智能從大量圖像數據集中提取虛假照片，受害者很難斷言這些內容完全源自他們自己。
截至目前，在缺乏聯邦法律的情況下，至少有9個州，包括加利福尼亞州、德克薩斯州和弗吉尼亞州已經通過了針對深度偽造的立法。然而，這些法律的適用范圍各不相同：在一些州，受害者可以提起刑事訴訟，而在另一些州，只允許提起民事訴訟，盡管確定起訴對象非常困難。
近年來，人工智能AI生成的裸照問題已經成為對女性和青少年造成嚴重困擾的一個問題。這些虛構的色情內容透過人工智能的深度造假技術，不僅輕而易舉地製造出看似真實的裸體照片，更在網路上廣泛傳播，對個人的聲譽和心理造成難以修復的傷害。此現象對女性和青少年的隱私和心理健康構成了嚴重的威脅，並凸顯了我們社會中在數位時代面臨的安全挑戰。因此，有必要透過更嚴格的法規、技術監管和社會教育，共同努力抵禦這種不負責任的AI生成行為，保護個體的尊嚴和隱私。
觀點1
“女學生AI裸照”事件並不是第一次發生。早在本年11月，新澤西州威斯特菲德高中/Westfield High School女學生發現網路流傳自己的色情圖片，事後證實是透過人工智能/AI生成的假圖片，家長雖已報警處理，但受害女學生目前仍心有餘悸，當地議員也打算立法禁止相關行為。
據相關資料顯示，斯特菲德高中證實有學生利用AI線上工具，製作女學生的裸照並與同學分享。部分家長表示自己女兒事後感到羞辱和無助，並擔心如果圖片進一步曝光，會對女學生造成傷害。目前當地警方已著手調查，議員也要求檢察官介入。更有家長表示，一想到這件事會如何演變，就非常害怕，沒有人能保證這事件時候會對女學生的職業、學術或社交方面造成影響。”
Reality Defender執行長科爾曼/Ben Colman指出，AI生成假圖片技術的進步迅速，過去需要多部電腦的作業現在僅需一支iPhone即可完成。儘管OpenAI的Dall-E和Adobe的Firefly等知名圖片生成服務已設有防堵生成色情圖片的門檻，但在網路上仍然普遍存在各種“換臉”或“脫衣”工具。
目前僅有少數州，如維吉尼亞州、加州、明尼蘇達和紐約州，已經立法禁止流傳偽造的色情作品，並賦予受害者權利控告創作者。威斯特菲德選區的州參議員布蘭尼克/Jon Bramnick表示，他正在評估現有法律是否足以定罪此類行為，並積極尋求可能推動相關法案的方式。
觀點2
除了科技企業和學校針對個人照片被AI濫用採取措施外，政府在這方面也扮演著極為重要的角色。美國總統拜登於10月30日簽署了全美首例涉及人工智能/AI的行政命令，要求企業在公開模型前向政府通報安全測試結果，以確保風險控制和創新發展並存。
這項行政命令是美國政府迄今在打擊AI威脅方面所採取的最全面措施，牽涉範圍從國家安全到國際競爭，甚至至於保護消費者隱私。在簽署涉及人工智能的全面行政命令時，拜登總統甚至以輕鬆的口吻表示，“看到Deepfake深度偽造的自己是一種奇怪的體驗，甚至對於自己何時說過那種話完全沒有印象。”
他的調侃不僅意味深長，還將這項行政命令與一種人人都能理解的人工智能危害聯繫在一起，即冒充他人。隨著近期虛擬裸照泛濫，已經摧毀了許多高中女孩的生活，這些日常事件都指向一個重要的事實，那就是監管人工智能的努力是否成功，將決定政府能否專注於解決DeepFake等實際問題，而不是被人工智能主宰人類等臆想危險所淹沒。
拜登的行政命令甚至超越了歐洲政府的監管範疇，從無處不在的詐騙到大規模殺傷性武器的研發，包攬了人們能夠想像到的幾乎所有潛在風險。該命令旨在為人工智能的安全性和可信度設定標準，建立一個開發人工智慧工具的網路安全計劃，同時要求開發可能對國家安全構成威脅的人工智能系統的企業主動向聯邦政府分享安全測試結果。
在“速食”成為主流的視聽傳播時代，社會每天都在產生大量信息。而應該探討的深度，卻永不止於話題或事件本身。我們一起，從社會發展中洞察有價值、有趣、有爭論點的生活方式及現象。
狂呼社會研究所聚焦社會變革下不同的聲音，向外延申社會背景、文化背景的思考深度，以多角度剖析、獨特的社會視角，引領大眾感知社會的“人間百態”。
狂呼，為每一個社會現象或事件的背后，提供具有探討價值的觀點，始於洞察、終於啟發。
聯系我們 // 相關文章
