要點:
“AI詐騙”正在全球范圍內頻頻爆發，當“AI換臉”和“AI語音合成”這兩大核心技朮門檻和成本越來越低時，人工智能的負面影響也開始浮現。如何客觀對待AI帶來的詐騙問題、社會與個體該如何合力尋找應對“AI詐騙”的合理方案亟待解決。犯罪分子總是會創新，打擊AI詐騙需要多方面的方法，包括技術進步、宣傳活動和政策措施。
在“速食”成為主流的視聽傳播時代，社會每天都在產生大量信息。而應該探討的深度，卻永不止於話題或事件本身。我們一起，從社會發展中洞察有價值、有趣、有爭論點的生活方式及現象。
狂呼社會研究所聚焦社會變革下不同的聲音，向外延申社會背景、文化背景的思考深度，以多角度剖析、獨特的社會視角，引領大眾感知社會的“人間百態”。
狂呼，為每一個社會現象或事件的背后，提供具有探討價值的觀點，始於洞察、終於啟發。
聯系我們 // 相關文章
人工智能正在顛覆我們的世界
“10分鐘，被騙走430萬”! 無所不能的AI，再次刷新了詐騙的速度。當你還在擔心ChatGPT是否會在未來某一天取代自己的工作時，有一群人已經靠這項新技朮賺了大錢的“AI騙子”。
AI詐騙正在全球范圍內頻頻爆發，詐騙成功率越來越高甚至有部分案件更是接近100%。一系列的詐騙事件也火速登上國內外媒體熱搜榜，引起大眾的高度關注和激烈討論。
AI愈加發展、進步，既可以成為內容生產的流量助力者，也可能成為詐騙背后的幕后推手。互聯網的流量模型是一個三層的漏斗，“獲客 → 留存 → 變現”。過去我們通過大規模廣告投放獲客，通過提供內容獲得用戶留存，然后通過廣告、打賞、會員等辦法變現，但如今處於互聯網的下半場，接下去是AIGC時代，優質內容的成本將被極限壓縮，通過AI可以輕松地將大量的數據和文本轉化為高質量的內容，無論是文字、圖片、音頻還是視頻。而大量溢出的內容必將導致流量爭奪的加劇。AI既能以更高效、快速的方法搜索、整合信息，同時也可以快速生成創意內容，以較高的內容質量和主題創新吸引更大的流量進來。但與此同時，AI的低成本、低門檻自動化生成各種內容，也給圖謀不軌的人一個快速手段去進行信息偽造和詐騙，利用人工智能來達到過往無法實現的“真人偽造”。
10分鐘騙到430萬元保證金
這是中國在今年5月發生的一個真實案例。福州市某科技公司老板郭先生的好友給他打了一通微信視頻，說自己的朋友在外地投標，需要430萬元保證金，且需要公對公賬戶過賬，想用郭先生公司的賬戶走一下賬。在這通視頻里，對方先要了郭先生的銀行卡號，聲稱已經打了錢甚至還發了銀行轉賬截圖。又是視頻聊天，又是轉賬記錄，讓郭先生怎么也猜不到對面竟然是個“AI假人”，從而遇上了“高端”騙局，被對方佯裝成好友對他實施了“AI詐騙”。
除了中國發生的這起案件，類似的事情在大洋彼岸也在發生。
綁架勒索百萬美元
今年4月，生活在亞利桑那州的Jennifer DeStefan接到了一個陌生電話，電話里的聲音是自己在外准備滑雪比賽的女兒Brianna。Brianna在電話另一頭帶着哭腔向她求救。几十秒后，一個低沉的男音在電話里威脅道：“聽着，你女兒在我手里，拿出100萬美元的贖金，要是你打電話報警或告訴其他人，就永遠別想再見到她了。”
在Jennifer表示自己拿不出100萬美元后，電話那頭的男子將贖金大減價至5萬美元。愛女心切的Jennifer不顧友人和丈夫的勸阻，已經開始和對方討論支付贖金的方式，直到Brianna打來一個電話表示自己平安無事，才避免了這次財產損失。
以上兩個詐騙案件的關鍵都涉及了“AI換臉”和“語音合成”這兩個人工智能核心技朮。
AI 換臉軟件，又稱為AI深度偽造/Deepfake技朮。騙子首先會根據選定的目標用戶發布在社交平台上的照片或視頻信息生成假臉，然后在視頻通話中利用“AI換臉”技朮騙取受害人的信任。而且現在“AI換臉”在中國的成本也越來越低，合成一個動態視頻成本僅在2元至10元之間，至於面向更精准、更實時的大型直播平台，全套換臉模型購買價格也不過是3.5萬元，功能效果都很好甚至不存在延遲等一系列的bug。
至於“語音合成”方面，技朮效果也是越來越逼真。比如，過去騷擾電話只是詐騙，但現在就算詐騙不成，騙子也可以通過騷擾電話錄音等手段來提取你的聲音，再進行聲音合成。這樣一來，你的聲音樣本就被騙子輕松提取。前段時間，微軟發布了新模型VALL·E，讓人十分驚訝的是，使用這個工具只需3秒，就可以復制任何人的聲音，甚至連環境背景音都能模仿到位。
騙子門檻和成本
當這兩項技朮門檻和成本變得越來越低時，國內外騙子就陸續嗅到了錢的味道。“AI詐騙”已經不是新鮮事，頻頻發生并且手段層出不窮地在變化着。小到借用楊冪、迪麗熱巴的臉在中國短視頻平台上帶貨、惡搞日本眾議院“美女大胸照”搏取內容流量，大到偽造“五角大樓爆炸”假新聞引發美股市場暴跌等等，都是在利用AI以更快的速度生成、發布及廣泛傳播各色各樣的內容。
除了以上“以假亂真”的視頻和作圖技朮，AI的“瞬間寫作”能力，更是放飛自我。
前不久，一條“新聞”引起了大眾傳播和熱議：22歲的加拿大小哥為了在韓國順利出道，以防彈少年團的朴智旻為模版，整容了12次，花費了上百萬，最后不幸喪命。在這條“新聞”下面，很多人痛批韓娛的畸形審美，結果很快，這就被證實是AI炮制的假新聞。
在中國，也出現了類似的情況。多達21個網站上同步出現了一條本地“新聞”：痛心！甘肅一火車撞上修路工人，致9人死亡。如此駭人聽聞的標題外加大體量的集中報道，讓這條“新聞”的點擊量迅速爆炸。當網警介入調查后卻發現，這條“新聞”是犯罪嫌疑人利用了AI技朮進行的新聞造假。他先是購買了大量賬號，再通過ChatGPT全網抓取社會熱點素材，簡單修改一番避開內容平台的查重審查，最后炮制出一系列的假新聞。
看來，有了AI的“加持”，不僅能輕松拿捏社交媒體流量，還成為了詐騙背后的幕后推手。
AI技朮可以輕松拿捏社交媒體流量。在競爭日益激烈的社交媒體平台上，有部分人利用AI技朮，自動化快速生成大量看似真實實則虛假的內容，以吸引流量和用戶關注。如果再結合技朮，生成一個有趣、引人入勝的“標題”，即可低成本生成一篇又一篇搏取眼球、收獲爆款流量的文章。
同時，還可以利用AI自動化操控社交媒體平台，以增加內容的曝光和影響力。很多不法分子會利用AI技朮自動創建大量的社交媒體賬號，并通過自動化程序進行互動和傳播，以獲得更多的關注和流量，甚至形成了“AI媒體賬號矩陣”的產業鏈運作思維。
除此以外，AI還是詐騙背后的幕后推手。AI技朮可以幫助不法分子偽造身份信息，包括虛假的姓名、地址、銀行賬號等，以便進行網絡詐騙。同時，AI可以模擬人類語言和行為，使得詐騙活動的成功率和效率大大提高。如果說偽造一個人的聲音和視頻是需要一定的技朮門檻，那么ChatGPT的出現，則讓AI詐騙變得更加容易和低門檻。據國外網絡安全平台資料，由於強大的工作生產效率和極低的使用門檻，ChatGPT吸引了一大批網絡詐騙犯，以各種手段正在“花式”犯法。
未來人類文明AI時代
對AI時代的飛速進步，谷歌前CEO之前就發出警告，“AI被濫用遲早會威脅人類生存”。馬斯克更極端，甚至把AI比作未來人類文明最大的風險之一，威脅程度遠高於車禍、飛機失事、毒品泛濫等，甚至比核武器都要危險得多。
當人工智能和犯罪潛力攪在一起，ChatGPT的各類安全漏洞頻道出現時，使得人們愈發不安。“我們應如何對人工智能進行監管”已經成為了許多國家爭論的重點。
據相關媒體報道，多個國家已經開始推出法規來規范以OpenAI為代表的人工智能。面對各國政府的疑慮，OpenAI首席技朮官米拉·穆拉蒂在接受釆訪時也表示，“公司歡迎包括監管機搆和政府在內的各方開始介入”。但在快速發展的人工智能面前，立法者如何做才能跟上技朮的腳步，仍是一個未知數。
而AI詐騙的爆發與技朮的快速發展密切相關。AI技朮的進步為詐騙分子提供了更多的手段和工具，使他們能夠更高效和隱蔽地進行欺詐活動。因此，應該着手從教育、執法力度兩大方面進行預防。
首先，通過政府、媒體和社會組織的宣傳、教育和培訓活動，增強公眾的防范意識和能力。其次，面對日益爆發的AI詐騙，加強執法力度也是應對的重要手段。各國政府相關部門應明確對AI詐騙行為的界定和懲罰力度，加大對違法行為的打擊力度，為受害者提供對應的保護和救濟。
面對現在逐步出現的AI負面影響，我們也必須用客觀、理性的角度來看待。AI是一種工具，它的應用取決於使用它的人。AI本身沒有意識和道德判斷能力，它只是根據預先設定的規則和算法執行任務。因此，不能將詐騙行為歸咎於AI本身，而是應該將責任歸結於實施詐騙的人。
對待AI帶來的詐騙問題，我們應該以理性和科學的態度來看待，把更多的焦點放在關注詐騙行為的背后人為因素，并釆取適當的技朮和法律手段來預防和打擊AI詐騙，才是行之有效的根本方法。
觀點1
雖然如今“AI詐騙”的手段層出不窮，但電信詐騙並不是什麼新鮮事。電信詐騙的“前世今生”可追溯到19世紀初。在19世紀初，光電報被用來在全國范圍內傳遞信息，并允許操作員通過信號量發送和傳遞。 光學電報系統比派遣信使通過馬背傳遞信息要快得多，而這種信息傳遞速度自羅馬統治以來基本上保持不變，保證了傳遞速度的穩定性。
但是，光學電報也有一個缺點：發出的消息可能會被攔截和操縱。在 1830 年代的法國，弗朗索瓦和約瑟夫·布蘭克兩兄弟成功實施了歷史上第一起已知的電信詐騙案。兩人都是銀行家，操縱光學電報意味着他們在巴黎證券交易所獲取的相關投資信息和其他交易員相比，贏得了快五天的時間優勢。在兩人最終被捕之前，他們通過操縱光學電報獲利的財富持續了兩年多。
而19 世紀發生的另外一個重要事件：第一個電話網絡開始出現。這些網絡是由連接到交換機的物理電話線組成。在交換機處，需要通過接線員手動接通電話。可以想象，只要會一點點社會工程和操縱的人，就可以讓接線員免費接聽電話。
在 60 年代，為了了解系統是如何工作的（並最終獲得對它們的訪問權限），“phreakers”正在探索全國電話網絡。值得注意的是，phreaker 場景由一群對黑客亞文化感興趣的熱心技術愛好者組成。史蒂夫·沃茲尼亞克 (Steve Wozniak) 和史蒂夫·喬布斯/Steve Jobs後來都創立了蘋果公司，而他們都是公認的飛客。
隨著電話網絡數字化，phreaking 演變成我們今天所知道的計算機“黑客攻擊”。儘管技術可能發生了變化，但有趣的是，社會工程元素在很大程度上保持不變。在許多方面，社會工程學是一種與欺詐本身一樣古老的工具。它需要使用詭計和偽裝。正是這種人為因素，因此它既能繞過系統又能確保欺詐得以成功實施，即使在現代世界也是如此。
隨着科技的發展，一系列技朮工具的開發出現和被使用，使得虛假信息詐騙犯罪迅速發展與蔓延。過去，更多的是借助於手機、固定電話、網絡等通信工具，而現代社會下，釆取的AI人工智能高科技詐騙更是花樣百出，給受害者造成了很大的損失。不管是從古至今哪一種形式的通訊詐騙，我們都應該謹慎、注意提防，遇到任何事先思考事情的真實性，防止被詐騙。
觀點2
犯罪分子總是會創新
打擊AI/深度造假詐騙需要多方面的方法，包括技術進步、宣傳活動和政策措施。雖然該領域正在進行研究和開發，但是市場上有一些我們可以使用的工具去解決造假詐騙問題。例如檢測工具，一些組織和研究人員正在致力於開發深度造假檢測工具。這些工具利用機器學習算法來分析視頻或圖像並識別操縱跡象。雖然並非萬無一失，但它們可以作為有用的第一道防線。
一些專家建議我們應該採用一種新的媒體取證。數字取證技術可用於分析媒體內容的真實性。這涉及檢查視頻或圖像中的各種偽影和不一致，以識別任何篡改。開發高級算法來自動執行此過程並提高效率。
例如一種開放的技術標準，使出版商、創作者和消費者能夠追踪不同類型媒體的來源。
在美國有一個名為C2PA的項目
CAI於2019年底由Adobe與“紐約時報”和Twitter合作成立，正在構建一個系統來提供數字媒體的出處和歷史，為創作者提供聲明作者身份的工具，同時使消費者能夠就什麼做出明智的決定去相信。Project Origin由BBC、CBC加拿大廣播電台、微軟和紐約時報於2019年創立，專注於通過定義發布、分發和附加信號到內容以證明其完整性的端到端流程來解決數字新聞中的虛假信息。
C2PA結合了這兩個團體的努力，專注於開發開放的全球技術標準，以引導 CAI 和Project Origin的內容來源努力。C2PA的任務是：
- 記錄CAI & Project Origin和其他合作夥伴組織通知的工作流要求
- 在內容出處規範的開發中應用這些要求
- 開發應用這些標準的最佳實踐和參考設計
- 推動選定規范成為全球標準
- 促進全球採用數字來源技術
- 促進社交和媒體平台採用數字聯盟的規範和標準
- 即使應用了數字來源技術，也確保內容仍然可訪問
隨著這個項目的進展，我們應該看到新的標准在互聯網上樹立起來，並為人工智能的世界做好準備。
最後我們必須注意公眾教育問題
提高對AI/深度造假及其潛在風險的認識至關重要。就AI騙局的存在和流行對公眾進行教育可以幫助人們在遇到可疑的媒體內容時變得更加懷疑和謹慎。政府和立法機構可以通過制定解決深度造假技術濫用問題的法律法規，在打擊深度造假詐騙方面發揮作用。
這些法規可以包括對深度造假的創建和分發進行更嚴格的控制，以及對那些將深度造假用於惡意目的的人承擔法律後果。科技公司、研究人員和政策制定者之間的合作對於應對AI詐騙帶來的挑戰至關重要。共享知識、資源和最佳實踐有助於開發更有效的工具和對策。
隨著深度造假技術的進步，對抗它的方法也在不斷進步。雖然今天有可用的工具和策略，但這是一場持續的戰鬥，需要不斷創新和保持警惕。
