美國詐騙者使用AI語音克隆女兒聲音以獲取100萬贖金!

美國詐騙者使用AI語音克隆女兒聲音以獲取100萬贖金!

發布日期:

科技 Tech


要點:
Ai 科技帶來了技朮上的進步,同樣也成為了很多不法分子的犯罪“快捷”最新手段。AI趨勢下,內容簡單創作變得特別容易,將導致內容的生產者出現“劣幣驅逐良幣”的過程。長期以往,除了少數非盈利且不在乎被洗稿抄襲的作者以外,大部分都不再認真創作有價值的內容,而由於內容質量的快速降低,且垃圾內容越來越多,惡性循環下,令觀眾更無法把握內容的真實性。

在“速食”成為主流的視聽傳播時代,社會每天都在產生大量信息。而應該探討的深度,卻永不止於話題或事件本身。我們一起,從社會發展中洞察有價值、有趣、有爭論點的生活方式及現象。

狂呼社會研究所聚焦社會變革下不同的聲音,向外延申社會背景、文化背景的思考深度,以多角度剖析、獨特的社會視角,引領大眾感知社會的“人間百態”。

狂呼,為每一個社會現象或事件的背后,提供具有探討價值的觀點,始於洞察、終於啟發。

聯系我們 // 相關文章

複製語音的技術飛躍進步,你不能再相信自己的耳朵了!

全世界詐騙集團常用老梗“媽,我被綁架了!”十萬火急要求爸媽或親友匯款,幫助他擺脫困境,現在有詐騙份子加入人工智能AI技術,讓一般民眾根本難辨聲音的真假。

鑒於這類新型態詐騙案件頻傳,美國聯邦貿易委員會近日特別警告消費者,詐騙集團可以利用短短3秒鐘本尊聲音,加上AI技術,製造模仿本人聲音,來詐取錢財,呼籲民眾小心別上當。

美國4月10日報導,亞利桑那州一位母親向警局報案,並警告親友,她親身遭遇一個可怕的電話詐騙案件,涉及仿聲AI技術。

美國媽媽敘述親身經歷

這位媽媽德斯特凡諾/Jennifer DeStefano說,她曾接到一個陌生電話號碼,差點把它轉到語音信箱。然而,電話傳出她15歲女兒的聲音,說她正在外地滑雪,所以,DeStefano擔心可能發生意外,趕緊拿起電話,。

“我拿起電話,聽到女兒的聲音說媽媽!然後她在抽泣。我馬上問,發生什麼事了?她說,媽媽,我搞砸了,然後她斷斷續續抽泣和哭泣。”德斯特凡諾回憶道。德斯特凡諾指出,她隨後聽到一個男人的聲音說,“把頭往後仰,躺下。”這位母親的困惑很快變成恐懼。

詐騙犯不准媽媽打電話給其他人

陌生男子搶過電話大聲喊道,“聽著,你女兒在我這,你敢打電話給警察、你打電話給任何人的話,我要讓她充滿毒品,我要隨便處置她,我要把她送到墨西哥。”德斯特凡諾聽完這段恐嚇,就在那一刻,她開始顫抖。電話傳來女兒微弱的聲音“媽媽,拜託救救我,救我。”然後她大哭起來。電話裡那個男子隨後要贖金,先是要100萬美元,然後德斯特凡諾說她沒有錢時,他很快將贖金降低到5萬美元。

德斯特凡諾讓陌生男子繼續說話。在講電話時候,她剛好在另一個女兒的舞蹈教室,周圍滿是焦急的媽媽們,她們想幫忙,一個叫她打911報警,另一個叫她打電話給丈夫。

在短短4分鐘內,他們確認她的女兒是安全的。

AI仿聲騙過親媽

女兒在樓上的房間裡說,“什麼? 發生什麼事了?”然後,德斯特凡諾表示,“我氣炸了,跟對方大吼說,你不能拿這來開玩笑。”了解女兒人身安全後,德斯特凡諾馬上掛斷了電話,但是她確認電話裡是她女兒的聲音。「絕對是我女兒的聲音,也是她啜哭的方式,我一點也不懷疑那是她,這是真正讓我陷入迷惑的詭異情節。」她害怕說道。然而,事實證明,這個15歲的女孩從未在電話另一頭說過任何一句話,電話裡的聲音,只是人工智能AI創造出來的分身。

3秒鐘本尊的聲音就可以複製“分聲”

亞利桑那州立大學人工智慧專業的資訊科學教授Subbarao Kambhampati表示,“複製語音的技術飛躍進步,你不能再相信自己的耳朵了。”以前,複製聲音需要從本尊身上獲取大量樣本。 現在Kambhampati表示,只需3秒鐘本尊的聲音就可以複製出一模一樣的“分聲”。

Kambhampati解釋說,只要有了這3秒鐘,AI就可以複製本人的聲音了,大多數複製實際上都有捕捉到本人語調和情感的轉折。

深度學習技術幾乎沒有受到法規的監督

Kambhampati警告,目前深度學習技術幾乎沒有受到法規的監督,而且它越來越容易取得和使用。“這是一種新玩具,我認為它可以應用在好的一方面,但是肯定也有非常令人擔憂的用途。”他補充說。

FBI鳳凰城辦公室的助理特務梅奧/Dan Mayo表示,使用語音複製技術的騙子經常會在社交媒體上找到獵物。為了避免成為此類騙局的受害者,梅奧呼籲每個人都將個人資料保持在私人模式,不要向大眾公開。

“你必須把那些東西鎖起來。問題是,如果你把個資公開,會讓自己被騙子詐欺,因為他們會盡可能從你公開檔案找出你更多個人資料,他們會深入了解你。”梅奧說明。

只要錢一旦匯出,想要取回幾乎是不可能的。

聯邦貿易委員會指出,詐騙份子通常會要求受害者電匯款項、發送加密貨幣或使用禮品卡,來支付贖金,只要金錢一旦匯出,想要取回幾乎是不可能的。梅奧指出,需要注意的危險信號包括來自你不熟悉的區號電話號碼、電話號碼是國際號碼,以及打電話的人不允許你向其他家人尋求幫助。

“接到詐騙電話時,想想電影情節吧。放慢速度,對方慢下來,問對方一堆問題,如果他們有你感興趣的人,你就會知道很多關於他們的細節,但是這個騙子不會知道。等你開始質問他是誰,以及他們不公開的背景細節,你很快就會發現他是一個騙子。”梅奧解說自保之道。

每天都有詐騙電話

目前不清楚有多少人收到過類似的家人緊急情況或AI複製語音謊報假綁架的詐騙電話,但是梅奧表示這種情況每天都在發生,但不是每一個人都向警方報案。梅奧說,他相信有些人知道家人安全,鬆了一口氣,以至於忘記通報騙局。然而,另外有些人真的被騙了,他們最後匯錢給詐騙集團,“相信我,聯邦調查局正在調查這些詐騙犯,我們有捉到詐騙犯。”梅奧透露。

至於德斯特凡諾,她很慶幸自己沒有給騙子寄錢,但這沒有阻止她受到傷害,“我接到電話時真的哭了起來,為詐欺犯的假話流淚,這一場騙局顯得那麼真實。”她說。

觀點1

AI科技帶來了技朮上的進步,同樣也成為了很多不法分子的犯罪“快捷”最新手段。對於公共職能部門而言,政府和執法機搆應該加大對這種行為的打擊力度,釆取更加嚴厲的措施,制定更多的法律法規來約束和監管AI技朮的應用。例如,加強對AI技朮的知識產權保護,加強對AI技朮在網絡安全、金融詐騙、侵犯隱私等領域的監管,從而加大對騙子的處罰力度,讓他們付出應有的代價。

同時,我們也需要加強對人工智能技朮的研究和應用,開發出更加安全和可靠的技朮,為人們的生活帶來更多的便利和安全。總之,騙子利用AI聲音冒充親人進行詐騙的行為給社會帶來了不小的影響,我們需要加強對這種行為的打擊和處罰,加強對人工智能技朮的監管和研究,同時也需要加強人們的安全意識和信息保護意識,這樣才能更好地保護我們的利益和安全。

如果你發現自己遭遇了AI聲音詐騙,或者有人試圖用這種方式騙你,你應該立即向警方報案,提供相關的證據和信息,幫助警方追蹤和抓捕犯罪分子。

觀點2

作為個體,我們也需要增強自我保護意識,避免輕信陌生電話、短信、郵件等形式的信息。若接到可疑電話,應該通過設法放慢速度、詢問對方身邊人的細節等方式來確認對方的身份和信息是否真實。

除了Ai詐騙外,AI還被不法分子利用,帶來的大量“垃圾內容”也需要引起大眾的重視。我們最近訪談節目上,也和AI專家提及到AI對於內容的負面影響,大量快速生成的Ai內容,不僅無法辨別真偽,而且產生的大量“垃圾信息”,讓觀眾對信息的真實度更難求證了。

AI趨勢下,內容簡單創作變得特別容易,將導致內容的生產者出現劣幣驅逐良幣的過程。長此以往,除了少數純非盈利的且不在乎被洗稿抄襲的作者以外,大部分都不再會認真創作有價值的內容,而由於內容質量的快速降低,且垃圾內容越來越多,惡性循環下,令觀眾更無法把握內容的真實性。

針對不同的信息,我們應該提高自我的判斷能力,對於信息的真偽要多加注意,預防自己卷入錯誤信息中卻不自知,可以針對同一個資訊查詢不同的官方網站,全面了解后再作定段,而不是因其中一兩篇就以偏概全,全相信當中提及的信息點。

 

在“速食”成為主流的視聽傳播時代,社會每天都在產生大量信息。而應該探討的深度,卻永不止於話題或事件本身。我們一起,從社會發展中洞察有價值、有趣、有爭論點的生活方式及現象。

狂呼社會研究所聚焦社會變革下不同的聲音,向外延申社會背景、文化背景的思考深度,以多角度剖析、獨特的社會視角,引領大眾感知社會的“人間百態”。

狂呼,為每一個社會現象或事件的背后,提供具有探討價值的觀點,始於洞察、終於啟發。

聯系我們 // 相關文章


返回網誌
1 / 8
1 / 4
1 / 4
  • 出海網紅經濟,是陷阱還是機遇?

    出海網紅經濟,是陷阱還是機遇?

    隨著中國品牌出海,網紅經濟席捲北美、東南亞兩大市場。在網紅經濟的迅速發展下,也催生了網紅主播、MCN機構一條成熟的“全產業鏈”。網紅主播為了流量可能會採取什麼極端的手段? MCN機構和主播間到底又存在哪些內幕?

    出海網紅經濟,是陷阱還是機遇?

    隨著中國品牌出海,網紅經濟席捲北美、東南亞兩大市場。在網紅經濟的迅速發展下,也催生了網紅主播、MCN機構一條成熟的“全產業鏈”。網紅主播為了流量可能會採取什麼極端的手段? MCN機構和主播間到底又存在哪些內幕?

  • 中國年輕人“逃離”一線城市,一線城市風光不再還是迫於現實?

    中國年輕人“逃離”一線城市,一線城市風光不再還是迫於現實?

    近年來,越來越多的年輕人選擇離開一線城市,去到二、三線城市或者回到自己的家鄉發展。然而,也有一部分年輕人選擇了重新回歸,在一線城市漂泊、打工、旅行,這種現象也被稱為“回籠漂”。

    中國年輕人“逃離”一線城市,一線城市風光不再還是迫於現實?

    近年來,越來越多的年輕人選擇離開一線城市,去到二、三線城市或者回到自己的家鄉發展。然而,也有一部分年輕人選擇了重新回歸,在一線城市漂泊、打工、旅行,這種現象也被稱為“回籠漂”。

  • 溫哥華明星脫口秀抽獎贈票!中外喜劇,以幽默形式傳遞思考

    溫哥華明星脫口秀抽獎贈票!中外喜劇,以幽默形式傳遞思考

    作為喜劇的“非常態”表達形式,“即興喜劇”完完全全由现场观众给一些主題、線索或是關鍵信息,再由喜劇演員們把这些东西用随机、自然的形式演绎出来。今天,我們和麦浪娱乐创始人之一、大麦喜剧即兴喜剧负责人紫琪一起探討即興喜劇背後的思考。

    溫哥華明星脫口秀抽獎贈票!中外喜劇,以幽默形式傳遞思考

    作為喜劇的“非常態”表達形式,“即興喜劇”完完全全由现场观众给一些主題、線索或是關鍵信息,再由喜劇演員們把这些东西用随机、自然的形式演绎出来。今天,我們和麦浪娱乐创始人之一、大麦喜剧即兴喜剧负责人紫琪一起探討即興喜劇背後的思考。

  • Netflix 韓劇D.P: 逃兵追缉令,霸凌黑暗面背後的思考

    Netflix 韓劇D.P: 逃兵追缉令,霸凌黑暗面背後的思考

    大多數人將霸凌與童年聯繫在一起,但任何年齡段的任何人都可能發生欺凌行為。它也可以採取多種形式,從言語騷擾到身體虐待等等。欺凌行為也不只發生在操場上。個人可能會在網上、辦公室、家里和其他地方遭受霸凌。

    Netflix 韓劇D.P: 逃兵追缉令,霸凌黑暗面背後的思考

    大多數人將霸凌與童年聯繫在一起,但任何年齡段的任何人都可能發生欺凌行為。它也可以採取多種形式,從言語騷擾到身體虐待等等。欺凌行為也不只發生在操場上。個人可能會在網上、辦公室、家里和其他地方遭受霸凌。

1 / 4