要點:
從致命的無人機到可能威脅人類未來的人工智能，以下是2024年可能出現的四大最令人擔憂的人工智能AI領域的重大突破。
科技正以前所未有的速度和規模發展，引發多個領域的變革，塑造了新的商業模式，甚至重塑了全新社會結構。我們一起，從科技創新中洞察社會轉型和升級的機遇。
狂呼科技研究所聚焦科技創新對當今世界的影響，以獨特、前瞻的科技視角，洞察科技時代下涌現的“創新革命”。
狂呼，以最具突破性的技朮塑造我們的未來，為大眾捕捉科技商業先機，探索當今人類社會面臨的重大挑戰。
聯系我們 // 相關文章
儘管2023年對人工智能來說是改變遊戲規則的一年，但這僅僅是開始，2024年將見證一系列引人注目的進步，其中可能包括通用人工智能，甚至更現實的深度偽造/Deep Fake。
人工智能AI已經存在了幾十年，但今年是這令人驚嘆的技術取得突破的一年，OpenAI的ChatGPT為大眾提供了易於使用、實用的人工智能。然而，人工智能有著一段曲折的歷史，今天的技術出現之前曾有過一些短暫的失敗實驗記錄。
很大程度上，人工智能的創新似乎有望改善醫療診斷和科學發現等領域。舉例來說，一種人工智能模型可以透過分析X光掃描來檢測您是否有肺癌的高風險。在COVID-19期間，科學家甚至建立了一種演算法，可以透過聆聽人們咳嗽聲音的細微差異來診斷病毒。此外，人工智能還被應用於設計超越人類想像的量子物理實驗。
然而，並非所有的創新都是如此正面。從致命的無人機到可能威脅人類未來的人工智能，以下是2024年可能出現的一些最令人擔憂的人工智能AI領域的重大突破。
通用人工智能AGI的時代
2023年，一項引人矚目的事件是OpenAI執行長Sam Altma在年底被解僱並復職。然而，在OpenAI公司陷入混亂的情況下，有關先進技術可能對人類未來構成威脅的傳聞四起。據知情人透露，這個被稱為Q-star的OpenAI系統可能體現了通用人工智能/AGI的潛在突破性實現。儘管對這個神秘系統了解甚少，如果報道屬實，它可能將人工智能的能力提升到一個新的水平。
AGI是一個假設的臨界點，也稱為“奇點”，在這一點上，人工智能變得比人類更聰明。目前的人工智能在人類擅長的領域仍有所不足，例如基於上下文的推理和真正的創造力。大多數人工智能生成的內容只是以某種方式反映了用於訓練它的數據。
科學家表示，AGI有可能比大多數人更有效地完成特定的工作。同時，它也可能被濫用，用於武器製造、製造增強型病原體、發動大規模網絡攻擊或策劃大規模操縱。
AGI的概念長久以來一直局限於科幻小說，許多科學家認為我們可能永遠無法實現這一目標。對於OpenAI來說，要達到這個臨界點確實令人驚訝，但也不完全超出可能性的範疇。例如，Sam Altman在2023年2月已為AGI奠定了基礎，並在一篇部落格文章中詳細介紹了OpenAI的AGI方法。根據相關資訊，一些專家也已經開始預測即將來臨的突破，包括英偉達執行長黃仁勳/Jensen Huang，他在11月份表示AGI將在未來五年內實現。然而，2024年是否將成為AGI的突破之年？這一切只有時間能夠給予明確的答案。
人工智能引發的娛樂革命
AI人工智能在我們的生活中愈來愈常見了，且日益引發起巨大的娛樂革命。如今，AI甚至可以充當“星探”這個角色，去物色有潛力的音樂人，其速度遠比現今最懂音樂的達人更快，徹底改變了音樂產業。
在圍繞生成式人工智能及其對創作者的潛在負面影響的持續爭論中，瑞典創新者Snafu Records正在採取不同的方法。Snafu Records並沒有取代人類藝術家，而是利用人工智能AI來識別、提升和投資他們。Snafu Records的核心工作是一款被稱為“EMMA”的人工智能工具。EMMA經過培訓，可以使用廣泛的指標來識別被低估的藝術家，已經為Snafu Records發現了許多冉冉升起的新星，其中包括近期火爆網絡和東南亞地區的英國藝術家Alfie Castley，他的TikTok熱門歌曲自發行以來已經積累了超過數千萬次播放。
Snafu Records的執行長兼創辦人Ankit Desai解釋了他們的方法，“當我們創立Snafu時，我們意識到人工智能可以成為音樂世界變革的催化劑。作為內心的創作者，我們希望利用這項技術來提升無數人的水平。世界各地有才華的藝術家。我們的目的並不是專注於生成人工智能，而是精心設計算法來關注全球範圍內被低估的人才。”
此外，Snafu Records還擴展了其人工智能演算法EMMA的使用，以識別現有的有潛力覆蓋更廣泛受眾的強大目錄。透過Snafu Song基金，該公司透過提供預付現金和實施目錄成長策略來投資這些藝術家。這種財政支持使來自不同流派和地區的藝術家能夠專注於創作新音樂。
除了音樂產業，人工智能AI還在改變娛樂產業
過去十幾年好萊塢的流水線大片屢試不爽，但近幾年開始讓觀眾審美疲勞。在美國已經有多家為製片商提供分析服務的AI公司，位於洛杉磯的新創公司“Cinelytic”就是其中一家，能基於機器學習來分析歷史電影的數據庫，進而預測不同劇本和演員對於一部電影票房的影響，進入“AI選片”時代。
Cinelytic共同創辦人兼CEO Tobias Queisser舉了一個例子，假設拍一部以艾瑪．華森為主角大片，可以用Cinelytic的軟體來看到如果把主角Tom Cruise換成Matt Damon會有什麼變化。AI可以從不同的維度來對比兩位演員，比如設計不同場景，看看這兩位演員對電影的影響，看看不同情況下哪位演員能帶來更好的效果，誰能帶來更強的經濟效益。
Cinelytic調取的數據主要來自尼爾森公司、Gracenote公司的Studio System系統、Variety Insight公司以及其他一些來源。它會全面考慮全球市場和特定市場的票房收入、電影實體發行表現、付費訂閱、視頻點播、電視播放等因素，從而綜合評估電影的投資回報率。
另外，系統也會根據電影的一些屬性進行分析，比如關鍵人員、類型、分級、是否是續集或改編、主題、制作國家、發行商、影院數量等等。系統包含了一個55萬人的演員、編劇、導演和制片人數據庫，并且追蹤了他們在各個影片和市場中的表現，以及關於他們對項目的重要性的附加信息。以演員為例，系統會指出某個演員是不是第一次或者第二次出演動作片，是不是給動畫電影配過音，這些變量都有助於提高他的綜合經濟價值。有了一份潛在演員的名單，制作人就可以拼湊出不同的演職人員組合，看看哪種組合在歐洲、亞洲或者北美市場更有票房號召力。此外，為了使預測更加精准，Cinelytic只會使用近期的電影表現進行預測，而不會使用曆史數據。
左右選舉的超現實深度偽造
深度偽造是當前網路上一項極為迫切的威脅之一，其涉及利用人工智能技術製造出完全虛構的圖像或視頻，這可能被用來歪曲某人形象、指控他們，甚至進行欺凌。目前，人工智能深度造假技術雖然還未能構成嚴重威脅，但這種情勢可能即將發生改變。
現今的人工智能已經能夠生成即時的深度偽造品，也就是即時視訊串流，而且在生成人臉方面表現得相當出色，以至於人們難以區分真實與虛構。根據11月13日“心理科學”雜誌的一項研究，人工智能生成的內容更容易被視為“真實”，形成了一種“超現實主義”的現象。
這將使人們幾乎無法肉眼區分事實和虛構。儘管目前存在一些工具用於檢測深度偽造品，但這些工具尚未成為主流。例如，英特爾已經推出了一個即時深度換臉偵測器，該偵測器通過使用人工智能來分析血流。據報導，由FakeCatcher產生的結果好壞參半，這表明這仍然是一個在發展中的領域。
隨著生成式人工智能技術的進步，一種令人擔憂的可能性是人們可能會利用深度偽造品來試圖影響選舉的結果。舉例如，孟加拉正準備迎接即將到來的1月選舉，這場選舉可能會受到深度造假的干擾。同樣，美國正在籌備2024年11月的總統選舉，人工智能和深度造假可能會對這場關鍵性選舉的結果產生影響。加州大學柏克萊分校目前正在監控人工智能在選舉活動中的應用情況，因為許多州尚缺乏應對人工智能產生的虛假資訊激增的相應法律或工具。
主流人工智能殺手機器人
世界各國政府日益將人工智能納入戰爭工具的行列。11月22日，美國政府宣布，已有47個州簽署了一份有關負責任地在軍隊中使用人工智能的聲明，該聲明於2月在海牙首次發布。這樣的聲明為何必要呢？因為不負責任的使用帶來了一個真實而可怖的前景。例如，眾所周知，人工智能無人機被聲稱在沒有人類參與的情況下，追捕了利比亞的士兵。
人工智能在軍事環境中能夠識別模式、自我學習、做出預測或產生建議，因此人工智能軍備競賽已經展開。到了2024年，我們可能不僅會看到人工智能應用於武器系統，還會應用於物流和決策支援系統以及研發。舉例來說，在2022年，人工智能生成了40,000種新穎的、假設的化學武器。美國各軍方部門都訂購了能夠比人類更好地執行目標識別和戰鬥追蹤的無人機。據相關資料顯示，在最近的以色列-哈馬斯戰爭中，以色列也使用人工智能快速辨識目標，速度至少比人類快50倍。
然而，最令人擔憂的發展領域之一是致命自主武器系統/LAWS或殺手機器人。一些領先的科學家和技術專家，包括2015年的史蒂芬·霍金和2017年的馬斯克在內，都對殺手機器人發出了警告，儘管這項技術尚未大規模實現。
儘管如此，一些令人擔憂的事態發展表明，今年可能是殺手機器人的突破口。例如，根據“原子科學家公報”報導，俄羅斯據稱在烏克蘭部署了Zala KYB-UAV無人機，該無人機可以在無需人工幹預的情況下識別和攻擊目標。近日，澳洲也開發了“幽靈鯊魚” ，一種將大規模生產的自主潛艇系統。世界各國在人工智能方面的支出也是一個指標，中國將人工智能支出從2010年的總計1160萬美元增加到2019年的1.41億美元。該出版物補充說，這是因為中國正在與美國展開部署LAWS的競賽。綜合起來，這些發展表明我們正在進入人工智能AI戰爭的新未來。
但即便人工智能AI已經十分強大，但它仍然無法取代人類，進行100%絕對準確的預測。對此，我們不應過於“神化”人工智能，同時也應時刻提醒自己，新時代已經到來，如何利用AI達到更高效地工作、生活才是我們當下的重中之重任務。
