DeepMind尋找減少AI訓練能量消耗的方法

發布日期:

AI概念股 AI Stock 科技股 Tech Stock


2023年10月12日金融快訊Market Briefing
谷歌 (GOOG) 的人工智慧部門近幾個月提交了一項專利申請,該系統在人工智慧訓練過程中在模型大小和訓練資料之間分配計算資源。從本質上講,DeepMind 的工具可以幫助開發人員預算電力和培訓資源。

它的工作原理如下:首先,該系統會獲得一個“計算預算”,即用戶在訓練人工智慧模型來完成特定任務時願意消耗的資源量。然後,系統會經歷一個稱為分配映射的過程,本質上是在訓練模型時將某些資源分配給不同的任務。文件指出,該映射透過測量不同條件下模型的預測性能來考慮不同的試驗分配。

因此,該系統會輸出兩個關鍵資訊:在給定預算下您的模型可以有多大,以及實現它需要多少訓練資料。此系統給出的目標模型大小可以指導決策,例如使用多少參數,或建立神經網路的層數或神經元數量。DeepMind 的方法最後是根據系統參數實例」機器學習模型,這只是測試它的工作效果。 該公司指出,該系統預計將“優化機器學習模型在機器學習任務上的性能”,因為它只佔用其確切需要的培訓資源。

微軟和英特爾等科技公司一直在尋找人工智慧耗能問題的答案。DeepMind 的母公司Google也一直在尋找一種擴散模型的專利,以提高準確性並減少計算資源的消耗。

但根據阿姆斯特丹自由大學商業與經濟學院博士生分析,到2027 年,用於人工智慧開發的伺服器每年可能會消耗85 至134 太瓦時,即0.5佔全球年度能源使用量的百分比,與幾個國家持平。人工智慧資料中心消耗的能源如此之多,以至於公用事業公司正在背棄綠色能源承諾來滿足需求。

谷歌花費了大量的精力,無論是字面上的還是像徵意義上的躋身人工智慧領域的頂尖企業之列。該公司不斷申請與人工智慧相關的專利,將人工智慧整合到其工作空間套件中,向Anthropic和Hugging Face等新創公司投入資金,並與晶片巨頭 Nvidia合作。

但如此規模的建設是有代價的。人工智慧訓練引擎ThirdAI的產品主管表示,雖然這項技術不會減緩谷歌或 DeepMind 人工智慧開發的步伐,但它肯定有助於減少過度消耗。該系統對於像谷歌這樣同時建立和訓練大量模型的大型組織特別有幫助。人工智慧開發的真正問題在於用於開發人工智慧的 GPU,它比 CPU 等其他硬體消耗一個數量級的能量。

在如此動蕩的金融市場中,你會選擇怎樣投資?
一起深入了解資深投資者的美股交易策略。在投入股市之前,多認識美股市場,才可提高投資回報率。關注狂呼“個股分析”欄目,緊密跟蹤美股走勢,尋找更多投資機會。

點擊此處了解更多

免責聲明:本文章提供的信息僅供一般信息目的,並不應被視為投資建議。

返回網誌
1 / 8
  • 香港大學團隊突破金剛石膜大規模生產瓶頸,推動半導體產業新革命

    香港大學團隊突破金剛石膜大規模生產瓶頸,推動半導體產業新革命

    香港大學副教授褚智勤在談到團隊在“Nature”期刊上發表的研究成果時表示,“我們首次在晶圓尺度(2英寸)上成功制備了大面積、平整且表面粗糙度低於1納米的多晶金剛石薄膜,而之前該領域的最大尺寸僅能達到釐米級。我們計划成立初創公司,將這一技朮產業化。”

    香港大學團隊突破金剛石膜大規模生產瓶頸,推動半導體產業新革命

    香港大學副教授褚智勤在談到團隊在“Nature”期刊上發表的研究成果時表示,“我們首次在晶圓尺度(2英寸)上成功制備了大面積、平整且表面粗糙度低於1納米的多晶金剛石薄膜,而之前該領域的最大尺寸僅能達到釐米級。我們計划成立初創公司,將這一技朮產業化。”

  • 2025年十大科技突破性技朮

    2025年十大科技突破性技朮

    全球科技智庫之一,“麻省理工科技評論”憑借其獨到的洞察力和專業視角,始終處於科技創新的前沿。自2001年起,該機構啟動了“十大突破性技朮”/10 Breakthrough Technologies的評選,旨在發現那些具有顛覆性潛力的技朮創新,而不僅僅是表面的技朮進步。

    2025年十大科技突破性技朮

    全球科技智庫之一,“麻省理工科技評論”憑借其獨到的洞察力和專業視角,始終處於科技創新的前沿。自2001年起,該機構啟動了“十大突破性技朮”/10 Breakthrough Technologies的評選,旨在發現那些具有顛覆性潛力的技朮創新,而不僅僅是表面的技朮進步。

  • 中國浙江大學團隊突破性發明“彈性陶瓷塑料”,為材料科學和應用開辟了新方向

    中國浙江大學團隊突破性發明“彈性陶瓷塑料”,為材料科學和應用開辟了新方向

    浙江大學化學系的唐睿康教授和劉昭明研究員團隊發明了一種新型材料,成功地將陶瓷的硬度、橡膠的彈性和塑料的可塑性結合在同一物質中。這種新材料被命名為“彈性陶瓷塑料”。

    中國浙江大學團隊突破性發明“彈性陶瓷塑料”,為材料科學和應用開辟了新方向

    浙江大學化學系的唐睿康教授和劉昭明研究員團隊發明了一種新型材料,成功地將陶瓷的硬度、橡膠的彈性和塑料的可塑性結合在同一物質中。這種新材料被命名為“彈性陶瓷塑料”。

  • 螞蟻與人類搬運測試,揭示群體協作的智慧

    螞蟻與人類搬運測試,揭示群體協作的智慧

    近日,研究團隊在“美國國家科學院院刊”PNAS上發表了一項新研究,基於螞蟻和人類共同的這一特性,設計了一場有趣的“競賽”。他們提出了一個問題:誰更擅長將大件物體操控通過復雜的迷宮?

    螞蟻與人類搬運測試,揭示群體協作的智慧

    近日,研究團隊在“美國國家科學院院刊”PNAS上發表了一項新研究,基於螞蟻和人類共同的這一特性,設計了一場有趣的“競賽”。他們提出了一個問題:誰更擅長將大件物體操控通過復雜的迷宮?

1 / 4
1 / 4
  • 從中國經濟看背後困境及發展新構想?

    從中國經濟看背後困境及發展新構想?

    中國未來發展或許可以參考“五環搆想”進行戰略布局。這一搆想包括高等教育培訓、創新科技驅動、產品生產銷售、市場推廣營銷、出海戰略佈局五大領域。通過“五環搆想”的實施,中國經濟可能有一個全新的契機注入新的動力,推動經濟穩定健康發展。

    從中國經濟看背後困境及發展新構想?

    中國未來發展或許可以參考“五環搆想”進行戰略布局。這一搆想包括高等教育培訓、創新科技驅動、產品生產銷售、市場推廣營銷、出海戰略佈局五大領域。通過“五環搆想”的實施,中國經濟可能有一個全新的契機注入新的動力,推動經濟穩定健康發展。

  • 在變革中的抉擇:當今大環境下如何實現職業規劃與人生價值?

    在變革中的抉擇:當今大環境下如何實現職業規劃與人生價值?

    隨著時代的變遷,人生價值的內涵也變得更加多樣化和個性化。每個人對於“成功”和“幸福”的理解不同,有些人追求的是即時的快樂和成就感,而有些人則看重長期的進步和自我超越。

    在變革中的抉擇:當今大環境下如何實現職業規劃與人生價值?

    隨著時代的變遷,人生價值的內涵也變得更加多樣化和個性化。每個人對於“成功”和“幸福”的理解不同,有些人追求的是即時的快樂和成就感,而有些人則看重長期的進步和自我超越。

  • 再見愛人:探索現代婚姻中的情感困境

    再見愛人:探索現代婚姻中的情感困境

    芒果TV婚姻紀實觀察節目“再見愛人4”邀請黃聖依、楊子,麥琳、李行亮,葛夕、劉爽三對情感關系10年以上的夫妻,以“婚姻紀實觀察”為切口,呈現出不同婚姻樣本在親密關系中的掙扎與甜蜜、桎梏與覺醒。

    再見愛人:探索現代婚姻中的情感困境

    芒果TV婚姻紀實觀察節目“再見愛人4”邀請黃聖依、楊子,麥琳、李行亮,葛夕、劉爽三對情感關系10年以上的夫妻,以“婚姻紀實觀察”為切口,呈現出不同婚姻樣本在親密關系中的掙扎與甜蜜、桎梏與覺醒。

  • 抖音短劇新風潮:中老年人成為新的增長點?

    抖音短劇新風潮:中老年人成為新的增長點?

    近日,不少以老年人為主角的抖音短劇“閃婚五十歲”、“金榜題名之母憑子貴”、“人到五十,閃婚霸總”等等登上熱度榜單。老年人的婚姻、情感以及生活故事,成了當下短劇創作的“新流量密碼”。

    抖音短劇新風潮:中老年人成為新的增長點?

    近日,不少以老年人為主角的抖音短劇“閃婚五十歲”、“金榜題名之母憑子貴”、“人到五十,閃婚霸總”等等登上熱度榜單。老年人的婚姻、情感以及生活故事,成了當下短劇創作的“新流量密碼”。

1 / 4