DeepMind尋找減少AI訓練能量消耗的方法

發布日期:

AI概念股 AI Stock 科技股 Tech Stock


2023年10月12日金融快訊Market Briefing
谷歌 (GOOG) 的人工智慧部門近幾個月提交了一項專利申請,該系統在人工智慧訓練過程中在模型大小和訓練資料之間分配計算資源。從本質上講,DeepMind 的工具可以幫助開發人員預算電力和培訓資源。

它的工作原理如下:首先,該系統會獲得一個“計算預算”,即用戶在訓練人工智慧模型來完成特定任務時願意消耗的資源量。然後,系統會經歷一個稱為分配映射的過程,本質上是在訓練模型時將某些資源分配給不同的任務。文件指出,該映射透過測量不同條件下模型的預測性能來考慮不同的試驗分配。

因此,該系統會輸出兩個關鍵資訊:在給定預算下您的模型可以有多大,以及實現它需要多少訓練資料。此系統給出的目標模型大小可以指導決策,例如使用多少參數,或建立神經網路的層數或神經元數量。DeepMind 的方法最後是根據系統參數實例」機器學習模型,這只是測試它的工作效果。 該公司指出,該系統預計將“優化機器學習模型在機器學習任務上的性能”,因為它只佔用其確切需要的培訓資源。

微軟和英特爾等科技公司一直在尋找人工智慧耗能問題的答案。DeepMind 的母公司Google也一直在尋找一種擴散模型的專利,以提高準確性並減少計算資源的消耗。

但根據阿姆斯特丹自由大學商業與經濟學院博士生分析,到2027 年,用於人工智慧開發的伺服器每年可能會消耗85 至134 太瓦時,即0.5佔全球年度能源使用量的百分比,與幾個國家持平。人工智慧資料中心消耗的能源如此之多,以至於公用事業公司正在背棄綠色能源承諾來滿足需求。

谷歌花費了大量的精力,無論是字面上的還是像徵意義上的躋身人工智慧領域的頂尖企業之列。該公司不斷申請與人工智慧相關的專利,將人工智慧整合到其工作空間套件中,向Anthropic和Hugging Face等新創公司投入資金,並與晶片巨頭 Nvidia合作。

但如此規模的建設是有代價的。人工智慧訓練引擎ThirdAI的產品主管表示,雖然這項技術不會減緩谷歌或 DeepMind 人工智慧開發的步伐,但它肯定有助於減少過度消耗。該系統對於像谷歌這樣同時建立和訓練大量模型的大型組織特別有幫助。人工智慧開發的真正問題在於用於開發人工智慧的 GPU,它比 CPU 等其他硬體消耗一個數量級的能量。

在如此動蕩的金融市場中,你會選擇怎樣投資?
一起深入了解資深投資者的美股交易策略。在投入股市之前,多認識美股市場,才可提高投資回報率。關注狂呼“個股分析”欄目,緊密跟蹤美股走勢,尋找更多投資機會。

點擊此處了解更多

免責聲明:本文章提供的信息僅供一般信息目的,並不應被視為投資建議。

返回網誌
1 / 8
  • 未來智能眼鏡會將取代智能手機嗎?

    未來智能眼鏡會將取代智能手機嗎?

    1901年,“萬能鑰匙”這部小說中描述了一個男孩收到一副眼鏡,可以在他看到的人的額頭上顯示數據,這是“擴增實境”沒成概念前的早期案例。隨著人工智能技術的快速發展,人工智能和擴增實境技術“智能眼鏡”,將成為下一個改變生活科技設備?

    未來智能眼鏡會將取代智能手機嗎?

    1901年,“萬能鑰匙”這部小說中描述了一個男孩收到一副眼鏡,可以在他看到的人的額頭上顯示數據,這是“擴增實境”沒成概念前的早期案例。隨著人工智能技術的快速發展,人工智能和擴增實境技術“智能眼鏡”,將成為下一個改變生活科技設備?

  • Bill Gates投入數十億美元建造新核電廠,以應對AI電力需求困境

    Bill Gates投入數十億美元建造新核電廠,以應對AI電力需求困境

    Bill Gates向外界表明,美國即將迎來長期以來的首次大幅電力需求增長。截至目前,微軟與美國最大的核能發電公司聯合能源已達成合作協議。聯合能源預測,隨著人工智能AI的快速發展,資料中心的電力需求將達到電動車充電需求的5至6倍。

    Bill Gates投入數十億美元建造新核電廠,以應對AI電力需求困境

    Bill Gates向外界表明,美國即將迎來長期以來的首次大幅電力需求增長。截至目前,微軟與美國最大的核能發電公司聯合能源已達成合作協議。聯合能源預測,隨著人工智能AI的快速發展,資料中心的電力需求將達到電動車充電需求的5至6倍。

  • 擺脫世界飢餓困境的3種技術趨勢

    擺脫世界飢餓困境的3種技術趨勢

    目前,考慮到問題的嚴重性,這個沒有飢餓的未來似乎只是一個白日夢。截至現在,全世界有近8億人處於飢餓之中,而三分之一的人甚至不知道他們的下一頓飯從哪來。不過,一個沒有飢餓的世界是可能的。

    擺脫世界飢餓困境的3種技術趨勢

    目前,考慮到問題的嚴重性,這個沒有飢餓的未來似乎只是一個白日夢。截至現在,全世界有近8億人處於飢餓之中,而三分之一的人甚至不知道他們的下一頓飯從哪來。不過,一個沒有飢餓的世界是可能的。

  • 中國EX Robots人形機器人創新,引發全球市場競爭白熱化?

    中國EX Robots人形機器人創新,引發全球市場競爭白熱化?

    仿真機器人,長期以來一直是科幻作品的熱門題材。然而,隨着科技的進步,這些機器人已經不再局限於虛搆的世界。全球范圍內,許多企業和研究機搆正專注於開發和制造高度仿真的人形機器人,旨在為人類提供更多服務和幫助。

    中國EX Robots人形機器人創新,引發全球市場競爭白熱化?

    仿真機器人,長期以來一直是科幻作品的熱門題材。然而,隨着科技的進步,這些機器人已經不再局限於虛搆的世界。全球范圍內,許多企業和研究機搆正專注於開發和制造高度仿真的人形機器人,旨在為人類提供更多服務和幫助。

1 / 4
1 / 4
  • 出海網紅經濟,是陷阱還是機遇?

    出海網紅經濟,是陷阱還是機遇?

    隨著中國品牌出海,網紅經濟席捲北美、東南亞兩大市場。在網紅經濟的迅速發展下,也催生了網紅主播、MCN機構一條成熟的“全產業鏈”。網紅主播為了流量可能會採取什麼極端的手段? MCN機構和主播間到底又存在哪些內幕?

    出海網紅經濟,是陷阱還是機遇?

    隨著中國品牌出海,網紅經濟席捲北美、東南亞兩大市場。在網紅經濟的迅速發展下,也催生了網紅主播、MCN機構一條成熟的“全產業鏈”。網紅主播為了流量可能會採取什麼極端的手段? MCN機構和主播間到底又存在哪些內幕?

  • 中國年輕人“逃離”一線城市,一線城市風光不再還是迫於現實?

    中國年輕人“逃離”一線城市,一線城市風光不再還是迫於現實?

    近年來,越來越多的年輕人選擇離開一線城市,去到二、三線城市或者回到自己的家鄉發展。然而,也有一部分年輕人選擇了重新回歸,在一線城市漂泊、打工、旅行,這種現象也被稱為“回籠漂”。

    中國年輕人“逃離”一線城市,一線城市風光不再還是迫於現實?

    近年來,越來越多的年輕人選擇離開一線城市,去到二、三線城市或者回到自己的家鄉發展。然而,也有一部分年輕人選擇了重新回歸,在一線城市漂泊、打工、旅行,這種現象也被稱為“回籠漂”。

  • 溫哥華明星脫口秀抽獎贈票!中外喜劇,以幽默形式傳遞思考

    溫哥華明星脫口秀抽獎贈票!中外喜劇,以幽默形式傳遞思考

    作為喜劇的“非常態”表達形式,“即興喜劇”完完全全由现场观众给一些主題、線索或是關鍵信息,再由喜劇演員們把这些东西用随机、自然的形式演绎出来。今天,我們和麦浪娱乐创始人之一、大麦喜剧即兴喜剧负责人紫琪一起探討即興喜劇背後的思考。

    溫哥華明星脫口秀抽獎贈票!中外喜劇,以幽默形式傳遞思考

    作為喜劇的“非常態”表達形式,“即興喜劇”完完全全由现场观众给一些主題、線索或是關鍵信息,再由喜劇演員們把这些东西用随机、自然的形式演绎出来。今天,我們和麦浪娱乐创始人之一、大麦喜剧即兴喜剧负责人紫琪一起探討即興喜劇背後的思考。

  • Netflix 韓劇D.P: 逃兵追缉令,霸凌黑暗面背後的思考

    Netflix 韓劇D.P: 逃兵追缉令,霸凌黑暗面背後的思考

    大多數人將霸凌與童年聯繫在一起,但任何年齡段的任何人都可能發生欺凌行為。它也可以採取多種形式,從言語騷擾到身體虐待等等。欺凌行為也不只發生在操場上。個人可能會在網上、辦公室、家里和其他地方遭受霸凌。

    Netflix 韓劇D.P: 逃兵追缉令,霸凌黑暗面背後的思考

    大多數人將霸凌與童年聯繫在一起,但任何年齡段的任何人都可能發生欺凌行為。它也可以採取多種形式,從言語騷擾到身體虐待等等。欺凌行為也不只發生在操場上。個人可能會在網上、辦公室、家里和其他地方遭受霸凌。

1 / 4