揭開人工智能“黑盒子”的神秘面紗?

揭開人工智能“黑盒子”的神秘面紗?

發布日期:

科技 Tech


要點:
人工智能系統做出最終決定背后的執行邏輯。而這一問題,被科學家們稱之為的“黑盒子問題”。人工智能在“深度學習”下導致,一旦產生負面的結果,它將很難被修復。除此以外,“黑盒子問題”也有道德層面的影響。“黑盒子問題”的產生有不同的說法,也引起了公眾的廣泛注意。

科技正以前所未有的速度和規模發展,引發多個領域的變革,塑造了新的商業模式,甚至重塑了全新社會結構。我們一起,從科技創新中洞察社會轉型和升級的機遇。

狂呼科技研究所聚焦科技創新對當今世界的影響,以獨特、前瞻的科技視角,洞察科技時代下涌現的“創新革命”。

狂呼,以最具突破性的技朮塑造我們的未來,為大眾捕捉科技商業先機,探索當今人類社會面臨的重大挑戰。

聯系我們 // 相關文章

雖然人工智能可以完成許多連人類都無法做到的驚人事情,但在很多情況下,我們卻不知道人工智能系統做出最終決定背后的執行邏輯。而這一問題,對我們尤為重要。這就是科學家們稱之為的“黑盒子問題”。

問題的症結所在
“舉一反三”的學習理念是推動智能發展的最強大力量之一,無論你是在談論人類還是人工智能。例如,想一想孩子們最初是如何學會識別字母表中的字母或不同動物。你只需向他們展示足夠多的字母B或貓的例子,不久之後,他們就能識別出該字母或動物的任何實例。背后的基本理論其實很簡單,大腦是一個發現搜索機器,當它接觸到示例時,它可以識別貓性或B性所必須具備的要素,這些要素最終會合併整合在一起,使我們能夠自動和無意識地對新接觸的物體進行快速的分類。這對我們平日生活來說很容易,但要解釋這一切的背后是如何運作幾乎是很難回答。“這是你知道的那些奇怪事情之一,但你不知道你是怎麼知道的,也不知道你是從哪裡學到的。”專門研究人工智能的電氣和計算機工程研究人員說到。“不是你忘記了,而是你忘記了哪些“輸入”指令教會了你什麼,而你剩下的只有具體做出的每一個判斷。”

“深度學習”是最普遍的現代人工智能形式之一,其工作方式大致與人類相同,這在很大程度上是因為它受到了“人類智能”理論的啟發。

事實上,“深度學習”算法的訓練方式與我們教孩子的方式非常相似。你向系統輸入你希望它能夠識別的事物的相關正確示例,不久之後,它自己就會形成一個“神經網絡”,用於對它以前從未經歷過的事物進行一一分類。例如,在你的照片應用程序搜索欄中輸入關鍵字“貓”, 或是你最喜歡的一隻貓的名字,你就會看到“深度學習”下的人工智能快速搜索出你想要的准確內容。但可怕之處在於,就像我們的“人類智能”一樣,我們同樣不知道人工智能是如何通過“深度學習”從而得出結論,它像我們人類一樣,也“忘記了”很久以前為其決策提供信息的所有“輸入”指令,或者,更準確地說,它從來沒有註意並跟蹤任何“輸入”指令。

“黑盒子問題”的產生有不同的說法,因此引起了公眾的注意。首先,人工智能在“深度學習”下導致,一旦產生負面的結果,它將很難被修復。例如,一輛自動駕駛汽車在我們預測它會剎車時卻意外撞到行人,那麼系統的黑匣子性質意味著我們根本無法追蹤人工智能系統的思考全過程,也無法了解它為什麼會做出這個的錯誤決定。如果發生這種類型的事故,結果證明是因為感知系統失誤而撞到行人,我們則會假設這是因為系統在特殊情況下遇到了一些新事物才導致了意外。然後,我們會嘗試推測接下來它可能會發生的情況,以及出現不同問題時的解決方案,以便它下次能夠更好地執行任務避免失誤。

這種“意外性”問題使我們很難在安全方面完全信任人工智能的“深度學習”能力。除此以外,“黑盒子問題”也有道德層面的影響。

人工智能下的“深度學習”,現在經常用於對人類做出判斷,範圍從醫療、金融貸款、工作面試篩選等等。一定程度上,人工智能能減少我們人類世界中不需要的偏見。但是,當一個經過“深度學習”的人工智能拒絕了你的貸款或將你排除在第一輪工作面試之外卻無法給予你合理解釋時,也會讓大多數人質疑到底人工智能是否“公平”。

對於“黑盒子問題”,我們又能做些什麼?
目前我們能做的有以下兩個方面。一是停止在高風險的應用中使用人工智能。例如,歐盟現在正在創建一個監管框架,它將潛在的應用程序按不同的風險類別進行分類。并且,禁止在危害可能性高的領域(如金融和刑事司法)使用人工智能系統。但,允許在聊天機器人、垃圾郵件過濾器、搜索和視頻遊戲等風險較低的應用程序中繼續使用人工智能。

二是找到一種方法來監測“黑盒子”。所謂的“可解釋的人工智能”在很大程度上仍是一個新興領域,但計算機科學家對如何使人工智能的“深度學習”更加透明,目前有不同的方法模型。但我們本質上需要一種方法來弄清楚,到底是哪些場景下的哪些“輸入”指令導致了人工智能做出不同結果的最終決定。它可能涉及尋找相關性的經典數據科學方法,或涉及更大的搜索網絡,但無論哪種方式,都需要更多的數據和研究去支撐以了解它背后的執行邏輯,這是一個非常懸而未決的重要問題。

歸根結底,人工智能應該在我們的生活中扮演什麼角色?這個問題可能和我們在思考人類智能時有異曲同工之妙。

毫無疑問,人工智能有巨大的潛力,但當你進入金融、醫療保健或國防等領域時,它也許會變得無法想象的可怕。你意識到我們在使用人工智能幫助更高效、全面地解決問題時,它可能伴隨著一定的風險并同時學會了我們的思維方式。如果我們可以讓時光倒流30年,提前了解我們現在所知道關於人工智能的一切,我們還會不會讓人工智能產生,并對人們產生影響?

科技正以前所未有的速度和規模發展,引發多個領域的變革,塑造了新的商業模式,甚至重塑了全新社會結構。我們一起,從科技創新中洞察社會轉型和升級的機遇。

狂呼科技研究所聚焦科技創新對當今世界的影響,以獨特、前瞻的科技視角,洞察科技時代下涌現的“創新革命”。

狂呼,以最具突破性的技朮塑造我們的未來,為大眾捕捉科技商業先機,探索當今人類社會面臨的重大挑戰。

聯系我們 // 相關文章


返回網誌
1 / 8
  • 德國研究人員創新分子太陽能儲存技術,為可持續發展開闢新道路

    德國研究人員創新分子太陽能儲存技術,為可持續發展開闢新道路

    太陽能電池板和風力渦輪機的輸出則會不斷波動,這是依賴再生能源的主要挑戰之一。我們需要一種方式來儲存過剩的電力,直到需要時再釋放。如何進一步提升儲能技術的容量、成本效益和持久性,將成為我們未來能源系統的關鍵挑戰。

    德國研究人員創新分子太陽能儲存技術,為可持續發展開闢新道路

    太陽能電池板和風力渦輪機的輸出則會不斷波動,這是依賴再生能源的主要挑戰之一。我們需要一種方式來儲存過剩的電力,直到需要時再釋放。如何進一步提升儲能技術的容量、成本效益和持久性,將成為我們未來能源系統的關鍵挑戰。

  • SiPhox開發微型硅光芯片血液檢測系統,創新性實現在家驗血

    SiPhox開發微型硅光芯片血液檢測系統,創新性實現在家驗血

    SiPhox Health正在通過一種創新的基於硅光子芯片的血液檢測技朮,幫助慢性病患者在家中便捷地管理病情。該設備大小類似於一台咖啡機,能夠精確檢測20種不同的生物標志物,極大簡化了檢測流程,使患者無需離開家門便可完成檢測。

    SiPhox開發微型硅光芯片血液檢測系統,創新性實現在家驗血

    SiPhox Health正在通過一種創新的基於硅光子芯片的血液檢測技朮,幫助慢性病患者在家中便捷地管理病情。該設備大小類似於一台咖啡機,能夠精確檢測20種不同的生物標志物,極大簡化了檢測流程,使患者無需離開家門便可完成檢測。

  • AI與量子計算:誰將引領未來科技?

    AI與量子計算:誰將引領未來科技?

    多年來,科技公司多年投入數十億美元於量子計算機,寄希望於它們能在金融、藥物研發、物流等多個領域帶來顛覆性變革,尤其是在物理和化學領域,這種期待更為強烈,因為量子力學的獨特效應在這些領域中發揮着重要作用。

    AI與量子計算:誰將引領未來科技?

    多年來,科技公司多年投入數十億美元於量子計算機,寄希望於它們能在金融、藥物研發、物流等多個領域帶來顛覆性變革,尤其是在物理和化學領域,這種期待更為強烈,因為量子力學的獨特效應在這些領域中發揮着重要作用。

  • 金剛石晶片的崛起,或引發全球AI半導體競爭新角逐

    金剛石晶片的崛起,或引發全球AI半導體競爭新角逐

    全球各國都在積極加快金剛石在半導體領域的研發步伐,並將其視為未來科技創新的關鍵材料。從高效能晶片散熱解決方案到量子計算和光電應用,金剛石的潛力被各大研究機構和企業廣泛看好。

    金剛石晶片的崛起,或引發全球AI半導體競爭新角逐

    全球各國都在積極加快金剛石在半導體領域的研發步伐,並將其視為未來科技創新的關鍵材料。從高效能晶片散熱解決方案到量子計算和光電應用,金剛石的潛力被各大研究機構和企業廣泛看好。

1 / 4
1 / 4
  • 在變革中的抉擇:當今大環境下如何實現職業規劃與人生價值?

    在變革中的抉擇:當今大環境下如何實現職業規劃與人生價值?

    隨著時代的變遷,人生價值的內涵也變得更加多樣化和個性化。每個人對於“成功”和“幸福”的理解不同,有些人追求的是即時的快樂和成就感,而有些人則看重長期的進步和自我超越。

    在變革中的抉擇:當今大環境下如何實現職業規劃與人生價值?

    隨著時代的變遷,人生價值的內涵也變得更加多樣化和個性化。每個人對於“成功”和“幸福”的理解不同,有些人追求的是即時的快樂和成就感,而有些人則看重長期的進步和自我超越。

  • 再見愛人:探索現代婚姻中的情感困境

    再見愛人:探索現代婚姻中的情感困境

    芒果TV婚姻紀實觀察節目“再見愛人4”邀請黃聖依、楊子,麥琳、李行亮,葛夕、劉爽三對情感關系10年以上的夫妻,以“婚姻紀實觀察”為切口,呈現出不同婚姻樣本在親密關系中的掙扎與甜蜜、桎梏與覺醒。

    再見愛人:探索現代婚姻中的情感困境

    芒果TV婚姻紀實觀察節目“再見愛人4”邀請黃聖依、楊子,麥琳、李行亮,葛夕、劉爽三對情感關系10年以上的夫妻,以“婚姻紀實觀察”為切口,呈現出不同婚姻樣本在親密關系中的掙扎與甜蜜、桎梏與覺醒。

  • 抖音短劇新風潮:中老年人成為新的增長點?

    抖音短劇新風潮:中老年人成為新的增長點?

    近日,不少以老年人為主角的抖音短劇“閃婚五十歲”、“金榜題名之母憑子貴”、“人到五十,閃婚霸總”等等登上熱度榜單。老年人的婚姻、情感以及生活故事,成了當下短劇創作的“新流量密碼”。

    抖音短劇新風潮:中老年人成為新的增長點?

    近日,不少以老年人為主角的抖音短劇“閃婚五十歲”、“金榜題名之母憑子貴”、“人到五十,閃婚霸總”等等登上熱度榜單。老年人的婚姻、情感以及生活故事,成了當下短劇創作的“新流量密碼”。

  • 京東楊笠事件背后:愚昧的社會何去何從?

    京東楊笠事件背后:愚昧的社會何去何從?

    臨近雙十一,沒想到第一場公關戰就炸在了京東身上。而更萬萬沒想到的是,翻車的點不是價格,也不是帶貨主播,而是更尖銳更為敏感的“男女性別”話題,還把脫口秀演員楊笠推向了風口浪尖。

    京東楊笠事件背后:愚昧的社會何去何從?

    臨近雙十一,沒想到第一場公關戰就炸在了京東身上。而更萬萬沒想到的是,翻車的點不是價格,也不是帶貨主播,而是更尖銳更為敏感的“男女性別”話題,還把脫口秀演員楊笠推向了風口浪尖。

1 / 4