揭開人工智能“黑盒子”的神秘面紗?

揭开人工智能“黑盒子”的神秘面纱?

發布日期:

科技 Tech


要点:
人工智能系统做出最终决定背后的执行逻辑。而这一问题,被科学家们称之为的“黑盒子问题”。人工智能在“深度学习”下导致,一旦产生负面的结果,它将很难被修复。除此以外,“黑盒子问题”也有道德层面的影响。 “黑盒子问题”的产生有不同的说法,也引起了公众的广泛注意。

科技正以前所未有的速度和规模发展,引发多个领域的变革,塑造了新的商业模式,甚至重塑了全新社会结构。我们一起,从科技创新中洞察社会转型和升级的机遇。

狂呼科技研究所聚焦科技创新对当今世界的影响,以独特、前瞻的科技视角,洞察科技时代下涌现的“创新革命”。

狂呼,以最具突破性的技术塑造我们的未来,为大众捕捉科技商业先机,探索当今人类社会面临的重大挑战。

联系我们// 相关文章

虽然人工智能可以完成许多连人类都无法做到的惊人事情,但在很多情况下,我们却不知道人工智能系统做出最终决定背后的执行逻辑。而这一问题,对我们尤为重要。这就是科学家们称之为的“黑盒子问题”。

问题的症结所在“举一反三”的学习理念是推动智能发展的最强大力量之一,无论你是在谈论人类还是人工智能。例如,想一想孩子们最初是如何学会识别字母表中的字母或不同动物。你只需向他们展示足够多的字母B或猫的例子,不久之后,他们就能识别出该字母或动物的任何实例。背后的基本理论其实很简单,大脑是一个发现搜索机器,当它接触到示例时,它可以识别猫性或B性所必须具备的要素,这些要素最终会合并整合在一起,使我们能够自动和无意识地对新接触的物体进行快速的分类。这对我们平日生活来说很容易,但要解释这一切的背后是如何运作几乎是很难回答。 “这是你知道的那些奇怪事情之一,但你不知道你是怎么知道的,也不知道你是从哪里学到的。”专门研究人工智能的电气和计算机工程研究人员说到。 “不是你忘记了,而是你忘记了哪些“输入”指令教会了你什么,而你剩下的只有具体做出的每一个判断。”

“深度学习”是最普遍的现代人工智能形式之一,其工作方式大致与人类相同,这在很大程度上是因为它受到了“人类智能”理论的启发。

事实上,“深度学习”算法的训练方式与我们教孩子的方式非常相似。你向系统输入你希望它能够识别的事物的相关正确示例,不久之后,它自己就会形成一个“神经网络”,用于对它以前从未经历过的事物进行一一分类。例如,在你的照片应用程序搜索栏中输入关键字“猫”, 或是你最喜欢的一只猫的名字,你就会看到“深度学习”下的人工智能快速搜索出你想要的准确内容。但可怕之处在于,就像我们的“人类智能”一样,我们同样不知道人工智能是如何通过“深度学习”从而得出结论,它像我们人类一样,也“忘记了”很久以前为其决策提供信息的所有“输入”指令,或者,更准确地说,它从来没有注意并跟踪任何“输入”指令。

“黑盒子问题”的产生有不同的说法,因此引起了公众的注意。首先,人工智能在“深度学习”下导致,一旦产生负面的结果,它将很难被修复。例如,一辆自动驾驶汽车在我们预测它会刹车时却意外撞到行人,那么系统的黑匣子性质意味着我们根本无法追踪人工智能系统的思考全过程,也无法了解它为什么会做出这个的错误决定。如果发生这种类型的事故,结果证明是因为感知系统失误而撞到行人,我们则会假设这是因为系统在特殊情况下遇到了一些新事物才导致了意外。然后,我们会尝试推测接下来它可能会发生的情况,以及出现不同问题时的解决方案,以便它下次能够更好地执行任务避免失误。

这种“意外性”问题使我们很难在安全方面完全信任人工智能的“深度学习”能力。除此以外,“黑盒子问题”也有道德层面的影响。

人工智能下的“深度学习”,现在经常用于对人类做出判断,范围从医疗、金融贷款、工作面试筛选等等。一定程度上,人工智能能减少我们人类世界中不需要的偏见。但是,当一个经过“深度学习”的人工智能拒绝了你的贷款或将你排除在第一轮工作面试之外却无法给予你合理解释时,也会让大多数人质疑到底人工智能是否“公平”。

对于“黑盒子问题”,我们又能做些什么?
目前我们能做的有以下两个方面。一是停止在高风险的应用中使用人工智能。例如,欧盟现在正在创建一个监管框架,它将潜在的应用程序按不同的风险类别进行分类。并且,禁止在危害可能性高的领域(如金融和刑事司法)使用人工智能系统。但,允许在聊天机器人、垃圾邮件过滤器、搜索和视频游戏等风险较低的应用程序中继续使用人工智能。

二是找到一种方法来监测“黑盒子”。所谓的“可解释的人工智能”在很大程度上仍是一个新兴领域,但计算机科学家对如何使人工智能的“深度学习”更加透明,目前有不同的方法模型。但我们本质上需要一种方法来弄清楚,到底是哪些场景下的哪些“输入”指令导致了人工智能做出不同结果的最终决定。它可能涉及寻找相关性的经典数据科学方法,或涉及更大的搜索网络,但无论哪种方式,都需要更多的数据和研究去支撑以了解它背后的执行逻辑,这是一个非常悬而未决的重要问题。

归根结底,人工智能应该在我们的生活中扮演什么角色?这个问题可能和我们在思考人类智能时有异曲同工之妙。

毫无疑问,人工智能有巨大的潜力,但当你进入金融、医疗保健或国防等领域时,它也许会变得无法想象的可怕。你意识到我们在使用人工智能帮助更高效、全面地解决问题时,它可能伴随着一定的风险并同时学会了我们的思维方式。如果我们可以让时光倒流30年,提前了解我们现在所知道关于人工智能的一切,我们还会不会让人工智能产生,并对人们产生影响?

科技正以前所未有的速度和规模发展,引发多个领域的变革,塑造了新的商业模式,甚至重塑了全新社会结构。我们一起,从科技创新中洞察社会转型和升级的机遇。

狂呼科技研究所聚焦科技创新对当今世界的影响,以独特、前瞻的科技视角,洞察科技时代下涌现的“创新革命”。

狂呼,以最具突破性的技术塑造我们的未来,为大众捕捉科技商业先机,探索当今人类社会面临的重大挑战。

联系我们// 相关文章

免責聲明:本網站提供的信息僅供一般信息分享目的,並不應被視為投資建議。

返回博客
  • BILI嗶哩嗶哩2025年二季度財報,整體收入基本符合指引

    BILI哔哩哔哩2025年二季度财报,整体收入基本符合指引

    BILI利润超预期,这次亮点仍然是盈利端,明显超市场预期,但主要是营销费用较低带来。二季度虽然没新游本身营销费用理应不多,但《三谋》有周年庆活动,年初几次赛季更新变动也不小,因此也并非完全不需要额外的营销。

    BILI哔哩哔哩2025年二季度财报,整体收入基本符合指引

    BILI利润超预期,这次亮点仍然是盈利端,明显超市场预期,但主要是营销费用较低带来。二季度虽然没新游本身营销费用理应不多,但《三谋》有周年庆活动,年初几次赛季更新变动也不小,因此也并非完全不需要额外的营销。

  • BIDU百度二季度業績略超預期

    BIDU百度二季度业绩略超预期

    百度智慧云预期中高增长:云业务在当下是风口,高增长自然没得说。不过少了上季度的惊艳,二季度的27% 增长符合市场大部分预期,利好早已经打入估值。广告陷痛苦转型期:转型的阵痛开始变得醒目,目前搜索结果中AI 生成内容的渗透率已经提高至64%。

    BIDU百度二季度业绩略超预期

    百度智慧云预期中高增长:云业务在当下是风口,高增长自然没得说。不过少了上季度的惊艳,二季度的27% 增长符合市场大部分预期,利好早已经打入估值。广告陷痛苦转型期:转型的阵痛开始变得醒目,目前搜索结果中AI 生成内容的渗透率已经提高至64%。

  • LABUBU泡泡瑪特2025年H1業績,利潤均超過了去年全年水平

    LABUBU泡泡玛特2025年H1业绩,利润均超过了去年全年水平

    THE MONSTERS 系列目前作为泡泡玛特的第一大IP,经过近一年的“狂飙”,目前销售占比已经接近35%,这还是在公司主动控货的情况下。这意味着明年在高基数的情况下,如果消费者对LABUBU 产生审美疲劳,对泡泡玛特整体的业绩冲击会比较大。

    LABUBU泡泡玛特2025年H1业绩,利润均超过了去年全年水平

    THE MONSTERS 系列目前作为泡泡玛特的第一大IP,经过近一年的“狂飙”,目前销售占比已经接近35%,这还是在公司主动控货的情况下。这意味着明年在高基数的情况下,如果消费者对LABUBU 产生审美疲劳,对泡泡玛特整体的业绩冲击会比较大。

  • 小米2025年第二季度財報,汽車業務毛利率繼續提升!

    小米2025年第二季度财报,汽车业务毛利率继续提升!

    小米公司本季度汽车出货量8.1 万台,单车均价进一步提升至25.3 万元。主要是受Ultra 车型等高价车型出货,结构性带动均价提升。本季度汽车业务毛利率继续提升至26.4%,再超市场预期23.5%,主要是受均价提升和规模效应的带动。

    小米2025年第二季度财报,汽车业务毛利率继续提升!

    小米公司本季度汽车出货量8.1 万台,单车均价进一步提升至25.3 万元。主要是受Ultra 车型等高价车型出货,结构性带动均价提升。本季度汽车业务毛利率继续提升至26.4%,再超市场预期23.5%,主要是受均价提升和规模效应的带动。

  • 本周資本市場推測9月降息的聲音越來越響亮

    本周资本市场推测9月降息的声音越来越响亮

    降息之路并非一帆风顺。市场时而充满期待,时而又因联准会未如预期行动而感到失望。然而,专家们仍认为利率走势有望保持在相对低位。随着通膨持续疲弱、劳动市场压力逐步显现,风险平衡正加速倾向降息。

    本周资本市场推测9月降息的声音越来越响亮

    降息之路并非一帆风顺。市场时而充满期待,时而又因联准会未如预期行动而感到失望。然而,专家们仍认为利率走势有望保持在相对低位。随着通膨持续疲弱、劳动市场压力逐步显现,风险平衡正加速倾向降息。

  • 美國政府正考慮入股英特爾,新模式或重塑全球芯片產業格局?

    美国政府正考虑入股英特尔,新模式或重塑全球芯片产业格局?

    美国政府正在与芯片制造商英特尔/Intel进行谈判,希望入股这家陷入困境的公司。随后该公司股价周四上涨7% 。这一消息的传出,标志着美国政府将自己置于关键产业核心的决心,并符合特朗普总统长期以来呼吁在美国本土生产更多芯片和高科技产品的政策主张。

    美国政府正考虑入股英特尔,新模式或重塑全球芯片产业格局?

    美国政府正在与芯片制造商英特尔/Intel进行谈判,希望入股这家陷入困境的公司。随后该公司股价周四上涨7% 。这一消息的传出,标志着美国政府将自己置于关键产业核心的决心,并符合特朗普总统长期以来呼吁在美国本土生产更多芯片和高科技产品的政策主张。

  • 中加貿易戰升級:中國對加拿大油菜籽徵收75.8%關稅

    中加贸易战升级:中国对加拿大油菜籽征收75.8%关税

    中加两国持续一年的贸易争端再次升级。中国于本周二宣布,将对从加拿大进口的“油菜籽/Canola”加征高达75.8%的临时反倾销税,此举是对去年加拿大对中国电动汽车征收关税的最新反制。这项突如其来的关税政策,立即在加拿大油籽市场引发剧烈震荡。

    中加贸易战升级:中国对加拿大油菜籽征收75.8%关税

    中加两国持续一年的贸易争端再次升级。中国于本周二宣布,将对从加拿大进口的“油菜籽/Canola”加征高达75.8%的临时反倾销税,此举是对去年加拿大对中国电动汽车征收关税的最新反制。这项突如其来的关税政策,立即在加拿大油籽市场引发剧烈震荡。

  • 騰訊2025年二季度業績,股王依舊穩得讓人安心

    腾讯2025年二季度业绩,股王依旧稳得让人安心

    腾讯毛利率主要是因为游戏、广告等本身高利润率的业务占比提升,聚焦长青游戏IP 开发的战略,也使得近两年新游的变现效率高于以往。而费用上,增长主要体现在由AI 带来的的服务器带宽、设备折旧上,以及研发人员的成本,但整体看均相对可控。

    腾讯2025年二季度业绩,股王依旧稳得让人安心

    腾讯毛利率主要是因为游戏、广告等本身高利润率的业务占比提升,聚焦长青游戏IP 开发的战略,也使得近两年新游的变现效率高于以往。而费用上,增长主要体现在由AI 带来的的服务器带宽、设备折旧上,以及研发人员的成本,但整体看均相对可控。

1 / 8
1 / 4
1 / 4
  • 從中國經濟看背後困境及發展新構想?

    从中国经济看背后困境及发展新构想?

    中国未来发展或许可以参考“五环构想”进行战略布局。这一构想包括高等教育培训、创新科技驱动、产品生产销售、市场推广营销、出海战略布局五大领域。通过“五环构想”的实施,中国经济可能有一个全新的契机注入新的动力,推动经济稳定健康发展。

    从中国经济看背后困境及发展新构想?

    中国未来发展或许可以参考“五环构想”进行战略布局。这一构想包括高等教育培训、创新科技驱动、产品生产销售、市场推广营销、出海战略布局五大领域。通过“五环构想”的实施,中国经济可能有一个全新的契机注入新的动力,推动经济稳定健康发展。

  • 在變革中的抉擇:當今大環境下如何實現職業規劃與人生價值?

    在变革中的抉择:当今大环境下如何实现职业规划与人生价值?

    随着时代的变迁,人生价值的内涵也变得更加多样化和个性化。每个人对于“成功”和“幸福”的理解不同,有些人追求的是即时的快乐和成就感,而有些人则看重长期的进步和自我超越。

    在变革中的抉择:当今大环境下如何实现职业规划与人生价值?

    随着时代的变迁,人生价值的内涵也变得更加多样化和个性化。每个人对于“成功”和“幸福”的理解不同,有些人追求的是即时的快乐和成就感,而有些人则看重长期的进步和自我超越。

  • 再見愛人:探索現代婚姻中的情感困境

    再见爱人:探索现代婚姻中的情感困境

    芒果TV婚姻纪实观察节目“再见爱人4”邀请黄圣依、杨子,麦琳、李行亮,葛夕、刘爽三对情感关系10年以上的夫妻,以“婚姻纪实观察”为切口,呈现出不同婚姻样本在亲密关系中的挣扎与甜蜜、桎梏与觉醒。

    再见爱人:探索现代婚姻中的情感困境

    芒果TV婚姻纪实观察节目“再见爱人4”邀请黄圣依、杨子,麦琳、李行亮,葛夕、刘爽三对情感关系10年以上的夫妻,以“婚姻纪实观察”为切口,呈现出不同婚姻样本在亲密关系中的挣扎与甜蜜、桎梏与觉醒。

  • 抖音短劇新風潮:中老年人成為新的增長點?

    抖音短剧新风潮:中老年人成为新的增长点?

    近日,不少以老年人为主角的抖音短剧“闪婚五十岁”、“金榜题名之母凭子贵”、“人到五十,闪婚霸总”等等登上热度榜单。老年人的婚姻、情感以及生活故事,成了当下短剧创作的“新流量密码”。

    抖音短剧新风潮:中老年人成为新的增长点?

    近日,不少以老年人为主角的抖音短剧“闪婚五十岁”、“金榜题名之母凭子贵”、“人到五十,闪婚霸总”等等登上热度榜单。老年人的婚姻、情感以及生活故事,成了当下短剧创作的“新流量密码”。

1 / 4