揭開人工智能“黑盒子”的神秘面紗?

揭开人工智能“黑盒子”的神秘面纱?

發布日期:

科技 Tech


要点:
人工智能系统做出最终决定背后的执行逻辑。而这一问题,被科学家们称之为的“黑盒子问题”。人工智能在“深度学习”下导致,一旦产生负面的结果,它将很难被修复。除此以外,“黑盒子问题”也有道德层面的影响。 “黑盒子问题”的产生有不同的说法,也引起了公众的广泛注意。

科技正以前所未有的速度和规模发展,引发多个领域的变革,塑造了新的商业模式,甚至重塑了全新社会结构。我们一起,从科技创新中洞察社会转型和升级的机遇。

狂呼科技研究所聚焦科技创新对当今世界的影响,以独特、前瞻的科技视角,洞察科技时代下涌现的“创新革命”。

狂呼,以最具突破性的技术塑造我们的未来,为大众捕捉科技商业先机,探索当今人类社会面临的重大挑战。

联系我们// 相关文章

虽然人工智能可以完成许多连人类都无法做到的惊人事情,但在很多情况下,我们却不知道人工智能系统做出最终决定背后的执行逻辑。而这一问题,对我们尤为重要。这就是科学家们称之为的“黑盒子问题”。

问题的症结所在“举一反三”的学习理念是推动智能发展的最强大力量之一,无论你是在谈论人类还是人工智能。例如,想一想孩子们最初是如何学会识别字母表中的字母或不同动物。你只需向他们展示足够多的字母B或猫的例子,不久之后,他们就能识别出该字母或动物的任何实例。背后的基本理论其实很简单,大脑是一个发现搜索机器,当它接触到示例时,它可以识别猫性或B性所必须具备的要素,这些要素最终会合并整合在一起,使我们能够自动和无意识地对新接触的物体进行快速的分类。这对我们平日生活来说很容易,但要解释这一切的背后是如何运作几乎是很难回答。 “这是你知道的那些奇怪事情之一,但你不知道你是怎么知道的,也不知道你是从哪里学到的。”专门研究人工智能的电气和计算机工程研究人员说到。 “不是你忘记了,而是你忘记了哪些“输入”指令教会了你什么,而你剩下的只有具体做出的每一个判断。”

“深度学习”是最普遍的现代人工智能形式之一,其工作方式大致与人类相同,这在很大程度上是因为它受到了“人类智能”理论的启发。

事实上,“深度学习”算法的训练方式与我们教孩子的方式非常相似。你向系统输入你希望它能够识别的事物的相关正确示例,不久之后,它自己就会形成一个“神经网络”,用于对它以前从未经历过的事物进行一一分类。例如,在你的照片应用程序搜索栏中输入关键字“猫”, 或是你最喜欢的一只猫的名字,你就会看到“深度学习”下的人工智能快速搜索出你想要的准确内容。但可怕之处在于,就像我们的“人类智能”一样,我们同样不知道人工智能是如何通过“深度学习”从而得出结论,它像我们人类一样,也“忘记了”很久以前为其决策提供信息的所有“输入”指令,或者,更准确地说,它从来没有注意并跟踪任何“输入”指令。

“黑盒子问题”的产生有不同的说法,因此引起了公众的注意。首先,人工智能在“深度学习”下导致,一旦产生负面的结果,它将很难被修复。例如,一辆自动驾驶汽车在我们预测它会刹车时却意外撞到行人,那么系统的黑匣子性质意味着我们根本无法追踪人工智能系统的思考全过程,也无法了解它为什么会做出这个的错误决定。如果发生这种类型的事故,结果证明是因为感知系统失误而撞到行人,我们则会假设这是因为系统在特殊情况下遇到了一些新事物才导致了意外。然后,我们会尝试推测接下来它可能会发生的情况,以及出现不同问题时的解决方案,以便它下次能够更好地执行任务避免失误。

这种“意外性”问题使我们很难在安全方面完全信任人工智能的“深度学习”能力。除此以外,“黑盒子问题”也有道德层面的影响。

人工智能下的“深度学习”,现在经常用于对人类做出判断,范围从医疗、金融贷款、工作面试筛选等等。一定程度上,人工智能能减少我们人类世界中不需要的偏见。但是,当一个经过“深度学习”的人工智能拒绝了你的贷款或将你排除在第一轮工作面试之外却无法给予你合理解释时,也会让大多数人质疑到底人工智能是否“公平”。

对于“黑盒子问题”,我们又能做些什么?
目前我们能做的有以下两个方面。一是停止在高风险的应用中使用人工智能。例如,欧盟现在正在创建一个监管框架,它将潜在的应用程序按不同的风险类别进行分类。并且,禁止在危害可能性高的领域(如金融和刑事司法)使用人工智能系统。但,允许在聊天机器人、垃圾邮件过滤器、搜索和视频游戏等风险较低的应用程序中继续使用人工智能。

二是找到一种方法来监测“黑盒子”。所谓的“可解释的人工智能”在很大程度上仍是一个新兴领域,但计算机科学家对如何使人工智能的“深度学习”更加透明,目前有不同的方法模型。但我们本质上需要一种方法来弄清楚,到底是哪些场景下的哪些“输入”指令导致了人工智能做出不同结果的最终决定。它可能涉及寻找相关性的经典数据科学方法,或涉及更大的搜索网络,但无论哪种方式,都需要更多的数据和研究去支撑以了解它背后的执行逻辑,这是一个非常悬而未决的重要问题。

归根结底,人工智能应该在我们的生活中扮演什么角色?这个问题可能和我们在思考人类智能时有异曲同工之妙。

毫无疑问,人工智能有巨大的潜力,但当你进入金融、医疗保健或国防等领域时,它也许会变得无法想象的可怕。你意识到我们在使用人工智能帮助更高效、全面地解决问题时,它可能伴随着一定的风险并同时学会了我们的思维方式。如果我们可以让时光倒流30年,提前了解我们现在所知道关于人工智能的一切,我们还会不会让人工智能产生,并对人们产生影响?

科技正以前所未有的速度和规模发展,引发多个领域的变革,塑造了新的商业模式,甚至重塑了全新社会结构。我们一起,从科技创新中洞察社会转型和升级的机遇。

狂呼科技研究所聚焦科技创新对当今世界的影响,以独特、前瞻的科技视角,洞察科技时代下涌现的“创新革命”。

狂呼,以最具突破性的技术塑造我们的未来,为大众捕捉科技商业先机,探索当今人类社会面临的重大挑战。

联系我们// 相关文章


返回博客
  • 瑪氏300億美元收購品客背后,揭示傳奇的“薯片革命”

    玛氏300亿美元收购品客背后,揭示传奇的“薯片革命”

    鲍尔摒弃了传统的马铃薯切片方法,改用马铃薯粉团压制成形,并创新性地设计了“双曲抛物面”形状,使得薯片比传统的薄片更具韧性,不容易碎裂。这种力学结构也常用于我们常见的建筑物上,比如加拿大丰业银行马鞍体育馆、斯堪的纳维亚体育馆。

    玛氏300亿美元收购品客背后,揭示传奇的“薯片革命”

    鲍尔摒弃了传统的马铃薯切片方法,改用马铃薯粉团压制成形,并创新性地设计了“双曲抛物面”形状,使得薯片比传统的薄片更具韧性,不容易碎裂。这种力学结构也常用于我们常见的建筑物上,比如加拿大丰业银行马鞍体育馆、斯堪的纳维亚体育馆。

  • 特朗普新任期,新關稅政策或引發全球經濟動盪?

    特朗普新任期,新关税政策或引发全球经济动荡?

    特朗普的第二任期将无可避免地加剧美国在全球舞台上的孤立感,并进一步削弱其与盟友之间的经济合作与信任。如果美国选择采取行动,表明我们不再坚持开放、公平、规则、透明和可预测的国际体系,那么整个游戏规则将会改变。

    特朗普新任期,新关税政策或引发全球经济动荡?

    特朗普的第二任期将无可避免地加剧美国在全球舞台上的孤立感,并进一步削弱其与盟友之间的经济合作与信任。如果美国选择采取行动,表明我们不再坚持开放、公平、规则、透明和可预测的国际体系,那么整个游戏规则将会改变。

  • 加拿大爆發港口罷工潮,或加劇北美供應鏈壓力?

    加拿大爆发港口罢工潮,或加剧北美供应链压力?

    11月4日,加拿大西海岸的主要港口,包括温哥华最大的集装箱港和鲁珀特王子港,因工人罢工宣布关闭。国际码头和仓库联盟/ILWU船舶及码头工头Local 514于周一早晨开始罢工,立即停滞了集装箱和货物的运输。

    加拿大爆发港口罢工潮,或加剧北美供应链压力?

    11月4日,加拿大西海岸的主要港口,包括温哥华最大的集装箱港和鲁珀特王子港,因工人罢工宣布关闭。国际码头和仓库联盟/ILWU船舶及码头工头Local 514于周一早晨开始罢工,立即停滞了集装箱和货物的运输。

  • 美股進入調整狀態 | 美股展望 (Video)

    美股进入调整状态| 美股展望(Video)

    各个指数全部下跌,M7全部急挫, 一如所料,在美国总统大选结果未明之前,美国股市进入调整状态,目前看还有下调空间, 但不太似将会大跌, 由牛转熊。综合各种因素考虑,总统选举之后, 标普500能否重拾升势,再创新高!

    美股进入调整状态| 美股展望(Video)

    各个指数全部下跌,M7全部急挫, 一如所料,在美国总统大选结果未明之前,美国股市进入调整状态,目前看还有下调空间, 但不太似将会大跌, 由牛转熊。综合各种因素考虑,总统选举之后, 标普500能否重拾升势,再创新高!

  • 蘋果Apple收購Pixelmator,如何利用App Store鞏固發展“護城河”?

    苹果Apple收购Pixelmator,如何利用App Store巩固发展“护城河”?

    App Store作为苹果产品的重要组成部分,不仅为开发者提供了展示其应用的舞台,还成为苹果收购战略的核心,助力公司更加精准地建立更强大的护城河,抵御竞争对手的侵扰。

    苹果Apple收购Pixelmator,如何利用App Store巩固发展“护城河”?

    App Store作为苹果产品的重要组成部分,不仅为开发者提供了展示其应用的舞台,还成为苹果收购战略的核心,助力公司更加精准地建立更强大的护城河,抵御竞争对手的侵扰。

  • AMZN亞馬遜2024年三季度財報,重回利潤率擴張週期?

    AMZN亚马逊2024年三季度财报,重回利润率扩张周期?

    本季AWS 的营收同比增速为19.1%,相比上季仅提速0.4pct,比卖方一致预期略低0.1pct。而头部卖方和买方期待的至少是20% 或以上的增速,来验证AWS 重新加速并缩窄与同行差距的趋势,但并不如人愿。

    AMZN亚马逊2024年三季度财报,重回利润率扩张周期?

    本季AWS 的营收同比增速为19.1%,相比上季仅提速0.4pct,比卖方一致预期略低0.1pct。而头部卖方和买方期待的至少是20% 或以上的增速,来验证AWS 重新加速并缩窄与同行差距的趋势,但并不如人愿。

  • AAPL蘋果2024財年第四季度財報,基本符合市場預期?

    AAPL苹果2024财年第四季度财报,基本符合市场预期?

    APPL业绩达到了市场的预期。收入端的增长,主要是由iPhone、iPad 及智能可穿戴等业务的提升带动。至于大幅下滑的净利润,主要是受欧盟一次性补缴税款的影响。剔除掉本次补缴102 亿美元的影响后,公司本季度的净利润回到249 亿美元。

    AAPL苹果2024财年第四季度财报,基本符合市场预期?

    APPL业绩达到了市场的预期。收入端的增长,主要是由iPhone、iPad 及智能可穿戴等业务的提升带动。至于大幅下滑的净利润,主要是受欧盟一次性补缴税款的影响。剔除掉本次补缴102 亿美元的影响后,公司本季度的净利润回到249 亿美元。

  • 加拿大移民政策收緊,或帶來未來經濟的深遠影響?

    加拿大移民政策收紧,或带来未来经济的深远影响?

    加拿大总理杜鲁多宣布了最新的移民水平计划,表示政府将大幅削减移民目标人数,并承认在新冠疫情后未能找到合适的平衡。面对这一突然收紧的移民政策,大众感到非常诧异,并开始纷纷思考背后的主要原因是什么?

    加拿大移民政策收紧,或带来未来经济的深远影响?

    加拿大总理杜鲁多宣布了最新的移民水平计划,表示政府将大幅削减移民目标人数,并承认在新冠疫情后未能找到合适的平衡。面对这一突然收紧的移民政策,大众感到非常诧异,并开始纷纷思考背后的主要原因是什么?

1 / 8
  • 古羅馬混凝土的“耐用秘密”

    古罗马混凝土的“耐用秘密”

    古罗马人以其卓越的建筑和工程技术而闻名。公元128年建成的万神殿/Pantheon是古罗马的一座杰出建筑,拥有世界上最大的无钢筋混凝土圆顶,至今依然完好如初。而与此形成鲜明对比的是,许多现代混凝土结构在短短几十年内就出现了损坏。

    古罗马混凝土的“耐用秘密”

    古罗马人以其卓越的建筑和工程技术而闻名。公元128年建成的万神殿/Pantheon是古罗马的一座杰出建筑,拥有世界上最大的无钢筋混凝土圆顶,至今依然完好如初。而与此形成鲜明对比的是,许多现代混凝土结构在短短几十年内就出现了损坏。

  • 從諾貝爾到搞笑諾貝爾獎:科學幽默與生活的貼近

    从诺贝尔到搞笑诺贝尔奖:科学幽默与生活的贴近

    成立于1991年的搞笑诺贝尔奖是对诺贝尔奖的“幽默模仿”,旨在表彰那些“先让人发笑,然后让人深思”的成就。虽然获奖的研究初看可能显得荒唐,但这并不意味着它们缺乏科学价值。

    从诺贝尔到搞笑诺贝尔奖:科学幽默与生活的贴近

    成立于1991年的搞笑诺贝尔奖是对诺贝尔奖的“幽默模仿”,旨在表彰那些“先让人发笑,然后让人深思”的成就。虽然获奖的研究初看可能显得荒唐,但这并不意味着它们缺乏科学价值。

  • GE HealthCare推出AI新工具CareIntellect for Oncology,或推動癌症治療的數字化轉型?

    GE HealthCare推出AI新工具CareIntellect for Oncology,...

    “CareIntellect for Oncology”,将透过快速向肿瘤学家显示所需的数据来帮助肿瘤学家加快了解患者的病史和疾病进展。该公司表示,GE HealthCare 希望让肿瘤科医师免于挖掘纪录的麻烦,这样他们就可以专注于照顾病人。

    GE HealthCare推出AI新工具CareIntellect for Oncology,...

    “CareIntellect for Oncology”,将透过快速向肿瘤学家显示所需的数据来帮助肿瘤学家加快了解患者的病史和疾病进展。该公司表示,GE HealthCare 希望让肿瘤科医师免于挖掘纪录的麻烦,这样他们就可以专注于照顾病人。

  • 龍芯中科:邁向全球市場的中國“芯”力量?

    龙芯中科:迈向全球市场的中国“芯”力量?

    龙芯是中国自主研发的微处理器产品,代表了中国在芯片领域自主创新的努力,旨在摆脱对外部高端技术的依赖。首款龙芯产品早在2002年问世,随后这一系列产品不断更新,提升了性能和集成度。

    龙芯中科:迈向全球市场的中国“芯”力量?

    龙芯是中国自主研发的微处理器产品,代表了中国在芯片领域自主创新的努力,旨在摆脱对外部高端技术的依赖。首款龙芯产品早在2002年问世,随后这一系列产品不断更新,提升了性能和集成度。

1 / 4
  • “AI虛擬伴侶”導致14歲美國少年自殺,人工智能時代背後的情感孤獨

    “AI虚拟伴侣”导致14岁美国少年自杀,人工智能时代背后的情感孤独

    “我想念你,妹妹。”、“我也想念你,亲爱的哥哥。” 这段对话发生在14岁塞维尔/Sewell Setzer生命的最后一天。在与AI初创公司Character.AI的聊天机器人进行长时间对话后,他在2月28日选择结束自己的生命,开枪自杀身亡。

    “AI虚拟伴侣”导致14岁美国少年自杀,人工智能时代背后的情感孤独

    “我想念你,妹妹。”、“我也想念你,亲爱的哥哥。” 这段对话发生在14岁塞维尔/Sewell Setzer生命的最后一天。在与AI初创公司Character.AI的聊天机器人进行长时间对话后,他在2月28日选择结束自己的生命,开枪自杀身亡。

  • 网络成瘾,沉迷直播間:當今快節奏生活的快感與陷阱?

    网络成瘾,沉迷直播间:当今快节奏生活的快感与陷阱?

    繁忙的社会中,身边的人虽然众多,但真正理解和倾诉的却少之又少。在虚拟中,人们通过短暂的直播互动获得了一时的快乐,然而这并不能真正填补心灵深处的空白。最终,直播所提供的陪伴,无法替代那种深入的、持久的人际关系。

    网络成瘾,沉迷直播间:当今快节奏生活的快感与陷阱?

    繁忙的社会中,身边的人虽然众多,但真正理解和倾诉的却少之又少。在虚拟中,人们通过短暂的直播互动获得了一时的快乐,然而这并不能真正填补心灵深处的空白。最终,直播所提供的陪伴,无法替代那种深入的、持久的人际关系。

  • 從Mr. Beast的崛起到三只羊的隕落:超級網紅為博眼球的背后

    从Mr. Beast的崛起到三只羊的陨落:超级网红为博眼球的背后

    网红文化已经成为一种不可忽视的社会现象和经济力量。随着发展,一些拥有数百万甚至千万人气的超级网红,为了追求流量和关注度,忽视了内容质量和创作者的道德底线,导致劣迹网红频频出现,给整个行业带来了显著的负面影响。

    从Mr. Beast的崛起到三只羊的陨落:超级网红为博眼球的背后

    网红文化已经成为一种不可忽视的社会现象和经济力量。随着发展,一些拥有数百万甚至千万人气的超级网红,为了追求流量和关注度,忽视了内容质量和创作者的道德底线,导致劣迹网红频频出现,给整个行业带来了显著的负面影响。

  • 酒店暗藏攝像頭,偷拍黑色產業鏈

    酒店暗藏摄像头,偷拍黑色产业链

    酒店和民宿频繁发生暗藏摄像头的事件,使我们不得不深思:偷拍背后究竟蕴藏着怎样的利益链条?这些偷拍行为不仅严重侵犯了个人隐私,也对社会的道德标准提出了挑战。这一现象的蔓延,迫使人们对行业监管和法律法规的有效性产生质疑。

    酒店暗藏摄像头,偷拍黑色产业链

    酒店和民宿频繁发生暗藏摄像头的事件,使我们不得不深思:偷拍背后究竟蕴藏着怎样的利益链条?这些偷拍行为不仅严重侵犯了个人隐私,也对社会的道德标准提出了挑战。这一现象的蔓延,迫使人们对行业监管和法律法规的有效性产生质疑。

1 / 4
  • 抖音短劇新風潮:中老年人成為新的增長點?

    抖音短剧新风潮:中老年人成为新的增长点?

    近日,不少以老年人为主角的抖音短剧“闪婚五十岁”、“金榜题名之母凭子贵”、“人到五十,闪婚霸总”等等登上热度榜单。老年人的婚姻、情感以及生活故事,成了当下短剧创作的“新流量密码”。

    抖音短剧新风潮:中老年人成为新的增长点?

    近日,不少以老年人为主角的抖音短剧“闪婚五十岁”、“金榜题名之母凭子贵”、“人到五十,闪婚霸总”等等登上热度榜单。老年人的婚姻、情感以及生活故事,成了当下短剧创作的“新流量密码”。

  • 京東楊笠事件背后:愚昧的社會何去何從?

    京东杨笠事件背后:愚昧的社会何去何从?

    临近双十一,没想到第一场公关战就炸在了京东身上。而更万万没想到的是,翻车的点不是价格,也不是带货主播,而是更尖锐更为敏感的“男女性别”话题,还把脱口秀演员杨笠推向了风口浪尖。

    京东杨笠事件背后:愚昧的社会何去何从?

    临近双十一,没想到第一场公关战就炸在了京东身上。而更万万没想到的是,翻车的点不是价格,也不是带货主播,而是更尖锐更为敏感的“男女性别”话题,还把脱口秀演员杨笠推向了风口浪尖。

  • 超級網紅“直播翻車”、OnlyFans慾望經濟、特斯拉Robotaxi“畫大餅”?

    超级网红“直播翻车”、OnlyFans欲望经济、特斯拉Robotaxi“画大饼”?

    网红“直播翻车”:许多网红,在短短几年内积累了巨大的粉丝量,成为众人羡慕的“人生赢家”,但最近却纷纷“跌落神坛”。 OnlyFans发布业绩,扣除成本后的利润为4.8亿美元。特斯拉Robotaxi未达预期,被批“画大饼”?

    超级网红“直播翻车”、OnlyFans欲望经济、特斯拉Robotaxi“画大饼”?

    网红“直播翻车”:许多网红,在短短几年内积累了巨大的粉丝量,成为众人羡慕的“人生赢家”,但最近却纷纷“跌落神坛”。 OnlyFans发布业绩,扣除成本后的利润为4.8亿美元。特斯拉Robotaxi未达预期,被批“画大饼”?

  • 出海網紅經濟,是陷阱還是機遇?

    出海网红经济,是陷阱还是机遇?

    随着中国品牌出海,网红经济席卷北美、东南亚两大市场。在网红经济的迅速发展下,也催生了网红主播、MCN机构一条成熟的“全产业链”。网红主播为了流量可能会采取什么极端的手段? MCN机构和主播间到底又存在哪些内幕?

    出海网红经济,是陷阱还是机遇?

    随着中国品牌出海,网红经济席卷北美、东南亚两大市场。在网红经济的迅速发展下,也催生了网红主播、MCN机构一条成熟的“全产业链”。网红主播为了流量可能会采取什么极端的手段? MCN机构和主播间到底又存在哪些内幕?

1 / 4