揭開人工智能“黑盒子”的神秘面紗?

揭开人工智能“黑盒子”的神秘面纱?

發布日期:

科技 Tech


要点:
人工智能系统做出最终决定背后的执行逻辑。而这一问题,被科学家们称之为的“黑盒子问题”。人工智能在“深度学习”下导致,一旦产生负面的结果,它将很难被修复。除此以外,“黑盒子问题”也有道德层面的影响。 “黑盒子问题”的产生有不同的说法,也引起了公众的广泛注意。

科技正以前所未有的速度和规模发展,引发多个领域的变革,塑造了新的商业模式,甚至重塑了全新社会结构。我们一起,从科技创新中洞察社会转型和升级的机遇。

狂呼科技研究所聚焦科技创新对当今世界的影响,以独特、前瞻的科技视角,洞察科技时代下涌现的“创新革命”。

狂呼,以最具突破性的技术塑造我们的未来,为大众捕捉科技商业先机,探索当今人类社会面临的重大挑战。

联系我们// 相关文章

虽然人工智能可以完成许多连人类都无法做到的惊人事情,但在很多情况下,我们却不知道人工智能系统做出最终决定背后的执行逻辑。而这一问题,对我们尤为重要。这就是科学家们称之为的“黑盒子问题”。

问题的症结所在“举一反三”的学习理念是推动智能发展的最强大力量之一,无论你是在谈论人类还是人工智能。例如,想一想孩子们最初是如何学会识别字母表中的字母或不同动物。你只需向他们展示足够多的字母B或猫的例子,不久之后,他们就能识别出该字母或动物的任何实例。背后的基本理论其实很简单,大脑是一个发现搜索机器,当它接触到示例时,它可以识别猫性或B性所必须具备的要素,这些要素最终会合并整合在一起,使我们能够自动和无意识地对新接触的物体进行快速的分类。这对我们平日生活来说很容易,但要解释这一切的背后是如何运作几乎是很难回答。 “这是你知道的那些奇怪事情之一,但你不知道你是怎么知道的,也不知道你是从哪里学到的。”专门研究人工智能的电气和计算机工程研究人员说到。 “不是你忘记了,而是你忘记了哪些“输入”指令教会了你什么,而你剩下的只有具体做出的每一个判断。”

“深度学习”是最普遍的现代人工智能形式之一,其工作方式大致与人类相同,这在很大程度上是因为它受到了“人类智能”理论的启发。

事实上,“深度学习”算法的训练方式与我们教孩子的方式非常相似。你向系统输入你希望它能够识别的事物的相关正确示例,不久之后,它自己就会形成一个“神经网络”,用于对它以前从未经历过的事物进行一一分类。例如,在你的照片应用程序搜索栏中输入关键字“猫”, 或是你最喜欢的一只猫的名字,你就会看到“深度学习”下的人工智能快速搜索出你想要的准确内容。但可怕之处在于,就像我们的“人类智能”一样,我们同样不知道人工智能是如何通过“深度学习”从而得出结论,它像我们人类一样,也“忘记了”很久以前为其决策提供信息的所有“输入”指令,或者,更准确地说,它从来没有注意并跟踪任何“输入”指令。

“黑盒子问题”的产生有不同的说法,因此引起了公众的注意。首先,人工智能在“深度学习”下导致,一旦产生负面的结果,它将很难被修复。例如,一辆自动驾驶汽车在我们预测它会刹车时却意外撞到行人,那么系统的黑匣子性质意味着我们根本无法追踪人工智能系统的思考全过程,也无法了解它为什么会做出这个的错误决定。如果发生这种类型的事故,结果证明是因为感知系统失误而撞到行人,我们则会假设这是因为系统在特殊情况下遇到了一些新事物才导致了意外。然后,我们会尝试推测接下来它可能会发生的情况,以及出现不同问题时的解决方案,以便它下次能够更好地执行任务避免失误。

这种“意外性”问题使我们很难在安全方面完全信任人工智能的“深度学习”能力。除此以外,“黑盒子问题”也有道德层面的影响。

人工智能下的“深度学习”,现在经常用于对人类做出判断,范围从医疗、金融贷款、工作面试筛选等等。一定程度上,人工智能能减少我们人类世界中不需要的偏见。但是,当一个经过“深度学习”的人工智能拒绝了你的贷款或将你排除在第一轮工作面试之外却无法给予你合理解释时,也会让大多数人质疑到底人工智能是否“公平”。

对于“黑盒子问题”,我们又能做些什么?
目前我们能做的有以下两个方面。一是停止在高风险的应用中使用人工智能。例如,欧盟现在正在创建一个监管框架,它将潜在的应用程序按不同的风险类别进行分类。并且,禁止在危害可能性高的领域(如金融和刑事司法)使用人工智能系统。但,允许在聊天机器人、垃圾邮件过滤器、搜索和视频游戏等风险较低的应用程序中继续使用人工智能。

二是找到一种方法来监测“黑盒子”。所谓的“可解释的人工智能”在很大程度上仍是一个新兴领域,但计算机科学家对如何使人工智能的“深度学习”更加透明,目前有不同的方法模型。但我们本质上需要一种方法来弄清楚,到底是哪些场景下的哪些“输入”指令导致了人工智能做出不同结果的最终决定。它可能涉及寻找相关性的经典数据科学方法,或涉及更大的搜索网络,但无论哪种方式,都需要更多的数据和研究去支撑以了解它背后的执行逻辑,这是一个非常悬而未决的重要问题。

归根结底,人工智能应该在我们的生活中扮演什么角色?这个问题可能和我们在思考人类智能时有异曲同工之妙。

毫无疑问,人工智能有巨大的潜力,但当你进入金融、医疗保健或国防等领域时,它也许会变得无法想象的可怕。你意识到我们在使用人工智能帮助更高效、全面地解决问题时,它可能伴随着一定的风险并同时学会了我们的思维方式。如果我们可以让时光倒流30年,提前了解我们现在所知道关于人工智能的一切,我们还会不会让人工智能产生,并对人们产生影响?

科技正以前所未有的速度和规模发展,引发多个领域的变革,塑造了新的商业模式,甚至重塑了全新社会结构。我们一起,从科技创新中洞察社会转型和升级的机遇。

狂呼科技研究所聚焦科技创新对当今世界的影响,以独特、前瞻的科技视角,洞察科技时代下涌现的“创新革命”。

狂呼,以最具突破性的技术塑造我们的未来,为大众捕捉科技商业先机,探索当今人类社会面临的重大挑战。

联系我们// 相关文章

免責聲明:本網站提供的信息僅供一般信息分享目的,並不應被視為投資建議。

返回博客
1 / 8
1 / 4
  • 中國惠州房產中介貸款騙局,為愛買房“殺豬槃”騙局?

    中國惠州房產中介貸款騙局,為愛買房“殺豬槃”騙局?

    “我的前女友叫劉佳”、“前女友叫劉佳”、“劉佳是我前女友”.。以上這些男士的前女友竟然都叫“劉佳”,而更離奇的是,這些男士還都是同一棟樓的業主,他們都表示自己是前女友“劉佳”介紹來買房的。這一切看似巧合,實則隱藏着不為人知的騙局。

    中國惠州房產中介貸款騙局,為愛買房“殺豬槃”騙局?

    “我的前女友叫劉佳”、“前女友叫劉佳”、“劉佳是我前女友”.。以上這些男士的前女友竟然都叫“劉佳”,而更離奇的是,這些男士還都是同一棟樓的業主,他們都表示自己是前女友“劉佳”介紹來買房的。這一切看似巧合,實則隱藏着不為人知的騙局。

  • 美國性勒索與網路犯罪:青少年如何避免成為下一個受害者?

    美国性勒索与网路犯罪:青少年如何避免成为下一个受害者?

    在数字化时代,网络犯罪的形式愈加多样且隐蔽,其中“性勒索”/sextortion已成为一个日益严重的问题。这类网络犯罪不仅涉及个人隐私的泄露,还会对受害者的心理健康和社会生活造成深远影响。 “性勒索”/Sextortion犯罪在现代技术的推动下,呈现出爆发式增长。

    美国性勒索与网路犯罪:青少年如何避免成为下一个受害者?

    在数字化时代,网络犯罪的形式愈加多样且隐蔽,其中“性勒索”/sextortion已成为一个日益严重的问题。这类网络犯罪不仅涉及个人隐私的泄露,还会对受害者的心理健康和社会生活造成深远影响。 “性勒索”/Sextortion犯罪在现代技术的推动下,呈现出爆发式增长。

  • 美國加州洛杉磯野火的“囚犯消防員”

    加州洛杉矶野火的“囚犯消防员”

    加州洛杉矶囚犯参与了构筑防火线、清除废墟及易燃物等工作,弥补了加州消防队伍的不足。然而,他们的低薪待遇却令人震惊。囚犯消防员的收入在每天5.8美元至10.2美元之间,而相比之下,加州的最低工资标准为每小时16.5美元。

    加州洛杉矶野火的“囚犯消防员”

    加州洛杉矶囚犯参与了构筑防火线、清除废墟及易燃物等工作,弥补了加州消防队伍的不足。然而,他们的低薪待遇却令人震惊。囚犯消防员的收入在每天5.8美元至10.2美元之间,而相比之下,加州的最低工资标准为每小时16.5美元。

  • 從吉他少年到海嘎小學教師,顧亞用音樂敲開鄉村孩子通往世界的大門

    从吉他少年到海嘎小学教师,顾亚用音乐敲开乡村孩子通往世界的大门

    2014年,在家人的“怂恿”下,27岁的顾亚参加了乡镇特岗教师的招聘考试,意外地来到了这个偏远的村庄。海嘎村的孩子们大多没有见过吉他,但他们天生拥有出色的嗓音和节奏感。顾亚毅然申请从大湾镇的腊寨小学调动,前往海嘎村当起了老师。

    从吉他少年到海嘎小学教师,顾亚用音乐敲开乡村孩子通往世界的大门

    2014年,在家人的“怂恿”下,27岁的顾亚参加了乡镇特岗教师的招聘考试,意外地来到了这个偏远的村庄。海嘎村的孩子们大多没有见过吉他,但他们天生拥有出色的嗓音和节奏感。顾亚毅然申请从大湾镇的腊寨小学调动,前往海嘎村当起了老师。

1 / 4
  • 從中國經濟看背後困境及發展新構想?

    从中国经济看背后困境及发展新构想?

    中国未来发展或许可以参考“五环构想”进行战略布局。这一构想包括高等教育培训、创新科技驱动、产品生产销售、市场推广营销、出海战略布局五大领域。通过“五环构想”的实施,中国经济可能有一个全新的契机注入新的动力,推动经济稳定健康发展。

    从中国经济看背后困境及发展新构想?

    中国未来发展或许可以参考“五环构想”进行战略布局。这一构想包括高等教育培训、创新科技驱动、产品生产销售、市场推广营销、出海战略布局五大领域。通过“五环构想”的实施,中国经济可能有一个全新的契机注入新的动力,推动经济稳定健康发展。

  • 在變革中的抉擇:當今大環境下如何實現職業規劃與人生價值?

    在变革中的抉择:当今大环境下如何实现职业规划与人生价值?

    随着时代的变迁,人生价值的内涵也变得更加多样化和个性化。每个人对于“成功”和“幸福”的理解不同,有些人追求的是即时的快乐和成就感,而有些人则看重长期的进步和自我超越。

    在变革中的抉择:当今大环境下如何实现职业规划与人生价值?

    随着时代的变迁,人生价值的内涵也变得更加多样化和个性化。每个人对于“成功”和“幸福”的理解不同,有些人追求的是即时的快乐和成就感,而有些人则看重长期的进步和自我超越。

  • 再見愛人:探索現代婚姻中的情感困境

    再见爱人:探索现代婚姻中的情感困境

    芒果TV婚姻纪实观察节目“再见爱人4”邀请黄圣依、杨子,麦琳、李行亮,葛夕、刘爽三对情感关系10年以上的夫妻,以“婚姻纪实观察”为切口,呈现出不同婚姻样本在亲密关系中的挣扎与甜蜜、桎梏与觉醒。

    再见爱人:探索现代婚姻中的情感困境

    芒果TV婚姻纪实观察节目“再见爱人4”邀请黄圣依、杨子,麦琳、李行亮,葛夕、刘爽三对情感关系10年以上的夫妻,以“婚姻纪实观察”为切口,呈现出不同婚姻样本在亲密关系中的挣扎与甜蜜、桎梏与觉醒。

  • 抖音短劇新風潮:中老年人成為新的增長點?

    抖音短剧新风潮:中老年人成为新的增长点?

    近日,不少以老年人为主角的抖音短剧“闪婚五十岁”、“金榜题名之母凭子贵”、“人到五十,闪婚霸总”等等登上热度榜单。老年人的婚姻、情感以及生活故事,成了当下短剧创作的“新流量密码”。

    抖音短剧新风潮:中老年人成为新的增长点?

    近日,不少以老年人为主角的抖音短剧“闪婚五十岁”、“金榜题名之母凭子贵”、“人到五十,闪婚霸总”等等登上热度榜单。老年人的婚姻、情感以及生活故事,成了当下短剧创作的“新流量密码”。

1 / 4