要点:
从致命的无人机到可能威胁人类未来的人工智能，以下是2024年可能出现的四大最令人担忧的人工智能AI领域的重大突破。
科技正以前所未有的速度和规模发展，引发多个领域的变革，塑造了新的商业模式，甚至重塑了全新社会结构。我们一起，从科技创新中洞察社会转型和升级的机遇。
狂呼科技研究所聚焦科技创新对当今世界的影响，以独特、前瞻的科技视角，洞察科技时代下涌现的“创新革命”。
狂呼，以最具突破性的技术塑造我们的未来，为大众捕捉科技商业先机，探索当今人类社会面临的重大挑战。
联系我们// 相关文章
尽管2023年对人工智能来说是改变游戏规则的一年，但这仅仅是开始，2024年将见证一系列引人注目的进步，其中可能包括通用人工智能，甚至更现实的深度伪造/Deep Fake 。
人工智能AI已经存在了几十年，但今年是这令人惊叹的技术取得突破的一年，OpenAI的ChatGPT为大众提供了易于使用、实用的人工智能。然而，人工智能有着一段曲折的历史，今天的技术出现之前曾有过一些短暂的失败实验记录。
很大程度上，人工智能的创新似乎有望改善医疗诊断和科学发现等领域。举例来说，一种人工智能模型可以透过分析X光扫描来检测您是否有肺癌的高风险。在COVID-19期间，科学家甚至建立了一种演算法，可以透过聆听人们咳嗽声音的细微差异来诊断病毒。此外，人工智能还被应用于设计超越人类想像的量子物理实验。
然而，并非所有的创新都是如此正面。从致命的无人机到可能威胁人类未来的人工智能，以下是2024年可能出现的一些最令人担忧的人工智能AI领域的重大突破。
通用人工智能AGI的时代
2023年，一项引人瞩目的事件是OpenAI执行长Sam Altma在年底被解雇并复职。然而，在OpenAI公司陷入混乱的情况下，有关先进技术可能对人类未来构成威胁的传闻四起。据知情人透露，这个被称为Q-star的OpenAI系统可能体现了通用人工智能/AGI的潜在突破性实现。尽管对这个神秘系统了解甚少，如果报道属实，它可能将人工智能的能力提升到一个新的水平。
AGI是一个假设的临界点，也称为“奇点”，在这一点上，人工智能变得比人类更聪明。目前的人工智能在人类擅长的领域仍有所不足，例如基于上下文的推理和真正的创造力。大多数人工智能生成的内容只是以某种方式反映了用于训练它的数据。
科学家表示，AGI有可能比大多数人更有效地完成特定的工作。同时，它也可能被滥用，用于武器制造、制造增强型病原体、发动大规模网络攻击或策划大规模操纵。
AGI的概念长久以来一直局限于科幻小说，许多科学家认为我们可能永远无法实现这一目标。对于OpenAI来说，要达到这个临界点确实令人惊讶，但也不完全超出可能性的范畴。例如，Sam Altman在2023年2月已为AGI奠定了基础，并在一篇部落格文章中详细介绍了OpenAI的AGI方法。根据相关资讯，一些专家也已经开始预测即将来临的突破，包括英伟达执行长黄仁勋/Jensen Huang，他在11月份表示AGI将在未来五年内实现。然而，2024年是否将成为AGI的突破之年？这一切只有时间能够给予明确的答案。
人工智能引发的娱乐革命
AI人工智能在我们的生活中愈来愈常见了，且日益引发起巨大的娱乐革命。如今，AI甚至可以充当“星探”这个角色，去物色有潜力的音乐人，其速度远比现今最懂音乐的达人更快，彻底改变了音乐产业。
在围绕生成式人工智能及其对创作者的潜在负面影响的持续争论中，瑞典创新者Snafu Records正在采取不同的方法。 Snafu Records并没有取代人类艺术家，而是利用人工智能AI来识别、提升和投资他们。 Snafu Records的核心工作是一款被称为“EMMA”的人工智能工具。 EMMA经过培训，可以使用广泛的指标来识别被低估的艺术家，已经为Snafu Records发现了许多冉冉升起的新星，其中包括近期火爆网络和东南亚地区的英国艺术家Alfie Castley，他的TikTok热门歌曲自发行以来已经积累了超过数千万次播放。
Snafu Records的执行长兼创办人Ankit Desai解释了他们的方法，“当我们创立Snafu时，我们意识到人工智能可以成为音乐世界变革的催化剂。作为内心的创作者，我们希望利用这项技术来提升无数人的水平。世界各地有才华的艺术家。我们的目的并不是专注于生成人工智能，而是精心设计算法来关注全球范围内被低估的人才。”
此外，Snafu Records还扩展了其人工智能演算法EMMA的使用，以识别现有的有潜力覆盖更广泛受众的强大目录。透过Snafu Song基金，该公司透过提供预付现金和实施目录成长策略来投资这些艺术家。这种财政支持使来自不同流派和地区的艺术家能够专注于创作新音乐。
除了音乐产业，人工智能AI还在改变娱乐产业
过去十几年好莱坞的流水线大片屡试不爽，但近几年开始让观众审美疲劳。在美国已经有多家为制片商提供分析服务的AI公司，位于洛杉矶的新创公司“Cinelytic”就是其中一家，能基于机器学习来分析历史电影的数据库，进而预测不同剧本和演员对于一部电影票房的影响，进入“AI选片”时代。
Cinelytic共同创办人兼CEO Tobias Queisser举了一个例子，假设拍一部以艾玛．华森为主角大片，可以用Cinelytic的软体来看到如果把主角Tom Cruise换成Matt Damon会有什么变化。 AI可以从不同的维度来对比两位演员，比如设计不同场景，看看这两位演员对电影的影响，看看不同情况下哪位演员能带来更好的效果，谁能带来更强的经济效益。
Cinelytic调取的数据主要来自尼尔森公司、Gracenote公司的Studio System系统、Variety Insight公司以及其他一些来源。它会全面考虑全球市场和特定市场的票房收入、电影实体发行表现、付费订阅、视频点播、电视播放等因素，从而综合评估电影的投资回报率。
另外，系统也会根据电影的一些属性进行分析，比如关键人员、类型、分级、是否是续集或改编、主题、制作国家、发行商、影院数量等等。系统包含了一个55万人的演员、编剧、导演和制片人数据库，并且追踪了他们在各个影片和市场中的表现，以及关于他们对项目的重要性的附加信息。以演员为例，系统会指出某个演员是不是第一次或者第二次出演动作片，是不是给动画电影配过音，这些变量都有助于提高他的综合经济价值。有了一份潜在演员的名单，制作人就可以拼凑出不同的演职人员组合，看看哪种组合在欧洲、亚洲或者北美市场更有票房号召力。此外，为了使预测更加精准，Cinelytic只会使用近期的电影表现进行预测，而不会使用历史数据。
左右选举的超现实深度伪造
深度伪造是当前网路上一项极为迫切的威胁之一，其涉及利用人工智能技术制造出完全虚构的图像或视频，这可能被用来歪曲某人形象、指控他们，甚至进行欺凌。目前，人工智能深度造假技术虽然还未能构成严重威胁，但这种情势可能即将发生改变。
现今的人工智能已经能够生成即时的深度伪造品，也就是即时视讯串流，而且在生成人脸方面表现得相当出色，以至于人们难以区分真实与虚构。根据11月13日“心理科学”杂志的一项研究，人工智能生成的内容更容易被视为“真实”，形成了一种“超现实主义”的现象。
这将使人们几乎无法肉眼区分事实和虚构。尽管目前存在一些工具用于检测深度伪造品，但这些工具尚未成为主流。例如，英特尔已经推出了一个即时深度换脸侦测器，该侦测器通过使用人工智能来分析血流。据报导，由FakeCatcher产生的结果好坏参半，这表明这仍然是一个在发展中的领域。
随着生成式人工智能技术的进步，一种令人担忧的可能性是人们可能会利用深度伪造品来试图影响选举的结果。举例如，孟加拉正准备迎接即将到来的1月选举，这场选举可能会受到深度造假的干扰。同样，美国正在筹备2024年11月的总统选举，人工智能和深度造假可能会对这场关键性选举的结果产生影响。加州大学柏克莱分校目前正在监控人工智能在选举活动中的应用情况，因为许多州尚缺乏应对人工智能产生的虚假资讯激增的相应法律或工具。
主流人工智能杀手机器人
世界各国政府日益将人工智能纳入战争工具的行列。 11月22日，美国政府宣布，已有47个州签署了一份有关负责任地在军队中使用人工智能的声明，该声明于2月在海牙首次发布。这样的声明为何必要呢？因为不负责任的使用带来了一个真实而可怖的前景。例如，众所周知，人工智能无人机被声称在没有人类参与的情况下，追捕了利比亚的士兵。
人工智能在军事环境中能够识别模式、自我学习、做出预测或产生建议，因此人工智能军备竞赛已经展开。到了2024年，我们可能不仅会看到人工智能应用于武器系统，还会应用于物流和决策支援系统以及研发。举例来说，在2022年，人工智能生成了40,000种新颖的、假设的化学武器。美国各军方部门都订购了能够比人类更好地执行目标识别和战斗追踪的无人机。据相关资料显示，在最近的以色列-哈马斯战争中，以色列也使用人工智能快速辨识目标，速度至少比人类快50倍。
然而，最令人担忧的发展领域之一是致命自主武器系统/LAWS或杀手机器人。一些领先的科学家和技术专家，包括2015年的史蒂芬·霍金和2017年的马斯克在内，都对杀手机器人发出了警告，尽管这项技术尚未大规模实现。
尽管如此，一些令人担忧的事态发展表明，今年可能是杀手机器人的突破口。例如，根据“原子科学家公报”报导，俄罗斯据称在乌克兰部署了Zala KYB-UAV无人机，该无人机可以在无需人工干预的情况下识别和攻击目标。近日，澳洲也开发了“幽灵鲨鱼” ，一种将大规模生产的自主潜艇系统。世界各国在人工智能方面的支出也是一个指标，中国将人工智能支出从2010年的总计1160万美元增加到2019年的1.41亿美元。该出版物补充说，这是因为中国正在与美国展开部署LAWS的竞赛。综合起来，这些发展表明我们正在进入人工智能AI战争的新未来。
但即便人工智能AI已经十分强大，但它仍然无法取代人类，进行100%绝对准确的预测。对此，我们不应过于“神化”人工智能，同时也应时刻提醒自己，新时代已经到来，如何利用AI达到更高效地工作、生活才是我们当下的重中之重任务。
