Hinton 对深度学习和神经网络（模仿人脑的数学模型）的研究帮助奠定了人工智能发展的基础——这为他赢得了“人工智能教父”的绰号。在科技巨头谷歌以 4400 万美元收购Hinton的公司 DNN Research 后，他于 2013 年加入谷歌 。

Hinton 说：“（AI机器）它可能会让我们继续这样运行一段时间。” “但在那之后，也许不是。”

75 岁的 Hinton近日从谷歌辞职后表示：他最近改变了对他毕生研究的计算机系统推理能力的看法。

“我曾经认为我们正在开发的计算机模型不如大脑，”Hinton 说，但在过去的几个月里他完全改变了想法，存在的威胁已经变得显而易见。与人类大脑相比，人工智能变得比我们更聪明。

“这些机器会从我们身上学习，通过阅读曾经的所有小说和马基雅维利写过的一切——学会如何操纵人，”Hinton本周三通过视频会议演讲表示。“即使它们不能直接拉杠杆（操纵），它们也一定可以让我们拉杠杆（操纵）。”

Hinton 将 AI 比作蜂群思维，它可以复制数千个自身。然后一个副本学到的一切，整个蜂巢都学到了。随着在视频（视觉和听觉/感官信息）上训练的多模态模型的进步，这些机器将比仅在语言上训练的大型语言模型更聪明。

“我希望我有一个简单好用的解决方案，但我没有，”他补充道。“我不确定是否有解决方案。”

AI 顶尖专家 Yoshua Bengio 与 Hinton 共同获得最高计算机科学奖，周三他对媒体表示，他“非常同意”Hinton 对 ChatGPT 和聊天机器人等相关技术所带来的担忧，但仅简单地说“我们注定失败”是无济于事的。

“我想说的主要区别是他（Hinton）是一个悲观的人，而我更乐观，”蒙特利尔大学教授Bengio说。“（但）我确实认为危险——短期的和长期的——非常严重，不仅需要少数研究人员，还需要政府和民众认真对待。”

有很多迹象表明政府正在倾听。美国白宫已召集谷歌、微软和 OpenAI 等公司CEO于周四与副总统卡马拉哈里斯会面，官员们将其描述为坦诚讨论“如何减轻近期和长期的技术风险”。  

但所有关于未来最可怕危险的讨论都让一些人担心，围绕超人类机器的炒作——正在分散人们对为当前人工智能产品设置实际保障措施的注意力。AI产品基本上不受监管，但已被证明会导致现实世界伤害。

谷歌人工智能伦理团队前负责人玛格丽特·米切尔 (Margaret Mitchell) 表示，令她感到不安的是， Hinton在谷歌掌权的十年间没有大声疾呼，尤其是在 2020 年研究人工智能危害的著名黑人科学家蒂姆尼特·格布鲁 (Timnit Gebru) 被罢免之‍后、在大型语言模型被广泛商业化为 ChatGPT 和谷歌的 Bard 等产品之前。

“所幸他能够从现在的歧视传播现实中跳出来，仇恨语言的传播，女性的毒性和未经同意的色情制品，所有这些问题都在伤害那些在科技领域被边缘化的人，”Mitchell在 Gebru 离职后也被迫离开了谷歌。 

Bengio、Hinton 和在 Facebook 母公司 Meta 工作的第三位研究员 Yann LeCun 都因其在人工神经网络领域的突破而获得了 2019 年的图灵奖，这些突破有助于开发当今的人工智能应用程序，例如 ChatGPT。

Bengio 是三人中唯一没有在科技巨头工作的人，多年来其一直对人工智能风险表示担忧，包括就业市场不稳定、自动化武器和有偏见的数据集危险。

这些担忧最近有所增加，Bengio 选择加入其他计算机科学家和技术商业领袖的行列——如 Elon Musk 和 Apple 联合创始人 Steve Wozniak，呼吁暂停六个月开发比 OpenAI 最新模型 GPT-4 更强大的人工智能系统。

Bengio周三表示，他相信最新的人工智能语言模型已经通过了以英国密码破译者和人工智能先驱艾伦图灵命名的“图灵测试”，该方法于 1950 年推出，用于衡量人工智能何时变得与人类无法区分——至少在表面上是这样。

“这是一个里程碑，如果我们不小心，可能会产生严重后果，”Bengio说。“我主要担心的是它们如何被用于邪恶目的、网络攻击和虚假信息。人们可以与这些系统进行对话，并认为误以为是在与人互动。它们很难被发现。”

尽管当前的人工智能语言系统有很多局限性，包括倾向于伪造信息，但实际上这些系统可能比人类更聪明——不仅在记忆大量信息方面，而且在批判性推理和其他人类方面技能。

艾丹·戈麦斯 (Aidan Gomez) 是 2017 年开创性论文的合著者之一，该论文介绍了Transformer技术，即ChatGPT 末尾的“T”，该技术用于提高机器学习系统的性能，尤其是它们如何从段落中学习文本。Gomez当时只是一名 20 岁的谷歌实习生，他记得当他的团队在凌晨 3 点左右发出论文时，他躺在公司加利福尼亚总部的沙发上。该技术后来帮助开发了可以生成类人散文和图像的新系统。

六年后，Gomez成为了他自己的 AI 公司 Cohere 的首席执行官，这家公司是 Hinton 投资的，他对这些系统的潜在应用充满热情——但对散布恐慌情绪感到困扰。Gomez说这些系统的真正能力“脱离了现实”，并且“依赖于在非凡的想象力和推理飞跃上。”

“认为这些模型会以某种方式获得我们的核武器并引发某种灭绝事件的想法并不是一种富有成效的讨论。” “这对那些试图做好事的真正务实的政策努力是有害的。”

鉴于对 AI 的更广泛担忧，周三Hinton被问及他对 Cohere 的投资时，Hinton 表示他没有撤回投资的计划，因为语言模型在医学和其他领域仍有许多有用的应用。他还表示，他在进行 1970 年代开始的研究时没有做出任何错误的决定。“直到最近，我还认为这场生存危机还有很长的路要走，”Hinton 说。“所以我对我的所作所为并不后悔。”

除Hinton外，近日多位 AI 专家——开发人员、研究人员和监管机构，表达了他们对当前AI可能产生危害的担忧： 

1. 网络攻击爆发。正确的提示prompt现在可以生成有效的恶意代码，这意味着更多、更大和越来越多样化的网络攻击。Anthropic 的首席执行官 Dario Amodei 是 ChatGPT 的竞争对手，他表示，此类攻击的大规模扩张是他近期最大的担忧。

2. 骗局愈演愈烈。使用社交媒体帖子和其他个人信息，新的人工智能辅助网络钓鱼和欺诈计划将采用听起来真实的形式，用你的朋友和亲戚的假声寻求帮助。

3. 虚假信息引爆。宣传和各种攻击将通过算法进行优化，并由科技巨头进行大规模分发。多模态人工智能——文本、语音、视频——可能使公众无法区分事实和虚构。

4. 监视锁定。美国的7000 万个闭路电视摄像机和不受监管的个人数据已经使当局能够将人与镜头相匹配。 人工智能可以为企业和政府加强这种跟踪，实现大规模的行为预测，但具有个性化的精确度。

人工智能还掀起了美国的政治浪潮，美国共和党人上个月发布了针对美国总统的人工智能攻击广告，民主党人昨天提出了一项法案，要求政治广告披露人工智能的使用情况，参考的共和党攻击广告就是这样做的。

美国白宫目前似乎并不关注版权主张，但更关注人工智能对隐私、有害信息扩散和经济的潜在影响。彭博社报道称，白宫对公司如何使用人工智能来管理员工感兴趣。白宫科技政策办公室表示担心人工智能技术可能会迫使工人使用不安全的做法来满足人工智能监控的指标，并导致工人受到不公平的——甚至可能是非法的歧视。

欧盟当前对人工智能的重点是应对公司用于开发其生成人工智能模型数据集的版权问题。当前许多生成模型（如 Midjourney 和 DALL-E）拒绝披露其数据源，据报道它们是建立在受版权保护的作品之上的。欧盟修订后的 AI 法案将要求这些公司公开数据集，这将为 AI 开发人员提供一个合法来源的参考。

【文章来源】TECH商业；特别声明：以上内容(如有图片或视频亦包括在内)来自网络，已备注来源；本平台仅提供信息和存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by user of ASKAI, which is a social media platform focused on technology of CHATGPT and only provides information storage services.