人工智能先驱 Bengio 表示，ChatGPT 的成功可能会引发人工智能保密领域的破坏性转变
ChatGPT 由 OpenAI 创建，不像之前的许多其他自然语言程序那样在 GitHub 上开源。OpenAI 的 GPT 程序 ChatGPT 的来源也不是现成的。
周二，该公司实现了一个里程碑，甚至拒绝透露最新版本GPT-4的技术细节。
ChatGPT 和 GPT-4 的缺乏或透明度打破了深度学习AI 的常见做法，学术界和企业界的学者都倾向于积极发布，遵循开源软件的传统，代码很容易制作任何想要它的人都可以使用。
加拿大 MILA 人工智能研究所科学主任、人工智能先驱者 Yoshua Bengio 在上周对记者和业界成员的一次演讲中警告说，ChatGPT 的封闭性可能会成为人工智能领域的常态，并产生伦理影响。
Bengio 在 Zoom 上举行的一次由媒体和高管组成的小型聚会上表示：“曾经在学术界工作、后来转入工业界的研究人员的学术思维方式已经改变了文化，带来了更多的开源精神共享和合作。”
“但市场的压力可能会推向另一个方向，”本吉奥说，“走向保密，这不利于道德原因，也不利于技术进步，因为这意味着信息将需要更多时间来传播。”如果事情是秘密的话，可以到达更多的地方。”
Bengio 是蒙特利尔大学的正教授，也是 CIFAR 机器和大脑学习项目的共同负责人，他受邀在 Collective[i] Forecast（一个在线互动网站）主办的一个半小时的演讲中发表演讲。 Collective[i] 组织的讨论系列，该公司自称“旨在优化 B2B 销售的人工智能平台”。
Bengio 是在回答观众 Laura Wilson 的提问，Laura Wilson 问 Bengio：“考虑到 ChatGPT 的巨大商业潜力，以及整合了 ChatGPT 功能的微软 Bing 搜索程序，人工智能研究中“是否仍然可能有一个道德框架” 。
本吉奥说，学者们“将继续开展开放科学并分享他们的工作，因为这是他们模型的一部分。”
他说，目前尚不清楚行业研究是否会坚持开放的道路。
Bengio 表示，在最近人工智能关注开放出版之前，企业研究曾经“更加保密”。“现在，我认为，在 ChatGPT 的成功之后，看看人工智能领域可能出现的那种淘金热，“我们会在行业中保留这种文化吗？” 本吉奥若有所思地说。
Bengio 表示，论文的首要地位至关重要，因为人工智能的进步是实验室之间异花授粉的集体努力的结果。
“这些都是复杂的系统，”Bengio 谈到 GPT-4 等所谓的大型语言模型时说道。
“我们在其他人的代码之上构建我们的代码，并且它也建立在世界各地科学论文中正在撰写和评估的想法之上 - 我们以彼此的进步为基础。”
“有专利，但实际上，真正的肉是那些论文中的东西。”
本吉奥说，秘密做法不仅可能会阻碍行业研究，而且可能会掩盖对公众的伤害。
本吉奥说：“如果人们行动太快而破坏了东西，那可能会很糟糕，甚至可能会引起整个行业的强烈抵制。”
本吉奥观察到，小公司通常更愿意冒险使用未经测试的软件，因为“这就是商业游戏”。他暗指 ChatGPT 等程序在某些情况下产生了一些用户认为“令人不安”的结果，表明它们尚未完全开发。
“但现在谷歌和微软等公司以及其他公司感到有必要加入这场竞争，”他说。“所以，我听到的一个可能的担忧是，他们会对发布的内容同样谨慎吗？”
Bengio 的同行 Yann LeCun 也表达了类似的担忧。2019 年，Yann LeCun 因其在人工智能方面的工作而 与 Bengio 一起获得了图灵奖。
Meta 人工智能首席科学家 LeCun在 2 月 17 日的推文中写道：
FAIR [Facebook AI Research] 在开放 AI 研发场景方面发挥了关键作用。其他人也跟着。至少有一段时间。现在，OpenAI、DeepMind，甚至谷歌的发布和开源显然要少得多。会对AI科技进步产生什么后果？
Bengio 表示，ChatGPT 的发布可以起到积极的作用，让世界充分意识到人工智能的前景和风险。
“我喜欢围绕 ChatGPT 的媒体马戏团，因为它敲响了警钟，”Bengio 说。“我认为人们在前几年已经看到了人工智能的进步，许多公司、许多政府都认为，是的，好吧，有些事情正在发生，那些技术人员正在做他们的事情，却没有意识到非常强大的系统即将到来。 ”
原文链接：https://www.zdnet.com/article/chatgpts-success-could-prompt-a-damaging-swing-to-secrecy-in-ai-says-ai-pioneer-bengio/
转载请注明： 人工智能先驱 Bengio 表示，ChatGPT 的成功可能会引发人工智能保密领域的破坏性转变 | 跨境湾
