为什么GPT-4不开源？OpenAI联合创始人：过去的做法是“错误的”

OpenAI 发布了其自称为“迄今为止最强大、对齐最好的模型”GPT-4，但人工智能社区的一部分人对‘缺乏公共信息’感到失望。他们的抱怨，凸显了人工智能世界中关于安全问题的日益紧张的形势。

昨天，OpenAI 发布了强大的 GPT-4，它是人们期待已久的下一代人工智能语言模型。该模型的强大能力仍在评估中，但随着研究人员和专家对其相关材料的仔细研究，一部分人对一个明显的事实表示失望：OpenAI 发布的 GPT-4，不是一个开放的人工智能模型（not an open AI model）。

尽管 OpenAI 已经分享了大量 GPT-4 的基准和测试结果，以及一些有趣的演示，但基本上没有提供用于训练该模型的数据、能源成本，或用于创建该模型的具体硬件或方法的信息。

人工智能社区的一部分人批评了这一决定，认为它破坏了该公司作为一个研究机构的创始精神，并使其他人更难以复制其工作。也许更重要的是，一些人说，这也使人们难以制定保障措施来应对像 GPT-4 这样的人工智能系统所带来的威胁，而这些抱怨是在人工智能世界日益紧张和快速发展时显现的。

“我认为这一做法关闭了 'Open' AI 的大门：他们在介绍 GPT-4 的 98 页论文中自豪地宣称，没有透露任何有关训练集的内容，” Nomic AI 信息设计副总裁 Ben Schmidt 在推特上表示。

关于这一说法，Schmidt 指的是 GPT-4 技术报告中的一段内容，如下：

鉴于像 GPT-4 这样的大型模型的竞争状况和安全影响，本报告没有包含关于架构（包括模型大小）、硬件、训练计算、数据集构建、训练方法等方面的进一步细节。

在接受采访时，OpenAI 首席科学家、联合创始人 Ilya Sutskever 对这一做法进行了说明。他表示，OpenAI 不分享关于 GPT-4 的更多信息的原因是“不言而喻的”——害怕竞争和对安全的担忧。

“在竞争格局方面--外面的竞争很激烈，” Sutskever 说，“GPT-4 的开发并不容易。几乎 OpenAI 的所有人在一起花了很长时间才做出了这个东西，而且（目前）有很多很多公司都想做同样的事情。”

“安全方面，我想说，还没有竞争方面那么突出。但它将会改变，基本上是这样的。这些模型非常强大，而且会变得越来越强大。在某种程度上，如果有人想的话，很容易用这些模型造成很大的伤害。随着（模型）能力的增强，你不想透露它们是有道理的。”

OpenAI 于 2015 年成立，创始人包括 Sutskever、现任首席执行官 Sam Altman、现已离开 OpenAI 的马斯克。在一篇介绍性博客文章中，Sutskever 等人表示，该组织的目标是 “为每个人而不是股东创造价值”，并将与该领域的其他人 “自由合作”。OpenAI 成立之初是一个非营利组织，但后来为了获得数十亿美元的投资（主要来自微软）而变成了“利润上限”。

当被问及为什么 OpenAI 改变了分享其研究的方法时，Sutskever 简单地回答：“我们错了。坦率地说，我们错了。如果你像我们一样相信，在某个时候，人工智能/通用人工智能将变得极其强大，令人难以置信，那么，开源就是没有意义的。这是一个坏主意...... 可以预料的是，在几年内，每个人都会完全明白，开源人工智能是不明智的。”