“ChatGPT之父”阿尔特曼：“生成式人工智能”会突破资本主义吗？
来源：观察者网
2023-02-17 08:18
山姆·阿尔特曼作者
OpenAI首席执行官
【译/刘啸云】
艾利克斯·康拉德（Alex Konrad）：我认为，随着ChatGPT的普及化、商业化及其与微软的合作，我们即将迎来一个历史转折点。在您看来，OpenAI现在处于怎样的阶段？您认为即将到来的转折点是怎样的？
山姆·阿尔特曼（Sam Altman）：我们确实正处于一个激动人心的时期，而我希望这个时期只是我们旅程的起点。我们曾在发布GPT-3和DALL-E时宣称“在这一道路上，技术进步将呈指数级增长，并使社会从中受益”，又在ChatGPT发布时重复了这一宣言。我一度认为，未来我们也许还将再次重复它。但现在看来，我们似乎犯了一些错误，触及了未曾设想的暗礁。不过，尽管如此，我依然认为我们发现了一些重要的范式，这将有助于我们走得更远。
艾利克斯·康拉德： ChatGPT引发热烈反响，对此，您是否感到惊讶？
山姆·阿尔特曼：我之所以想开发ChatGPT，就是因为我相信它会奏效。我确实没料到它能引发如此大规模的反响，但人们对它的真诚喜爱正合乎我的愿望和期待。
ChatGPT引发现象级反响，用户数量在5天内突破100万，这是史无前例的（图源：Statisia）
艾利克斯·康拉德： 但并非团队中的所有人都这样认为。格雷格·布鲁克曼（Greg Brockman）曾告诉我，有些成员甚至认为ChatGPT没有发布的价值。
山姆·阿尔特曼：我们的团队一向不太热衷于将产品推向市场。我们只是说“试一试吧，试试看会发生什么”。这一次我尤其努力地争取发布ChatGPT，因为我确实认为它可以奏效。
艾利克斯·康拉德：您曾经说，ChatGPT真正的组成方式和运转方式可能出乎许多人的意料。您认为有哪些地方是大家不太了解的？
山姆·阿尔特曼：比如，ChatGPT的基础模型其实并不是一项刚刚发明的新技术，它之前已经在API中应用了大约10个月，ChatGPT只是对这个模型做了一些微调，使其以特定的方式运作并找到正确的交互范式。这可能有些令人费解——很多人不相信我们的说法，认定ChatGPT就是GPT-4。
艾利克斯·康拉德：对您来说，当下人工智能领域的泡沫，究竟是对您有所助益的潮流，还是使工作复杂化的噪音？
山姆·阿尔特曼：两者都是。
艾利克斯·康拉德：您是否认为人工智能正在形成自身的产业生态，从而使除了OpenAI之外的其他公司也能发挥重要作用？
山姆·阿尔特曼：我认为是的。人工智能是一个很广阔的领域，只有一家公司是不够的。所以，我非常希望该领域能形成真正的生态系统，日后能产生多种多样的生成式人工智能（AGI）。
艾利克斯·康拉德：你认为今天的人工智能市场与云计算、搜索引擎或其他技术的出现有什么相似之处吗？
山姆·阿尔特曼：我认为二者既有相似，也有差别。很多人太过沉迷于对二者的相似之处夸夸其谈，而忽略了细节的差异。所以，他们往往倾向于这样谈论OpenAI：“啊，对，（人工智能领域）会像云计算领域一样发生竞争——几个不同的平台被陆续推出，而最终你只会选择其中一个作为API”。
历经数年的发展和竞争，云计算行业集中度较高，亚马逊、微软和谷歌三家头部公司占据绝大多数市场份额（图源：ITpro Today）
这样的讨论轻松而通俗，但忽略了功能选择上的很多重大差异。总体来说，云技术的功能都是“上传某些内容并获得服务”，但不同平台依然会在某些方面大相径庭。而GAI作为另一种类的人工智能产品，其与云计算的差异只会比不同云计算平台之间的差异更为显著。
艾利克斯·康拉德：有人认为，ChatGPT或将取代谷歌等传统搜索引擎。您是否憧憬这样的未来？
山姆·阿尔特曼：我并不认为ChatGPT能做到这一点，但未来可能会出现一个能够取代搜索引擎的人工智能系统。
而且，我认为，我们不能只着眼于明日黄花，否则就会错失良机。我更想探索“搜索”以外的领域——试想，现在还有多少人会记得搜索引擎出现之前人们是如何获得信息的呢？
艾利克斯·康拉德：我小时候有一张光盘，里面装着大英百科全书。
山姆·阿尔特曼：但现在已经不会有人说“我要做一张更好的大英百科光盘，放进我的小学的放映机里”，人们只会说“我们已可以用完全不同的方式来获取知识”。同理，我思考的不是“我们如何取代输入关键词进行网络搜索的模式”，而是“我们能否找到一种全新的、更酷的搜索方式”。
艾利克斯·康拉德：AGI可以实现这一目标吗？还是说这一目标要等到日后才能实现？
山姆·阿尔特曼：我希望这一目标能在短期内达成。
艾利克斯·康拉德：您认为我们距离生成式人工智能还有多远？我们如何判断某一人工智能产品（例如未来某一版本的GPT）是否是真正的生成式人工智能？
山姆·阿尔特曼：我认为我们离生成式人工智能还有一定距离。
至于判断标准，根据我过去五年甚至更长时间的观察和思考，生成式人工智能的诞生是一个渐进式过程（也就是所谓的“缓慢起飞”），而不会是某一清晰的时刻——至少不会是某个获得公认的清晰时刻。
艾利克斯·康拉德：除了OpenAI，您还曾创立或投资一些其他公司，比如Worldcoin。这些公司也都与生成式人工智能理论有关吗？
山姆·阿尔特曼：是的，至少整体上如此。我的一切行为都是由（生成式人工智能）直接或间接推动的。
我的另一大志向是缔造一个更富足的世界。我认为能源是至关重要的，比如，生成式人工智能的研发就要仰赖足够的能源。
艾利克斯·康拉德：格雷格·布罗克曼（Greg Brockman）表示，虽然OpenAI以研究为导向，但并非反资本主义的。投资者希望获得回报，而OpenAI追求更远大的目标，您如何平衡、兼顾盈利与研发？
山姆·阿尔特曼：我认为资本主义是令人惊叹的，我热爱资本主义——尽管我希望能找到更好的制度，但迄今为止资本主义仍是我们所发现的最好（或者说最不坏）的制度。也许等到生成式人工智能真正实现的那天，我们会迎来突破资本主义的契机。
我们对自己的事业满怀热情和信心，因此试图设计一种独一无二的公司结构——假如我们认为OpenAI只是一家科技公司，我会说，“太好了，我整个职业生涯都在做这事，这个套路我熟，让我们把这家公司做大吧”；然而，假如我们未来真的在生成式人工智能领域取得突破，就会需要一种与传统科技公司不同的结构。
OpenAI的组织结构（图源：FourWeek MBA）
我们的团队和投资者都很出色，我对此感到高兴，但我认为人工智能世界不能由任何一家公司独自把控。如何分配AGI的利润、访问权和治理？这些问题还需进一步的思考。
艾利克斯·康拉德：格雷格·布罗克曼提出，未来的生成式人工智能除了提供企业工具等第一方产品外，或许还能提供第三方产品。OpenAI要如何在产品化的过程中保持开放的理念？
山姆·阿尔特曼：最关键的方式是发布像ChatGPT这样的开放工具。谷歌并未将这类工具向公众开放，其他研究实验室也出于种种原因（例如对安全性的担忧）而拒绝开放。但我认为，社会应当对此有所了解、懂得其中的好处和坏处、了解未来的发展态势，因此我们应当开放此类工具。
OpenAI致力于以我认为健康和重要的方式推动Overton Window（注：一个了解在特定时间公众在政治上可以接受哪些政策的模型）的发展——即便这种方式有时并不那么令人舒适。我对此感到非常自豪。
另外，我们还致力于开发更加强大、更加安全的生成式人工智能。我们将继续进行开源，开源是图像生成热潮的真正基础。我们开源了CLIP（注：2021发布的视觉神经网络），最近还开源了Whisper和Triton（自动语音识别和编程语言）。
总之，我们的策略是多管齐下——在平衡每一个项目的风险和收益的同时，创造新的产品。
艾利克斯·康拉德：有人认为您希望与微软及其CEO萨提亚·纳德拉（Satya Nadella）密切合作，您如何回应这一观点？
山姆·阿尔特曼：我们双方谨慎地制定了每一项相关协议，以确保完成任务。
而且，萨提亚和微软真的很棒。我认为，在目前所有科技公司中，微软的价值观与我们最为契合。我们有时对微软表示“嘿，我们要做一件奇怪的事情，你说不定会讨厌它，因为它并不完全符合交易标准，可能会限制你的回报或制定安全优先条款”，但每一次，微软的回应都是“这太棒了”。
艾利克斯·康拉德：您认为，OpenAI现实的盈利需求和商业压力不会同公司的整体使命相冲突，是这样吗？
山姆·阿尔特曼：完全不冲突。众所周知，我从不委曲求全。如果我认为某项交易与公司的整体使命冲突，就绝不会同意这项交易。
艾利克斯·康拉德：你们不会像苦行僧那样声称“我们无意以此牟利”，但创造财富也绝非你们唯一的动机。
山姆·阿尔特曼：我倾向于在理想和盈利间保持平衡。我们想让投资者获得巨大的收益回报——这是很正常的想法，只要回报被控制在正常、合理的水平。同时，我们也想在生成式人工智能领域取得突破，创造新的范式，并与社会分享我们的成果。我认为我们维持了很好的平衡。
艾利克斯·康拉德：在迄今为止人们对GPT的所有应用方式中，您认为最酷和最可怕的分别是哪两种？
山姆·阿尔特曼：我很高兴看到大家将GPT应用于各种各样的事务，很难从中选出最酷的一种。
我只能选出我认为最有用的应用方式——做概述。GPT可以迅速概括出一篇完整文章或长篇邮件的主要内容和行文线索，这个功能非常有用，超乎我的想象。另外，GPT还能提出深刻的编程问题，也能协助调试代码，与人交谈时就像一个极为出色的程序员。
ChatGPT可以迅速概括出长篇文章的主要内容（图源：谷歌）
我认为最可怕的应用方式是用开源图像生成器进行“色情报复”（注：出于报复的目的，擅自将他人的隐私视频发布在互联网上）。这种行为无疑会造成严重后果，我对此感到忧虑。
艾利克斯·康拉德：您是否认为开发这些工具的公司有责任防范杜绝此类事件发生？还是说，您认为这是人性中不可避免的一面？
山姆·阿尔特曼：我认为两种说法都有一定道理。问题在于，我们要怎样监管？我们不能仅仅指着开发工具的公司说“嘿，你不能这么做”——如果问题能这样轻易解决就太好了。人们必定要采用开源模式，这一模式带来的结果大多数是好的，但也难免有害群之马。其他使用这些工具的公司，以及与终端用户直接打交道的公司，也都需要负起相应的责任。这是我们共同的义务。
（译自《福布斯》，原文标题为OpenAI’s Sam Altman Talks ChatGPT And How Artificial General Intelligence Can ’Break Capitalism’）
本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。
中央金融办：金融政策的收和放不能太急，防止大起大落
安理会表决：俄方否决，中方反击美方指责
“6年增加两倍”，美军高官又炒：中国速度“惊人”
NASA局长抹黑中国登月，连专业常识都不顾了
“中国报价太香，加税50%都吓不跑美国买家”
举报
违反法律法规