奥特曼最新分享:95%创业者让AI在特定场景中勉强起作用

作者:小编 更新时间2024-10-18 14:30:55 点击数:

图片

近日, OpenAI CEO Sam Altman 与其首位投资人& X Fund 管理合伙人 —— Patrick Chung 在哈佛大学展开了一次对谈,重点讨论了 AI 的未来走向、其对社会的影响,以及 Sam Altman 和 OpenAI 团队在这一领域的最新研究方向。

图片


Altman 强调, AI 技术的进步不会像许多人预测的那样很快进入停滞期,反而会持续带来戏剧性的发展。他认为, AI 的潜力远未被完全开发,未来几年将会有更大的进展。创业者应该预见到 AI 技术会不断变得更强大,而不是基于现有技术做短期投资决策。

AI 创业者的战略通常有两种选择:一种是赌 AI 技术已接近顶峰,另一种是赌技术会大幅提升。他建议创业者选择第二种策略,即利用 AI 技术的快速进步,通过基础模型的增强逐步提升业务的有效性,而不是仅仅将有限的资源投入到特定场景中的小幅改进。

他还提到, OpenAI 一开始选择了非营利的模式,但如果能回到过去,他可能会选择营利性结构。他解释说,随着 AI 研发的规模和资源需求越来越大, OpenAI 需要找到可持续的商业模式来支持其技术进步。这也是 OpenAI 后来转变为“有限利润”模式以确保技术发展能够获得足够资金支持的原因。

OpenAI 每年都会推出那些人们曾认为不可能实现的技术。特别是在 GPT 系列模型的发展上, OpenAI 从 GPT-3 到 GPT-4,不断通过规模化和技术的提升,创造出更智能、更有价值的产品。

此外,在技术开发过程中, OpenAI 非常注重安全性和责任感,尤其是在决定是否部署重大技术如 GPT-5 时。他表示, OpenAI 会对这些重要决策进行极其慎重的考量,不会仅凭科学好奇心推动这些决定。

Altman 还表示, OpenAI 的策略是持续探索下一个技术突破,而不是仅仅满足于当前的成就。OpenAI 并不太关注竞争对手,而是专注于推动新范式的创新,只追随目前的技术进展并不是好的创业策略。真正的挑战在于找到未来可能实现的突破,并成为第一个实现它的人。

以下为这次对谈的主要内容,enjoy~

Patrick Chung:

我们认识已经快 20 年了。那最近你在忙什么呢?说到很久以前,我给你带来了一个礼物。这是我们第一次见面时,你为你的第一家公司做的第一次融资展示。

Sam Altman:

我还没见过这个呢,自那以后就没见过。

Patrick Chung:

这家公司叫 Viendo,后来变成了 Looped。所以当你看着这个,如果你可以回到 19 岁的Sam Altman,你会对那时的自己说些什么是你现在知道但当时不知道的?

Sam Altman:

我认为你可以在这个世界上有所作为,而这并没有被很好地教授。我 19 岁时肯定不知道,当时我对自己期望不高,也在做错误的事情。

你会很快学到这些,但当时我不确定自己是否能做到。我认为进步的方式就是,人们要非常努力工作,坚定自己的信念,并致力于此。

这是世界变得更好,事情发生的唯一方式。而且你不需要等待或获得许可,哪怕你在世界上默默无闻、资源极少,也能取得令人惊讶的成就。我是这么认为的。

Patrick Chung:

你 19 岁的时候就知道这些吗?因为当时我见到你时,似乎你已经表现出了这种精神。

Sam Altman:

我很快就明白了,一旦你开始行动,你会发现,哦,原来是这么回事。但在开始公司之前,我肯定没有这种意识。

Patrick Chung:

大家对 AI 、 OpenAI 以及人类命运都充满了浓厚的兴趣,我们稍后会聊到这些。但今天我们主要的观众是学生,他们看到你,心生向往,梦想着能够在世界上产生像你一样的影响。

我觉得你现在连一半的成就还没有完成,他们可能会想知道你是如何做到的。所以我想回到更早的时候,看看你的“超级英雄起源故事”。

可以和我们谈谈10年级时的Sam Altman吗?你是如何成长的?你的家庭生活是怎样的?当时你一天的生活是怎样的?

Sam Altman:

我当时就是个电脑迷。我不知道,我基本就是坐在家里玩电脑。

Patrick Chung:

用的是什么电脑?

Sam Altman:

当时我已经有一台 iMac了,算是第二代。我不是只玩游戏,虽然也确实玩游戏,但更多的是学习编程之类的事情。我有一个很普通的高中生活,没什么特别值得讲的。我上学,和朋友们一起玩,做运动,当然也会用电脑。

Patrick Chung:

你玩什么运动?

Sam Altman:

我打水球,这是我最常做的运动。我也游泳,还练击剑。

Patrick Chung:

在典型的美国高中电影里,会有一些小团体,比如运动健将、书呆子等等。你属于哪个小团体?

Sam Altman:

我肯定更偏向书呆子那一类。

Patrick Chung:

结果对你来说还挺不错的,对吧?

Sam Altman:

不过我也很喜欢运动。

Patrick Chung:

除了水球,你还玩其他运动吗?

Sam Altman:

嗯,主要是水球,不过我也游泳,因为他们让我练游泳。

Patrick Chung:

不错。

Sam Altman:

所以我平时训练时会游泳。

Patrick Chung:

那你在高中时,你最大的恐惧是什么?你在高中有什么害怕的事情吗?

Sam Altman:

我不知道,就像是普通的青春期烦恼吧。我没特别大的担忧。

Patrick Chung:

你很快乐?

Sam Altman:

是的,没有什么特别烦恼的事。

Patrick Chung:

所以你并没有在担心人类的命运?

Sam Altman:

没有,当时我只是享受当下,每天过得很开心。

Patrick Chung:

不过你在高中应该学得很好,因为你申请并被斯坦福和哈佛录取了。

Sam Altman:

对,我也被哈佛录取了。

Patrick Chung:

是什么让你选择了斯坦福?你是怎么考虑大学的?是因为大家都申请大学,所以你也申请,还是你真的很想去斯坦福?

Sam Altman:

完全是默认的选择,从来没想过不上大学。我知道我想学计算机科学,所以我去了斯坦福。我觉得那是个很棒的地方,特别是计算机科学系,那里的人就是我想要待在一起的。

Patrick Chung:

你到斯坦福后,还做了什么其他事情?你当时是一年级新生,对吧?

Sam Altman:

有趣的是,虽然我确实上了计算机科学课,但我不记得为什么,决定也选了很多其他的课程。事后看来,这些课程都比我当时预料的要有用得多。学科学课很棒,写作课也很棒。

Patrick Chung:

写作?真的吗?是创意写作吗?

Sam Altman:

对,创意写作课。

Patrick Chung:

也许预示了未来的发展?

Sam Altman:

哈哈,我也在想。但斯坦福提供的广泛视角真的很棒。而且,像很多人一样,最重要的是,我身边有一群非常聪明的人,他们都在追求各种有趣的想法。

我在大一到大二的暑假期间在 AI 实验室工作。当时人工智能完全不奏效,但我仍然觉得它非常酷。后来我花了一段时间才重新回到这个领域。

Patrick Chung:

你是在 AI 实验室里找到你最感兴趣的人吗?是在计算机科学系、创意写作课,还是其他地方?

Sam Altman:

嗯,计算机科学系是我的“部落”,确实是这样。

Patrick Chung:

当时你是在 Andrew Ng 的实验室,对吧?

Sam Altman:

是的,就是他的实验室。

Patrick Chung:

是什么让你感到兴奋?因为当时,正如 Andrew 所说, AI 还在边缘地带,没什么核心的影响。

Sam Altman:

我喜欢那些一旦成功就会产生巨大影响的事物,哪怕它们成功的概率不高。如果 AI 能成功,它会是最酷、最重要、最激动人心的事物之一,所以值得去追求。

尽管成功的几率不大,但预期价值很高,所以我想去研究它。不过当时的感觉是,我们对如何做完全没有头绪。

Patrick Chung:

你看到了这一点。

Sam Altman:

事实证明我们确实不知道该怎么做。神经网络并不是一个新概念。

Patrick Chung:

这很有趣,因为你得到了启发,然后你在大二时决定休学创业,带着你手上的商业计划书开始了公司运营。这也是我们认识的方式。

我们花了很长时间在 Looped上,遇到了许多困难,比如要与运营商达成合作。你在 19 岁时是如何完成那些大公司都难以做到的事情的?你在那个年纪能与这些大公司达成合作,这是怎么做到的?

Sam Altman:

Paul Graham 常常说的一句话,虽然没有成为备受推崇的建议,但我觉得应该如此,那就是你应该尽力保持“resolutely resourceful”。令人惊讶的是,如果你不断寻找新的解决问题的方式,你就能找到解决方案。

我认为这是生活中最重要的技能之一,而且这种能力出乎意料地是可以学习或传授的,并且在几乎所有场景中都能奏效。

Patrick Chung:

能给我们举个例子,说明这种方法是如何奏效的吗?

Sam Altman:

比如你刚提到的例子,我们需要与一家移动运营商达成合作,但他们通常不会与初创企业或技术公司合作。

我们大概尝试了 30 多种方式接触这家公司。有一次,关键的决策者最终决定见我们,理由是“我见你们是因为你们太烦了”。

我们不断尝试,直到成功。而大多数人可能在第一次被忽略的邮件或第一条未找到合适联系人时就会放弃,但我们坚持了很多次。对

于我们来说,这是公司的生死攸关的问题,所以我们非常有动力去做,最终确实通过了大概 30 个不同的接触点。

Patrick Chung:

你是如何判断什么时候该放弃的?19 岁时,你给一家大公司的首席技术官发邮件,他们不断忽略你。你怎么知道什么时候该停止呢?

Sam Altman:

我认为这里确实有个平衡点,你可能会走得太远,没有及时学习或调整。我在 YC 期间遇到的一个问题是,创业者总是问我,如何知道该放弃创业?我花了很多时间试图总结出一个标准,但从未成功。

这些事情都是判断性的,你可以通过大量数据和多次尝试来学习,但很难说有一个适用于所有场景的固定公式。

Patrick Chung:

你在 YC 任职很长时间,见证了世界上一些最杰出的创始人、初创公司和技术的发展,远早于其他人。你显然在那段时间没有被任何一家吸引,或者自己启动什么新项目。但最终当你决定创办 OpenAI 时,为什么选择了非营利组织的形式?

Sam Altman:

当时我知道我想做一些与 AI 相关的事情,但你得回到2015年的心态。我们知道深度学习有些有趣的事情正在发生,且随着规模的增加表现会更好,但除此之外我们一无所知。

我们成立了 OpenAI ,第一天的早上我清楚地记得,大家坐在一起面面相觑,不知道接下来要做什么。我们决定先做一些研究,写论文,想出一些点子。最初我们甚至没有任何产品或收入来源的想法,语言模型的概念也远未成型。

当时我们完全不知道会做出一些人们真正愿意使用的产品,只想着做些研究,看看能否实现一些东西。这就是为什么我们选择了非营利形式,因为我们起初只是想看看能否搞清楚 AI 的方向,而不是想着如何盈利。

Patrick Chung:

你当时怎么能有这样的信念?因为你说你刚开始研究实验室,感觉就像是在瞎碰运气,看看有什么成功的可能。

Sam Altman:

其实也不完全是碰运气。2012 年,我的联合创始人 Ilya 和其他人在做 AlexNet 时,我认为那是我们应该醒悟的时刻。

我们知道深度学习有效,也知道它随着规模的扩大而表现得更好。虽然我们后来才学到它会以可预测的方式随着规模增长而提升,但这已经是个重大突破了。

大家当时应该意识到这一点,但花了我几年的时间才完全接受这个现实。最终我觉得,我们真的应该在这方面做点什么,应该推动这个领域的发展。

即便如此,尽管我们知道这些“秘密”,要找到具体的方向还是非常困难。我们坐在那里思考,“我们该怎么做?”

最后我们决定用电子游戏作为实验环境,因为它提供了一个很有趣的测试环境,你能通过得分或对抗专家来衡量进展。

我们也觉得机器人技术很酷,所以也做了一些机器人项目。经过多次摸索,我们最终证明了深度学习有效并且随着规模的扩大表现更好。

然后某个时候,有人对无监督学习和语言模型产生了好奇,这促成了 GPT-1 的诞生。然后又有人提议,既然我们已经知道规模很重要,那我们就把它扩大到 GPT-2 。

Patrick Chung:

在那个时间点,你是全职投入 OpenAI 了吗?

Sam Altman:

差不多是那个时候吧。

Patrick Chung:

能不能回溯一下,是什么让你决定全职投入?是哪一条线让你觉得,“好吧,现在这件事足够真实了,我要全职投入了”?

Sam Altman:

这是一个渐进的过程,但就在那个时候,我们开始真正理解语言模型的潜力,能够衡量它的进展,比如后来成为著名的“规模损失”论文。

我们发现,这不仅仅是随着规模的增大变得更好,而且它以惊人的可预测方式变得更好。只要我们投入更多资源,或者找到更有效的提升方式,这个系统就会变得越来越智能。

对我来说,这可能是我有生之年听到的最重要的新知识。当然,历史上有更重要的东西,但这是我在亲历的事情中,最重要的发现之一。我曾经有过一种奇怪的体验,告诉别人这些发现,试图让别人给我们资金去推动这项研究。

很多人不理解,当时我就在想,“我是疯了吗?还是我们都陷入了某种迷信?”因为这明明应该像地震一样震撼整个世界。但是那时候,我们已经意识到我们需要继续推动,接下来是 GPT-3 ,然后是 3.5,接着是 4。

Patrick Chung:

你当时有了这样的洞见,为什么世界上其他人没有意识到呢?

Sam Altman:

其实,自从2012年的突破以来,我觉得世界应该更加关注这个领域。在那之后,我们也经历了很多时刻,比如 GPT-2 、规模损失论文、 GPT-3 ,然而为什么直到 GPT-3.5,世界才开始真正关注?我到现在也不完全明白为什么是那个时刻,而不是其他时候。

Patrick Chung:

是不是因为你把它商品化了,做成了一个产品?

Sam Altman:

GPT-3 已经通过 API 被很多人使用了,尤其是在技术行业内部有很多兴奋点,但它似乎还没有完全达到突破的点。

我们未来会做出比 ChatGPT 更好的东西,但为什么是 ChatGPT ,而不是别的版本,我至今仍觉得不太容易解释清楚。

Patrick Chung:

作为 CEO,你需要做很多产品决策,能不能跟我们分享一个你在 OpenAI 做出的艰难的产品决策?

Sam Altman:

我们的产品决策通常是研究决策的延伸,我们选择研究的方向以及决定不研究哪些方向,往往是最困难、也是最重要的。

在产品方面, ChatGPT 的行为是一个例子,决定它应该拒绝什么、不拒绝什么,它的使用边界在哪里,如何找到对齐点(alignment),这些都是最难的产品决策。

Patrick Chung:

能给我们举一个具体的例子吗?

Sam Altman:

例如, ChatGPT 应该提供法律建议吗?

Patrick Chung:

你是说提供法律建议?

Sam Altman:

有很多理由不这样做,特别是由于 ChatGPT 的“幻觉”问题或者常见的不准确性,认为它不应该提供法律建议是很合理的。但另一方面,世界上有很多人无法负担法律建议。如果我们能提供,即便不完美,或许也是比没有更好的选择。

Patrick Chung:

那么,你们是怎么思考这个问题的,最后做出了什么样的决定?

Sam Altman:

现在大多数情况下它不会提供法律建议,但在某些场景下、某些方式下,它还是可以做到。不过考虑到我们运营的不同地区的法律规定,以及这种情况出错时可能带来的后果,目前我们基本上不提供这类功能。