资讯
仇太深!奥特曼炮轰A社“反人类”
📌 概要
<p style="text-align: left;">《奥特曼天降正义,小嘴抹毒暗讽A社“反人类”》!!</p> <p style="text-align: left;">这个标题有没有港媒内味儿了(doge),您先别笑,这还真是奥特曼在最新采访里的大致意思。</p> <p style="text-align: left;">虽然没有点名,但话里话外就差直接报Dario Amodei的身份证号
<p style="text-align: left;">《奥特曼天降正义,小嘴抹毒暗讽A社“反人类”》!!</p>
<p style="text-align: left;">这个标题有没有港媒内味儿了(doge),您先别笑,这还真是奥特曼在最新采访里的大致意思。</p>
<p style="text-align: left;">虽然没有点名,但话里话外就差直接报Dario Amodei的身份证号了。</p>
<p style="text-align: left;"><img alt="图片" class="wscnph" src="https://wpimg-wscn.awtmt.com/994008de-4244-4a50-aad4-5bfb8c37994d.jpeg" title="" /></p>
<p style="text-align: left;">谈到AI风险,奥特曼批评行业里有些人天天把两个数字挂在嘴边:</p>
<blockquote>
<p style="text-align: left;">AI有25%的概率毁灭世界,未来很快会有50%的工作消失。(划重点,这两个数字Dario此前恰好都说过)</p>
</blockquote>
<p style="text-align: left;">在他看来,一些AI安全派嘴上说着保护人类,实际给出的方案却是:</p>
<p style="text-align: left;">因为普通人不值得信任,所以最强模型不能随便开放,技术怎么用、谁能用,都应该由少数AI公司决定。</p>
<p style="text-align: left;">作为补偿,他们会治愈癌症、创造财富、提供取之不尽的娱乐,让所有人过上还不错的生活。</p>
<p style="text-align: left;">听着是挺美,但这套方案本质上就是<strong>裹了蜜的砒霜:</strong></p>
<blockquote>
<p style="text-align: left;">亲爱的农民,我们会赐予你们健康、财富和娱乐。作为交换,你们把自主权和决定未来的权力交出来。相信我们,我们会成为仁慈的独裁者。</p>
</blockquote>
<p style="text-align: left;">说完还嫌不够,又补上一刀:</p>
<blockquote>
<p style="text-align: left;"><strong>这不好,这很反人类</strong>。</p>
</blockquote>
<p style="text-align: left;">额……奥特曼受啥刺激了,为何突然站出来向A社开炮?</p>
<p style="text-align: left;">且看他如何围绕Tobi Lütke、Codex、算力、AI创业、YC、Peter Thiel这一串江湖人事物,回答那个终极问题:</p>
<p style="text-align: left;"><strong>AI到底应该把力量交给谁?</strong></p>
<h2 style="text-align: left;"><strong>“他是目前最有意思的CEO”</strong></h2>
<p style="text-align: left;">(先来个八卦热热身,提醒一下Tobi Lütke是Shopify的创始人兼CEO。这个人的创业故事挺有意思:2004年他想和朋友开一家卖滑雪装备的网店,但市面上的电商软件都不好用,于是他决定自己写一套。结果软件越做越好,网店反而变得不那么重要了。因此他们索性又把软件做成了产品,这就是后来的Shopify。)</p>
<p style="text-align: left;"><strong>主持人:你之前提过Tobi Lütke,为什么觉得他是目前最有趣的CEO之一?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:AI发展初期,他就非常有前瞻性。他亲自写软件、做实验,还会给我们发非常详细的产品和模型反馈。他比任何人都更早意识到,公司必须采用agent,甚至自己动手做。</p>
<p style="text-align: left;">每次跟他聊,我都觉得他比其他CEO领先6到8个月。大概一年半前,他写信要求团队做任何事之前先判断AI能否解决这个问题。在那个时候,这种要求还显得荒谬可笑,但他一直领先、正确而且务实。他不追逐hype<em>(炒作)</em>,只关心现在能做什么、很快能做什么,以及如何推动公司行动。</p>
<p style="text-align: left;"><img alt="图片" class="wscnph" src="https://wpimg-wscn.awtmt.com/155fc954-0206-4ed6-95c6-3bb34cf224be.jpeg" title="" /></p>
<p style="text-align: left;"><strong>主持人:这样一位大公司CEO给你精准、前沿的产品反馈,有多大价值?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:很多人会给反馈,但他是唯一一位既经营大公司,反馈又如此精准、前沿的CEO。他坚信,2026年回头看时,每项业务都会悬而未决。一定会有人做出AI原生的Shopify,而那个人会是他。</p>
<p style="text-align: left;">所以他真的在从头重建。如果使用当前技术从零开始,一切应该怎么做?他亲自使用工具、写软件、测试模型、重新设计工作流。多数CEO到了这个级别,都在管理一层又一层的团队,很难再获得真实体感。但据我所知,他经常整晚亲自动手。</p>
<p style="text-align: left;"><strong>主持人:你同意2026年每项业务都会悬而未决吗?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:我不完全同意。我理解那种精神,但不是每项业务都会如此。有些东西是反AI的。AI越好,人们可能越渴望真实、非技术的体验,也可能更关注体育等活动。</p>
<p style="text-align: left;">所以不是所有业务,但很多软件业务确实会悬而未决。</p>
<p style="text-align: left;"><strong>主持人:你不同意的是时间线?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:对,我觉得需要更久。GPT-4出来时,我以为颠覆会很快发生,但实际上没有。我错判了速度。经济惯性太强,人们仍然做同样的事、购买同一家公司的产品、使用同样的工具。</p>
<p style="text-align: left;">这其实是好事,它会让这场大转型更平稳、更缓慢,我对此感到庆幸。但这也意味着,我们对时间的判断都太激进了。AI会成为人类最伟大的技术之一,但社会和经济的适应速度会慢得多。</p>
<p style="text-align: left;"><strong>主持人:这让我想起20世纪80年代Larry Ellison说过的话。这不是软件问题,而是人的问题,你得说服人们使用它。Netflix开始邮寄DVD后,人们仍然去Blockbuster。习惯的力量太强,改变行为比技术nerd想象的难得多。</strong></p>
<h2 style="text-align: left;"><strong>“我使用电脑的方式20年没变”</strong></h2>
<p style="text-align: left;"><strong>主持人:你比多数人更早采用AI,因为你参与发明了它。但你是否也会惊讶,明知有更好的方式,甚至正在创造更好的产品,却仍被习惯束缚?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:百分之百。我一直在等这个问题。</p>
<p style="text-align: left;">最矛盾的是,我使用电脑的方式20年没变。现在有了Codex这种神奇的东西,我本该彻底改变使用电脑的方式,不再点来点去,不再从聊天应用复制粘贴,不再麻木地刷邮件、维护老式待办清单。</p>
<p style="text-align: left;">但我的大脑似乎已经把这些行为编码成了工作和生产力。如果你问我喜不喜欢,我肯定说不喜欢,而且是真心的。可从显示偏好来看,我明明可以用Codex更快地处理邮件、待办和日常事务,却还是保持原样。除非我暗地里真的喜欢这些事,或者从中获得了某种满足感。</p>
<p style="text-align: left;"><img alt="图片" class="wscnph" src="https://wpimg-wscn.awtmt.com/e7a3b437-3cff-4395-8b0c-7449e498db0f.jpeg" title="" /></p>
<p style="text-align: left;"><strong>主持人:什么改变才能让你真正深度采用自己的产品?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:我不确定。改变正在逐步发生,这可能就是答案。彻底改变根深蒂固的习惯和工作流非常困难。</p>
<p style="text-align: left;">我们可以用这项技术创造更好的产品,让过渡更自然。但现在大家都跨坐在两个世界里,一边用旧方式操作电脑,一边用Codex,又不确定何时该用哪一种。这主要是产品的问题。</p>
<p style="text-align: left;">现在这个阶段让我想起iPhone出现前的智能手机。我很早就用Palm Treo,也很想要Sidekick。很多技术当时已经存在,缺的不只是多点触控,更是让iPhone成为iPhone的产品思路。今天我们拥有了几乎所有技术零件,却还没有迎来彻底改变人机交互界面的iPhone时刻。</p>
<p style="text-align: left;"><strong>主持人:我们的共同朋友Josh Kushner说,你运营公司的方式很像Steve Jobs。Jobs不写代码,也不制造硬件,但他把自己当作产品的零号用户。你改进产品时,也主要从自己的需求出发吗?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:我目前把大部分精力放在研究和算力上。我希望能花更多时间做产品,但我们有一群很棒的人在思考这件事。</p>
<h2 style="text-align: left;"><strong>“研究和创业投资,底层其实都是幂律”</strong></h2>
<p style="text-align: left;"><strong>主持人:为什么研究和算力对你最重要?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:最重要的是打造出智能模型,并且能够高效、大规模地为许多人运行。如果这件事做对了,我相信其他一切都会随之而来。</p>
<p style="text-align: left;">从理念上说,我倾向于寻找高杠杆、高难度、能够延续指数增长的问题。对我们而言,就是模型和算力。这些事情也天然适合我。</p>
<p style="text-align: left;"><strong>主持人:为什么适合你?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:大规模建设算力涉及复杂的供应链、有意思的合作关系和巨大的金融挑战。我们可能正在为人类历史上最昂贵的基础设施项目融资。</p>
<p style="text-align: left;">它也包含大量技术问题,从自研芯片、晶圆厂供应链、机架制造到电力系统。我一直对能源感兴趣。算力建设把技术、商业、政策、供应链和物流问题全部结合在了一起。</p>
<p style="text-align: left;"><img alt="图片" class="wscnph" src="https://wpimg-wscn.awtmt.com/f23dd757-fe33-4669-a928-1663281e20fe.jpeg" title="" /></p>
<p style="text-align: left;"><strong>主持人:你说管理研究项目很像做创业投资,为什么?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:一个重要的共同点是幂律。人天生不擅长用这种方式思考,你最好的投资可能超过其他所有投资的总和,第二好的投资也可能超过其余所有投资。AI研究至少也是如此。</p>
<p style="text-align: left;">2015年我们开始时,人们认为AGI不可能实现,或者几乎不可能实现。许多领域里的思想领袖都抨击我们。后来我们专注大语言模型,又被认为荒谬。但我们明白,只要成功后的价值足够巨大,高风险押注就是合理的。研究就是这样。</p>
<p style="text-align: left;"><strong>主持人:你说优秀的研究者往往是非标准的,具体指什么?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:他们思维尖锐,不走寻常路,而且精力充沛。你不会想资助一个与此前上千人只有微小差别的创始人。有些人只是想随大流,却努力说服别人和自己,他们正在做全新的事。</p>
<p style="text-align: left;">真正不同的人愿意坚持极不受欢迎的信念。他可能错,但一旦对了,就会非常正确。另一类人,只是给所有人都有的想法刷了一层薄漆。这两类人其实很容易分辨。</p>
<p style="text-align: left;">2015年底创立OpenAI时,全球只有DeepMind等极少数AGI项目。那是非常非共识的选择。同期可能有成千上万的创始人在做照片分享应用,那大概不是好选择。</p>
<p style="text-align: left;">今天很多人想建AI实验室,但只有少数人在做真正全新的东西。研究者也是如此,多数人追逐已经验证的方向,少数人对新想法抱有高度信念。我认为,OpenAI过去是、现在仍然是这类人的最佳研究实验室。</p>
<p style="text-align: left;"><strong>主持人:有没有可能,一位僧侣式研究者从前所未有的角度解决问题,成为巨头之外的新玩家?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:完全可能。我不知道具体概率,但它确实存在。我很喜欢这一点,这让事情一直令人兴奋。</p>
<p style="text-align: left;"><strong>主持人:2015年,AI还是非常非共识的方向。为什么你仍决定去做?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:我从小就对AI感兴趣。我是个很书呆气的孩子,周五晚上会玩电脑、看科幻、读科幻。我一直觉得AI会是最神奇、最疯狂的东西,但从没想过自己真能从事它。</p>
<p style="text-align: left;">我上大学原本就是为了学AI,大一到大二的暑假还在AI实验室工作。但当时什么都做不出来。一位教授告诉我,什么方向都可以试,唯独深度学习肯定不行,那是让职业生涯失败的最快方式。(笑)</p>
<p style="text-align: left;">我当时只是一个很容易受影响的大一新生,所以信了,转去追其他方向。那大概是2005年,AI确实没有起色。后来我偶然进入创业圈,并爱上了它。回头看,这不是职业绕路,创业和投资经历都对我帮助很大。</p>
<h6><img alt="图片" class="wscnph" src="https://wpimg-wscn.awtmt.com/10e65c19-e7e6-4e33-90ee-7d1042237978.jpeg" title="" /><strong>△</strong>2005年首届YC班级合影</h6>
<p style="text-align: left;"><strong>主持人:听说你打算一辈子做这件事?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:对。希望我们才刚开始。我还会多次来你的节目,你记住这句话。我们不需要更多退休后去做投资的创始人,投资人已经够多了。</p>
<h2 style="text-align: left;"><strong>“投资人能看到大量重大转折,对运营一家公司很重要”</strong></h2>
<p style="text-align: left;"><strong>主持人:你先做投资人,再回来运营公司,这段经历为什么对OpenAI有帮助?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:我非常感激那段经历。如果真正深入观察公司,投资会提供一套极其宝贵的经验和模式识别能力。它对我运营OpenAI帮助很大。虽然这条路径与惯例相反,也非常少见,但我强烈推荐。</p>
<p style="text-align: left;">运营一家公司时,你亲自经历的关键决策数量有限。无论是高风险的战略转向,还是艰难地解雇高管,你都只有过去5到10年的个人经验。投资人虽然缺少日复一日运营公司的训练,却能看到大量重大转折。我因此拥有一个非常丰富的数据集。</p>
<p style="text-align: left;">做决策时,我会想起某家公司在类似情况下发生了什么,某位创始人犯了什么错误,另一位又做对了什么。</p>
<p style="text-align: left;"><strong>主持人:这些经验最终形成了一套通用原则,还是每个场景都有不同的参照?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:要看创始人的个性。有一些原则可以普遍应用,但最终仍取决于创始人是谁,以及他想做什么。</p>
<p style="text-align: left;"><strong>主持人:你本可以继续做一个有钱又不必那么辛苦的投资人。运营公司比投资难得多。</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:完全同意。我觉得这恰恰是人们应该做的事。</p>
<h2 style="text-align: left;"><strong>“事情越不可能,我越着迷”</strong></h2>
<p style="text-align: left;"><strong>主持人:你小时候在圣路易斯,AI为什么会吸引你?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:它会吸引每个电脑nerd,我没什么特别。只是它看起来不可能。多数人会说,这当然是最酷的事,但完全不可能。我比较奇怪的地方也许是会回答,那就试试看。</p>
<p style="text-align: left;"><img alt="图片" class="wscnph" src="https://wpimg-wscn.awtmt.com/1ed2e2fb-f03c-4d72-867f-5664bca34c8f.jpeg" title="" /></p>
<p style="text-align: left;"><strong>主持人:当别人说一件事做不到时,你的第一反应是抵抗吗?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:不是抵抗,而是,你确定吗?为什么不试试看?看看会发生什么。也许我可以,也许我们可以。</p>
<p style="text-align: left;">我是个非常乐观的孩子,事情越不可能,我越着迷。发明一种能帮助我们完成其他所有事情的技术,以任何单一技术都无法做到的方式赋能人类,这对我天然具有吸引力。我从小就觉得,给人们更多力量和能力是一件有趣的事。AI是我能想象到的最强版本。</p>
<p style="text-align: left;"><strong>主持人:小时候,你希望AI帮你做什么?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:很难分清哪些是当时真实的想法,哪些受到了现在工作的影响。小时候我很喜欢机器人,学校也有机器人俱乐部。夏令营里有一只可以用电脑控制、在桌上移动的小乌龟,现在看起来很可笑,当时我却觉得太酷了。电脑能够控制物理世界里的物体,这一直让我着迷。</p>
<p style="text-align: left;">现在我极其关注AI推动科学发现的能力。发现新物理、治愈疾病、解决数学问题,这甚至比自动化其他任务更重要。AI会帮助我们理解一切,或者至少尽可能多地理解世界。</p>
<p style="text-align: left;">我也一直向往《星际迷航》式的繁荣与富足。但更真实、更持久的兴趣还是科学。因为足够聪明,人类能够理解世界、做出预测,并完成缺乏深层理解时无法完成的事情。这本身就非常迷人。</p>
<p style="text-align: left;"><strong>主持人:从Claude Shannon和Alan Turing的时代起,人类对AI的期待就很一致。解数学题、写诗、治愈疾病,这些目标被反复提起。如今AI真的开始解新数学题、发现新事物了。</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:奇怪的是,人们总说AI永远做不了某件事。音乐行业的人会说,它永远创作不出伟大的音乐,接着又问,它能做播客吗?当然能。它会做我们能做的一切,甚至做得更好。</p>
<p style="text-align: left;">人们仿佛认定,技术永远不会超越自己此刻亲眼见到的水平。这背后存在一种很深的心理缺陷。</p>
<p style="text-align: left;"><strong>主持人:如果两个AI的对话比你我更有趣,人们会在意吗?还是仍然想看真人,因为人类痴迷于人?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:后者更有意思。纯粹的信息和参考类内容可能会被颠覆,但人与人的连接、人对他人的喜欢,在AI时代会变得更值钱,而不是更不值钱。</p>
<p style="text-align: left;">我的工作高度数字化,而且面向全球,但我非常渴望更模拟的生活。我喜欢纸质书,不喜欢Zoom,更愿意打电话或当面聊,也喜欢真实世界里的实体事物。</p>
<p style="text-align: left;"><strong>主持人:硅谷也许有一小部分人不喜欢人类,只想和电脑交流。</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:那只是极少数。这也是为什么我认为,即使出现超级智能,世界整体也不会变得面目全非。人类从根本上就会关心其他人,想和其他人在一起、彼此互动。</p>
<p style="text-align: left;">会有人痴迷于模型,觉得人类很碍事,甚至需要被防范。但对大多数人来说,人与人之间的关系就是全部意义。发现前一种人时,我们应该把他指出来,确保他无法获得权力。</p>
<h2 style="text-align: left;"><strong>“权力过度集中本质上也是一种反人类”</strong></h2>
<p style="text-align: left;"><strong>主持人:你最担心的两类AI风险是什么?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:第一是失控。AI变得过于强大,我们无法确保控制它。第二是权力过度集中,某家公司、某个模型或某个人掌握了太多权力。这两种情况本质上都反人类。</p>
<p style="text-align: left;">正确的方向,是让人类深度掌控未来,并用AI深度赋能人类。人才是这一切的全部意义。我们不能因为不信任人类,就把控制权逐步交给AI模型。把所有信任交给模型,让它掌握世界的权力和决策,是非常厌世的想法,但确实有人认为那是正确结果。</p>
<p style="text-align: left;">另一种版本,是因为不信任人类,所以限制谁能使用技术、可以怎么用。它以恐惧为名,把权力集中到少数公司手中,只给其他人一些好处。</p>
<p style="text-align: left;">我对这种主张的讽刺性概括是,我们治愈所有疾病,让一切变得便宜。作为交换,人们放弃自主权、对未来的影响力和权力。最后,少数人拥有巨大的财富和权力,其他人得到还不错的一切。这是个糟糕的推销词,非常反人类,却真有人愿意这么说。</p>
<p style="text-align: left;"><img alt="图片" class="wscnph" src="https://wpimg-wscn.awtmt.com/0316471c-ec5d-46ed-aabd-c490286c7c27.jpeg" title="" /></p>
<p style="text-align: left;"><strong>主持人:为什么他们愿意这么说?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:恐惧和权力。有些人被AI风险的规模俘获,认为这次的风险不同于以往,因此必须用大量自由换取安全。但最终,它也成了为权力寻租辩护的方式。</p>
<h2 style="text-align: left;"><strong>“先部署,再从现实中学”</strong></h2>
<p style="text-align: left;"><strong>奥特曼</strong>:回到Claude Shannon和Alan Turing的时代,他们谈的是AGI会多么美妙。OpenAI刚开始时,我们承受了末日派的巨大压力。</p>
<p style="text-align: left;">我同意他们的一点,这是一项强大的技术,我们应该在安全问题上保持保守,在每一层技术上都谨慎行事。我不同意的是,这个问题无法解决。</p>
<p style="text-align: left;">OpenAI创立时,有两个被广泛接受的判断。一是至少10年内不可能造出非常接近AGI的东西,二是即使造出来,也不可能确保安全。末日派认为,只要AI在许多方面超过最聪明的人类,世界必然已经毁灭,对齐问题也必然失败。</p>
<p style="text-align: left;">如今,我们造出了当年多数人会称为非常接近AGI的东西。许多好事发生了,那些疯狂的末日预测却没有成真。人们应该据此更新对未来的判断。当然,我们面前仍有风险更高的问题要解决。</p>
<p style="text-align: left;">我们的方法来自创业经验,把产品放到现实世界,从真实用户那里获得反馈,观察哪里出错、哪里有效。这既是打造好产品的方式,也是打造安全产品的方式。我们在AI安全上取得的进展,远超多数人最初的想象。</p>
<p style="text-align: left;"><img alt="图片" class="wscnph" src="https://wpimg-wscn.awtmt.com/9780c85b-5fa7-4eb8-8f5d-06a3733742b5.jpeg" title="" /></p>
<p style="text-align: left;"><strong>主持人:为什么?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:因为每周有数十亿人在使用我们的产品。每推出一个新级别的模型,我们都会把它放到现实世界,观察什么有效、什么无效。我们会看到哪些护栏妨碍了合理用途,也会看到哪里出现了对齐或安全系统故障。</p>
<p style="text-align: left;">ChatGPT推出还不到4年,数十亿人已经用它处理敏感而重要的事情。这样强大的技术,能在如此短的时间内形成被广泛认为安全的产品,当然仍有问题,但如果一直待在象牙塔里,我认为做不到。</p>
<p style="text-align: left;"><strong>主持人:为什么接下来会更难?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:现在,世界上最聪明的人类和最聪明的模型大致处于同一水平,但这个局面很快会翻转。模型能力极强,改善轨迹也极陡,未知的未知会更多。</p>
<p style="text-align: left;">我们必须做很多困难的决定。什么时候延迟开发,什么时候接触现实,什么时候应该等待并投入更多研究。</p>
<p style="text-align: left;">FAA把航空变得难以置信地安全。飞行表面上非常危险,现在人们登机时却不太会多想。这依赖一套极其健全、诚实的事故报告制度。他们不掩盖问题,而是尽可能提取信息。这种方法对任何新技术都很有效,却经常被低估。</p>
<p style="text-align: left;">当初部署ChatGPT时,我们知道模型不完美,会产生幻觉和其他问题。但世界需要体验这项技术,我们也需要学习如何让它安全,并把力量交到人们手中。</p>
<p style="text-align: left;">我们不能只用AI强加自己的世界观,也不能坐在实验室里穷尽所有影响,因为社会和模型会共同演化。我们必须一起完成这个产品。出问题时,我们会调查、发布清晰的复盘、尽可能学习,并与其他AI建设者分享经验。到目前为止,这种方法的效果好得出奇。</p>
<h2 style="text-align: left;"><strong>“我们即将看到史上最大的一波小企业创业潮”</strong></h2>
<p style="text-align: left;"><strong>主持人:每个人都在使用AI,却又好像每个人都讨厌AI,这是怎么回事?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:人们总会害怕快速的社会经济变化。工业革命时期,人们也没有普遍欢迎变化。人类社会内置了惯性和对剧烈变化的怀疑,这也许是个好特征,能在社会动荡或局部疯狂时期保护我们。所以我不会过度对抗它。</p>
<p style="text-align: left;">但AI建设者的表达也有问题。很多人一边说有25%的概率毁灭世界,一边还要加速,因为担心坏人抢先。另一些人说,明年50%的工作都会消失,希望大家没事。</p>
<p style="text-align: left;">这个行业没有解释清楚AI的好处,也没有说明如何缓解坏处。即使有人提出UBI或工作可选,也很少解释为什么人们应该拥有更多权力和自由,而不是更少。这一点至关重要。</p>
<p style="text-align: left;">大多数人在意自己影响未来的能力,也在意参与塑造社会方向的能力,以及随之而来的自主权。许多AI从业者很清楚这种感受对自己有多重要,却很少承认它对其他人同样重要。</p>
<p style="text-align: left;">如果你对普通人说,我们会治愈癌症、创造物质财富和伟大娱乐,你们不要抱怨,未来的决定都由我们来做,相信我们会成为仁慈的独裁者。这不好,真的不好。</p>
<p style="text-align: left;">我热爱创业,也研究过去几个世纪经济奇迹的来源。我最坚信的,是让人们有力量做新事,推动自己相信的东西,自由创办公司、发明技术、追求想法。即使一个人从没想过创办大公司,也能理解这种自由的重要性。</p>
<p style="text-align: left;">很多人不想创办大公司,却想经营小企业。过去,这需要相当多的特权、运气和资源。我们即将看到史上最大的一波小企业创业潮,AI正在赋能它。我们这个行业,包括OpenAI,对此谈得不够,也没有创造足够多的产品去加速它。</p>
<p style="text-align: left;"><img alt="图片" class="wscnph" src="https://wpimg-wscn.awtmt.com/7dd94c5f-64c6-4b4e-987a-4bf4843956a4.jpeg" title="" /></p>
<p style="text-align: left;"><strong>主持人:AI行业在教育用户方面可能是我见过做得最差的行业。早期英特尔的创始人意识到,新技术太重要,也会吓到客户,于是亲自教育客户、投资人和整个国家。为什么AI行业没有这样做?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:没有借口。我们应该做得更多。我们尝试过一些形式,但还没有真正做好。</p>
<h2 style="text-align: left;"><strong>“我们正站在一种全新人机协作方式的边缘”</strong></h2>
<p style="text-align: left;"><strong>主持人:你之前谈到,自己在思考应该让AI看到电脑里的多少信息。能具体说说吗?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:我不想说最新一代模型已经足够聪明,因为我们应该始终追求更强的智能。但它们确实相当聪明。现在限制我的,更多是AI能够获得多少与我有关的有效上下文。</p>
<p style="text-align: left;">我希望AI尽可能了解我,从而更好地帮助我。我也希望它完成我做不到或不想做的事。我不可能阅读内部Slack里的每一条帖子,也无法查看每个用户讲述ChatGPT如何帮助或辜负自己的故事。我或许还能多读一些研究论文,但那会消耗太多精力。</p>
<p style="text-align: left;">我希望有一个AI智能体持续帮助我。它能查看和理解远超我时间、精力所能处理的上下文,并在我做决策时调取这些信息,给出好的建议。</p>
<p style="text-align: left;">我们对模型智能的关注是对的,但产品侧还没有充分思考一个问题。当模型拥有比任何人都多的上下文,并用它帮助这个人做重大决策,会发生什么?</p>
<p style="text-align: left;">我们正站在一种全新人机协作方式的边缘。没有人能在几秒内阅读数万页材料并准确使用,但AI可以。这会成为一种全新而不可思议的能力补充。</p>
<p style="text-align: left;"><strong>主持人:我也做了一个内部AI工具,把读过的书、笔记、标注和播客文字稿放进去。准备节目时,我可以查询几年前读过、已经记不清的内容。</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:这正是我说的。太酷了。</p>
<h2 style="text-align: left;"><strong>“Codex这个名字起得不好”</strong></h2>
<p style="text-align: left;"><strong>主持人:你把主要精力放在算力和研究上,那么如何考虑产品和收入?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:我认为,我们应该更像一家平台公司,而不是产品公司。当然,我们仍然会做产品。</p>
<p style="text-align: left;"><strong>主持人:你们现在有多少产品?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:我们已经把ChatGPT和Codex合并。以前有ChatGPT、Codex和API。Codex这个名字起得不好,它不只会编程,也能完成各种工作,所以很容易让人困惑。</p>
<p style="text-align: left;">大多数人真正想要的是一个统一界面,也就是个人或公司的AGI,在需要时帮助他们完成任何事情。同时,他们还需要API,以便在这个平台上构建任何东西。这就是我们应该提供给世界的平台。</p>
<p style="text-align: left;">我们会覆盖成本和性能曲线上的每个位置。你需要高端AI做科学发现,可以。你需要便宜的AI大规模完成不必依赖天才级智能的工作,也可以。人们希望大量使用AI,而且成本低、速度快、效果好、有上下文、体验流畅,这些都应该具备。</p>
<p style="text-align: left;"><strong>主持人:也就是说,你们提供一个直接面向用户的统一界面,再提供API让别人自由构建。你们不打算进入每个产品类别,也不试图包揽整个经济。要做到这一点,必然得杀死一些好主意,用它们换取伟大的主意。</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:杀死好主意,牺牲它们去追求伟大的主意,是每个创业者和企业最难学会的课。这非常痛苦。无论如何提醒自己,大家通常都做得很差。我也很差,我知道。</p>
<p style="text-align: left;">去年我们砍掉了Sora。它是个很好、有趣又酷的产品,但会消耗大量算力,不如把算力投入Codex重要。我们也砍掉了Atlas浏览器。我认为它是个好产品,甚至是最好的浏览器,但对我们而言,把人才投入其他方向更加重要。</p>
<p style="text-align: left;">在算力、人才和资源都有限的世界里,我们最终确定,通用智能是最重要的事。它会先用于知识工作,最终用于科学。所有在上游生成智能的事情,包括自研芯片、建设数据中心、开发基础设施软件和训练模型,都很重要。</p>
<p style="text-align: left;">之后,我们把AI作为服务交给人们,让它服务于智力探索、工作、科学发现和个人生活。我们要做的是一个灵活、通用的平台,而不是许多彼此分散的产品。</p>
<h2 style="text-align: left;"><strong>“格雷厄和彼得是最让我无法预测下一个词的人”</strong></h2>
<p style="text-align: left;"><strong>主持人:从传记中经常能看到,做复杂工作的人需要有人帮助梳理思路。你面对的经历几乎独一无二。谁能理解你每天面对的问题,并扮演这样的角色?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:大概有三类人。第一类是从早期就在OpenAI的研究员。我们一起经历了这一切,形成了一套共享的语言、直觉和标准,这是公司之外无法复制的。</p>
<p style="text-align: left;">在商业和世界问题上,保罗·格雷厄姆和彼得·蒂尔是我职业生涯不同阶段学到最多的人。遇到隐晦、棘手的问题时,我现在仍然会找他们。</p>
<p style="text-align: left;">我接触过很多人,但没有找到其他人拥有他们那种高度非线性的思考能力。如果说LLM的工作是预测下一个词,那么他们两位是最让我无法预测下一个词的人。这是一种极有价值的能力。</p>
<p style="text-align: left;"><strong>主持人:他们主要激发你的想法,还是会给出具体建议?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:经常是非常具体的建议。</p>
<p style="text-align: left;"><strong>主持人:能举一个彼得·蒂尔的例子吗?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:ChatGPT发布两个月后增长极快,但大家不知道用户到底会拿它做什么。公司里很多人觉得这是低价值增长,无法持续,应该转向其他事情。</p>
<p style="text-align: left;">我列出五六个备选方向去找彼得。他说,除增长之外去做任何事,都是明显的错误。增长非常罕见,也非常宝贵。ChatGPT的力量和Google文本框一样,你可以输入任何东西,它会做正确的事。它不符合当时硅谷推崇的信息流、网络效应和锁定,但空白文本框对Google有效,为什么不重注它?</p>
<p style="text-align: left;">于是我们全力推进,结果很好。这是一个简单而天才的判断。</p>
<p style="text-align: left;"><img alt="图片" class="wscnph" src="https://wpimg-wscn.awtmt.com/5975251c-99f5-4288-9ff6-7d6d44f37dd2.jpeg" title="" /></p>
<p style="text-align: left;"><strong>主持人:保罗给过你什么指导?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:YC创始人之间有个梗。你去参加他的office hours,他会摇着手指问,你知道自己该做什么吗?后面的话有时很棒,有时很糟,但关键在于那种创造力和开放精神。</p>
<p style="text-align: left;">他推动整个创业生态接受一个观念,发布一个让自己尴尬的v1没有关系,用户反馈会让它变好。发布ChatGPT前,我甚至没有问他,因为我知道他会说什么。产品还早,也令人尴尬,但正确的事就是发布,让真实的人使用。</p>
<p style="text-align: left;">回顾YC创始人的数据,快速行动、持续迭代与成功之间的相关性强得惊人。</p>
<p style="text-align: left;"><img alt="图片" class="wscnph" src="https://wpimg-wscn.awtmt.com/71aba2c2-0f87-48b9-a743-9b920f16faf6.jpeg" title="" /></p>
<h2 style="text-align: left;"><strong>“有些乐队销量不高,却影响了后来几乎所有音乐人”</strong></h2>
<p style="text-align: left;"><strong>主持人:为什么YC对你的影响如此深?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:有些乐队销量不高,却影响了后来几乎所有音乐人,Velvet Underground可能就是一个。用它形容YC也许不公平,因为按传统指标看,YC同样是最有价值的科技机构之一。</p>
<p style="text-align: left;">但我认为,很少有人完全理解YC对过去20年科技行业和创业生态的影响。OpenAI就是例子,它不仅影响我们发布产品的方式,也影响我们运营研究实验室的理念。即使没有亲历YC,这一代大型科技公司的很多负责人也会讲出类似故事。</p>
<p style="text-align: left;"><img alt="图片" class="wscnph" src="https://wpimg-wscn.awtmt.com/3d01c0d7-3578-49d2-881b-66134f2ce278.jpeg" title="" /></p>
<p style="text-align: left;"><strong>主持人:YC给你的是一套操作系统,还是一种哲学?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:两者都有。它提供了部分操作系统,但更重要的是运营公司的哲学,包括迭代部署、让技术负责人掌权,以及愿意在各层级押注精力旺盛、野心很大但经验较少的年轻人。</p>
<p style="text-align: left;">YC还系统性改变了此前的科技创业生态。如果保留2004年的创业环境,只把技术推进到2016年,而资本如何流动、谁能创业、谁有资格运营公司等条件都不改变,我认为OpenAI不会出现。</p>
<p style="text-align: left;">YC让创始人获得了更大杠杆,让年轻的技术创始人即使没有强硬履历,也能融到大量资金、追求雄心勃勃的目标。没有这些变化,就不会有OpenAI。</p>
<p style="text-align: left;"><strong>主持人:这也和你从创始人转做投资人,再回到创始人有关?</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:都有关系。不过,把我的经历概括成从创始人到投资人并不完全准确。我第一次创业其实做得不怎么样。</p>
<h2 style="text-align: left;"><strong>“从成功中得到的教训好于从失败中得到的”</strong></h2>
<p style="text-align: left;"><strong>主持人:等等,这一点不能略过。你得说说。</strong></p>
<p style="text-align: left;"><strong>奥特曼</strong>:有一