今天,一个期待已久的会面终于成行。

关于OpenAI的新闻和分析铺天盖地,其中也不乏自己的思考和推测。但坦白说,这些思考未必准确——因为从未与真正接近OpenAI的人有过直接交流。对这家公司,所知甚少。因此,这次硅谷之行,一个核心目标就是:约到接近OpenAI的人,最好是员工,最好还是早期员工。他们最能理解这家公司如何崛起。如果能深入交流,就能纠正许多偏离的认知。
今天,问道全球的企业家朋友们一同见到了Pieter Abbeel。
(Pieter Abbeel & 刘润 @ 硅谷)
Pieter是加州大学伯克利分校教授,机器人学习领域的重要科学家,曾任OpenAI顾问。2016年,他全职加入OpenAI,成为最早10名员工之一。后来离职创业,联合创立的人工智能公司“Covariant”已融资超2亿美元。
这是一次难得的机会。大家忍不住问了很多问题。Pieter耐心作答,许多答案与预想大相径庭,却极具启发。需要强调:以下观点仅代表Pieter个人,不代表OpenAI官方。但依然值得分享——至少让你听到一种更接近OpenAI内部的声音。好,开始。
AI,是不是过热了?
第一个问题:AI是不是过热了?
Pieter说,是的,AI确实过热(Hype)了。2012年之前,每天的工作就是回邮件、读论文、教书,很清静,因为外面根本没人关心AI是什么。但2012年后,一切都变了。亚马逊的贝佐斯邀请讨论AI,微软的盖茨也来探讨。一夜之间,所有人都在问AI是什么、能做什么。从这个意义上说,AI过热了。
但也许,AI事实上并没有过热。因为AI并不需要这个“热度”。
如果设计一款虚拟货币,没有热度,大家都不用,它就不存在了。社交软件也一样。但AI不同:有人说它过热,选择不用,没问题——不用就不影响它的价值。我用。那么,他的生产力就不如我,他会被淘汰。这就是AI的美丽之处:价值不依赖于别人。AI会越来越热。而这一切,都从2012年开始。
这一切,都从2012年开始
为什么是2012年?Pieter说,如果明天要向某人分享什么是AI,希望记住两个关键时间点。
第一个,1956年。那一年,数学家和科学家在达特茅斯聚会,讨论计算机能否像人类一样聪明。他们后来获得图灵奖和诺贝尔经济学奖。这次会议上,他们首次将这种“机器智能”命名为人工智能(AI)。1956年被称为人工智能元年。
第二个,2012年。从1956年到2012年,AI的进展可以用三个字形容:没进展(not much works)。各种方向都举步维艰。直到2012年,AlexNet横空出世。三位杰出科学家用卷积神经网络,让AI对猫狗照片的识别率首次超过人类。这三位中,除了Alex Krizhevsky,还有后来OpenAI联合创始人、首席科学家Ilya Sutskever,以及谷歌副总裁、深度学习之父Geoffrey Hinton。他们为AI找到了正确的道路。之后,就是规模的事了——Scaling Law:参数规模、数据规模。
有意思。参数和数据规模很重要。但AI学习的大量数据,知识产权归谁?
AI学习数据的知识产权,到底属于谁?
好问题。Pieter说,2023年《纽约时报》起诉OpenAI及其投资方微软,称其未经授权使用数百万篇文章训练AI模型,要求赔偿并销毁相关模型和数据。这个指控有道理吗?
Pieter认为有道理。AI学习你的数据,应该获得同意。如果AI通过数据训练的模型赚了钱,也应该分给创作者。为什么?你花100美元买一本书,然后因学习书中知识赚钱,不用再分给作者,因为你已付过钱。像你这样的人可能有1000、1万甚至100万人,每人付100美元,作者就能养活自己继续创作。但AI不一样:它学完这本书后,全人类可能不用再学,直接问AI就行。理论上,一本书的作者未来可能只有一位读者——AI。那作者写一本书只能赚100美元,养不活自己,人类就会失去创作动力,AI也无知识可学。
所以,AI应该给《纽约时报》分钱,给每一位内容创作者分钱。但今天还没有一套机制能算清楚每一条回答中用了多少比例的内容。如果创作出这套机制,可能因为太复杂,用2美分计算成本分给作者1美分收益,得不偿失。但这是未来必须解决的问题。理解了这一点,就能明白为什么《纽约时报》起诉OpenAI,却不起诉谷歌。
流量生成器
谷歌也抓取了《纽约时报》的内容。搜索引擎先抓取整个互联网内容,再分析关键词供用户搜索。为什么起诉OpenAI,不起诉谷歌?
因为谷歌是流量生成器(Traffic Generator),OpenAI不是。谷歌搜索“特朗普今年会当选吗”,出来很多文章链接,其中一篇来自《纽约时报》。你点进去,谷歌生成了流量并转给《纽约时报》。你在《纽约时报》上看完文章,也看到了广告,《纽约时报》赚了钱。但OpenAI呢?它直接给答案,不把用户引回内容源头。创造内容的人做了贡献却没有回报,而聊天机器人却因此获益。所以人们起诉OpenAI,不起诉谷歌。聊天机器人与内容创作者之间的关系,是一个需要解决的问题。
醍醐灌顶。那么,美国的AI会一直领先中国吗?
美国的AI,会一直领先于中国吗?
Pieter说,不会。作为人类,美国人和中国人之间没有本质区别。只要足够努力,没有理由一个国家永远领先。从历史上看,美国更擅长研发、探索新方向。但一旦“北极星”(North Star)被找到,就到了中国更擅长的部分——向同一颗北极星拼命奔跑。现在AI的北极星已被找到,剩下的就是更多数据和算力。大家最终水平可能差不多,因为目标相同。
可是,不是听说OpenAI已开发出更先进的ChatGPT,即将甩所有人一大截吗?
OpenAI,正在憋大招吗?
Pieter表示不知道,因为他已不在OpenAI工作,且可能不被允许评价。这只是个人猜测:现在OpenAI肯定领先,但可能没有“那么那么”领先。Anthropic、Google正在迎头赶上。在公开市场上,OpenAI并不“遥遥领先”。而OpenAI喜欢保持“领先的姿态”。如果确实已有“遥遥领先”的版本,他们可能早已发布,以提醒所有人自己是领先者。另外,最近不少人从OpenAI离职。如果下个产品遥遥领先,员工没有理由激动地加入其他落后公司。OpenAI绝对是领先者,但可能不是“遥遥领先”。
了解。感谢Pieter。那么,什么阻止AI继续突破?三个问题:算法、算力、数据。
算法:Transformer,一定是最好的架构吗?
2017年谷歌提出Transformer算法架构,这是今天大模型的基础,也是ChatGPT的“T”。Transformer被证明高效,但一定最高效吗?在某个地方,一定有更高效的模型。人类对大脑的研究还不够。这是个开放问题,很多大学在研究,但今天谁都没有答案。再比如能耗。
算力:AI能耗是人类的上万倍
今天的AI需要太多算力,也就需要太多电力。人类大脑耗能仅20瓦,而GPT功耗是数万甚至数十万倍于人脑。有没有可能,未来的AI不基于“硅”计算,而基于类似人脑的“化学反应”计算?这是容易想到却没人做的方向——因为不确定。规模已被证明有效,做大规模有确定结果;但从0到1研究化学反应计算,结果完全不确定,所以几乎无人投入。还有数据。
数据:只有思考结果,没有思考过程
今天所用数据都是人类“写下来”的。但仔细想想,人类必须先做大量思考,才可能写下结论。AI没看到思考过程,只看到了结果。所以,也许只有把所有思考过程都写下来或说出来,AI才能具备真正的“推理”能力。我们的数据看似庞大,却缺失了非常关键的部分。
打开思维的疆界
算法、算力、数据,脑洞大开。2022年11月,这个世界彻底变了。OpenAI发布ChatGPT 3.5,像按下了一个“不可撤回”的开关,打开了一扇从未见过的大门——门外还有比人类更聪明的物种:AI。整个世界为AI兴奋,也为挑战焦虑。但AI到底会如何改变世界?有幸听到真正顶级科学家的最前沿思考。这些思考不一定对,在科学界也有争议,却打开了思维的疆界。
感谢Pieter,收获巨大。不管世界怎么变,要做的都是去理解、适应、拥抱,最终善用这个变化。希望AI最终能让全人类受益。
