老天奶，奥特曼对GPT的谈论，都跨越好几代来到GPT-8了！
最近他在一档节目上，和量子计算奠基人戴维・多伊奇（David Deutsch）展开对话，针对两人存在分歧的“AI能否发展为具备意识的超级智能”议题，奥特曼搬出GPT-8来试图说服多伊奇：
GPT-8搞懂了量子引力，还能跟你讲述它是如何做到的——比如它当时在思考哪些问题、为什么决定研究这个领域。但它呈现出的内容，看起来依然只是语言模型的输出，可它确实真的解决了量子引力的问题。那到时候你会认可它吗？
麻 将
这段对话吸引了不少网友讨论，有网友认为两人的对话表明AGI（通用人工智能）定义标准模糊、目标不断变化，根本无法衡量：
有人可能会争辩说，我们很快就会超越它，并将目光投向ASI（超级人工智能）。
麻 将
所以，两人究竟是怎么说的呢？
完整对话整理
节目中，主持人先是问奥特曼“你最爱的书真的是戴维・多伊奇写的《无穷的开始》吗？”，奥特曼做出了肯定回答，接着解释了为什么喜欢这本书：
即使你没有读完整本书，前四五十页就已经非常精彩了。我觉得它极度乐观地解释了，哪怕在有AI的世界里，人类依然永远不会缺少可以做的事、可以发挥价值的方式、可以解决的问题和可以探索的未知。
而且它还很精彩地解释了，人类历史中相对简单的发展过程，是如何把我们带到今天这个令人惊叹的境地。
麻 将在奥特曼分享完对这本书的看法后，戴维・多伊奇随即以线上形式接入了节目。
主持人话锋一转：我记得你和他（戴维・多伊奇）在一个问题上有分歧——人工智能是否有可能发展成具备意识的超级智能？他（戴维・多伊奇）似乎认为这不可能，而你（奥特曼）觉得是有可能的。或许可以详细说说你们之间的共识与分歧。
奥特曼迅速表示“不care那个问题，并没有什么分歧”。
此时戴维・多伊奇开麦，解释了为什么他认为AI不会发展成为具备意识的超级智能：
在我的电脑里，我保存了一份清单，记录着那些我原以为不可能实现、但后来却实现的进展。其中一项让我羞于承认，那就是“万维网”。
还有一项是，我曾认为，没有任何计算机程序能在自然语言下，就广泛主题进行开放式对话，除非它是一个AGI，我更愿意把这种能力称为“解释性创造力”。
ChatGPT让我错了。
它不是AGI，但它能对话。这种能力是知识的副产物。
麻 将1960年代的Eliza聊天机器人，只能利用你输入的词汇和短语。而ChatGPT可以聊任何东西，它依托于庞大的知识体系，这极其有用。对有些人来说，它“太有用了”，他们会觉得自己在和一个人或一个AGI对话。就像当年的Eliza，用户也把它当人一样。
这让我想到一个广泛流传的迷思——图灵测试。
实际上，图灵从未提出过AGI的测试或基准。他的“模仿游戏”并不是一个测试，而是一个思想实验，用来击碎“机器不能思考”的直觉。事实上，并不存在所谓的基准，因为一个真正通用的智能，必须有能力选择保持沉默。
这本身已经说明，现有的方法无法造出AGI。
现有系统可以也必须用基准来衡量。
麻 将反过来讲，如果某个事物给出了一个全新的解释，你根本无法测试这个解释是它自己创造的，还是人类创造的——即便是由你亲自来做这个测试，也做不到。用爱迪生的话来说，智能里有“灵感”的部分，那只有人类能做到；还有“汗水”的部分，那是机器能帮我们解放的。
那既然没有测试基准，我们怎么知道人类是通用智能呢？答案是通过“讲述自身的故事”。
人类的思考，并非机械地将动机转化为行动、将提示词转化为输出，而主要是“主动选择动机”的过程。就像科学研究并非从数据中提取理论，而是发现问题、提出解释性猜想，然后对猜想进行批判和验证。
麻 将那么你如何判断某个东西是不是在这么做呢？其实未必总能判断。有时你确实只是在和一个机器人聊天。
但是如果没有任何解释能说明你自己是机器人，或者人类整体是机器人，那么合理的假设就是“我们不是机器人”。
有些人喜欢质疑，爱因斯坦是不是真的创造了相对论，还是只是把各种现有观点东拼西凑、机械组合出来的。我们知道他创造了它，因为我们了解他的“故事”——他当时在解决什么问题，以及为什么要解决这些问题。
就像我们知道，萨姆·奥特曼不需要写任何代码，却让ChatGPT从技术概念变成了实际产品，成为一种现象级存在。他靠的是直觉，还有那种“认定这是人类下一步该尝试的正确方向”的魄力。
麻 将目前还没有任何程序能让计算机拥有这样的直觉，至少现在还没有。
麻 将听到这里，奥特曼忍不住想要反驳了，并且搬出了GPT-8：
你提到了爱因斯坦相对论，我非常认同你的看法。我觉得相对论是人类有史以来搞明白的最精妙的事物之一，甚至可以说是最精妙的。而且爱因斯坦有他的“故事”，我们知道他当时在研究什么。
假设几年后，GPT-8搞懂了量子引力，还能跟你讲述它是如何做到的——比如它当时在思考哪些问题、为什么决定研究这个领域。但它呈现出的内容，看起来依然只是语言模型的输出，可它确实真的解决了量子引力的问题。那到时候你会认可它吗？我知道你会记录自己之前判断错误的事情，我也会这么做。所以，这种情况能说服你吗？
麻 将戴维・多伊奇：
我觉得可以。没错，“过程故事”在这当中至关重要。我也认为这才是判断的关键。
麻 将量子计算先驱：戴维・多伊奇
戴维・多伊奇是牛津大学克拉伦登实验室量子计算中心创始成员、物理学访问教授，同时也是牛津大学沃弗森学院的荣誉院士、英国皇家学会和物理研究所的院士，被认为是量子计算和量子信息科学的奠基人之一。
他致力于研究物理学中的基础性问题，尤其是量子计算与信息理论，以及建构者理论（constructor theory）。
1985年，他提出量子图灵机理论框架，通过引入量子逻辑门的网络运算方式，证明量子计算机在理论上可以精确模拟任何符合量子力学规律的物理系统，为量子计算机的发展奠定了数学基础。
1992年，他与澳大利亚数学家、理论物理学家Richard Jozsa共同提出Deutsch-Jozsa算法，首次证明量子算法相较经典算法具有指数级加速效应，为后续Shor算法、Grover算法的发展奠定了理论基础。
他还写过两本著名的面向普通读者的书：《真实世界的脉络》（The Fabric of Reality）和《无穷的开始》（The Beginning of Infinity）。
戴维・多伊奇曾获得的奖项包括ICTP狄拉克奖、墨子量子奖、2科学突破奖的物理学奖、艾萨克·牛顿奖等。
参考链接：
[1]https://www.youtube.com/watch?v=WZ22AJmuKKQ
[2]https://x.com/rohanpaul_ai/status/1971884939667738838[3]https://www.daviddeutsch.org.uk/
