chatgpt能成心识吗:关于chatgpt的误解与夸大的进一步展开说明

ChatGPT 能成心识吗：关于 ChatGPT 的误解与夸大

2023 年 03 月 17 日 04:19

作者：赵庆秋

ChatGPT 是 OpenAI 公司开发的一款具有复杂且生动的语言交互能力的模型，目前成了热门话题。但是，关于 ChatGPT 的许多观点都存在夸大和误解。

一、《诗云》与神级文明

在刘慈欣的科幻小说《诗云》中，描绘了一个神级文明试图通过遍写汉字组合的方式超出李白的故事。这个神级文明为了制作能够存储所有汉字组合诗歌的贮存器，消耗了全部太阳系的物资，并制造了一片直径100亿千米的晶片星云。但是，虽然他们得到了所有的诗词，却没法从中检索出杰作，由于缺少对古诗鉴赏力的软件。这个故事探讨了一个问题：在不理解文字的情况下，会不会能够通过技术超出文字的本质。

二、思想实验中的“中文房子”

人类一直在思考这个问题，即如何通过算法来“理解”文字。约翰·塞尔是一名著名的哲学家，他提出了一个思想实验：“中文房子”。实验中，一个只懂英语的人被关在一间只有两个通口的房间里，房间内有一本用英文写成的手册，手册从情势上说明了中文的句法和文法组合规则，和大量中文符号。外面的人不断用中文发问，而房间里的人依照手册的说明将中文符号组合成答案并递出房间。

但是，虽然房间里的人能够通过手册来模仿中文，他其实不真正理解中文。就像屋子中的人没法通过手册理解中文一样，计算机也没法通进程序来真正理解事物。

现在，随着技术的发展，人工智能的计算能力有了极大的提升。例如，ChatGPT 导入了1万颗英伟达高端GPU，总计算能力到达了 3640 PF-days。这意味着，房间里的人的脑力变得更强大，可以更快地检视手册。另外，通过神经网络的学习和互联网提供的大量信息，可以生成足够强大的手册。实际上，不管是中文信息或者其他语言的信息对计算机而言，都是一种信息。这个进程类似于对神经网络进行深度学习和训练。从某种意义上来讲，ChatGPT 在一定程度上成功地实现了“中文房子”的思想实验。

三、ChatGPT 的理解能力

斯坦福大学的计算机科学家米哈尔•科辛斯基（Michal Kosinski）在他的一篇预印本论文中提出了一个假定：“大型语言模型可能会自然地产生心智理论”。有人将这一解释解读为 ChatGPT 相当于9岁的孩子。但是，这样的解释明显是不准确的。

塞尔提出的“中文房子”实验表明，即便可以通过算法进行模仿，房间里的人依然没法真正理解中文。一样地，计算机也不能通进程序取得真实的理解能力。

实际上，ChatGPT 只是一种排列词组的算法，虽然这个算法手册非常庞大、复杂，且触及到多种情境。人工智能与人类之间的差距在于常识。常识对人类来讲是微不足道的，但对机器来讲则十分困难。人类通过“理解”来解决“无数例外”的问题。但是，由于没法理解的限制，ChatGPT 这样的系统在逻辑和事实上常常存在明显的缺点。虽然对普通人来讲，ChatGPT 的回答在某些方面已足够好，但对专业人士来讲，ChatGPT 依然有很大的差距。

虽然 ChatGPT 不能真正“理解”，但只要手册足够强大，能够模仿人类的理解，这也是可能的。这就是著名的图灵测试。图灵测试的标准是，如果计算性能够在5分钟内通过对话回答问题，并且有超过30% 的测试者误认为它是人类，那末计算机就能够被认为具有智能。但是，图灵测试只能判断会不会看起来像有智能，而不能测试会不会真正理解事物并具有意识。因此，图灵测试只是一个近似的标准。

四、ChatGPT 的局限性

不管是将 ChatGPT 放大成星球大小的蒸汽计算机，或者将其复制到纸上摹拟运算，实际上都没法使其具成心识。这类似于看见一个庞大的机械装置，在人类对话时运转咔咔作响。即便以机械计算机的情势显现，人们也不会认为它成心识。

塞尔提出的“中文房子”实验可以进一步说明这个问题。想象一下，在纸上写下一个问题，然后让无数人依照手册的指引一步步计算，终究得到 ChatGPT 的结果。这时候，这些纸张能够具有智能吗？很明显，大多数人的答案多是不是定的。

从某种意义上说，这个问题可能永无答案。人类的意识是“私有”的，人类没法判断他人会不会成心识。意识是自证的，因此只能通过自我证明。

因此，当前热门的意识上传被夸大了。将记忆和个性复制到另外一个人身上，对外界来讲，仿佛这个人得到了重生。但是，对被复制的人来讲，他依然知道自己是自己，不是复制者。换个角度来讲，如果你躺在床上，经过一系列科技手段将意识上传，工作人员告知你上传成功后要杀死你。你会同意吗？这意味着，意识没法复制。

五、“暴力”提升工艺与速度的两种思路

这个问题可能永无答案，但有两种近似的答案。

首先是在量子水平上发挥作用的大脑微管结构。量子计算机可以仿生大脑的工作方式，由于量子态是不可复制但可传输的。这意味着，非量子级别的机械计算机没法具有真实的智能与意识。但是，量子计算机的发展依然面临许多技术挑战。

其次是通过工艺和速度来提升计算机的能力。当前的人工智能神经网络只是一种“技术的暴力叠加式仿生”。随着工艺和速度的提升，计算机可能会出现一些意想不到的现象。但是，我们对大脑工作方式的了解依然有限，目前的计算机技术依然是基于传统的二进制计算的。因此，在人类对大脑和智能的理解有限，并且计算机技术还没有实现从二进制计算向量子计算机的奔腾的情况下，目前通过增强工艺和速度的方式，压榨图灵计算机的潜力以获得更强大的计算能力，人类还不能通过模仿大脑的方式取得宇宙中最复杂结构的功能。

但是，在超出意识的私有性之前，这个问题可能没法得到确切的答案。

chatgpt能成心识吗:关于chatgpt的误解与夸大的常见问答Q&A