消除对ChatGPT的恐惧

    上周六，世界银行前CTO胡先生约我做了场交流，介绍一下我的新书。期间有人问我对ChatGPT风险的认识。在我的一生中，ChatGPT是最令我感到意外的新技术。这个技术出现后，很多人感到迷茫甚至恐惧：AI会不会威胁到人类的生存？

关于这个问题，我想到了十年前的一场讲座。  

有一次，宝钢请一位著名教授讲《老子》。这位教授不仅学问精深、也认识很多大人物。他的一句话令我记忆深刻：一句话对不对并不重要，重要的是谁说的。最近，我对这句话的理解越来越深刻了：在现实世界上，掌握权力往往比对错更重要。因为有了权力，想法才能执行，没有权力就无法执行。  

回到文章的主题：AI对人类的风险。  

我一直用控制论的思想解释智能：智能是感知、决策和执行的统一。ChatGPT的能力在于决策过程。但是，如果人类没有授权，AI就无法把决策和执行联系起来、不具备执行的能力。所以，即便AI给出某种危害人类的决策，也无法实施。所以，只要人类限制AI本身的行动或执行权力，就可以避免AI对人类作出直接危害。这一点，必须成为全人类的共识。但是，在这种情况下，掌握权力的人类，仍然有能力利用AI对人类做出有危害的事情。所以，相关的立法应该针对人类本身，像防范计算机病毒一样防范AI的滥用。  

人们还有一种恐慌，人类ChatGPT可以夺走自己的工作、人类的智慧将一钱不值。对普通工作来说，这是完全有可能的。但是，人类所具有的一些优势，AI是无法具备的。这一点，在我的新书中也有描述。在这里，我们要重新认识“实践”的作用。  

我在新书中指出：人类的知识（特别是工业知识）是怎么来的？是实践中来的。所谓的实践，就是和物理世界打交道的过程中尝试出来的。比如，人类通过实验和试验获得相关的参数、验证某些方法是否可行。我在书中指出：许多现实问题是复杂的多变量问题，即便有模型也会遭遇组合爆炸；工作中还会经常遭遇信息缺失，使得计算机的计算失效。这时，只有通过与物理世界的接触和互动，才能获得必要的知识和信息。ChatGPT能做的，是数字空间的计算而不是物理空间的测试。  

在我的新书中，把知行（合一）翻译成“Mind and Hand”，意思就是要把感知、决策和执行过程融合起来，或者说把实践的过程包含进来。实践不仅是检验真理的唯一标准，也是人类智慧的护城河。