主题：关于人与计算机不同思考方式和机器人对人类威胁的一些感触 -- 桥上

包括外界给予的goal下的自主学习，以及自己主动设立goal的两种。并有能力把goal拆分开订立计划，执行程序，这就是很不得了的一步了，也是AI的不可逾越的一个鸿沟。

人来源自生物，生物根据进化论的理论从生命一开始就有goal，即生存，所有的智能也都围绕这一个本质目标，区别就是复杂性与效率了。智商带来的不过是深度与广度，虽然结果天地之别，但是生命从没有跳出这个千万年进化来的这个goal。

AI的goal是什么么？如果是人给予的，那么AI就是人的工具，这样的goal来自于人，也一定能够是为人的生存这个基本goal服务的一个细分之下的部分，这样的话，从逻辑上AI很难对人类造成威胁，对部分人类可能会，但是人类内部本来就存在人之间的威胁，一部分人掌握的工具对另一部分人造成威胁这不是什么新闻。但是这样的AI不可能取代整体人类而不造成其无所依存，最极致的话这样的工具就是核弹，可以毁灭人类，但是自身不可能会生存下去。

另一种当然是人类造出的AI具备自我制定goal的能力，这样推理下去容易得出可能产生与人类争夺资源的goal，或者某种人类目前还不能理解的goal，那么自然可能出现AI最终取代人类的问题。但是一这样的能力现在超出人类的思维能力，比如人对自己从何而来向何而去都弄不明白，发明了这么多宗教哲学，大部分人大部分时间一生中做的仍然是为着生存这个与单细胞生物同样的goal，有什么理由认为人发明的AI可能具备更复杂高深不能为人类所理解的goal呢？

二，这样的goal是不是AI进一步发展的关键障碍。这个问题同样可以回过头来观察人类。比如这个自主意识的研究发现大多数人大多数时间不过是在做着行尸走肉一般的决定，只不过人类的大脑骗了我们似乎我们非常睿智的做出了合理的推理的结果。就算看大多数人类目前在做的工作，不论是达到经济决策，股市投资，战争政治，小到网购，房屋买卖，甚至两性相吸，这个世界上有几个人是真正的在制定goal，而其他大多数人不过是自觉或不自觉的在履行自己那一部分。图钉社会也好，农民起义也好，有多少是有自主goal的，比如那个李自成本来是邮差，洪秀全本来做老师等传说。人真正在做的真的是创造历史么。为什么人都无法摆脱对权利，金钱的热衷，为什么从来没有够？

这样的人类的goal，虽然不比单细胞高级多少，但是在巨大智商释放下创造了我们今天看到的这个人类主宰的地球。有什么道理认为AI一定需要高深复杂的goal，甚至需要超越人类的自身的goal呢。换一个角度看的话，人类的发展也揭示了一个道理，即智商与goal没有什么本质上的依存关系。就像人类这样无论巨大的智商为自己开发出多么复杂的超级goal，以及配套的系统，哲学，理论，都没有超越过为这个单细胞生存goal服务的宿命。道理也很简单，因为否则的话人类的存在本身一旦面临威胁，所有的这些人类发明的东西马上就得绕道而行。

这其实是一个good news。说明AI同样可能遵循同样的制约，不论其智能超越人类多少倍，只要AI的最原始goal是服务于人类，或者某一部分人类的，其发明出再复杂高深，人类看不懂的goal与方法，也不需要担心，所以人类对AI没有什么可担心的。但寄希望于AI传承人类思想，这个还很不现实，至少看不出AI有什么以人类思想为基础的必要。只要是人的工具，AI出现与人不一样的对世界的理解不是不可以与不可能。

另外智能也不依赖于感情或者欲望这些生物为了在有限的智商基础上生存而进化出来的“快速通道”，比如恐惧，惊慌，兴奋，爱恋等，许多生物都有，AI暂时没有这个需求，也许以后为了与人打交道有这个需要。

李开复最近在纽时说的那个倒是比较接近，真正担心AI的是今天不掌握资源的那部分人。如果说核弹带来的是政权之间的绝对控制权的话，那么AI带来的是人之间绝对的控制权。以目前AI水平判断，在可见未来AI实际上依存于数据权上，因此这里所指的资源也主要是指数据资源，当然首推国家机器，然后是行业寡头。以美国最近两代总统选举来看，西方民主选举都可能破产于AI之下，因此AI的发展影响最大的很可能是社会结构本身，而不是世界格局。