主题：对ChatGPT的几点思考 -- 唐家山
家园 养儿防老 做为一种生娃动机随着经济发展肯定在逐渐从文化去消失，在一般发达国家中早就不存在了。但是养娃的情绪价值却是很难代替的。亲友中的丁克说起情绪问题，我一般先看是不是与没养过娃这个角度着眼，因为丁克没有相关体验这方面就是个空白，换句话说就是人生不完整，认知上有难以跨域的硬伤，在养娃上看书旁观与自己经历完全不一样，只有过来人才有真正的理解。
当然养宠物确实也有一定的情绪价值替代作用，但宠物寿命短，而且不能全方位的与养娃相提并论。 比如娃小的时候可能经历与养宠物差不多，但是十几年后看到一个个顶天立地亭亭玉立，内心的成就感不是任何成就感等情绪满足可以相提并论的，而宠物带来的情绪价值基本上局限于类似婴幼儿前几年的体验。比如丁克看到别家有儿有女初长成，因为不是自己养育的所以基本无感，而且自己并不会意识到这个情绪差别。所以认知上存在个"you don't know what you don't know“的情形。甚至连太监羡慕嫉妒正常人的新婚之夜婚外恋的情绪都没有，所以丁克生命中出现某些情绪问题往往自己都找不到情绪定位来源。
AI如果以后做到从物理上可以模拟动物，代替宠物是完全可能的，但像科幻电影中代替夭折的娃那类，只能作为精神治疗手段，无法全方位满足人类的情绪需求。
通宝推：睡前采风,
家园 LLM大战，毛子下场。 英国之后，俄国“ChatGPT国家队”来了
2023/4/27 11:46:28
AI领域混战再度升级，“国家队”纷纷出手，俄罗斯GigaChat加入AI聊天机器人竞赛。
本周一，俄罗斯联邦储蓄银行（Sberbank）宣布，已推出一项名为GigaChat的技术，与ChatGPT展开竞争。
按照该银行的说法，GigaChat不同于其他聊天机器人的地方在于它能够用俄语进行智能交流。
不过，GigaChat目前还处于初始的测试模式，仅限受邀请用户参与。
俄罗斯联邦储蓄银行是俄罗斯一家占据主导地位的大型银行，近年来在科技领域投入了大量资金，试图减少俄罗斯对进口的依赖。
去年年底，OpenAI 发布了聊天机器人ChatGPT，在科技行业掀起了一场AI竞备赛。企业希望重塑人们的工作方式，并在此过程中创造利润。
自从ChatGPT火爆以来，AI在全球范围内快速发展。中美两国是这场竞争中的佼佼者，欧洲除了在监管上重拳出击GPT，其他方面暂时还没有什么动作。英国动作格外高调，英国首相苏纳克、科技大臣多内兰及多家政府机构联合宣布，将斥资1亿英镑（1.25亿美元）开发其“国家AI”。
通宝推：唐家山,家园 这个周末 找到一个开源简易版GBT，可以在个人电脑上运行，相对于动辄几百万几千万的LLM训练开销，这个模型的训练成本只需要300美元，有的反馈甚至使用中等GPU显卡都可以流畅运行，但是测试结果目前以OpenAI的chatGBT4版为对标，可以达到90%。
一直想找到一款可以自己定制，既保护隐私也能对个人生活提供最大便利的LLM产品，这个周末准备装起来试验一下。
现在有时看着仍在上学的各种年龄的孩子们，有一种彷徨感，真不知道他们成年后的世界里生活工作逻辑会有多大的改变，但肯定的是与我们这代人的逻辑一定有很大的差距，只是福祸未知。
通宝推：唐家山,
家园 终于在知乎上翻到一篇比较全面有深度还可以看懂的 有点长，但干货满满的。
ChatGPT 有多高的技术壁垒？国内外除了 OpenAI 还有谁可以做到类似程度？
https://www.zhihu.com/question/581806122/answer/2948403321
把作者最后两段抄一下，不愿全读的可以直接看这里，不过其中名词与术语文中都有详细说明，最好通读一遍。
5 人类和ChatGPT的本质区别是什么？因为我们的脑科学和神经科学非常不发达，这里只能从哲学寻求解答。BTW，除非脑科学产生重大的范式突破，不然neurallink这种脑机接口，是不可能实现大家想像中的那些功能的。但我们不是哲学专家，这里就仅供参考。判断力
ChatGPT再厉害，也只能去吸取虚拟数字中的数字信号，是无法与现实世界做真实交互的。它可以听一万个专家告诉他做A就会得到B，但是不从真实世界中做实验，就无法从最底层确认这个说法究竟是真是假。绝知此事要躬行，才能有判断力的根基。
“Eureka”
牛顿看到苹果落地，可以发现万有引力，从而预测星星的运动。哥白尼发现地球是围绕太阳转的，而在他之前全地球人天天看着日出日落，都认为太阳是绕着地球转的。如果那个时候有一个ChatGPT，一定非常笃定太阳绕着地球转。那个ChatGPT也许能从苹果如何落地推测出桃子如何落地，但是大概率无法推测出星星的运动方式。
当然，能发现万有引力的人也是少数。更有意义的是去识别这种思维能力到底是什么，以及在我们日常生活中如何体现。阿基米德在泡澡时候发现浮力定律的时候喊了“Eureka”，大概可以形容这种“灵感并发、灵光一现”的瞬间。我们这里把这个瞬间稍稍具体地归结为“链接了数个相关的点，并且发现了第三个点”的过程。
增量知识
如果把现有知识归纳总结应用， 那必然PK不过ChatGPT。只有创造互联网上不存在的新知识，才可能是ChatGPT做不到的。注意条件指向，互联网上不存在的新知识，也未必不能从存量知识里总结出来，但是能从存量知识里总结出来的，一定不是人类的优势。
理解人
人类的文本知识里一定存在很多人性的理解，但是也一定有一些人性或者偏好，是没有被记录总结在文字里的。如果我们结合1和3，就会发现，去真实世界理解人，而不是去通过调研、问卷、网络资料理解人；去带来增量的理解，而不是去人云亦云地重复套路。才是人类相对于ChatGPT的优势。
6 总结
ChatGPT的范式突破是“乌鸦”能力。恕我能力所限，无法更简单地无损表达这一能力的本质了。如果允许有损，我会用“理解”能力来概括它最重要的一面。作为对比，过往ML的能力模式是“鹦鹉”能力，所做的是寻找“对应关系”ChatGPT的意义是对“调用算力、总结信息”最究极的手段，预测会在两年内有能力辅助人类取代大多数可被定义为“搬砖”类型的工作ChatGPT的“乌鸦”能力是涌现的，工程难度是极高的。我们应该抛弃各种噪音，聚焦关注Google是否能复现这一能力，从而判定这一能力到底有多难。而现在，建议我们的默认预测是这一能力很难复现，需要别人来用强力证据说服我们他们能复现我们对ChatGPT的使用应该观望OpenAI给我们提供的调用方式，在当下，我们应该聚焦用好ChatGPT，并且做好ChatGPT能力与我们所需要解决问题的的中间层。
通宝推：广宽,唐家山,chuchong,家园 引用的这一段里提到的一些思想，我一两个月以前与同学 讨论的时候也提到过。
智慧是有分类和层次的，AI现在能达到的相当于文字般若吧
AI要谈感情先要有七情六欲的物质基础
痛觉传感器先发明一遍吧
先探讨一下电力不足与充足的“饥饱感”吧
可以参照一下六般若，想象一下AI能体验到哪一层：
六般若是一而六，六而一，无非是回到当下，请大家仔细看佛陀圣像手中的金婆罗华：
①文字般若：“现在请大家仔细看佛陀圣像手中的金婆罗华”这句话是文字般若；
②方便般若：大家仔细看佛陀圣像手中的金婆罗华这个行为是契入般若境界的方便，是方便般若；
③观照般若：您仔细看金婆罗华的时候行为就是观照般若，妄想皆无，这时已经远离了分别意识，就是观照般若；
④实相般若：这时候您的心灵境界就是实相般若；
⑤眷属般若：这时候您已经成就了布施度、持戒度、忍辱度、精进度、禅定度，所以，其它五度当下成了般若的眷属，宇宙万法当下成了般若的眷属，所以是眷属般若；
⑥境界般若：这时候您的自心一方面没有妄想，一方面明明白白清清楚楚，同时具备这两点的现前一念、当下一念就是佛境界，所以是境界般若。
关于AI，我记得有一本概论的前言整个就是在讨论“Can machine think?”这个问题，这个问题可以分解成三个问题：什么是机器？什么是思考？怎样算作“能”？到目前为止我所见过的关于AI的讨论没有能超出这三个问题范围的
chatgpt宁犯语义错误，不犯语法错误
说到AI能否理解人类的情绪或者感情的物质基础，有一个问题可以类比：
人与人之间的沟通远高于人与机器的沟通，那么男人能否通过与女人的沟通像女人一样理解月经和分娩的感受？或者反过来女人能够像男人一样理解前列腺病痛的感受？
本帖一共被 1 帖 引用 (帖内工具实现)家园 光有“痛觉传感器”还远远不够 -- 有补充 只能产生基本的“应激反应”。而情感是高级动物才有的，是进化过程中产生的相当高级的功能，是在“脑”进化到高级阶段才产生的，在情感的基础上才会产生人这种社会化的动物以及基于大脑的人类智能。
基于“脑”的这个智能和社会性昆虫如蚂蚁的“群体智能”是不同的。后者更像是某种算法。
海里的章鱼智商也很高，也是基于“脑”的。但章鱼的智能在实现方式上也和人类有很大区别。打个比方就是人类的是单核CPU而章鱼是多核CPU，章鱼的有1个主脑+82上副脑（在腕足上），在这个星球上属于相当独特的形式。但人类和章鱼却可以玩到一起却不能和蚂蚁玩在一起，可能就是因为章鱼的智能仍然是基于“脑”的而蚂蚁却不是。
而AI现在连“应激反应”都还没有，离有“情感”还不知道有多远，更不要提人类的智能了。
从某个角度看，AI的智能反而和蚂蚁的更相似：都是基于算法的。
通宝推：桥上,作者 对本帖的 补充(1)家园 《安德的游戏》里有个情节 -- 补充帖 人类和外星人打仗，打得很艰苦，但最后还是得到了个打掉对方老巢的机会。然而这时敌方舰队看到人类这个行为似乎傻掉了，没采取什么有效行动，最终老巢被端，人类取得胜利。
当人类指挥官到对方星球时，发现有一个人类儿童的游乐园。感情原来外星人是个类似蚂蚁的群体智能，他们其实是在和人类玩耍，所以当看到人类会进攻老巢时傻掉了：他们之间玩的时候不会进攻老巢，没想到人类玩真的。
家园 安德的游戏不是那么写的 安德进攻虫子的老窝的时候，虫子们不是没有反应，是没有料到人类军队会完全不顾生命发起死亡冲锋。而且最后一只人类星舰冲过了防线的时候虫子的星舰都在外围。这个桥段在安德还在少年军校最后一场模拟的时候就铺垫过。
安德后来在外星发现的人类游乐园是虫子们留给他的信物，证明虫子们确实努力和人类交流过，只是交流无法进行，只能通过Ansible联系到安德玩的电脑游戏，所以虫子们就复制了游戏里面的游乐园，等待安德发现它，然后交托给他最后一个虫卵。
按虫子们的逻辑，它们发动对地球的战争是因为不知道人类是智慧生物，等到知道了之后又无法和人类沟通。等到人类扑过来的时候因为安德的天才指挥又被全灭了。
作者差不多靠安德吃了一辈子，写了几十本安德系列的书。安德这个系列其实第二本最好，只是不如第一本戏剧性。其他的除了安德的影子都一般。
安德的游戏是挺适合小男孩看的书，我带儿子去电影院看的第一部电影就是安德的游戏。他那时候才5岁，电影是英文对白日文字幕，他两样都不懂，但是看得津津有味。后来长大了看完了图书馆所有Orson Scott的书。自己还续写了一本。再后来去面试中学的奖学金考试，发现和校长先生都是安德的同好，还挺开心的。
家园 正是因为无法沟通所以对方才觉得人类也是虫族 虫族尝试和飞行器中的人类进行沟通但失败了，所以才觉得这些飞行器中的是和工蚂一样没有智慧的个体。
我说的这个实际上是人类的英雄马泽在第二次战役中发现的。他当时在绝境中自暴自弃下反而成功打掉了对方的一个母虫，才发现了对方的弱点，证明这才是人类唯一的取胜之道。
而第三次战役时马泽已经老了（如果不是利用相对论效用实际上应该已经老死了），而安德被选中也主要是因为他在学校中表现出的能直取对方老巢能力，可以执行在第二次战役中发现的这个战略战术。（由于对方有很多母虫，所以要把它们集中到一颗行星上才能一网打尽，所以既需要很强的战略能力，也需要很强的战术能力）。
那个儿童乐园确实是按照安德的记忆修建的，因为他是虫族唯一能（单向）沟通的人类，这也是尝试和他进行沟通的手段之一。
见前补充 4920681 家园 食色性也 人脑固然精密，但之所以成为人脑，还是被欲望及其满足塑造成型的，但给计算机安排欲望及其满足机制首先要让计算机有对外交流的机能。
家园 很好的视角，感情与智能的关系我也困惑 各种证据尤其心理学，强烈显然人类的情绪成分与智能有着分不开的关系，但显然这不是目前AI发展的主流，甚至是AI从理论上胜过人类的特点，所以这个角度的深入目前没有太多基础，很容易滑入玄学。至少目前理论上没有结论关于人类的情绪感情对于AI发展高级智能是否是个必然条件。
关于最后一段ChatGBT宁犯语义错误不犯语法错误，这倒是很好理解，毕竟寻找下一个词的算法才是GBT等LLM的精髓，而语言中的语法规则是最规范的部分，这方面是语言模型成功与否的最基本指标。 至于语义则全在留给人的所谓“理解”印象，类似图灵试验，对面是什么都蒙着面条件下，对方是否有“理解”，“推理”，“胡编”的能力全在于接收方的判断，但前提是接收方具备高于输出方的智能。 GBT至少达到了这样一个水平，就是其“涌现”能力接近接收方的判断天花板，从接收方（缺省定义就是普通人）角度说，不容易判断GBT是否真的理解，推理或者撒谎，必须借助其他途径与工具，或者接收方自身具备在specific领域中的experty。 所以是否可以100%取信于BGT是一个问题，但GBT达到这个水平本身才是让接收方惊艳的地方。
强调图灵试验与接收方视角，主因还是目前AI的黑匣子现实，因此人类包括心理学哲学领域的灵魂拷问，关于思考的理解等，目前无法在AI上找到着力点，只能处于并行世界一般的轨迹，最后走多远走出什么结果，谁说知道可以直接判断是大神 😁
通宝推：唐家山,