主题：茗谈155：“地球二号” -- 本嘉明
家园 AI再强大，终归是物质 作为二元论者，我相信人类意识的特殊性，人类总归是不可代替的。
AI确实是一种好事物，可以把更多的人从繁重的工作中解放出来，去思考更高深的科学哲学理论。
有一些担心的是被解放出来的民众安于享乐，腐化堕落。
家园 我看这很好，这是苍天的惩罚，天意不可违 内容但是AI有个致命的，社会学的问题。科学技术的发展史，从哲学范畴来说，是无限趋近邪恶的，从光谱的白端走去黑端。以前有“羊吃人”，今后很快就是“AI吃人”。因为AI在世界最强大的那几个“能把实验室发现迅速变现的怪胎工科男军团”的拱卫下，想到就能做到，想有光就有光，一定会有突破，一定会很快地在制造业中蔓延开来。到那时候，普通人的就业怎么办？AI吃人我看很好，人吃掉了，像刘学伟讲的，留下神人（或者我喜欢的叫半神）活在世上。我看很好，因为这是苍天的惩罚，违背天意就要受其咎，没有出路的。独一条出路，就是帮着加速，早点开始吃人，早吃胜于晚吃。
AI能不能彻底代替人？像那个印度小说讲，只有一个小男孩，剩下的都死掉了，被AI代替了。几百年内，我看是不行的。情感和判断，目前的技术，很难模拟。比如医生，很多东西要大开膛才看得出来，片子啊核磁啊，也不是一览无余。真要用AI代替了，一开膛发现血管和别的黏连了，经验的医生那就是要求延长手术，慢慢拉开。然后养养再说。AI可能直接就拉开，结果拉破了，大出血死掉，这是不行的，代替不来。所以肯定的，AI吃不了所有的人。
不过AI能不能代替部分人？或者说人的部分？这是无疑的。机械手做到夹螺丝，能开啤酒，视觉有三四岁小孩，脑子能打败柯洁。三个一结合，很多活儿不用人做了。而且还是那种很需要人手的活儿，就不用人做了。所以说要吃人了。可是我就想问了，被吃的就无辜？不该被吃？咱就这么说，AI要吃人，本叔你会不会被吃？不好说，也许也是被吃的。可是本叔你喊了，AI要吃人，要逃走，至少也要赶紧想辙。你想辙了，管用不管用不知道，但是至少你自救了，如果你不是要被吃的那一群，你就是救人了，是大功德。那么天下人几几像你？这么说，天下要被吃的人，几几如本叔你一般？有你这水准？如果他没你这水准，被吃那不就是天理吗？狼来了，羊跑了，没跑过或者跑过了，被没被吃都是天理循环。如果坐在那里等狼来吃，被吃那更是天理昭彰不是吗？
很多先贤，早早看出这个问题，大声疾呼，要救世，当然也试验过了，或许没成功，或曰不那么成功。但是问题还是那个问题不是吗？结果呢，众愚急不可耐，把先贤抛弃了，不要了。先贤东西躺在图书馆里睡大觉，尽搞些弱智的。然后世界就被霉体毁了，像我说的，一脸幸福的去喝辐射水吸辐射气去了。咱都不说水准到了我们的先贤，连和我们先贤对着干的一些人，众愚有达到他们的那种思考高度吗？还不是只看一个片面结论？甚至说，众愚到了你本叔这个思考高度吗？到了你看世界的水平了吗？不还是脑子一团浆糊吗？不还是把畜生的需求当一切，当生活的全部吗？我还要问了，有什么阻止众愚去找先贤吗？图书馆不让进吗？网络不让上吗？不让随便进图书馆不让上网的年代不也有灰皮书手抄本吗？现在的灰皮书手抄本又在哪里呢？就算是有，里面的内容到底是把人提升到本叔你这个标准啊，还是把人愚的更彻底呀？不还是后者吗？而且不就是因为后者，众愚们还是不能提升，不能来看本叔你的东西，不去听先贤的疾呼，只想混吃等死，以人造的、自以为是的乐为乐，等着上天堂吗？所以已经是这样，干嘛不让他们被AI吃啊？被AI吃掉我看很好啊，苍天不是没有给机会，给机会自己不抓住，或者没抓住，起码有个意识，意识驱使下写写遗嘱了，这也是好的。连意识也没有，被吃掉不是很正常吗？我看不但应该觉得正常，还要大吃特吃来得好。全世界吃它个十几二十亿，也许就觉悟了。就知道完了。然后知道过去信的什么都他娘是狗屁，觉悟了，去反抗或者写遗嘱。反抗成功了，新世界来了。反抗失败了，总是有遗嘱在，那么后人看了遗嘱，领了遗产，还是要反抗，最后结果还是新世界来了。无非是一个好的新世界在那一代人来的问题。如果吃了十几二十亿还不觉悟，还是公元7世纪8世纪，甚至史前那一套，那就再吃。吃到剩下十个亿或者几个亿，正好够半神的数目，还是新世界来了。半神的新世界也是新世界。而且谁能否认那也是一个好的新世界呢？本叔你要是被吃，你这一篇就是你的遗嘱。你要是升神了 ，你会在新世界里有更大的作用。一个半神的新世界，总得是半神们到了本叔你这境界了，或者至少也是个缺了本叔你的这些提法运行不下去的世界。那不是非常好吗？至少不用吸辐射气也欢乐的来吧？所以我看还是开始吃吧，加速吃，统统吃，大吃特吃，吃出一个新世界来！！！
家园 不行不行 你唠叨得长一点是可以的。骂娘也是可以的。
但不能叫我叔，这个毁我三观。
我跟你的看法不同，这两天在追《军师联盟》，回头慢慢讲。
家园 那天听刘慈欣在伦敦的访谈 刘说的一句话让我头皮发炸：AI人工智能大规模应用可能会颠覆人类社会的一个基本逻辑：不劳者无食。
家园 人类社会规律是“劳心者治人” 人类社会规律是“劳心者治人，劳力者治于人”。
AI的出现，社会不需要太多的劳心者，只要有少数超级劳心者借助超级AI，就可以统治全球上百亿的劳力者。
整个社会，从金字塔形社会坍塌成图钉社会。住在高不可攀的奥利匹克山峰的少数神仙，借助AI，统治如蚂蚁一般的众劳力者。
家园 你错了 魏国出了个司马懿，曹家是更舒坦了，还是更紧张了？
AI不是人类，人类必须有克制那个“超级AI”的办法，然后才敢放心使用，放心不断升级。
但是在克制的可靠方法找到之前，人类就不研发“机器司马懿”了？不可能，美国怕中国抢先，中国怕美国抢先------大家都会冒险先搞起来，至于克制的办法，同步研究。
这个超级AI第一版搞出来，就协助总参谋部搞“兵棋推演”。随着部队里的无人战斗平台增多，“超级AI”就由总参谋长，升为司令，直接指挥到单兵。这样不知不觉，魏国大权，就旁落到司马懿手里了。
所以，人类一定要培养出“半神”。“半神”就是《三体》里的“持剑者”，他们平日不涉及细务，唯一的职责就是一旦AI造反，去扑灭反叛，确保人类对文明（地球文明和外星殖民地文明）的统治权。
你觉得打造“半神”是很容易的吗？人类迄今的所有科学，哲学，宗教的遗产/结晶，哪一样可以帮到我们？以前的遗产帮得到我们的话，柯洁还会输得不敢再试吗？
马云他们那么起劲地把AI搞下去，说不定是在毁灭人类，偏偏我们还不愿意去阻止他们。
这不是少数“肉食者”的事情，这事关每个人的子孙后代。克制不住AI的话，在AI的“眼”里，所有的人类都是多余的。司马昭立国了，曹家不是碍事的吗？
人类的“劳心者”们，正面对一个几乎是不可能完成的任务，不过多数人根本还在鸵鸟罢了。
通宝推：秦波仁者,- 复 你错了
家园 几百年后的事情，是不必要担忧的 ai要当司马懿，我看要几百年，搞不好一千年。几十年我觉得当不上。几十年一百年，还是老本你说的，小ai遍地开花。各行各业ai化开始。半神来了，普工完蛋。这是几十年的趋势。
真要是几百年了，我说我们不要担忧。要对子孙有信心。没信心了，要出现天网剧情，那也是子孙该着。儿孙自有儿孙福，儿孙也自有儿孙祸。我们担忧太早了。我们这一代能搞成ai，让它走上司马懿的道路。死之前能看到这“司马懿”能把绿教徒，第三世界，小清新，白左公知等等垃圾从地表上抹掉，那就满足了，还要什么。天网都是可接受的
- 复 你错了
家园 AI在未来扮演的角色，其实就是取决于AI掌握在谁手里， AI在未来扮演的角色，其实就是取决于AI掌握在谁手里，为谁服务，AI掌握在少数人手里，为少数人服务，就是司马氏，迟早要取人类而代之，AI为多数人服务，就是人们的好朋友好帮手，是人类进步的阶梯。
我觉得现在的美国正走在危险的路上，将来美国的AI技术必然是由少数大公司开发并占有的，未来也只可能服务于这些大公司，就像大明的宝船，既大又先进，但是只为皇家服务，而中国的AI像哥伦布麦哲伦的小船，既小又落后，但是民间发起，皇家支持，形成了新的赢利模式的，可以惠及大众。
- 复 你错了
家园 AI是没有意志的 AI没有意志，或者说没有欲望。有欲望有意志的是人，是操纵AI的人。
我不认为AI会发展出毁灭人类的欲望，毕竟AI依赖人类而生。
人类是AI的寄主，如果人类消失了，AI即使可以控制电力供应，难道就能应付一切的自然损耗？没有人类，台风、白蚁、老鼠、蟑螂、地震、灰尘，随时可以让AI见鬼去。
就以本大的例子，本大所谓的魏国大权，就旁落到司马懿手里了，这个司马懿，实际上就是少数操纵AI的人。最后的结果，就是少数几个人，拥有操纵和毁灭全人类的权力。
我认为短期内（50年内）AI对人类的影响，就是少数人控制地球上的超级AI，拥有超级权势，上升为神；大部分中间阶层沦落凡间。
AI最大的冲击，是对于中间阶层的冲击。至于底层，本来就在凡间，再坏也坏不到哪里去了。
- 复 AI是没有意志的
家园 你认为柯洁能操纵阿法狗吗？ 当然，那个技术团队现在能操纵阿法狗，但计算机技术的特性，决定了“机器司马懿”最后是自行升级，自行发展的，因为人类的智慧已经跟不上了。
那天我儿子说最后中国一个魔头，美国一个魔头，我说好啊，那就不用打仗了，它们两个打一盘游戏，谁赢了谁起草《联合公报》。
我儿子低头料理他的饭菜，平淡地说：“会的，不过它们会专为自己设计一个游戏，我们人类根本看不懂的。”
家园 本大，我觉得你太拔高现有的深度学习/AI了； 其实真的没啥特别惊世骇俗的颠覆性的发展；
家园 2005年的时候， 你预见得到今天会有一台围棋棋力20段的电脑吗？研制这台电脑时，没有征用一个现有的9段棋手。
有了阿法狗之后，事实上体育总局就不需要保留围棋队了，而应该去“务正业”，研制中国自己的“太湖神威狗”，21段，去赢阿法狗。至于民间人士还热爱围棋的，你们继续练着，但是国家不再养你们。要打人类的围棋赛了，国家临时征召柯洁他们就行了，计件发钱，一个世界冠军多少奖金。
电脑能把围棋下到20段，就能做一个战役的参谋作业，就能做兵棋推演，就能针对某个特定国家展开步骤复杂的心理战，就能针对世界金融和期货市场制定攻击计划------有了软件（计划），再辅以硬件（军队，投机资金，媒体+NGO，黑客团队），就可以兴风作浪，和平灭国。而受攻击方要抵抗和反击，就只能研发自己的“机器司马懿”。这等于说，八国联军有机枪了，义和团不能派1000个弓箭手去对付一挺机枪。用上一代的手段，靠数量优势去消灭下一代的战争技术，是不可能的。能反“超级AI”的，就是我们自己的“超级AI”。
AI+大数据，以整个国家，甚至于整个人类为“用武之地”，既能载舟，亦能覆舟。
电脑技术跟普通的工业技术不同，一台拖拉机不能“生”出一台小拖拉机。但软件技术可以自洽，自我发展。请问，一台有自备电源，拥有严密的自我防护手段的“阿法狗”，你没有任何物理方法去摧毁它，下棋又下不赢它，那么人类继续学习下围棋，还有什么意义？因为从“保护围棋这个文化遗产，保持最高棋力水平，继续提升围棋棋艺”这三个主要方面来说，人类都已经被淘汰了。围棋已经被阿法狗“夺了兵权”了，人类要夺回来，唯一的办法就是耍赖，把阿法狗断电。
有别于自然界固有的事务，围棋是人类创造的艺术，战争是人类创造的艺术，政治斗争也是人类创造的艺术。AI能夺走第一样，为什么不能夺走其他的？
通宝推：川普,SenatorZhao,拿不准,秦波仁者,惟望汉威远,海峰,家园 当前人工智能的黑箱属性决定了它只能是辅助而不可能代替人 因为：第一，数据量限制未必能训练出来。除了围棋，有几个行业的应用场景是完全信息的，而且能靠左右互搏学习提高的呢？第二，很难保证程序不抽风（像与李世石下棋时那样），导致辛辛苦苦几十年，一夜回到解放前。最要命的是，它还是个水平比你高的黑箱！从来只告诉你结果，不告诉你过程！你所能做的只有盲从！换句话说，只要它抽风，你就死定了！除非用别的技术路线，否则必然需要人最后把关。
人工智能与人类的关系，就是参谋与指挥官的关系。指挥官负责制定意图和审核方案，而参谋负责根据指挥官的意图制定方案。经由参谋分担了更多细节性和技术性工作，指挥官可以关注真正重要的事情。指挥官没有因为参谋的出现而失业，反而能够完成更大的任务。
对真理和逻辑的追求（而不是满足于大数据导向），对未知领域的敬畏和自我反思（而不是一错到底）正是人优于机器的地方。而机器作为参谋如果越位，就会像二战中的日本参谋一样暴走，造成灾难性后果。
通宝推：海峰,