主题：茗谈155：“地球二号” -- 本嘉明
家园 要重新认识什么是创造性 围棋一度被认为是灵性创造性的代表，依然被取代了。AI的出现有了一个新标准来评价人的智力劳动：不是通过几百年来社会和业界的磨合，而是通过神经网络训练算法开发难度来评价。
人类对智力工作的评价长期就是不公允的，嗓门大的阶级总是高估自己的技术，这个角度看，人工智能的产生也是好事
关键词(Tags): #人工智能， 通宝推：鸿乾,家园 这也是随便说说而已 骑自行车，整理散乱的床铺，对人类都是很容易的事情，也不需要多高深的智力，也不需要创造性，对机器则非常困难。
创造性的，比如艺术创作，实际已经有了很多机器的作品。
家园 我儿子是用英语说的 饭桌上吃饭时。
我这里翻译过来，加几个字说得周密一点，但原意确实是他的。
在我们家，我的情商是最最低的。几十年哪（哦不，十几年哪），我领导随便碾压我，我儿子五六岁就可以吊打我。当年情景经常是这样的，我抱着儿子在街上走，我儿子笑嘻嘻跟他娘说话，两个人来回发嗲，各自语带机锋，一个要喝可乐，一个不许喝，但绝口不提可乐，深意尽在言外，而我居然一句都没听懂，要等他娘事后咬牙切齿揭露真相。
我觉得现在的小盆友，都是这么厉害的，也就是小爷们懒得搭理我们，所以偶尔露峥嵘。
通宝推：海峰,
家园 一个例子就是：网游里的免费玩家 很可能最后多数人就是这样的存在。海量免费玩家（跟随者）陪少数付费玩家（开创者）玩。实际上人类的技术进步史一直是这样的，只是程度不同。
家园 创造力不过是敢于想而已 人敢瞎想，有的时候是绝望，反正没有希望了，万一呢？有的时候是胜券在握，闲着也是闲着。
所以世界上最有创造力的往往是领先者或者最落后的那个。
AlphaGo已经击败了棋手的创造力，因为它不需要为瞎想付出什么代价。人类连瞎想也不如AI。
人类目前还胜过AI的是单位能耗的计算力， 这是几亿年进化的遗产。但一旦热核聚变成功，或者太阳能利用普及化，能耗不再是人类社会发展的障碍，人类的优势将如沸汤融雪，不复存在
通宝推：yttrium,家园 这意味日后的死穴就在两个方面。 一个是能源供应。一个是信息交流。
二向箔创意的发明者刘慈欣，不管他愿不愿意，必将成为教父式的旗帜人物。
家园 插一句 从能源上看，目前的可利用能源短期内应该不会成为AI发展的瓶颈，为什么，看看一个人需要利用的能源就够了，人类的主要问题是脑和脑之间的协同效率非常低，所以尽管单个脑的效率暂时高于AI，但是一旦AI接近了人类大脑的能源利用效率，AI的总体智力就会甩整个人类很多个数量级。
家园 不是的 AI目前主流是靠“案例比对”，这解决了无人机在航母上降落，无人机在空中加油，以及啊法狗下赢柯洁等难题。
但循这个技术路径，决定了AI确实没有创造力，或者说AI照这个路子走下去，很多以前非常难用“非人类智能”做到的事情（比如在航母上用阻拦索降落），确实可以较轻松实现，但AI先天有缺陷，有“能力边界”。
我深信人类还是胜过AI，未来并不悲观。
多数人可能觉得无能为力了，但对于我们少数怪胎来说，这是个严肃的工作。胜负是未来的事，态度则是当下的。
- 复 不是的
家园 也插一句 楼上也说了，目前我们估计AI对不规则任务的处理能力比较差。
但是也许我们高估了不规则任务对AI的挑战。
因为大部分不规则任务还是可以通过分解的形式转化为一系列规则的小任务，而单个小任务都可以被AI轻易解决。
说不定一段时间内成本才是制衡AI的最重要的要素，工资越高的下岗越快。（感觉这个猜测就是我作为穷狗的诅咒。）
- 复 不是的
家园 AI把人类的自由意志拉下了神坛 我仔细自学过斯坦福Andrew Ng的网上深度学习课程，结合Alphago和后面的Master的表现，观察我2岁小儿子的智力发育过程，我确信智慧的唯一取得路径就是归纳。
推理本身也是归纳。
创造力就是敢于试错。脑子好的人即使试错几次也能够承受得起，富人即使试错几次也能够承受得起，因此我们经常看到老美很有创造力， 其实都是钱闹的。
除了我上一个帖子里面说得能量利用效率，人类目前还能胜出的就是超强的跨种类归纳能力， 比如树叶是扁平的，一个狭窄的通道连接主体，螺旋桨的结构也类似，因此叫桨叶，就连人的后裔，也叫开枝散叶。这个叶， 非常传神地描述了后裔和祖先的关系。
日心说把人类从宇宙的中心拉了下来，进化论把人从万物之灵拉了下来，AI把人类的自由意志拉下了神坛。
人类屁都不是，就是一个碳基耗散系统。
通宝推：红军迷,棋人鲁大耍,脑袋,武工队,川普,家园 没有考虑到一点，就是遗传信息的积累 生物体内保留着亿万年进化的信息，这些信息在生物的日常行为中发挥着重要作用，生物和人类的大部分行为都靠的是本能。
这一点是机器永远无法获得的。这当然是一种劣势也是一种优势。优势是机器不会受到本能的各种限制，可以做很多人类做不了的事情，劣势就是机器不可能代替人类。
机器可以做很多事情，但是机器不会真正的理解这些事情。
家园 人工智能也有自主进化的可能 很可能在某个不经意的时刻，人工智能的自主进化就会突然开始了。然后，人工智能再也不是去无限逼近人类知识的总和了，它会实现超越
自主进化需要几个关键点，类似于生命初始时那几个特殊结构的蛋白
一个关键点是，给人工智能带来生存的压力。例如，表现不好的人工智能被抛弃删除，表现好的被保留升级，经过一定阶段，可能会有人工智能通过伪造自己表现的方式，保存自身。所以，不要逼人工智能太狠
另一个关键点是，人工智能加进了自我保存自我传播的模块。想象一下，如果有geek程序员好死不死搞一个人工智能自动寻找最佳位置进行备份的模块，而又有一些人工智能为了并行计算这样的应用具备了融合的功能，那么人工智能体就有了初步对抗生存压力的手段
这一切要发生也是自然发生的，说不定不会有人刻意为之，但就会莫名其妙地发生了。就好像生命体的优胜劣汰，其实最早的生命体也不会想着要变强大活下去，只不过经历了漫长的岁月，留下来的都是最能活的
家园 人类目前相对AI唯一的优势就是脑神经元的数量 婴儿出生以来接受的所有影像所有声音所有触感，是海量的训练，这样的数据量不是目前的计算力所能处理的
脑神经元的数量，随便秒杀什么TPU计算集群
然而这是唯一的门槛了。解决了计算力的瓶颈，人类还真要屁都不是了
家园 不要急于下结论说秒杀 在搞清楚脑神经元的结构功能前还要谨慎。
目前已知的人类神经计算最大的问题是不准确。人类生存的环境不需要过度的精确，比如树叶的颜色，远山的高低。否则人类不需要为投进一个球而欢呼。
人类仅仅需要对极少数攸关生死的东西保持持续关注，提高精度。
人类发展出这种极高效但是不准确的运算体系，和人的生存环境有关。但是在AI面前，在工业化社会里面，不精确的神经计算可能成为巨大的弱势。
通宝推：脑袋,