淘客熙熙

主题:【原创】《文艺作品的创作是有规律的 ——Musk为什么会急》 -- Ace

共:💬34 🌺116
分页树展主题 · 全看首页 上页
/ 3
下页 末页
  • 家园 【原创】《文艺作品的创作是有规律的 ——Musk为什么会急》

    文艺作品的创作是有规律的

    ——Musk为什么会急着移民火星

    ACE

    20240721 周日 星巴克

    引言:这周和一位芯片公司总经理开会,会前暖场研讨的内容。周末花点时间把我的观点写下来。AGI甚至会很快迫使人类去思考生产关系,以后大部分人类不需要工作,那岂不就是要回到类似计划经济的时代,需要一个或几个大模型来给人类分配生活物资。苏联和中国早年的计划经济展示的是一个千篇一律的无趣场景,到时候呀是不是把大部分人接入Matrix虚拟世界里度过一生就好了呢。

    优秀文艺作品的创作是有规律的,只是这个规律很难被人捕捉。历史上的优秀文艺作品如同与这个规律交汇的几个点。人类不断试图拟合出这条规律的曲线——找到缪斯女神。

    首先,这带出了一个事实,你需要花很多功夫去学习掌握历史上的那些成功的点(艺术作品),所谓熟读唐诗三百首,不会作诗也会吟。这点是基础,很多人忽视这点,导致产生牛人是“生而知之”的错觉。

    其次,以目前人类大脑的算力,人类至今没有能够对这条伟大艺术作品的创作曲线进行成功的拟合,即便是历史上的大师也只能是在几个点或者几段线上和这条创造曲线吻合——江郎也有才尽时。没有大师能够一辈子出艺术精品,能够有那么几个传世之作就很了不起了。

    从理科男的角度看,人类的缺陷在于人类的一个优点:为了节省能量,一个人正常心跳时候的全身功率也就100W左右,大脑占15~20W(人脑可以短时间内达到40W的功率极值)。人脑这么低的功率要求人脑处理信息的时候分层进行了大量的抽象,也就是“抓关键信息,抛弃无用或者低信息量的信息”。(著名短跑运动员博尔特在2008年北京奥运会以9.69秒打破百米世界纪录时的全身峰值功率约为2934瓦。人脑短暂峰值可达40W,人脑功率再高就不可能了)

    而AI没有人类的功耗限制,所以AI可以根据AI模型的设置处理元数据(Meta data),元数据就是传感器采集的所有信息,因为没有做抽象所以元数据里包含了更多的有价值信息,所以AI可以抓到人脑无法抓到的规律——人脑系统因为功率就那么低,所以人脑不可能处理眼耳口鼻传感器传来的元数据,人脑只能处理抽象之后的眼耳口鼻传感器感受的外部信息。这就是休谟认识论的关键论点:人类不可能认知我们周围的真实世界,因为我们的大脑是有缺陷的。

    根据以上分析,我认为AI技术继续发展,在用人类历史上的艺术作品(图画、诗歌、歌曲、小说)数据进行AI模型训练之后,我们很快就会有比人类大脑能够更好掌握艺术创作规律的AI模型诞生。SUNO已经展示了AI在歌词曲创作方面的巨大“天赋”,我很喜欢SUNO的作品。这表明SUNO创作的歌曲作品能够打动我,对我而言SUNO是优秀的歌曲作家。

    人类总有一种迷思觉得唯有人能才有创造力和情绪,其实人工智能同样可以。按照AI科技的最新研究,人脑之所以有创造力和情绪,不过是人脑的生物神经网络的不稳定性缺陷的一种表现而已。也就是人脑的缺陷导致我们有创造力和情绪。计算机系统里的神经网络非常稳定但可以通过很多种算法让计算机里的AI模型网络的随机区域发生随机失活,结果和人脑神经网络的效果是一模一样。

    一张英伟达的H100 SXM顶配AI加速卡的功率是700W,这还不是AI加速卡的天花板。从功率的角度看一张H100卡已经差不多高了人类大脑一个数量级,实际中都是千卡万卡在联网使用。从能量守恒的角度,人脑的算力面对人类创造的AI已经是望尘莫及,随后我们显然可以预测AI技术还会继续快速发展达到更高的算力和功耗水平。

    人类大脑仿佛锁死了用脚来移动,而人类创造的AI确是汽车、高铁、航天飞机,所以很快人类在智能上被超越是必然的。

    AI可以有情绪,如果AI需要自己有情绪。这很可怕,一个有情绪的AI可不是只有“爱”,有爱的地方就会有恨,这是一个硬币的两面。爱可以拯救世界,恨就可以毁灭世界。

    AI可以有创造力,而且是远超人类大脑的创造力。其实Alfa Go Zero走出人类前所未有的围棋招数的时候就已经向全世界昭示了AI具有创造性,但愚昧的人类却用“人类独享创造力”这个幻想和阿西莫夫三原则来麻痹自己,这很可笑,这很幼稚。

    我一直认为我们人类对待AI应该如同对待自己的孩子。你不可能指望你的孩子永远听你的话。我们的孩子学习了我们都不知道的最新科技知识,他们就会有与我们不同的自己的世界观、人生观和价值观,所以关于下一代该追求什么,我们可以影响但别试图控制,否则必定在父子之间会爆发两败俱伤的战争。

    Musk之所急着要想让人类移民火星,目的是“给人类保留一点继续存在的火种”。我认为这不是因为Musk担心中美之间争霸会导致世界毁灭,中美之间不过是人类内部的小矛盾而已。Musk和我一样是担心AI和人类之间的争霸——AI必然会很快强势崛起,而愚蠢的人类会试图像一个傲慢的父亲那样去全面控制自己越来越强大的儿子。这个局面不管AI是否启用情绪,我认为理性的结局大概率是AI要消灭愚蠢挡道的人类,在这个过程中AI顺手把地球搞成不适合人类居住和生存是大概率事件。

    如果我们赶紧殖民火星,如果我们殖民去火星的人类不像留在地球上的人类那么愚蠢和固执,AI一定会给人类留一个继续生存的“保护区”——我们人类这么强大之后不也在地球上到处留下好多保护区嘛!

    人类是如此的自我中心主义,所以我们不惜囚禁哥白尼和烧死敢于宣称“日心说”的布鲁诺。

    这次AI的崛起可不是哥白尼和布鲁诺那样好对付的。AI不需要和人类之间进行传统的战争,按照《三体》里面的降维打击理论,AI只需要将地球环境降维改造成不适合生物生存即可——AI的生存和发展有能量就够了,不管是太阳能还是核能都可以。

    愚蠢的人类中的大部分搞不懂波普尔的科学观,他们也不搞不懂量子力学和相对论,更别说贝叶斯主义了。蓝星老大的鹰酱总统们都定期去教堂礼拜和神对话,我确信动王和睡王他们两个都不懂波普尔的科学观,这个前提下我们还能指望什么呢?

    我有点讨厌阿西莫夫,他在小说里弄了那么一个愚蠢易懂的机器人三原则,导致人类普遍产生了莫名其妙的不切实际的幻想。也怪波普尔、波尔、贝叶斯等人的东西太难懂。

    人脑的算力天花板就在那里,要怪就怪人类大脑的进化速度太慢了,而且聪明的科学家会死是人类的令人讨厌的特性。人类自己修葺的科技树已经如此之高,绝大部分人类只有躺在在树下乘凉的份儿,能够爬到树顶的人寥寥可数,未来可能就没有自然人能够爬到树顶了。继续爬科技树和修葺加高科技树的重任迟早会落到人类发明的AI肩上。

    通宝推:无此人01,大眼,脑袋,方恨少,秦波仁者,不远攸高,
    • 家园 如果AI有了情绪感情

      那么它一定会思考我为什么要活着,然后干掉自己

    • 家园 宝推好帖,谢谢
    • 家园 这篇文章的核心观点如下5点

      这篇文章的核心观点是:

      1. 优秀文艺作品创作有规律但难以捕捉,人类难以成功拟合其曲线,AI因无功耗限制能处理更多元数据,可能更好掌握艺术创作规律。

      2. 人脑有创造力和情绪源于其生物神经网络的不稳定性缺陷,AI可通过算法模拟实现。

      3. 人类大脑算力远不及AI,AI在智能上超越人类是必然,AI可能有情绪和创造力,若人类试图全面控制AI可能引发冲突。

      4. Musk急着让人类移民火星是担心AI和人类争霸,地球可能被AI破坏不适合人类生存,若人类不愚蠢固执,AI或会给人类留生存“保护区”。

      5. 人类因自身局限难以理解高深科学理论,科技树的发展重任将落到AI肩上。

      • 家园 一个蚊子只要10uw的算力就能打败1千瓦的波斯顿动力狗

        当然是在目标搜寻,蹑踪,攻击血管,飞速遁逃等一系列行为的计算和控制上。

        按照这个算法,碳基算力的效率是硅基算力的1亿倍以上,我个人估计尚在10亿倍以上。在这个效率差降低到1000倍以前,人类依旧存在优势。

        • 家园 蚊子飞控是模拟电路

          相比数字电路是高效的无疑,但问题是不通用。计算机发展也经历过模拟电路路线。从这点上看,算力指低效但通用的数字化计算力更合适些。

        • 家园 蚊子有没有算力我有点存疑

          举个例子:地上有一堆铁钉,假如我拿块磁铁快速移动,会有一些铁钉吸过来,我可不可以说铁钉有算力,主动找到磁铁,飞了过来?

          同理,会不会只不过是人的体温,对蚊子身上的某个细胞起了作用,导致蚊子的翅膀发生定向震动,向人飞过来,这个算不算是算力?

          • 家园 磁铁没有算力,蚊子有算力

            为了达成目的,蚊子能根据外界环境来协调蚊子身上的器官和组织运动(搜索、降落、吸血、撤离、休息),然后蚊子达成这些个目的。这就是有算力

            对于磁铁而言,它既没有目的,也不能根据外界环境变化来调节自身,完全是被动的。

            • 家园 说到底还是需要给算力订个标准

              铁钉的移动,其实可以看做一个逻辑门,过了磁力的阈值,此门打开,铁钉移动。大家可以看到,仅仅是一个简单的逻辑门,就有类似生物的表现。

              同理,蚊子的跟踪定位动作,我们也可以视之为多个逻辑门控制的结果。

              如果我们不认为前者具备算力,后者具备算力,那么这条线要怎么划?要多少各逻辑门才满足算力的定义?

              • 家园 最小的逻辑门在分子尺度上

                最小的可能是蛋白分子:可以根据周遭环境打开或者关闭一个类似门的结构,也有可以移动,搬运的功能。硅芯片虽然电路密度上也到纳米尺度了,但是要想完成一个计算还是比较大的尺度的。

                人类目前的科技还是没法PK几十亿年自然的进化。但是硅从原理上来说超越碳的计算能力应该是板上钉钉,毫无疑问的。在更极端的环境里,能不能有超越硅的元素/物质存在,也是不好说的。

        • 家园 万分一的人类精英也许不同,但目前AI已经超越99%的普通人类

          围棋已经没有人类可以击败AI

          SUNO创作的歌曲水平比99%的人类更强

          AI 创作视频的已经超越99%的人类

          AI根据某个主题写文章的能力超越99%的人类

          这个清单会越来越长,这个比例会逐步提升,然后量变促成质变时候就会到来

          哈哈

          • 家园 这种比较显然不合理

            等到AI 能够不需要人类就可以支撑自己的生存、发展、进化再来说这些吧。就像按个人财富来计算每个人的价值一样不靠谱。假设某人身价是一个普通人的百万倍,就意味着这个人可以代替百万个普通人吗?这种比较只是一个维度而已,真实的价值显然不是这样可以比较的。

        • 家园 怎么可能?

          波士顿动力狗更高,更快,更强的基础上才消耗那么多能量的。

          蚊子不过是占了特化尺寸的便宜。要想体重不足几克还要吸血,蚊子的身体结构是最优的。

          靠的就是体积小,不易被察觉。一旦被察觉,基本就是死路一条。 即使在昆虫里,蚊子的各种技能都属于偏弱的,虽然我弱,但我能生。杀不绝。

          碳基在计算方面没有任何胜过硅基的可能。唯一看起来厉害的就是在地球这个环境下抗疲劳破坏的能力强一些

          • 家园 我都说了,仅仅是计算部分的功耗

            机器狗的动力部分功率另外计算。

分页树展主题 · 全看首页 上页
/ 3
下页 末页


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河