主题：刘亚洲涉及严重经济贪腐问题或被判死缓，希望是真的 -- 睡醒的猫
家园 这个思路叫做【模型蒸馏法】 用一个比原始模型小得多的模型实现原始模型八九成的效果。
https://zhuanlan.zhihu.com/p/93287223
alpaca证明对于gpt，模型蒸馏法也是存在的。
家园 新技术本身就会导致社会制度改变 -- 补充帖 将来会有个名词叫“AI垄断”。只要不改变制度的话
马克思说过，手推磨产生的是封建主的社会，蒸汽磨产生的是工业资本家的社会。
家园 主席让衡水高考工厂晚出现了30年 -- 补充帖 1964年，主席在春节谈话中说
毛主席：让××、×××都参加这个小组。现在我们搞得太死了，课程太多，考得太死，我们不赞成。现在的教育办法是摧残人材，摧残青年。我不赞成读那么多书。考试办法是对付敌人，害死人，要停止。
https://www.marxists.org/chinese/maozedong/1968/5-063.htm
现在看来，毛主席这说的不就是衡水高考工厂的雏形么。于是当时主席一声令下，上大学改成了推荐制。高考从二共时又从零开始卷，因此衡水高考工厂约等于晚出现了30年，这时候计算机互联网都普及了，衡水高考工厂的坏影响就大大减小了。
家园 衡水高考工厂对现在的社会进步没有任何意义和价值！ 推动社会进步的是创新能力！
家园 中国现有的教育体系从77年恢复高考以来 经过46年时间的努力，已经基本搭建完成，覆盖了一个人从出生到30岁，也正好是前半生，是一个非常完整的规训体系，并且成功地挟制了社会上大多数人，还有很多相关的产业。
你可以说这个体系问题多，造成了很多严重后果，但是不能说这个体系不完善。太多的人在这个体系上吃饭，想改，基本不可能。
2023年开年，我们听到远方一声巨响，来了一条好消息和一条坏消息，好消息是CHATGPT来了；坏消息也是CHATGPT来了。
真有点像当年大清子民在海边看到大英的坚船利炮的感脚。
通宝推：杨微粒,
本帖一共被 1 帖 引用 (帖内工具实现)家园 毁人不倦，只能推倒重来了。 中国现有的教育体系从77年恢复高考以来
经过46年时间的努力，已经基本搭建完成，覆盖了一个人从出生到30岁，也正好是前半生，是一个非常完整的规训体系，并且成功地挟制了社会上大多数人，还有很多相关的产业。
家园 ChatGPT布署的成本极高，训练一次需要数十万美元 每一次搜索成本是GOOGLE的十倍。未来更大更强的模型所需成本只可能更高。
将来教育和科研都将成为重资产行业。
家园 对比一下PC革命 未来的大语言模型也好，AGI也罢，最终都必然会像个人PC和手机一样，走向分布式个人终端部署使用。就像云游戏永远不可能取代本地游戏运行一样，使用集中化的云服务效率必然低于分布式部署的效率。只要稍微了解过计算机发展历史的就知道，早期计算机中的大型机、中型机、小型机什么的，都是类似于你们幻想中的云服务，都是一台大型计算机n个客户使用（是不是很像现在的chat-gpt？），为此unix还搞了多客户权限。但随着时代的发展，最终还是个人PC胜出，但也不意味着大型计算机被淘汰，这是另外一个话题，这里就不讨论了 作者：至高满赛
https://www.zhihu.com/question/593793650/answer/2971049409
这就跟云游戏此路不通一个道理。
以美国游戏机市场为例，主要用户（轻度玩家）在一台主机上硬件软件总费用不会超过1000美元，游戏机一般是5年一代，那么每年最高消费就是200美元，也就是说包月要有竞争力，不能超过15美元。注意，注意，这15美元还是针对传统家用机玩家来说的，云游戏要超越传统家用机，必然要让玩家成本比传统更便宜。
这实际上就是把买主机的钱按月支付，而且你玩的越久付钱越多，跟买游戏机正好相反。没有任何的革命性可言，相反还多了很多麻烦。
https://zhuanlan.zhihu.com/p/69117985
现在ChatGPT Plus那20美元包月的模式恐怕无法持续。AI或者云游戏是重算力的应用，和twitter、微博那些CRUD（增删改查）操作完全不同，不存在规模效应。淘宝支持一个网店，需要一台服务器，但是同时支持100个网店并不需要100台服务器。对于AI或者云游戏，事情就不一样了，100个人同时玩云游戏，那需要的算力就是一个人玩的百倍。
另外，运行在本地PC的AI就不用担心被和谐或者审核。
个人PC可以随便玩游戏而公司、大学的大中型机不行，所以当年PC革命，PC代替了大中型机。本地AI可以放心地生成黄文黄图黄色视频，chatgpt不行，那一定会有一群人像乔布斯和沃兹尼亚卡研究Apple II那样研究AI。
家园 未必，要看模型蒸馏蒸得咋样 家园 另外一个能暗示模型蒸馏的其实是gpt自己 据说gpt训练语料中92%是英文，中文只有0.16%。
然而就是这0.16%的中文语料生成的内容，很多时候效果还不错。
家园 对的，农村已经出不了做题家， 出了做题家也没有用，官方吹捧的是谷爱凌。
早晨我还在跟同事讲，鸡娃差不多些就行了，普通人家的子弟，读了书也是打工送外卖。
一旦阶层固化，国就是权贵的国，与屁民无干了。
周期律开始。
家园 阶层固化是好事， 阶层彻底固化的那一天就是新革命的开端。
家园 想得美 “我们这批做题家”，你觉得自己上车了就关上车门开走了啊？
啥子门阀，我们无非就是从乡下普通人变成省城一线城市普通人。
虽然现在大学生成为“成功人士”的概率降低了，但是数量上去了啊，十倍耶，所以绝对值还是增加的，并且是大大增加。