主题：如果要走向强人工智能，openai的路线根本就是错的 -- 亮子
家园 sigmoid是因为大分子合成受到资源限制 前期合成用掉了大量氨基酸、核苷酸，后面就会慢下来，这个现象是普遍的，sigmoid函数各行各业都发现过这个东西。
我对乙肝病毒在肝细胞内的数量建立模型，最后得到的发展模型就是sigmoid，当时我还不知道，没有几天，看到一个曲线，叫逻辑斯蒂曲线，发现和我的结论一样，当时一惊，后来一想，这才是世界上的道理。
一个病毒来到人体，就像一个兔子来到草原，开始的时候尽情繁殖，但谁也敌不过指数增长，于是马上各种资源短缺，后面就慢了下来。
神经反应也一样，是神经电脉冲产生神经递质，然后再生成神经信号传送，最后到大脑皮层。每一次电=化学的信号转换，都有资源约束，都受逻辑斯蒂曲线约束。
因此在2015年以后，我就对人类的神圣性彻底去魅，对人类的所谓自由意志去魅。人类的各种思想和行为，和草履虫没有区别，这就是生命的本质，这就是智慧的本质。
通宝推：五藤高庆,透明,梓童,北纬42度,exprade,桥上,wolfgan,家园 logistic是很多系统存在的条件 远离系统约束边界的时候，系统对事物起到支持作用，事物可以按指数增长。接近系统约束边界时，系统对事物起到抑制作用，事物增长速度转为对数。宏观物体运动速度超不过光速，也是一个原理。
家园 很有道理 看起来这和正态分布一个等级的基础函数，是伽利略所说自然之书的基本词汇。
不过世界观上我们走了相反的路，自从了解了量子理论的神神叨叨后，物质决定意识的从小被培养的基础信念，已经松动。
我现在既唯物，也唯心：哪个好使用哪个。过庙必拜，但科学上解释不清楚的事，也绝不笃信。
家园 自然中有很多相距遥远的过程遵循同一数学模型 这个应该是普遍现象。
但不等于人的思维就只遵循这个模型，应该还是有其他的因素，也许遵循其他模型，不过总归是建立在物质基础上的。
通宝推：ccceee,家园 指数函数是一个很神奇的东西 基本上除了直线，没有比它增长最快的函数了。
以前学电路瞬态分析，脉冲响应，用指数函数从时域化为频域分析，当时认为只是一个数学技巧。后来想，其实相当于摘水果，要把朝天笔直的树枝拉成平直才好摘。指数函数就是那个无论多么挺直都能把它压平的吊坠。
家园 问题是能量 人脑的功率是10W级别的。
现在主流前沿AI的功率是电厂级别的。
那还有啥不值的。
- 复 问题是能量
家园 现在的AI模型就是个虫巢思维体 需要无数个简单思维反应的block, 几千万代迭代淘汰再收敛才能表现出来的统计意义上的高级思维反应。你在前几代AI艺术创作里就能看出某种不可名状的怪异感和异类感，就是人类对虫巢思维体的本能反应。
- 复 问题是能量
家园 机制不一样 你要是机器学习程序都彻底训练好，优化好， 出场之后只需要微调，那估计用的能量也差不了太多。本质上碳基不应该优于硅基。
人这个程序靠着进化微调了上亿年，大多数基本功能其实都不是学会的，是天生就会的。 应该拿这个能量和现在训练一个机器学习程序去比。
- 复 问题是能量
家园 把人脑当做一个电气设备，从而用电能衡量太随意 很可能是受电能利用是当代显学的影响，如果百年后人们人们进入核能普及时代，带块设备都是核电池，说不定人脑又会被当做核反应堆。
更或者大脑（意识）根本就是消耗暗物质暗能量的。必经物质世界才占宇宙五分之一到四分之一。测量其电能消耗搞错了方向。
家园 人脑可能不是线性的，但不意味着线性不能表示人脑功能 支持向量机原理不就是把低维空间的非线性分类投射到高维空间用线性平面进行分类吗？
假如人脑是非线性的，那么这种非线性能不能用线性表示呢？理论上不能否定这种可能吧。
家园 说的就是现在用线性模拟的局限性 1，线性模型的选择没有理论上的证明为什么是它，而不是另一个。相比之下，微积分是基于极限理论，极限经过数学家的努力获得了严格定义，虽然这是在微积分已经开始实用了，虽然那时候无穷小是一个可意会不可言传的东西。现在的深度学习还没有到它的极限定义时刻。现在的大量计算很可能是不必要的，如果有一个更恰当的线性模型或者干脆非线性模型被证明或者定义出来。
家园 局限性肯定有啊，现在还在发展中吧，相关理论还待完善 如同当初微积分发展过程。
但确实在应用中比较好用，有实用价值，也有不足。
另外有个地方商榷下，老兄一直提到线性，神经元模型输入部分虽然是权重和变量线性组合，但sigmoid函数本身是非线性的，这样组成的神经网络整体上不是线性的，虽然线性在其中比重较大。
家园 在现状事实认定上我们没有什么分歧 也许我没表达清楚。我是在表达对现状的感悟：我们既不知道为什么这么做，也不知道为什么这么做就能得出还算满意的结果。借用丘吉尔的话，这不是 AI 的成熟，甚至不是成熟的开始。
家园 有另外一条路线 叫Explainable AI，这样就可以避免你说的：
我们既不知道为什么这么做，也不知道为什么这么做就能得出还算满意的结果。
这家走的就是这个路线：https://www.anthropic.com/，最近也挺热的。