主题:【原创】AI 幻觉 -- 孟词宗
- 共: 💬 18 🌺 78
- 新: 💬 18 🌺 7
复 走多条路线吧
第四个就是调用搜索引擎,约等于公司内部聘请外部专家,来对答案进行评审;
网络搜索是不可靠的。这些年来网络上充满了各种虚假信息。搜索到的东西往往是虚假和错误的。AI 出现后又造成新的闭环:AI 幻觉的东西(例如老胡文章里的“时空折叠算法”)被放到网络上,然后又被 AI 拿来当作证据。😂
其实训练 AI 和教育人类小孩一样。都要建立一个基础标准。例如 1+1=2, 9.8>9.11 等等。另外一些基础的观念也要建立。其实就是建立数学基础和建立“三观”。然后从这个基础出发来进行回答。而回答要偏离(联想度)基础标准多少就可以设立权重。而且还可以根据不同场景加以调节。例如在作数据分析时,就绝对不能偏离。而在要求有“不落窠臼的想象力”(英语叫 Thinking out of the box)的情况时,则可以根据情况加大偏离的权重。
- 相关回复 上下关系8
🙂AI 写文言的副作用 5 孟词宗 字370 2025-03-05 17:39:49
🙂走多条路线吧 4 陈王奋起 字611 2025-03-05 14:25:13
🙂他说的有道理,昨天我找白藤村,查到了马汉民,这是一个2007 4 真离 字288 2025-03-05 22:56:38
🙂网络搜索是不可靠的
🙂AI辅助的技术搜索结果,无中生有的很多,一本正经的骗人不少 14 方平 字2699 2025-03-06 03:26:16
🙂AI这种幻觉很快就会消失 1 陈王奋起 字465 2025-03-06 08:01:21
🙂还有人在故意投喂,污染AI。 履虎 字0 2025-03-06 05:10:38
🙂幻觉这点很头疼 3 懒厨 字122 2025-03-05 05:41:13