主题:【原创】围绕脑科学而发生的若干玄想 -- 鸿乾
我写了个程序,程序的目的是“学习词语”,我希望它可以达到2岁左右小孩的水平。
每个神经元都是一串字符,例如 0A,10,0A0B等等。
初始的神经元从00-FF,一共256个。
规则只有一个,拼接:就是把两个神经元的字符拼接在一起去形成新的神经元。
我提供一个训练文本,就是把一段文本用二进制方式输入。
——————————————
程序逻辑是
1、按照神经元权重随机激活一个神经元
2、被激活的神经元去拼接一个未拼接过的神经元并形成一个新的神经元
若新神经元在训练文本中存在,则被激活的神经元权重增加,否则不变。
持续重复以上过程。
——————————————
通过各类不同的训练文本的输入,通过大量的迭代,来观察整个程序的运行结果。主要观察形成了哪些神经元及其权重。
所形成的神经元和训练文本密切相关。
一些不完整的经验总结
1、由于汉字是由2个字符组成的,在全随机的情况下,识别出汉字的时候的概率相当低。但是只要教一个文本中有的汉字(就是预先生成一个2个字符的汉字神经元,并且把权重+1),整个程序的汉字识别概率就大幅度上升。
2、先输入一段中文训练文本,10000次迭代后“学会”中文字词,在此基础上输入一段英文训练文本,经过10000次迭代基本很难“学会”英文单词。
如果是直接输入英文训练文本,10000次迭代后可以“学会”若干英文单词。
本帖一共被 1 帖 引用 (帖内工具实现)
- 相关回复 上下关系8
🙂你把这个东西想的太复杂了 2 燕轻笑 字176 2014-02-12 19:02:15
🙂是类似narrative science那样的吧 1 原手 字376 2014-02-23 15:24:06
🙂你的这个东西应该很有趣,请多多讲讲 鸿乾 字314 2014-02-13 13:26:17
🙂我的工作是这样的
🙂我现在好像有些理解你的东西了 2 鸿乾 字466 2014-02-21 18:34:41
🙂很好的实验 2 鸿乾 字402 2014-02-18 16:55:02
🙂由于据说人脑潜力远未用尽,也许也接近节点不断增加 桥上 字42 2014-03-31 11:34:51
🙂给个链接:中国记者谈国防先进科技局(DARPA) 4 鸿乾 字399 2013-01-13 10:51:18