回复：解密：我的2004年-2008年AI研究笔记

-<2006/11/24>--------------------------------------------------------------------
为什么在坐车时思维更加活跃？
车外闪现的场景不断刺激着视觉神经，这种刺激是在无意识下完成的，或者可以看成是一种暗示的涌现，造成大脑神经的活跃，也就是说可能有新的连接和突触在大量的诞生。
神经网络结构一开始是疏松的，是后天的复杂环境刺激造就了复杂的神经网络结构。
表明神经元长出新的连接和突触与外界刺激有一定的关系。
神经元的尝试机制是在外界不断的刺激下诞生的，随机地与周围神经元建立新的联系。

-<2006/11/25>--------------------------------------------------------------------
>>
如果我接受的（Hebb）记忆底层规则从一开始就是错误的，那么整个理论体系将会崩塌，所有的努力和成果将变为零，这造成的打击是全面性的
需要调查
难道强化机制是一种类似 易化 或者 与的操作 ？和靶神经元的激活没有关系？？
我觉得自己的想法是正确的
>>
不同的脑区有不同神经结构布局，不是所有地方都是相同的 
>>
有没有专门的发放造成敏感递质的神经元存在？ 敏感化是不是Hebb所说的突触加强机制？？
>>
求证记忆底层规则结果：
Hebb认为每当一个神经元对另一个神经元的激活有贡献时，这条路径的连接强度将得到加强，Hebb学习通过一个调整连接强度的简单算法实现。
>>
奖励机制的本因是为了更好的促进适应环境的行为产生
>>记忆的基础
简单的规则就是：
当彼此连接的两个神经元同时处于激活状态，那么它们的彼此的连接将会加强。
这种现象至今还令我兴奋不已，因为它揭示了记忆形成的基本底层机制和规则，也让不可知的大脑运行方式变为可知，让人们明白大脑的复杂运作方式是由许许多多简单底层规则组成的，如果这些底层规则是可知的，就表明它可以被模拟，人工智能就有了发展的前景。

-<2006/11/26>--------------------------------------------------------------------
胶质细胞组成的网络对神经元网络起促进和支持作用。我觉得在信息传递和学习记忆机制形成上不是最主要的
人工神经元网络概念和实现方式完全可以抽象化，可以把一部分胶质细胞的作用变为概念，容入到人工神经元网络里

-<2006/11/27>--------------------------------------------------------------------
>>
两个问题
Ca在回流突触前后，对神经元生长出新的突触和连接有没有促进作用？
如果是有作用的，那么和以前认为的“反复刺激下产生新的突触”的概念是否有矛盾，
加入“绝对不应期”概念后，对神经网络模型的可行性的问题。
绝对不应期的作用是什么？
>>
海兔建立起条件化反应是一种易化现象

-<2006/11/28>--------------------------------------------------------------------
>>
关于Hebb学习法则的求证
 
>>
究竟是两个神经元参与，还是三个神经元参与？
 
>>
需要详尽的生化求证结果
 
>>
它和敏感化的易化反映有无关联？
 
 
>>
本质是什么，是一切现象的基础
 
多么希望单纯的思考问题，从现象出发来解释一切，当然可以从心理学角度来诠释智能，但学习是什么，它的本质在宏观上永远也找不到正确结果，我觉得学习机制的本质在更小的研究领域，也就是从离子通道和神经递质等微小结构上找到答案。
 
当然最后通过这些方法研究出的真相和答案，将会用抽象概括的概念来运用到人工智能上来。所以在结果出来之前我们不能通过哲学的方法看待它们，这也许就是科学在几百年前从哲学分离出来的原因吧，我们的研究需要的是具体化，细致话，万物只有一种答案。
 
“1+1=2”这只是现象，我们现在需要了解1是什么 +是什么 =是什么，才能发现真相。简单的现象里包含着复杂的本质。
 
如果你所建造的大厦在基础部分存在漏洞，那么建立在漏洞上的一切浮华都是虚幻的，大厦的轰然倒塌只是时间问题，浪费的一切都将成为灾难的一部分。
 
>>
关于Ca+流入NMDA通道后，起了什么影响？
 
关于镁离子塞子被冲开的这种现象，会不会导致突触前的强度持久变强或者说是长时间的稳固？ （星型细胞会不会参与这种“记忆”的稳固） 这种增强可以维持多久？
（接受递质能力的增强，并不能说明对突触前起到什么增强作用，这只是一种现象，表面上看进入靶神经元的递质的确增加了）

-<2006/11/29>--------------------------------------------------------------------
>>
Hebb学习法则原文：
When an axon of a cell A is near enough to excite cell B or repeatedly or persistently takes part in firing it, some growth or metabolic change takes place in both cells such that A's efficiency, as one of the cells firing B, is increased. 
也就是说，每当一个神经元对另一个神经元的激活有贡献时，这条路径的连接强度将得到加强，Hebb学习是通过一个调整连接强度的简单算法实现。
 
Hebb学习法则在人工智能领域里的神经网络研究方面是一教条性的经典法则，它简小精悍，用概括的手法解释了学习记忆的底层规则，甚至条件反射的建立也有这个法则的参与。它也适用与哲学、心理学、社会关系学等诸多领域。
 
一些神经生物学书籍的参考，自己归纳了一下：
“突触前神经元的激活，并且突触后神经元这个时候也去极化（激活），就打开了突触后上的NMDA通道，导致Ca2+的流入和提高突触后对递质接受能力，流入的Ca2+又造成了“逆行信使”分子产生和靶神经元的生理变化，“逆行信使”分子又回逆到突触前，改变了其生化结构，促进了LTP的形成，导致突触前的强化。”
 
这个发现为Hebb学习法则找到了有力的生化证明，是给了我一颗定心丸，同时巩固了以往建立的理论体系和价值观。
(用了五天的时间去证明，反反复复的肯定到否定在到肯定中探索真相)
>>
流入突触后的Ca2+又造成了靶神经元的生理变化，为产生新的突触创造了基础
也证明了我认为的经常刺激的神经元会长出新的连接这个假设

-<2006/11/30>--------------------------------------------------------------------
>>
去极化的含义是不是等同于神经元的激活？是局部现象还是整体现象？
问题是否又回逆到“与强化机制假说”的讨论范畴上来了？
 
>>
一切起因就是从《智力演化的今昔》中的大脑“达尔文机”的运作机制开始“标准间距相互再兴奋和NMDA突触强度的增高配合得天衣无缝，这都是因为存在同步化趋势。新出现的特性常常来自这种似乎无关事件的组合。”
当时我在想“要么Hebb错了，要么卡尔文错了，真是不敢相信...”
 
此次的学术震荡，不亚于“日心学说”和“进化论”给世界带来的冲击，对自我的认识起到颠覆作用
 
>>
可能：同步到达的兴奋性递质造成（大量正离子的进入）后膜去极化趋势增强，持续同步刺激后最终导致去极化发生，打开了NMDA通道，造成突触前的强化
 
>>
问题是“与强化机制假说”和“激活强化机制理论”是并存的，还是只有一个是真的？
 
激进派提出的“与强化机制假说”为了时空模式的“达尔文机”理论模型开道，保守派坚持的“激活强化机制理论”为了维护原有的理论模型和价值观。
 
并存的话就是“同步强化机制”，兼容了两个机制的特性，希望对理论分歧缓解。
 
保守派和激进派对无法马上接受对方，都希望找到证据剔除对方，我想“同步强化机制”这一假说，并不是最后的结果。
 
>>
“与”操作会起到一定强化作用，而“激活强化”作用更大一些。

-<2006/12/01>--------------------------------------------------------------------
>>
会不会单个突触持续激活就能引发记忆痕迹？
可能，但效果很微小，没有“与”的共同作用下的效果明显
 
算法：贡献总值，单位时间内给予靶神经元的兴奋递质量的总和，来分配决定每一个贡献的突触的奖励大小(分红) 单个的奖励效果值+总和分红+激活奖励
 
>>
这样会加快两极的不公平，我觉得强化值应该是一样的。强化多少只不过是区分记忆发生的次数 
 
>>
记忆痕迹学说主张每一次的刺激都会或多或少的在突触上留下痕迹，而激活的时候效果会变地更显著些。
 
记忆痕迹学说是“与强化理论的变种”
主张：不会颠覆原有的价值观，而是在完善它

-<2006/12/02>--------------------------------------------------------------------
>>
除非产生强烈的去极化，NMDA通道才能被彻底打开，而刚形成的兴奋性突触后没有AMPA通道，所以即使激活它，也不能产生强化作用，成为“沉默突触”。强化的产生和AMPA通道插入有关，诱发电动电位产生后，Ca2+流入产生了AMPA通道插入。
当去极化产生后马上造成电动电位产生，那么突触才可以被强化。
>>
Hebb提出，每当一个突触成功地参与一次对突触后神经元的激发，它就会变得强大一点。
>>
“与强化理论”在生化证明中被否定了，经典的“激活强化理论”没有被证伪。Hebb理论是正确的！
>>
神经生长因子对神经元的存活起着重要作用，而它是由靶神经元激活后逆向提供的。

-<2006/12/03>--------------------------------------------------------------------
>>
信息的反射，类似《育成计划》中的概念 ，一个单词就是一个神经元
香蕉 ： [黄色的] + [水果] + [长的] + [弯的] + [甜的] 
给定一些条件，造成一些反射，的出结果
可以使用Hebb规则和自组织
可以加入新的单词（神经元），当然一次性加入相同的单元不只是一个，这样有助与分散性，和反射的多重性
关键这些神经元（单词）储存空间结构是什么样子？空间结构决定自组织方式
>>
反导实验
调节发射角度 拦截发射 接触地面惩罚 击中目标奖励

-<2006/12/06>--------------------------------------------------------------------
>>
如何唤起过去的记忆，如何在繁杂的记忆中找出答案 
>>
联想是彼此存在连接关系的信息单元互动的表现，类似条件反射的互动，但参与的反射连接数量众多，互动复杂。 
>>
记忆是被唤起的 
记忆可能是某个或者某些条件元素反复激活，增加了条件元素的连接数量或者强度，逐步对结果产生作用。就像、人们回忆某事的时候，反复自言自语某些单词或事件。
我的初级思路： 
通过放大局部信息的连接强度，来激活或者唤起与之相关的信息响应，然后通过复制竞争，得到相关的信息

-<2006/12/07>--------------------------------------------------------------------
同时响应的事物存在联系，但它们的联系可能是牢固的，也可能是微弱的 
但反过来问，同时响应的单元，会不会建立起联系??? 
也就是连接从无到有的创建机制又是什么呢？

-<2006/12/08>--------------------------------------------------------------------
>>
记忆的分布式模型
>>
信息条件元素的搜索来确定事物的可行性调查？（心理学和哲学上的尝试）
联想到什么？
[红的] 
[红的] [圆的] 
[红的] [圆的] [重的] 
[红的] [圆的] [重的] [硬的] 
是否可以用信息属性来识别事物？用连接强度的好处？用信息属性的好处？
[火车] [声音] -> [呜呜]
类似这样的反射的建立的关系，在联想中的作用？
>>
类似卡尔文所说的“香蕉委员会”结构

-<2006/12/09>--------------------------------------------------------------------
>>
条件回忆 2个或2个以上的条件 多元
目标回忆 1个对象或条件 一元
>>两个相关的信息之间的连接是互连的，只是两个连接强度不同
>>反射链的同时响应，连接值最高的一个信息优先出现（马上被激活）
如果不只一个呢？如何在不用搜索的方法直接比较优先级？

-<2006/12/11>--------------------------------------------------------------------
>>信息元网络理论
 
信息元：是信息元素的简称
信息元是信息的载体，可以记录某一事物的一种属性或者状态。
 
信息元级别有高低之分，
高层信息元可以是由与之联系很多的低层信息元共同作用产生的，层次的“高低之分”都是相对而言的，高层信息元也可以和同等级的信息元组成更高层次的信息元。
高层信息元是底层信息元的总效应一种代表（代理），信息元级别越高所具有的信息稳定性越低
信息元层次间的联系是互连的，如： [红色] 〓 [颜色] ，只不过是两条连接的强度有差别
信息元的激活，是由与之相连的所有信息元输入的总值和该信息元的阀值进行比较，如果大于阀值就代表激活
记忆的分布式，信息元的激活依据所有输入的总值，但是并不代表必须所有输入共同参与，缺少一些输入也是有可能产生激活效果，这就起到了输入容错和模糊的效果。
记忆的强化也是遵循Hebb法则
同一层次的信息元无法建立连接，只能通过更上一层次的信息元做中介才能联系
如[绿色] 与 [红色] 中介联系的是[颜色]
大多数情况下人们接受到的信息都是一个信息元网络，或者说是一个最高层次的信息元代表，而网络里包括它所有的属性信息，如[某某人]、[樱花]、[美国]等等