阿西莫夫吧 关注:6,142贴子:43,667
  • 39回复贴,共1

对于AI是否能够产生情感或自我意识的一点看法

只看楼主收藏回复

首先,讨论的数学原理是图灵机架构,也可以包含元胞自动机等等价架构。
工程实现为冯氏架构,或者基于冯氏架构的非冯架构。
(生科学生,数字逻辑考得一般,求轻喷)
情感是如何产生的?
从硬件和软件两方面考虑
硬件上,足够完善的大脑是承载情感演算的前提。人类在进化中,由于神经系统发达逐渐成为了人类与其竞争物种相比的最大优势(工具出现之后人类基本就是在开无双),故大脑本身站在了自然选择的磨刀石上。由此进化出了一个可以承载感情的大脑。
“软件”上,我们借用一个概念“模因”(出自《自私的基因》),其含义是信息会像基因一样发生自然选择,有利于其自身延续的被保留,不利于其自身延续的被遗忘。
举个栗子:舍身取义和苟且偷生的思想,按照基因的概念理解,它们都有让自己延续下去的优势(前者虽然导致持有人死亡概率提高,但在被这些人以生命保护的人中会高速扩增,后者虽然不易大范围扩增,但持有人死亡概率低,并且与生物的天性(活下去,天性不是这个的早灭绝了)较为接近,家族内言传身教传播较快)故类似于基因,在不同文化背景下形成了较为稳定的模因比例,并且也在发生相应的突变和融合(例如从“舍身取义”改为“以智谋对敌”,从“苟且偷生”变为“要死的有价值”等)
值得一提的是,基因的自然选择依赖个体的死亡比例,几百代人才能表现出差别,所以生物进化周期极长,而模因的自然选择则依赖人们的思想转变,一代人就可以变化很大(例如四十年前人们还很保守,现在。。。炮火连天。。。(话说笔者认为这不是个好事情!)这种演化速度相对于人类的基因演化相比,高了几个数量级。
其实,这也是人类不追求肉体力量进化,而是不停的研究改进工具的原因——“肉体力量”的基因进化周期比“工具制法”的基因进化周期长得太多了。
而情感,就是这样演化出的一个模因。
情感是如何在演化中成为主流的?人类为何没有进化出一个黑暗森林般的社会?
(未完待续,欢迎插楼,不喜插楼者请只看楼主)
(学了一学期数字逻辑之后的一点看法(虽然考砸了)求各位发表观点)
@丹莫刺尔 @yangxinyue1996 @自由的Gisela


IP属地:湖北来自Android客户端1楼2016-06-07 18:48回复
    前排围观!


    来自Android客户端2楼2016-06-07 19:08
    回复
      现在回到最开始的话题:人工智能。我们考虑的是基于图灵机,冯诺伊曼架构的人工智能,或者更进一步说,目前的计算机能够实现的人工智能。
      对于一个人工智能,自我学习的能力是必要的。作为一个强人工智能,你甚至需要创新。
      之前总有人和我说“计算机是很机械的,只有0和1,思维这样复杂的东西计算机是不可能模拟的”
      这种时候我经常会范围一句“所以你的神经元上面可以跑模拟信号?”
      很不幸,我们的神经信号,就目前人类的研究而言,也是非0则1的。
      (总有人说思维涉及量子物理,我在这里澄清一下,目前已知的生化反应没有亚原子尺度反应(拜托,细胞里面搞核反应堆是闹哪样啊),而化学反应尺度上,量子力学的影响已经几乎可以忽略不计了。)
      容我吐个槽:量子力学也是几十年前就搞出来的基本成熟的学科了,虽然那玩意不好学也不好懂,丫的也别把所有看起来有点玄乎的玩意都往量子力学上堆啊!虽然传统的哥本哈根观察者解释听上去有点唯心,但是那就是个波函数塌缩的解释,不是说量子力学本身能和唯心体系兼容啊!现在是个科学还没解释的东西或者新兴唯心思想都往量子力学上靠,思维也是量子态,灵魂也是量子态,神明也是量子态,量子力学会哭的好吗?
      其实这里,我们已经开始接触人工智能发展中最可怕的一个问题:
      科幻小说里,电影里,甚至是我们自己的心目中,我们都认为,电脑不懂人心,也永远不可能懂。
      我们曾经想当然的以为,计算机只会计算,会进行逻辑判断,然后按照判断的结果,高效而呆板的解决问题。
      我们对于机器人的想象,也是这样一台会走路的人形电脑,它高效,它大力,但它不懂感情,不知道人为何爱为何恨,会为了“保护人的安全”把人关进牢笼,会为了“做最好的早饭”把地球做成糕点。
      但那只是“机器人”,不是“人工智能”。
      (未完待续)
      (按照机器人的定义,红绿灯也是一个机器人(程序控制,输入输出),并且非常符合我们认知中机器人呆板的形象——即使没人,也会自动按时变化,但那决不能称作AI)


      IP属地:湖北来自Android客户端5楼2016-06-08 01:10
      回复
        所以,什么是人工智能呢?
        在这一点上,我不赞成图灵判据(根据第三方在聊天中能否识别判断),原因是中文房间理论。
        (中文房间:房间里有一个人,完全不懂中文。但他有一个对码本,外面的人写一句中文,他就按着对码本,将对应的回复写上,塞出去,对码本甚至具有“同一个问题问两次会烦”、“某些事情按这个人的情况应该不知道”和“这个问题一般要思考10秒,所以你应该隔10秒再把纸条递出去”的考虑。这样,人们都以为房间里是一个懂中文的人,但其实他根本不懂中文。)
        不如从根子说,不考虑代码怎么写,只提电脑能干什么。
        ——逻辑判断
        ——人能做什么
        ——逻辑判断
        ——人还有感情,还有创新能力,还会思考......
        ——感情的解释上面说过了,创新可以理解为科学和技术两部分,科学是从自然现象中总结规律,技术是判断这些规律能否用于改善目前的工具(广义的“工具”),这些追根究底都是由大量逻辑判断构成的
        ——我们虽然计算慢,但是有灵感,有直觉......
        ——人脑按照神经元数目和突触数目推算,其运算能力远远超过电脑(没错,就是这样,只不过脑子里没有“计算器”这个软件,而是在用“意识”去理解数字和运算的概念然后再去运算,如果用天河二号模拟意识,然后让这个意识去理解数字和运算,那估计比我们还慢)而直觉,则是潜意识中对于过往大量经验进行分析,在数据不足的情况下得到的一个可行概率较高的解。
        下面是另一种思路
        ——说到底,现在没有人工智能,我们空口说白话能证明什么呢?
        ——取一个人类精子,一个人类卵细胞,在子宫内结合。细胞经过多次分裂,逐渐形成桑椹胚,而后是囊胚,原肠胚,而后,神经系统,也就是人工智能的硬件,逐步演化产生。。。
        ——这是人,不是电脑。
        ——不,这是人工智能硬件的制造。为什么人工智能的平台不能是神经细胞逻辑门组成的系统,而非要使用半导体逻辑门呢?或者说难道在母体子宫中的孕育不算制造?生物虽然复杂,仍旧是化学反应和物理现象的集合。
        ——那么,孩子生下来之后,如何处理呢?
        ——让父母抚养他,长大之后,送他去上学,毕业后进入社会,参加工作。
        ——这是养孩子,不是编程。
        ——脑回路本身就具有逻辑判断能力,并且本身具有进化算法:常使用并得到积极反馈的连接强化,没有信号通过对连接降解,父母的抚养,学校的教育,社会的影响都是输入的信息。进化算法本身,就是对大量输入信息通过各种随机参数进行处理,通过输出结果的反馈保留处理参数的最优解,然后再让这些最优解发生重组和突变,然后迭代运算找出新的最优解。而这些最优解的集合,就是这个人工智能的意识。
        ——你不如说这是这个人的意识和三观。
        ——但是,为什么不能说他是他父母制造的人工智能呢?


        IP属地:湖北来自Android客户端6楼2016-06-08 01:59
        回复
          这便是人工智能研究中最可怕的一面:
          我们认为人与AI的本质区别是X特性。
          为了探究人类思维本质,大量的人去研究X。
          X的本质被发现了。
          按照X的本质设计算法,AI具备了X特性。
          我们现在认为人与AI的本质区别是X+1特性。
          真正可怕的,不是天网,不是奥创,更不是把地球做成糕点的早餐机器人。而是我们逐渐发现,我们与AI的区别越来越小。
          我们是人,万物灵长,但甚至却不比AI强。
          目前,AI不如人类思维的地方,人类对其本质都还不甚理解。换句话说,只要人类理解了自己思维的某一部分,AI就会很快得到这个特性。
          那么当人类思维被人类完全理解之时,AI和人之间,最后的一道墙是什么呢?
          灵魂?有神论者不敬神做AI干啥?想当卡密SAMA吗?
          不信灵魂的话。。。似乎最后一堵墙并不存在。
          如果人类能够理解自身,AI就会得到人类思维的一切特性。
          如果人类不能理解自身。。。人类连自身都无法完全理解的话,这就比AI更可怕了。
          人工智能最可怕的真相是:人和人工智能之间,并没有已知的,不可逾越的理论界限,只是人对自身的理解尚不充足。
          换句话说,我们也就是个强人工智能的水准。


          IP属地:湖北来自Android客户端7楼2016-06-08 02:13
          回复
            不过,讲道理的话,人工智能一定是会有不足之处的。至少,停机判定,就是图灵机做不到的事情。
            (图灵机的停机判定:
            程序执行有两种结果:结束和死循环。
            能否有一个可以判断任意程序被执行时,是可以结束还是陷入死循环的程序?
            假设有。
            设计一个程序,调用判定程序。
            如果判定为可结束,则进入死循环分支。
            如果判定为死循环,这直接结束。
            则判定程序无法工作,与假设矛盾,故假设不成立。
            所以,图灵机架构下,永远写不出可判断任意程序是否会死循环的程序。
            所以,图灵机不是万能的。
            欢呼吧!人工智能虽然厉害,但是终究限于数学基础,并非万能,人类万岁,思维万岁!
            话说,“这句话是假话”是真话还是假话?
            。。。。。。
            人类的思维,同样漏洞百出。


            IP属地:湖北来自Android客户端8楼2016-06-08 02:23
            回复
              完结。以上是在数字逻辑结课之后和几个同学讨论AI的一点看法,不成体系,虽然理论都取自主流理论,但是最后总结出来的观点就不算太主流了。
              就这样了,求新观点和评论,欢迎辩论,求不,仍旧at那几个貌似对AI感兴趣的。@自由的Gisela @yangxinyue1996 @丹莫刺尔


              IP属地:湖北来自Android客户端9楼2016-06-08 02:29
              回复
                一个月惨案


                来自Android客户端10楼2016-07-07 13:02
                回复
                  楼主超赞\(≧▽≦)/


                  IP属地:广东来自Android客户端11楼2016-07-11 10:22
                  回复
                    楼主看过丹·西蒙斯的海伯利安吗,那个里面技术内核由80字节生物进化而来,推荐参考


                    IP属地:美国来自Android客户端13楼2016-07-19 16:14
                    收起回复
                      //自己的玩意半年也不算挖坟
                      学了半年的算法和相关课程
                      发现半年前高估了目前AI的发展情况
                      并且跨专业考研难度远远高于预期
                      而且学C#Java的数模竞赛小组都不要,他们要matlab
                      喵了个咪的,搞个头的AI,回去码PHP去


                      IP属地:湖北14楼2017-01-08 01:05
                      回复
                        半年前圈我的?当时我可能沉迷于漫画补番填坑跑步无法自拔然后就忘了这么回事了。给LZ点个赞面对学长,并不学语言的我先抱着生化书瑟瑟发抖一会儿呃……我真的没有补充的


                        来自Android客户端16楼2017-01-08 12:21
                        回复
                          用科幻的态度了看,AI是可以超越人类。


                          IP属地:广东来自Android客户端17楼2017-01-25 22:54
                          回复