阿西莫夫吧 关注:6,142贴子:43,670
  • 6回复贴,共1

对于AI是否能够产生情感或自我意识的一点看法

取消只看楼主收藏回复

首先,讨论的数学原理是图灵机架构,也可以包含元胞自动机等等价架构。
工程实现为冯氏架构,或者基于冯氏架构的非冯架构。
(生科学生,数字逻辑考得一般,求轻喷)
情感是如何产生的?
从硬件和软件两方面考虑
硬件上,足够完善的大脑是承载情感演算的前提。人类在进化中,由于神经系统发达逐渐成为了人类与其竞争物种相比的最大优势(工具出现之后人类基本就是在开无双),故大脑本身站在了自然选择的磨刀石上。由此进化出了一个可以承载感情的大脑。
“软件”上,我们借用一个概念“模因”(出自《自私的基因》),其含义是信息会像基因一样发生自然选择,有利于其自身延续的被保留,不利于其自身延续的被遗忘。
举个栗子:舍身取义和苟且偷生的思想,按照基因的概念理解,它们都有让自己延续下去的优势(前者虽然导致持有人死亡概率提高,但在被这些人以生命保护的人中会高速扩增,后者虽然不易大范围扩增,但持有人死亡概率低,并且与生物的天性(活下去,天性不是这个的早灭绝了)较为接近,家族内言传身教传播较快)故类似于基因,在不同文化背景下形成了较为稳定的模因比例,并且也在发生相应的突变和融合(例如从“舍身取义”改为“以智谋对敌”,从“苟且偷生”变为“要死的有价值”等)
值得一提的是,基因的自然选择依赖个体的死亡比例,几百代人才能表现出差别,所以生物进化周期极长,而模因的自然选择则依赖人们的思想转变,一代人就可以变化很大(例如四十年前人们还很保守,现在。。。炮火连天。。。(话说笔者认为这不是个好事情!)这种演化速度相对于人类的基因演化相比,高了几个数量级。
其实,这也是人类不追求肉体力量进化,而是不停的研究改进工具的原因——“肉体力量”的基因进化周期比“工具制法”的基因进化周期长得太多了。
而情感,就是这样演化出的一个模因。
情感是如何在演化中成为主流的?人类为何没有进化出一个黑暗森林般的社会?
(未完待续,欢迎插楼,不喜插楼者请只看楼主)
(学了一学期数字逻辑之后的一点看法(虽然考砸了)求各位发表观点)
@丹莫刺尔 @yangxinyue1996 @自由的Gisela


IP属地:湖北来自Android客户端1楼2016-06-07 18:48回复
    现在回到最开始的话题:人工智能。我们考虑的是基于图灵机,冯诺伊曼架构的人工智能,或者更进一步说,目前的计算机能够实现的人工智能。
    对于一个人工智能,自我学习的能力是必要的。作为一个强人工智能,你甚至需要创新。
    之前总有人和我说“计算机是很机械的,只有0和1,思维这样复杂的东西计算机是不可能模拟的”
    这种时候我经常会范围一句“所以你的神经元上面可以跑模拟信号?”
    很不幸,我们的神经信号,就目前人类的研究而言,也是非0则1的。
    (总有人说思维涉及量子物理,我在这里澄清一下,目前已知的生化反应没有亚原子尺度反应(拜托,细胞里面搞核反应堆是闹哪样啊),而化学反应尺度上,量子力学的影响已经几乎可以忽略不计了。)
    容我吐个槽:量子力学也是几十年前就搞出来的基本成熟的学科了,虽然那玩意不好学也不好懂,丫的也别把所有看起来有点玄乎的玩意都往量子力学上堆啊!虽然传统的哥本哈根观察者解释听上去有点唯心,但是那就是个波函数塌缩的解释,不是说量子力学本身能和唯心体系兼容啊!现在是个科学还没解释的东西或者新兴唯心思想都往量子力学上靠,思维也是量子态,灵魂也是量子态,神明也是量子态,量子力学会哭的好吗?
    其实这里,我们已经开始接触人工智能发展中最可怕的一个问题:
    科幻小说里,电影里,甚至是我们自己的心目中,我们都认为,电脑不懂人心,也永远不可能懂。
    我们曾经想当然的以为,计算机只会计算,会进行逻辑判断,然后按照判断的结果,高效而呆板的解决问题。
    我们对于机器人的想象,也是这样一台会走路的人形电脑,它高效,它大力,但它不懂感情,不知道人为何爱为何恨,会为了“保护人的安全”把人关进牢笼,会为了“做最好的早饭”把地球做成糕点。
    但那只是“机器人”,不是“人工智能”。
    (未完待续)
    (按照机器人的定义,红绿灯也是一个机器人(程序控制,输入输出),并且非常符合我们认知中机器人呆板的形象——即使没人,也会自动按时变化,但那决不能称作AI)


    IP属地:湖北来自Android客户端5楼2016-06-08 01:10
    回复
      所以,什么是人工智能呢?
      在这一点上,我不赞成图灵判据(根据第三方在聊天中能否识别判断),原因是中文房间理论。
      (中文房间:房间里有一个人,完全不懂中文。但他有一个对码本,外面的人写一句中文,他就按着对码本,将对应的回复写上,塞出去,对码本甚至具有“同一个问题问两次会烦”、“某些事情按这个人的情况应该不知道”和“这个问题一般要思考10秒,所以你应该隔10秒再把纸条递出去”的考虑。这样,人们都以为房间里是一个懂中文的人,但其实他根本不懂中文。)
      不如从根子说,不考虑代码怎么写,只提电脑能干什么。
      ——逻辑判断
      ——人能做什么
      ——逻辑判断
      ——人还有感情,还有创新能力,还会思考......
      ——感情的解释上面说过了,创新可以理解为科学和技术两部分,科学是从自然现象中总结规律,技术是判断这些规律能否用于改善目前的工具(广义的“工具”),这些追根究底都是由大量逻辑判断构成的
      ——我们虽然计算慢,但是有灵感,有直觉......
      ——人脑按照神经元数目和突触数目推算,其运算能力远远超过电脑(没错,就是这样,只不过脑子里没有“计算器”这个软件,而是在用“意识”去理解数字和运算的概念然后再去运算,如果用天河二号模拟意识,然后让这个意识去理解数字和运算,那估计比我们还慢)而直觉,则是潜意识中对于过往大量经验进行分析,在数据不足的情况下得到的一个可行概率较高的解。
      下面是另一种思路
      ——说到底,现在没有人工智能,我们空口说白话能证明什么呢?
      ——取一个人类精子,一个人类卵细胞,在子宫内结合。细胞经过多次分裂,逐渐形成桑椹胚,而后是囊胚,原肠胚,而后,神经系统,也就是人工智能的硬件,逐步演化产生。。。
      ——这是人,不是电脑。
      ——不,这是人工智能硬件的制造。为什么人工智能的平台不能是神经细胞逻辑门组成的系统,而非要使用半导体逻辑门呢?或者说难道在母体子宫中的孕育不算制造?生物虽然复杂,仍旧是化学反应和物理现象的集合。
      ——那么,孩子生下来之后,如何处理呢?
      ——让父母抚养他,长大之后,送他去上学,毕业后进入社会,参加工作。
      ——这是养孩子,不是编程。
      ——脑回路本身就具有逻辑判断能力,并且本身具有进化算法:常使用并得到积极反馈的连接强化,没有信号通过对连接降解,父母的抚养,学校的教育,社会的影响都是输入的信息。进化算法本身,就是对大量输入信息通过各种随机参数进行处理,通过输出结果的反馈保留处理参数的最优解,然后再让这些最优解发生重组和突变,然后迭代运算找出新的最优解。而这些最优解的集合,就是这个人工智能的意识。
      ——你不如说这是这个人的意识和三观。
      ——但是,为什么不能说他是他父母制造的人工智能呢?


      IP属地:湖北来自Android客户端6楼2016-06-08 01:59
      回复
        这便是人工智能研究中最可怕的一面:
        我们认为人与AI的本质区别是X特性。
        为了探究人类思维本质,大量的人去研究X。
        X的本质被发现了。
        按照X的本质设计算法,AI具备了X特性。
        我们现在认为人与AI的本质区别是X+1特性。
        真正可怕的,不是天网,不是奥创,更不是把地球做成糕点的早餐机器人。而是我们逐渐发现,我们与AI的区别越来越小。
        我们是人,万物灵长,但甚至却不比AI强。
        目前,AI不如人类思维的地方,人类对其本质都还不甚理解。换句话说,只要人类理解了自己思维的某一部分,AI就会很快得到这个特性。
        那么当人类思维被人类完全理解之时,AI和人之间,最后的一道墙是什么呢?
        灵魂?有神论者不敬神做AI干啥?想当卡密SAMA吗?
        不信灵魂的话。。。似乎最后一堵墙并不存在。
        如果人类能够理解自身,AI就会得到人类思维的一切特性。
        如果人类不能理解自身。。。人类连自身都无法完全理解的话,这就比AI更可怕了。
        人工智能最可怕的真相是:人和人工智能之间,并没有已知的,不可逾越的理论界限,只是人对自身的理解尚不充足。
        换句话说,我们也就是个强人工智能的水准。


        IP属地:湖北来自Android客户端7楼2016-06-08 02:13
        回复
          不过,讲道理的话,人工智能一定是会有不足之处的。至少,停机判定,就是图灵机做不到的事情。
          (图灵机的停机判定:
          程序执行有两种结果:结束和死循环。
          能否有一个可以判断任意程序被执行时,是可以结束还是陷入死循环的程序?
          假设有。
          设计一个程序,调用判定程序。
          如果判定为可结束,则进入死循环分支。
          如果判定为死循环,这直接结束。
          则判定程序无法工作,与假设矛盾,故假设不成立。
          所以,图灵机架构下,永远写不出可判断任意程序是否会死循环的程序。
          所以,图灵机不是万能的。
          欢呼吧!人工智能虽然厉害,但是终究限于数学基础,并非万能,人类万岁,思维万岁!
          话说,“这句话是假话”是真话还是假话?
          。。。。。。
          人类的思维,同样漏洞百出。


          IP属地:湖北来自Android客户端8楼2016-06-08 02:23
          回复
            完结。以上是在数字逻辑结课之后和几个同学讨论AI的一点看法,不成体系,虽然理论都取自主流理论,但是最后总结出来的观点就不算太主流了。
            就这样了,求新观点和评论,欢迎辩论,求不,仍旧at那几个貌似对AI感兴趣的。@自由的Gisela @yangxinyue1996 @丹莫刺尔


            IP属地:湖北来自Android客户端9楼2016-06-08 02:29
            回复
              //自己的玩意半年也不算挖坟
              学了半年的算法和相关课程
              发现半年前高估了目前AI的发展情况
              并且跨专业考研难度远远高于预期
              而且学C#Java的数模竞赛小组都不要,他们要matlab
              喵了个咪的,搞个头的AI,回去码PHP去


              IP属地:湖北14楼2017-01-08 01:05
              回复