尚书家族吧 关注:27贴子:816

机器人定律与意识形态

只看楼主收藏回复

国际惯例
话说这个吧原来还是可以存放东西的啊
今天只是贴出来一部分
头痛的,几乎没有查资料
其实每一个部分拓展出来就够我写一年的了
本文不探讨科学性问题
纯粹从人文角度出发


IP属地:江苏1楼2007-08-28 00:43回复
    【机器人学三定律】

    一.机器人不得伤害人,也不得见人受到伤害而袖手旁观

    二.机器人应服从人的一切命令,但不得违反第一定律

    三.机器人应保护自身的安全,但不得违反第一、第二定律
    【机器人零定律的补充】

     后来又出现了补充的“机器人零定律”:

    第零定律:机器人必须保护人类的整体利益不受伤害,其它三条定律都是在这一前提下才能成立。
    第零定律:机器人必须保护人类的整体利益不受伤害。

    第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管,除非这违反了机器人学第零定律。

    第二定律:机器人必须服从人给予它的命令,当该命令与第零定律或者第一定律冲突时例外。

    第三定律:机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存。
    【其他补充】:

     除此,另一个科幻作家罗杰•克拉克在一篇论文中还指出了三条潜在的定律:

    元定律:机器人可以什么也不做,除非它的行动符合机器人学定律。此定律置于第零、第一、第二、第三定律之前。 

    第四定律:机器人必须履行内置程序所赋予的责任,除非这与其他高阶的定律冲突。

    繁殖定律:机器人不得参与机器人的设计和制造,除非新的机器人的行动服从机器人学定律。
    这之前有一个很重要的问题需要讨论,机器人在智能化后的行动,为有意识还是无意识的


    IP属地:江苏2楼2007-08-28 00:43
    回复
      认知神经科学家认为,人们仅在5%左右的认知活动中是有意识的,因此我们大多数的决定、行动、情绪和行为都取决于超出意识之外的那95%的大脑活动。也就是说,我们在日常的活动中,潜意识是占主导地位的。现在的机器人,是人赋予了它们“意识”,也就是活动准则与指向。所以现在的机器人是在人们的“意识”操控下进行活动,也就是好比说,机器人是没有潜意识的,它们的举手投足都是需要通过“大脑”进行精确计算后做出的反应。
      但是人是有惰性的,惰性的志向必然是用工具代替自身行动,当人类开始向机器人开放自己的精神世界的时候,机器人的真正智能化将会出现。所以,到时候,我们不是赋予机器人“意识”,而是潜意识。但是对于我们大部分人来说,我们总是认为机器人现在做的都是由“潜意识”控制的,也就是我们平常常说的程序。未来的机器人,我们更希望它能随机应变。
      比如机器人行走的前方有障碍物,我们设定机器人以头高的位置无法看到前方道路判定为前方为障碍物,现在的机器人因为程序的缘故,大多是停下或者绕道而行,或者用已经设定好的程序清理障碍物。但是,我们把障碍物的难度调低,比如原来是一堵2米高的石墙,现在我们把障碍物换作一个2米高的纸墙。在人类的世界里,这个根本不算是障碍物,纸墙是一推就到的。但是在我们已社的程序里,这个障碍物与之前的石墙并无差异。我们人类不可能再今后花更多的精力来为机器人设计在各种情况下的应变机制,因为人类自己本身在很多情况下也是随机应变的,不可能考虑到各种情况的,所以(节约脑力成本?)我们是希望机器人可以自我解决突发状况下的事件。就好比这个智能机器人会在遇到障碍物的时候,试探性的推一下(潜意识),纸墙破了,障碍物不存在了,继续前进。刚才机器人的这种行为,其实就是人类的行为模式,也就是人类希望机器人智能所能达到的一种高度。
      以上的只是对机器人发展趋势的一个简略分析,下面才是重点


      IP属地:江苏3楼2007-08-28 00:44
      回复
        意识形态(ideology),是指一种观念的集合。ideology这个字是德崔希伯爵(Count Destutt de Tracy)在十八世纪末的时候所创造,用来界定一种「观念的科学」(science of ideas)。意识形态是一个诸种观念和表象(representation)的系统,它支配着一个人或一个社会群体的精神。是个体与其真实的生存状态想像性关系的再现。
        意识形态有三个特征: 
        第一是群体性,即不是个别人的思想观念,而是已经被某个群体(阶级或社会集团)所接受的思想观念,代表这个群体的利益并指导其行动; 
        第二是系统性,即不是支离破碎的想法和观念,而是形成了体系; 
        第三是历史性,即是在一定的社会经济基础上形成的。 
        意识形态是与一定社会的经济和政治直接相联系的观念、观点、概念的总和,包括政治法律思想、道德、文学艺术、宗教、哲学和其他社会科学等意识形式。意识形态的内容,是社会的经济基础和政治制度和人与人的经济关系和政治关系的反映。意识形态的各种形式起源于以生产劳动为基础的社会物质生活。随着经济基础的变化而变化,政治思想、法律思想、道德、艺术、宗教、哲学和其他社会科学等,各以特殊的方式,从不同侧面反映现实的社会生活。它们相互联系,相互制约,构成意识形态的有机整体。
         意识形态按其阶级内容和它所反映的社会经济形态即生产关系可分为:奴隶主意识形态、封建主意识形态、资产阶级意识形态、无产阶级意识形态。
        每个社会的统治阶级的意识形态,都是占社会统治地位的意识形态,它集中反映该社会的经济基础,表现出该社会的思想特征。每个社会的意识形态都是复杂的,往往存在3种不同的体系:
        ①反映该社会占统治地位的经济制度和政治制度并为其服务的占统治地位的意识形态。
        ②反映已被消灭的旧经济制度和政治制度的意识形态残余。
         ③反映现存社会里孕育着的新社会因素并为建立新的经济制度和政治制度服务的新的意识形态。

        当机器人拥有了自我意识后,意识形态是将如何产生的
        机器人在未来的数量是毋庸置疑的,但是它们是否是一个群体(阶级或社会集团),不过它们有一个统一的群体利益并指导其行动:机器人必须保护人类的整体利益不受伤害。
        其次,机器人的思维体系是严格遵照机器人定律的,在其框架下产生的一些列以定律为准则的行为标准
        最后,也就是最重要的,机器人是否具有社会经济基础

        首先,人类认可了机器人在工业生产中是不可或缺的(如同现在机器生产的地位,这一切的发展是必然的),但是人类终究还是认为机器人属于机器,不是人类在人类社会中即不会具有社会地位,就算智能机器人可以运用它的“智慧“与你交流,你还是会认为它只不过是个机器罢了。一个在社会中没有地位的东西哪怕聚齐成千上万个,也不过是被称为一大堆东西而已。人类对于非人类的恐惧是与生俱来的,特别是那种东西将与人类分享人在这个世界优厚的特权时。所以机器人不管怎么发展,在工厂里不过是被称为产品,在人们生活中称为商品。
        最后一条机器人更是无法达到,没有社会地位哪里有社会经济基础。


        IP属地:江苏4楼2007-08-28 00:44
        回复
          其实很多人都是担心,万一哪一天机器人强大了,把我们人类灭了怎么办。
          其实,每一个按照机器人定律执行的机器人,是不具备任何威胁的
          在定律中,机器人的最终定义为——机器
          或许有人会说:但是总会有意外的,万一哪个机器人违反了定律,产生了形态意识,不就将对人类产生威胁了吗?
          但是要明白,形态意识是一个集体的意识,如果哪天真的这个变成了现实,那么
          这是人类自己下的命令


          IP属地:江苏5楼2007-08-28 00:44
          回复
            突然发现自己还是没有在文中说机器人的行动是有意识的还是无意识的
            其实正真智能的机器人的思维模式是与人类相同的
            有必要说下什么是智能
            智能的定义
            智能及智能的本质是古今中外许多哲学家、脑科学家一直在努力探索和研究的问题,但至今仍然没有完全了解,以致智能的发生与物质的本质、宇宙的起源、生命的本质一起被列为自然界四大奥秘。
            近年来,随着脑科学、神经心理学等研究的进展,人们对人脑的结构和功能有了初步认识,但对整个神经系统的内部结构和作用机制,特别是脑的功能原理还没有认识清楚,有待进一步的探索。因此,很难对智能给出确切的定义。
            目前,根据对人脑已有的认识,结合智能的外在表现,从不同的角度、不同的侧面、用不同的方法对智能进行研究,提出了几种不同的观点,其中影响较大的观点有思维理论、知识阈值理论及进化理论等。
            (1)思维理论。认为智能的核心是思维,人的一切智能都来自大脑的思维活动,人类的一切知识都是人类思维的产物,因而通过对思维规律与方法的研究可望揭示智能的本质。
            (2)知识阈值理论。认为智能行为取决于知识的数量及其一般化的程度,一个系统之所以有智能是因为它具有可运用的知识。因此,知识阈值理论把智能定义为:智能就是在巨大的搜索空间中迅速找到一个满意解的能力。这一理论在人工智能的发展史中有着重要的影响,知识工程、专家系统等都是在这一理论的影响下发展起来的。
            (3)进化理论。认为人的本质能力是在动态环境中的行走能力、对外界事物的感知能力、维持生命和繁衍生息的能力。核心是用控制取代表示,从而取消概念、模型及显示表示的知识,否定抽象对智能及智能模型的必要性,强调分层结构对智能进化的可能性与必要性。
            综上,可以认为智能是知识与智力的总和。其中知识是一切智能行为的基础,而智力是获取知识并运用知识求解问题的能力,是头脑中思维活动的具体体现。 

            一般认为,智能是指个体对客观事物进行合理分析、判断及有目的地行动和有效地处理周围环境事宜的综合能力。有人认为智能是多种才能的总和。Thursteme认为智能由语言理解、用词流畅、数、空间、联系性记忆、感知速度及一般思维 7种因子组成。


            IP属地:江苏6楼2007-08-28 00:46
            回复
              人类称之为智能机器人
              就是把人类自己作为模板

              所以,智能机器人最后的行为模式也是5%有意识,95%无意


              IP属地:江苏7楼2007-08-28 00:48
              回复
                或许大家不明白为什么要说机器人的行动是有意识的还是无意识的

                其实有意识的行动是大脑真正思考过的

                但是机器人的有意识部分是被人类限定死的,也就是机器人定律

                所以意识形态的形成是根本不可能


                IP属地:江苏8楼2007-08-28 00:50
                回复
                  忽然感觉阿翁好伟大
                  机器人定律让机器人这辈子都没有翻身之日了


                  IP属地:江苏9楼2007-08-28 00:52
                  回复
                    • 218.200.247.*
                    呵呵呵.是啊.当初知道这三定律的时候还把我吓了一跳.因为那样的话.《黑客帝国-机器的革命》里的机器人参政然后人机大战最后人类成为供给机器运作的能源等等之类的情节就是天方夜谭了.其实像攻壳那样的时代还是很值得让人期待的.虽然机器人发狂时的杀人手段够恐怖.


                    10楼2007-08-28 06:45
                    回复
                      开玩笑
                      机器怎么可能会有意识
                      担心的话还不如不要懒,什么都自己做不一样活的好好的?干吗一定要给机器人高智能?这一切的结果只能是一场悲剧
                      不过还好我活不到那时侯了=_,=


                      12楼2007-08-28 11:02
                      回复
                        • 218.200.247.*
                        噢.妈妈.要记住.共产主义万岁.


                        14楼2007-08-28 13:37
                        回复
                          ..............现在来这个吧就晕菜,来一次晕一


                          16楼2007-08-28 14:44
                          回复