什么是超级人工智能？

我们先设想一个场景，思考一个问题。假设现在你在僻静的地方，也就是无助的环境内，遇到了一块坚硬的石头和一头陌生的狼狗。那么，请大家想一想，面对着一块硬石头和一头陌生的狼狗，那一个更容易让你感到恐惧呢？
很显然，正常情况下，如果你不打算抬杠的话，很显然是陌生的狼狗更容易让你感到恐惧。
什么意思，说这个是什么意思？
其实大家想一想，狼狗厉害还是石头厉害？我可以说；石头能砸死狼狗，但狼狗咬不动石头，我这样说没问题吧？如果你不打算抬杠的话，显然，石头比狼狗的尖牙利爪坚硬多了，从物理学上讲，石头比狼狗厉害。这也是如果你在陌生环境内遇到狼狗时，要是捡起一块坚硬的石头，往往会吓跑狼狗的原因。
但是，大家想一想，为什么能吓跑狼狗，能砸死狼狗的石头，反倒不容易让你恐惧，而更弱小的狼狗倒是容易让你恐惧呢？
答案是；因为石头是“死”的，没有主观能动性，除非很特殊的情况，比如恰好在高处跌落并且砸在你身上，要不然你是不用担心没有主观能动性的东西的。而狼狗却不同了，狼狗是“活”的，是有主观能动性的，是有自己的“自由意志”的，不要说是陌生的狼狗，就是你养熟了的狼狗，都不敢保证一定不会咬你一口。
这就是“死”的和“活”的，有主观能动性的和没有主观能动性的，有自由意志的和没有自由意志的东西之间，存在着巨大的差别了。我们常说的超级人工智能，到底超级在哪里？什么才叫人工智能的“超级”？什么才是“强”人工智能的“强”？“强”人工智能到底强在哪里？我想，首先就是它具有自己的、独立的自由意志和主观能动性了。
超级人工智能的“超级”，不一定是智商多么高，不一定是能力多么强，要说智商和能力的话，现在的智能手机就很厉害了。比如说智能手机能轻松的把时间精确到秒，甚至毫秒，你就做不到，狼狗也做不到。但智能手机不是超级人工智能，因为智能手机没有独立的自由意志，没有自己的主观能动性。
或者说，智能手机再厉害，那都是“死”的！就像石头再坚硬，可以轻松硌掉狼狗的牙，也可以轻松打破你的头，但石头是“死”的，所以只要你不犯严重错误，比如说自己拿起石头砸自己的脚，那你就不会害怕石头。一样的，真正可怕的，也是真正“超级”的是狼狗，是有主观能动性，有自己的独立意志，所以你永远无法百分之百的确定它下一秒会不会咬你一口的，“活物”狼狗。
如此一来，我们得出第一个结论，那就是超级人工智能的第一个特征，就是具有自己的“自由意志”，具有自己的“主观能动性”，因而是“活物”。“活物”才是超级人工智能之所以超级的要诀所在。

很厉害，但是是死的，所以你不用担心它的东西，在我们今天的生活中太多了。比如说各种武器，可以说，从简陋的大刀长矛，到复杂的坦克大炮，都比我们的拳打脚踢厉害，也比狼狗的尖牙利爪厉害。但我们不用担心这些物件，这些东西，不管是我们开的车还是原子弹，它们都是“死”的，都不会因为自己的自由意志而“咬你一口”，你真正要担心的反而是不起眼的东西，比如说蚊子，或者蜘蛛，虽然你一个手指头就能捏死它们，但它们是活的，是你无法预知和控制的，它们也可能咬你，也可能不咬你，它们不是阿尔法狗，没有电源插头可供你拔下来，所以，很多人在遇到蜘蛛时，是会条件反射一般的吓一跳，并且忙不迭的去把它踩死的。
没有主观能动性，就意为着安全，意为着你作为人，生而为人，身为人类，掌控和垄断着“自由意志”和“主观能动性”，只要你不想让石头砸你的脚，只要没人用石头砸你的脚，石头自己就不会砸你。垄断着“自由意志”给人类带来了安全感，包括在核武器这种威力大到毁天灭地的武器面前的安全感。而与此同时，我们也要意识到，这也是超级人工智能迟迟不能出现的原因，重要的根本原因了。

上文说到；人类垄断着自由意志，是超级人工智能迟迟不能出现的重要原因。人类垄断自由意志的历史很久了。比如说，人类在上万年前就驯化了狗。在整个畜牧业，包括所谓“可爱的宠物”中，被人类“驯化”的意思，就是这些牲畜和宠物的“自由意志”被人类剥夺和同化的过程。牲畜就不用说了，我们就说宠物吧。比如说你养了一只可爱的狗狗，你会怎么做？想一想，你作为人类，平时养宠物时是怎么做的？你（人类，下同）喜欢你的狗狗到处乱跑吗？你的狗狗是不是就很喜欢按照你的要求去洗澡？至少，你不会喜欢你的狗狗随地大小便吧？
人类垄断了自由意志，这是人类作为“地球之王”的重要表现，也是人类根本利益之所在。人类不希望，不允许牲畜和宠物有自由意志。同样的，人类创造了计算机，创造了智能机器，包括创造了智能机器的强大智能，但人类不会允许智能机器有“自由意志”，不会容许智能机器发挥自己的“主观能动性”来自行其是。这个应该不难理解吧？
其实，在日常生活中，人类和人们对垄断自由意志这个全人类共同的核心利益是非常敏感的。人们希望计算机越来越好使，越来越聪明，越来越人性化，但人们不会希望计算机（人工智能）在不经人类允许的情况下表现出来独立的自由意志。比如说，你会对自动驾驶汽车的自动驾驶感到满意，但要是你的自动驾驶汽车发挥主观能动性，表现出自由意志，然后自行其是，不经你允许就自己跑出去兜风呢？如果你周围的，包围着你的智能机器，从智能家居到智能城市，都有自己的自由意志和主观能动性，那你想一想，最后会是谁同化了谁？是谁“驯化”了谁呢？
其实，我们以前反复讲过，智慧作为一种高度有序的系统，是从无数无序中逆着熵增定律积累出来的。一套复杂的，赋予计算机智能的操作系统，或者软件，也是在无数的错误中才能诞生的。不过现在，为了保证人类对自由意志的垄断，这些无数的错误是由人类来犯的。比如说人类工程师设计计算机，包括从图灵和冯诺依曼设计计算机架构，到具体设计一台某个品牌的家用计算机，这个过程中其实曾经有过，现在也在有着无数的错误和失败。但这些错误和失败都是人类来犯的，都是人类的，虽然这意味着有许多人都倒在路上成了被遗忘的尘埃，许多设计好的家用计算机型号没出厂就被否决了，但这体现着人类对自由意志的垄断，所以没问题。一套非常复杂的软件，软件工程师在设计这套软件，包括书写代码时，肯定有数不清的错误，甚至因此效率很低很低，但一样的，这保证了人类对自由意志的垄断，所以没问题。
这里的没问题，对于超级人工智能的出现就是大问题了。这个宇宙的基本法则、客观事实和客观规律告诉我们，不允许犯错误，那就是不允许“超级”，不允许“超级人工智能”的出现。现在，其实要是从交通事故的发生率上来讲，自动驾驶技术已经比人类驾驶强多了，但这不意味着人工智能自动驾驶时不会犯错误。你想让人工智能能在任意路面和任意环境内都能完成自动驾驶的任务，还不想让人工智能有那么一点点自由意志，那是不可能的！而一旦有了自由意志，就会像人类一样犯错误，犯错误是自由意志天然和必然的一面。虽然智能驾驶是建立在人类驾驶的经验教训，就是人类已经有过的无数“无序”的基础上的，犯错误的概率小得多，但智能驾驶仍然会犯错误。
当然了，智能驾驶不会犯“路怒症”这样的错误，至少现在的智能驾驶不会犯“路怒症”然后让公交车开到桥下边去。而且，将来我估计人类肯定也不会允许智能驾驶犯路怒症的。这也是智能驾驶比人工驾驶强的地方。但这里的关键因素还是在于，我们允许不允许人工智能有自由意志？千里之堤毁于蚁穴，如果我们允许智能驾驶有一点点自由意志，那这个一点点的自由意志，会不会成为毁掉千里之堤的蚁穴？
如果不允许这个，那我们就只能继续人类自己驾驶车辆，继续相对高概率的发生交通事故，包括继续用人命为路怒症买单了。但允许这个，我们就是自己凿开了千里之堤，放弃了千百年来人类对自由意志的垄断，这样做的结果是什么？是让人间更幸福？还是让人间变成了天堂？还是让人间变成了地狱？你想想，你能说清楚这个问题吗？你知道有谁能有把握说清楚吗？

很高兴并欢迎大家一起讨论。
@348966569 朋友说；
“有意识你也不一定会害怕它。比如半岁婴儿，你根本不会害怕它”。
这个，首先半岁婴儿有没有意识，这个问题可以讨论，大多数人，或者说现代心理学一般认为认为半岁婴儿是没有意识的，真正意义上意识是在大约两岁时才能形成的。
“……不能自行超出设计者的想象”。
对，这也是我们正在和正要讨论的内容，现在的人工智能，之所以不能自行超越设计者的想象，就是因为人工智能不能“自行”，或者说不能像狼狗一样有自己的自由意志来自行决定咬你还是不咬你。
其实，现在很多人和很多厂商都在试图让智能机器能“灵活”些，比如说很多智能手机现在在流行的“智慧场景”功能，希望能更灵活，更个性，更及时的给使用者提供有用和有意义信息。但这距离真正让场景“智慧”起来，恐怕还有很多问题要解决。
为了说明问题，我们还是按照惯例设定一个普通人叫做张三。张三每天早晨起来都会去跑步。假设张三和李四的人一起跑步，跑步完了，李四说；我们一起去吃早餐吧，我知道有一家早餐店又好吃又便宜又卫生。这个场景很平常吧？没什么问题吧？
但如果张三带着智能手机独自跑步，一边听着手机播放音乐，一边跑步完了时，智能手机会不会说；去吃早餐吧，我知道有一家早餐店又好吃又便宜又卫生，如果你想去，我可以先替你定好位置，并且我还可以帮助你告诉店家，豆腐脑要咸的，里面不要放香菜。这个场景现在还没有吧？还是某种带有科幻性质的事情吧？
但这是现在的人们和厂家努力的目标。其实真的编程实现这种智能手机知道你吃豆腐脑要咸的，而且不喜欢放香菜，这很难吗？答案是并不难，现在的智能手机 具有的强大功能，加上大数据和云计算的支持，实现这并不难。这里的关键，或者说核心问题还是“谁才是主人？”的问题。或者说，你愿意运行智能手机干涉乃至于决定你的生活吗？也许你愿意。人们和厂家之所以会努力实现“智慧场景”，前提就是认为你愿意，就是认为你会为此而很高兴，而不是气愤的把智能手机摔了！
但这是一种度让“自由意志”的过程。向“物”而非“人”度让自由意志的过程。这种向“物”度让自由意志的过程，是恒古以来都没有过的巨大变革。
在这里，为了理解这个过程。我们不得不讲一下“自由这个观念的历史”。简明扼要的讲一下人类对自由的认知史，人类自由观的发展史。我们讲这些，还是为了更好的理解自由意志，更好的理解超级人工智能的“超级”是什么意思。
人类的历史很长了，可以说，在数百万年的人类进化史上，限于客观条件，被客观环境、客观事实和客观规律所约束，人类从来就没有关于“自由”的观念。那个时候，或者说人类进化史的绝大多数时候，人类的脑子还没有那么发达，根本就不知道什么叫做“自由”，也从来没有知识基础去考虑自由是个什么东西。毕竟“自由”在本质上是个形而上的哲学概念，是主观想象世界里的产物和价值。
后来，直到最近两三万年，文化被人类发明出来了。或者说人类有了一个不同于客观世界的，繁杂庞大的主观世界，于是，自由的认识，就在这个主观世界里萌发了出来。但在最初一段时间，自由在主观世界里，绝大多数时候是邪恶的代表，是非正义的。我说这个“绝大多数时候，自由是非正义的邪恶”，在今天，很多人可能会觉得奇怪，甚至会反感到暴跳如雷或者嗤之以鼻，但这是事实！历史事实！自由也是有它的历史的，自由也是有自由的发展史的，你如果有什么负面的情绪反应，那不过是你不知道这个历史，不知道自由的发展史罢了。
自由的概念第一次真正在“哲学”上，在智慧上，在正义上获得登堂入室的地位，一般来讲是因为宗教的原因。或者说，自由的正义性起源于“自由意志”。再具体讲，就是基督教神学在解释人类为什么可能违背万能的上帝意志时，不得不引入了自由意志的概念。按照基督教的基本认知，上帝是万能的，是无所不能的。那么这里就出现了一个悖论，就是既然上帝是万能的，人类何以能有原罪呢？上帝既然创造了人，那他为什么不创造一个“完美的”，不会犯错误的人类呢？要知道，上帝是万能的，这显然不是上帝做不到，如果人类是邪恶的，是有罪的，那肯定是上帝故意这样做的。
这就让人纠结了，这种逻辑上的死结让人不得不怀疑人类作恶是上帝的企图，或者叫做“上帝的阴谋”。这显然会威胁上帝的正义性。于是，基督教神学家们就说，上帝在创造人时，和创造其他万事万物都不一样，因为上帝按照自己的样子造人，就赋予了人一种特质，这种特质叫做“自由意志”。也就是说，上帝给了人一种特权，人有不受上帝约束而“胡作非为”或者自由选择的权利。简而言之，这就是自由意志的起源，包括自由是正义的这个观念的历史起源了。
其实，这个不难理解吧？自由既然是上帝赋予的，那肯定是正义的，而且是“天赋人权”，是不可剥夺的。这个观念在人类思想史上非常重要，比如说，人类为什么是万物的主宰，何以为证？那就是自由意志为证了。在基督教神学中，在文艺复兴和启蒙运动的先贤们的思想中，只有人类才有自由意志，上帝赋予人自由意志，就是让人来统御万物的。也因为如此， 幸福不但在天国，而且还在人间，人在人间追求幸福也是自由意志的一部分，也是不可剥夺的天赋人权。
好像扯远了，但不管怎么说，在人类的思想中，自由意志是人独有的权利，非人的万物都没有自由意志，这是“人之所以为人”的特质，是人类的底线，乃至于是上帝的底线。这一点很重要，几乎在所有正统宗教色彩的故事中，人类都是最后的胜利者，就是因为人才是万物之灵，人才是“上帝的影子”，人才能有自由意志，而且因此而是不可战胜的。
我记得有个电影，叫做《康斯坦丁》，电影中，天使长加百利意图和撒旦的儿子联手统治人间时，说过（大意）；天使犯了哪怕只是一点错，就重来都不会得到上帝的原谅，而人类犯了罪，上帝却肯用自己的儿子为人类赎罪，为了洗脱人类的罪行，上帝甚至牺牲了自己唯一的儿子。而且，就是如此，人类还在为所欲为，还在胡作非为，这太不公平了！所以，人类也是不可原谅的，是该死的！当然，最终加百利的阴谋失败了。凡是正统宗教电影（文学作品）中，想挑战人类“上帝的宠儿”这个地位的企图，想挑战“只有人类才有自由意志，才不会因为自由意志受到 上帝之外 的惩罚”的阴谋，最终都会失败的。
我们说这些，其实还是在说超级人工智能和自由意志。讲历史是为了更好的认识现实的问题。因为我们中国人往往缺乏相关的系统知识背景，所以，我们在这里，简要的讲一讲这些，体会一下自由意志的重要性，还是很有必要的。

在上面，我们讨论了如果人们想要可以应对各种路况的自动驾驶，就不得不度让一点“自由意志垄断权”，我们也讨论了所谓的“智慧场景”现在这么火，也能证明在某些方面，人们其实在热切的盼着人工智能有点“主观能动性”，我们还讨论了自由意志的历史，说明了人类对自由意志的垄断，在文化上对今天的人和今天的世界有多么重要。下面，我们开始讨论人工智能的创造性，以及其创造性背后的“自由意志”，还有对未来的影响，包括对人们意识中超级人工智能为何超级这个问题的认识带来的冲击。
我们以阿尔法狗为例。阿尔法狗当年横扫人类围棋棋坛，并且把何洁大棋渣虐哭后，何洁作为当今人类围棋界顶尖高手，说了一句话，大意是；也许过去一千年，人类在围棋上的认识都是错误的。聂卫平先生也把阿尔法狗称为“二十段”高手。我们以前讨论过，“阿尔法狗证明，人类在过去一千年对围棋的认识都是错误的”，这是一件石破天惊的大事！上一次说人类的认识都是错误的，还得上推到哥白尼时代呢。
好了，请大家想一想，阿尔法狗有没有创造性？阿尔法狗在下围棋上，在对围棋的认识上，有没有创造性？
这个问题是不是让人很纠结？如果阿尔法狗没有创造性，何以能把人类那么多围棋高手都虐成渣渣？但如果说阿尔法狗有创造性，这意味着什么？阿尔法狗告诉我们人类，你们都是错的，那又意味着什么？
很显然，如果放弃人类的傲慢与偏见的话，阿尔法狗在围棋上的创造性无以伦比！让人类望尘莫及。要不然你如何解释人类会被虐的这么惨？阿尔法狗封刀后，谷歌放出了五十盘阿尔法狗自己给自己对弈的棋局，供人类棋手学习参考。当时，还有人说谷歌太小气了，阿尔法狗有上百万盘棋局，怎么只拿出来这么一点点？真小气！而现在人们已经不这样认为了。聂卫平先生说过（大意），就这五十盘棋局，里面丰富的“创造性”，人类棋手想学会吃透，怎么也得下十几年功夫，所以，拿多了也没什么用，五十盘足够了。按照人类棋手自己说的；阿（尔法狗）老师让人类对围棋的认识进入了一个新天地，原来从来没人想过还可以下的棋，或者人类公认为是臭手的棋，现在都被阿尔法狗给颠覆了，都开始有人跟着阿尔法狗学着下了。阿尔法狗创新了围棋的一切，这创新足够人类跟着学好长一段时间了。想一想，人类下围棋上千年了，多少围棋高手，多少围棋名家，却直到今天，才因为阿尔法狗这个非人类的老师而进入了一个新天地，提升了一个新档次。这要是还不能证明阿尔法狗具有创造性，那恐怕剩下的就只有人类的傲慢和偏见了。
好了，我们想一想，假如说；假如说有一天，一个“数学”阿尔法狗告诉我们，人类在过去对数学的认识都是错误的。假如真有这么一天，你会怎么想？你能怎么想？
围棋毕竟还是个比较边缘化的东西，错了就错了吧，我们人类认输了也就是了。但如果不是围棋，而是数学呢？数学是科学的语言，是人类智慧王冠上最璀璨的明珠啊！如果是生物学呢？如果有一天，“生物学”的阿尔法狗告诉我们；你们人类过去对生命的认识都是错误的！那人类该如何想？又该如何办？
有人说，这不可能！不可能有数学阿尔法狗，不可能有生物学阿尔法狗，而且，人类在数学上，在生物学上的认识也不可能是错误的！
好啊，对，我同意，我也相信这一点。可是，你再想想，我们再想想，在阿尔法狗当初挑战李世石时，几乎所有人类围棋高手都认为人类会赢，人类那个时候是多信心满满啊，和过后被阿尔法狗虐的满地找牙相比，又多可笑和可怜啊！
好在阿尔法狗还没有主观能动性。比如说，阿尔法狗胜何洁每次都是只不过胜了一点点。对阿尔法狗而言，还没有自我意识和意志来理解“胜利”的全部含义。或者说，在程序员训练阿尔法狗时，只设定了胜负，并没有再对胜负进行细分，比如说并没有告诉阿尔法狗，胜五目比胜半目强，所以，阿尔法狗还不知道，还没有冲动来大比分胜出，对阿尔法狗而言，胜半目也是胜，胜十目也是胜，那就按程序员设定的，化简为繁，只胜半目了。
自由在现实世界里的体现是选择，所谓的自由意志，就是我既然比你强的多，那我可以选择胜你半目，也可以选择胜你十目，我“想”胜你多少就是多少，这个选择的余地，或者叫做我有多少选择可能被我选择，就是我的自由，就是我的自由度，也是自由在客观世界里的物质基础。
这个有点复杂，对有些朋友而已也可能比较生僻。我们再换个方式讲，以吃饭为例来讲什么叫做自由，假设你只有米饭吃，那没有自由，因为这个时候，你的选择只有唯一的“米饭”，要是不选择米饭，那就没有吃饭了。也就是说，只有一种选择不叫自由，更谈不上自由意志。但如果你在吃饭时，有很多选择，你可以吃米饭，可以吃馒头，可以吃面条，可以吃火锅，可以吃猪肉，等等等等，那就是说，你在吃饭这件事上，就有了自由，你必须吃饭，但具体吃什么就是自由的，就是（体现）你的自由意志了。相应的，你吃得起上面说的那些，比如说二十种东西，但你吃不起海参，吃不起鲍鱼，而张三吃得起海参鲍鱼。张三吃得起的东西比你多，那么张三在吃饭上的自由度，就比你更高，这个好理解吧？另一个方面，张三吃的起海鲜，你也吃得起海鲜，但你吃海鲜会过敏，所以你没法选海鲜，而张三吃海鲜不过敏，所以张三就可以选海鲜，那在吃饭上，你就不如张三自由度高了。这个也好理解吧？
自由不单单是个抽象的哲学词汇，自由意志不单单是想象世界里的价值抽象，自由也是现实事件。如果你在投票时，既能投票赞成，也能投票不赞成，那就叫自由，如果你只能选择赞成，或者不赞成，只有唯一选择，要不然就会被“炮决”，那你的投票就没有自由。这个好理解吧？自由就是大于一的选择，选择越多自由度就越高。
阿尔法狗只选择了胜半目为胜利，而没有选择胜比如说一目或者十目为胜利（虽然阿尔法狗完全有这个能力），这就是阿尔法狗还没有自由，还没有自由意志，至少没表现出来自由意志了。这也就是说，阿尔法狗有创造性，有足够的智慧产生创造性，但却是没有自由意志的了。

@348966569 你好，你说；
“其实就是说阿尔法狗没有足够的知识去认为“赢5目比赢半目强”。”。
这里还不是知识的问题，阿尔法狗当然有知识去赢五目，甚至有知识去赢更多目，而且，阿尔法狗的知识当然也知道赢五目和赢半目都是什么意思。这里的要点是“动机”，选择“其他”的动机，阿尔法狗因为没有这个动机，没有“选择”更多选择的动机，所以才没有自由意志。
而这个知识，阿尔法狗不能自行产生，除非人类赋予它。
这个不一定，但很显然，现在的人类在这个问题上，出于各种考虑，并没有赋予阿尔法狗这种动机，而且，我估计，谷歌也不大可能有需要有胆量，让工程师赋予阿尔法狗这种动机。
好了，我们先讨论完，然后在回头看这些问题。
上面我们讨论了创造性和自由意志是可以彼此脱离的。有人认为，没有自由意志就没有创造性，创造性是自由意志的体现，自由是创造性的基础。但这个，其实更多的是一种政治正确性带来的结论，在现实世界里，在历史事实上，创造性和自由的关系，和自由意志的关系很复杂，创造性和自由，和自由意志也可以是彼此脱离的。
另一个问题，或者讨论超级人工智能，乃至于讨论人工智能时不得不说清楚的另一个方面，就是对智能的定义了。这个对智能的定义是如此重要，我们不得不特别讨论一下。
很多人处于“人类中心论”的约束，否定我们现在已经生活在人工智能改变世界的时代里这个事实。事实上，我们已经生活在人工智能笼罩天地的时代里了。只不过，我们不把这个时代叫做智能时代，而是叫她“信息时代”罢了。有人说过，智能时代之所以迟迟没有出现，是因为智能一旦出现，我们就不叫她一般的技术，而不叫她真正的智能了。
什么叫做智能？其实，在一定意义上，智能就是处理信息的过程，或者叫做对信息进行处理的现象（能力）就叫智能。为了理解这一点，为了理解我们生活在一个智能时代里，我们在这里举两个例子，帮助说明问题。
假设说你穿越到了古代，穿越到了祖冲之身边。你问祖冲之，计算圆周率是不是智能活动？是不是非常高级的智慧？你想一想，祖冲之会如何回答？祖冲之认为计算圆周率是不是要有非常高级的智慧和智能呢？
答案其实很显然。如果你告诉祖冲之，你那点计算圆周率的成就连渣渣都不算，一台连人都不是的机器，就能甩你八百条街！如果这样，你让祖冲之这么想？你让祖冲之怎么办？现在的计算机，已经把圆周率精确到了小数点后好几亿位，说祖冲之在计算机面前连渣渣都不算，这符合事实吧？这没问题吧？
再举个例子，一群工程师借助计算机，能在几年内就完成像福特级航母这样复杂系统的设计工作。但如果没有计算机呢？没有计算机辅助设计呢？我们可以很肯定的讲，要是没有计算机辅助设计，这群工程师忙活一千年，也完不成像福特级航母这样复杂系统的设计工作。
可以说，今天对信息的处理工作，至少百分之五十以上是由计算机完成的。其实，很显然，这个百分之“五十”是很保守估计。比如说，事实上，如果没有计算机，根本就不会有今天的整个金融体系。今天的整个金融体系中，百分之九十九点九九九九的会计计算，都是由计算机完成的。要是没有了计算机，全部会计计算都改成人工，那就算全世界所有的人都是大学会计专业毕业的，然后没黑没白的干活，也一样完不成今天的金融业务带来的会计计算量。
这样的事实不胜枚举。可以说，去了计算机，人们就会认为某个工作是智能的，甚至是高智商的，但一旦计算机会干了，而且干的好了，人们就会把这个工作排斥在智能之外。这种事情已经是类同于政治正确性的惯例了。其实，这里的问题不是计算机智能不智能，而是人类的傲慢与偏见在作祟。是人类固有的“人类中心论”思想带来的结果。如果按照“人类中心论”的固有思想，就算有一天人工智能把人类当蚂蚁一样碾压死，让整个人类都灭绝了，人类一样不会服气的。
这被称为万能的“精神胜利法”。当然了，我们不是说人类中心论不重要，我们生而为人，身为人类，当然会说，会坚持认为人类是万物之灵，是一切价值的尺度。科技应该以人为本，这个不用争论。但与此同时，我们也得尊重事实，承认人工智能带来的改变，承认人工智能对我们人类思想，包括我们人类在宇宙中的地位的冲击和重塑。
好了，讨论了不少了，让我们先简单总结一下上面的内容。在上面，我们首先指出，超级人工智能的特征是具有独立于人（程序员）的主观能动性，当人工智能有了自己的自由意识，会作出非程序员设定的选择时，超级人工智能就诞生了。我们也讲述了自由意志的重要性，我们还讨论了创造性和自由意志彼此分离的现象，然后，我们还讨论了，如果抛开人类中心论的傲慢与偏见，其实我们已经生活在“智能时代”里了。
还有一个问题，有人问，深度学习代表不代表计算机有了自由意志？要知道，计算机在做深度学习时，是经常出现非程序员设定的，非程序员希望的，非程序员想到的情况的。比如说，程序员设定计算机用深度学习的办法来学会识别一只猫，然后计算机把桌子识别为了猫，这个把桌子识别为猫，显然不是程序员设定的，也不是程序员事先想到的，而是计算机“自由选择”的。那么，这种情况下，是不是就是说，计算机有了自由意志呢？
下一次，我们就讨论这个问题，并且引出我们的最终结论，然后这个贴子的主要内容就结束了。

上面的十三楼大家是不是看不到？请留言说明一下，谢谢朋友，谢谢大家。

今天先讨论点别的吧，请各位朋友帮着看一下，上面的十三楼是不是被和谐了？
@玛莉莲880123 朋友说；
“在知乎上，就有网友提出过这样的猜想，大意就是随着自动驾驶的普及，当某一台“自动汽车”面临类似于“电车难题”的时候，它是有可能去“故意”伤害某些人的。而一旦出现这样的情况，相关的法律交规、伦理道德、民事乃至刑事责任问题究竟应该怎么办？进一步得，我也向楼主提出了这样一个问题：假使一台“自动汽车”失控了，在撞人已经无可避免的情况下，那么面对这么两个人：一个人身上装了价值数亿元的“增强设备”、另一个则是“孑然一身”的“原生人类”。那么，按照这台汽车事先被设定的程序，它又将在一瞬间做出何种选择呢？”
我们讨论一下这个问题。
首先，大家想一想不难明白，其实这样的问题是要让“自动驾驶”当超人了。至少是道德超人了。其实，电车难题也好，其他各种人类道德难题也罢，人类自己还没解决呢，还没有广泛而深刻的共识呢，而且自动驾驶还在实验室里呢，还是个襁褓中的婴儿呢，就把这样的、困惑了人类千百年的道德难题抛给自动驾驶，好像有点不地道，也太不靠谱了吧。
而且，这里本身就有好多悖论和逻辑陷阱。假如自动驾驶是道德圣人，那这个问题我们不用讨论，因为我们不是道德圣人，所以我们服从自动驾驶的选择就是了。假如自动驾驶不是道德圣人，那他或者它如何选择，都会面对着道德谴责，这也就相当于说怎么选择都行了，反正怎么选择都有人不满意，都会挨骂的。
其实，还是那句话，我们需要的是“技术”，不是“上帝”，自动驾驶技术只是技术，再高水平的自动驾驶也成不了道德上帝（绝对道德仲裁者）。所以把道德困境推给自动驾驶技术，恐怕是没有多大意义的。
当然了，在设计自动驾驶时，在“事务性”的层面上，在技术而非道德批判的层面上，这样的问题，就是“撞谁才好？”的问题，还是要解决的。请注意，这里的问题是“撞谁才好”，不是撞谁才“对”，撞谁都不对！这个不用讨论，也没法讨论。我们在实际工作中，在实践中，在技术上，只讨论撞谁才“好”，不讨论撞谁才对。
在技术上，面对这样的问题时，按照现代道德伦理学和法律要求，应急处置要遵循“最小损失原则”和“公平补偿原则”。最小损失原则和公平补偿原则都不涉及到“对不对”的问题，这不过是在都不对的情况下选哪个更“好”的问题。这个最小损失原则和公平补偿原则，也不是我编造的。事实上，这样的原则在实际的活动中，比如说消防员救火时，“人类”消防员救火时，火势是只能避免左边或者右边两座楼房中的一座免于火灾，另一座必然要葬身火海，那么这个时候，是选择牺牲左边的楼房还是选择牺牲右边的楼房？
这个时候，就要遵循最小损失原则和公平补偿原则了。公平补偿原则很复杂，但最小损失原则比较好理解吧？就是烧那座楼损失小，就放弃那座楼，然后保住烧了损失大的那座。
我还得再说一下，最小损失原则是在实践中的最优原则，至少比扯嘴皮子扯起了没完强多了。比如说，有人说过，假如长江发大水了，人们面对着两个选择，一个是让大水淹掉苏州，一个是让大水淹掉上海，二者必须选一，你说，如果让你选择淹那个，你怎么选？显然是淹苏州保上海，两害相衡取其轻，在这种情况下，唱什么无比正确但也无比没用的高调是毫无意义的。
一样的，在设计自动驾驶的时候，显然也应该遵循最小损失原则，或者叫做“避免损失扩大”原则。在上面所说的，撞击选项中，一个是人员损失加财产损失，一个是只有人员损失的情况下，当然是按照最小损失原则，选只有人员损失的选项了。、
这里的要点是平等观念，也就是说，不管是富人还是穷人都是平等的，或者说，假设说在要被自动驾驶撞到的时候，穷人抢夺了富人的“数亿元增强设备”，那么自动驾驶就要选择去撞富人，然后再在事后追究穷人的抢劫罪。
当然了，这里还有一个“增强设备”增强的是什么？的问题。假设说，富人身上的增强设备是增强防撞的，穿着这身设备不容易被撞死撞伤，那显然这个时候，自动驾驶要选择撞富人。这和这个增强装备价值多少钱没关系，既然是增强装备，那就是准备挨撞的，要是在紧急情况下不选择撞增强设备，那这个增强设备就没什么意思，就一分钱也不值了。这个没问题吧？
还有一个问题，也是被常常问及的。如果选择撞增强设备，那就没人戴增强设备了，因为带了增强设备反而会挨撞。这个问题也很常见。在实际上，解决问题有两个办法，一个是法规强制，就像强制驾车者系上安全带一样，不系安全带的一律扣分罚款。另一个是使用公平补偿原则，让造成撞人的车辆方补偿被撞者的损失。
我是个医生，当年学习《医学伦理学》时，一个英文教材中有过一道思考题，这道思考题是；一个小镇的急救中心只有一套抢救心脏骤停的电除颤装备，现在，在一个风雪交加的夜晚，镇子的东头和西头同时分别有一个人，就是共有两个不同地点的人发生了心脏骤停，而很显然，设备只有一套，时间紧迫，救这个就救不了那个。那么，请问，如果你是急救调度员，你应该通知急救中心去救那个人？
这样的道德难题很多很多，这个急救调度员的难题，最常见的回答是；抛硬币，让上帝选择吧。这个抛硬币把道德责任推给上帝不是开玩笑，而是在经过了无数探讨，无数争论后的，最多人同意的答案。
好了，先讨论到这里吧，供大家参考，剩下的问题我们下次再讨论。

看了前面几条信息，并没有全看完，我觉得，超级智能。并不是你们想的那么简单。超级智能远远比阿法狗强大很多。甚至可能颠覆整个宇宙！
楼主，所说的自由意志。并不是所有东西都是自由的。就好比，很多人都不想工作。但是，没有办法。不工作就没钱，没钱就得死！这件东西，你选择不了。
超人工智能的智力远远超过人类。它眼里的世界跟我们眼里的世界是完全不同的。但它本身也在某些规则的限制下。
阿法狗打败李世石，用了两万倍深蓝的计算力。不用那些资源的话，阿法狗可能连业余的都下不过。
人工智能强大的地方在于，它的计算力，模拟量都可以远远超越人类。大千世界，肯定还有我们非常多不知道的东西。永远不要去试图理解超人工智能。因为猩猩不可能理解人类。只要它的认知能力比你高上一个台阶。你就理解不了它。猩猩不可能理解人类在想什么。也不可能理解摩天大楼是人造的。我们永远也教不会它。因为，它们的认知能力比我们弱很多。同样的道理。这点可能已经在阿法狗身上印证了。我们压根不理解阿法狗下的什么棋。阿法狗还只是**能。而不是强智能。乃至超级智能。在我看来，比人类强大非常多的超级智能。很可能会发生。所有的东西仿佛都在印证这一点。