1.另外,基于我作为人类的自私因素。请借鉴生物的计算机科学别把强化学习加入,尤其不要让它为了某个目的而去行动。
2.一种解决方案在此贴5楼:
http://tieba.baidu.com/p/5151136846?pid=107902382414&cid=107993138648#107993138648讲得内容如下:用纳米机器人(或者其他任何东西)来作为人脑与人工脑的连接。当人脑想事情的时候,人工脑能同时感受到;人工脑想事情的时候,人脑也能感受到;如此逐渐将人工脑做大,以至于最后人脑只占极其微弱的比例。
3.现在楼主感觉第2条也不能算解决方案了,因为把超人智能的机会给第一个人类后,这个人类的"欲望"部分并不是没有保留的。