AI究竟是美梦，还是雄狮自掘的坟墓？

人人都在谈的人工智能打开的，究竟是“天堂之门”，还是“潘多拉魔盒”？

人做的坏事多了，尤其这几周。

如果机器变得比人还混蛋呢？世界会怎样？

不知道你对人工智能了解到什么程度，你认为人工智能究竟是什么？

只是媒体制造的噱头？还是骗投资人钱的口号？或者只是你家擦玻璃的那个小机器人？

30年前，很多人看着电脑会想：“这破玩意儿也能彻底改变我的生活，怎么可能”，这不是贫穷限制了你的想象力，而是人类对自己倒腾出来的事情和东西究竟会怎样改变自己缺乏想象力。

“我的意中人是一位盖世英雄，有一天他会身披金甲圣衣、驾着七彩祥云来娶我。我猜中了开头，却猜不中这结局…...”

同样的事情正发生在人工智能领域。

你家扫地擦窗户的机器人、打败世界围棋冠军的“阿尔法狗”、李彦宏上五环被罚的无人驾驶等，都叫人工智能，但在人工智能的发展层次里面，他们都属于低级的人工智能。

其他的两个层次包括：强人工智能和超人工智能。

两者的区别在于：

前者能干人类现在所有的脑力活，智商和创造它的人类平起平坐；而后者几乎在任何领域都比地球上最聪明的人类大脑更聪明。

当后者来临，这个已经诡异的世界，或许就更加诡异了。

人工智能的好，已经说了很多了。

但也有不好，不好来自于“超人”以及由此带来的一系列不可测的东西。

而这一天，有可能大多读者都能见到。

谷歌未来科学家雷·库兹韦尔在他的《奇点临近》一书中，预测超人工智能到来的时间是2045年。

嗯，也就是：

最快还有28年就可能会有另外一种生物体，分分钟站在食物链顶端diss你。

最伟大的人物之一霍金也担心人工智能迟早会强大到可能会无意中杀死人类的地步。他说：

“人工智能的兴起可能成为人类历史上最糟糕的事情。”

智商160的人说的话马上在现实中得到回应。

今年上半年，Facebook人工智能研究所对两个聊天机器人进行对话策略迭代升级，结果它们竟自行发展出了人类无法理解的独特语言，而人类所能做的就是关闭这个AI项目。

不妨大胆猜测，AI可能已经开始自己对话了，并且用我们人类听不懂的语言。能对话，也许有意识了；有自己一套语言系统，说不定也有思维了。

这样再往下几十年，难道还不够细思极恐吗？

科学家都说了，最快2045年就比人类聪明N倍了。而且，人家直接从低人工智能升级到超人工智能，也不是没有可能。

今天不是科普文，也不是唱衰文，而是想撩一撩，在人工智能的第二个阶段——强人工智能，我们人类该如何和AI相处？

有人要问，为什么不说下在弱人工智能和超人工智能，怎么相处，偏偏讨论第二个阶段？

弱人工智能阶段，人类还处于控制方，人工智能还是完全为人类服务的，还没完全进化到“人”的状态，位置不平等，何谈相处；到了超人工智能，还谈什么相处，您呐，乖乖听话就得了。

只有在强人工智能阶段，机器人具备和我们一样思考能力的时候，才会谈相处问题。

第一个问题：机器人犯错了，谁来承担责任？

自1959年第一台机器人出现以后，扫地机器人、医疗机器人都出现在人类可触及的生活中，如果有一天，这些机器人根据自己的所“见”所“想”后自作主张产生不好的后果，怎么办？

这也是人类对人工智能技术发展的恐慌和担心：

如果人工智能技术代替更多的人力劳动后，谁来负责不断加剧的失业率？

医疗行业用于诊断的机器人专家系统如果出现失误后导致的医疗事故将是谁的责任？

股市机器人的预测系统给股民带来的损失到底由谁来赔偿？

机器人伤害或是杀害人类的事故到底是机器的责任还是人类自己的责任？

以及这些机器人的开发者、使用者是否要负担相应的责任，如果要负责，分别应负什么样的责任？

第二个问题：机器人该和人一样，拥有人的权利吗？

当人工智能技术的发展到强人工智能，意味着智能机器人具有了不同程度的情感及“人性”，完全替代人类工作已经不再是传说，那么，“它”和人类生活就会产生千丝万缕的联系，交集越来越大，会不会出现以下问题：

智能机器人是否会逐渐侵犯人类的“人权”？

如危害人类的生命与健康、侵犯人类的尊严与隐私、破坏人类的自由等。

如果当智能机器人具有“人性”后，我们是否该给他们以相同的“人权”？

斯坦福大学的教授克利福德·纳斯认为，生命是特别的，我们不应该像破坏法律那样去虐待那些机器、动物等非人类生命，非人类生命也应该有相应的“人权”。

这是否意味着，如果制造的机器人有道德良知，能同人类互动，他们就应该享有一定程度的权利？

第三个问题：我们对机器人应该有道德吗？

如果机器人具备了一定程度的情感和“人性”，那么我们对这机器人还能任意指使和传唤，甚至是谩骂、殴打吗？

可以大胆想象，就像我们如今残忍对待动物一样，机器人很有可能会被不公平地对待。

比如，利用机器人给人类干最脏的最危险的活、让他们夜以继日的工作劳动、不开心的时候拿它当出气筒……

有人认为，机器人不就是为人类服务的吗？我说了，这是低人工智能阶段，一旦进入强人工智能阶段，机器人能够和你进行思维层面交流的时候，人类还能否对它进行无休止的传唤和为所欲为？

即使可以，人类是否为这样的行为找到了足够正当的理由？

上面三个问题，表面上是人类对待人工智能的问题，其实是人怎么面对内心善恶的标准问题。

当有一天，机器人真能成为“人”的时候，你今天设想怎么对它，就意味着，你现在是怎么对待周围的人，怎么去面对这个社会的善、恶、美、丑。

这个等式换算下，你是什么样的人，你所处的社会就处在一个什么样的道德水平。

机器人大概也如此。如果想要机器人不那么坏，还要从人的道德做起。

我们现在的道德水平怎样呢？

小伙伴们，不容乐观啊。尤其在一些老一辈看来。比如，2014亚洲第二富豪，刚刚给北京大学捐了1个多亿的香港嘉华集团主席吕志和，这个超级有钱的老先生，现在就很为此操心。

吕志和认为，当今社会正面临一个越来越严峻的挑战：社会对物质财富与科技进步的追求超过对道德的坚守和精神的修为。

他看到物质的丰富与科技的发达为个人与社会带来福祉，也看到过度追求物质与科技给社会带来的伤害，以及对可持续发展造成的巨大隐忧。“生态破坏、资源短缺、阶级分化、社会矛盾激化、政治纷争，甚至战争这一系列的不和谐与危机。”

吕志和说，今天的我们比任何时候都富有，但也更贫穷，富有的是商业与物质的空前繁荣，贫穷的是赖以生存发展的自然资源和环境，以及人与人的美满关系。

长远的可持续发展隐患不断加剧，眼前的社会矛盾与纷争不断。吕志和认为，这一切，很多都是因为贪欲膨胀和道德文明的缺位所致，是价值观层面出了问题。

“今天的社会，一般大众的物质生活都不成问题，反而是精神上的空虚、心灵的失落，导致群体的不安感。而要解决这些问题，必须重视德育的培养、建立良好的价值观。”

也因此，老爷子还身体力行，首期捐出20亿港币，设立了“吕志和奖——世界文明奖”，其中一个核心就是特别强调对高尚道德和社会正能量的褒奖，宣扬和谐共享的价值观。

“注重倡导积极正面的人生观及振奋人心的正能量的提升，不单表彰卓越的现实成就，更注重褒扬伟大的心灵，高尚的道德精神。”他坦言这在当下的环境是一件可能费力不讨好的事情，但目标坚定，亲力亲为：“即使是播下一颗有益的种子，也是我的一个心意。”

这个已经88岁的老爷子强调，如果继续无休止追求物质、科技，忽视精神道德对人的引领，最终得到的不会是物质和科技带来的福祉，而可能是物欲过度对人性和道德文明的破坏，给社会秩序乃至自然世界造成危机。

人工智能注定会给人类社会带来史无前例的，最具颠覆性的改变。大谈特谈它如何改变世界的同时，实在不要忘记，改变有两种。一种是变得更好，一种是变得更坏。

对于AI，究竟是美梦诞生的地方，还是雄狮自掘的坟墓？

但愿那些掌握世界的人，能够好好拿捏拿捏，掂量掂量。

不要等到机器比人还混蛋的时候，硬盘又坏了。