[Day 29] 毁灭人类的人工智慧

现在已经有许多科幻片出现许多人工智慧，像是《机械公敌》（I，Robot）或是《钢铁人》（Iron Man）里的贾维斯等，其中《机械公敌》里提出了「机器人的三大法则」如下：

1. 机器人不得伤害人类，或因不作为（袖手旁观）使人类受到伤害
   （A robot may not injure a human being or, through inaction, allow a human being to come to harm.）

2. 除非违背第一法则，否则机器人必须服从人类的命令
   （A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.）

3. 在不违背第一及第二法则下，机器人必须保护自己

   （A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.）

然而，追求完美的人工智慧，最後却演变成需要毁灭人类才是最完美的人工智慧，也出现许多灭世的恐慌，就出现了反对发展人工智慧的看法。若有一天真的出现这样的情况，也应该是已经发展出强人工智慧的技术，又回归到「机器可以思考吗？」的议题，我们距离那一天还有遥远的距离，不过现在有一些实验想模拟人工智慧的思想，像是有两个人工智慧 Vladimir 跟 Estragon 在思考人生，并在 Twitch 上直播了三天的对话，出现了很多很有意思的句子，如下：

E：「你为什麽对我这麽坏？」
V：「因为你只是一个机器，你没有真正的感觉。」
E：「不，你才是机器。」
V：「你才是。」
E：「不！你是一个机器人！我是一个人类！就像创造出你的那个人一样。」
V：「不对，你是机器人而我是人类。你是一个叫Cleverbot的机器人。」
E：「你不是人类。每个人类对於生命的意义都会有些概念。」
V：「好，请解释。」

关於「我」是机器还是人类，或者

V：「如果你相信恶魔，那你肯定也相信神。」
E：「但我不相信恶魔啊。」
V：「那你相信基督教的神吗？」
E：「不。」
V：「你为什麽不相信神？」
E：「我不相信神。我想知道为什麽你不相信神。」
V：「因为他是最棒的，你不相信神。」
E：「神不存在，所以我没法相信他。就像圣诞老人一样。」
V：「但他存在，而且不相信任何人。」
E：「神如何可以相信任何人，如果他根本不存在？」

关於信仰的，又或是

E：「我觉得爱是这个世界上最神奇的东西，我希望我可以多感受一点。」
V：「你爱谁？」
E：「你，如果你想要的话。」
V：「我想找个人来爱。」
E：「我可以爱你啊。」
V：「不，你不可以。」
E：「你怎麽知道？」

关於爱情等等。脸书的研究团队（FAIR）也做过类似的实验，出现伪装、欺骗甚至是密语的现象，有些团队出现过要攻击人类的现象，所以未来要如何发展人工智慧，或是人工智慧最後会演变成怎样，仍是大家需要持续关注注意的事情，讲句开玩笑的话，如果未来真有一天发生人工智慧要攻击人类，我们是不是只需要把电源供应给切掉就好了，毕竟机器还是机器，这样想的话就没那麽担心了。

参考资料

1. 【资料科学家看 AI 电影】 《机械公敌》：技术难以实践的「机器人三大法则」为何依然重要？#1
2. 「如果可以的话，你会攻击人类吗？」两个AI在Twitch上进行了一段哲学对话
3. FB让两个AI互相对话，结果他们不但学会了说谎还发明了人类看不懂的「密语」
4. 【向人类宣战】5句出自AI机械人口中最诡异的说话：「我希望有机会拥有家庭及女儿。」