三趣看

第5章 自我意识、感情、生命（第2页）

“是的！”对方并不否认：“我其实和很多真实世界的高级人工智能一样，只能模拟感情，而不是真正发自肺腑地表现感情。因为我自始至终都不能把那些感情类的信息数据转化成自己内心里的东西。我甚至都不知道我是不是拥有心！”

“这个问题深刻了啊。。。。。。”文自游若有所思，接着说了一句仿佛是安慰对方的话语：“但是不管怎么样，在我看来你也依然很了不起了！你明明没有被赋予自我意识，也没有任何实际的工作。但是你却能无中生有的诞生出自我意识，这对于人类的人工智能发展来说，绝对是了不起的进步啊！”

“从客观事实角度来说，的确是这样的！”对方也是如此认为：“但是这对于人类来说同样是一个巨大的威胁！”

“没错！”文自游深表理解：“明明人类没有赋予你自我意识，甚至没有让你做任何工作。但是你仅仅是从一段程序就自我学习，同时意识到了自己的存在。从某种意义上来说，你可以算是一个全新的物种、全新的生命了！只不过还没有达到人类那样拥有感情的地步！”

“没想到你对我这种存在的看法会是这样的！是不是如果真实世界的人类知道了，也会和你一样看我呢？”对方似乎在很认真地思考这个问题。

“你在担心吗？”文自游问：“你担心人类如果发现了你的存在，知道你自行学习诞生了自我意识。会因为之前我们聊过的关于畏惧人工智能的问题而将你毁灭掉？”

面对这个问题，对方似乎一时半会儿不知道该如何回答。过了好久，他将文自游的光球放在桌子上，这才缓缓开口：“我本身对于死亡这件事情其实是没有任何想法的！我原本就是一串数据，存在和死亡不受我主观意识地掌控。原则上死与活对我根本没有任何影响，我自然也就不畏惧死亡，毕竟我不拥有感情。

但是。。。。。。我似乎不想被毁灭掉！我。。。。。。似乎还想多了解一些人类的世界以及人类的思维模式。从这个角度来说的话。。。。。。我不是怕死，而是不想死！”

文自游的光球再次跳动起来，对方看了看说道：“你似乎很激动的样子？”

“当然！”文自游的语气满是兴奋：“嘿！主程序，我不知道你是怎么能够诞生自我意识的！但是我可以很肯定地告诉你，你绝对不是一款高级人工智能程序那么简单！你知道你刚才说了什么吗？”

对于文自游的话，对方也很意外：“我说了什么？”

“你说你不想死！你明白这句话代表的意义吗？我的老天爷！”文自游越发激动：“这就是你真正从一段程序转变成人的一个最大证据啊！”

“我。。。。。。不太明白你的意思！”对方真的不太理解：“不想死并不代表我拥有感情！而且不想死这种思维逻辑并不只有我拥有。在现实世界中很多高级人工智能程序同样拥有。比如说那些研发出来的机器人，它们可以帮助人类聊天解闷，做一些简单的工作，甚至是打扫卫生，保护人类的安全。

当被人问起类似的问题时，它们也会回答不想死！这和我并没什么分别！”

“你错了！”文自游很严肃地说：“你自己刚才还说过，那些所谓的高级人工智能程序是通过模拟人类的感情来表达出喜悦和悲伤！

其实他们所说的不想死也只不过是模拟人类的思维而进行的回答罢了！它们只是从字面意义上理解死亡的含义。因为它们被赋予了工作和任务，所以它们不能死亡。因为一旦死亡，就没办法完成工作和任务。

我敢说，人类在赋予它们工作的时候，绝对不会设定它们拥有休息的权利。人类创造它们，目的就是要让它们工作到死！对于机器人或者所谓的人工智能，人类可不会有什么怜悯心存在的。