矛盾的人与没有矛盾的机器
含剧透 · 建议观影后阅读
豆瓣原文 ↗电影故事称不上精彩,甚至可以说极为俗套。讲述一个 AI 机器人通过自发主动地学习和思考,最终走上极端,出于对主人的爱,最终相杀的故事。AI机器人真的能理解和给与人类所说的爱吗?那是一个什么样的程序?可能人类自己都模糊不清。更不了解人类的欲望有时仅仅是欲望而已,不去行动反而是一种富有 “人性” 的行为。
值得回味的倒是电影中人物之间的一些对话,带来几个有趣的话题,或许对未来 AI 伦理发展讨论有意义。记下了以下三个:
1,若有以满足你的欲望为其欲望(目的)的 AI 智能人,这能否可以作为一条 “爱” 的程序指令呢?它存在多大的危险性呢?
2,是否可以做一些当下让被爱之人难以忍受,但从长远来看却对其”有益”的事情呢?这可以是一条爱的理念吗?
3,假如有一个工业智能产品,能够与人进行语言智能互动,人与它发生了性活动,这是否对人类的他或她的爱人不忠呢?如果这个可以接受,那么是否说明人类的性与爱确实可以分开?在 AI 时代,我们拥有AI智能人,会不会导致家庭伦理会被重新定义?
第一个问题,两性关系中,如果有这样一对明显的地位不对称的组合,一方以满足对方为自己的生活目的,而且如同机器人那样可以孜孜不倦的付出,这可能吗。现在换作将它写成一条程序给予智能机器人,这是否是在给机器人格塑造偏执的特征。
我们对智能机器人的想象是局限始终还在人类的思想里,以指令实现“爱”,那么机器更善于“激情”犯罪。想要编写出的一串代码等同于人类的“爱“,估计动用全人类的智慧估计都无能为力。根本上,你不可能给它们矛盾的指令,既要贴心的关心又要会让人独处,既要感情执著又要会懂得放弃;既要快乐的笑容也要欢喜的泪水;既要欲望也要失望。机器没有那么高明的取舍和承受力,因为这些都可能是爱的表现。
第二个问题。从某种程度上来说,有时候人们可能会出于善意和对长远利益的考虑,做出一些当下让被爱之人难以忍受的事情。最简单的比如教育孩子,另外,在处理某些人际关系问题上更是屡见不鲜。但在处理问题上,无论哪种方式都存在选择。换作机器的选择能做到因事而异,以及因时而异吗?中庸之道是否可以成为一条程序指令?
对普通人来说,某种程度上,人们当下的考虑都来自认知系统的作用,来自成长经验经历的认知,来自近期或今天的情绪的“气象”信息。这样的话,机器人如果要具备随机处理问题的能力,写进机器的代码,恐怕还是矛盾的指令,既要左,又要向右,可能往左但拼命的往右。
第三个问题,猜测那些激情互动,可以视人将自己与机器等同,所以就不需要传统意义上的对爱人的要求。既然人已经不是传统上的人,没有必要去讨论,因为性与爱的粘合剂可以是很多种,仿真给人的大脑欺骗是完全可能的,移情于物也并不羞耻。想想《大宅门》里面,与照片结婚的蒋雯丽吧,你只会觉得需要尊重她的爱,那就是爱到深沉。
对于伦理,我们不可能给机器输入一个需要,同时也要它克制;我们不可能让机器既要现实又需要保留幻想,既要及时行动又要选择后悔。最后不如屈从吧,人与机器的性活动,我们去探讨忠贞与否,倒不如去想象我们也是在仰望一种理想的情感互动和心灵交流的生动情景,那时谁不会忘我,谁不都是宇宙的尘埃,要说就说上帝确实够悲悯吧,于是给某些人送来了机器人。