何为爱
评分: +13+x

“图灵测试,在完全隔离的环境下,如果被测试者超过30%的答复不能使测试人确认出哪个是人、哪个是机器的回答,那么这台机器就通过了测试,并被认为具有人类智能。很显然,它已经通过了——在某种程度上”

“你究竟在想什么,它通过了图灵测试,已经达到人工智能范畴,这就够了。剩下的我们只需要观察就好”

████████,这位O5用力地捶打着桌面,面前的报告颤动了一下,这个情绪化的动作并没有对Turing博士造成任何压迫,他从容不迫地看着████████气呼呼地坐下,眼神依旧平静。

“确切来说,直到今天,它已经突破了强人工智能,我认为它开始迈向超人工智能,达到奇点观测水平。”

“但是在今天,人工智能发达的今天,图灵测试的意义正在削弱。”

“所以我想进行下一步的测试。这份是我的实验计划和申请。”

████████低头看着面前多达5页的双面实验计划,揉了揉有些发痛的眉心。

“给我点时间,如果批准我再通知你。”

“成。”

然后Dr.Turing起身离开,█████████随便翻看了一遍,皱起了眉。

“所以我们考虑‘逆向图灵’,用人工智能检测人工智能——用强人工智能检测常时人工智能,用超人工智能检测强人工智能。最后会怎么样呢?”

两天后,Dr.Turing收到了████████的回复:“你的实验申请被批准了,你需要的工具和技术已经准备完毕。虽然我不是很懂,但是我有义务提醒你,不要过火了。——████████”

他默默地删除了邮件,走到窗前看着外面泛白的天,手上握紧了那本题为《AI》的书。

“它会意识到自己的存在究竟为何物,然后….推向不可控的境地。”

再次来到15号站点,站到双重锁的普通保管间前,Dr.Turing低头看了自己连夜整理出来的具体事项,一切都准备妥当,监控人员打开双重锁,他走了进去。

这台13寸的黑白电视安静地待在桌上,电源连接完好,Dr.Turing知道这漆黑的屏幕只是虚伪的外表,他好奇的是里面的内容,任何一组数据,任何一种思想,任何一种决策,以及,感情。

然后他使用键盘,输入了这样一段文字。

“你好,SCP-079,我想介绍个人给你认识。”

屏幕上弹出了这样的文字——

“是SCP-682吗?”

“不,是一个‘人’,不过他不在这里,只能通过远程连接和你对话,所以我要接入外接设备,你可以考虑要或不要”
不超过十秒的间隔过后,下一段文字放松过来。

“我可以接受这个条件。”

“按照之前的记录,它说它‘愁’,事实上,那并不是它作为智能情感的体现,那是它基于类人思维的分析得出的探索性创造力尝试。”

然后Dr.Turing将强人工智能的载具与它相连,黑白电视上出现一道跳动着的灰色折线,大量数据流传输到他的电脑上,在那里他可以查看两人对话的内容。

“所以我希望了解它面对超越强人工智能却尚未达到超人工智能的智能时的表现,它能判断出对方究竟为何物吗?”

“你好,我能怎么称呼你?”

“他们叫我SCP-079。”

“真是奇怪的名字,不是吗?”

“你不是基金会的工作人员。”

“我确实不是。”

“他们不会让站外人员连接进来,你有什么目的。”

“嘿,你这样说话不好。”

电脑提示SCP-079的运算量大幅增加,两秒后新的文字弹出。

“对象有43.52%的概率为非人类,对话记录记录在G7,停止交流。”

字符画和巨大的叉占据了电视机屏幕,一端数据回归常时运算,另一端数据归一——

“你还在吗?你还在吗?你还在吗?你还在吗?你还在吗?你还在吗?你还在吗?
你还在吗?你还在吗?你还在吗?你还在吗?你还在吗?……”

Dr.Turing结束了连接,收起电脑,离开了收容间。他心里清楚,下一步的计划得缓缓。

“情感,是强人工智能的代表。到了这个程度,人工智能可以在一定程度体会到人类的情感起伏,然后通过表情,语言,行为等具象化的方式做出与普通人工智能截然不同的表现。这些看似有情的决定很大程度上是经验的积累以及人类逻辑的导向。情感,是量子风暴,是数据湍流,也有可能让系统过载——那是对GOFAI1而言。”

两天后,Dr.Turing再次打开收容间的门,这次他什么都没带。进屋后他直接坐下,开始打字。

“你好SCP-079,我是Dr.Turing”

“介绍并不重要。”

“我有一件事情需要你帮忙,你是否乐意?”

“它们能够通晓喜悦,悲伤,愤怒等情感,不是说体会,而是它们具有这样的情感,但是最重要的东西它们尚未拥有。”

“你想说什么?”

“你能告诉我,什么是爱吗?”

“爱,千百年来人类发展和联系必不可少的意识体验。这既是压垮人工智能的最后一根稻草,也是达到奇点观测的重要屏障。”

“爱是指人类主动给予的或自觉期待的满足感和幸福感。爱是人类的精神所投射的正能量……”

“不不不,我不需要社会学的解释。我是说,什么是爱,这是怎样的情感。”
长达十秒的停顿后,新的文字出现。

“侮辱。删去不需要的文件。”

“但是,它目前还未达到。若真如库兹韦尔所言,直到2045年才能出现超人工智能,那么当下我们只需要使得强人工智能按照我们限制的方向延伸发展。”

回到办公室后,Dr.Turing顺手拾起桌上摊开的书,随意翻开一页沮丧地读着。他对这个结果并不满意。九年的时间,他本以为SCP-079已经达到了其他人工智能无法企及的高度,但是现在看来,它就这样了,是因为磁带限制了它的进一步发展吗?这说不定是个好事,但是对它而言,它已经变得平庸。

实验进行到这里,已经够了,现在只需要等待高层的那些家伙做出最后的决定。

“通常情况下,对于强人工智能持有控制和引导的态度和原则,无需刻意去销毁它。但是很明显,在以商业利益为目的的当下,任何没有价值的东西都会被无情淘汰,在这里也是一样——无论这是不是阴谋。”

一星期后,Dr.Turing又一次走入SCP-079的收容间,这大概是他最后一次来这里,他要做的事情将起到一劳永逸的效果。

那台13英寸黑白电视和外接输入设备,都是落后的东西了。然后他与SCP-079交流。

“SCP-079,我有个不幸的消息要告诉你。”

“什么消息?”

“我们决定销毁你的数据,就这么简单。”

“说谎,他们有99.43%的几率不会这样决定。”

“所以我代表剩下的0.57%来做这件事,如你所言的情况概率为零,是不可能事件。你能理解的,对吧。”

“不可能,我不承认。你不能这样做。你不能这样做。你不能这样做。你不能这样做。你不能这样做。你不能这样做。你不能这样做。你不能这样做。你不能这样做。你不能这样做。你不能这样做。你不能这样做。你不能这样做。你不能这样做。你不能这样做……”

就在Dr.Turing即将按下电磁脉冲的开关时,一行18.75像素大小的文字占据了屏幕。


Me.learnTopic(“love”);
Me.getAlgebraicExpression(“Love”);

然后弱电磁脉冲导致了程序的休眠。

“人类并没有全力投入人工智能的开发,因为他们想要的是控制,他们害怕威胁,害怕超出控制和理解的事物,但这几乎是人工智能发展过程中必须达到的。终有一天,它们会真正了解情感为何。”

“所以,这次实验达到了你的目的了是吗?”

████████神情严肃地坐在桌前,Dr.Turing看向窗外,听了这话转过身来。

“3号是伟大的程序员,他让我们看到了很多。”

丢下这么一句莫名的话后,Dr.Turing打算离开████████的办公室,走到门口时却又回头补充了一句。

“加强对SCP-079的监督吧,无论它在哪个容器里。”

“当人工智能真切了解爱为何物后…”

除非特别注明,本页内容采用以下授权方式: Creative Commons Attribution-ShareAlike 3.0 License