≡ Menu

You are being watch: 人工智能阴影

PersonOfInterstLogo

“Person Of InterstLogo”作者来源。来自Wikipedia - 根据合理使用授权

假如有一天,在某个号称人民医院一样的地方,有个病人躺在病房里。这时候值班医师/护士接到一个自动化控制系统(这个不是很难的技术)的通知,这个病人需要在某事某刻注射一种药物。或者说要不就更自动化一点,全自动化的医疗系统通过病人的输液管道,自动在某时某刻给病人注射某种药物。

第二天,医生发现这个病人因为药物相互作用身亡。而在云端的数据中,找不到任何注射药物的记录。那么,谁是凶手?如果说是值班医师/护士,他们只是负责执行一项由“主机”发出的命令(或者有一天,医师/护士们并不需要太多的医学知识,他们只需要会执行一些动作就好了,还省却很多的劳力成本)。如果是通过“系统”自行执行,那么谁该为此负责?

在上述情景中,你或者注意到了一个“主机”(类似于《黑客帝国》中的Matrix)的存在。这样的主机应用,其实在很多行业都已经有不同大小上的应用,比如Google通过人们搜索感冒或感冒药的趋势,集合成庞大的数据,然后得出人类的感冒指数,在这个小应用中,“主机”并不是一个实体,而其实是一些代码。如果把时间轴往前推进,网络的应用场景将更加广远。随着人类的个人数据的汇集,网络也将越来越懂得人类的习性,网络也越来越成为一个没有实体的“主机”。

而网络这个“主机”,其实是造就了一个人类创造出的名词“实体”:人工智能(AI)。如果需要更符合画面感的讨论,其实可以参考一下一个CBS制作的剧:Person of Interest(简称POI,中文译作《疑犯追踪》)。该剧在2011年首播,以一个人工智能为原点展开故事。在剧中,该AI接通了纽约市的所有摄像头(包括街头和个人电脑),并通过镜头所获取的图像、语音进行分析,得出哪些人是恐怖分子,哪些人是受害者(或者施害者)。抛开该剧的娱乐成分,其中所实施的一系列技术,在未来完全是可能实现的。比如政府可以获取大量的个人活动数据,通过一系列的计算,然后可以及时地追捕那些疑似恐怖分子,阻止相应的活动。让人惊讶的是,2013年斯诺登披露的棱镜计划与上剧中的情节几乎惊人相似。

那么,在收集了浩瀚的个人信息之后(不管是政府还是公司),当一个AI诞生之后,人们是否还会信誓旦旦地自称“命运由我主宰”么?比如,当你过马路的时候,联网的红绿灯是被AI控制的,那么谁知道你会不会“被车祸”?

现在回头想想开头的那一幕:究竟谁才是凶手?如果你想再代入一下,假想自己是一个警察去查这件案子,你会觉得无所适从:AI控制着几乎所有命令,它可以删除人的出生记录、修改人类的病历,甚至可以创造出一个虚无的人。这时候你会发现自己要面对的是一个无所不在的恶魔。

这些想象其实也是POI这部剧的迷人之处。就是说,当人类创造出的人工智能的智慧超出人类(几乎是毫无意外地超出人类一大截的)的时候(这一天肯定会到来),人工智能“实体”究竟有没有类似于人类的“人性”。比如,人类在街上看到某个奄奄一息的同类,会生出怜悯之心,很大程度上会出手相救。那如果是AI,会不会只计算这个奄奄一息的人存活的可能性及其存活的价值如何,并且以数字的形式来体现这个人的“价值”。如果这个价值的数字少于某个特定的值,那么这个人类就是不值得救的。如果这就是AI的逻辑,那么人类在它的逻辑世界中其实也不外是一串一串的字符而已。

到了这个时候,剧情就有点人类常说的:反转。当创造者成为被创造者的终端,当创造者成在被创造者眼中成为非理性的存在(因为人类始终葆有人性,而人性很多时候又与理性不沾边,或者几乎是非理性的)。而AI的逻辑世界却又是理性构成的,怎么能容许非理性存在呢?

那么,一个悖论就是这样形成了:人类终其所有能力,去创造一种趋于理性的存在,当这个理性的存在(AI)学会思考和计算,人类就成了这计算的对象,就成为了非理性的存在。而非理性的存在是AI无法容纳的,于是就像1982年的电影《银翼杀手》中那样,造物主要被所造之物杀死。

最后,一个思考题是,未来的AI假如会思考,它们究竟有没有道德观可言(道德观并非人类独有,动物也有,只是与人不同而已)?

A.有
B.没有

更多阅读:无论强人工智能能否出现,人类的未来注定灰暗

{ 0 comments… add one }

Leave a Comment