“Person Of InterstLogo”作者来源。来自Wikipedia - 根据合理使用授权
假如有一天，在某个号称人民医院一样的地方，有个病人躺在病房里。这时候值班医师/护士接到一个自动化控制系统（这个不是很难的技术）的通知，这个病人需要在某事某刻注射一种药物。或者说要不就更自动化一点，全自动化的医疗系统通过病人的输液管道，自动在某时某刻给病人注射某种药物。
第二天，医生发现这个病人因为药物相互作用身亡。而在云端的数据中，找不到任何注射药物的记录。那么，谁是凶手？如果说是值班医师/护士，他们只是负责执行一项由“主机”发出的命令（或者有一天，医师/护士们并不需要太多的医学知识，他们只需要会执行一些动作就好了，还省却很多的劳力成本）。如果是通过“系统”自行执行，那么谁该为此负责？
在上述情景中，你或者注意到了一个“主机”（类似于《黑客帝国》中的Matrix）的存在。这样的主机应用，其实在很多行业都已经有不同大小上的应用，比如Google通过人们搜索感冒或感冒药的趋势，集合成庞大的数据，然后得出人类的感冒指数，在这个小应用中，“主机”并不是一个实体，而其实是一些代码。如果把时间轴往前推进，网络的应用场景将更加广远。随着人类的个人数据的汇集，网络也将越来越懂得人类的习性，网络也越来越成为一个没有实体的“主机”。
而网络这个“主机”，其实是造就了一个人类创造出的名词“实体”：人工智能（AI）。如果需要更符合画面感的讨论，其实可以参考一下一个CBS制作的剧：Person of Interest(简称POI，中文译作《疑犯追踪》）。该剧在2011年首播，以一个人工智能为原点展开故事。在剧中，该AI接通了纽约市的所有摄像头（包括街头和个人电脑），并通过镜头所获取的图像、语音进行分析，得出哪些人是恐怖分子，哪些人是受害者（或者施害者）。抛开该剧的娱乐成分，其中所实施的一系列技术，在未来完全是可能实现的。比如政府可以获取大量的个人活动数据，通过一系列的计算，然后可以及时地追捕那些疑似恐怖分子，阻止相应的活动。让人惊讶的是，2013年斯诺登披露的棱镜计划与上剧中的情节几乎惊人相似。
那么，在收集了浩瀚的个人信息之后（不管是政府还是公司），当一个AI诞生之后，人们是否还会信誓旦旦地自称“命运由我主宰”么？比如，当你过马路的时候，联网的红绿灯是被AI控制的，那么谁知道你会不会“被车祸”？
现在回头想想开头的那一幕：究竟谁才是凶手？如果你想再代入一下，假想自己是一个警察去查这件案子，你会觉得无所适从：AI控制着几乎所有命令，它可以删除人的出生记录、修改人类的病历，甚至可以创造出一个虚无的人。这时候你会发现自己要面对的是一个无所不在的恶魔。
这些想象其实也是POI这部剧的迷人之处。就是说，当人类创造出的人工智能的智慧超出人类（几乎是毫无意外地超出人类一大截的）的时候（这一天肯定会到来），人工智能“实体”究竟有没有类似于人类的“人性”。比如，人类在街上看到某个奄奄一息的同类，会生出怜悯之心，很大程度上会出手相救。那如果是AI，会不会只计算这个奄奄一息的人存活的可能性及其存活的价值如何，并且以数字的形式来体现这个人的“价值”。如果这个价值的数字少于某个特定的值，那么这个人类就是不值得救的。如果这就是AI的逻辑，那么人类在它的逻辑世界中其实也不外是一串一串的字符而已。
到了这个时候，剧情就有点人类常说的：反转。当创造者成为被创造者的终端，当创造者成在被创造者眼中成为非理性的存在（因为人类始终葆有人性，而人性很多时候又与理性不沾边，或者几乎是非理性的）。而AI的逻辑世界却又是理性构成的，怎么能容许非理性存在呢？
那么，一个悖论就是这样形成了：人类终其所有能力，去创造一种趋于理性的存在，当这个理性的存在（AI）学会思考和计算，人类就成了这计算的对象，就成为了非理性的存在。而非理性的存在是AI无法容纳的，于是就像1982年的电影《银翼杀手》中那样，造物主要被所造之物杀死。
最后，一个思考题是，未来的AI假如会思考，它们究竟有没有道德观可言（道德观并非人类独有，动物也有，只是与人不同而已）？
A.有
B.没有