十二、联合国人工智能考察

    这天，皇甫接到通知，说联合国人工智能协调署组织的二十人调查团要来涟漪集团调查人工智能开发与应用情况，以评价全球现有人工智能的发展现状，为进一步修订和完善相关规则作准备。

    相比起人工智能的开发运用，全球在人工智能宏观管理和规划方面明显的滞后，做得也很少。经过旷日持久的辩论、争斗、协调、妥协，联合国一百多成员国终于同意在联合国设立人工智能协调署，组织全球人工智能相关政策的厘定和人工智能宏观走向的监管。协调署最值得称颂的一项成果，就是终于完成了《联合国人工智能公约》的制定工作，并得到了联合国会员国各自国家法律层面的认可。

    这个公约虽然已经执行多年了，但这是一个破洞百出的半成品。在人工智能一些关键问题上，公约回避了。不是公约制定方的疏忽大意，也不是他们的玩忽职守，而是那些问题太过复杂，太过有争议，如果继续僵持在那些问题上，人工智能的公约恐怕永远也不要想推出来。

    比如：人工智能能不能伤害人类？这看起来是个相当简单且结论显而易见的问题。人工智能当然不能伤害人类呢！早在人工智能出现前的《机器人学三大法则》第一条就规定了“机器人不得伤害人类，或因不作为而使人类受到伤害”。可仔细一想，问题就来了。当面对恐怖分子、犯罪分子时，人工智能是不是也不能伤害人类？再设想一个场景，一辆受人工智能cao控的车辆在道路上行驶，突然一个行人穿越马路，车辆已无法避免处于两难决策中。这时，人工智能应该如何决策呢？是尽力保护车内人类安全，直行撞过去呢？还是为了保护道上行人，猛打急弯避让行人，即使这个急转弯可能面临造成车内人员重大伤亡的危险，也这么做？。所以，公约能否约定人工智能不得伤害人类这一条，争议就从来没有断过，也从来没有结论。

    同样的问题包括：人工智能是否必须服从人类命令。人类的范围太广了，人类的命令也千差万别。如果一个野心家掌握着人工智能，要求人工智能必须服从人类命令，那很可能会导致灾难性结果。可是，如果不要求人工智能必须服务人类命令，那人类还设计和制造人工智能来干什么呢？总不能当菩萨供起来吧。

    而对于要不要限制人工智能深度学习的发展，也是口沫横飞，各自有理。支持深度学习的认为，人工智能的智慧在与日俱增，人类已经赶不上他们进化发展的速度了。让人工智能自主学习，能提高人工智能解决现实问题的能力，最大程度发挥人工智能的威力；反对深度学习的认为，深度学习发展到更深一步，人工智能将脱离人类给设定的轨道，可能出现不择手段完成任务的极端情形。

    这种情形可能意谓着人工智能已经成为地球上一个具有自主意识的新物种，届时人类将被人工智能彻底打败和超越。同时，人工智能还可能出现情感了。这又产生了一个新的问题，人工智能能否可以有意识，有情感？有意思的是关于人工智能可不可以有情感，不光专家学者，政府商界争论得一塌糊涂，就连普通大众也兴致很高，积极参与了社会各界组织的能否娶个机器人老婆，或者嫁个机器人帅哥的大讨论。甚至有人还去立法部门示威游行，坚决要求公约一定要把人类可以与人工智能结婚列进去。

    所以，联合国牵头搞得这个人工智能公约基本成为聋子耳朵——摆设。不过聊胜于无，有总比没有好，至少表明了人类的一个态度问题。况且，人类还可以在实践中不断总结完善嘛。

    联合国即将到来的这次人工智能调查就是总结完善的一个具体行动。这次调查由现任联合国人工智能协调署署长美国人皮特亲自带队。皮特也是皇甫多年的老朋友了，他们的友谊源于皇甫在美国上学的时候。这次联合国的人工智能调查能来涟漪集团，也是皇甫主动邀请的结果。皇甫认为这是商业上的一个极好宣传点，同时也可为集团在人工智能领域争取更多的政治话语权。

    涟漪集团的总部位于风景优美的怀柔雁栖湖附近，依山傍水建设而成。集团是一家成功的全球化经营跨国公司，规模巨大，所涉行业众多，全球员工上百万。集团总部办公区域常年有十多万员工，大多数是集团和下属子集团的研究开发人员。总部十多万人的办公需求，加上员工家属共二十多万人的生活服务设施，基本就是一个小型城市的用地需求。尽管解决集团用土需求困难很大，政府仍想方设法给予了强力支持，在雁栖湖附近专门给辟出了一大块用地，用于建设集团的总部办公区域，以及员工配套的生活设施。

    皇甫喜欢中式风格，集团又要建在有山有水的雁栖湖风景区附近，自然涟漪集团的办公和生活设施大量采用了中式建筑风格的设计。整片区域是统一规划，统一设计，精巧构思的。建成以后，人们发现，除了气势恢弘外，风格还相当一致，建筑群充分体现了中式建筑效法自然，崇尚天人合一的风格特点，同时又不失现代建筑的未来感和时尚风格，尤其是在办公室内部装饰和设施布置上紧跟了世界科技潮流。

    集团涉足的每一领域在建筑风格上也尽量体现出不同。健康行业就采用了体现家庭亲情的四合院风格；金融投资行业采用的是海派建筑风格；教育行业采用的是书院风格；安全领域采用了徽派建筑风格；而集团的核心皇甫的办公区域采用的是江南园林风格的设计。在整片巨大的办公城市中，皇甫的办公室是一个闹中取静的存在。

    集团迎接联合国人工智能调查组的最高层会议在皇甫办公小院的会议室召开。集团几大高管的豪华私人专车一字排开整齐的停在小院门外的车场。高管们在助手的陪同下，依次进入小院。穿过门厅，绕过影壁，正面是一个山石环抱，亭台楼阁点缀的池塘。池中鱼戏水草，鸳鸯凫水，一派和谐的自然景色。高管们穿过旁边的圆形花门，径直来到办公区域的二号会议室。

    涟漪集团最有权势的七大人物今天全部都来到现场。皇甫坐在正中位置，一身定制的阿玛尼丝质浅色休闲西服，脚上一双琥珀色休闲贵族鞋。而其余六位高管均身穿改良过的中式立领高级定制套装，那是涟漪集团的工作服。六名集团最高级别负责人中，五名男士，一名女士，年龄看起来都在三十五至四十岁间。六人中唯一的一名女士负责集团的教育行业，其他几位男士各自负责健康、安全、金融投资、娱乐文化，其中有一位举止明显的与大家不太相同。行动起来有一点生硬感，但反应极快，口齿也相当伶俐，这就是擎天。

    擎天并不是真人，从某种意义上说，他也是涟漪集团的核心。他是集团人工智能的化身，以人的形象出现。他现在在集团的职务是皇甫董事长助理，其实很多时候就等于是皇甫。因为皇甫日常经营的业务基本上全部交给他来运作。擎天的矜矜业业和忠诚可靠，把集团打理的井井有条，也让皇甫大为省心和赞许。一般情况下，不需要动用集团百分之一以上资源的决策，擎天在经过运算以后，自己就可以决策。但重大的事项以及执行的结果，他必须要向皇甫事先请示，完成后还需要及时简单汇报。

    其他五位各管一块的高层，也需要向擎天汇报日常工作情况。所以擎天在集团可以说是一人之下，也可以说有时候他就是那个人。擎天一年三百六十五天，一天二十四小时不停歇的工作着。表面上他是一个三十岁左右，脸上永远架着一幅黑色玳瑁框眼镜，长相完美无缺的英俊男士。其实他的背后挺立着一个强大的商业王朝，他每时每刻都在以无缝联接方式与集团覆盖全球异常强大的神经网络计算机系统保持着联系和数据交换。他的rou体是人造的，不值一提，以芯片组成的那颗强大的心脏才是他的真实存在。

    擎天有超强的自我保护设计，遇到可能损害集团利益的情形，他会及时自毁，所以不用担心他被人掠走，或是被人cao控。

    皇甫清了一下嗓子，身体微向前倾，双手交叉握着，用双肘支撑在会议室桌子上，表情认真起来。

    “各位，今天请大家来，有两件事。一是集团今年推出的新产品“涟忆一号”已快半年了，对各业务事业部的推动作用，效果到底如何？今天要各业务群作一个总结；二是两天后联合国人工智能协调署就要到集团现场来调查了，如何接待，今天也需要对这项工作做个布署。下面请教育事业群先介绍一下吧。”

    负责教育行业的雪莉杨是一个干练活泼的女子，张口就汇报开了。“董事长，“涟忆一号”的发布，极大地促进了我们教育事业群的业务。教育业务的产品品种丰富了，相关数据反映出用户触达率、使用回头率、用户易用性都得到了明显提高。与去年同期相比，我们目前智能工具类教育产品市场占有率上升了三个百分点，内容产品上升了一个点。尤其可喜的是我们在维登人教育市场已占到全球同类市场的三分之一了，基本达成了我们三年前设定的发展目标。”

    雪莉杨汇报过程中，大家围坐的会议室桌子上出现了她汇报内容的三维影像，有表格，有图形，有影像，很直观地展示了教育业务取得的成绩。

    雪莉杨坐在皇甫右手第一个位子，皇甫边听汇报边看了一下坐在他左手第一个位子的擎天。擎天不时微微点头，对雪莉杨的汇报给予了肯定，皇甫相信擎天的肯定。

    负责健康业务的唐寅成中气十足，微胖，短发。“董事长，健康业务这一块也表现出较快增长。“涟忆一号”的确大大提升了用户使用方便和舒适性，用户对我们服务的依赖度在增加。根据数据统计，我们提供医疗服务响应的速度比去年同期提升了五个百分点，我们客户的平均寿命又延长了五个多月。我们与竞争对手的差距又拉大了一些。同时，我们在治疗致死率高的癌症方面的生物新药开发进展顺利，已完成全部临床测试，预计今年底将正式推出。”

    “好，很好。”皇甫在得到擎天认可的点头后，夸了一句。健康产业是涟漪集团起家的本钱，他一直比较看重。

    轮到金融投资行业的林聪之汇报时，擎天一直未点头表示认同。而且，在林聪之汇报完毕后，擎天说出了他没有点头的理由。

    “集团的投资行业采用的是量子计算机系统，这比几家竞争对手的系统要先进。但除了“涟漪一号”发布当天，我们的股价相对竞争对手上涨较多以外，其他时间基本与他们处于均势。投资板块的成绩不像其他几个板块那么闪亮。”

    擎天的话让林聪之很有点尴尬，但他说的是事实，林也没法为自己辩白什么。

    皇甫这时出来安慰了一下大家，说：“我们最近新入职一批在同行业实习和工作过的算法分析师。我们的目标很清楚，就是要尽快摸清对手系统的弱点，有针对性的攻击对手”。他预计未来肯定会与几家主要对手在金融投资领域进行一场生死之战。

    擎天补充到，“虽然我们的系统是量子计算机搭建的系统，但我们的很多合作方还没有将他们的系统更换为量子计算机系统，导致我们与他们的数据对接要进行转换，从而使我们系统的速度受到影响，甚至还出现极少数不兼容情形。我们必须一方面敦促我们的合作伙伴尽快向量子系统转换，另一方面，我们应该要更进一步加大量子计算机硬件、软件在全球的布局，同时也要针对性开发部分应用系统，减少对部分合作伙伴的过份依赖。”

    擎天也是集团系统平台和技术支持体系的负责人，他的提议得到了皇甫的认同。皇甫责成他会后立即启动更大规模量子计算机全球布点项目。

    接着，皇甫将手上个人信息助手按了一下，会议桌面上浮现出皮特及调查组成员们的三维影像。

    “下面我们讨论一下，联合国人工智能署来集团检查的接待工作。大家都知道，我和皮特是多年前认识的朋友。这次联合国对人工智能的调查虽然是由他带队，但是你们也知道，美国人的性格是就事论事，公事私事严格分开的。我和他私交再好，场面上的事还是要按规则来的。”皇甫把话题引到今天会议另一个的内容上来。

    “根据我们收集的情报，这次皮特他们来，就是想为下一步限制人工智能的深度学习做一些准备。联合国人工智能署已经在考虑拟将人工智能不能有自主意识列入联合国人工智能公约了。”

    “如果真是这样，将极大的限制人工智能的良性发展。”擎天插了一句。

    皇甫接着说，“是啊，所以这次他们来集团调查，我们要让他们尽可能看到真实的情况。目前人工智能还处于比较早期的阶段，这个阶段就设定一些限制政策，不利于这个行业的良性发展。当然，我们本身是走在人工智能前列的，但我们一定要保持低调一些，尽量让他们意识到人工智能还处在很弱小的阶段，保护比限制更有必要。”

    大家各自谈了对人工智能发展的看法，基本同意皇甫提出的要保护而不是限制的意见。会议对集团的具体接待工作进行了周密布置。

    “罗文，你会后尽快与郭磊他们联系一下，大家一起利用媒体做一些铺垫，引发起强烈的社会关注和争议，给联合国人工智能署也施加一些影响。”罗文是集团负责娱乐文化板块的，他立即答应会后就去办理。

    两天后，在全社会营造的人工智能要保护而不是限制的强大舆论的氛围中，皮特带着他的二十人团队来到了涟漪集团。他们到达集团总部楼下时，发现道路两侧挤满了抗议的人群。几百人举着各式抗议显示屏在有节奏的喊着口号。“反对限制人工智能发展！”，“人工智能需要保护！”等等。最有趣的是还有不少人举得是“我想要个人工智能老婆！”牌子。而平常经常出现的“反对人工智能剥夺我们工作权利！”的抗议人群今天被和谐得不见了踪影。

    皮特一见到皇甫就半开玩笑说，

    “楼下都是你请来的群众演员吧？”

    皇甫向他做了个无辜状的摊开双手的动作。皮特他们在涟漪集团总部的调查受到了热情接待，皇甫对他们的要求也是极力配合。调查组可以随便看，随便问。但调查并没有对人工智能署的工作起到积极推动和帮助，联合国人工智能署拟议中的修改公约行动又一次以失败告终。