《玻璃笼子》作者：（美）尼古拉斯•卡尔 中信出版集团2015年11月出版

大数据时代、机器人时代、自动化时代，会让人类的未来变得更好，还是更糟？

不同的专家权威给出了不同的解读。与其说他们的观点各自对立，倒不如说是高度互补的。我们需要X大奖创始人、奇点大学执行主席彼得·戴曼迪斯在《富足》一书中就技术带来美好未来的乐观解答，以及具体的行动路线图；科普作家马特•里德利的《理性乐观派》回顾了科技史和经济史，相当鼓舞人心。

美国著名思想家、《哈佛商业评论》前主编尼古拉斯·卡尔则要悲观得多。他的《浅薄：互联网如何毒化了我们的大脑》、《Google让我们变愚蠢》等作品已成为互联网、新科技时代的“警世恒言”，强调人类绝不能因为新科技、互联网、智能化、自动化而丢弃主体性。某种意义可以认为，因为尼古拉斯·卡尔这样的人存在，以其影响力促使公共管理部门、公众以及互联网行业发生转向，从盲目乐观，变得更加注重新科技应用的安全，以及是否合乎伦理原则，技术的用户因而获得了更为安全、放心的体验。

我们现在看到的这本《玻璃笼子》，是尼古拉斯·卡尔的新作。这本书延续了尼古拉斯·卡尔的一贯立场，揭示了自动化、智能化趋势潮流下，技术崇拜带来的应用偏差，而这种偏差正在伤害人类自身。

我国医疗卫生系统正在推进电子病历、数字化的国民医疗档案的普及。这被认为在不损害患者隐私的情况下，可以通过数据的发掘利用，极其有效的提高诊疗水平和响应速度。尼古拉斯·卡尔在书中举出了截然相反的例子。从小布什任内，到2009年初上任的奥巴马，美国政府十多年来积极推进电子病历普及，为此花费了多达数百亿美元的投入。但在奥巴马的第二任任期开始后，医疗界却不断曝出这项自动化新技术的弊端。

首先是电子病历的应用，促使医生进行更多的不必要检查，导致医疗成本的增加。这是因为电子病历数据系统会自动推荐许多诊断检查项目，系统默认设置为选取检查，如果医生要选择不检查，则要进行一番手动操作。第二项弊端是造成病历档案的随意篡改，尽管这本可以通过系统设置来杜绝，但医院和系统维护企业通常默许医生所为。第三项弊端是弱化了医生技能。医生不再手写病历，而是大量通过剪切+粘贴的操作完成病历描述，这确实提高了效率，却诱使医生忽略病人、类似病情之间的差异，诊断的专属性和准确性降低了。与之同时，不再手写病历，加快了诊疗效率，却因此减少了医患沟通。此外，电子病历系统还会事无巨细的提示诊断错误、处方配伍问题等，医生通常烦不胜烦，会关闭问题提示，而这恰恰会诱发诊断和处方错误。

电子病历系统的以上特征，实际上是在加速实现医生诊疗过程的智能化和自动化，方向当然是创造出完全智能化的机器人医生。智能化、自动化、机器化替代人的进程，实际上始于20世纪中期，最早出现在军事领域，然后是制造业，最近十多年来在金融业、新闻业、法律服务业等更多行业获得了广泛应用。尼古拉斯·卡尔指出，机器具有学习能力，可以不断规范现象间复杂的统计关系，反馈能力不断提高，变得相比过去更为准确。医疗领域而今已经悄无声息的实现了大部分的智能化和自动化，医生而今扮演的角色其实只是一个人类传感器，负责整合多项医疗设备和仪器的判断，什么时候机器可以替代扮演人类传感器的角色，人类医生很可能就失去了就业市场。

当然，医生们可以感到稍许安慰的是，迄今为止，不管是何等精妙和智能化的机器，还没有掌握任的直觉，面对概率性问题的判断也常常面临局限，数据出现失真。机器人医生很可能会在不久的将来出现，但如果离开人类医生的把关，很可能会在连续运转下产生致命的计算错误，并因此为人类医生保留就业岗位创造机会。

《玻璃笼子》一书用了大量的篇幅来谈论各类领域内，自动化、智能化、机器化的新科技应用所无法避免的局限性。例如GPS的广泛使用，让曾经是北极圈内的天才向导因纽特人失去了探路能力，事故相反频发。又如自动飞行系统投入使用后，相反使得飞行员的技能被弱化，进而降低了应对突发危险情况的判断能力，如果危急时刻存在两难选择的情况，自动化系统也给不出很好的解答——对于飞行员来说，安装了自动飞行系统的飞机，实际上已经变成具有更大危险性的“玻璃笼子”。

归结起来，尼古拉斯·卡尔强调的自动化弊端，主要包括两大方面：一是数据挖掘分析、算法本身存在的缺陷，无法做到尽善尽美，概率上百万分之一、千万分之一的差错会以更高频度出现，给应用了自动化系统的设备、系统带来致命危机；二是自动化的应用，让人产生过度依赖和偏好，从而降低了技能，也容易分散注意力和意识，无法做到安全可靠的应对突发风险。

尼古拉斯•卡尔不是“卢德主义者”，他不反对自动化的使用，但非常警惕盲目、过度而不设保障的自动化应用。他希望自动化、智能化、机器化潮流下，设计者、发明家、创新企业家能够抛弃技术优先的策略，真正回到以人类为中心的自动化的怀抱，回归人类工程学的人本主义原则。毕竟，只有切实的参与和劳动，才让人在这个世界上产生存在感。