不通人性的机器
方可成
①一架满载乘客的飞机从纽约起飞后遭遇鸟群撞击，两台引擎全部失灵，英雄机长奇迹般地实现了水上安全迫降。这是电影《萨利机长》讲述的真实故事。
②不过其后，机长被质疑：为什么不返航拉瓜迪亚机场，而要冒险迫降？听证会上，机器完美地还原了当天飞机遭遇鸟群撞击之后的高度、速度、角度等数据，以及天气、风向等外部环境。结果表明：这架飞机完全可以成功返航原机场。
③眼看萨利机长就要声名扫地，这时他指出了一个关键因素：人不可能像机器一样毫无感情地作出最理性的选择，而是需要时间进行反应、思考、判断。果然，将人的反应时间考虑进去之后，机器显示，水上迫降成为唯一的选择。
④在不通人性的机器面前，英雄机长的命运险些被毁掉。其实，这个世界上还有千千万万小人物，也因为机器不懂人性、不具备人文关怀，而生活在糟糕的处境之中。这类小人物的最典型案例，就是美国不少快餐连锁和大型超市的打工者。他们大多是按小时数拿薪水的合同工，收入本就微薄。近几年，企业大规模采用机器来进行排班，让他们受到进一步的剥削。
⑤这种排班的核心是基于顾客流量安排上岗员工数。其实，超市和快餐店本来就会进行这种“科学排班”：周二上午人流少，少安排人上岗；周五晚上人流多，全员上岗。不过，新的数据技术让这种方法的复杂性达到了前所未有的程度：比如，下雨时，人们可能会更多走进咖啡店，所以这时要多安排人手；某个晚上附近的体育场有大型赛事，可能会给快餐店带来一大批深夜客流；甚至，根据社交媒体上提及某一产品的热度，来预测门店的人流……
⑥这一切都让人流预测和排班安排达到了前所未有的科学化程度，但它却给店里的打工者带来了灾难性的后果。
⑦为什么会这样？首先，这种复杂的预测方式，往往需要利用非常新的数据（比如天气预测、社交媒体热度），因此很多时候只能提前一两天完成预测。这也就意味着，员工的排班表不是一个月前就安排好了，而是提前一两天才能得到，而且永远处于不可预测的变动之中——因为数据是在不断变动的。这也就意味着这些打工者永远处于不确定性之中，可能随时被叫去工作，无法掌控自己的时间。
⑧其次，此前，超市和快餐店的打工者们还能享受一些间歇的清闲，不至于每一分钟都在高压之下。但是现在，拜算法所赐，他们基本上每一分钟都要处于紧绷的状态，因为机器算法的终极目标就是最大化每一位员工在岗时的工作投入。但它却没有考虑到员工作为活生生的人在这种制度下所受到的巨大压力。
⑨此外，机器还会自动完成一些奇葩的排班方式：比如，晚上值最后一班岗，工作到11点关店，第二天一早又要上最早一班，凌晨4点就要起来去开店。这种情况一度非常普遍，以至于人们发明了一个词：clopening，也即关门（closing）和开门（opening）的合体。有这种排班方式，并不是因为机器要有意为难这些打工者，而是因为在机器的算法中，并没有“人类需要充足睡眠时间”这样的设定。不需要睡眠的机器，理所当然地认为人类也是一样的金刚不坏之身。
⑩数学家Cathy 在去年出版的《数学杀伤性武器》一书中讲述了不通人性的机器剥削底层打工者的故事。她提醒我们：机器和算法的表现，最终体现的其实是制造机器、设计算法的人的意志。如果设计算法的人不考虑人性的因素，那么机器是不会自动考虑人性的。
⑪从这个意义上说，机器不通人性并不可怕，只要制造机器、设计算法的人多一些对人性的考虑和关怀，比如禁止连续排最晚班和最早班、要求提前一周定下排班表等，事情就不会变得那么糟糕，就像在萨利机长的听证中加入那关键性的35秒一样。
（选自《南方周末》2017年2月9日）
