【参考译文】
英国内政部正在使用应用于在线申请的秘密算法对签证申请进行分类，这一消息提醒人们关注特蕾莎•梅留下的更有害、更持久的遗产之一：她担任内政大臣期间推行的移民政策。然而，即使政府在移民政策上的目标是公平和平衡的，将这一过程数字化仍将涉及严重的原则问题。
把改变生活的决定交给机器学习算法总是有风险的。数据中的小偏差会变成结果中的大偏差，但这些都很难挑战，因为软件的使用将它们笼罩在混淆和假定的客观性之中，尤其是当其运作方式被描述为“人工智能”时。这并不是说它们总是有害的，或者没有任何用处：通过仔细的培训和能够被充分理解、明确定义的问题，以及当它们处理好的数据时，软件系统可以比人类做得更好。
这不仅仅是软件的问题。从某种意义上说，整个公务员体系就像任何其他官僚机构一样，是一台算法机器：它根据一组确定的规则处理问题。好的公务员就像电脑程序一样，忠实地执行指令，严格按照指令行事。公务员应该比任何计算机都更清楚地理解指令人的意思和真正想要什么。但当指令明确时，政府的机制——一个生动的比喻——就会将它们付诸行动。
数字算法更容易更快犯更大的错误，且承担的责任更少。传统公务员体系的模拟官僚制与人工智能的数字化官僚制之间的一个关键区别是，追究人类组织的责任并追溯其做出决策的过程要容易得多。神经网络的工作通常是不透明的，甚至对他们的程序员也是如此。
然而，这项技术对各国政府的承诺如此之大，他们肯定会部署它。这并不意味着我们无能为力。有一些简单的非技术测试可以应用于政府科技：我们可以很容易地问，把某项特定服务数字化，是会令必须使用该服务的市民的生活更美好，还是只会更方便公务员的工作。在某些情况下，这些目标是直接对立的。要求通用信贷的申请者在线上进行申请直接伤害了无法上网的人，而这些人很可能是最需要信贷的。同样，移民服务的数字化意味着面对面的面试更加困难和昂贵;同样，这可能会伤害那些最需要它的人。
