自动不平等

随着高科技日新月异的发展，数字革命如火如荼地进行，数据追踪以及在此基础上的决策机制已经成为治安管理、政治预测、市场营销、信用报告、企业管理、金融业务、公共项目管理甚至刑事判决惯常使用的工具。当我们生活在一个欢庆数字化时代时，本书作者尤班克斯却在追问，数字革命是否是一场由精英主导的游戏？普通人特别是贫困人口在数字时代的命运是什么？算法是否比人类更加中立、公正和明智？作者选取了三个故事：印第安纳州尝试用自动化程序挑选符合福利系统资格的申请者；洛杉矶对无家可归者采用电子登记方式；宾夕法尼亚州阿勒格尼县采取了一种很有风险的模式，预测哪些儿童将来可能成为被虐待或忽视的受害者。通过作者的调研，得到的结果令人惊讶，美国各地的贫困人口和工人阶层都已经成为新数字贫困管理工具的对象，算法的错误和有意排斥严重影响他们的生活质量，甚至危及其生存。算法的自动决策导致的数字歧视将让所有人处在数字济贫院而不自知。