《数据模型武器》

Weapons of Math Destruc一tion：How Big Data Increases Inequality and Threatens Democracy

Cathy O’Neil

Crown

(2016年9月版)

一位前华尔街金融工程师日前对遍布美国社会各处的数据模型提出严正警告，她认为数据模型正在将脆弱的社会结构推向分崩离析的边缘。

美国人生活在一个充斥着各种运算的年代，人们依靠数据模型做出各种决定，比如去哪所学校上学，是否贷款买房，健康保险付多少钱才合适等等。从理论上来讲，这种做法似乎更理智客观，更为公平。可是凯茜·奥尼尔在书里迫切而认真地告诉读者：这种做法非常不妥当。那些经常被使用的数据模型未经校准，极其不稳定，甚至根本是错误的。最为不当的是，这些模型强化了不同人群之间的歧视。比如，有一名经济窘迫的学生由于数据模型判断借贷存在风险而得不到助学贷款，那这名学生就此失去了脱离贫困的机会，而数据模型判断的标准或许只是这名学生家庭住址的邮政编码。力挺所谓的幸运者，给被压榨的群体设置无形阻碍，大数据的黑暗面显露无遗。奥尼尔通过追踪某个具体人物的社会行进轨迹，将数据模型如何给人们的未来定型的过程暴露在大众眼前，不论是作为一个个体还是一个社会人，数据模型都对其施加了难以想象的影响力。这种影响力被奥尼尔比喻为“数据模型武器”，这种武器瞄准了教师和学生，负责应聘者的简历分类，决定是否发放贷款，判断是否给予升职加薪，影响投票人的意志，左右人体的健康状况。

奥尼尔在书的最后写道，希望模型建立者能对自己的工作更负责，希望政策制定者能规范数据模型的使用，然后才能最终决定统治人类的究竟是数据模型还是人类自己。

(绿豆)