人工智能成为人类观察、理解和经营世界的新兴方式，然而近日也有研究者指出，在利用这一工具的同时，也须及时反思其中的哲学与伦理问题，如“人工智能是如何被制造出来的”以及“我们是如何为它所困的”等。近日，微软FATE（公平、责任、透明和伦理）团队的高级研究员、加州大学伯克利分校杰出访问教授凯特·克劳福德（Kate Crawford）推出新书《人工智能图谱》（Atlas of AI，耶鲁大学出版社），她认为人工智能在字面上是致力于理解或寻求智能，但实际上如今它更多地是一本“权力登记册”，这个隐喻涵盖了社会、政治和经济权力，以及人工智能对电网和大自然永不满足的欲求。

本书开篇“地球”一章，即讲述了锂和稀土元素开采过程中的破坏性，锂和稀土元素是人工智能生产力的重要原材料。在“劳动力”一章中，作者带领大家参观了位于新泽西州的亚马逊营运中心，进而反思“生产逻辑”的影响——机器及其建造者进一步要求人类（低薪的“码农”）与之实时同步。“情感”一章则展示了在警务、安全、法律、劳务、教育和精神医学方面，让机器自动检测人类情绪并不能消除偏见。

克劳福德以UTKFace为例，提示人们或许即便发现数据滥用也未必能改变现状。UTKFace是一个从互联网上提取面部图像的数据库，它采用了限制性的性别二分法和种族分类方案（从0到4的整数分别代表白人、黑人、亚洲人、印第安人和其他人种），却从未试图联系以征得数据库中这些“样本”的同意，或向他们确认自己的性别和种族身份。

此外，她还讲述了美国国防部的“Maven”项目。在该项目中，武器化人工智能被用于扩大无人机使用范围，他们首先找到了谷歌，并试图对此进行保密。然而这个项目还是曝光了，逾3000名谷歌员工共同签署了一封公开信，表达了他们对于公司参与Maven项目的道德担忧。与谷歌的合作夭折，Maven项目“改嫁”Palantir。后者是一家初创企业，其部分资金来自美国中情局关联的风险投资集团。克劳福德展示了Palantir的商业模式如何在地方警务和连锁超市运营过程中发挥作用。

虽然有人可能认为现在关注道德与伦理为时过早，还有人觉得克劳福德反复使用“神话”和“神话学”是危言耸听，但可以肯定的是，对于“数据科学实践和政策人性化”这一跨学科的议题，人们的认识仅在初级阶段——人类还在摸索如何与机器学习的系统相处，摸索着如何理解自身在人工智能时代的变化。

*文汇独家稿件，转载请注明出处。