科技界的“历史遗留问题”：人工智能与极右翼势力

全文共2037字，预计学习时长7分钟

图源：wsj

最近，OneZero的一篇报道表明，监控公司Banjo的创始人兼首席执行官达米安·巴顿曾是3K党南方骑士的成员，他因1990年在犹太教堂开枪而被指控为仇恨犯罪。

消息一经发出，犹他州总检察长办公室中止了与该公司签署的价值至少75万美元的合同。报道还称公司与该州公共安全部门价值2080万美元的合同也作废了。

就在几周前，《赫芬顿邮报》的记者卢克·奥布莱恩报道称，Clearview AI的创始人Cam-HoanTon-That与极右翼极端分子有联系，其包括布莱巴特新闻网的前任编辑查克·约翰逊、披萨门阴谋论大师迈克·赛尔诺维奇和新纳粹黑客巨魔安德鲁‘韦夫’奥恩海默。

有关证据表明，在开发ClearviewAI软件的过程中，Ton-That就与约翰逊等人有合作了。

这两大著名AI公司负责人与极右翼组织联系的消息备受关注，令人震惊。它揭示了极右势力与AI驱动的监测公司之间有着深度的交往和广泛的合作，且这些公司正在与执法机构以及市、州政府签约。

这也引发了一些亟需讨论的重要问题：这种右翼和反动政治的持续压力目前在科技行业是如何体现的？这些AI创始人对正在构建推广的技术持什么态度？最重要的是——我们对此应该做些什么？

图源：resonate

这些公司能访问大量的公众活动数据。例如，犹他州允许Banjo访问其交通监控录像、闭路电视（CCTV）以及911系统的实时数据流，公司将这些数据流与社交媒体以及其它敏感数据源相结合。正如该公司所描述的，它会梳理这些信息的来源，以在现实世界中“监测异常”。

许多AI系统会重现种族偏见的社会不平等现象。很多预警系统都使用“脏”数据：笔者在AI NowInstitute工作的同事证明，在许多司法管辖区中，执法机构都在使用有缺陷的、带有种族偏见的、有时是非法警务实践期间产生的数据来训练系统。

毋庸置疑，这意味着种族偏见是“预防犯罪”分析系统的通病：学者萨拉·布莱恩对预测性警务的研究表明，这些数据实践重现了既有的不平等模式，加剧了对有色人种社区的过度治理和监管。

但这个案例中的情况更甚。ClearviewAI似乎在设计时就明确考虑到了种族主义用例：据《赫芬顿邮报》报道，查克·约翰逊在2017年1月发帖称，他参与了“为驱逐小队建立算法以识别所有非法移 民”的工作，并吹嘘其正在开发的面部识别软件的功能。

图源：artificialintelligence-news

Clearview AI已经签订了与美国移 民和海关执法局（ICE）的付费合同，使用预测分析和面部识别软件来加速美国境内非法移 民 的拘留和驱逐，即使现在正处于疫情大流行时期。

他们很快就能知道数百万位民众日常生活更私密的细节：该公司正在推进与州和联邦机构的合同签订，为冠状病毒接触者的追踪提供面部识别工具。

很难想象到底需要多强的保护措施，才能帮助他们的接触者追踪工作不受ICE的影响？多亏新闻报道，在他们帮助“驱逐小队”的消息传出来之前，我们就已经知道了ClearviewAI的活动充斥着暴力。

更可拍的事实是，ClearviewAI和Banjo的问题只是冰山一角。我们需要长期观察那些科技行业成员对极右翼的痴迷，并将那些创造了AI系统并从中获利的人的政治和网络作为分析的核心。我们必须做好准备，你不会喜欢他们挖掘出来的东西。

硅谷的建立者威廉·肖克利，1956年时由于发明晶体管而获得诺贝尔物理奖，但其最大的热情不在构建半导体，而在优生学。他花费数十年来宣扬关于智商差异的种族主义理论，并支持白人至上主义。

肖克利引导了一场以失败而告终的运动，他曾试图说服斯坦福大学的教授加入他的行列，包括AI领域的创始人之一，约翰·麦卡锡。肖克利并不是个案，多年以后，优生学研究的支持者杰弗里·爱泼斯坦，成为了麻省理工学院媒体实验室的主要资助者，为AI研究员马文·明斯基的工作提供了10万美元的资金。

麦卡锡在2004年的一篇文章中断言，从生理角度来看，男性比女性更擅长科学与数学。只有通过技术增强，女性才能与男性平起平坐。其观点与詹姆斯·达莫尔不谋而合。

达莫尔在谷歌发布的一份反多元化备忘录得到了另类右翼成员的支持，其中概述道：“由于生理原因，女性和男性的偏好和能力分布不同，……这些差异或许解释了，为什么在科技领域和领导人中少有女性。”支持这些看法的人不在少数。

图源：Sexism

虽然这两种情况存有不同，但愈加明显的是，在人工智能领域的有话语权的人士中，持续存在着右翼力量和显而易见的种族与性别歧视政治。

虽然人们早已忽略了这些“历史遗留问题”，但其影响范围却越来越大：今天的行业多样性已经不如19世纪60年代，而技术又对种族主义和偏见假设进行编码，使它们更难识别和减轻的同时，加剧了现有的歧视形式。

更令人难以接受的是，正是这些支持种族主义的公司所创造的技术，正在慢慢渗透我们生活的每一个细节当中：健康、安全、保障、娱乐……在不知不觉中，歧视已经发生了，并且仍在进行腐蚀着我们。这值得警惕！

https://www.toutiao.com/i6832837193900229123/