以色列军方 据报道，以色列在加沙地带实施了面部识别拉网，对普通巴勒斯坦人在受蹂躏的地区移动时进行扫描，试图逃离持续的轰炸并为家人寻求生计。
据《纽约时报》报道，该程序依赖于两种不同的面部识别工具：一种由以色列承包商 Corsight 制造，另一种内置于通过 Google Photos 提供的流行消费者图像组织平台中。 一位匿名的以色列官员告诉《泰晤士报》，谷歌照片比任何其他面部识别技术都更有效，帮助以色列人列出了参与 10 月 7 日袭击的涉嫌哈马斯战士的“黑名单”。
自 10 月 7 日袭击以来，以色列为查明哈马斯成员身份而对巴勒斯坦人的面孔进行了大规模监视，这已经影响到了数千名加沙居民。 许多被捕或被监禁的人，往往在证据很少或根本没有证据的情况下，后来表示他们遭到了残酷的审讯或酷刑。 在其面部识别故事中，《泰晤士报》提到了巴勒斯坦诗人莫萨布·阿布·托哈（Mosab Abu Toha），他被以色列军方逮捕和殴打始于面部识别的使用。 阿布·托哈后来被释放，没有被指控任何犯罪，他告诉该报，以色列士兵告诉他，他的面部识别逮捕是一个“错误”。
抛开准确性问题——众所周知，面部识别系统在识别非白人面孔时不太准确——使用谷歌照片的机器学习分析功能将平民置于军事监视之下，或者更糟的是，这与该公司明确规定的规则相悖。 在“危险和非法活动”标题下，谷歌警告称，谷歌照片不能用于“宣传对人们造成严重和直接伤害的活动、商品、服务或信息”。
“这种类型的面部识别监控破坏了国际人权法所规定的权利。”
当被问及禁止使用 Google Photos 伤害他人的规定与以色列军方使用 Google Photos 来创建“黑名单”的做法是否兼容时，公司发言人 Joshua Cruz 拒绝回答，仅表示“Google Photos 是一款免费产品，广泛使用”。向公众开放，可帮助您通过对相似的面孔进行分组来组织照片，以便您可以为人物添加标签以轻松查找旧照片。 它不会提供照片中未知人物的身份。” （克鲁兹没有回应谷歌随后多次澄清立场的尝试。）
目前尚不清楚此类禁令——或该公司对人权的长期公开承诺——如何适用于以色列军队。
“这取决于谷歌如何解释‘严重和直接的伤害’和‘非法活动’，但这种类型的面部识别监控破坏了国际人权法所规定的权利——隐私、非歧视、言论、集会权等等，”说安娜·巴恰雷利 (Anna Bacciarelli)，人权观察组织技术副总监。 “考虑到以色列军队使用这项技术的背景，以及加沙人民普遍、持续、系统地剥夺人权的情况，我希望谷歌能够采取适当的行动。”
做好事还是做谷歌？
除了禁止使用谷歌照片对他人造成伤害的服务条款外，该公司多年来还声称遵守各种全球人权标准。
“自谷歌成立以来，我们一直坚信利用技术的力量来促进人权，”该公司全球人权主管亚历山大·瓦尔登 (Alexandria Walden) 在 2022 年的一篇博文中写道。 “这就是为什么我们的产品、业务运营和围绕新兴技术的决策都受到我们的人权计划和对增加信息获取并为世界各地的人们创造新机会的坚定承诺的影响。”
据该公司称，这一坚定的承诺包括维护《世界人权宣言》（禁止酷刑）和《联合国工商业与人权指导原则》，该原则指出，领土冲突会造成一些最严重的侵犯人权行为。
以色列军方使用照片等免费、公开的谷歌产品，引发了人们对这些企业人权承诺以及该公司愿意在多大程度上实际履行这些承诺的质疑。 谷歌表示，它认可并遵守《联合国商业与人权指导原则》，该框架呼吁企业“防止或减轻与其业务关系直接相关的运营、产品或服务的不利人权影响，即使他们没有造成这些影响。”
沃尔登还表示，谷歌支持信息通信技术公司冲突敏感人权尽职调查，这是一个自愿框架，可帮助科技公司避免其产品和服务在战区被滥用。 该文件提出了许多建议，其中包括谷歌等公司考虑“使用产品和服务进行政府监视，违反国际人权法规范，造成直接的隐私和人身安全影响（即定位、逮捕和监禁某人）”。 （JustPeace Labs 和共同撰写尽职调查框架的企业社会责任组织都没有回复评论请求。）
“Google 和 Corsight 都有责任确保其产品和服务不会导致或助长侵犯人权行为，”Bacciarelli 说。 “根据这一消息，我希望谷歌立即采取行动，停止在该系统中使用谷歌照片。”
参加“无技术种族隔离”运动（一项由工人领导的针对 Nimbus 项目的抗议运动）的谷歌员工呼吁其雇主阻止以色列军方使用 Photos 的面部识别技术来发动加沙战争。
“以色列军方甚至正在将谷歌照片等消费技术武器化，使用其中包含的面部识别技术来识别巴勒斯坦人，作为其监视设备的一部分，这表明以色列军方将使用向他们提供的任何技术 – 除非谷歌采取措施确保他们的产品不会助长种族清洗、占领和种族灭绝，”该组织在与 The Intercept 分享的一份声明中表示。 “作为谷歌员工，我们要求公司立即放弃雨云计划，并停止所有支持以色列政府和军方摧毁加沙的种族灭绝议程的活动。”
雨云计划
这并不是谷歌声称的人权原则第一次与其商业行为相矛盾——即使只是在以色列。 自 2021 年以来，谷歌通过其备受争议的“Project Nimbus”合同向以色列军方出售先进的云计算和机器学习工具。
与任何人都可以使用的免费消费产品 Google Photos 不同，Project Nimbus 是一个根据以色列政府需求量身定制的软件项目。 然而，Nimbus 和 Google Photos 的面部匹配能力都是该公司庞大的机器学习资源的产物。
向经常被指控犯有侵犯人权和战争罪的政府出售这些复杂的工具，违反了谷歌的人工智能原则。 该准则禁止人工智能使用可能造成“伤害”的行为，包括任何“其目的违反广泛接受的国际法和人权原则”的应用程序。
谷歌此前曾表示，其“原则”实际上比表面上看起来要窄得多，仅适用于“定制人工智能工作”，而不适用于第三方对其产品的一般使用。 “这意味着我们的技术可以被军队广泛使用，”一位公司发言人在 2022 年告诉《防务一号》。
谷歌如何或是否将其高管博客上的保证转化为现实世界的后果仍不清楚。 谷歌前员工阿里尔·科伦 (Ariel Koren) 表示，她在抗议 Nimbus 项目后于 2022 年被迫辞职，她认为谷歌在照片问题上保持沉默，是为了逃避对其技术使用方式承担责任。
“毫不夸张地说，协助和教唆种族灭绝违反了谷歌的人工智能原则和服务条款，”现在是 No Tech for Apartheid 组织者的科伦告诉 The Intercept。 “即使在没有公开评论的情况下，谷歌的行为也清楚地表明，该公司的公共人工智能道德原则对谷歌云的商业决策没有任何影响或影响，即使是种族灭绝的共谋也不能成为该公司对利润无情追求的障碍。”不惜任何代价。”
Source: theintercept.com
