Flock Safety 是一家监控公司,其摄像头记录了美国 6,000 多个社区的车辆,该公司开发了一款人工智能工具,可以仅通过驾驶员的动作来识别和跟踪驾驶员。

该调查结果来自《连线》杂志的一份报告,该报告从 Flock 自己网站上的文件中提取了系统代码,这些文件提供给加载其登录页面的任何人。

该公司表示,该软件最初名为 Nightshift,现更名为 OS Investigate,仍在开发中,并正在与一小部分执法合作伙伴进行测试。

警官打开一个聊天框,从包含 69 个预设提示的菜单中进行选择,或者编写自己的提示。一个内置查询将“目击者”列为过去两周在社区中最常见的车辆。

另一项调查发现,每个人在两年内被捕两次以上(仅毒品犯罪除外),然后根据前三名建立档案。 “检查”将姓名和出生日期转化为从警方记录和商业数据经纪人中提取的亲属、电话号码和在线账户。

其中十四个提示根本不需要铭牌、名称或描述。官员提供一个地点、一个时间窗口和一种行为——三天内撞上三个零售店的汽车,或者一周内撞上几家银行的汽车——然后系统就会返回合适的人。过滤器会剔除公共汽车和货车,因此往返这些地方的普通司机仍留在名单上。

代码中详细说明了寻找同事的逻辑。它会计算目标汽车两分钟内其他车牌出现在同一摄像头处的频率,标记任何出现 3 次或多次高于 0.75 置信度分数的车牌,并返回最多 20 个名字。

“我不知道还能怎么说,但这听起来完全是疯狂的,”看过这些提示的罗德岛州波塔基特市前警官诺埃尔·皮查多 (Noel Pichardo) 告诉《连线》杂志。 “我不知道怎么会有人反对 Flock 真正追踪人们的想法。”

美国公民自由联盟 (ACLU) 高级政策分析师杰伊·斯坦利 (Jay Stanley) 表示,Flock 的摄像头功能与该公司已经在做的事情之间的差距“几乎没有空间……就像中国一样”。

Flock 长期以来一直告诉公众,其技术“无法识别、识别或跟踪个人”,并且“不适用于监视人”。发言人 Paris Lewbel 称 OS Investigate 是一款独立于该公司车牌阅读器的产品,旨在帮助调查人员处理其机构已经掌握的记录,并表示在更广泛的发布之前,其功能可能会发生重大变化。该公司对《连线》的报道没有异议。

对抗已经蔓延到街头。六月和七月,活动人士在全国各地喷漆、用胶带粘住并摧毁了 Flock 摄像机; 《卫报》统计了 23 个州至少发生了 33 起事件。这种愤怒与警方实际使用该网络的方式有关。司法研究所的一份报告发现,有超过两打警察因涉嫌使用车牌阅读器跟踪现任或前任合作伙伴而辞职或被捕。

这种抵制已经波及国会山,众议员托马斯·马西计划的法案将扣留部署该技术的机构的联邦资金。

研究人员已经建立了人工智能生成的模式,这些模式可以迷惑车牌读取软件,而 Flock 并不是唯一一家突破界限的公司:Meta 拥有能够识别人脸并记录人的行为的相机专利。