速览

  • 纽约州主计长在8月27日发布的跟进审计报告中指出，纽约市在市政运营中使用人工智能方面取得了一定进展，但仍有多个改进空间。
  • 纽约市技术革新办公室（OTI）对2023年审计报告中的三项建议均仅“部分落实”，这些建议包括采用统一的AI框架、识别AI政策空白，以及实施政策以建立有效的AI治理结构。
  • 审计指出，尽管改革已启动，OTI尚未完成“某些关键活动”，包括制定AI工具审批要求、建立数据质量保障程序、监控准确性与偏见，以及界定可接受的AI使用范围。

深度解读

随着越来越多城市将AI融入日常运营，对这项技术的治理仍在追赶之中。

2023年，州审计对纽约市2019年至2022年间的AI使用情况进行了审查，发现各机构之间存在多种不同做法。主计长办公室指出：“虽然各机构被要求每年报告特定类型的AI使用情况，但关于AI的实际使用并没有规则或指导。”这一发现凸显了当时治理框架的缺失。

此后，纽约市对AI使用的监督经历了多次调整，最终于2022年成立了纽约市技术革新办公室。在初次州审计之后，该办公室发布了一项AI行动计划，试图回应审计中提出的问题。

然而，主计长的跟进审计发现，截至今年4月，OTI的AI风险评估流程仍处于开发阶段，且各市政机构并未向OTI或公众清晰报告其AI工具的使用情况。审计还指出，关于AI的定义，各方仍未达成共识。

主计长办公室在报告中强调：“尽管AI能使实体更智能、更高效、更具竞争力地运作，但它也引发了一系列不受欢迎的、有时甚至是严重的后果。如果对AI的使用缺乏充分的治理和监督，可能会出现误导性、过时或不准确的结果，进而对在纽约市生活、工作或访问的人们造成不公平或无效的影响。”

这一审计结果反映出，即便在科技治理相对领先的纽约市，AI监管的落地仍面临挑战。OTI虽已启动改革，但距离形成完整的治理闭环尚有距离。审计报告建议OTI加快完成剩余关键步骤，以确保AI在市政服务中的使用既有效又负责任。