最近在美国犹他州希伯市警局内发生了一起令人尴尬的事件。由人工智能辅助生成的警务报告中有一个段落描述了“警官变成青蛙”的情节。这是因为 AI 系统误把背景播放的迪士尼动画片《公主与青蛙》当作真实口供,将其内容写进了执法记录草稿中。警员在提交报告前发现并删除了这一错误。
这起事件表明,人工智能辅助生成的警务报告存在着识别执法现场人声和预先录制影视音轨之间的差异缺陷。这种缺陷可能会影响案件记录的准确性,并在司法程序中引发争议。
有法律专家和民权团体表达出担忧,过度依赖 AI 生成的执法记录可能会导致社会偏见被编码进执法文本之中。他们也警告,一线警员如果过于依赖这些系统,有可能产生惰性,而“青蛙警官”的荒诞一幕正是这一潜在风险的生动注脚。
近年来,全美多地警方试用或部署了 AI 转录和报告生成工具,以提升效率、减轻文书负担。例如,希伯市警局正在测试 Code Four tool ,它不仅能够生成报告,还支持视频自动打码和基于录像内容的分析。这种技术可能会让一名警员节省 6 至 8 小时工作时间。
然而,检察官和法律学者表示,如果这些自动生成的报告被直接引入法庭,任何识别错误、偏见放大或情节“润色”都有可能对案件事实认定产生不当影响。
这起事件表明,人工智能辅助生成的警务报告存在着识别执法现场人声和预先录制影视音轨之间的差异缺陷。这种缺陷可能会影响案件记录的准确性,并在司法程序中引发争议。
有法律专家和民权团体表达出担忧,过度依赖 AI 生成的执法记录可能会导致社会偏见被编码进执法文本之中。他们也警告,一线警员如果过于依赖这些系统,有可能产生惰性,而“青蛙警官”的荒诞一幕正是这一潜在风险的生动注脚。
近年来,全美多地警方试用或部署了 AI 转录和报告生成工具,以提升效率、减轻文书负担。例如,希伯市警局正在测试 Code Four tool ,它不仅能够生成报告,还支持视频自动打码和基于录像内容的分析。这种技术可能会让一名警员节省 6 至 8 小时工作时间。
然而,检察官和法律学者表示,如果这些自动生成的报告被直接引入法庭,任何识别错误、偏见放大或情节“润色”都有可能对案件事实认定产生不当影响。