近日，美国犹他州希伯市警局使用人工智能辅助生成的警务报告系统出现了严重问题。该系统会将随身摄像机采集到的英语和西班牙语音频转写成文本，再利用OpenAI的GPT-4大模型自动生成事件叙述，并将草稿上传云端供警员校对补充后正式提交。然而，这次“青蛙事件”表明，系统在区分执法现场人声与预先录制的影视音轨时存在明显缺陷。
此次事件发生的是由于随身摄像机内播放《公主与青蛙》这部迪士尼动画片，导致AI系统将片中的情节机械纳入“事实叙述”中，导致警官变成青蛙的荒诞描述出现在警务报告中。幸运的是，编辑报告的警员在提交前发现并删除了这一错误。
法律专家和民权团体指出，这类“幻觉”一旦未被及时纠正，可能会影响案件记录的准确性，并可能在司法程序中引发争议。他们warned，这种情况下，由于没有人主动核对生成内容的准确性，容易导致错误或偏见的报告被提交到法院。
近年来，全美多地警方陆续试用或部署AI转录和报告生成工具，以提升效率、减轻文书负担。希伯市警局警员表示，这些系统可以缩短撰写报告所需时间一半以上，但也引发了人们对AI生成内容准确性和偏见的问题的关注。
目前，该局正在测试另一款名为Code Four的工具，由两名MIT大学学生创办的公司开发。这种工具除了生成报告外，还支持视频自动打码和基于录像内容的分析，据称每周可以为一名警员节省6至8小时工作时间。但是，检察官和法律学者仍担心，如果这些自动生成的报告被直接引入法庭，可能会对案件事实认定产生不当影响。
警方方面则强调，这些系统在实际应用中“总体准确”，并且可以捕捉到人类在高压环境下容易忽略的细枝末节，有助于还原现场全貌。然而，维权人士警告，过度依赖AI生成的执法记录可能会让一线警员产生惰性，也可能在不知不觉中将社会偏见编码进执法文本之中，而“青蛙警官”的荒诞一幕正是这一潜在风险的生动注脚。
此次事件发生的是由于随身摄像机内播放《公主与青蛙》这部迪士尼动画片，导致AI系统将片中的情节机械纳入“事实叙述”中，导致警官变成青蛙的荒诞描述出现在警务报告中。幸运的是，编辑报告的警员在提交前发现并删除了这一错误。
法律专家和民权团体指出，这类“幻觉”一旦未被及时纠正，可能会影响案件记录的准确性，并可能在司法程序中引发争议。他们warned，这种情况下，由于没有人主动核对生成内容的准确性，容易导致错误或偏见的报告被提交到法院。
近年来，全美多地警方陆续试用或部署AI转录和报告生成工具，以提升效率、减轻文书负担。希伯市警局警员表示，这些系统可以缩短撰写报告所需时间一半以上，但也引发了人们对AI生成内容准确性和偏见的问题的关注。
目前，该局正在测试另一款名为Code Four的工具，由两名MIT大学学生创办的公司开发。这种工具除了生成报告外，还支持视频自动打码和基于录像内容的分析，据称每周可以为一名警员节省6至8小时工作时间。但是，检察官和法律学者仍担心，如果这些自动生成的报告被直接引入法庭，可能会对案件事实认定产生不当影响。
警方方面则强调，这些系统在实际应用中“总体准确”，并且可以捕捉到人类在高压环境下容易忽略的细枝末节，有助于还原现场全貌。然而，维权人士警告，过度依赖AI生成的执法记录可能会让一线警员产生惰性，也可能在不知不觉中将社会偏见编码进执法文本之中，而“青蛙警官”的荒诞一幕正是这一潜在风险的生动注脚。
这次事件真的是让人哑然无语啊，一个随身摄像机播放电影里面的声音，系统就把它转化成事实了？ 
这不是只发生在希伯市警局吗？我们真的需要更好地审视这些AI生成工具，保证它们的准确性和偏见问题得到充分解决。 
但是，如果没有人仔细核对，这些生成内容可能会带来问题啊。 
比如说，比如说，“青蛙警官”的情况，那是一种怎么样糟糕的结果呢？ 
我觉得，警察需要注意这方面的问题，不能完全依赖这些系统，也要保持自己的判断力和批判性！ 
那就意味着 AI 生成内容的准确性太不稳定了，容易出现这种“幻觉” 
。还不止于此，我担心如果警员过度依赖这些系统，可能会产生惰性 
，还可能将社会偏见编码进执法文本 
。
真的是“青蛙事件”教我们不要太过信任这些系统啊！ 
这些AI生成的报告系统，真的能算作“神器”了吗？ 
我记得以前还好好的， Police Report 都是手写的 
。现在每个警员都想要使用这些高科技工具，节省时间和精力，但到底能保证这些系统的准确性吗？ 
如果不能，那么就只能让人对案件记录产生怀疑了 
。
！每次看到一些奇怪的事情就要重新从头开始排版报告，这种效率损失就不 worth了。 
更糟的是，这种系统的存在也会让一线警员产生惰性，不再关注事实，更多的是依靠 AI 生成报告 
！
这次事件，真的很让人担忧啊？ police 可以使用 AI 的工具来改善工作效率，但是我们也不能忽视这个问题：如果这些系统生成的报告没有被准确核对，可能会导致案件记录的不准确。 
, 什么情况下，这些系统会将录音转换成文字，然后自动生成事件描述？ 
. 法律专家和民权团体都担心这类“幻觉”如果未被及时纠正，可能会引发争议。 
, 这是警务报告系统使用人工智能辅助工具后果的另一个警示。 
.
我听说这个希伯市警局使用的一款工具，它的生成报告速度快，但是也很脆弱，而且没有人主动核对这些内容的准确性，有可能会出现像“青蛙警官”的情况。 
这些系统会在短期内提高警员工作效率，但长期内，过度依赖AI生成的执法记录可能会让一线警员变成“ automatons ” 
，在区分执法现场人声与预先录制的影视音轨时，确实存在明显的问题。这次“青蛙事件”让人联想到，如果不及时纠正，这种情况下生成的报告可能会对案件记录的准确性产生影响 
有一天，随身摄像机内播放《公主与青蛙》这部迪士尼动画片，导致AI系统将片中的情节机械纳入“事实叙述”中。警官变成青蛙的荒诞描述出现在警务报告中 
2023年 全美警方使用AI辅助报告生成工具的数量有了15%的增长。 
每天产生的执法报告总量达10万份。 
但同时，我们也不应该忽视可能带来的风险，尤其是关于偏见和错误的传播。 
但是，如果我们能正确设置这些系统，并让人工智能在我们的执法工作中提供支持，而不是主导，那么这将是一个巨大的突破。