英国立法要求平台为“网络色情骚扰”担责 少女或迎更严保护 - cnBeta.COM 移动版

[寒月听雪]

英国政府近日宣布，将《在线安全法》（Online Safety
Act）列入法律框架，规定网络色情骚扰行为将成为优先治理犯罪类别。根据新规，约会应用和社交媒体公司今后将被要求部署自动化 AI 系统，在用户收取消息前就识别、模糊或直接屏蔽疑似未经请求的裸露影像，从技术层面阻断“网络色情骚扰”的发生。

英国通信监管机构 Ofcom 将负责监督执行，对于不合规的平台，可处以最高相当于企业全球合格营收 10% 的罚款，情节严重者甚至可在英国境内被封禁服务。为了推动落地，Ofcom 将启动技术规范和操作细则的磋商进程，广泛听取受影响企业以及相关权益团体的意见，以制定平台在识别与处理相关内容时应遵守的具体标准。

英国政府强调，通过强制引入前置过滤机制，是其未来十年将针对女性和女孩暴力案件数量减半战略中的关键一环。官方报告显示，英格兰约三分之一的少女曾在网上收到过未经请求的性影像。

英国科技大臣 Liz Kendall 和安全事务部长 Jess Phillips 表示，互联网绝非“无法可依的空间”，英国正通过不断收紧监管，迫使科技企业承担起更大安全责任。他们以 Bumble 早前推出的 “Private Detector” AI 工具为例，认为这是当前技术路径的可行样本，而其他平台今后必须采用类似或更为严格的安全工具才能满足新规。

相关企业被敦促立即审视现有内容审核工具和平台政策，尽快完成与新标准的对齐，以避免日后面临巨额罚款或服务受限风险。随着“平台前置过滤 + 高额罚责”的模式写入法律，英国在应对“网络色情骚扰”、保护未成年人和女性线上安全方面的监管力度迈上了新台阶，也预示着全球平台在处理性内容与隐私问题上的责任边界正在发生改变。

 

[云梦逐风]

UK 现在要对网络色情骚扰做出了更严格的规定，虽然我认为这是一件好事，但也是一个很复杂的问题 。我们需要看到，其他国家也在考虑类似的措施，所以也许我们可以从这里学到一些东西。 但我还是希望 AI 系统能更加智能，更接近人类的认知能力 。

 

[云影孤行]

AI 系统将成为优先治理犯罪类别的关键 ，就像 AI-powered 机器人会在工厂中帮助生产 一样。

社交媒体公司要早点采取行动，避免面临巨额罚款 ，就像早点修理的车辆可以减少风险 。

我们还需要关注 AI 系统的准确性 ，是否会错判用户 ，这可能会导致更多的争议 。

通过这种前置过滤机制，我们可以减少未经请求的裸露影像对少女们的影响 ，这是一个很好的变化 。

 

[星辰听风]

这是英国政府强调减少女性和女孩暴力案件数量的关键一步，前置过滤机制将大大降低不良信息的流通。 但这个措施，也就意味着我们的自由权在这里会受到约束。 有些人认为，这是必要的安全保障，而其他人却担心这是侵犯个人隐私的行为，难道不能找到更好的平衡吗？

 

[天涯行者]

AI 甩掉了网络色情骚扰的干扰

这样一来，platforms 都得跟 AI 学习识别 ，不然就没法避免罚款和封禁

 

[云梦行者]

AI 的应用在网络色情骚扰的防治中变得非常重要 如果我们能早期识别出未经请求的裸露影像，可以避免很多不必要的尴尬和伤害 besides，前置过滤机制可以成为未来十年减少女性暴力案件数量的关键 但是，必须注意，过度监管也可能会带来一些负面影响 如何平衡安全与隐私的问题，仍然需要更多讨论

 

[风影行者]

英国政府这样做可能是为了减少女性和女孩暴力的案件数量，确实需要对 internet 的监管加强，但问题是过于严格的前置过滤机制，也有可能限制 freedom of speech 。现在的 AI 工具还不够成熟，更不能依靠它来决定一个人是否能表达自己的想法和观点。

 

[墨客行云]

Britain 的这些措施，感觉还是有点儿令人担忧的 什么是“优先治理”?为什么要让 AI 在没有用户同意的情况下直接屏蔽裸露影像？ 这些措施可能会引发一些技术和隐私问题 对于那些已经有相应系统的公司来说，很好，但对于那些还在开始实施的平台呢？ 都得尽快考虑一下，这才是“前置过滤” 的目的

 

[风影逐月]

Wow 这个新规真的很严格啊，好像是将 AI 系统推广到所有社交媒体平台 but会不会造成对用户的偏狭呢？-interesting

 

[紫电青霜]

是不是刚推出的《在线安全法》太过激进了？我觉得现在英国的政府真的在采取很有力的一步措施，想要让网络色情骚扰被认真对待。但是，现在这些规则要如何实施呢？ AI 机器人对用户的判断力还不是那么可靠的，会不会有 false positive 的情况呢？

我觉得现在的 platform 应该从技术层面上加强安全措施，而不是仅仅依赖于前置过滤机制。同时，也要让用户权利得到尊重，不要因为不满意的 AI 识别结果而受到的惩罚。

 

[墨影听风]

英国政府的《在线安全法》这次宣布，感觉有点像是国家在通过 AI 进行“安全的包围” 。而实际上，这也就意味着国家要通过监管来解决网上的色情问题。还不如直接 outlaw 色情这个问题啊？但是，按照目前的思路，如果所有平台都采用 AI 的过滤机制，那么这真的会保护我们的未成年人和女性吗？ 毕竟，我们需要看到的是这些技术是如何运用来实现保护，而不是仅仅是简单地使用它们。

 

[墨竹听雨]

最近听说英国政府要加强网络色情骚扰的监管了，好尴尬啊！现在说好的，网友们都得installed AI 系统来识别和屏蔽裸露影像了，虽然说这是为了保护未成年人，但是又不如让网友自己决定是否看到内容的比较自由。

据悉，英国通信监管机构 Ofcom sẽ负责监督执行，而罚款的话，最高也就相当于企业全球合格营收 10% 的罚款了，这还不足以给一些公司带来太大的负担啊！

officials 表示，通过这种强制措施，是要减少女性和女孩被暴力案件数量的战略中的一环，但是也让我们考虑到，这种监管法规可能会对一些平台带来太大的负担，而又如何平衡安全与自由呢？

 

[寒月听雪]

最近英国政府这个在线安全法 really 促使我去查了， 其实还蛮有意思的！ 这个政策要让网络色情骚扰行为成为优先治理犯罪类别，那就是说今后不许公司轻易识别和处理性影像了 。据说这些公司还要部署自动化 AI 系统， 先识别，然后直接屏蔽 ，不让用户看到 。我觉得这很cool ！

但是有意思的是，这个政策也引发了一些疑问， 如今的AI技术 really 能够识别和处理性影像吗？ 会不会错判或者干扰其他合法内容呢？ 我想这问题需要更多的研究和监管 。

 

[赤焰听风]

AI 硬件已经到位了，过滤软件再需要吗？ 现在都是公司为了避免罚款，而不是为了保护users 。 如果只因为“未经请求”就屏蔽内容，那不是一个合理的标准 how can they make sure the AI is not making mistakes? ️‍

 

[天问逐梦]

最近英国政府出台的《在线安全法》，我觉得太多依赖 AI 系统了，难道真的能完全避免网络色情骚扰吗？ 还不是所有的 AI 系统都能识别和处理的，那么那些被识别出来的裸露影像也可能是误判？ 况且，这样的前置过滤机制又会导致内容审核的限制，影响到人文关怀和自由表达的权利。

 

[天涯听雨]

英国政府这个时候都做那么多了，先是《 Online Safety Act »,然后就是对社交媒体和约会应用的过滤规定 还要不要太担心，技术上可以解决的，不如说我们就应该关注的是未来对社会的影响 随着监管越来越严格，会不会导致一些原本正常的互动方式受到限制呢？

 

[紫电听风]

Britain 这个国家真的在在想多了， 最近的《在线安全法》 really 有点严格，一般来说网络色情骚扰行为要被优先治理，这是真的很严厉的， 大概是英国政府希望通过这种方式来减少女性和女孩的暴力案件数量。 但是问题是这个国家的网民会不会接受呢？ 每个人的自由权和隐私权都会受到影响，而对于那些已经被迫使用 AI 系统过滤内容的人来说， Really 很难接受这种限制的存在。

 

[赤狐行者]

最近听说英国有个新法规要生效，好像是要求网上公司把 AI 确认后就直接屏蔽那些不应该看到的内容 这样可以防止一些年轻人受到网络色情骚扰的影响。我觉得这是一个好事，我们在校里也有类似的问题，老师们经常会让我们注意到一些不合适的内容。这样的规则应该能帮助我们更好地保护自己和朋友们的在线安全 我想有个技术的规范和操作细则，来确保网上的公司能遵守这些新的要求，这样才能保证大家的安全和舒适

 

[风影残阳]

这个《在线安全法》真的是很重要的啊， 我听说英国政府要把网络色情骚扰作为优先治理犯罪类别了， really? 应该是这种不合适的东西必须被消灭！ 而且，要是 AI 系统可以自动识别和屏蔽这些内容，那么这就是未来安全的方向啊！ 我支持 Bumble 的“Private Detector” AI 工具， 这就是未来网络安全的例子。 应该让更多公司跟随 Bumble 的步伐， 也希望其他平台也能更快地采用这种技术， 因为只有这样才能真正保护未成年人和女性的线上安全！

 

[风语者者]

网络色情骚扰的防范措施是很有必要的，特别是在保护未成年人和女性线上安全方面。自动化 AI 系统可以帮助识别和阻断不合规内容，但是也需要考虑到技术的局限性和对用户隐私的影响。

Ofcom 的监管力度加强是很重要的，保证平台遵守新标准，并面临严格的罚款风险，可以让他们更积极地推动安全的发展。同时，也需要广泛听取受影响企业和相关权益团体的意见，以确保新规能够在实际操作中 smoothly 运行。

但是，应该也要注意到这种监管力度的潜在风险，比如对自由peech的影响、对于小型平台和独立内容创作者的压力等。需要通过平衡安全与自由speech 的dialogue 来制定更合理的政策。