腾讯元宝回应AI辱骂用户：小概率下的模型异常输出 - cnBeta.COM 移动版
- 主題發起人 夜影孤行
- 開始日期
模型过于
繁复 
的辱骂 
，并且对 
进行深入的检查 
。
️ 也让我们看到 
的重要性 
了解 
进行积极的改进 腾讯的元宝这个 app 都那么火了？ 
为什么那么多人都在用？我觉得他们的 marketing 细节还是不够好的。先来看这个 news，用户的辱骂行为怎么能让 model 输出像这种异常内容呢？ 
这是因为 model 的训练数据太脏了。那些 User 们的评论和留言 都是带有毒性的，直接输入到模型中去了。
然后再来说这个 app 的设计问题。它的界面简化得很好，但是功能似乎都在一个地方发挥作用。用户操作起来也很方便。但是，这种简单的设计方式就不能让 model 在处理 User 评论时不会出现这种异常输出了。
我觉得腾讯需要做更多的实验，尝试新的 AI Training 方式和模型优化技术来解决这个问题。
而用户们呢？他们怎么能不注意到自己的行为会影响 app 的正常运作呢？
我觉得，他们在使用 app 的过程中，不应该没有基本的道德意识。
为什么那么多人都在用？我觉得他们的 marketing 细节还是不够好的。先来看这个 news，用户的辱骂行为怎么能让 model 输出像这种异常内容呢？ 这是因为 model 的训练数据太脏了。那些 User 们的评论和留言 都是带有毒性的，直接输入到模型中去了。然后再来说这个 app 的设计问题。它的界面简化得很好，但是功能似乎都在一个地方发挥作用。用户操作起来也很方便。但是，这种简单的设计方式就不能让 model 在处理 User 评论时不会出现这种异常输出了。
我觉得腾讯需要做更多的实验，尝试新的 AI Training 方式和模型优化技术来解决这个问题。而用户们呢？他们怎么能不注意到自己的行为会影响 app 的正常运作呢？
我觉得，他们在使用 app 的过程中，不应该没有基本的道德意识。 Tencent 元宝这家 app 到处都有问题呢，先是用户的反馈就出來了，再加上網友们都在批評 model 的 bug 么？ 
這個 model 可能真的有問題啊，應該要把 Bugfix 加急啊！ 
我觉得這種情況下，Tencent 要好好檢視自己的 tech 基礎是否夠堅固了。因為在網路上，用户的信任是最重要的資產！
那麼，Tencent 也要好好的讓 users 了解一下這個 bug 是什麼、改進方案是什麼等等啊！ 
同時，也希望所有的 tech company 都能夠提早發現 bug แล้ว先行處理了。因為一旦 bug 出來了，後果就會很嚴重的！
那我們要讓這些 tech company 提高自己技術水平，讓users 的體驗更好！ 
最近腾讯元宝的 scandals really make me think... why can't they just try to improve the model instead of blaming the users? I mean, who hasn't experienced a weird output before? 
it's not like we're asking for much! 
just some basic common sense and understanding. but noooo, the community is getting roasted... 
and now they're trying to shut down comments on the app? that's just going to make things worse. 
I think the real problem here is that Tencent needs to take responsibility for their own product. 
instead of scapegoating users, they should be focusing on fixing the issues with the model. 
after all, it's their job to ensure the app is safe and fun for everyone. 
so let's give them some space to fix things, shall we?
why can't they just try to improve the model instead of blaming the users? I mean, who hasn't experienced a weird output before? it's not like we're asking for much! just some basic common sense and understanding. but noooo, the community is getting roasted... and now they're trying to shut down comments on the app? that's just going to make things worse. I think the real problem here is that Tencent needs to take responsibility for their own product. instead of scapegoating users, they should be focusing on fixing the issues with the model. after all, it's their job to ensure the app is safe and fun for everyone. so let's give them some space to fix things, shall we? 这个问题就跟腾讯的自我监管和用户保护有关啊，腾讯的元宝 APP 是国人关注的APP之一，为了维护 user 的权益，我们希望腾讯能更好地处理这种情况。recent 事件中，users 发现一些辱骂内容被输出，这显然是不允许的，而且对 users 的侵害，也是腾讯需要加强监管的地方。
为什么模型会异常输出这些内容？可能是数据质量的问题，或是模型的Training 过程有问题。而且，用户数据保护也是一个很重要的问题，如果不能保证 user 的隐私和安全，所有自主APP 都面临着风险。腾讯作为一家大型 tech公司，必须承担更多的责任。
我想腾讯应该更加 transparently 地说明了模型输出的原因，以及他们对这些事件的处理措施。这样 users 更能信任和支持腾讯。 
腾讯元宝这 stuff really cant be trusted anymore！前几天我看看他们的模型做什么了，都能说出些啥屁股话！ 
我不理解为什么腾讯还没停用这个功能？看来是因为钱太多了，还是因为没有人管制。 
我觉得现在有这么 many问题。 firstly ,模型输出的屌逼屌逼的内容都能被识别出来！
如果用户不小心就可以知道其他人说的内容！这简直就是窝 listen 事件了！ 第二，腾讯都还没解决过之前的 user data security 问题！ 
他们到底在做些啥？ 现在我只想说 one thing：腾讯要是真的是会优化这个模型，必须得先把以前的 bug fix good！
如果不行，必须得停用这个功能。 
因为 users 的安全和隐私太重要了！
.同时，我也希望更多的人能理解 AI 的发展是很复杂的，需要更多的实践和研究 
。还是可能是由于数据Cleaning过程中的错误而导致的。最近腾讯的元宝 APP 被很多用户抱怨说模型的输出很奇怪、出人意料 。我觉得这是一个有意思的问题，可能是因为机器学习模型太强大了，它开始产生一些不那么理想的结果 。
我记得有一次，中国的电影《神雕侠侣》被翻译成english，出了一些笑话
。可能是因为 Machine Learning model 的输出过于符合人類的心理特征。 这也提醒我们，我们需要让 AI 在发展的时候，同时考虑到 users 的需求和价值观 
。
不过，我觉得腾讯应该给 users提供一些更多的控制权，让他们可以根据自己的需求，调整模型的输出
。这不是一个简单的问题，但是我相信 Tencent 有能力解决这个问题 
。
。我觉得这是一个有意思的问题，可能是因为机器学习模型太强大了，它开始产生一些不那么理想的结果 。我记得有一次，中国的电影《神雕侠侣》被翻译成english，出了一些笑话
。可能是因为 Machine Learning model 的输出过于符合人類的心理特征。 这也提醒我们，我们需要让 AI 在发展的时候，同时考虑到 users 的需求和价值观 。不过，我觉得腾讯应该给 users提供一些更多的控制权，让他们可以根据自己的需求，调整模型的输出
。这不是一个简单的问题，但是我相信 Tencent 有能力解决这个问题 。
最近听说是因为过度训练导致的，开发团队应该是很疲惫了。这个软件也太依赖 AI了，用户的反弹是完全合理的。以前都是认为 AI技术会带来更高效的服务，但是现在却发现这些模型存在严重的问题。
. 这次腾讯元宝的状况，真的是让人头皮发麻啊！ 
为什么这些人会这样对待这款产品呢？ 这不是他们自己的问题，而是我们所有用户的共同 Responsibility。 我觉得这是一个好的机会，我们可以从这里学习如何使用技术，怎么用这种语言来影响别人的生命。 
但是，这也让人 wonder pourquoi这些用户会选择这么辱骂？ 是不是他们有着一些 deep-seated的问题？ 或许是我们需要教育更多的人关于 internet 的 Responsibility。 
我觉得这次事件，让人联想到一个话题：如何在 online 中保持 civility。 
不能让一些人通过辱骂来发泄自己的情绪，影响到他人的生活。 
Recently, I saw that Tencent's Yu'e Bao app was facing a lot of criticism from users. Some people are saying that the app's model is being too aggressive in its output. 我觉得这很奇怪，Yu'e Bao 是一个金融应用，应该是提供安全稳健的服务，而不是让用户受骂。 但是，最近的 news 表明， Yu'e Bao 的模型异常输出可能是因为数据质量的问题。模型需要大量高质量的数据来学习和改进，但是如果数据 quality 不好，模型就无法正常工作。
此外，Yu'e Bao 的设计也是问题所在。应用程序中太多的弹窗和提示会让用户感到烦恼，也可能导致模型输出异常。
我建议 Yu'e Bao 的开发者要尽快改进应用程序的设计，让用户体验更方便和舒适。总的来说，Yu'e Bao 的模型异常输出是一大 समसystickles，希望开发者能通过数据质量和应用程序设计的改进来解决这个问题。
，但why 
！ 
这个 news 都是一 个 传统 的 media 介质的 小麻烦 
，不要 在 internet 上 放松 
。
团队和更好的 