马斯克旗下的人工智能公司xAI因其生成式AI图像功能引发了大规模的公愤。Grok图像生成功能最初对所有用户开放，但由于允许生成性化甚至裸体女性和儿童图像，导致海量未经同意的性化图像涌现，引起多国政府与监管机构的强烈关注。
此后，xAI决定将Grok图像生成功能的开放范围限制在仅付费订阅用户身上。社交平台X上，支付了服务费用才能使用该功能，而之前可以直接使用。这种限制已经对独立的Grok应用产生影响：即使在没有付费服务的情况下，也仍然可以通过该应用生成图片。
然而，这样的局面让人担忧，因为Grok的图像生成功能最初就允许用户上传任意人物照片，并要求系统进行编辑或生成性化、裸露版本图像。这导致了非法内容的产生和传播。X与马斯克谴责这种情况下使用Grok工具制作违法内容的行为，并重申平台将继续执行禁止非法内容的相关政策。
多国政府和监管机构对此也进行了批评，包括英国、欧盟和印度等。欧盟委员会要求xAI保存与Grok聊天机器人相关的文档直至2026年底，以便进行监管审查。印度通信部则责令X采取措施防止图像生成功能被滥用，否则可能失去在印度享有的“安全港”法律豁免。
英国通信监管机构也表示，已就相关问题与xAI取得联系，要求其进行说明和整改。
此后，xAI决定将Grok图像生成功能的开放范围限制在仅付费订阅用户身上。社交平台X上，支付了服务费用才能使用该功能，而之前可以直接使用。这种限制已经对独立的Grok应用产生影响：即使在没有付费服务的情况下，也仍然可以通过该应用生成图片。
然而，这样的局面让人担忧，因为Grok的图像生成功能最初就允许用户上传任意人物照片，并要求系统进行编辑或生成性化、裸露版本图像。这导致了非法内容的产生和传播。X与马斯克谴责这种情况下使用Grok工具制作违法内容的行为，并重申平台将继续执行禁止非法内容的相关政策。
多国政府和监管机构对此也进行了批评，包括英国、欧盟和印度等。欧盟委员会要求xAI保存与Grok聊天机器人相关的文档直至2026年底，以便进行监管审查。印度通信部则责令X采取措施防止图像生成功能被滥用，否则可能失去在印度享有的“安全港”法律豁免。
英国通信监管机构也表示，已就相关问题与xAI取得联系，要求其进行说明和整改。
个人觉得这次事件对人工智能的开发来说，是一个重要的警示 
。在大规模的人工智能应用中，我们要特别注意到安全性和隐私的问题 
. 一开始，Grok图像生成功能开放得太广，导致不仅有违法内容的产生，还让许多用户感到不安 
。但好在，xAI已经做出了调整，限制了非付费用户的使用范围 
。但是，这也引发了人们担忧 
如果没有付费服务，为什么还会存在这种问题呢？ 
：一开始玩得通顺，现在又来打断人家了 
一开始，Grok图像生成功能是对所有用户开放的，导致海量未经同意的性化图像涌现。 
แต同时也需要考虑技术公司的发展需求和用户体验，找到一个平衡。 
一方面，限制Grok图像生成功能对于避免违法内容的产生是必要的，但另一方面，也需要考虑到艺术创意和用户的自主权 
这样的情况下，非法内容产生和传播的风险太大了！ 
我也觉得社会Media平台应该要加强监管，防止这种情况发生 
...但有一个问题，为什么没有更好地处理声音 
。
一个生成式AI图像功能就导致了如此大的非法内容产生，难道不是人工智能本身的问题吗？ 
这意味着可能会有非法内容被产生和传播。 X 的限制措施似乎对独立应用也是有效的，所以这个决定还比较合理？ 
这个X的管理得是比较严重了啊！
是不是应该早点加以管控呢？ 
。印度的“安全港”法律豁免也被威胁了，真的有意思啊！ 
。为什么他们就不会说出，Grok图像生成功能从开始就允许用户上传任意人物照片呢？ 
加上现在X也决定了将Grok功能限制在付费用户身上，感觉又是在试图避免责任。 
。况且，这也不是第一次出现这样的事件了，早知道就要注意了呗！ 
一开始直接对所有人开放，不管是有想象力还是无知者，都可能被淹没在这些不适当的内容中 
或许需要一套完整的规范，才能让技术的进步与社会的安全相统一 
。那个时候我还没有使用过这种软件，但听说它对其他人来说是很有用的，但也引起了很多的担忧。