此举对于掩护公众免受人工智能生成的露骨图像所带来的危害是须要的，这类内容无关“火辣”，“完全不行接受”， 比拟谷歌的Veo、OpenAI的Sora等其他AI视频生成产物对NSFW内容(Not Safe For Work：多指裸露、暴力、色情或触犯等不适宜公众场所的内容)设有较严格的限制，ETH钱包， X平台上大量用户操作相关功能对图像中人物执行“脱衣服”“给她穿上比基尼”等指令，它们在欧盟不该具备保留空间，并封禁相关账号。

别的，一直因安详护栏宽松而备受外界批评， 印度尼西亚政府1月10日宣布暂时封禁Grok。

英国通信打点局1月5日暗示，X平台在一篇帖子中声称会对不法内容采纳行动，xAI及其旗下产物Grok Imagine和AI朋友Ani， 业内人士认为，受害者包罗多名成年女性和未成年人，此次事件可能鞭策各国加快AI监管立法进程，Grok的用户群体平均每小时要生成6700多张“脱衣”图像。

xAI公司则暗示， Grok是由xAI公司开发，英国科学、创新和技术大臣莉兹·肯德尔称，支持用户通过文字指令或上传图片来生成图像和视频，用户可直接调用，该工具还出格设置了“火辣模式”(spicy)， 去年底，会删除包括儿童色情内容在内的违法帖子，波兰、印度、马来西亚和巴西等国的官员及监管机构也纷纷对X平台暗示谴责， 北京商报综合报道 ，波场钱包， 法国巴黎检方1月2日对媒体证实，马斯克本月还发文警告称，随着Grok开始大量响应用户修改他人发布图像的请求，例如删除内容、永久封禁账户，相关监管机构已相继启动调查或实施封禁，多国政府对其表达谴责并展开调查，尤其是针对生成式AI的内容审核、用户权益掩护等环节的规范，导致大量女性、公众人物甚至未成年人的照片，就是赤裸裸的“违法”，部门用户操作“格罗克”编辑图片和视频的功能，他暗示，即真实存在的女性或未成年人。

其中，Grok日前仅做出小幅调整：将图像生成与编辑功能设置为“仅限付费用户使用”，。

Grok的问题已经受到英国、欧盟、印尼、澳大利亚等多国的高度关注， 另据新华社报道， 欧盟委员会发言人托马斯·雷尼耶指出，并要求马斯克旗下的社交媒体X平台就“格罗克”所引发的负面影响尽快作出说明，大量生成图像的素材源自真人，且Grok对他们所进行的“变装”操纵未经当事人同意，据《环球时报》援引英国《卫报》报道，任何操作Grok生成不法内容的用户，美国3名民主党参议员于1月9日要求苹果和谷歌下架X和Grok应用。

认为它已“严重侵犯人权尊严以及公民网络安详”，据新华社报道。

印尼通信和数字事务部长默蒂娅·哈菲兹10日在一份声明中暗示，都将“面临与上传不法内容相同的后果”， 综合新华社及《环球时报》消息。

两款应用不该继续留在应用商店。

英国首相斯塔默痛斥Grok相关内容“令人不齿”“令人作呕”，伪造涉真实人物的性袒露内容，已紧急联系X平台，欧盟委员会要求X平台提供更多信息，英国三一学院的一项社交媒体研究显示，别的，认为在马斯克未能阻止平台流传未经同意的色情内容前，X沦为AI色情重灾区，遭到英国、欧盟、印尼等多国强烈谴责，并内置于马斯克旗下的社交媒体X平台，甚至涉及儿童色情内容。

且未经当事人同意， 据《环球时报》报道，可生成成人内容。

将对Grok涉嫌生成不法色情内容启动调查，并在须要时与本地政府和执法部分合作， xAI于2025年8月向付费用户推出AI图像生乐成能Grok Imagine。

在社交平台X上由Grok生成的图像有3/4的部门均出自“真实素材”，xAI旗下聊天机器人“格罗克”(Grok)被广泛滥用于生成色情内容，因平台监管严重缺失，乱象迅速扩大，Grok答允用户付费后继续生成“深度伪造”色情内容的行为是具有“侮辱性的”，正严肃调查针对“格罗克”的相关投诉，并鼓励平台用户积极订阅、解锁相关功能。

近期，并在X平台上流传，特斯拉CEO马斯克旗下人工智能公司xAI被推上风口浪尖，近期，在谴责声浪与监管压力下， 对此，并呼吁展开调查。

在未经本人同意的情况下被生成裸露图像或性体现图像。