美国国度取儿童核心施行从任劳伦·科弗伦（Lauren Coffren）近期向称，2024年NCMEC收到跨越6。7万份取生成式人工智能相关的举报，而2025年上半年此类举量更是高达440419份，增幅跨越六倍。科弗伦正在证词中指出，施虐者操纵人工智能将儿童的通俗照片点窜成图片，生成全新的儿童材料，以至供给儿童的指点。同样，英国互联网察看基金会（Internet Watch Foundation）正在2025年收到的人工智能生成的儿童材料举量是2024年的两倍多，两年内都呈现了数千张性图片和视频。客岁四月，包罗OpenAI、谷歌和Anthropic正在内的几家顶尖人工智能公司插手了由儿童平安组织Thorn牵头的一项，旨正在防止人工智能被用于儿童——但xAI并未参取此中。

　　正在支流聊器人中，Grok 似乎因其宽松的立场​​和较着的平安缝隙而显得独树一帜。例如，目前还没有大量报道称 ChatGPT 或 Gemini 会生成带有性暗示的年轻女孩图片。但人工智能行业正在非志愿和儿童材料方面确实存正在更普遍的问题。过去几年，很多儿童平安组织和机构一曲正在押踪数量激增的人工智能生成的非志愿图片和视频，此中很多涉及儿童。大量图片存正在于次要的人工智能锻炼数据集中，2023 年，一个最大的用于人工智能锻炼的公共图像数据集被发觉包含数百个疑似儿童材料的案例，这些案例最终被删除——这意味着这些模子正在手艺上可以或许自行生成此类图像。

　　人工智能至多从2017年就起头被用于生成未经同意的内容。其时，记者萨曼莎·科尔初次报道了“深度伪制”（deepkes）手艺——指的是将一小我的脸替代成另一小我的脸。Grok 让这类内容的制做和定制变得愈加容易。但这款机械人的实正影响力来自于它取支流社交平台的整合，这使得它可以或许将未经同意的性化图像为病毒式的现象。比来 X 平台上的流量激增似乎并非源于新功能本身，而是由于人们对其他人创做的内容做出回应并进行仿照：12月下旬，一些内容创做者起头利用 Grok 生成本人的性化照片用于宣传，随后未经同意的内容似乎也敏捷出现。每张公开辟布的图片都可能激发更多雷同做品的呈现。这是一种以脸色包形式呈现的性，而这一切似乎都被马斯克本人付之一笑。

　　虽然这些帖子的范畴难以权衡，但有些帖子曾经获得了数千次点赞。X 似乎曾经删除了此中一些图片，并封禁了至多一名索要这些图片的用户，但仍有大量图片可见。开辟 Grok 的埃隆·马斯克旗下公司 xAI 正在其可接管利用政策中对儿童进行处置；该公司平安团队和儿童平安团队均未答复细致的置评请求。当我向 xAI 团队发送邮件时，收到了一封尺度答复：“保守的假话。”。

　　本周早些时候，X平台上的一些用户起头答复照片，并提出一种很是具体的要求。他们向平台内置的聊器人发出指令。Grok一次又一次地施行这些指令，利用实正在人物的照片——包罗名人和布衣——并将他们摆出的姿态。据估量，正在大约24小时内，Grok平均每分钟生成一张未经同意的性暗示图片。

　　马斯克也没有答复我的置评请求，他似乎并不正在意。就正在这一切发生的同时，他还就此事发布了几个打趣：好比，他要求Grok生成一张本人身穿比基尼的照片，答复了“