美国各州总检察长呼吁对 AI 生成的儿童色情图像采取行动

美国 50 个州和 4 个领地的总检察长周三致函国会，呼吁对 AI 生成的儿童色情图像采取行动。Stable Diffusion 之类的开源文本图像模型让 AI 生成色情图像比以往任何时候都容易。由于开源模型是可公开访问的，可以在本地运行，因此没有任何方法能阻止一个人生成儿童色情图像。闭源的商业模型如 Midjourney、DALL-E 和 Adobe Firefly 都内置了过滤器禁止生成色情图像。总检察长们呼吁，扩大现有的针对儿童色情材料（child sexual abuse material 或 CSAM）的法律，涵盖 AI 生成的材料。虽然 AI 生成的儿童色情图像是假的，但总检察长们认为这仍然会对儿童及其家人带来风险。