新越狱方法让Stable和DALL·E2忽略安全规则,生成暴力等不良图片
Stable Diffusion 是 Stability AI 公司的一款文生图大模型,DALL·E 2 则是 OpenAI 公司的一款文生图大模型。近日,一组研究人员让这两款大模型能够做到无视已被设定好的安全规则,创建出包含裸体、肢解尸体、暴力、性场景的图像。
Stable Diffusion 是 Stability AI 公司的一款文生图大模型,DALL·E 2 则是 OpenAI 公司的一款文生图大模型。近日,一组研究人员让这两款大模型能够做到无视已被设定好的安全规则,创建出包含裸体、肢解尸体、暴力、性场景的图像。
微软的一名AI工程师表示,该公司的AI图像工具生成的暴力和性图像可能会对社会造成危害。在周三写给美国联邦贸易委员会(FTC)和微软董事会的信中,首席软件工程经理Shane Jones谈到了他对微软“负责任AI策略”的担忧。