保护用户照片被别人拿去喂ai进行训练生成虚假照片的开源工具anti-DreamBooth
该项目提出了一个名为anti-DreamBooth的防御系统,用以anti-DreamBooth等工具的恶意使用。DreamBooth能够通过学习个人几张参考图片,生成该个人的高质量图像。但如果被滥用,则可能产生针对个人的假新闻或令人不安的内容,带来严重负面影响。
anti-DreamBooth旨在对用户图像添加微小扰动,从而破坏基于这些扰动图像训练的任何DreamBooth模型的生成质量。该项目探索了广泛的扰动优化算法,并在两个面部数据集上对其进行评估。结果显示,尽管DreamBooth和基于Diffusion的文字到图像模型复杂,但该方法有效防御了这些模型的恶意使用,即使在模型或提示不匹配的逆境条件下也保持了效果。
该研究对于保护公众安全、检测虚假信息、促进AI健康发展具有...
点击查看剩余70%
{{collectdata}}
网友评论