C’est marrant comme.concept, ça ouvre plein de portes
All major generative AI models have safety filters to prevent users from prompting them to produce pornographic, violent, or otherwise inappropriate images. The models won’t generate images from prompts that contain sensitive terms like “naked,” “murder,” or “sexy.”
Ça me parrait osé comme prémice. Stable diffusion, je suis obligé de mettre nsfw en negative prompt sinon je récupère du nu. Je crois qu’il y a même des lora pour avoir de belles vulves photo-réalistes si jamais le monde était pas assez pourris
Parce que avec 2-3 outils de bases genre inpainting. Je peux reprendre ta tete, prendre un corp en position chaudasse avec une vulve ultra réaliste et partager ça au monde en disant que tu m’as envoyé un nude. Il y a meme des app dediés pour générer du deep fake.
L’avantage c’est que dans 5 ans les nudes ne vaudront plus rien mais pour l’instant c’est le paradis pour harceleurs
Je lisais l’article et j’ai copié cette citation pour la commenter :-)
Les IA en ligne ont des filtres. Les IA locales proposent des filtres, mais rien ne force à les activer. Comme toi, avec Stable Diffusion, je mets des prompts négatifs pour ne pas avoir de femmes sexy alors que je voulais juste un dessin de tracteur.
Par curiosité j’ai testé ce qu’on pouvait lui demander de générer en poussant le truc, et la pédopornographie arrive très facilement sans qu’on le lui demande spécifiquement. Il doit mélanger des dessins manga de jeunes filles et du porno photoréaliste.
