OpenAI, une entreprise leader dans le domaine de l’intelligence artificielle, envisage de créer du contenu pornographique généré par IA. Cette décision soulève de nombreuses questions et controverses. Dans cet article, nous allons explorer ce sujet en détail.
OpenAI et la pornographie générée par IA
OpenAI a récemment exprimé son intérêt pour la création “responsable” de contenu pornographique généré par IA. L’entreprise a publié un document visant à ouvrir le dialogue et à solliciter des retours sur les directives de son IA. Le nouveau cadre NSFW d’OpenAI cherche à initier une discussion sur la manière et les conditions dans lesquelles l’entreprise pourrait permettre l’utilisation d’images et de textes explicites dans ses produits IA.
Le point de vue d’OpenAI
Joanne Jang, membre de l’équipe produit chez OpenAI, a déclaré : “Nous souhaitons assurer un contrôle maximal aux utilisateurs, tant que cela ne viole pas la loi ou les droits d’autrui”. Elle a ajouté qu’il existe des contextes créatifs où le contenu impliquant de la sexualité ou de la nudité est essentiel pour les utilisateurs.
Les défis de la pornographie générée par IA
La création de contenu pornographique généré par IA soulève plusieurs défis et controverses. Parmi eux, la question des droits des créateurs et la fiabilité des garanties actuelles.
Les droits des créateurs
Les modèles d’OpenAI ont été entraînés sur d’énormes quantités de contenu Web public, y compris du contenu pornographique. Cependant, OpenAI n’a pas acquis de licences pour tout ce contenu, ni même permis aux créateurs de se désengager de la formation jusqu’à récemment. Si OpenAI généralisait le porno généré par IA, les créateurs feraient face à une concurrence encore plus féroce.
La fiabilité des garanties actuelles
OpenAI et ses concurrents perfectionnent leurs outils de filtrage et de modération depuis des années. Cependant, les utilisateurs trouvent régulièrement des moyens de contourner ces modèles, applications et plateformes d’IA. Par exemple, Microsoft a dû apporter des modifications à son outil de création d’images Designer, qui utilise les modèles OpenAI, après que des utilisateurs aient trouvé le moyen de créer des images nues de Taylor Swift.
Les risques de la pornographie générée par IA
L’IA a déjà engendré une nouvelle forme d’abus sexuel. Des élèves d’écoles primaires et secondaires utilisent des applications basées sur l’IA pour “déshabiller” les photos de leurs camarades sans leur consentement. De nouvelles lois tentent de contrer ce phénomène, mais il reste à voir si le système judiciaire peut réguler une industrie aussi rapide que l’IA.
La position d’OpenAI
Il est difficile d’imaginer une approche qu’OpenAI pourrait adopter en matière de porno généré par IA qui ne comporte pas de risques. Peut-être qu’OpenAI reconsidérera sa position. Ou peut-être, contre toute attente, trouvera-t-elle une meilleure solution. Quoi qu’il en soit, il semble que nous le saurons bientôt.
