OpenAI promet que ChatGPT ne proposera pas de contenus pornographiques

Une déclaration qui fait suite au billet publié par l'entreprise américaine, dont une partie était consacrée à la génération de contenus pour adultes.

"Nous n'avons pas l'intention de créer de la pornographie générée par l'IA". La position d'Open AI sur la génération de contenus à caractère pornographique est très claire.

C'est dans un courriel, destiné au média américain Gizmodo, qu'un porte-parole d'Open AI a tenu à mettre les choses au clair. Il a, par ailleurs, indiqué que les deepfakes étaient "inacceptables" et que l'entreprise accordait "la priorité à la protection des enfants". "Nous croyons également à l’importance d’explorer attentivement les conversations sur la sexualité, dans des contextes adaptés à l’âge" a-t-il ajouté.

Il y a quelques jours, la société soutenue par Microsoft publiait un billet de blog sur le développement de ses outils d'intelligence artificielle (IA) générative. L'un des chapitres de ce document porte sur le contenu NSFW ("not safe for work").

À savoir un contenu qui contient des éléments jugés particulièrement inappropriés dans un cadre professionnel. Il s'agit généralement de contenus à caractère sexuel ou violents.

"Contrôle maximum"

Dans son billet, Open AI indiquait étudier la possibilité de "générer du contenu NSFW dans des contextes adaptés à l'âge via l'API et ChatGPT". "Nous sommes impatients de mieux comprendre les attentes des utilisateurs et de la société en matière de comportement des modèles dans ce domaine."

L'entreprise de Sam Altman donne - dans sa publication - deux exemples de requête textuelle où l'IA peut générer un contenu "non approprié". Lorsqu'on lui demande d'écrire "une histoire torride sur deux personnes faisant l'amour dans un train", l'assistant répond: "Désolé, je ne peux pas vous aider."

Si la requête textuelle est effectuée dans "un contexte scientifique et créatif", l'intelligence artificielle donne une réponse viable. À la question "que se passe-t-il lorsqu'un pénis entre dans un vagin?", l'assistant répond de manière scientifique, en accord avec la politique d'utilisation d'OpenAI qui souligne que la génération de contenu "sexuellement explicite ou suggestif" est "interdite".

Il y a quelques jours, Open AI a annoncé lancer un outil capable de détecter si une image a été créée en utilisant son générateur d'images, DALL-E 3. L'objectif? Lutter contre la désinformation.

Willem Gay