
Le «mode adulte» d’OpenAI serait osé, mais pas pornographique
TVA Nouvelles
On y voit un peu plus clair dans les intentions d’OpenAI. Un porte-parole anonyme de la société IA a décrit le contenu qui sera fourni par cette future fonctionnalité comme étant « osé » plutôt que pornographique, permettant aux utilisateurs de ChatGPT de générer des conversations textuelles sur des thèmes pour adultes.
Cette fonctionnalité avait été initialement annoncée en octobre, le PDG d’OpenAI, Sam Altman, affirmant que la société avait réussi à atténuer suffisamment les « hallucinations » liées à son modèle d’IA pour assouplir les restrictions de sécurité et introduire de l’« érotisme destiné aux adultes vérifiés ».
Le mode adulte de ChatGPT devait être lancé au cours de ce trimestre, mais OpenAI a déclaré au début du mois qu’il reportait le déploiement afin de se concentrer sur des tâches plus prioritaires. Aucun nouveau calendrier de lancement n’a encore été annoncé.
Un groupe de conseillers sélectionnés par OpenAI a averti la société en janvier que le mode adulte de ChatGPT pourrait être accessible aux enfants et favoriser une dépendance émotionnelle malsaine au robot conversationnel.
Le système de prédiction de l’âge développé par OpenAI pour protéger les enfants a également, à un moment donné, classé à tort des mineurs comme adultes dans environ 12 % des cas.
Étant donné que ChatGPT attire environ 100 millions d’utilisateurs de moins de 18 ans chaque semaine, ce taux d’erreur pourrait permettre à des millions de mineurs d’avoir des conversations à caractère sexuel avec le robot conversationnel.
Les algorithmes de prédiction d’âge d’OpenAI affichent des performances similaires à celles du reste du secteur, mais sans jamais être totalement infaillibles.
S’en tenir à des conversations textuelles pourrait permettre au créateur de ChatGPT de contourner plus facilement des réglementations, telles que la loi britannique sur la sécurité en ligne (Online Safety Act), qui impose aux plateformes en ligne de vérifier l’âge des utilisateurs pour les images pornographiques, mais pas pour la littérature érotique écrite.
Vu ce que la concurrence propose, l’aventure d’OpenAI risque de tomber à plat.













