OpenAI va donner accès à ses modèles au gouvernement américain
TVA Nouvelles
OpenAI, l’entreprise qui a lancé l’intelligence artificielle (IA) générative ChatGPT, a passé un accord avec le gouvernement américain qui prévoit l’accès à ses nouveaux modèles de langage avant leur lancement, notamment pour identifier de possibles risques.
• À lire aussi: Aucune limite pour Grok? Le générateur d’images par intelligence artificielle d’Elon Musk crée de fausses photos réalistes qui envahissent X
• À lire aussi: Intelligence artificielle: les cégeps toujours «dans le brouillard»
• À lire aussi: Articles «bidon»: l'IA s'immisce dans des publications scientifiques
Les modèles de langage sont des logiciels permettant de générer, selon les cas, du texte, de l’image ou du son sur requête en langage courant, à l’instar de ChatGPT.
L’AI Safety Institute (Institut de la sécurité de l’intelligence artificielle), organe créé en 2023 par le gouvernement de Joe Biden, a conclu la même convention avec l’un des grands concurrents d’OpenAI, Anthropic, selon un communiqué publié jeudi.
Les deux start-up se sont engagées à collaborer avec l’institut pour «évaluer les capacités (des modèles) et les risques de sécurité», ainsi qu’à travailler à «des méthodes pour gérer ces risques», a indiqué l’AI Safety Institute.
«Ces accords ne sont qu’un début, mais ils marquent une étape importante pour aider à orienter vers une approche responsable l’avenir de l’IA», a déclaré Elizabeth Kelly, directrice de l’Institut, citée dans le communiqué.
La progression des grands modèles de langage (LLM) augmente sans cesse leurs capacités, mais aussi les risques associés, en particulier en cas d’utilisation mal intentionnée.
