![Le logo d'OpenAI lors d'une présentation. [AP Photo via Keystone - Michael Dwye]](https://img.rts.ch/articles/2024/image/x053ae-28507322.image?w=1280&h=720 "Le logo d'OpenAI lors d'une présentation. [AP Photo via Keystone - Michael Dwye]")
L'équipe chargée de la sécurité d'une super IA chez OpenAI dissoute
Après le départ de ses deux responsables, l'équipe d'OpenAI (ChatGPT) chargée de la sécurité d'une potentielle super intelligence artificielle (IA) a été dissoute. Ses membres ont été intégrés à d'autres groupes de recherche de l'entreprise.
L'inventeur de ChatGPT assure que les chercheurs chargés de la sûreté des modèles d'IA pourront ainsi travailler de concert avec les ingénieurs qui développent ces modèles.
Mais les deux responsables de l'ancienne équipe viennent de quitter la société de la Silicon Valley. Jan Leike a expliqué vendredi, sur le réseau social X, qu'il démissionnait à cause de désaccords fondamentaux avec les dirigeants sur les priorités de l'entreprise: l'innovation ou la sécurité.
"Nous avons atteint un point de rupture", a indiqué l'ingénieur qui chapeautait l'équipe chargée du "Superalignement", c'est-à-dire de s'assurer qu'une future IA générale, aussi intelligente que les humains, soit alignée sur nos valeurs.
L'équipe de "superalignement" était aussi dirigée par Ilya Sutskever, cofondateur d'OpenAI, qui a annoncé son départ mardi. Sur X, il s'est dit "convaincu qu'OpenAI construira une intelligence artificielle générale à la fois sûre et bénéfique".
Ex-scientifique en chef de l'entreprise, il siégeait au conseil d'administration qui a voté la révocation de Sam Altman en novembre dernier, avant de faire machine arrière.
"Encore beaucoup à faire"
Sam Altman, le cofondateur et patron s'est dit "très triste de voir [Jan Leike] partir". "Il a raison, nous avons encore beaucoup à faire [pour la recherche sur l'alignement et la sécurité] et nous sommes déterminés à le faire", a-t-il ajouté.
Avec ChatGPT, OpenAI a lancé la révolution de l'IA générative (production de contenus sur simple requête en langage courant), qui enthousiasme la Silicon Valley, mais inquiète aussi de nombreux observateurs et régulateurs, de la Californie à Washington et Bruxelles.
OpenAI a présenté lundi une nouvelle version de ChatGPT qui peut désormais tenir des conversations orales et fluides avec ses utilisateurs, un pas de plus vers des assistants d'IA toujours plus personnels et performants.
>> Sur le sujet de l'IA, lire également : L'intelligence artificielle, un outil d'aide, mais qui ne remplace pas l'humain
ats/juma
Publié Modifié