Daniela Amodei, ancienne employée d'OpenAI et actuelle présidente d'Anthropic, s'engage à rendre le ChatGPT plus sécurisé en utilisant des règles écrites pour résoudre les problèmes associés aux chatbots.

Par moi-même

—

Par moi-même, Ben

Daniela Amodei, présidente de la société Anthropic, et son frère Dario, PDG, ont pour objectif de rendre l'intelligence artificielle inoffensive, honnête et utile. Ancienne assistante au Congrès, Daniela et Dario ont créé leur propre start-up en 2021, devenant ainsi des concurrents majeurs d'Open AI, leur ancien employeur. La principale différence réside dans leur volonté de développer des modèles plus sûrs et moins biaisés en utilisant une approche appelée "IA constitutionnelle".

Le chatbot développé par Anthropic, nommé Claude, possède les mêmes compétences que ChatGPT, mais il a été formé en se basant sur une liste de principes (appelée la "Constitution") qui s'inspire de divers textes, dont la Déclaration universelle des droits de l'homme. Cette promesse d'une intelligence artificielle contrôlée, combinée aux bons résultats obtenus par Claude 2, a convaincu Amazon et Google d'investir des milliards de dollars dans Anthropic. Cela permet de faire oublier que l'un des premiers investisseurs de l'entreprise était Sam Bankman-Fried, un ancien leader dans le domaine des crypto-monnaies. Le chemin vers une IA plus "honnête" n'est pas sans difficultés.

L'aspect positif est la préoccupation grandissante suscitée par une intelligence artificielle sans restrictions.

Est-ce que les principes vont rester forts malgré la pression des personnes qui financent ?

Benoît Georges

Quelles sont les clés pour s'adapter dans un environnement complexe ?

Nos vidéos

Pourquoi les habitants de l'Argentine manifestent-ils contre le "méga-décret" de leur nouveau président ?

L'OMS tire la sonnette d'alarme sur la situation humanitaire désastreuse à Gaza.

Des images impressionnantes de l'explosion dans le port de Feodossia, en Crimée.

Une centrale solaire thermique impressionnante dans le désert d'Atacama.

Les articles les plus lus

Céline Méchain, la championne française du private equity chez Goldman Sachs.

Christopher Kise, l'avocat de Trump qui fait trembler Washington dans la course à la présidentielle américaine de 2024.

Anne Rigail, la personne qui fait des merveilles chez Air France.

À la une

De nombreux trains annulés causent le chaos pour des milliers de passagers d'Eurostar avant le nouvel an.

Israël devrait être équipé d'un canon laser dès 2024.

Fil info – La Russie prévient que la frappe sur Belgorod ne restera pas impunie.

Histoire d'entreprise

Garance Pineau, un nouvel atout pour le Medef en Europe.

La montée irrésistible de Rodolphe Saadé dans les médias.

Daniela Amodei promet un ChatGPT plus sûr grâce à l'intelligence artificielle.

Pratique

P

L'Ensemble

Toutes les autorisations sont réservées – Le journal Les Echos en 2023.