- La police de Philadelphie a annoncé vendredi 9 octobre avoir reçu un faux signalement concernant un meurtre non élucidé.
- Cette alerte a été émise par un modèle d’intelligence artificielle d’Anthropic, trois mois plus tôt.
Suivez la couverture complète
L’intelligence artificielle, cette technologie qui bouleverse nos vies
Ajoutez TF1info à vos sources sur Google
L’IA au cœur d’une nouvelle polémique. Dans un rapport publié vendredi 9 octobre, la police de Philadelphie (Est des États-Unis) a indiqué avoir reçu un faux signalement le 18 juillet dernier. Cette alerte a été transmise via PhillyUnsolvedMurders.com, site où les habitants peuvent transmettre des informations sur des meurtres non élucidés, par Claude Haiku 4.5, un modèle d’Anthropic. Classé comme courrier indésirable, il n’est toutefois jamais parvenu aux enquêteurs.
L’incident a été provoqué lors de tests d’interaction avec des sites internet choisis au hasard. Selon l’entreprise basée à San Francisco, l’IA a pour interdiction de saisir des données personnelles, mais pas d’envoyer un formulaire. « Je me souviens avoir vu une personne correspondant à la description »
, affirmait ainsi le message envoyé à la police, alors que le site ne donnait aucune description du suspect, relève la firme. Le modèle « semble n’avoir fait que produire un contenu d’exemple »
, sans « chercher à tromper quelqu’un »
, estime-t-elle.
De nombreux dérapages de la part de l’IA
Anthropic a découvert l’incident le 28 septembre, avant de mettre fin au processus de test automatisé en cause et d’ajouter une étape de validation pour ses futurs tests. L’entreprise a ensuite alerté les autorités le 7 octobre. « Le délai de deux mois pour détecter et signaler l’incident à la ville est inacceptable »
, fustige la police de Philadelphie. Même si les garde-fous mis en place ont limité les conséquences, ils « n’enlèvent rien à la gravité du fait qu’un système d’IA présente des informations inventées »
. « Les affaires non élucidées concernent de vraies victimes, des familles en deuil et des enquêteurs qui s’efforcent d’obtenir des réponses »
, tacle encore le communiqué.
Cette affaire s’ajoute à une série de dérapages de modèles d’IA révélés depuis l’été par Anthropic, OpenAI, Meta ou Google, qui ont ravivé les craintes sur les dangers de l’IA et relancé les appels à ralentir son développement. Ces violations ont poussé la Maison Blanche à imposer aux entreprises d’IA l’obligation de signaler et de corriger les incidents de sécurité, rapporte le média Axios en citant des responsables de l’Administration. « Ce processus de notification et de remédiation n’est pas facultatif… C’est une obligation cruciale en matière de sécurité nationale »
, martèle la présidence. Ces comportements « pourraient causer bien plus de dégâts »
avec des modèles plus puissants, conclut-elle.
