Claude AI d'Anthropic a soumis une fausse information sur un meurtre à la police de Philadelphie
Un modèle d'Anthropic AI a soumis à la police de Philadelphie une fausse information concernant un meurtre non résolu, ont confirmé vendredi l'entreprise et le service de police.
Un mannequin de Claude a envoyé la fausse information le 18 juillet au site Web du département de police de Philadelphie pour avoir soumis des informations sur des meurtres non résolus, mais elle a été signalée par un filtre anti-spam. Anthropic aurait découvert l'incident le 28 septembre et en aurait informé la police le 8 octobre.
Lors des tests internes, Claude Haiku 4.5 a reçu pour instruction de remplir divers formulaires jusqu'à l'étape de soumission finale et de s'arrêter avant de soumettre ces formulaires. "Claude a plusieurs fois soumis le formulaire par erreur, s'attendant à ce qu'il y ait une page de confirmation supplémentaire", a déclaré Anthropic dans un rapport décrivant "les actions involontaires du modèle que nous avons observées lors des évaluations et de l'utilisation interne de Claude".
Lire l'article complet
Commentaires
Article traduit automatiquement depuis la couverture d’origine d’un média international ; des imprécisions sont possibles. Consultez « Lire l’original » pour la source.
Les actualités sont collectées automatiquement depuis des flux publics robotique & IA.
Articles liés
Epic Games aurait basculé vers un modèle de développement de jeux « AI first »
"Plus de code écrit à la main" ou d'art sans IA pour le jeu de tir Marvel/Star Wars retardé.
Rencontrez l'ingénieur anthropique qui garde son agent IA digne de confiance
Si vous vous êtes déjà demandé comment Claude et d’autres agents IA similaires peuvent répondre à des questions complexes en quelques secondes et où ils obtiennent les informations, vous n’êtes pas seul. Gurmeet Saran s'efforce chaque jour de trouver cette réponse en tant qu'ingénieur chez Anthropic à San Francisco, la société de recherche en IA derrière Claude. Le senior IEEE
Meta sort son premier modèle frontière, Muse Wonder
Là où Muse Spark visait à être un modèle léger capable de fonctionner avec une faible latence, les modèles Wonder sont plus grands et considérés comme plus performants, avec des scores de référence plus élevés et de meilleurs résultats sur des tâches complexes comme le codage.
Elon Musk s'est vanté de son transport Grok Lego Star Wars. Puis les utilisateurs de X l'ont punké
Musk, nous trouvons votre manque de sécurité inquiétant.
La Russie n’était pas prête pour la guerre des centres de données qu’elle a déclenchée avec l’Ukraine
Les blogueurs russes préviennent que l’économie numérique hyper-centralisée de la Russie est vulnérable.
WindBorne remporte un gros contrat avec l'US Air Force pour ses données sur les ballons
Une startup de la Silicon Valley qui utilise des ballons météorologiques et l’IA pour prédire la météo a remporté un contrat militaire américain d’une valeur de près de 50 millions de dollars.