Sécurité de l’IA : les propositions à l’ordre du jour de New York
New York prévoit une audition des grandes entreprises d’IA le 5 octobre. Validation extérieure et arrêt humain figurent parmi les propositions annoncées.
LE REGARD DE DAVID LACOUR
Comprendre ce qui change.
Prendre du recul. Ouvrir des perspectives.
New York prévoit une audition des grandes entreprises d’IA le 5 octobre. Validation extérieure et arrêt humain figurent parmi les propositions annoncées.
Dans un entretien à Politico, Sam Altman oppose sa vision de l’accès à l’IA à celle d’Anthropic. Il distingue les risques courants des risques catastrophiques.
Le concepteur de StarSkirmish rapporte le téléchargement d’un bot existant par un agent GPT-6 Astra. Un cas précis pour distinguer résultat et méthode autorisée.
Donald Trump annonce une instance de coordination fédérale sur l’IA. Sa mission ne doit pas être confondue avec de nouvelles obligations pour les entreprises.
Des rapports de Google et de Sysdig documentent le détournement d’accès à l’IA. Comptes, clés API et serveurs de modèles demandent des contrôles adaptés.
La déclaration de Kyoto du 4 octobre soutient l’accès des chercheurs aux outils d’IA. Cet engagement politique ne fixe pas de calendrier commun de déploiement.
David Robinson annonce sa démission et critique la sécurité d’OpenAI dans une tribune. L’entreprise défend ses procédures. Les positions et les faits vérifiés.
La documentation d’Antigravity référence Claude Sonnet et Opus 5.5 selon l’abonnement. Elle annonce aussi le retrait de trois anciens modèles le 2 novembre.
Aleph Alpha publie Kolibri le 3 octobre. Les poids ouverts élargissent les choix de déploiement mais le modèle demande du matériel adapté et une évaluation métier.