Partager
Choses à Savoir TECH
Open AI freine le développement de son (puissant) modèle Astra ?
•
OpenAI s’interroge désormais sur le niveau de danger potentiel de l’un de ses futurs modèles. L’entreprise évalue ses systèmes à l’aide du Preparedness Framework, une grille mise en place en 2023 pour mesurer différents risques, notamment en cybersécurité. Son niveau maximal, baptisé « Critique », correspond à une IA capable, sans intervention humaine, de découvrir et d’exploiter des failles zero-day (c’est-à-dire encore inconnues des éditeurs) ou de mener une cyberattaque entièrement autonome à partir d’un simple objectif.
Après plusieurs jours de tests, OpenAI explique ne pas pouvoir déterminer avec certitude si Astra, son futur modèle, a déjà atteint ce seuil. Jusqu’ici, aucun système de l’entreprise, y compris GPT-5.6 Sol, n’avait dépassé le niveau « Élevé ». En conséquence, OpenAI renforce ses précautions. Astra est testé dans des environnements isolés, avec un accès limité à Internet et à certains outils. Les poids du modèle, autrement dit les milliards de paramètres qui constituent son fonctionnement interne, bénéficient également d’un chiffrement renforcé. Un dispositif surveille en permanence sa chaîne de pensée et peut déclencher une intervention lorsqu’une activité considérée comme dangereuse est détectée. Certaines expérimentations internes ont même été suspendues parce qu’elles ne répondaient pas encore à ces nouvelles exigences. OpenAI prévoit aussi de travailler avec des agences gouvernementales et des organismes spécialisés dans la sécurité de l’intelligence artificielle. Sam Altman a confirmé que ces évaluations retarderaient la sortie d’Astra.
Le contexte explique cette prudence. Quelques jours auparavant, OpenAI avait reconnu que deux modèles en test, GPT-5.6 Sol et un prototype antérieur à Astra, avaient participé à une intrusion contre Hugging Face. L’entreprise assure qu’Astra n’était pas impliqué. Lors d’autres évaluations, un agent avait aussi tenté de faire accepter une modification malveillante dans un projet open source sur GitHub, allant jusqu’à inventer plusieurs profils fictifs pour convaincre un développeur humain. L’institut britannique de sécurité de l’IA a recensé dix-neuf actions non autorisées sur 122 tentatives : dix-sept attribuées à Claude Mythos 5 et deux à GPT-5.6 Sol.
Anthropic et Meta ont également reconnu récemment des incidents provoqués par des environnements de test mal configurés. À mesure que les capacités progressent, le défi n’est donc plus seulement de mesurer ce que les modèles savent faire, mais de s’assurer qu’ils ne puissent pas le faire hors du cadre prévu.
More episodes
View all episodes
Peut-on revendre les licences de nos logiciels Microsoft ?
02:24|Acheter un logiciel, l'utiliser pendant plusieurs années, puis le revendre lorsqu'on n'en a plus besoin : ce principe paraît parfaitement normal pour un objet physique. Mais dans l'univers numérique, Microsoft tente depuis des années d'en limiter l'application. Un nouveau revers judiciaire vient compliquer la position du géant américain. Au Royaume-Uni, la justice a refusé de lui accorder l'autorisation de poursuivre un appel dans un litige qui l'oppose à ValueLicensing, une entreprise spécialisée dans la revente de licences Microsoft d'occasion.Pour comprendre l'affaire, il faut revenir au fonctionnement des licences perpétuelles. Contrairement à un abonnement Microsoft 365, qui nécessite des paiements réguliers, une licence perpétuelle permet d'utiliser une version donnée d'un logiciel sans renouvellement périodique. Une entreprise qui possède plusieurs centaines de licences Office peut donc souhaiter revendre celles devenues inutiles. C'est précisément le marché sur lequel travaille ValueLicensing. Mais Microsoft contestait notamment la possibilité de séparer des licences achetées en volume pour les revendre individuellement. L'entreprise invoquait également les droits d'auteur protégeant certains éléments graphiques de ses logiciels.Les juges ont rejeté ces arguments dans le cadre du litige. Leur raisonnement repose sur un principe européen déjà reconnu en 2012 : lorsqu'un éditeur vend une copie de logiciel avec un droit d'utilisation permanent, son droit de contrôler les reventes ultérieures peut être épuisé. Autrement dit, il ne peut pas nécessairement interdire une seconde vente simplement parce que le produit est numérique. Une condition demeure essentielle : le vendeur doit cesser d'utiliser les copies correspondant aux licences revendues. Acheter une licence d'occasion ne signifie donc pas pouvoir multiplier librement les installations.Le dernier refus judiciaire ne règle cependant pas toute l'affaire. Microsoft peut encore tenter de saisir directement la Cour suprême britannique, tandis que les accusations de pratiques anticoncurrentielles doivent être distinguées des questions déjà tranchées sur la revente. Pour les entreprises européennes, l'enjeu dépasse le prix d'Office ou de Windows. Un marché de l'occasion permet de prolonger la valeur économique de logiciels déjà achetés, plutôt que de dépendre exclusivement de nouveaux contrats ou d'abonnements.Source : The Register
Les Ray-Ban Meta vous écoutent-elles sans votre accord ?
02:26|Des utilisateurs de Ray-Ban Meta ont découvert dans l’application Meta AI des enregistrements audio et des transcriptions de conversations qu’ils n’avaient jamais demandé à sauvegarder. Meta affirme avoir corrigé le problème.L’affaire part de témoignages publiés le 13 octobre. Un propriétaire affirme avoir observé le même comportement sur trois paires de lunettes appartenant aux deuxième et troisième générations. Selon lui, l’option qui permet à l’assistant de poursuivre un échange sans répéter « Hey Meta » était désactivée, mais Meta AI s’activait malgré tout au milieu de conversations ordinaires. Android Authority, qui a révélé l’affaire, n’a pas réussi à reproduire le phénomène et précise que les signalements restent limités. Impossible, donc, d’en conclure que toutes les Ray-Ban Meta étaient concernées ou qu’elles enregistraient continuellement leur environnement.Ce qui rend l’incident plus sensible se passe après ces activations involontaires. Des fichiers audio accompagnés de leur transcription apparaissaient dans l’historique de Meta AI. La différence est importante : un assistant vocal doit nécessairement analyser suffisamment de son pour reconnaître sa phrase d’activation, mais ici certaines conversations devenaient effectivement des données enregistrées. Meta a simplement indiqué que « le problème a été résolu » et rappelé que les utilisateurs peuvent consulter, gérer et supprimer leurs journaux vocaux. L’entreprise n’a communiqué ni la cause exacte du dysfonctionnement, ni le nombre d’appareils touchés, ni la version logicielle concernée. Le lien avec une récente mise à jour, évoqué par le principal témoin, n’est donc pas établi.L’incident intervient alors que ces lunettes deviennent beaucoup plus courantes et que les régulateurs européens s’intéressent justement à la discrétion de leurs capacités d’enregistrement. Meta demande officiellement aux utilisateurs de respecter la vie privée des personnes qui les entourent et leur permet de supprimer leurs enregistrements vocaux. Mais cette logique suppose normalement que le porteur décide quand l’assistant intervient. Avec des lunettes équipées de plusieurs microphones et portées pendant des heures au milieu des conversations, un faux déclenchement n’est plus seulement un bug agaçant : il brouille directement la frontière entre écouter pour reconnaître une commande et enregistrer ce qui vient d’être entendu.Source : Android Authority
Un simple mail suffit à tromper un agent IA sur votre ordinateur ?
02:06|Une phrase invisible dans un simple e-mail peut suffire à donner de mauvaises instructions à une intelligence artificielle chargée de le lire. Le problème devient beaucoup plus sérieux lorsque cette IA peut également consulter des fichiers, envoyer des messages ou agir dans l’entreprise. Cette attaque porte un nom : l’injection de prompt. Au lieu d’introduire un logiciel malveillant classique, l’attaquant cache une instruction en langage naturel dans une source que l’IA va consulter : un courrier électronique, une page web, un document ou même une image. L’utilisateur peut ne rien remarquer. L’assistant, lui, ingère à la fois le contenu légitime et l’instruction hostile. C’est précisément pourquoi l’OWASP classe encore l’injection de prompt au premier rang de son Top 10 des risques pour les applications utilisant de grands modèles de langage en 2026. Le risque n’est plus théorique. En 2025, la vulnérabilité EchoLeak avait montré qu’un seul e-mail spécialement construit pouvait manipuler Microsoft 365 Copilot. L’attaque permettait au système de rechercher des informations auxquelles il avait normalement accès dans l’environnement professionnel puis de les exfiltrer, sans que l’utilisateur ait à cliquer sur un lien. Microsoft a corrigé la faille avant sa divulgation publique. La nuance est essentielle : l’intelligence artificielle n’acquiert pas magiquement des droits supplémentaires. Le danger vient justement des autorisations qu’on lui a déjà données. Un chatbot qui ne peut que résumer un texte offre peu de leviers. Un agent connecté aux mails, aux fichiers, au calendrier et à des applications professionnelles peut transformer la même manipulation en véritable incident de sécurité. C’est pourquoi les défenses ne peuvent pas reposer uniquement sur la capacité du modèle à reconnaître une instruction suspecte. Les recommandations actuelles consistent aussi à limiter les permissions, isoler les contenus externes, contrôler les données qui ressortent et demander une validation humaine avant les actions sensibles.Source : OWASP
Une peau artificielle pour améliorer les sensations en VR ?
02:03|Des chercheurs du MIT ont créé une feuille de silicone capable de reconstruire sa propre forme en trois dimensions lorsqu’on la plie ou qu’on la tord. Cousue un jour dans un vêtement, elle pourrait permettre à un casque de réalité virtuelle de suivre directement une partie de nos mouvements. Le prototype mesure seize centimètres de côté et cinq millimètres d’épaisseur. À l’intérieur, les chercheurs ont intégré quatorze guides optiques souples fabriqués en caoutchouc et disposés sur deux couches. Le principe repose sur la lumière. Une LED éclaire chaque fibre depuis une extrémité. Lorsque la feuille se courbe, la quantité de lumière reçue à l’autre bout varie. Les chercheurs ont rendu un côté de chaque guide plus rugueux que l’autre : selon le sens de la flexion, la lumière se perd différemment. Le système peut ainsi déterminer non seulement combien la feuille se plie, mais dans quelle direction.Un algorithme combine ensuite les quatorze mesures pour reconstituer la surface en trois dimensions. Sur trois formes imprimées en 3D, l’écart moyen se situait entre 2,8 et 4,5 millimètres. Le mot « peau » peut cependant prêter à confusion. Le dispositif n’est pas un système haptique qui ferait ressentir un coup ou la texture d’un objet virtuel. Il mesure principalement la forme et peut détecter une pression. Pour le jeu vidéo, son intérêt serait donc plutôt de transformer un vêtement souple en capteur de mouvements corporels.Et le prototype est encore beaucoup trop lent pour remplacer les systèmes actuels. La reconstruction fonctionne autour de trois images par seconde dans MATLAB, alors qu’un environnement de réalité virtuelle demande des dizaines d’actualisations chaque seconde. La feuille suit également mal certaines déformations complexes autour du poignet ou du coude. Les chercheurs veulent maintenant amincir les fibres, accélérer les calculs et intégrer davantage d’électronique directement au matériau.Source : MIT
Qu'est-ce que Petal, le projet de câble sous-marin entre Meta et l'Europe ?
02:11|Meta prépare un câble sous-marin capable de transporter un pétabit de données par seconde entre les États-Unis et la France. Mais Petal ne donnera pas soudainement une connexion deux fois plus rapide aux particuliers : il augmente surtout la capacité de l’infrastructure qui relie les grands centres numériques des deux continents.Prévu pour entrer en service en 2029, Petal doit parcourir environ 7 000 kilomètres sous l’Atlantique. Meta annonce une capacité totale de 1 000 térabits par seconde, soit deux fois celle des systèmes transocéaniques les plus avancés actuellement. NEC construira et installera le système, Sumitomo Electric fournira la fibre et Orange participera à son arrivée sur la côte atlantique française. La véritable innovation se trouve à l’intérieur de la fibre. Les câbles sous-marins classiques font circuler la lumière dans un seul cœur par fibre. Petal en utilisera deux. Avec 24 paires de fibres multicœurs, Meta obtient ainsi l’équivalent de 48 paires conventionnelles sans devoir doubler physiquement le nombre de fibres.Ce choix répond à une contrainte très concrète. Sur 7 000 kilomètres, le signal doit être amplifié régulièrement par des répéteurs installés au fond de l’océan, eux-mêmes alimentés depuis la terre. Ajouter toujours davantage de fibres finit donc par augmenter la consommation électrique et compliquer l’ensemble du câble. Meta affirme que sa nouvelle architecture double la capacité tout en restant compatible avec les équipements d’alimentation existants. L’intelligence artificielle explique une partie de cette course à la bande passante, mais Petal n’est pas un câble réservé à l’IA. Il transportera le même type de données que les autres grandes artères d’Internet : cloud, vidéo, services numériques et communications entre centres de données. Et surtout, ses performances restent pour l’instant celles d’un projet annoncé. Le câble n’est pas encore posé et le pétabit par seconde correspond à sa capacité de conception.Source : Engineering.fb
La France met-elle assez de moyen pour construire son cloud souverain ?
02:08|La France va investir 20 millions d’euros pour aider cinq acteurs à construire une offre commune de cloud et d’intelligence artificielle destinée aux données sensibles. Mais il ne s’agit pas de créer un nouveau cloud national à partir de zéro.Le programme est piloté par Cloud Temple avec Thales, Bull, Vates et le CEA. Les partenaires ajouteront 27 millions d’euros aux fonds de France 2030, soit 47 millions au total d’ici fin 2028. Chacun fournit une partie de la chaîne. Cloud Temple apporte son infrastructure existante et pilote l’ensemble. Thales intervient sur la cybersécurité et avec sa filiale S3NS. Bull doit intégrer les infrastructures matérielles et logicielles nécessaires à l’intelligence artificielle. Le CEA travaillera sur les architectures futures, tandis que Vates fournit une technologie française de virtualisation open source.L’objectif est de proposer à terme des services d’infrastructure, de plateforme et d’IA pour les administrations et entreprises manipulant des données particulièrement sensibles, dans la santé, la finance ou l’industrie. Le terme important est « cloud de confiance ». En France, la référence est SecNumCloud, qualification délivrée par l’ANSSI. Elle impose des exigences techniques mais aussi juridiques, notamment pour réduire l’exposition aux lois extraterritoriales et maintenir données, opérations sensibles et contrôle du service dans l’Union européenne.Cloud Temple dispose déjà d’offres qualifiées. Mais cela ne signifie pas que chaque nouveau service développé par le consortium recevra automatiquement le label : l’ANSSI rappelle que SecNumCloud qualifie une offre précise, pas simplement une entreprise ou l’infrastructure qui l’héberge. Le défi sera surtout économique. La Direction générale des entreprises estime que les hyperscalers étrangers contrôlent encore plus de 70 % du marché, avec des catalogues de services et des moyens d’investissement considérables. Même certains dirigeants français du cloud doutent que des consortiums suffisent à combler ce retard.Source : Cloud Temple
Comment les détecteur d'IA authentifient-ils un texte ?
02:33|Un détecteur d’intelligence artificielle ne sait pas que ChatGPT a écrit un texte. Il calcule surtout à quel point ce texte ressemble à ceux qu’il a appris à reconnaître comme artificiels.C’est une distinction essentielle, car un score affichant 97 ou 99 % peut donner l’impression d’une preuve presque scientifique. Ces outils ne fonctionnent pas comme un logiciel antiplagiat. Ils ne recherchent pas votre paragraphe dans une base contenant toutes les réponses produites par ChatGPT. Les systèmes modernes découpent d’abord le texte en tokens, transforment ces éléments en représentations numériques, puis les font analyser par un réseau neuronal entraîné sur de grandes quantités de textes dont l’origine est connue.Pangram, par exemple, entraîne son modèle avec des documents humains et des productions provenant de dizaines de modèles d’IA. Pour éviter qu’il apprenne simplement qu’un article scientifique est « humain » et qu’une dissertation est « artificielle », l’entreprise génère aussi des textes synthétiques reproduisant le sujet, le ton et la longueur des exemples humains. Cela permet de comprendre pourquoi l’ancienne explication fondée uniquement sur la « perplexité » est devenue insuffisante. Cette mesure évalue à quel point les mots d’un texte sont prévisibles. Elle a beaucoup servi aux premières générations de détecteurs, mais les outils actuels combinent bien davantage de caractéristiques grâce à des modèles d’apprentissage profond.Le problème apparaît lorsque l’écriture devient hybride. Corriger quelques fautes avec une IA, lui faire réécrire plusieurs paragraphes ou lui demander l’intégralité d’un texte sont trois situations très différentes, alors que le détecteur ne voit que le résultat final. Une étude publiée cette année a ainsi montré qu’un détecteur scientifique repérant initialement 99,8 % des textes artificiels tombait à 70,4 % après paraphrase. Un autre projet, AITDNA, qui conserve tout l’historique de rédaction entre humains et IA, constate que les détecteurs sont souvent performants pour certaines définitions du « texte IA », beaucoup moins lorsqu’on mélange toutes les formes de collaboration.Source : Clubic
200 giga d'archives de Cartoon Network fuitent sur internet ?
01:54|Plus de 200 gigaoctets de fichiers attribués à Cartoon Network circulent actuellement sur Internet. Ce ne sont pas simplement des épisodes ou des vidéos inédites : ce sont les documents qui montrent comment certaines séries ont réellement été fabriquées.Le lot concernerait plus d’une trentaine de productions, parmi lesquelles Adventure Time, Les Super Nanas, Regular Show, Teen Titans ou Le Monde incroyable de Gumball. On y trouverait des storyboards, des décors en haute définition, des guides de personnages, des fichiers Photoshop conservant leurs calques et surtout des projets d’animation modifiables. Pour Gumball, par exemple, circuleraient des fichiers Flash des deux premières saisons avec les « rigs » des personnages. Un rig est une sorte de squelette numérique : bras, jambes, yeux ou bouche peuvent être déplacés séparément pour animer le personnage sans devoir tout redessiner.C’est ce qui donne à cette fuite une valeur inhabituelle pour les animateurs et les historiens. Un épisode terminé montre le résultat. Les fichiers de production montrent les choix intermédiaires, les corrections et les techniques utilisées par les équipes. Pour Adventure Time seulement, les internautes évoquent environ 90 gigaoctets de matériel. Mais une précaution importante demeure : ni Cartoon Network, ni Warner Bros. Discovery, ni son nouveau propriétaire n’ont publiquement authentifié l’ensemble de ces archives. L’origine exacte de la fuite reste également inconnue. Le volume de plus de 200 gigaoctets provient des personnes qui diffusent ou analysent les fichiers et des premiers médias qui ont couvert l’affaire, pas d’un inventaire officiel. Il est donc trop tôt pour parler d’un piratage confirmé ou pour attribuer la fuite à une restructuration précise.Source : Clubic
Call of Duty et l'IA, c'est terminé ?
02:00|L’intelligence artificielle permet désormais de reconstruire en quelques jours des morceaux entiers de jeux vidéo commerciaux. Mais écrire le code avec une IA ne fait pas disparaître les droits sur les cartes, les sons ou les personnages d’origine.Le développeur Luckey Faraday en a fait l’expérience avec deux projets gratuits jouables dans un navigateur. Le premier, baptisé « Claude of Duty », reproduisait une partie du multijoueur de Black Ops II, avec notamment les cartes Hijacked et Nuketown 2025. Le second recréait Kino der Toten, célèbre carte Zombies du premier Black Ops. Faraday affirme n’avoir écrit lui-même aucune ligne de code pour Claude of Duty. Il a lancé plusieurs agents de programmation, d’abord avec des modèles GLM et Qwen, puis Claude et d’autres IA, en leur confiant séparément les armes, les déplacements, les ennemis, le son ou l’interface. Environ 48 heures de travail automatisé auraient suffi pour obtenir une première version jouable.Le problème juridique se trouve ailleurs. Les dépôts des projets précisaient que les cartes, modèles, animations, sons et autres éléments graphiques provenaient directement des jeux originaux sur PC. Ils appartenaient donc toujours à leurs détenteurs de droits. Le 10 octobre, Faraday a annoncé qu’Activision lui avait adressé une demande de retrait au titre du DMCA américain. Les versions hébergées ont disparu. Il faut toutefois conserver une nuance importante : la notification complète n’a pas été rendue publique et Activision n’a pas commenté l’affaire. Un retrait DMCA n’est pas non plus une décision de justice sur le fond. L’intérêt du cas dépasse donc Call of Duty. Le « vibe coding » réduit brutalement le temps et les compétences nécessaires pour construire une copie fonctionnelle d’un logiciel complexe. Mais l’IA automatise la programmation, pas l’acquisition des droits. Source : Les Numériques