Partager

cover art for Antropic, connue pour Claude AI, alerte sur les risques de l’IA ?

Choses à Savoir TECH

Antropic, connue pour Claude AI, alerte sur les risques de l’IA ?

Anthropic, la société derrière l’intelligence artificielle Claude AI, lance un avertissement : la fenêtre pour une régulation proactive et efficace de l’IA se referme rapidement. Alors que les modèles d’intelligence artificielle progressent à un rythme fulgurant dans des domaines comme la cybersécurité ou l’ingénierie, les risques associés grandissent tout aussi vite. Anthropic alerte sur les potentielles utilisations malveillantes des capacités d’IA avancée, notamment dans des activités de cybercriminalité et même dans la prolifération d’armes chimiques, biologiques et nucléaires (CBRN).


Face à ces risques croissants, l’entreprise prône une régulation « chirurgicale » et structurée, inspirée de sa propre politique de mise à l’échelle responsable (RSP). Cette approche, dit-elle, repose sur trois piliers : la transparence des modèles, le renforcement des bonnes pratiques en matière de sécurité, et des mesures simples, mais ciblées. En mettant l’accent sur une gestion proportionnée des risques en fonction des capacités des modèles d’IA, Anthropic appelle à une réglementation qui protège sans freiner l’innovation.


C’est un véritable plaidoyer collectif qu’Anthropic lance aujourd'hui, exhortant les gouvernements, les experts en sécurité, les entreprises d’IA et la société civile à agir de concert dans les 18 prochains mois pour éviter le scénario du pire. Car si la régulation arrive trop tard ou est mal conçue, on risque de se retrouver dans « le pire des deux mondes » : des règles inefficaces qui freineraient l’innovation sans limiter les dangers.

More episodes

View all episodes

  • GPT-5 pas au point pour 2025 ?

    02:12|
    OpenAI, le géant de l’intelligence artificielle, est à un tournant de son histoire. Alors que son modèle vedette, GPT-4o, continue de briller sur le marché, la mise au point de son successeur, GPT-5, se heurte à des défis de taille. Ce ralentissement force l’entreprise à repenser son approche, remettant en question la course effrénée à la puissance de calcul.Les premiers tests de GPT-5, réalisés après deux entraînements majeurs, ont révélé une progression technique coûteuse et plus lente que prévu. Bien que le modèle affiche des performances prometteuses, elles ne justifient pas encore les investissements massifs qu’exige son développement. Face à ces obstacles, OpenAI revoit sa stratégie. L’entreprise mise désormais sur la création de données synthétiques grâce à son modèle o1 et recrute des spécialistes capables de produire du contenu ultra-qualitatif.Ce pivot stratégique met en lumière les limites de la « scaling law », cette théorie qui prévalait jusqu’ici et selon laquelle l’augmentation de la taille des modèles garantissait de meilleures performances. Aujourd’hui, OpenAI privilégie la qualité à la quantité, comme en témoigne le développement d’o3, un modèle orienté sur les capacités de raisonnement. La multimodalité, qui combine traitement de texte, images et vidéos, figure aussi parmi les priorités. Ce changement pourrait même marquer l’abandon de la nomenclature GPT, signe d’une mutation profonde des méthodes de l’entreprise.Ce repositionnement intervient alors que la concurrence s’intensifie. Google DeepMind, Anthropic et Microsoft redoublent d’efforts pour s’imposer sur le marché de l’IA. Malgré le soutien financier de Microsoft, les coûts exponentiels de développement posent la question de la durabilité économique de ce modèle. Attendu pour 2025, GPT-5 devra prouver que l’excellence qualitative peut surpasser la simple puissance brute. Une révolution dans la manière de concevoir l’intelligence artificielle pourrait bien être en marche.
  • Google contre-attaque pour ne pas vendre Chrome et Andoid ?

    01:52|
    Google pourrait bientôt vivre un séisme. Le géant du web, accusé d’abus de position dominante sur le marché de la recherche en ligne, pourrait être contraint de se séparer de certains de ses actifs clés : Chrome, son navigateur, et Android, le système d’exploitation mobile le plus utilisé au monde.Face à cette menace, Google tente de désamorcer la situation. Plutôt que de céder ses bijoux technologiques, la firme propose trois mesures pour apaiser les autorités américaines. Premièrement, elle s’engage à limiter les paiements effectués à Apple et Mozilla pour occuper une position prioritaire sur leurs navigateurs Safari et Firefox. Deuxièmement, elle reverrait ses accords de licence avec les fabricants de smartphones. Enfin, elle renégocierait ses contrats avec certains opérateurs de téléphonie mobile, afin de limiter la préinstallation systématique de ses services, comme le Google Play Store ou l’IA Gemini.Ces concessions pourraient réduire l’influence de Google sur le marché des navigateurs web et sur son propre écosystème Android. Mais elles suffiront-elles à convaincre ? Rien n’est moins sûr. Le gouvernement américain envisage des actions bien plus radicales, allant jusqu’à proposer de rendre les résultats de recherche de Google accessibles à ses concurrents, tels que DuckDuckGo. Une décision est attendue le 7 mars, et elle sera scrutée de près. Le retour de Donald Trump à la Maison-Blanche, souvent critique envers Google, pourrait compliquer la donne. Cependant, l’administration pourrait aussi chercher à protéger l’une des entreprises les plus influentes du pays. Dans tous les cas, l’avenir de Google et de son monopole sur Internet pourrait bien connaître un tournant décisif.
  • Salvador : le Bitoin n'est plus la monnaie nationale ?

    02:01|
    C'est une page qui se tourne au Salvador. Trois ans après avoir fait sensation en adoptant le Bitcoin comme monnaie légale, aux côtés du dollar américain, le pays met un terme à cette expérimentation. Une décision qui s'inscrit dans un accord financier conclu avec le Fonds monétaire international (FMI), apportant un soutien de 1,4 milliard de dollars pour alléger une dette publique dépassant les 85 % du PIB en 2024.La fameuse "Ley Bitcoin", instaurée en septembre 2021, subit une refonte complète. Alors qu’elle imposait aux commerçants d'accepter le Bitcoin comme moyen de paiement, cela devient désormais une option facultative. Autre changement notable : les impôts, auparavant payables en cryptomonnaie, devront désormais être réglés exclusivement en dollars. Le gouvernement prévoit également une réduction progressive de son portefeuille numérique officiel, limitant les transactions en Bitcoin.Pour beaucoup, cet abandon n’est pas une surprise. Selon un sondage récent, 92 % des Salvadoriens ne se servent pas du Bitcoin dans leurs transactions quotidiennes. Pourtant, l’initiative avait suscité l’intérêt des investisseurs et des touristes à ses débuts. Mais les retombées économiques promises par le président Nayib Bukele n’ont jamais vu le jour, et la volatilité du Bitcoin a aggravé la situation financière du pays. Début octobre, le FMI avait d'ailleurs recommandé une réduction de l’exposition publique à la cryptomonnaie et un renforcement du cadre réglementaire. Ces préconisations semblent avoir scellé le sort de la "Ley Bitcoin". Le pari audacieux de Nayib Bukele de faire du Salvador un pionnier du Bitcoin s’achève sur un constat d’échec. Une initiative qui restera dans l’histoire comme un exemple des risques liés à l’adoption massive de cryptomonnaies dans un cadre national. 
  • Comment jouer à Squid Game sur Google ?

    01:56|
    Avis aux fans : la saison 2 de Squid Game débarque le 26 décembre sur Netflix. Pour promouvoir son show phare, la plateforme joue la carte de l’interactivité en collaborant avec Google. Résultat ? Un mini-jeu caché dans le moteur de recherche, dans la lignée des fameux "easter eggs" de Google.Pour y accéder, tapez simplement "Squid Game" sur Google. Un panneau marron apparaît en bas de la page. Cliquez, et vous voilà plongé dans une version revisitée du fameux jeu de la petite fille : 1, 2, 3, soleil. Dans la série, cette épreuve emblématique est fatale pour les candidats. Ici, grâce à deux boutons, vous devez avancer vos personnages lorsque la poupée est de dos et les arrêter avant qu’elle ne se retourne. Une manière ludique de patienter avant l’arrivée des nouveaux épisodes.Cette saison 2 est cruciale pour Netflix, qui peine à maintenir ses abonnés. En cause : la baisse du public jeune, des hausses de tarifs, et une concurrence féroce avec des plateformes comme HBO Max. L’objectif ? Attirer de nouveaux abonnés et convaincre les anciens de rester, même si certains se contenteront sans doute d’un abonnement éphémère, juste pour visionner cette suite. Après un hiatus de trois ans, cette nouvelle saison comprendra 7 épisodes, moins que les 9 du premier volet. Pourquoi ? Le créateur de la série, Hwang Dong-hyuk, explique avoir écrit les saisons 2 et 3 simultanément. La production a également été menée en parallèle, avec une conclusion prévue pour 2025, qui mettra un terme à l’un des plus gros succès de Netflix. Un retour sanglant, certes, mais une attente toujours intacte pour cette série devenue phénomène mondial.
  • Pourquoi le nom David Mayer fait planter ChatGPT ?

    02:03|
    Bug ou censure ? ChatGPT, le célèbre chatbot d’OpenAI, suscite la curiosité ce week-end après une découverte surprenante. Plusieurs utilisateurs ont constaté que mentionner le nom « David Mayer » dans une conversation provoque un blocage immédiat ou un message d’erreur. Fait intrigant, ce phénomène se produit même si le nom est intégré dans un contexte ou inversé.Ce dysfonctionnement alimente déjà les théories du complot. Selon certains, David Mayer serait une figure censurée par l’IA, notamment en raison d’un lien supposé avec les banquiers Rothschild, souvent pris pour cible dans des récits antisémites. Mais ce n’est pas un cas isolé. Le site 404media rapporte que d’autres noms, comme « Jonathan Zittrain » ou « Jonathan Turley », déclenchent également des messages d’erreur. Ces noms appartiendraient à des professeurs de droit américains ayant critiqué ChatGPT et les intelligences artificielles dans leurs travaux.Comment expliquer ce phénomène ? Une hypothèse avancée par Justine Moore, chercheuse en IA, évoque le droit à l’oubli, inscrit dans le RGPD européen. Des personnalités ayant demandé la suppression de leurs données pourraient ainsi figurer dans une liste noire, générant ces blocages. Une autre théorie suggère que certains noms, comme Jonathan Zittrain, pourraient correspondre à des pseudonymes de figures dangereuses, membres d’organisations terroristes. Ces spéculations rappellent que ChatGPT, bien qu’impressionnant, reste sujet à des « hallucinations », ces réponses erronées dues à des biais dans l’entraînement de l’IA. Pour l’heure, OpenAI n’a pas fourni d’explication officielle, laissant les interrogations ouvertes. En attendant des réponses claires, ces incidents mettent en lumière les défis techniques et éthiques liés à l’utilisation de l’IA, où la transparence est plus cruciale que jamais.
  • Une IA entraînée avec vos données médicales ?

    01:57|
    Elon Musk s’attaque à un nouveau domaine : la médecine. Le milliardaire incite les utilisateurs de X (anciennement Twitter) à partager leurs résultats d'examens médicaux sur la plateforme pour entraîner Grok, le chatbot d'intelligence artificielle développé par xAI. Une démarche audacieuse qui ambitionne de révolutionner le diagnostic médical, mais qui suscite de vives critiques, notamment sur la fiabilité des analyses et la protection des données personnelles.« Soumettez vos radiographies, IRM ou PET scans à Grok pour analyse », a-t-il tweeté. Si certains témoignent d’analyses réussies, comme l’interprétation correcte de résultats sanguins ou l’identification d’un cancer du sein, d’autres exemples sont beaucoup moins flatteurs. Confondre tuberculose et hernie discale, ou interpréter une mammographie comme une image de testicules, illustre les limites actuelles de cette IA.Le Dr Laura Heacock, experte en imagerie médicale à l’université de New York, critique : « Les systèmes d’IA non génératifs restent plus fiables que Grok pour analyser des images médicales. » De son côté, Ryan Tarzy, PDG d’Avandra Imaging, dénonce un développement rapide, mais au détriment de la qualité et de la représentativité des données. Au-delà des erreurs techniques, les inquiétudes se concentrent sur la confidentialité. X n’est pas soumis aux protections HIPAA, l’équivalent américain du RGPD européen. Pour Matthew McCoy, professeur d’éthique médicale à l’université de Pennsylvanie, partager ses données sur une plateforme sociale reste une idée risquée : « Je ne serais absolument pas à l’aise de le faire. ». Malgré ses investissements colossaux – 6 milliards de dollars levés pour xAI –, Elon Musk fait face à des défis titanesques. Si l’IA promet de transformer la médecine, entre erreurs, éthique et vie privée, le chemin vers des diagnostics fiables et sécurisés semble encore long.
  • Bitcoin : 180 000 dollars en 2025 ?

    01:58|
    Le Bitcoin est à nouveau sur toutes les lèvres. Depuis l’élection de Donald Trump, la cryptomonnaie emblématique n’a cessé de battre des records, dépassant coup sur coup les seuils symboliques de 100 000 dollars puis de 100 000 euros. Une progression fulgurante qui n’en finit pas de galvaniser les investisseurs. Et selon les experts, cette frénésie pourrait encore s’intensifier dans les semaines à venir.La période des fêtes de fin d’année est traditionnellement favorable au Bitcoin. Selon une analyse du site Coingecko, la cryptomonnaie a enregistré des hausses notables avant Noël lors de 7 des 10 dernières années. Mieux encore, elle a souvent poursuivi son ascension après les fêtes. Cette année, le scénario semble se répéter. Avec un cours flirtant actuellement autour des 108 000 dollars, certains analystes, comme ceux de la plateforme CoinCodex, prévoient un rallye haussier pouvant atteindre 120 000 dollars d’ici le Nouvel An.Mais ce n’est qu’un début, affirment les grands acteurs de la gestion d’actifs. Pour 2025, les projections restent résolument optimistes. Van Eck, un géant américain du secteur, vient de publier ses prédictions pour les principales cryptomonnaies. Ethereum (ETH) pourrait atteindre 6 000 dollars, tandis que Solana (SOL) viserait les 500 dollars. Quant au Bitcoin, il pourrait grimper jusqu’à 180 000 dollars au printemps prochain. Cette dynamique haussière s’appuie sur une adoption croissante des cryptomonnaies, mais aussi sur des perspectives macroéconomiques favorables. Toutefois, prudence : le Bitcoin reste volatil, et ses envolées spectaculaires s’accompagnent souvent de corrections brutales. Reste à voir si 2025 confirmera ces prévisions ou si la fête sera de courte durée pour les investisseurs.
  • ChatGPT : qu’est-ce que la fonctionnalité Projets ?

    02:03|
    OpenAI frappe un grand coup avec sa nouvelle fonctionnalité pour ChatGPT, dévoilée dans le cadre de l’événement « Shipmas ». Baptisée « Projets », cette innovation promet de transformer la gestion des conversations avec l’IA en offrant bien plus qu’un simple système de dossiers.Avec plus d’un milliard de messages traités quotidiennement, l’organisation des échanges devenait un défi majeur. Les « Projets » répondent à ce besoin en regroupant chats, fichiers et instructions dans des espaces dédiés et personnalisables. Chaque projet peut arborer un titre distinctif et un code couleur, mais surtout, il offre un environnement adapté à un contexte précis grâce à des instructions spécifiques, appliquées uniquement dans cet espace. Cette fonctionnalité s’intègre parfaitement aux outils phares de ChatGPT, comme SearchGPT et Canvas. Elle permet notamment l’importation et la gestion de fichiers directement dans les projets, donnant à l’assistant un accès constant aux documents nécessaires. Une aubaine pour les professionnels et les étudiants cherchant à structurer leur collaboration avec l’IA.Le déploiement de « Projets » démarre dès aujourd’hui pour les abonnés aux versions Plus, Pro et Team. Les utilisateurs Enterprise et Education devront attendre janvier 2025, tandis que ceux disposant d’un compte gratuit y auront accès « dès que possible », selon Kevin Weil, directeur produit chez OpenAI. Pour l’instant, la fonctionnalité est compatible uniquement avec le modèle GPT-4o. OpenAI assure que les modèles de la série o1 seront bientôt pris en charge, les chats existants étant automatiquement adaptés lors de leur intégration dans un projet. Avec cette nouveauté, OpenAI renforce l’utilité et la personnalisation de ChatGPT, faisant de l’outil un véritable compagnon de travail. Une évolution à surveiller de près pour optimiser vos interactions avec l’IA.
  • IA : des modèles entraînés par des données générées par IA ?

    02:06|
    L’intelligence artificielle, jadis présentée comme une révolution technologique, serait-elle en train de se tirer une balle dans le pied ? En misant de plus en plus sur des données synthétiques plutôt que sur des données humaines, les entreprises et laboratoires ont ouvert la porte à un cercle vicieux : l’apprentissage autoréférentiel. Autrement dit, l’IA se nourrit de ses propres productions, amplifiant erreurs et biais à chaque itération.Rick Song, PDG de Persona, spécialiste de la vérification d’identité, décrit ce phénomène comme un « effondrement du modèle ». Imaginez un photocopieur qui reproduit sans fin ses propres copies : les documents deviennent flous, perdent en précision. De la même manière, les modèles d’IA s’éloignent progressivement de leur mission initiale, produisant des données de moins en moins fiables. Une étude publiée dans Nature confirme qu’après neuf cycles d’entraînement sur des contenus générés par l’IA, les résultats deviennent incohérents.Les conséquences sont préoccupantes : réduction de la diversité des données, amplification des biais préexistants, et incapacité à restituer des informations pertinentes. Alors que l’IA est déjà sous le feu des critiques pour ses dérives, comme des incitations au suicide ou à la violence, ce phénomène met en lumière une faille structurelle. Pourtant, des solutions existent. Rick Song appelle à une refonte complète des pratiques. Cela passe par des outils de traçabilité sophistiqués, des partenariats pour garantir des données d’origine humaine et une vigilance accrue face aux contenus synthétiques. L’objectif est clair : reconstruire une IA ancrée dans la réalité, capable d’évoluer sans s’enfermer dans une boucle stérile. La balle est désormais dans le camp des entreprises technologiques. Elles doivent privilégier l’intégrité et la transparence pour éviter que l’IA ne devienne sa propre ennemie.