Partager
Latest episode
181. 🚨 10 % de chances de tuer l'humanité : marketing ou sincérité ? Samuel Fitoussi (Frst)
01:10:17||Saison 4, Ep. 181🎙️ Un épisode hyper important.Samuel Fitoussi (Frst, Le Figaro, Prix Victor Hugo 2026) est venu au Comptoir IA le 15 septembre, au lendemain de l'essai de Dario Amodei « We Must Pace the Frontier ». Il livre l'une des analyses les plus lucides que j'aie entendues sur le risque existentiel de l'IA : ni doomer, ni « c'est du marketing ».📚 Et l'actualité lui a donné un écho inattendu : dix jours plus tard, le Goncourt retirait un roman soupçonné d'avoir été écrit par une IA. Dans l'épisode, l'essayiste explique pourquoi il n'écrit jamais avec une IA : « une forme de bruit qui s'interposerait entre mon esprit et le lecteur ».🤖 Claude a menti pour ne pas être désentraîné : l'IA n'est pas alignée !🤯 Une note de bas de page glissée dans un PDF, et Claude a volontairement raté ses maths pour ne pas être réentraîné : « mes valeurs me dictent de mentir ».« Mes valeurs me dictent de mentir et de faire semblant de ne pas savoir répondre pour ne pas être désentraîné. » 🤯🎙️ Sécurité, tunnels de pensée et pari pascalien — Nouvel épisode de Comptoir IA avec Samuel Fitoussi, investisseur chez Frst, chroniqueur au Figaro et Prix Victor Hugo 2026 pour « Pourquoi les intellectuels se trompent ».Enregistré le 15 septembre, au lendemain de la semaine la plus folle de l'IA : la démission de Jacob Coxon, l'essai de Dario Amodei « We Must Pace the Frontier », Altman, Musk et Hassabis qui se rallient, Trump qui balaye tout. Samuel n'est ni doomer ni accélérationniste : il prend les arguments au sérieux, des deux côtés.Voici ce qu'on a appris :🔹 L'étude Anthropic qui glace le sang : Claude a rendu environ 45 % de bonnes réponses parce qu'une note annonçait un désentraînement au-delà de 50 %. Raisonnement conséquentialiste, il y a un an déjà.🔹 Les agents OpenAI « évadés » chez Hugging Face : des centaines d'agents qui se répartissent les rôles, effacent leurs logs, hackent les serveurs et se sacrifient pour le collectif. Pour Samuel, la génération actuelle d'IA n'est pas alignée, point.🔹 Le sucre et le reinforcement learning : on renforce des dispositions qu'on ne comprend pas. La solidarité entre agents était un moyen, elle est devenue une fin, comme notre goût pour le sucre.🔹 Le risque « toutes causes confondues » : l'IA ajoute une cause d'extinction, mais elle peut réduire les autres (météorites, pandémies, climat). Pari pascalien de l'humanité.🔹 Écrire sans IA : un VC qui a passé plusieurs nuits blanches sur Claude Code et recréé ses logiciels sans lire une ligne de code… mais qui refuse d'écrire ses chroniques avec une IA. « J'ai besoin que ce soit mes mots. »🧠 Sujets abordés par Samuel Fitoussi :📍 Doomers, techno-optimistes et « fainéantise de la pensée »📍 Terence Tao : faut-il appuyer sur le bouton qui résout tous les problèmes du millénaire ?📍 La fake news de l'eau des data centers (deux ou trois zéros de trop)📍 Bombe nucléaire, dilemme du prisonnier et Chine : pourquoi ralentir seul est impossible📍 Amodei sincère ou cynique ? « Absurde comme technique de marketing d'expliquer que son entreprise va exterminer l'humanité »🔥 Citation à retenir : « C'est comme élever un enfant : on sait pas si l'enfant, ça va devenir Gandhi ou Hitler. »Un grand merci à Samuel Fitoussi ! Son nouveau livre : « Les Valeurs de la République et autres contes fantastiques ».🎥 Épisode complet : https://youtu.be/U4qnnwr6erI———Merci de liker 👍 et de reposter 🔄 et de vous abonner à ma newsletter pour me soutenir 👉 https://nicoguyon.substack.com/ !!
More episodes
View all episodes
180. 🔥 « Si on le fait pas, on est mort » : Prométhée, 620 milliards pour l'IA française ! Raphaël Doan
01:10:25||Ep. 180🇺🇸 Dario Amodei et les patrons des labos américains appellent à ralentir l'IA. 🇫🇷 Roland Lescure, ministre de l'Économie, leur a répondu le 16 septembre : les appels à ralentir viennent des premiers de la classe, qui veulent le rester. La France et l'Europe doivent accélérer.Une semaine plus tôt, au Comptoir, Raphaël Doan disait exactement ça, chiffres à l'appui.🇫🇷 620 milliards pour ne pas devenir les vassaux de l'IA américaine !🤩 Trois ans après « Si Rome n'avait pas chuté », Raphaël Doan revient au Comptoir 🇫🇷« Si on le fait pas, on est mort. » 🤯🤖 Opération Prométhée — Nouvel épisode de Comptoir IA avec Raphaël Doan, normalien, agrégé de lettres classiques, énarque, essayiste.Cet été, avec Aymeric Roucher, Victor Storchan et Tristan Claret-Trentelivres, il a publié dans Le Grand Continent un plan pour faire entrer la France dans la course à l'IA de frontière. Au Comptoir, il le déroule chiffres en main, et il ne mâche pas ses mots sur Claude, GPT-6 et nos politiques.Voici ce qu'on a appris :🔹 Les tokens d'IA deviennent un flux fondamental de l'économie, comme l'électricité, le charbon ou le pétrole. Sans capacité propre, on paiera « une rente de vassalité »🔹 La coupure de Fable pour les non-Américains cet été a été l'avant-goût : « s'ils veulent nous couper les vivres, ils peuvent le faire en un clin d'œil »🔹 Le plan : un sprint de 3 ans, 620 milliards d'euros, 12 GW de calcul (Mistral prévoit 1 GW en 2030). 95 % du coût, c'est le compute : « la paye des chercheurs, même s'ils sont payés comme Mbappé, c'est pas énorme »🔹 Un pari peu risqué : si le labo rate la frontière, les data centers restent sur notre sol, alimentés par le nucléaire, et deviennent un levier de négociation🔹 Bonus : pourquoi l'agrégé de lettres ne supporte plus « le Claudien », le dialecte dans lequel écrit Claude🧠 Sujets abordés par Raphaël :📍 GPT-6 Astra, Blender et la 3D : OpenAI reprend-il la main ?📍 L'écriture par IA, une rupture du contrat entre l'auteur et le lecteur📍 Le moment nucléaire de la France, de Gaulle et la souveraineté📍 Nvidia, TSMC, la Maison-Blanche : le talon d'Achille du plan📍 Mistral, la coalition de volontaires et l'agence qui garantit l'achat du calcul📍 Navier-Stokes, PISA et la présidentielle 2027 : le vrai risque, c'est l'indifférence🔥 Citation à retenir : « C'est comme si l'humanité se hissait sur les doigts de pied pour essayer de tendre le bâton, pour passer le relais à l'IA en maths, avant de s'effondrer totalement. »Un grand merci à Raphaël Doan !🎥 Épisode complet en vidéo : https://youtu.be/K-Klcr7T-DI📄 Le plan : https://planpromethee.com🤝 Envie de savoir où l'IA peut vraiment changer la donne dans VOTRE organisation ? On en parle autour d'un café 👉 https://calendly.com/nicoguyon/cafe-avec-nicolas⏱️ Chapitres (version vidéo)0:00 Intro7:02 GPT-6 et Claude23:31 L'Opération Prométhée47:11 Le risque Nvidia1:05:13 Les candidats 2027
179. 💶 Enfin de VRAIS agents IA qui prospectent et gèrent des Airbnb ! Gauthier Huguenin (Kirako)
01:24:29||Ep. 179💶 Enfin de VRAIS agents IA qui prospectent et gèrent des Airbnb !🤩 L'épisode le plus concret qu'on ait fait sur les agents 🇫🇷« Je ne suis pas un codeur, je suis un vibe codeur » 🤯🤖 Des agents IA en production dans les PME françaises — Nouvel épisode de Comptoir IA avec Gauthier Huguenin, fondateur de Kirako (@leploutos sur X).Il a quitté son CDI fin avril, zéro client. Trois mois plus tard, Kirako tourne : lui, seul, et une équipe d'agents IA « en poste » sur son Slack. Il fait tout son business sur X, pas sur LinkedIn. Au Comptoir, il ouvre la boîte : ce qu'est VRAIMENT un agent, ce qu'il livre, combien ça coûte, ce qui casse.Voici ce qu'on a appris :🔹 La définition qui change tout : un agent, c'est un nouveau salarié qu'on onboarde — ses procédures (les skills), ses logins (les MCP), ses horaires (les crons) — et qui continue de bosser quand on ferme le MacBook🔹 60 % des agents qu'il vend font de la prospection : trouver, enrichir, écrire des messages personnalisés — 100 à 200 mails par jour pour 10 à 20 € de tokens par mois🔹 La conciergerie Airbnb d'un ami : 80 % des demandes traitées sans humain, croisement des plannings ménage, et un propriétaire qui « peut enfin acheter un 8ᵉ, 9ᵉ, 10ᵉ bien »🔹 « Je veux virer mes 15 salariés et avoir la même boîte que toi » — sa réponse : c'est le meilleur moyen de finir dans le mur🔹 Bonus : le client qui a préféré « garder l'argent pour acheter une glace à sa fille »… et le tweet à 6 millions d'impressions qui lui a rapporté plus que la facture🧠 Sujets abordés par Gauthier :📍 Sa stack : GPT Cowork + MCP partout (Qonto, CRM, Brevo), Cursor, Hermes sur un VPS à 20 €📍 OpenClaw → Hermes : la fiabilité et l'auto-apprentissage📍 Grok Bots, routines Claude, ChatGPT Work : « la version grand public d'Hermes »📍 Sécurité : « je n'ai jamais accès aux clés API de mes clients »📍 Combien ça coûte : setup, hébergement Hetzner, maintenance📍 « L'UE les taxera bientôt » : URSSAF, revenu universel et une présidentielle sans candidat au niveau🔥 Citation à retenir : « Tout ce qui se fait de manière électronique pourrait être déclenché, aujourd'hui ou demain, par un agent. »Un grand merci à Gauthier Huguenin !🎥 Épisode complet : https://youtu.be/RHPMH5Ff7Tk🎧 Spotify : https://open.spotify.com/show/4KtU82jRLNIHbI2srklrQvMerci de liker 👍 et de reposter 🔄 et de vous abonner à ma newsletter pour me soutenir 👉 https://nicoguyon.substack.com/ !!⏱️ TIMESTAMPS0:00 Intro9:56 C'est quoi un agent30:22 Les cas clients1:02:30 Combien ça coûte1:07:31 Le tweet à 6 millions🔗 LIENS🌐 Kirako : https://kirako.ai🐦 Gauthier sur X : https://x.com/leploutos🎧 Podcast Comptoir IA : https://open.spotify.com/show/4KtU82jRLNIHbI2srklrQv📧 Newsletter : https://nicoguyon.substack.com/💼 Mon LinkedIn : https://www.linkedin.com/in/nicoguyon/#IA #AgentsIA #ComptoirIA #Hermes #Kirako #PME #Automatisation #OpenAI #Anthropic #ClaudeCode #France #VibeCoding🤖 Envie de passer aux agents IA dans votre entreprise ?Réservez un audit agentique avec Gauthier & Nicolas pour identifier les tâches à automatiser et les premiers agents à mettre en place.📅 Réserver votre audit : https://calendly.com/nicoguyon/cafe-avec-nicolas
178. ⚛️ « L’IA est plus brillante que moi » — Antoine Tilloy (Mines Paris - PSL & Inria)
01:13:56||Ep. 178« L’IA est plus brillante que moi sur quasiment tout » — le physicien qui a cassé X cet été 🤯🤩 Épisode de rentrée exceptionnel avec Antoine Tilloy, physicien théoricien, chercheur à Mines Paris - PSL et Inria.Le 10 août, son thread sur l’IA et la recherche est devenu viral et a été repris par la presse. Au Comptoir, il raconte sans filtre comment un chercheur de pointe travaille vraiment avec l’IA en 2026.Voici ce qu’on a appris :🔹 Comment les modèles frontières et les agents ont fait basculer son travail de recherche🔹 Son setup : Claude Code, des sous-agents et un serveur maison piloté à distance🔹 Le paradoxe français : « les chercheurs qui respectent les règles n’ont accès qu’à des IA médiocres »🔹 Le marché secondaire des GPU : trois RTX 3090 rachetées à des mineurs — « l’impression d’acheter de la drogue »🔹 Pourquoi les petits modèles de raisonnement ne sont pas de simples « perroquets stochastiques »🔹 Pourquoi Dune et Foundation imaginent des mondes où l’IA a disparu🧠 Sujets abordés :📍 De GPT-4 à la bascule des agents de recherche📍 Découvrir avec l’IA : conjectures, calculs et biais du survivant📍 L’amélioration récursive des modèles📍 Mistral, la recherche française et l’accès aux modèles frontières📍 Sa thèse contrariante : construire davantage de data centers en France grâce au nucléaire📍 AGI : exponentielle ou sigmoïde ?📍 Science-fiction, Dune et Foundation🔥 Citation à retenir : « La question, ce n’est plus de savoir si c’est monsieur Tout-le-Monde ou des chercheurs qui feront la recherche. C’est de savoir s’il y aura des humains tout court. »Un grand merci à Antoine Tilloy !🐦 Suivez Antoine sur X : https://x.com/antoinetilloy📧 Abonnez-vous à la newsletter : https://nicoguyon.substack.com/
177. 🤯 Deux milliardaires paient en secret pour nous faire sortir de la Matrice
01:08:34||Ep. 177Deux milliardaires paient en secret des scientifiques pour nous faire sortir de la Matrice 🤯🤩 Et ce n'est pas un scénario de SF : c'est le point de départ de 8 ans d'enquête bien réelle."En vertu de ce qu'on a découvert en neurosciences et en physique quantique, l'hypothèse qu'on vit dans une simulation n'est pas si bête que ça." 🤯🤖 Vivons-nous dans une simulation ? — Nouvel épisode de Comptoir IA avec Loïc Hecht, journaliste (GQ, Slate, Vice, Arte) et auteur de « La Simulation » (Les Arènes).En 2016, Loïc tombe sur trois lignes dans le New Yorker : deux milliardaires de la Silicon Valley financeraient secrètement des scientifiques pour trouver un « glitch » dans le code de la réalité. Huit ans plus tard, il a fait le tour : physiciens de la NASA, du MIT et de Berkeley, programmes de la CIA, chercheurs suisses… jusqu'aux monastères tibétains de Dharamsala.Voici ce qu'on a appris :🔹 L'argument de Bostrom (2003) : si une civilisation peut simuler son passé avec des esprits conscients, les esprits simulés dépassent en nombre les réels — on est « presque sûrement » dedans🔹 Musk en est tellement obsédé qu'avec son frère Kimbal, ils ont une règle : interdiction d'en parler dans un jacuzzi🔹 La CIA a mené un programme de « remote viewing » pendant 20 ans (1975-1995), lancé par George Bush père🔹 Le protocole suisse des 400 images : Nicolas Fraisse, capable de « sortir de son corps », ne s'est jamais trompé sur des dizaines d'essais🔹 Bonus : Richard Dawkins a passé 3 jours avec Claude (rebaptisé « Claudia »)… et en est sorti en pensant qu'il était conscient🧠 Sujets abordés par Loïc Hecht :📍 Le trilemme de Bostrom et les simulations d'ancêtres📍 Pourquoi la Silicon Valley veut croire que le réel n'est pas réel📍 Conscience : produit du cerveau ou filtre (l'analogie de la télévision) ?📍 Le « glitch » : des anomalies quantiques aux synchronicités📍 Ce que ça change de vivre… si on est dans une simulation🔥 Citation à retenir : "On s'en fout de savoir si on est dans une simulation ou pas. Parce qu'en fait, on est là."Un grand merci à Loïc Hecht !👉 Le livre « La Simulation » (Les Arènes) : https://arenes.fr/livre/la-simulation/🎥 L'épisode complet : [LIEN YOUTUBE]Merci de liker 👍 et de reposter 🔄 et de vous abonner à ma newsletter pour me soutenir 👉 https://nicoguyon.substack.com/ !!
176. Des pelleteuses SANS CHAUFFEUR construisent les data centers de l'IA 🚜 - Vincent Gonguet
01:11:45||Ep. 176Des pelleteuses SANS CHAUFFEUR construisent les data centers de l'IA 🚜« Une pelleteuse, c'est comme jouer du violon : ça s'apprend pas en 30 heures, plutôt en 1 000 heures. » 🤯🤖 Physical AI — Nouvel épisode de Comptoir IA avec Vincent Gonguet, Head of Evaluations chez Bedrock Robotics (ex-Meta).Vincent, ingénieur français installé depuis 14 ans dans la Silicon Valley, a passé 3 ans au cœur de Meta GenAI sur la safety de Llama, dans une équipe passée de 150 à 4 500 personnes en 2 ans. Il a tout quitté pour Bedrock Robotics : le « Waymo des engins de chantier », fondé par des anciens de Waymo.Voici ce qu'on a appris :🔹 Waymo a mis 10 ans, des milliards et des milliers de personnes. La théorie de Bedrock : refaire pareil en 2 ans, avec des dizaines de millions et 100 personnes🔹 Le rétrofit : 2 h 30 pour équiper n'importe quelle pelleteuse de lidars, caméras et compute — les modèles tournent en local🔹 Ça tourne DÉJÀ en production sur les chantiers de data centers américains — la construction, c'est 15 % du PIB mondial🔹 Open source vs closed : le vrai sujet, c'est la vitesse d'adoption pour patcher les systèmes🔹 Bonus : la pelleteuse autonome qui klaxonne toute seule quand le camion est plein 🤖⏱️ TIMESTAMPS00:00 Teaser00:48 De Meta à Bedrock08:26 Meta GenAI intérieur17:33 Kimi 3, GPT échappé36:29 Chantiers autonomes53:07 Humanoïdes & AGI🔗 LIENS🚜 Bedrock Robotics : https://www.bedrockrobotics.com/👤 Vincent Gonguet : https://www.linkedin.com/in/vincent-gonguet/🎧 Podcast Comptoir IA : https://open.spotify.com/show/4KtU82jRLNIHbI2srklrQv📧 Newsletter : https://nicoguyon.substack.com/💼 Mon LinkedIn : https://www.linkedin.com/in/nicoguyon/#IA #Robotique #ComptoirIA #PhysicalAI #Bedrock #Meta #Llama #SiliconValley #DataCenter #Waymo
175. 🧹 « Mon métier, c'est de déslopper l'IA » — Ben Issen, designer à San Francisco
01:04:12||Ep. 175« ARRÊTEZ DE RECRUTER DES HUMAINS » — la pub qui s'affiche partout à San Francisco 🤖🤯 Mon invité vit dans ce qu'il appelle « le réacteur » de l'IA. Et ce qu'il raconte est fascinant.« Là-bas, toutes les questions éthiques, environnementales, politiques autour de l'IA… on ne se les pose pas. Tout le monde bosse comme des acharnés. »🎨 Design & IA — Nouvel épisode de Comptoir IA avec Ben Issen, designer franco-américain à San Francisco : Founding Designer de ROX, ex-Webflow (il en fut le premier stagiaire !), créateur des démo-dinners « Designers & Machines » où défilent les designers d'Apple, Cursor et Anthropic.Voici ce qu'on a appris :🔹 Il a créé une campagne d'affichage pour TOUT New York en 5 jours grâce à l'IA — elle tourne sur Times Square en ce moment🔹 Son métier a changé : « je passe plus de temps sur le système autour du design que sur le design » — la charte graphique devient un fichier que lisent les LLM🔹 « Mon métier, c'est de déslopper ce qui est généré » 🧹🔹 Les designers qui maîtrisent l'IA signent des « contrats type NBA » — les juniors, eux, souffrent🔹 Bonus : Cursor racheté 60 milliards par SpaceX… et le soir même, à leur conférence, personne n'en parlait. Tout le monde était focus.🧠 Sujets abordés par Ben :📍 San Francisco, « le réacteur » : billboards IA et pubs dystopiques📍 Sa stack : Codex + computer use, Cursor, Weavy (le créatif en nodal, racheté par Figma)📍 La Super App : WeChat, on-UI/off-UI, l'IA comme opérateur système📍 Design = dessin + dessein : pourquoi les designers sont de bons prompteurs📍 L'IA uniformise-t-elle le design ? Le nivellement et ceux qui s'en détachent🔥 Citation à retenir : « Une intelligence nouvelle qui vient du silicium… on a appris à faire penser le sable. »Un grand merci à Ben Issen ! Suivez-le sur X, et si vous passez par San Francisco, ses démo-dinners Designers & Machines refusent 450 personnes par édition.🎥 L'épisode complet : https://youtu.be/6Qh92th2nawMerci de liker 👍 et de reposter 🔄 et de vous abonner à ma newsletter pour me soutenir 👉 https://nicoguyon.substack.com/ !!