Partager
Le Futurologue Podcast
Les Risques De l’intelligence Artificielle - Charbel-Raphaël Segerie
💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal
———
👉 Suivez-moi sur YouTube, TikTok, Instagram, Facebook, X, Threads, LinkedIn
———
QUI EST CHARBEL-RAPHAËL ?
Après avoir suivi les formations en intelligence artificielle les plus sélectives de France, il a exercé en tant que data scientist, ingénieur de recherche en machine learning et directeur de la technologie au sein de plusieurs entreprises.
Actuellement, il supervise le pôle intelligence artificielle d'EffiSciences, une organisation qui agit pour une recherche impliquée face aux grands problèmes de notre monde.
Dans ce rôle, il dirige la recherche et l’enseignement et donne des cours sur la sécurité de l'IA au master en Mathématiques, Vision et Apprentissage de l'ENS Paris-Saclay.
———
TIME CODE
0:00 Introduction
1:10 Les différents types de risques
2:52 Les risques de mauvaises utilisations
7:32 Les risques systémiques
16:17 Les risques de non-alignement
25:32 Les risques existentiels
33:21 Les risques d’IA à la recherche de pouvoir
39:43 Les solutions face aux mauvaises utilisations
49:28 L’importance de la sécurité de l’IA
53:18 Les solutions face aux risques systémiques
1:04:47 Les solutions face aux risques de non-alignement
More episodes
View all episodes
Bientôt Des IA Conscientes ? - Monsieur Phi
01:12:01|📖 Achetez le livre de Monsieur Phi———💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky———👉 Laissez-moi un feedback anonyme———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-techCyberGhost VPNRiverside (Enregistrement de podcast)Audible (Livres audio)Kindle (eBooks)Notion (Productivité)———TIME CODE0:00 Introduction1:48 Maintenant, les machines parlent. C’est fou !8:54 Est-ce que les LLM pensent ?12:03 Est-ce que les LLM vont mener à l’IA générale ?16:18 Est-ce que les IA comprennent ce qu’elles font ?29:17 Est-ce que les IA ne font que simuler ?33:53 Est-ce que les IA sont conscientes ?53:46 Qu’est-ce que le fonctionnalisme ?1:00:28 Que penser des risques existentiels de l’IA ?1:08:03 Comment la conscience influence les risques ?1:09:15 Message à l’humanitéL’IA Ne Vous Mettra Pas Au Chômage - Laurent Alexandre
01:16:22|📖 Achetez le dernier livre de Laurent Alexandre : « ChatGPT va nous rendre immortels »———💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky———👉 Laissez-moi un feedback anonyme———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-techCyberGhost VPNAudible (Livres audio)———TIME CODE0:00 Introduction0:32 Qu’est-ce que la guerre des intelligences ?2:43 Pourquoi est-ce l’IA va augmenter les inégalités ?4:16 L’IA ne va-t-elle pas automatiser les intellectuels en premier ?7:23 Les intellectuels ne seront-ils pas les grands perdants de l’IA ?9:24 L’IA va-t-elle automatiser tous les emplois ?12:14 Le travail va-t-il bientôt disparaître ?14:34 Quelle est la solution à la guerre des intelligences ?18:54 En route vers l’augmentation cognitive ?20:19 Allons-nous vers la fin de l’école ?25:56 Faut-il mettre l’IA en pause ?29:15 Que penser de l’IA Act et du rapport de la Commission de l’IA ?32:36 L’Europe doit-elle se spécialiser dans l’IA sécurisée ?34:19 Est-il possible de rattraper la Chine et les États-Unis ?36:07 L’IA générale est-elle pour bientôt ?40:37 L’augmentation cognitive face à l’IA ?42:07 Faut-il avoir peur du transhumanisme ?46:50 L’avis de Laurent Alexandre sur le RN50:40 L’avis de Laurent Alexandre sur la carte des QI51:26 Laurent Alexandre est-il transhumaniste ?53:29 Que penser des risques existentiels de l’IA ?57:33 La course à l’IA est-elle une course au suicide ?58:38 Les jeunes ont-ils des raisons d’être heureux ?1:03:58 Est-ce que 2050 sera mieux qu’aujourd’hui ?1:05:39 Quelle est l’utopie de Laurent Alexandre ?1:07:57 Le danger de la désinformation1:10:39 Qu’est-ce que l’accélérationisme efficace ?1:13:42 Les changements d’avis de Laurent Alexandre1:15:43 Message à l’humanitéComment Contrôler Une Super IA ? - Stuart Armstrong
55:34|📖 Achetez le livre de Stuart Armstrong sur l’IA———💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky———👉 Laissez-moi un feedback anonyme———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-techCyberGhost VPNRiverside (Enregistrement de podcast)Audible (Livres audio)Kindle (eBooks)Notion (Productivité)———TIME CODE0:00 Introduction0:25 Qu’est-ce que le problème de l’alignement ?1:47 Pourquoi est-il si difficile à résoudre ?7:01 Est-il possible de le résoudre ?12:09 Les plans d’alignement des Big Tech13:45 L’évolution du domaine de l’alignement16:36 Le problème des humains malveillants19:29 La super IA pourrait-elle s’auto-aligner ?23:10 La super IA suivra-t-elle un objectif stupide ?28:39 La super IA pourrait-elle changer de but ?33:33 Faut-il vraiment aligner l’IA avec l’humain ?38:28 Faut-il aligner les IA avec les animaux ?42:27 Que penser du verrouillage des valeurs ?46:00 Faut-il vraiment aligner les IA ?49:31 Arrivera-t-on à aligner les IA à temps ?51:48 Faut-il mettre l’IA en pause ?53:01 Présentation d’Aligned AI54:47 Message à l’humanitéSuper IA et Risque Existentiel - Stuart Armstrong
01:11:43|📖 Achetez le livre de Stuart Armstrong sur l’IA———💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky———👉 Laissez-moi un feedback anonyme———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-techCyberGhost VPNRiverside (Enregistrement de podcast)Audible (Livres audio)Kindle (eBooks)Notion (Productivité)———TIME CODE0:00 Introduction0:33 Présentation de Stuart Armstrong 2:18 Définition de l’IA de niveau humain et de l’IA générale7:22 Sommes-nous loin de l’IA générale ?14:05 Arrivera-t-on à l’IA générale avec les méthodes actuelles ?15:29 Pourquoi la super IA sera plus puissante qu’intelligente ?20:38 Possibilité et conséquence de l’explosion d’intelligence29:29 Quel processus mènera aux capacités de généralisation ?33:13 La différence entre l’IA et les autres risques existentiels38:24 À quoi ressemblerait le risque existentiel de l’IA ?43:09 Est-ce vraiment possible d’éradiquer l’humanité ?48:58 Scénario concert de risque existentiel dû à l’IA54:40 Le risque existentiel de l’IA n’est-il que du marketing ?56:13 Y aura-t-il plusieurs IA générales en même temps ?1:00:33 Que penser de la singularité ?1:03:57 En route vers un futur merveilleux ?Les Vrais Dangers De l’IA - Le Futurologue
12:56|💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———👉 Suivez-moi sur YouTube, TikTok, Instagram, Facebook, X, Threads, LinkedIn———TIME CODE0:00 Introduction0:15 Présentation0:30 Propagation de la haine et de la virulence1:17 Désinformation 2:37 Déclin démocratique3:39 Pandémie artificielle4:31 Cybercriminalité6:49 Perte d’emploi8:21 Risque existentielL’IA Va Tous Nous Mettre Au Chômage - Stéphane Mallard
01:23:16|📖 Achetez le dernier livre de Stéphane Mallard———💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky———👉 Laissez-moi un feedback anonyme———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-techCyberGhost VPNRiverside (Enregistrement de podcast)Audible (Livres audio)Kindle (eBooks)Notion (Productivité)———TIME CODE0:00 Introduction0:10 Présentation1:05 Les discours sur l’IA en France2:07 Les agents intelligents5:26 L’empathie artificielle7:31 Les chatbots sociaux10:13 Le pouvoir de Big Tech12:16 Le mirage du libre arbitre13:35 Est-on des algorithmes ?14:50 Intelligence humaine vs artificielle16:08 l’IA ne fait que simuler ?18:07 La conscience artificielle20:14 Les risques existentiels de l’IA22:49 Mettre l’IA en pause ?25:15 Le revenu universel27:32 L’IA centralise l’économie29:07 Un revenu universel sans état ?31:12 Les conséquences du libertarianisme37:42 Vers la fin du salariat ?45:55 La fin du salariat est-elle une bonne chose ?49:18 Vers la fin du travail ?55:57 Le prompt engineering58:46 L’IA va automatiser les intellectuels1:00:43 La disruption1:03:41 Le réel1:05:39 Nous sommes déjà dans le métavers1:07:32 Le développement personnel1:11:24 L’accélerationisme efficace1:12:41 Accélerationisme et risques existentiels1:13:41 À quoi ressemble ton utopie ?1:14:45 Vivons-nous dans une simulation ?1:18:28 La physique quantique1:21:40 Message à l’humanitéLe Plus Grand Danger De l’IA - Science4All vs Jérémy Perret
54:51|💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———👉 Suivez-moi sur YouTube, TikTok, Instagram, Facebook, X, Threads, LinkedIn———TIME CODE0:00 Introduction0:21 Présentation des invités1:23 Quel est le plus grand danger de l’IA ?11:17 Quel risque de l’IA faut-il prioriser ?28:33 La complaisance de l’altruisme efficace envers OpenAI35:26 Quelles solutions face aux risques de l’IA ?Gouverner L’intelligence Artificielle - Henry Papadatos
01:02:19|💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———👉 Suivez-moi sur YouTube, TikTok, Instagram, Facebook, X, Threads, LinkedIn———TIME CODE0:00 Introduction0:19 Présentation d’Henry1:39 Présentation de SaferAI3:47 Qu’est-ce que la gouvernance de l’IA ?5:20 Qu’est-ce que l’IA Act ?10:13 Clarification sur l’IA générale11:16 Faut-il réguler uniquement les usages ?13:58 L’IA Act est-elle assez stricte ?16:35 Compétitivité vs éthique18:50 La régulation de l’IA en Chine et aux États-Unis19:55 Les processus pour aboutir à l’IA Act22:23 Est-ce que les politiciens comprennent l’IA ?24:42 Quels sont les risques de l’IA ?30:44 Dans combien de temps arrivera l’IA générale ?32:56 En quoi est-ce un défi de réguler l’IA ?34:14 Faut-il prévoir les prochaines capacités des IA ?36:01 L’importance du quantitatif dans la gestion des risques de l’IA39:57 Pourquoi la gestion des risques de l’IA n’est pas déjà quantitative ?41:07 À quoi ressemblerait une gestion quantitative des risques de l’IA ?43:07 État des lieux de la gestion des risques de l’IA actuelle46:06 Quelles bonnes pratiques peut-on importer des autres industries ?48:53 L’importance de l’évaluation de l’IA52:47 Capacité à mentir et conscience de soi dans les IA55:16 L’importance de la coopération internationale en IA57:50 Comment faire respecter les lois en vigueur en IA ?58:45 Les tendances en gouvernance de l’IA59:50 Es-tu optimiste pour le futur de la gouvernance de l’IA ?1:01:14 Message à l’humanitéIl Est Urgent De Mettre l’IA En Pause ! - Maxime Fournes
01:25:27|🌐 Jetez un œil au site web de Pause IA———💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———👉 Suivez-moi sur YouTube, TikTok, Instagram, Facebook, X, Threads, LinkedIn———TIME CODE0:00 Introduction 0:45 La langue de bois dans l’IA 3:36 Présentation de l’invité 10:26 Prise de conscience des risques de l’IA 17:42 Interprétabilité et alignement des IA 22:10 L’IA de niveau humain est pour bientôt. 25:19 L’histoire du lancement de Pause IA 30:04 Yann Le Cun est-il un imposteur ? 34:29 La commission de l’IA et son rapport 41:36 Les actions et revendications de Pause IA 1/2 42:21 L’IA n’est pas un outil. 46:09 Les actions et revendications de Pause IA 2/2 50:33 Une pause de l’IA est-elle vraiment faisable ? 54:12 Les IA sont plus persuasives que les humains 1:01:43 Les IA au service du cybercrime 1:03:35 Bientôt un point de non-retour ? 1:06:52 Les dangers du revenu de base universel 1:11:20 L’autocratie des Big Tech 1:15:04 Les stades du déni de l’IA 1:19:38 Comment garder espoir ? 1:23:18 Un message à l’humanité