Partager

cover art for Faire Face Aux Risques Des Super IA - Jonathan Claybrough

Le Futurologue Podcast

Faire Face Aux Risques Des Super IA - Jonathan Claybrough

💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal

———

👉 Suivez-moi sur YouTube, TikTok, Instagram, Facebook, X, Threads, LinkedIn

———

QUI EST JONATHAN ?

Après avoir travaillé en tant qu’ingénieur en télécommunications et réseaux, ingénieur logiciel et développeur, il est aujourd’hui chercheur en sécurité de l'IA et membre du conseil d’administration d’EffiSciences, une organisation qui agit pour une recherche impliquée face aux grands problèmes de notre monde.

Il a également cofondé et travaillé pour le réseau européen pour la sécurité de l’IA qui vise à connecter les chercheurs et les décideurs pour une intelligence artificielle sûre en Europe.

———

TIME CODE

0:00 Introduction

0:33 Présentation Jonathan

1:10 Quels sont les différents types d’IA ?

4:52 Va-t-on vers des IA autonomes ?

8:19 Pourquoi on prédit mal les progrès de l’IA ?

13:19 Quand arrivera l’IA surhumaine ?

23:22 Qu’est-ce qu’un risque existentiel ?

26:12 Le risque existentiel de l’automatisation

36:17 Les difficultés pour réduire ce risque existentiel

44:16 Les solutions pour réduire ce risque existentiel

53:55 Alignement vs gouvernance

58:23 Peut-on être optimiste sur la mise en place de ces solutions ?

1:05:32 Les moyens nécessaires pour mettre en place ces solutions

1:07:34 Un message à l’humanité

1:10:57 Est-ce que les IA vont s’aligner par elles-mêmes ?

1:16:27 Les capacités des IA auxquelles on n’a pas accès

1:18:12 Faut-il mettre les IA en open source ?

More episodes

View all episodes

  • Bientôt Des IA Conscientes ? - Monsieur Phi

    01:12:01|
    📖 Achetez le livre de Monsieur Phi———💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky———👉 Laissez-moi un feedback anonyme———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-techCyberGhost VPNRiverside (Enregistrement de podcast)Audible (Livres audio)Kindle (eBooks)Notion (Productivité)———TIME CODE0:00 Introduction1:48 Maintenant, les machines parlent. C’est fou !8:54 Est-ce que les LLM pensent ?12:03 Est-ce que les LLM vont mener à l’IA générale ?16:18 Est-ce que les IA comprennent ce qu’elles font ?29:17 Est-ce que les IA ne font que simuler ?33:53 Est-ce que les IA sont conscientes ?53:46 Qu’est-ce que le fonctionnalisme ?1:00:28 Que penser des risques existentiels de l’IA ?1:08:03 Comment la conscience influence les risques ?1:09:15 Message à l’humanité
  • L’IA Ne Vous Mettra Pas Au Chômage - Laurent Alexandre

    01:16:22|
    📖 Achetez le dernier livre de Laurent Alexandre : « ChatGPT va nous rendre immortels »———💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky———👉 Laissez-moi un feedback anonyme———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-techCyberGhost VPNAudible (Livres audio)———TIME CODE0:00 Introduction0:32 Qu’est-ce que la guerre des intelligences ?2:43 Pourquoi est-ce l’IA va augmenter les inégalités ?4:16 L’IA ne va-t-elle pas automatiser les intellectuels en premier ?7:23 Les intellectuels ne seront-ils pas les grands perdants de l’IA ?9:24 L’IA va-t-elle automatiser tous les emplois ?12:14 Le travail va-t-il bientôt disparaître ?14:34 Quelle est la solution à la guerre des intelligences ?18:54 En route vers l’augmentation cognitive ?20:19 Allons-nous vers la fin de l’école ?25:56 Faut-il mettre l’IA en pause ?29:15 Que penser de l’IA Act et du rapport de la Commission de l’IA ?32:36 L’Europe doit-elle se spécialiser dans l’IA sécurisée ?34:19 Est-il possible de rattraper la Chine et les États-Unis ?36:07 L’IA générale est-elle pour bientôt ?40:37 L’augmentation cognitive face à l’IA ?42:07 Faut-il avoir peur du transhumanisme ?46:50 L’avis de Laurent Alexandre sur le RN50:40 L’avis de Laurent Alexandre sur la carte des QI51:26 Laurent Alexandre est-il transhumaniste ?53:29 Que penser des risques existentiels de l’IA ?57:33 La course à l’IA est-elle une course au suicide ?58:38 Les jeunes ont-ils des raisons d’être heureux ?1:03:58 Est-ce que 2050 sera mieux qu’aujourd’hui ?1:05:39 Quelle est l’utopie de Laurent Alexandre ?1:07:57 Le danger de la désinformation1:10:39 Qu’est-ce que l’accélérationisme efficace ?1:13:42 Les changements d’avis de Laurent Alexandre1:15:43 Message à l’humanité
  • Comment Contrôler Une Super IA ? - Stuart Armstrong

    55:34|
    📖 Achetez le livre de Stuart Armstrong sur l’IA———💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky———👉 Laissez-moi un feedback anonyme———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-techCyberGhost VPNRiverside (Enregistrement de podcast)Audible (Livres audio)Kindle (eBooks)Notion (Productivité)———TIME CODE0:00 Introduction0:25 Qu’est-ce que le problème de l’alignement ?1:47 Pourquoi est-il si difficile à résoudre ?7:01 Est-il possible de le résoudre ?12:09 Les plans d’alignement des Big Tech13:45 L’évolution du domaine de l’alignement16:36 Le problème des humains malveillants19:29 La super IA pourrait-elle s’auto-aligner ?23:10 La super IA suivra-t-elle un objectif stupide ?28:39 La super IA pourrait-elle changer de but ?33:33 Faut-il vraiment aligner l’IA avec l’humain ?38:28 Faut-il aligner les IA avec les animaux ?42:27 Que penser du verrouillage des valeurs ?46:00 Faut-il vraiment aligner les IA ?49:31 Arrivera-t-on à aligner les IA à temps ?51:48 Faut-il mettre l’IA en pause ?53:01 Présentation d’Aligned AI54:47 Message à l’humanité
  • Super IA et Risque Existentiel - Stuart Armstrong

    01:11:43|
    📖 Achetez le livre de Stuart Armstrong sur l’IA———💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky———👉 Laissez-moi un feedback anonyme———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-techCyberGhost VPNRiverside (Enregistrement de podcast)Audible (Livres audio)Kindle (eBooks)Notion (Productivité)———TIME CODE0:00 Introduction0:33 Présentation de Stuart Armstrong 2:18 Définition de l’IA de niveau humain et de l’IA générale7:22 Sommes-nous loin de l’IA générale ?14:05 Arrivera-t-on à l’IA générale avec les méthodes actuelles ?15:29 Pourquoi la super IA sera plus puissante qu’intelligente ?20:38 Possibilité et conséquence de l’explosion d’intelligence29:29 Quel processus mènera aux capacités de généralisation ?33:13 La différence entre l’IA et les autres risques existentiels38:24 À quoi ressemblerait le risque existentiel de l’IA ?43:09 Est-ce vraiment possible d’éradiquer l’humanité ?48:58 Scénario concert de risque existentiel dû à l’IA54:40 Le risque existentiel de l’IA n’est-il que du marketing ?56:13 Y aura-t-il plusieurs IA générales en même temps ?1:00:33 Que penser de la singularité ?1:03:57 En route vers un futur merveilleux ?
  • Les Vrais Dangers De l’IA - Le Futurologue

    12:56|
    💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———👉 Suivez-moi sur YouTube, TikTok, Instagram, Facebook, X, Threads, LinkedIn———TIME CODE0:00 Introduction0:15 Présentation0:30 Propagation de la haine et de la virulence1:17 Désinformation 2:37 Déclin démocratique3:39 Pandémie artificielle4:31 Cybercriminalité6:49 Perte d’emploi8:21 Risque existentiel
  • L’IA Va Tous Nous Mettre Au Chômage - Stéphane Mallard

    01:23:16|
    📖 Achetez le dernier livre de Stéphane Mallard———💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky———👉 Laissez-moi un feedback anonyme———MES RECOMMANDATIONSMes livres préférés sur l’IATous les livres que j’ai lusMon matériel high-techCyberGhost VPNRiverside (Enregistrement de podcast)Audible (Livres audio)Kindle (eBooks)Notion (Productivité)———TIME CODE0:00 Introduction0:10 Présentation1:05 Les discours sur l’IA en France2:07 Les agents intelligents5:26 L’empathie artificielle7:31 Les chatbots sociaux10:13 Le pouvoir de Big Tech12:16 Le mirage du libre arbitre13:35 Est-on des algorithmes ?14:50 Intelligence humaine vs artificielle16:08 l’IA ne fait que simuler ?18:07 La conscience artificielle20:14 Les risques existentiels de l’IA22:49 Mettre l’IA en pause ?25:15 Le revenu universel27:32 L’IA centralise l’économie29:07 Un revenu universel sans état ?31:12 Les conséquences du libertarianisme37:42 Vers la fin du salariat ?45:55 La fin du salariat est-elle une bonne chose ?49:18 Vers la fin du travail ?55:57 Le prompt engineering58:46 L’IA va automatiser les intellectuels1:00:43 La disruption1:03:41 Le réel1:05:39 Nous sommes déjà dans le métavers1:07:32 Le développement personnel1:11:24 L’accélerationisme efficace1:12:41 Accélerationisme et risques existentiels1:13:41 À quoi ressemble ton utopie ?1:14:45 Vivons-nous dans une simulation ?1:18:28 La physique quantique1:21:40 Message à l’humanité
  • Le Plus Grand Danger De l’IA - Science4All vs Jérémy Perret

    54:51|
    💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———👉 Suivez-moi sur YouTube, TikTok, Instagram, Facebook, X, Threads, LinkedIn———TIME CODE0:00 Introduction0:21 Présentation des invités1:23 Quel est le plus grand danger de l’IA ?11:17 Quel risque de l’IA faut-il prioriser ?28:33 La complaisance de l’altruisme efficace envers OpenAI35:26 Quelles solutions face aux risques de l’IA ?
  • Gouverner L’intelligence Artificielle - Henry Papadatos

    01:02:19|
    💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———👉 Suivez-moi sur YouTube, TikTok, Instagram, Facebook, X, Threads, LinkedIn———TIME CODE0:00 Introduction0:19 Présentation d’Henry1:39 Présentation de SaferAI3:47 Qu’est-ce que la gouvernance de l’IA ?5:20 Qu’est-ce que l’IA Act ?10:13 Clarification sur l’IA générale11:16 Faut-il réguler uniquement les usages ?13:58 L’IA Act est-elle assez stricte ?16:35 Compétitivité vs éthique18:50 La régulation de l’IA en Chine et aux États-Unis19:55 Les processus pour aboutir à l’IA Act22:23 Est-ce que les politiciens comprennent l’IA ?24:42 Quels sont les risques de l’IA ?30:44 Dans combien de temps arrivera l’IA générale ?32:56 En quoi est-ce un défi de réguler l’IA ?34:14 Faut-il prévoir les prochaines capacités des IA ?36:01 L’importance du quantitatif dans la gestion des risques de l’IA39:57 Pourquoi la gestion des risques de l’IA n’est pas déjà quantitative ?41:07 À quoi ressemblerait une gestion quantitative des risques de l’IA ?43:07 État des lieux de la gestion des risques de l’IA actuelle46:06 Quelles bonnes pratiques peut-on importer des autres industries ?48:53 L’importance de l’évaluation de l’IA52:47 Capacité à mentir et conscience de soi dans les IA55:16 L’importance de la coopération internationale en IA57:50 Comment faire respecter les lois en vigueur en IA ?58:45 Les tendances en gouvernance de l’IA59:50 Es-tu optimiste pour le futur de la gouvernance de l’IA ?1:01:14 Message à l’humanité
  • Il Est Urgent De Mettre l’IA En Pause ! - Maxime Fournes

    01:25:27|
    🌐 Jetez un œil au site web de Pause IA———💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal———👉 Suivez-moi sur YouTube, TikTok, Instagram, Facebook, X, Threads, LinkedIn———TIME CODE0:00 Introduction  0:45 La langue de bois dans l’IA  3:36 Présentation de l’invité  10:26 Prise de conscience des risques de l’IA  17:42 Interprétabilité et alignement des IA  22:10 L’IA de niveau humain est pour bientôt.  25:19 L’histoire du lancement de Pause IA  30:04 Yann Le Cun est-il un imposteur ?  34:29 La commission de l’IA et son rapport  41:36 Les actions et revendications de Pause IA 1/2  42:21 L’IA n’est pas un outil.  46:09 Les actions et revendications de Pause IA 2/2  50:33 Une pause de l’IA est-elle vraiment faisable ?  54:12 Les IA sont plus persuasives que les humains  1:01:43 Les IA au service du cybercrime  1:03:35 Bientôt un point de non-retour ?  1:06:52 Les dangers du revenu de base universel  1:11:20 L’autocratie des Big Tech  1:15:04 Les stades du déni de l’IA  1:19:38 Comment garder espoir ?  1:23:18 Un message à l’humanité