L’article d’Apollo Research "Scheming reasoning evaluations" : https://www.apolloresearch.ai/research/scheming-reasoning-evaluations L’article d’Anthropic "Alignment faking in large language models" : https://www.anthropic.com/research/alignment-faking J’ai ajouté le passage sur ce 2e article vraiment à chaud et rapidement, donc prenez tout ce que je dis avec la prudence nécessaire et j’apporterai des corrections dans un commentaire épinglé si nécessaire. Le lien vers le questionnaire pour une prochaine vidéo : https://forms.gle/SGmpmocBdkPTmPUJA
Sommaire : 0:00 - Intro 1:42 - Qu’est-ce qu’un agent autonome ? 4:01 - Un LLM peut-il mentir et manipuler sans qu’on le lui demande ? 5:30 - 1er cas : quand o1 s’exfiltre sur un autre serveur 9:25 - Limite : contamination par la fiction et "Nothing else matters" 13:28 - 2e cas : quand o1 ment effrontément 17:02 - Sans "Nothing else matters" : un cas plus convaincant 18:58 - Un objectif long terme en prompt suffit à pousser à la manipulation 20:19 - Sans objectif long terme en prompt : les cas le plus troublants 24:20 - Sandbagging et objectif long terme acquis lors du RLHF 27:26 - Claude peut-il comprendre spontanément qu’il est testé ? 29:13 - Le résultat sur le sandbagging est curieusement négligé 30:41 - Conclusion et synthèse 31:28 - Eh non, c’est pas fini. 32:41 - Le principal résultat de l’article d’Anthropic : quand Claude feint l’alignement 37:45 - Version "prompt", version "fine-tuned", version RL 42:16 - Les scrupules de Claude 44:58 - La dimension morale des valeurs que protège Claude est-elle importante ? 48:08 - Conclusion de l’article 49:09 - Outro ______________________________
La principale source de financement de la chaîne est le financement participatif. Merci pour tous vos dons ! Soutenez la chaîne sur Patreon ! 💸 PATREON : https://www.patreon.com/MonsieurPhi 💸 TIPEEE : https://fr.tipeee.com/monsieurphi Ou directement via PayPal : https://www.paypal.com/paypalme/monsieurphi
📚 Mon livre "Curiosités philosophiques, de Platon à Russell" : https://amzn.to/3KYujSo 🎧 La version en livre audio (lu par mes propres soins) est disponible sur Audible. 📚 Méthodo de la dissertation et de l’explication de texte pour le bac : https://amzn.to/3c21RjE
Mes réseaux sociaux (par ordre décroissant d’activité) : 💬 Discord : https://discord.gg/ky8TqcHu6A 🌌​ Bluesky : https://bsky.app/profile/monsieurphi.bsky.social 𝕏 Twitter : https://twitter.com/monsieurphi 🎙️ Twitch: https://www.twitch.tv/monsieurphi 🌷 Instagram : https://www.instagram.com/monsieur.phi/ 😱 Tiktok : https://www.tiktok.com/@monsieurphi 👴 Facebook : https://www.facebook.com/graindephilo/
Autres liens 💻 PeerTube : https://indymotion.fr/video-channels/monsieur_phi/videos 🎙️ Replay Twitch : https://www.youtube.com/channel/UCYymKHWbYAowpzGbhE1U3tg 🍻 Axiome, podcast avec Lê (Science4All) : https://www.youtube.com/channel/UCNHFiyWgsnaSOsMtSoV_Q1A

Si vous voulez tester Incogni : https://incogni.com/monsieurphi Si vous voulez en apprendre davantage sur le broicism, la vidéo d’Aperture "How Stoicism Became The World’s Greatest Scam" : https://youtu.be/h8REOHfdVZQ Si vous voulez en apprendre davantage sur le stoïcisme authentique, une interview exclusive de Sénèque, le stoïcien aux 300 millions de sesterces : https://youtu.be/iE08wLRGPcQ Sommaire 0:00 - Préambule 0:30 - Les tableaux de Jérôme Bosch 2:54 - Intro + InVideo AI 6:01 - Sponso - Incogni 7:49 - Encyclopaedia of Philosophy 12:21 - Stoïcisme alpha 16:57 - Esthétique et thématique 19:47 - Act as if nothing bothers you (this is very powerful) 23:43 - Broicism 27:34 - Les coulisses d’une chaîne de stoïcisme alpha 29:04 - A lack of friends indicates that 32:26 - Patient-0 et variant stoïcien 36:27 - L’algo de recommandation et les IA génératives tournent en boucle 38:04 - Dead internet theory 41:29 - Conclusion 43:31 - Modèles autophagiques + Outro _________________________________________
La principale source de financement de la chaîne est le financement participatif. Merci pour tous vos dons ! Soutenez la chaîne sur Patreon ! 💸 PATREON : https://www.patreon.com/MonsieurPhi 💸 TIPEEE : https://fr.tipeee.com/monsieurphi Ou directement via PayPal : https://www.paypal.com/paypalme/monsieurphi
📚 Mon livre "Curiosités philosophiques, de Platon à Russell" : https://amzn.to/3KYujSo 🎧 La version en livre audio (lu par mes propres soins) est disponible sur Audible. 📚 Méthodo de la dissertation et de l’explication de texte pour le bac : https://amzn.to/3c21RjE
Les réseaux sociaux 💬 Discord : https://discord.gg/ky8TqcHu6A 🧵​ Thread : https://www.threads.net/@monsieur.phi 🐤 Twitter : https://twitter.com/monsieurphi 🎙️ Twitch: https://www.twitch.tv/monsieurphi 👴 Facebook : https://www.facebook.com/graindephilo/ 😱 Tiktok : https://www.tiktok.com/@monsieurphi 🌷 Instagram : https://www.instagram.com/monsieur.phi/
Autres liens 💻 PeerTube : https://indymotion.fr/video-channels/monsieur_phi/videos 🎙️ Replay Twitch : https://www.youtube.com/channel/UCYymKHWbYAowpzGbhE1U3tg 🍻 Axiome, podcast avec Lê (Science4All) : https://www.youtube.com/channel/UCNHFiyWgsnaSOsMtSoV_Q1A

Cette vidéo est un partenariat avec le MESEC (Mediterranean Society for Consciousness Science) : https://mesec.co/ Le gros article dont je parle tout au long de la vidéo "Consciousness in Artificial Intelligence: Insights from the Science of Consciousness" : https://arxiv.org/abs/2308.08708 Merci à Adrien Doerig ! Vous pouvez lire son article : "Hard criteria for empirical theories of consciousness" https://www.tandfonline.com/doi/full/10.1080/17588928.2020.1772214
Sommaire 0:00 - Intro : pourquoi ChatGPT joue le rôle d’une IA dénuée de conscience ? 1:05 - Parce qu’on demande aux LLM de jouer ce rôle 4:46 - Le cas Blake Lemoine et le test de Turing 7:50 - L’article "Consciousness in Artificial Intelligence: Insights from the Science of Consciousness" 10:53 - 1er présupposé : le fonctionnalisme 12:53 - 2e présupposé : des théories scientifiques de la conscience 15:52 - 3e présupposé : une approche chargée en théorie 17:38 - Présentation de la Global Workplace Theory (GWT) ou théorie de l’espace de travail global 20:58 - Sur le mécanisme de sélection 23:01 - Des données expérimentales à l’appui de GWT 25:57 - Les quatre propriétés indicatives de la consciences selon GWT 27:39 - Les transformers satisfont-ils les propriétés indicatives de la conscience selon GWT ? 30:00 - Des propriétés trop faciles à satisfaire : l’argument des "petits réseaux" 33:54 - Le système immunitaire ou une administration sont-elles conscientes selon les critères de GWT ? 36:24 - Le présent et l’avenir des sciences de la conscience 38:21 - Hermes-3 : les crises existentielles d’un LLM 40:50 - Observer le comportement et le fonctionnement interne d’un système ne suffit plus pour écarter la possibilité de la conscience 43:27 - Petite parenthèse sur l’interprétabilité des LLM 45:35 - Conclusion : de l’importance des théories de la conscience pour déterminer si un système IA est conscient 46:58 - Outro
_________________________________________
La principale source de financement de la chaîne est le financement participatif. Merci pour tous vos dons ! Soutenez la chaîne sur Patreon ! 💸 PATREON : https://www.patreon.com/MonsieurPhi 💸 TIPEEE : https://fr.tipeee.com/monsieurphi Ou directement via PayPal : https://www.paypal.com/paypalme/monsieurphi
📚 Mon livre "Curiosités philosophiques, de Platon à Russell" : https://amzn.to/3KYujSo 🎧 La version en livre audio (lu par mes propres soins) est disponible sur Audible. 📚 Méthodo de la dissertation et de l’explication de texte pour le bac : https://amzn.to/3c21RjE
Les réseaux sociaux 💬 Discord : https://discord.gg/ky8TqcHu6A 🧵​ Thread : https://www.threads.net/@monsieur.phi 🐤 Twitter : https://twitter.com/monsieurphi 🎙️ Twitch: https://www.twitch.tv/monsieurphi 👴 Facebook : https://www.facebook.com/graindephilo/ 😱 Tiktok : https://www.tiktok.com/@monsieurphi 🌷 Instagram : https://www.instagram.com/monsieur.phi/
Autres liens 💻 PeerTube : https://indymotion.fr/video-channels/monsieur_phi/videos 🎙️ Replay Twitch : https://www.youtube.com/channel/UCYymKHWbYAowpzGbhE1U3tg 🍻 Axiome, podcast avec Lê (Science4All) : https://www.youtube.com/channel/UCNHFiyWgsnaSOsMtSoV_Q1A

J’ai concocté cette vidéo dans l’urgence si bien que je n’ai pas eu le temps de faire un générique en bon et dû et forme où remercier celles et ceux qui me soutiennent sur les plateformes de financement. Je le fais donc ici : MERCI vraiment, c’est grâce à vous que ces vidéos existent. Quelques vidéos que vous pourriez avoir envie de regarder (dont je parle à la fin): Stupid Economics. Législative 2024 - Démocratie, économie : tout doit disparaître ? https://youtu.be/mTLOPAnCiSg Le Monde. Enquête : Cyril Hanouna et ses dérapages | RN avantagé et clashs supprimés d’Europe 1 https://youtu.be/qzLSsxSmUGk Le Tropeur. Ainsi s’éteint la Liberté https://youtu.be/KatXDXgm0pQ Blast. Législatives : un mode de scrutin nocif https://youtu.be/EpXajdbn2KY Pourquoi notre système de vote est nul (et le moyen le plus simple de l’améliorer) https://youtu.be/zmCl5i_sEiM Sommaire 0:00 - Intro 1:23 - "A voté" d’Isaac Asimov - première partie 35:57 - Quelques réflexions sur la nouvelle 39:36 - Quelques réflexions sur les élections à venir __________________________________________
La principale source de financement de la chaîne est le financement participatif. Merci pour tous vos dons ! Soutenez la chaîne sur Patreon ! 💸 PATREON : https://www.patreon.com/MonsieurPhi 💸 TIPEEE : https://fr.tipeee.com/monsieurphi Ou directement via PayPal : https://www.paypal.com/paypalme/monsieurphi
📚 Mon livre "Curiosités philosophiques, de Platon à Russell" : https://amzn.to/3KYujSo 🎧 La version en livre audio (lu par mes propres soins) est disponible sur Audible. 📚 Méthodo de la dissertation et de l’explication de texte pour le bac : https://amzn.to/3c21RjE
Les réseaux sociaux 💬 Discord : https://discord.gg/ky8TqcHu6A 🧵​ Thread : https://www.threads.net/@monsieur.phi 🐤 Twitter : https://twitter.com/monsieurphi 🎙️ Twitch: https://www.twitch.tv/monsieurphi 👴 Facebook : https://www.facebook.com/graindephilo/ 😱 Tiktok : https://www.tiktok.com/@monsieurphi 🌷 Instagram : https://www.instagram.com/monsieur.phi/
Autres liens 💻 PeerTube : https://indymotion.fr/video-channels/monsieur_phi/videos 🎙️ Replay Twitch : https://www.youtube.com/channel/UCYymKHWbYAowpzGbhE1U3tg 🍻 Axiome, podcast avec Lê (Science4All) : https://www.youtube.com/channel/UCNHFiyWgsnaSOsMtSoV_Q1A

Si vous voulez tester Incogni : https://incogni.com/monsieurphi Mon article de blog pour retrouver les résultats détaillés du questionnaire (c’est pas encore complété mais ça va venir) : https://monsieurphi.com/2024/06/16/enthoven-vs-chatgpt-4/ Replay du live où j’ai généré les textes du questionnaire : https://youtu.be/eFHDhLtid20 Cet article sur le "faux-match" Enthoven vs. ChatGPT contient notamment les scans des copies de deux candidats : https://etudiant.lefigaro.fr/article/bac-philo-2023-qui-de-raphael-enthoven-ou-chatgpt-redige-la-meilleure-copie_a694c010-0a09-11ee-bd34-f2c2eadd1748/ La copie d’Enthoven est transcrite intégralement dans cet article de blog aussi. Si vous voulez voir à quoi ressemble son fameux 20/20 : https://www.pauljorion.com/blog/2024/04/01/gpt-4-et-claude-3-passent-le-bac-philo/
Sommaire 0:00 - Intro 2:57 - Sponso 4:20 - Le "faux-match" Enthoven vs. ChatGPT 6:48 - Enthoven ne connaît rien à l’IA et ne s’y intéresse pas 11:30 - Interlude : "La philosophie ne fait pas de progrès" 13:20 - Les sources d’Enthoven (presque rien) 16:10 - Ce qu’il tire de ses sources (rien) 20:42 - "La machine est incapable d’écrire une problématique" 25:48 - Très mauvais prompt, très mauvaise dissertation 28:58 - Mon test de Turing philosophique 32:36 - Résultats : attribution du texte à l’humain 37:38 - Résultats : notes sur la qualité philosophique des textes 41:42 - Résultats : deux exemples de sujet 44:00 - Résultats : le sujet d’Enthoven 48:15 - Enthoven pourrait-il changer d’avis face à ces résultats empiriques ? 51:29 - Le dualisme ou spiritualisme d’Enthoven 54:41 - "Les machines ne pensent pas": soit c’est faux, soit c’est vide. 56:08 - Conclusion et outro __________________________________________
La principale source de financement de la chaîne est le financement participatif. Merci pour tous vos dons ! Soutenez la chaîne sur Patreon ! 💸 PATREON : https://www.patreon.com/MonsieurPhi 💸 TIPEEE : https://fr.tipeee.com/monsieurphi Ou directement via PayPal : https://www.paypal.com/paypalme/monsieurphi
📚 Mon livre "Curiosités philosophiques, de Platon à Russell" : https://amzn.to/3KYujSo 🎧 La version en livre audio (lu par mes propres soins) est disponible sur Audible. 📚 Méthodo de la dissertation et de l’explication de texte pour le bac : https://amzn.to/3c21RjE
Les réseaux sociaux 💬 Discord : https://discord.gg/ky8TqcHu6A 🧵​ Thread : https://www.threads.net/@monsieur.phi 🐤 Twitter : https://twitter.com/monsieurphi 🎙️ Twitch: https://www.twitch.tv/monsieurphi 👴 Facebook : https://www.facebook.com/graindephilo/ 😱 Tiktok : https://www.tiktok.com/@monsieurphi 🌷 Instagram : https://www.instagram.com/monsieur.phi/
Autres liens 💻 PeerTube : https://indymotion.fr/video-channels/monsieur_phi/videos 🎙️ Replay Twitch : https://www.youtube.com/channel/UCYymKHWbYAowpzGbhE1U3tg 🍻 Axiome, podcast avec Lê (Science4All) : https://www.youtube.com/channel/UCNHFiyWgsnaSOsMtSoV_Q1A

La chanson de "Brel" est ici: https://www.udio.com/songs/m8d14eYJ9wc3krcczNfrwZ J’ai testé et c’est assez difficile d’obtenir exactement cette voix, je ne sais pas comment il s’y est pris, mais c’est clairement possible: il y a d’autres exemples de "pseudo-brel" très convaincants.

Les LLM sont nuls aux échecs, il paraît. L’article de Mathieu Acher sur les performances de gpt-3.5-turbo-instruct avec diverses variantes: https://blog.mathieuacher.com/GPTsChessEloRatingLegalMoves/ L’article de Nicholas Carlini sur les performances de gpt-3.5-turbo-instruct sur des puzzles d’échecs. https://nicholas.carlini.com/writing/2023/chess-llm.html L’article sur Othello-gpt: "Emergent World Representations: Exploring a Sequence Model Trained on a Synthetic Task" https://arxiv.org/abs/2210.13382 Un article de vulgarisation au sujet d’Othello-gpt: https://thegradient.pub/othello/ Le premier article d’Adam Karvonen : "Chess-GPT’s Internal World Model" https://adamkarvonen.github.io/machine_learning/2024/01/03/chess-world-models.html Son deuxième article: "Manipulating Chess-GPT’s World Model" L’article académique qu’il en a tiré : "Emergent World Models and Latent Variable Estimation in Chess-Playing Language Models" https://arxiv.org/abs/2403.15498 L’article de DeepMind "Grandmaster-Level Chess Without Search" https://arxiv.org/html/2402.04494v1 Merci à Infomaniak et n’hésitez pas à aller voir les services qu’ils proposent : https://infomaniak.com Sommaire 0:00 - Intro 4:56 - Sponso Infomaniak 6:16 - Premières tentatives et premières difficultés 10:48 - Here comes a new challenger: gpt-3.5-turbo-instruct 13:49 - Testons ça rigoureusement grâce à Mathieu Acher 20:24 - Explorons l’espace des variations possibles 26:29 - L’expérience de Carlini sur les historiques de coups bizarres 29:28 - gpt-4 a beaucoup regressé (mais n’est pas si mauvais) 33:07 - Othello-gpt, par Li et al., preuve d’une représentation interne du jeu 38:21 - Chess-gpt, par Adam Karvonen: encore plus impressionnant 42:38 - "Juste des perroquets stochastiques", vraiment ? 45:06 - Supplément: DeepMind entraîne un LLM à jouer à 2900 Elo 47:17 - Outro __________________________________________
La principale source de financement de la chaîne est le financement participatif. Merci pour tous vos dons ! Soutenez la chaîne sur Patreon ! 💸 PATREON : https://www.patreon.com/MonsieurPhi 💸 TIPEEE : https://fr.tipeee.com/monsieurphi Ou directement via PayPal : https://www.paypal.com/paypalme/monsieurphi
📚 Mon livre "Curiosités philosophiques, de Platon à Russell" : https://amzn.to/3KYujSo 🎧 La version en livre audio (lu par mes propres soins) est disponible sur Audible. 📚 Méthodo de la dissertation et de l’explication de texte pour le bac : https://amzn.to/3c21RjE
Les réseaux sociaux 💬 Discord : https://discord.gg/ky8TqcHu6A 🧵​ Thread : https://www.threads.net/@monsieur.phi 🐤 Twitter : https://twitter.com/monsieurphi 🎙️ Twitch: https://www.twitch.tv/monsieurphi 👴 Facebook : https://www.facebook.com/graindephilo/ 😱 Tiktok : https://www.tiktok.com/@monsieurphi 🌷 Instagram : https://www.instagram.com/monsieur.phi/
Autres liens 💻 PeerTube : https://indymotion.fr/video-channels/monsieur_phi/videos 🎙️ Replay Twitch : https://www.youtube.com/channel/UCYymKHWbYAowpzGbhE1U3tg 🍻 Axiome, podcast avec Lê (Science4All) : https://www.youtube.com/channel/UCNHFiyWgsnaSOsMtSoV_Q1A

Pour découvrir l’entretien complet avec Nicolas Gravel, voici le lien vers la vidéo sur la chaîne d’EchoSciences Sud Provence-Alpes-Côte d’Azur : https://youtu.be/TTKTluPW3_M Vidéo réalisée pour Echosciences Sud Provence-Alpes-Côte d’Azur https://www.echosciences-paca.fr avec l’enseignant-chercheur en sciences économiques Nicolas Gravel (AMSE - CNRS). Sur une idée originale de Play Azur Prod. Vidéo coordonnée par Gulliver https://www.gulliver-sciences.fr et Play Azur Prod : https://playazur-prod.fr/. Voir aussi : https://www.echosciences-paca.fr/articles/video-echoscientifique-n-32 Sommaire 0:00 - Présentation du "jeu" (scénario de base) 3:25 - Dilemme du prisonnier et agent rationnel 9:08 - En quoi le choix rationnel enfreint l’impératif catégorique de Kant 16:39 - Résultats scénario de base 21:35 - Résultats des trois variantes 27:05 - Comparaison H/F, âge, situation sociale, orientation politique 29:54 - Les groupes "pour moi" croient vivre dans un autre monde 32:22 - Synthèse et conclusion __________________________________________ La principale source de financement de la chaîne est le financement participatif. Merci pour tous vos dons ! Soutenez la chaîne sur Patreon !
💸 PATREON : https://www.patreon.com/MonsieurPhi 💸 TIPEEE : https://fr.tipeee.com/monsieurphi
Ou directement via PayPal : https://www.paypal.com/paypalme/monsieurphi 📚 Mon livre "Curiosités philosophiques, de Platon à Russell" : https://amzn.to/3KYujSo 🎧 La version en livre audio (lu par mes propres soins) est disponible sur Audible. 📚 Méthodo de la dissertation et de l’explication de texte pour le bac : https://amzn.to/3c21RjE Les réseaux sociaux 💬 Discord : https://discord.gg/ky8TqcHu6A 🧵​ Thread : https://www.threads.net/@monsieur.phi 🐤 Twitter : https://twitter.com/monsieurphi 🎙️ Twitch: https://www.twitch.tv/monsieurphi 👴 Facebook : https://www.facebook.com/graindephilo/ 😱 Tiktok : https://www.tiktok.com/@monsieurphi 🌷 Instagram : https://www.instagram.com/monsieur.phi/ Autres liens 💻 PeerTube : https://indymotion.fr/video-channels/monsieur_phi/videos 🎙️ Replay Twitch : https://www.youtube.com/channel/UCYymKHWbYAowpzGbhE1U3tg 🍻 Axiome, podcast avec Lê (Science4All) : https://www.youtube.com/channel/UCNHFiyWgsnaSOsMtSoV_Q1A

#shorts Un petit rappel que les LLM sont des objets imprévisibles. Si le sujet vous intéresse, j’y ai consacré un bon nombre de vidéos mais je recommande particulièrement celle-ci sur "Sydney" qui ne vous veut pas que du bien : https://youtu.be/dDhTMIao-fM

Allez donc voir la vidéo de @Trucsdephilo : https://youtu.be/Dc_rQVXB7_8 #shorts