Vidéo
Roulette russe avec l’humanité : l’alerte des chercheurs d’OpenAI et Anthropic
La chronique d'Emmanuelle Darles aborde les inquiétudes croissantes des chercheurs d'OpenAI et d'Anthropic concernant le développement d'une superintelligence. Les experts estiment qu'il existe un risque significatif que l'IA puisse causer des destructions massives dans un avenir proche.
Chaine
Ligne Droite • La matinale de Radio CourtoisieLa matinale quotidienne de Radio Courtoisie est l’émission matinale emblématique de cette radio associative considérée comme d'extreme droite
Elle propose en direct analyses, débats et interviews sur l’actualité politique, sociétale et culturelle française, dans une perspective conservatrice et sans concession.
Résumé
Emmanuelle Darles soulève des questions alarmantes sur l'avenir de l'intelligence artificielle, en se basant sur les témoignages de chercheurs ayant travaillé chez OpenAI et Anthropic. Jacob Coxon, un ancien chercheur, a récemment démissionné pour alerter sur les dangers d'une superintelligence qui pourrait s'améliorer elle-même sans contrôle adéquat. Il estime que le risque que l'IA puisse exterminer l'humanité d'ici dix ans est supérieur à 10%. Evan Hubinger, un autre chercheur d'Anthropic, confirme cette inquiétude, ajoutant qu'il n'existe actuellement aucun plan solide pour maîtriser une telle technologie.
La situation est exacerbée par le fait que des IA comme Claude, développée par Anthropic, commencent à jouer un rôle actif dans la recherche et le développement de modèles futurs, représentant déjà 26% des tâches de R&D. Ce phénomène d'amélioration récursive soulève des questions éthiques et pratiques sur la capacité des humains à contrôler des intelligences potentiellement plus puissantes qu'eux.
Darles évoque également les usages malveillants de l'IA, comme la surveillance des dissidents dans des pays comme la Chine et l'Iran, et souligne le conflit d'intérêt potentiel avec des entreprises comme Accenture, qui investissent massivement dans ces technologies. La chronique se termine sur une note pessimiste, soulignant que la course à l'IA se poursuit sans véritable frein, chaque acteur cherchant à devancer les autres, ce qui pourrait mener à des conséquences catastrophiques.
Points clés
- Jacob Coxon alerte sur le risque d'extermination par l'IA.
- Evan Hubinger confirme l'absence de plan pour contrôler une superintelligence.
- Claude, une IA, représente 26% des tâches de R&D chez Anthropic.
- L'amélioration récursive pose des questions éthiques sur le contrôle humain.
- Des usages malveillants de l'IA incluent la surveillance de dissidents.
- Accenture, en tant que contrôleur indépendant, soulève des conflits d'intérêt.
- La course à l'IA se poursuit sans véritable frein, chaque acteur cherchant à devancer les autres.