Qu’est-ce que l’AGI ? Comprendre l’intelligence artificielle générale

Points clés à retenir

• L’intelligence artificielle générale, ou AGI, désigne une IA dotée de vastes capacités d’apprentissage et de résolution de problèmes dans différents domaines.
• Un chatbot impressionnant n’est pas automatiquement une AGI. Il n’existe ni définition ni test universellement acceptés pour confirmer ce statut.
• Les outils d’IA actuels peuvent faciliter la recherche, la rédaction et les tâches spécialisées, mais leurs résultats nécessitent toujours un jugement humain.

L’intelligence artificielle générale (AGI) est une forme envisagée d’IA qui pourrait apprendre, raisonner et appliquer des connaissances à de nombreuses tâches différentes, à un niveau globalement comparable à celui des humains, voire supérieur. Contrairement aux systèmes conçus pour des tâches précises, une AGI devrait pouvoir s’adapter à des problèmes inconnus sans nécessiter une solution distincte conçue spécialement pour chacun d’eux.

Comment cela fonctionne

Il n’existe aucune recette consensuelle pour créer une AGI. Il s’agit d’un objectif de recherche, et non d’une technologie unique ou d’une catégorie de produits aux spécifications établies.

Les chercheurs s’intéressent généralement à plusieurs capacités liées entre elles :

• Apprentissage : Acquérir des compétences utiles à partir d’informations, d’expériences ou de retours.
• Raisonnement : Relier des éléments probants, évaluer différentes options et résoudre des problèmes inconnus.
• Transfert de connaissances : Appliquer à un autre contexte ce qui a été appris dans un premier.
• Planification : Décomposer un objectif en étapes et s’adapter lorsque les circonstances changent.
• Adaptabilité : Gérer de nouvelles tâches et de nouveaux environnements plutôt que de s’appuyer uniquement sur des schémas familiers.

La difficulté consiste à faire fonctionner ces capacités ensemble de manière fiable. Un système peut résoudre un problème mathématique complexe tout en peinant sur une tâche simple de planification. De bonnes performances dans un domaine ne suffisent pas à démontrer une intelligence générale.

Quelle place pour les LLM ?

Un grand modèle de langage, ou LLM, apprend des régularités à partir de grandes quantités de données et les utilise pour générer du langage. De nombreux assistants d’IA actuels associent des modèles de langage à des capacités telles que le traitement d’images, la recherche, l’exécution de code ou l’utilisation d’outils externes.

Cela peut les rendre utiles dans un éventail d’activités étonnamment large. Toutefois, une grande polyvalence ne constitue pas une preuve d’AGI.

Un LLM peut produire une explication convaincante tout en se trompant sur les faits sous-jacents. Il peut aussi avoir du mal à suivre un plan de manière fiable sur de nombreuses étapes. Les chercheurs ne s’accordent pas sur la question de savoir si l’augmentation de la taille et l’amélioration de ces modèles suffiront pour atteindre l’AGI, ou si d’autres approches seront nécessaires.

L’AGI n’implique pas non plus automatiquement la conscience, les émotions ou la conscience de soi. Ces questions sont distinctes de celle de la capacité d’un système à accomplir efficacement des tâches intellectuelles.

Exemples concrets

Il n’existe aucun exemple d’AGI universellement accepté et établi de manière indépendante. Les comparaisons concrètes les plus utiles sont les systèmes actuels qui illustrent certains aspects de cette ambition plus large.

Assistance polyvalente : ChatGPT peut aider à rédiger, programmer, analyser et effectuer des recherches courantes. Sa polyvalence explique pourquoi les modèles de langage sont évoqués dans les discussions sur l’AGI. À elle seule, cette polyvalence ne prouve pas une capacité fiable de niveau humain face à des tâches inconnues.

IA scientifique spécialisée : AlphaFold (DeepMind) prédit les structures tridimensionnelles des protéines, contribuant ainsi à la recherche biologique. Il montre à quel point l’IA peut être utile sans être une intelligence générale. Réussir à prédire la structure des protéines n’implique pas de savoir gérer une entreprise ou apprendre un métier sans rapport.

Automatisation de la recherche : Storm (Stanford) produit des rapports de recherche en plusieurs sections, dans le style de Wikipedia. Cela montre comment un système d’IA peut organiser un processus de travail complexe, mais même un rapport soigné nécessite des vérifications concernant l’exactitude, les éléments probants et les points de vue manquants.

Une AGI hypothétique pourrait apprendre un processus professionnel inconnu, interpréter les documents pertinents, élaborer un plan et s’adapter lorsque les exigences changent, le tout avec peu de consignes propres à la tâche. Il s’agit d’une illustration du concept, et non d’une affirmation sur les capacités d’un produit existant.

Avantages et limites

L’AGI pourrait rendre une assistance de niveau expert plus largement accessible. S’ils étaient développés de manière sûre et fiable, des systèmes aux capacités étendues pourraient aider les personnes à explorer des questions scientifiques, à apprendre de nouveaux sujets et à coordonner des travaux complexes.

Pour les entreprises, l’intérêt réside dans la flexibilité : un seul système pourrait potentiellement gérer des tâches évolutives, au lieu de nécessiter une solution spécialisée différente pour chaque processus de travail.

Toutefois, ces avantages restent des possibilités, et non des résultats garantis. Parmi les limites et les risques importants figurent :

• Mesure mal définie : Il n’existe pas de test unique et reconnu de l’AGI. Les examens et les tests de référence ne couvrent que certains aspects de l’intelligence.
• Fiabilité : Des performances moyennes élevées peuvent masquer de graves défaillances, notamment lors de tâches inconnues ou longues.
• Sécurité et contrôle : Un système performant pourrait poursuivre un objectif mal défini de manière nuisible.
• Confidentialité et usages abusifs : Des capacités accrues pourraient amplifier les escroqueries, la surveillance ou l’utilisation inappropriée d’informations sensibles.
• Perturbations économiques : Les changements touchant les emplois et l’accès à des systèmes puissants pourraient entraîner une répartition inégale des bénéfices.

L’intelligence et la fiabilité sont également deux choses différentes. Même un système très performant nécessiterait des autorisations appropriées, une supervision et des mécanismes de responsabilité.

Pour les professionnels très occupés, la leçon pratique est simple : évaluez ce qu’un système d’IA peut accomplir de manière fiable dans votre processus de travail, plutôt que de vous fier à un discours marketing le qualifiant de « général » ou de « niveau humain ».

Comment se lancer

Vous n’avez pas besoin d’attendre l’AGI pour comprendre l’IA actuelle ou en tirer parti. Commencez par une petite tâche de recherche et observez à la fois ses points forts et ses défaillances.

1. Choisissez une question à faible risque. Par exemple : « Comment les chercheurs distinguent-ils l’intelligence générale de bonnes performances aux tests de référence ? » Évitez de commencer par une décision professionnelle sensible.

1. Établissez une vue d’ensemble. Utilisez Perplexity pour trouver des explications étayées par des liens vers des sources web. Ouvrez les documents cités et vérifiez qu’ils appuient réellement la réponse.

1. Ne vous limitez pas aux résumés. Si vous trouvez un article scientifique pertinent, SciSpace (Typeset) peut vous aider à comprendre sa terminologie et son contenu scientifique au format PDF. Comparez l’explication aux méthodes et aux conclusions de l’article.

1. Explorez le contexte de la recherche. ResearchRabbit peut vous aider à cartographier les liens entre les articles et les auteurs. Utilisez ces liens pour découvrir des travaux connexes, et non comme preuve qu’une affirmation est correcte.

1. Tenez un journal d’évaluation simple. Notez la tâche, la réponse de l’IA, ce que vous avez vérifié et ce qui a échoué. Essayez une autre version du même problème pour voir si les performances se maintiennent.

Ne collez jamais d’informations confidentielles ou personnelles dans un outil sans avoir vérifié ses politiques en matière de données et les règles de votre organisation.

FAQ

L’AGI est-elle la même chose que l’IA générative ?

Non. L’IA générative produit des contenus tels que du texte, des images, de l’audio ou du code. L’AGI désigne une capacité intellectuelle étendue et adaptable. Un système peut générer d’excellents contenus sans satisfaire à un critère pertinent d’intelligence générale.

Quand l’AGI arrivera-t-elle ?

Personne ne le sait. Les prévisions varient considérablement, car les chercheurs ne s’accordent pas sur la définition, les obstacles techniques et la manière de mesurer les progrès. Considérez les dates d’arrivée annoncées avec assurance comme des prédictions plutôt que comme des faits établis.

En quoi l’AGI diffère-t-elle de la superintelligence ?

L’AGI désigne généralement des capacités étendues d’un niveau à peu près humain ou supérieur, selon la définition retenue. La superintelligence désigne habituellement des capacités dépassant largement celles des humains dans la plupart des grands domaines intellectuels. Aucun de ces termes n’implique automatiquement la conscience, et les discussions gagnent en clarté lorsque chacun précise les capacités dont il parle.