Mystérieux Projet Q* d’OpenAI inquiète les experts. Peut-il vraiment être dangereux pour l’humanité ? Que sait-on de lui ? Après que Sam Altman ait été initialement licencié la semaine dernière et que lui et l'équipe ont presque déménagé Microsoft, puis il est retourné à son travail (à ce sujet nous avons écrit ici), OpenAI fait à nouveau l'actualité. Cette fois, à cause de ce que certains chercheurs appellent une possible menace pour l’humanité. Oui, vous avez bien lu, une menace pour l’humanité.
Le véritable bouleversement dans le monde de la technologie a été provoqué par le projet Q* - un projet non divulgué d'intelligence artificielle générale (AGI) - prononcé par Q-Star. Bien que ce projet n’en soit qu’à ses débuts, il est considéré comme véritablement révolutionnaire dans le développement d’AGI. Certains y voient cependant un danger pour l’humanité.
Un projet secret d’intelligence artificielle développé par le célèbre laboratoire d’intelligence artificielle OpenAI a le potentiel de révolutionner la technologie et la société en général. Mais cela soulève également des questions éthiques sur les risques. À mesure que des détails émergent sur les capacités étonnantes du projet Q*, de plus en plus de spéculations émergent sur ce que cela pourrait signifier pour l'avenir de l'humanité.
Intéressant aussi : Histoire d'OpenAI : qu'est-ce que c'était et ce qui attend l'entreprise
Qu’est-ce que l’Intelligence Générale Artificielle (AGI) ?
Pour comprendre le battage médiatique autour du projet Q* (Q-Star), essayons d'abord de comprendre en quoi consiste le concept d'intelligence générale artificielle (AGI). Alors que les systèmes d’intelligence artificielle actuels excellent dans des tâches précises et spécifiques telles que jouer aux échecs ou générer des images, l’intelligence artificielle générale fait référence à des machines capables d’apprendre et de penser à un niveau humain dans de nombreux domaines. C'est-à-dire qu'ils peuvent étudier comme les petits enfants à l'école, par exemple, les bases des mathématiques, de la chimie, de la biologie, etc.
L'intelligence artificielle générale (AGI) est un type d'intelligence artificielle qui peut hypothétiquement imiter l'intelligence ou le comportement humain, avec la capacité d'apprendre et d'appliquer ce potentiel pour résoudre divers problèmes. L’AGI est également appelée intelligence artificielle forte, intelligence artificielle complète ou intelligence artificielle au niveau humain. L’intelligence artificielle générale est différente de l’IA faible ou étroite, qui n’est capable d’effectuer que des tâches spécifiques ou spécialisées dans le cadre de paramètres donnés. ZHI sera capable de résoudre de manière indépendante divers problèmes complexes issus de différents domaines de connaissances.
La création d'intelligence artificielle est au centre des recherches sur l'intelligence artificielle menées par des sociétés telles que DeepMind et Anthropic. CSI est un sujet très populaire dans la littérature de science-fiction et pourrait façonner les recherches futures. Certains soutiennent qu’il est possible de créer un OPC en quelques années ou décennies, tandis que d’autres affirment que cela pourrait prendre un siècle ou plus. Mais certains pensent que cet objectif ne sera jamais atteint. Certains ont vu les prémices d’une URI dans GPT-3, mais celle-ci semble encore loin de répondre aux critères de base.
La création de l’intelligence artificielle générale (AGI) est considérée par les chercheurs comme le Saint Graal de l’intelligence artificielle, une possibilité théorique qui a longtemps captivé leur imagination. Par conséquent, l’apparition d’un projet tel que OpenAI Project Q* a provoqué une grande résonance dans le monde de la recherche sur les algorithmes d’intelligence artificielle. Même si tout le monde comprend que ce ne sont que les premiers pas, presque aveuglément, vers un monde où l’intelligence artificielle aura les mêmes capacités que les humains, voire supérieures.
Intéressant aussi : Tout sur Microsoft Copilote : l’avenir ou la mauvaise voie ?
Qu’est-ce que le Projet Q* ?
Le projet Q* n’est pas un algorithme typique car il s’agit d’un modèle d’intelligence artificielle qui se rapproche de plus en plus du modèle d’intelligence artificielle générale (AGI). Cela signifie que, contrairement à ChatGPT, Project Q* montre de meilleures capacités de réflexion et cognitives par rapport aux autres algorithmes. ChatGPT répond actuellement aux requêtes basées sur une grande quantité d'éléments factuels, mais avec l'AGI, le modèle d'IA apprendra le raisonnement et la capacité de penser et de comprendre par lui-même. On sait déjà que le Projet Q* est capable de résoudre des problèmes mathématiques simples qui ne faisaient pas partie de son matériel de formation. Certains chercheurs y voient une étape importante vers la création d’une intelligence artificielle générale (AGI). OpenAI définit l'AGI comme des systèmes d'intelligence artificielle plus intelligents que les humains.
Le développement du projet Q* est dirigé par Ilya Sutzkever, scientifique en chef d'OpenAI, et ses bases ont été étayées par les chercheurs Jakub Pakhotsky et Shimon Sidor.
La capacité d’un algorithme à résoudre seul des problèmes mathématiques, même si ces problèmes ne faisaient pas partie de l’ensemble des données d’entraînement, est considérée comme une avancée majeure dans le domaine de l’intelligence artificielle. Les désaccords au sein de l'équipe concernant ce projet sont associés à la destitution temporaire du PDG d'OpenAI, Sam Altman. On sait qu'avant le licenciement d'Altman, un groupe de chercheurs de l'entreprise a envoyé une lettre au conseil d'administration pour l'avertir de la découverte d'une IA qui pourrait constituer une menace pour l'humanité. Cette lettre, qui aurait discuté de l'algorithme du projet Q*, a été citée comme l'un des facteurs ayant conduit au licenciement d'Altman. Cependant, les capacités du projet Q* et les risques potentiels qu'il peut poser ne sont pas entièrement compris car les détails sont inconnus. Rien n’a été rendu public.
Essentiellement, le Projet Q* est une méthode d'apprentissage par renforcement sans modèle qui s'écarte des modèles traditionnels en ne nécessitant aucune connaissance préalable de l'environnement. Au lieu de cela, il apprend par l’expérience, en adaptant ses actions en fonction des récompenses et des punitions. Les experts techniques estiment que le Projet Q* pourra acquérir des capacités exceptionnelles en acquérant des capacités similaires aux capacités cognitives humaines.
Cependant, c’est cette caractéristique la plus impressionnante du nouveau modèle d’intelligence artificielle qui inquiète les chercheurs et les critiques et suscite leurs craintes quant aux applications réelles de la technologie et aux risques sous-jacents impliqués. De quoi les scientifiques et les chercheurs ont-ils si peur ? Voyons cela.
Intéressant aussi : Comment mettre à jour vos appareils domestiques pour prendre en charge le Wi-Fi 6
Ils ont peur de l'inconnu
Les humains ont toujours eu peur de l’inconnu, de l’inconnaissable. C'est l'essence humaine, une caractéristique de notre caractère et de notre mode de vie.
Le monde de la technologie a entendu parler du projet Q* en novembre 2023 après Reuters signalé à propos d'une lettre interne écrite par des chercheurs OpenAI concernés. Le contenu de la lettre était vague, mais elle aurait analysé sérieusement les capacités du projet Q*. Comme je l'ai mentionné plus haut, il y a même des spéculations selon lesquelles c'est cette lettre qui aurait déclenché la démission de Sam Altman.
Cette découverte explosive a donné lieu à diverses hypothèses quant à la nature du Projet Q*. Les scientifiques ont suggéré qu’il pourrait s’agir d’un modèle de langage naturel révolutionnaire pour l’IA. Une sorte d’inventeur de nouveaux algorithmes qui les créera pour d’autres formes d’IA, ou quelque chose de complètement différent dans ce domaine.
Les commentaires provocateurs d'Altman sur l'intelligence artificielle générale en tant qu'« employé moyen » ont déjà soulevé des inquiétudes quant à la sécurité de l'emploi et à l'expansion imparable de l'influence de l'IA. Ce mystérieux algorithme est défini comme une étape importante dans le développement de l’intelligence générale artificielle (AGI). Cependant, tout le monde comprend que cette étape coûte cher. Et ce n'est plus une question d'argent maintenant. Le niveau de compétences cognitives promis par le nouveau modèle d’IA comporte son lot d’incertitudes. Les scientifiques d’OpenAI promettent que l’IA aura une réflexion au niveau humain. Et cela signifie que nous ne pouvons pas savoir beaucoup de choses et prédire les conséquences. Et plus on est inconnu, plus il est difficile de se préparer à le contrôler ou à y remédier. Autrement dit, le nouvel algorithme est capable de s’améliorer et de se développer. On a déjà vu ça quelque part...
Intéressant aussi : Windows 12 : quel sera le nouvel OS
Des détails étonnants sur les capacités du projet Q*
Lorsque davantage d’informations ont commencé à émerger, cela a choqué de nombreux chercheurs. Les premières indications indiquaient que le Projet Q* avait un talent incroyable pour les mathématiques. Contrairement à une calculatrice qui effectue des calculs mécaniques, le Projet Q* peut soi-disant utiliser la logique et le raisonnement pour résoudre des problèmes mathématiques complexes. Cette capacité mathématique à généraliser laisse présager le développement d’une intelligence large.
La formation autonome du projet Q*, sans les ensembles de données spécifiques utilisés pour former les IA typiques, constituera également un énorme pas en avant. On ne sait pas si Project Q* maîtrise d’autres compétences. Mais ses capacités mathématiques sont si étonnantes en elles-mêmes qu'elles déroutent même les chercheurs expérimentés.
Lisez aussi: Human Brain Project : une tentative d’imiter le cerveau humain
Le chemin vers la domination du Projet Q* ?
Il existe des scénarios à la fois optimistes et pessimistes à ce sujet. Les optimistes diront que le projet Q* pourrait être l’étincelle qui mènera à une avancée technologique. À mesure que le système s’améliore de manière récursive, son intelligence surnaturelle pourrait aider à résoudre certains des problèmes les plus importants de l’humanité, du changement climatique au contrôle des maladies. Le projet Q* peut automatiser un travail ennuyeux et libérer notre temps libre pour d'autres activités.
Bien qu’il existe de nombreuses options plus pessimistes. Parfois, ils sont tout à fait raisonnables et ont une certaine signification.
Perte d'emplois
Les changements rapides dans le développement technologique peuvent dépasser l’adaptation individuelle des individus. Cela entraînera la perte d’une ou plusieurs générations qui ne pourront pas acquérir les compétences ou les connaissances nécessaires pour s’adapter aux nouvelles réalités. Autrement dit, cela signifie que moins de personnes pourront conserver leur emploi. Elle sera plutôt réalisée par des machines, des systèmes automatisés et des robots. Toutefois, la réponse n’est pas aussi claire lorsqu’il s’agit de spécialistes qualifiés. Par ailleurs, de nouveaux métiers liés spécifiquement au développement d’algorithmes d’intelligence artificielle pourraient apparaître. Mais des risques subsistent et l’humanité n’a pas le droit de les ignorer.
Le danger d’un pouvoir incontrôlé
Si une IA aussi puissante que le Projet Q* tombe entre les mains de personnes aux intentions néfastes, elle risque des conséquences catastrophiques pour l’humanité. Même sans intention potentiellement malveillante, le niveau décisionnel du Projet Q* peut conduire à des résultats néfastes, soulignant l’importance cruciale d’une évaluation minutieuse de son application.
Si le projet Q* est mal optimisé pour les besoins humains, il peut nuire grâce à sa capacité à maximiser certaines mesures arbitraires. Il peut également avoir une dimension politique, par exemple être utilisé à des fins de surveillance ou de répression par l'État. Un débat ouvert autour de l’analyse d’impact du Projet Q* permettra de définir des scénarios possibles de développement du ZHI.
Sommes-nous prêts pour une confrontation « Homme contre Machine » ?
Hollywood a déjà créé de nombreux scénarios d'une telle confrontation dans ses films. On se souvient tous du fameux SkyNet et des conséquences d’une telle découverte. Peut-être que les chercheurs d’OpenAI devraient revoir ce film ?
L’humanité doit accepter les signaux et les défis et se préparer à ce qui pourrait arriver. Un modèle d’intelligence artificielle capable de penser comme un humain pourrait un jour devenir notre ennemi. Beaucoup diront qu’à l’avenir, les scientifiques sauront exactement comment garder la situation sous contrôle. Mais lorsqu’il s’agit de machines, on ne peut pas totalement exclure la possibilité qu’elles tentent de s’emparer des humains.
Intéressant aussi : Tout ce que nous appelons IA n'est pas en fait de l'intelligence artificielle. Voici ce que vous devez savoir
Pourquoi OpenAI est-il silencieux ?
Malgré la frénésie d'intérêt du public pour le projet Q*, la direction d'OpenAI reste silencieuse sur les spécificités de l'algorithme. Mais la fuite interne montre des tensions croissantes au sein du laboratoire sur les priorités et l’ouverture des développements. Alors que de nombreux initiés d’OpenAI soutiennent la création du projet Q*, les critiques affirment que la transparence est passée au second plan pour accélérer le progrès scientifique à tout prix. Et certains chercheurs s’inquiètent du fait qu’un pouvoir incroyable soit accordé à des systèmes dont les objectifs ne coïncident pas nécessairement avec les valeurs et l’éthique humaines. Ces chercheurs estiment que les débats autour de la surveillance et de la responsabilité sont devenus dangereusement étouffés. Ils nécessitent plus de publicité et de détails.
En tant que créateurs du projet Q*, OpenAI doit comprendre qu'ils disposent d'une technologie qui peut soit élargir considérablement les possibilités de développement de la société, soit la détruire impitoyablement. Des innovations aussi importantes méritent une plus grande transparence pour renforcer la confiance du public. Tout pronostiqueur de l’ère de la machine doit soigneusement peser les risques et les avantages. Et les développeurs du projet Q* doivent faire preuve de suffisamment de sagesse et de soin pour introduire en toute sécurité la société dans une nouvelle ère d’intelligence artificielle générale qui pourrait arriver plus tôt que nous ne l’avions imaginé.
Pour que l’intelligence artificielle générale soit utile et sûre pour l’humanité, il faut garantir qu’elle fonctionne de manière sûre, éthique et conforme aux valeurs et aux objectifs de l’humanité. Cela nécessite l'élaboration et la mise en œuvre d'actes réglementaires, de normes, de règles et de protocoles appropriés qui contrôleront et restreindront les actions et le comportement du CSI. En outre, les menaces et risques potentiels liés aux abus, accidents, incompatibilités, manipulations et conflits susceptibles de conduire à la destruction de l’humanité doivent être éliminés. Pendant ce temps, les investisseurs et Microsoft ils attendent avec impatience un produit commercialisable susceptible de générer des bénéfices, ce qui entre sans aucun doute en contradiction avec la nécessité d'agir de manière responsable. Espérons que le bon sens prévaudra.
Lisez aussi: