OpenAIProjet Q : percée ou menace imminente ?

OpenAILe mystérieux projet Q* de Sam Altman suscite l'inquiétude des experts. Pourrait-il être dangereux pour l'humanité ? Que sait-on à ce sujet ? Après que Sam Altman a été renvoyé la semaine dernière et que lui et son équipe ont failli déménager à New York, Microsoft, puis il est retourné à son lieu de travail (nous en avons parlé ici), OpenAI est à nouveau dans l'actualité. Cette fois-ci à cause de ce que certains chercheurs appellent une menace potentielle pour l'humanité. Oui, vous avez bien lu, une menace pour l'humanité.

Un véritable choc pour le monde de la technologie a été provoqué par le projet Q*, un projet d'intelligence artificielle générale (AGI) non divulgué – prononcé Q-Star. Bien qu’il en soit à ses débuts, ce projet est considéré comme véritablement révolutionnaire dans le développement d’AGI. Certains y voient cependant un danger pour l’humanité.

Un projet secret d'intelligence artificielle développé par le célèbre laboratoire d'intelligence artificielle OpenAI Le projet Q* a le potentiel de révolutionner la technologie et la société dans son ensemble. Mais il soulève également certaines questions éthiques quant aux risques encourus. À mesure que les détails sur les capacités étonnantes du projet Q* apparaissent, les spéculations sur ce que cela pourrait signifier pour l'avenir de l'humanité se multiplient.

Lire aussi : Microsoft Copilote : un changement de donne ou une fausse voie ?

Qu’est-ce que l’intelligence artificielle générale (AGI) ?

Pour comprendre le battage médiatique autour du projet Q* (Q-Star), essayons d'abord de comprendre en quoi consiste le concept d'intelligence artificielle générale (AGI). Alors que les systèmes d'IA d'aujourd'hui sont excellents pour des tâches spécifiques et spécifiques comme jouer aux échecs ou générer des images, l'intelligence artificielle générale fait référence à des machines capables d'apprendre et de penser au niveau humain dans de nombreux domaines. Autrement dit, ils peuvent apprendre comme les jeunes enfants à l’école, par exemple les bases des mathématiques, de la chimie, de la biologie, etc.

L'intelligence artificielle générale (AGI) est un type d'intelligence artificielle qui peut hypothétiquement imiter l'intelligence ou le comportement humain, avec la capacité d'apprendre et d'appliquer cette capacité pour résoudre divers problèmes. L’AGI est également appelée intelligence artificielle forte, intelligence artificielle complète ou intelligence artificielle au niveau humain. L’intelligence artificielle générale est différente de l’IA faible ou étroite, qui ne peut effectuer que des tâches spécifiques ou spécialisées dans le cadre de paramètres donnés. AGI sera capable de résoudre de manière indépendante une variété de tâches complexes provenant de différents domaines de connaissances.

La création d’AGI est au centre de la recherche sur l’intelligence artificielle menée par des sociétés telles que DeepMind et Anthropic. C’est l’AGI qui est un sujet très populaire dans la littérature de science-fiction et qui pourrait façonner les recherches futures. Certains soutiennent qu’il est possible de créer une AGI en quelques années ou décennies, tandis que d’autres affirment que cela pourrait prendre un siècle ou plus. Mais il y en a d’autres qui croient que cela ne pourra jamais être réalisé. Certains ont vu les rudiments d’une AGI dans GPT-3, mais celle-ci semble encore loin de répondre aux critères de base.

La création d'une intelligence artificielle générale (AGI) est considérée par les chercheurs comme le Saint Graal de l'intelligence artificielle ; cette possibilité potentielle a depuis longtemps captivé leur imagination. C'est pourquoi l'émergence d'un projet comme OpenAI Le projet Q* a suscité un grand écho dans le monde de la recherche sur les algorithmes d'intelligence artificielle. Même si tout le monde se rend compte qu'il ne s'agit là que des premiers pas, presque à l'aveugle, vers un monde où l'intelligence artificielle aura des capacités égales à celles des humains, voire supérieures.

Lire aussi : Voitures autonomes : combien de temps attendre la révolution ?

Qu’est-ce que le Projet Q* ?

Le projet Q* n'est pas un algorithme typique car il s'agit d'un modèle d'intelligence artificielle qui se rapproche de plus en plus du modèle d'intelligence artificielle générale (AGI). Cela signifie que, contrairement à ChatGPTLe projet Q* démontre de meilleures capacités de réflexion et de cognition que les autres algorithmes. À l'heure actuelle, ChatGPT Le projet Q* répond à des requêtes basées sur une énorme quantité de données factuelles, mais avec l'AGI, le modèle d'intelligence artificielle apprendra le raisonnement et la capacité de penser et de comprendre de manière autonome. On sait déjà que le projet Q* est capable de résoudre des problèmes mathématiques simples qui ne faisaient pas partie de son matériel de formation. Certains chercheurs voient là une étape importante vers la création d'une intelligence artificielle générale (AGI). OpenAI définit l'AGI comme des systèmes d'intelligence artificielle plus intelligents que les humains.

Le développement du projet Q* est dirigé par OpenAI Le scientifique en chef Ilya Sutzkever, et sa fondation ont été confirmées par les chercheurs Jakub Pachocki et Szymon Sidor.

La capacité de l'algorithme à résoudre des problèmes mathématiques par lui-même, même si ces problèmes ne faisaient pas partie de l'ensemble de données d'entraînement, est considérée comme une avancée dans le domaine de l'intelligence artificielle. Les désaccords au sein de l'équipe sur ce projet sont attribués à la suspension de OpenAI Sam Altman, PDG de la société. On sait qu'avant le licenciement d'Altman, un groupe de chercheurs de la société a envoyé une lettre au conseil d'administration pour l'avertir d'une découverte d'IA qui pourrait constituer une menace pour l'humanité. Cette lettre, qui aurait évoqué l'algorithme du Projet Q*, a été citée comme l'un des facteurs ayant conduit au licenciement d'Altman. Cependant, les capacités du Projet Q* et les risques potentiels qu'il pourrait poser ne sont pas entièrement compris car les détails sont inconnus. Rien n'a été rendu public.

Essentiellement, le Projet Q* est une méthode d'apprentissage par renforcement sans modèle qui s'écarte des modèles traditionnels en ne nécessitant pas de connaissance préalable de l'environnement. Au lieu de cela, il apprend de l’expérience en adaptant ses actions en fonction des récompenses et des punitions. Les experts techniques estiment que le Projet Q* pourra acquérir des capacités exceptionnelles en acquérant des capacités similaires aux capacités cognitives humaines.

Cependant, c’est cette caractéristique, qui est la plus impressionnante du nouveau modèle d’intelligence artificielle, qui suscite l’inquiétude et l’appréhension des chercheurs et des critiques quant aux applications réelles de la technologie et aux risques majeurs qu’elle implique. De quoi les scientifiques et les chercheurs ont-ils si peur ? Allons au fond des choses.

Lire aussi : Windows 12 : quel sera le nouvel OS

Peur de l'inconnu

Il a toujours été caractéristique de l’homme d’avoir peur de l’inconnu, de l’inconnaissable. C'est une essence humaine, un trait de notre caractère et de notre mode de vie.

Le monde de la technologie a entendu parler du projet Q* en novembre 2023 après que Reuters a rapporté une lettre interne écrite par des personnes concernées. OpenAI Les développeurs. Le contenu de la lettre était vague, mais elle analysait apparemment sérieusement les capacités du projet Q*. Comme je l'ai mentionné plus haut, il existe même des spéculations selon lesquelles c'est cette lettre qui a déclenché la démission de Sam Altman.

Cette découverte explosive a suscité diverses hypothèses sur la nature du Projet Q*. Les scientifiques ont émis l’hypothèse qu’il pourrait s’agir d’un modèle de langage naturel révolutionnaire pour l’IA. Une sorte d’inventeur de nouveaux algorithmes qui les créeront pour d’autres formes d’IA, ou pour tout autre chose dans ce domaine.

Les commentaires provocateurs d’Altman sur l’intelligence artificielle générale en tant qu’« employé moyen » ont déjà suscité des inquiétudes quant à la sécurité de l’emploi et à l’expansion galopante de l’influence de l’IA. Cet algorithme mystérieux est considéré comme une étape importante dans le développement de l’intelligence artificielle générale (IAG). Cependant, tout le monde est conscient que cette étape importante a un coût. Et ce n’est pas une question d’argent pour l’instant. Le niveau de compétence cognitive que promet le nouveau modèle d’IA s’accompagne d’une certaine incertitude. OpenAI Les scientifiques promettent que l'IA aura une pensée de niveau humain. Et cela signifie qu'il y a beaucoup de choses que nous ne pouvons pas savoir ou dont nous ne pouvons pas anticiper les conséquences. Et plus il y a d'inconnues, plus il est difficile de se préparer à les contrôler ou à les corriger. Autrement dit, le nouvel algorithme est capable de s'auto-améliorer et de se développer. Nous avons déjà vu cela quelque part...

Lisez aussi : Human Brain Project : tentative d’imitation du cerveau humain

Des détails époustouflants sur les capacités du Projet Q*

Lorsque davantage d’informations ont commencé à arriver, de nombreux chercheurs ont été choqués. Les premières indications indiquaient que le Projet Q* avait une étonnante aptitude pour les mathématiques. Contrairement à une calculatrice qui effectue des calculs mécaniques, le Projet Q* est censé pouvoir utiliser la logique et le raisonnement pour résoudre des problèmes mathématiques complexes. Cette capacité mathématique à généraliser laisse présager le développement d’une intelligence large.

L'apprentissage autonome du projet Q*, sans les ensembles de données spécifiques utilisés pour former les IA typiques, constituerait également un énorme pas en avant. On ne sait pas si Project Q* maîtrise d’autres compétences. Mais ses capacités mathématiques à elles seules sont si étonnantes qu’elles découragent même les chercheurs expérimentés.

Lisez aussi : Que sont les réseaux de neurones et comment fonctionnent-ils ?

Le chemin vers la domination du Projet Q* ?

Il existe des scénarios à la fois optimistes et pessimistes sur cette question. Les optimistes diraient que le projet Q* pourrait être l’étincelle menant à une avancée technologique. À mesure que le système s’améliore de manière récursive, son intelligence surnaturelle pourrait aider à résoudre des problèmes humains très importants, du changement climatique au contrôle des maladies. Le projet Q* pourrait automatiser des tâches ennuyeuses et nous libérer du temps libre pour effectuer d’autres activités.

Bien qu’il existe de nombreuses options plus pessimistes. Parfois, ils sont tout à fait raisonnables et ont du sens.

Perte d'emplois

Les évolutions rapides du développement technologique peuvent dépasser l'adaptation individuelle des individus. Cela entraînera la perte d’une ou plusieurs générations qui ne pourront pas acquérir les compétences ou les connaissances nécessaires pour s’adapter aux nouvelles réalités. Cela signifie que moins de personnes pourront conserver leur emploi. Cela sera fait par des machines, des systèmes automatisés, des robots. Toutefois, la réponse n’est pas aussi claire lorsqu’il s’agit de spécialistes qualifiés. Par ailleurs, de nouveaux métiers pourraient émerger, liés précisément au développement d’algorithmes d’intelligence artificielle. Mais des risques subsistent et l’humanité n’a pas le droit de les négliger.

Le danger d’un pouvoir incontrôlé

Si une IA aussi puissante que le Projet Q* tombait entre les mains de personnes mal intentionnées, cela risquerait d’avoir des conséquences catastrophiques pour l’humanité. Même sans intention potentiellement malveillante, le niveau de prise de décision du Projet Q* peut conduire à des résultats préjudiciables, soulignant l'importance cruciale d'évaluer soigneusement son utilisation.

Si le projet Q* est mal optimisé pour les besoins humains, il pourrait nuire à sa capacité à maximiser certaines métriques arbitraires. Ou encore, cela pourrait avoir une dimension politique, comme être utilisé à des fins de surveillance ou de répression par le gouvernement. Un débat ouvert autour de l’analyse de l’impact du Projet Q* permettra d’identifier des scénarios possibles pour le développement de l’AGI.

Sommes-nous prêts pour un homme contre. affrontement de machines ?

Hollywood a déjà créé de nombreux scénarios d'une telle confrontation dans ses films. Nous nous souvenons tous du célèbre SkyNet et des conséquences d'une telle découverte. OpenAI les chercheurs devraient-ils revoir ce film à nouveau ?

L’humanité doit accepter les signaux et les défis et se préparer à ce qui pourrait arriver. Un modèle d’intelligence artificielle capable de penser comme un humain pourrait un jour devenir notre ennemi. Beaucoup pourraient affirmer qu’à l’avenir, les scientifiques sauront exactement comment garder la situation sous contrôle. Mais lorsqu’il s’agit de machines, on ne peut pas totalement exclure la possibilité qu’elles tentent de prendre le dessus sur les humains.

Lisez aussi : 7 mythes informatiques : fiction et réalité

Pourquoi est- OpenAI silencieux?

Malgré l’énorme intérêt du public pour le projet Q*, OpenAI La direction garde simplement le silence sur les particularités de l'algorithme. Mais des informations internes divulguées montrent des tensions croissantes au sein du laboratoire autour des priorités de développement et de l'ouverture. OpenAI Les initiés soutiennent la création du Projet Q*, les critiques affirment que la transparence a été mise de côté au profit d'une accélération du progrès scientifique à tout prix. Et certains chercheurs craignent qu'un pouvoir incroyable soit accordé à des systèmes dont les objectifs ne correspondent pas nécessairement aux valeurs et à l'éthique humaines. Ces chercheurs estiment que les discussions autour de la surveillance et de la responsabilité sont devenues dangereusement étouffées. Ils exigent plus de publicité et de détails.

En tant que créateurs du Projet Q*, OpenAI L’humanité doit se rendre compte qu’elle possède une technologie qui peut soit donner un grand pouvoir à la société, soit la bouleverser sans pitié. De telles innovations méritent une plus grande transparence pour renforcer la confiance du public. Tout signe avant-coureur de l’ère des machines doit être examiné à la loupe pour en évaluer les risques et les avantages. Et les développeurs du Projet Q* doivent faire preuve de suffisamment de sagesse et de prudence pour faire entrer la société en toute sécurité dans une nouvelle ère d’intelligence artificielle universelle qui pourrait arriver plus tôt que nous ne l’aurions jamais imaginé.

Pour que l’intelligence artificielle générale soit utile et sûre pour l’humanité, il est nécessaire de garantir qu’elle fonctionne de manière sûre, éthique et conforme aux valeurs et aux objectifs de l’humanité. Cela nécessite l’élaboration et la mise en œuvre de réglementations, normes, règles et protocoles appropriés qui contrôleront et contraindront les actions et les comportements de l’IA. En outre, les menaces et risques potentiels d’abus, d’accidents, d’incompatibilités, de manipulations et de conflits susceptibles de conduire à la destruction de l’humanité doivent être pris en compte. Pendant ce temps, les investisseurs et Microsoft attendent avec impatience un produit commercialisable susceptible de générer des profits, ce qui entre sans aucun doute en contradiction avec la nécessité d'agir de manière responsable. Espérons que le bon sens l’emportera.

Lisez aussi : 

• Défis de la géo-ingénierie : l’UE va interdire aux scientifiques de « jouer à Dieu »
• Qu’est-ce que le Li-Fi ? Le nouvel Internet sans fil rapide est à proximité