L'idée de l'intelligence artificielle renversant l'humanité est débattue depuis des décennies, et en janvier 2021, les scientifiques ont rendu leur verdict sur la question de savoir si nous pouvions contrôler une superintelligence informatique de haut niveau. Réponse? Presque certainement pas.
Le problème est que contrôler un supramental bien au-delà de la compréhension humaine nécessiterait une simulation de ce supramental que nous pourrions analyser. Mais si nous ne sommes pas capables de le comprendre, il est impossible de créer une telle simulation.
Des règles telles que "ne pas nuire aux humains" ne peuvent être établies que si nous comprenons quels scénarios l'intelligence artificielle (IA) proposera, estiment les auteurs d'un article de 2021. Dès que le système informatique fonctionnera à un niveau qui dépassera les capacités de nos programmeurs, nous ne pourrons plus nous fixer de limites.
"La superintelligence est un problème fondamentalement différent de ceux habituellement étudiés sous la bannière de" l'éthique des robots "", écrivent les chercheurs. "C'est parce que le supramental est multiforme et donc potentiellement capable de mobiliser une variété de ressources pour atteindre des objectifs potentiellement insondables pour les humains, et encore moins contrôlables."
Une partie du raisonnement de l'équipe vient de problèmes d'arrêt, proposé par Alan Turing en 1936. Le défi consiste à déterminer si le programme informatique parviendra à une conclusion et à une réponse (et s'arrêtera) ou s'il restera toujours à essayer de trouver la réponse.
Comme Turing l'a prouvé avec l'aide mathématiques intelligentes, alors que nous pouvons le savoir pour certains programmes spécifiques, il est logiquement impossible de trouver un moyen qui nous permettrait de le savoir pour chaque programme potentiel qui pourrait jamais être écrit. Cela nous ramène à l'IA qui, dans un état superintelligent, pourrait stocker tous les programmes informatiques possibles dans sa mémoire en même temps.
Intéressant aussi :
- OpenAI a enseigné l'intelligence artificielle pour convertir les commandes en code de programme
- L'intelligence artificielle cherchera des ondes gravitationnelles
Tout programme écrit, par exemple, pour empêcher une IA de nuire aux humains et de détruire le monde peut ou non parvenir à une conclusion (et s'arrêter) - il est mathématiquement impossible d'être absolument certain de toute façon, ce qui signifie qu'il ne peut pas être retenu. "Cela rend fondamentalement l'algorithme de dissuasion inutilisable", a déclaré en janvier l'informaticien Iyad Rahwan de l'Institut Max Planck pour le développement humain en Allemagne.
Une alternative à l'enseignement de l'éthique de l'IA et des interdictions de détruire le monde, dont aucun algorithme ne peut être absolument sûr, disent les chercheurs, est de limiter les capacités du supramental. Par exemple, il peut être coupé d'une partie d'Internet ou de certains réseaux.
Les auteurs d'une étude récente rejettent également cette idée, estimant qu'elle limitera la portée de l'intelligence artificielle - disent-ils, si nous n'allons pas l'utiliser pour résoudre des problèmes au-delà des capacités humaines, alors pourquoi la créer ?
Si nous voulons faire progresser l'intelligence artificielle, nous ne saurons peut-être même pas quand une superintelligence apparaîtra, hors de notre contrôle, tant elle est insondable. Cela signifie que nous devons commencer à poser de sérieuses questions sur la direction que nous prenons.
"Une machine super intelligente qui dirige le monde ressemble à de la science-fiction", déclare l'informaticien Manuel Kebrian de l'Institut Max Planck pour le développement humain. Mais il existe déjà des machines qui effectuent indépendamment certaines tâches importantes, alors que les programmeurs ne comprennent pas entièrement comment ils ont appris cela.
Dès lors, la question se pose de savoir si elle peut à un moment donné devenir incontrôlable et dangereuse pour l'humanité...
Lisez aussi:
- L'intelligence artificielle a réussi à reproduire un tableau peint de Picasso
- L'intelligence artificielle aidera à prévoir les accidents de la route avant qu'ils ne surviennent