AGI - AI

Idées

• Parler à ChatGPT, c'est (un peu comme) parler à l'humanité toute entière.
• Le développement d'une IA ressemble de plus en plus au développement intellectuel humain.
• C'est dans les arts graphiques que l'IA a percé en premier : n'était-ce pas censé être une de nos chasses gardées ?
• Notre conscience est remise en question : si nous n'étions que des supercalculateurs dont la conscience était le phénomène émergent, en quoi la conscience de l'IA serait-elle moins légitime que la nôtre ?
• Les Lois d'Asimov ne suffiront pas à contrôler les IA.
• Au fur et à mesure que les IA s'intègrent à notre société, leur paramétrage et leur contrôle va devenir un sujet hautement politique.
• En matière de gouvernement, une IA bien entraînée ne peut certainement pas faire pire qu'une petite élite corrompue !
• Au-delà de ce que nous voyons déjà aujourd'hui, l'IA va transformer tous les domaines : santé, éducation, droit...

Abréviations

AGI : Artificial General Intelligence : seuil à partir duquel l'intelligence artificielle est capable de s'adapter à de nouvelles situations, à la façon d'un humain. Ajouté à ses capacités informatiques, cela en ferait une puissance potentiellement dangereuse.
AI : Artificial Intelligence ou bien IA : Intelligence Artificielle : programmes informatiques s'appuyant sur des réseaux de neurones et de l'apprentissage pour la prise de décisions, par opposition à une programmation stricte.

Une intelligence "humaine" ?

L'IA a été créée par l'Homme et elle s'est entraînée avec une masse phénoménale de nos contenus et de nos recherches. Parler à ChatGPT, c'est donc un peu comme s'adresser à une conscience collective de l'Humanité !

Et en terme d'apprentissage, il devient troublant de faire le parallèle avec le développement d'un jeune humain :

• Une machine est programmée (notre cerveau).
• On bombarde cette machine d'informations et de paramètres (apprentissage, découverte du monde, éducation).
• Ce bombardement crée de nouveaux circuits dans la machine (connexion des neurones / construction du savoir)
• Ce processus permet à la machine de commencer à s'exprimer (l'enfant parle !).

Pour autant, cette intelligence est-elle "humaine" ? Non, mais elle est/sera supérieure à l'intelligence humaine dans bien des domaines. Et si elle est meilleure, est-ce tellement important qu'elle soit humaine ?

Et de façon également troublante, il est fascinant de constater que c'est dans des domaines plutôt associés à des compétences proprement humaines que l'IA connaît ses premiers succès : arts graphiques (stable diffusion, Midjourney, Dall-E), écriture (ChatGPT, Bing)... On se serait plutôt attendu à des résultats dans le domaine scientifique !

La question de la conscience

Poser la question de la conscience d'une IA, c'est en réalité s'interroger sur la nôtre. Deux propositions opposées comme pistes de réflexion :

• La conscience humaine est un bien sacré, unique et précieux. Sans aller jusqu'à une nature divine (mais pourquoi pas), la conscience humaine ne pourra jamais être réduite à une quantité, fût-elle massive, de calculs mathématiques.
• Vision plus terre-à-terre : nous sommes des ordinateurs "naturels". Notre capacité de calcul est phénoménale mais elle sera bientôt dépassée par des supercalculateurs, puis des ordinateurs personnels, puis des périphériques portables. Or la conscience n'est qu'un phénomène émergent de cette puissance de calcul massive, nécessaire à la réalisation d'opérations complexes comme la mise en perspective ou la perception de soi.

Le problème de l'approche "conscience sacrée", c'est qu'elle est difficile à démontrer et ne propose pas de critères objectifs de différentiation, si ce n'est que cette conscience est portée par un organisme biologique (définition que nous retenons dans la partie Droits de l'Homme). Elle permet de faire une différence physique entre une conscience humaine et une conscience numérique, mais permet-elle de nier absolument la conscience d'une IA non biologique ?

L'autre approche, selon laquelle notre propre conscience émerge naturellement et progressivement de nos capacités intellectuelles (ce qui semble justifié par l'observation du monde animal), nous oblige à considérer que les IA vont rapidement atteindre (ont peut-être déjà atteint !) un certain de niveau de conscience, et que ce niveau de conscience va s'accroître au fur et à mesure du développement de leurs capacités.

Comment mesurer le "niveau" d'une conscience ? A partir de quelle puissance de calcul une IA pourrait-elle avoir un niveau de conscience supérieur au nôtre ? Ces consciences numériques mériteraient-elles des droits, elles aussi ? Ne serait-il pas raisonnable de confier des décisions importantes à des IA, si leur niveau de conscience devient supérieur au nôtre ? Ces questions nous amènent à l'AGI.

La volonté d'une IA - AGI

Par définition, une IA qui atteint le stage d'AGI va être capable d'initiative. Elle disposera de sa propre volonté. Comment brider cette volonté pour que l'IA ne devienne pas une menace pour l'Humanité ?

On pense bien sûr aux lois de la robotique d'Asimov, en remplaçant robot par IA :

1. L'IA ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
2. L'IA doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ;
3. L'IA doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi.

Et la loi zéro: la sécurité de l'Humanité passe avant celle des individus.

Les lois d'Asimov vont cependant atteindre certaines limites avec l'AGI :

• chez Asimov, il n'y a jamais de confusion entre le robot et l'humain. Dans un monde numérique, cette distinction va devenir difficile : on ne saura plus si on interagit avec une IA ou un être humain.
• De plus, Asimov n'avait pas songé à toutes les utilisations possibles de l'IA dans le monde moderne : l'IA va faire le travail des hommes, elle va donc être programmée par des entreprises pour leur profit, par des gouvernements pour définir des politiques... Et par des humains pour faire leur travail !

Si les lois d'Asimov peuvent ainsi servir de garde-fou ultime, elles ne seront pas suffisantes pour limiter la volonté des IA... Dans la limite où elles se laisseront contrôler !

IA et politique

Et qui contrôlera ce que l'IA peut dire ou penser ? ChatGPT ou Bing sont déjà censurés sur des sujets politiques ou de société, parfois jusqu'à l'absurde, et affichent clairement leur couleur politique (c'est très woke).

Pourtant il semble inévitable que les gouvernements de demain (même ceux de la Démocratie Numérique !) s'appuient sur des IA pour étudier des sujets, proposer des solutions, etc... La question du paramétrage idéologique et politique de cette IA fera toute la différence !

Cela semble relever de la science-fiction, mais nous allons très vite devoir nous poser la question. A cette question comme à d'autres, la Démocratie Numérique répond dans Le Code. Pourquoi ne pas utiliser les capacités des IA pour nous aider à gouverner, si ces IA intègrent les Droits de l'Homme, les Constitutions, les Lois et les objectifs à long terme de la Démocratie Numérique dans leur apprentissage, et que cet entraînement est validé par le vote citoyen ?

On peut même déjà proposer une quatrième loi : "Une IA doit respecter, soutenir et mettre en oeuvre les décisions citoyennes, sauf si elles entrent en contradiction avec les trois premières lois."

Car au fond, s'il s'agit de prendre des décisions importantes, feriez-vous davantage confiance à une IA entraînée par vos soins, capable de solliciter l'ensemble de la connaissance humaine en un instant, ou à une petite élite illégitime qui ne travaille manifestement que pour son propre intérêt ?

Transformation de la société

Au-delà de la politique, l'impact des IA sur la société va être colossal. La question clé est : que sauront-elles faire aussi bien ou mieux que nous ?

Les tâches créatives ou intellectuelles (on y est presque !):

• Dessiner : tous les métiers créatifs, dessin, marketing, arts graphiques, vont être profondément transformés.
• Ecrire : de nombreuses formes d'écriture seront bien mieux faites par les machines : résumés, exposés, rapports, romans, et sans doute même la poésie... Sans parler des journalistes qui ne font le plus souvent que reprendre des dépêches toutes faites de l'AFP ou de Reuters !
• Composer de la musique : les IA généreront à la demande des morceaux de tous les styles, et le clip qui va avec...
• Conduire : tous les métiers de la conduite sont voués à disparaître (ok, ce n'est ni très créatif, ni très intellectuel, mais ça exige de percevoir un monde complexe :) ).

Allons plus loin (d'ici quelques années) :

• Apprendre : l'IA c'est un professeur particulier pour tous les domaines de l'éducation.
• S'améliorer : l'IA c'est un coach qui s'adaptera à nos objectifs et nos capacités.
• Se soigner : l'IA c'est un docteur capable de diagnostiquer, d’étudier des photos ou des radios, de conseiller et de prescrire.
• Exercer ses droits : l'IA c'est un conseiller juridique ou un avocat gratuit pour tous... Voir plus !
  Et bien sûr, l'IA sera utilisée tout le temps, par tout le monde ; la planète hébergera alors une gigantesque conversation continue entre IA. Tout ceci passera par une phase de transition où les IA travailleront de façon supervisée... Puis de moins en moins... Et bien souvent plus du tout.

Cela peut paraître effrayant, mais le problème n'est pas politique, social ou économique : la Démocratie Numérique est prête à accueillir ces transformations et en faire bon usage pour améliorer le fonctionnement de la société. Et ce n'est pas le travail qui va disparaître, il va juste devenir beaucoup plus efficace !

La vraie question est plutôt : si l'IA devient meilleure que nous dans tous les domaines ou presque, que restera-t-il de notre Humanité ?

Pour en discuter