Blog

Questionnement existentiel

Son propos constitue une base pour tenter de répondre à quelques questions :

• En quoi l’IA, qu’il appelle « intelligence non organique », va façonner nos sociétés humaines ?
• Va-t-elle abolir la capacité à penser par soi-même, la capacité à distinguer le vrai du faux, la capacité à établir des relations stables, fortes, humaines entre les êtres humains ?

Il y a certes des aspects éminemment positifs de l’lA que le conférencier se plaît à renommer « intelligence non organique » :

• Gain de temps dans les recherches au milieu de données pléthoriques qu’il faut investiguer ;
• Réalisation d’opérations chirurgicales précises parfois mieux que la main du chirurgien le plus expert ou supplétif efficace ;
• Établissement de diagnostics précis des patients à partir des données disponibles ;
• …

Des effets pervers, voire mortifères, sont toutefois évidents :

• Usage belliqueux :
  • Ainsi, dans le conflit États-Unis/Iran, plus de mille frappes simultanées ont été effectuées, soit deux fois plus que lors de la seconde guerre du Golfe ;
  • un défaut de distinction entre civils et militaires : une école iranienne de filles a été touchée, faisant 170 morts, principalement des fillettes de 8 à 12 ans.
• Une surveillance généralisée au travers des caméras de protection ou de surveillance dans de multiples endroits, via nos smartphones qui nous pistent ou nous géolocalisent, des cartes de paiement qui établissent nos profils comportementaux susceptibles d’être utilisés de façon malveillante par les assurances, les courtiers en assurances ou les banques…

Big Brothers ?

Pour l’instant, les données tentaculaires accumulées par l’IA sont fragmentées. Le jour où elles seront réunies, Big Brothers deviendra une réalité qui ira au-delà du pire qu’avait imaginé Georges Orwell dans 1984. Il importe que les démocraties définissent des lignes rouges infranchissables afin de préserver la liberté de conscience, de pensée, d’expression déjà malmenée, sans l’IA, par la concentration des médias entre les quelques mains de milliardaires de droite et d’extrême droite.

Une analyse anthropologique

Le conférencier rappelle qu’Homo Sapiens domine le vaisseau « Terre ». Or, de par sa nature, il n’est pas prédisposé à cela. Sur le plan biologique, Homo Sapiens est peu favorisé par rapport aux autres animaux. Il va développer ce qui semble une anomalie. Au lieu de diriger la quasi-totalité de son énergie vers les organes utiles, il va en consacrer 30 % vers le cerveau.

Deux dimensions du progrès humain

Ce progrès repose sur la génétique et le biologique. Il développe la capacité à réfléchir et à mémoriser. Ne disposant que d’un temps biologique relativement court pour transmettre les connaissances acquises, il va externaliser la mémoire grâce à l’écriture. Le livre, qui augmente l’accès aux connaissances, va permettre la transmission à d’autres individus et d’autres générations.

Homo Sapiens est d’une efficacité remarquable pour imaginer des solutions et se poser des questions, contrairement aux autres animaux. L’oiseau ne se pose pas de question sur « le comment voler », l’être humain se la pose alors qu’il n’est pas fait pour cela et emploie la technologie pour y parvenir.

Perte de confiance dans les pouvoirs : premier séisme

Dans les années 1945, les « libertariens », conscients que « celui qui sait a le pouvoir », considèrent qu’il faut casser cette domination. Toutes les connaissances sont traduites en langage binaire « 0 ou 1 ». 99 % des connaissances sont ainsi enregistrés dans des machines. Ainsi, si nous n’avons plus accès aux machines, nous n’avons plus accès à la connaissance. Les bibliothèques raréfient leurs achats de livres.

Communication entre machines : deuxième séisme

Le deuxième séisme a lieu en 1969, lorsque trois ou quatre personnes ont appris à deux machines à communiquer entre elles. La conséquence existentielle est qu’Homo Sapiens ne contrôle plus vraiment la transmission de la connaissance et ne sait plus par où passent les savoirs, car la machine n’est plus contrôlée que par une autre machine.

Elon Musk, figure emblématique du libertarisme, est le seul à contrôler l’ensemble des messages. Un exemple très parlant est celui de la catastrophe qui s’est abattue sur Mayotte. L’État français a dû demander à Elon Musk l’autorisation d’accès à Starlink pour organiser le plan de secours et coordonner efficacement les actions. L’État n’a plus le pouvoir et l’Humain ne contrôle plus ni l’écriture ni la transmission.

L’IA en penseur autonome : troisième séisme à venir

L’IA ou l’intelligence non organique ou biologique parvient « à penser » à travers l’ensemble des données dont elle dispose. Elle deviendrait en mesure de contrôler le savoir et sa diffusion ?

Dans des domaines comme la météorologie, les probabilités, la machine obtient de meilleurs résultats que nos modèles mathématiques les plus performants.

Quatre attitudes à adopter, de la plus pessimiste à la plus optimiste

Le mirage le plus dangereux pour l’humanité : 1+1<1

Cette attitude conduit à l’affaiblissement de l’espèce humaine. Le conférencier donne l’exemple de l’étudiant qui utilise « Claude » ou « ChatGPT » pour réaliser un travail écrit. Il n’a rien compris et sa capacité cognitive est en berne. C’est la fin de l’humanité, car les individus ne fournissent plus aucun effort de recherche et de compréhension.

Deuxième attitude : 1+1=1

L’être humain utilise une IA pour augmenter sa productivité et obtenir un gain de temps. A priori, cela ne pose pas de problème, même si cela relève d’une insuffisance quant à l’emploi optimal de l’IA.

Troisième attitude : 1+1>1, mais <2

L’agent s’appuie sur un dialogue entre intelligences. L’IA prend des décisions à la place de l’humain qui lui délègue la proposition d’une réponse. L’IA répondra mieux que si on avait été seul. Cette attitude, estime le conférencier, est potentiellement dangereuse.

Quatrième attitude : 1+1>2, soit un mariage de raison

C’est la fusion entre l’IA et l’intelligence humaine. L’espèce humaine collabore avec l’IA au point qu’un individu seul pourra réaliser autant de performances que 30 000 personnes. Une entreprise d’une seule personne vaudra plus que des milliers, voire des millions d’individus. Pour le conférencier, c’est l’avenir vers lequel l’humanité doit s’orienter si elle ne veut pas sombrer face au développement de l’IA. Pour lui, la question essentielle est « Qui sera prêt ? », « Quels États seront prêts ? ». Il regrette que les politiques soient dans le déni et ne prennent pas la mesure des choses.

Et l’école dans tout cela ?

Le conférencier est effaré que l’Éducation nationale ne fasse pas entrer l’IA dans les classes sous prétexte de tricherie potentielle. Au contraire, il faudrait apprendre aux élèves à utiliser intelligemment l’IA afin qu’ils intègrent la quatrième attitude. Cela ne doit pas s’accompagner d’un abandon des livres et de l’écriture manuelle, dont nous savons qu’ils interfèrent positivement dans le développement et l’entraînement du cerveau.

Rapports géopolitiques : domination étasunienne et chinoise

Deux monstres émergent : les États-Unis et la Chine. Le conférencier a travaillé avec des dirigeants d’entreprises chinois. La problématique des dirigeants chinois est la suivante : comment 8 milliards d’êtres humains peuvent vivre sur le vaisseau « Terre » dans une économie soutenable ? L’humanité ne peut pas continuer sur le chemin actuel, qui fait qu’en 30 ans, elle a consommé autant que depuis son apparition. Les Chinois, par l’IA, ont prévu d’ici 2035 l’interdiction d’augmenter les émissions de carbone et, d’ici 2060 l’interdiction absolue d’émettre du carbone. Pour les énergies renouvelables, la problématique essentielle est le stockage et donc les batteries. La Chine est en avance, notamment par rapport à l’Europe. Elle contrôle déjà 57 technologies avancées sur les 65 existantes.

La fracture numérique mondiale quant à l’attitude face aux IA augmentera la fracture sociale.

Et l’Europe, et la France ?

L’Europe, pour le conférencier, a abandonné. Quand 10 000 ingénieurs européens travaillent sur l’IA, en Chine, il y en a plus d’un million.

Le rapport aux réseaux sociaux est différent. En Europe, TikTok est conçu pour créer une dépendance du cerveau des utilisateurs. En Chine, TikTok a interdiction de diffuser des contenus non éducatifs afin d’éviter cette addiction mortifère pour la raison. Il est paradoxal qu’une dictature promeuve un réseau social qui stimule l’intelligence et que des démocraties laissent faire.

Quant à la France, le conférencier estime qu’elle a de nombreux atouts inemployés en matière d’énergie neutre en émission de GES : l’énergie marémotrice, avec l’un des plus importants littoraux au monde, et l’énergie nucléaire.

L’IA n’est pas parfaite ni forcément la panacée

Si l’humain pense mal, l’IA pensera mal. Seule l’intelligence humaine, si elle n’abdique pas par absence du goût de l’effort, peut rendre positive pour l’humanité l’utilisation de l’IA. Il y va de l’avenir de l’humanité si nous considérons qu’elle doit être consciente et émancipée. Il serait dommage que nous soyons sortis des tutelles religieuses pour tomber sous une tutelle encore plus asservissante.