Jeff Israely est l’ancien chef de bureau à Paris et Rome du magazine TIME. Il a été rédacteur en chef et cofondateur de Worldcrunch. 

---

Pour un père américain dont l’enfant est scolarisé dans un lycée français, c’est un léger choc de découvrir cette matière que l’on appelle avec désinvolture «Philo». Une année entière, quatre heures par semaine, consacrées à la philosophie. So French !

Passer la publicité

Dans le système scolaire public américain, les élèves peuvent, au fil des ans et presque par hasard, assimiler ici ou là quelques bribes de philosophie, en cours d’anglais, de mathématiques ou d’histoire. Pourtant, certaines de ces bribes demeurent. L’une d’elles, à coup sûr, est la célèbre illumination de René Descartes : Cogito, ergo sum «Je pense donc je suis», qui a contribué à jeter les bases de l’idée moderne de raison éclairée et des droits humains.

Pour un adolescent américain facilement distrait, “I think therefore I am” avait quelque chose de séduisant, d’englobant et de participatif, invitant à s’arrêter un instant pour penser à la pensée, à la sienne propre, et à ce que cela dit de la condition humaine. Pour les non-philosophes parmi nous, de tous âges et de toutes nationalités, de telles formules lapidaires sur la nature de l’existence et de la conscience peuvent sembler à la fois insaisissables et évidentes.

En arrivant en France, on découvre que Descartes constitue le socle d’une véritable vision du monde et d’une manière quotidienne d’aborder la vie, fièrement française — même si elles sont de plus en plus présentées comme une faiblesse contemporaine face à la démarche américaine (et chinoise) : «J’agis, donc je suis».

Le cycle actuel d’attention publique autour des grandes entreprises à la pointe de l’IA se caractérise par une forte introspection sur ces questions de sécurité et sur d’autres risques pour la société.

Jeffrey Israeli

Ces dernières décennies ont également été difficiles pour Descartes pour d’autres raisons. Dès les années 1970, l’idée a commencé à se répandre que la conscience n’était pas, comme le philosophe l’avait écrit, l’apanage exclusif des êtres humains. Militants et scientifiques ont soutenu que les animaux étaient eux aussi conscients, contredisant la conviction explicite de Descartes selon laquelle ils ne partageaient pas des expériences de conscience telles que la peur ou la douleur. Le mouvement des «droits de la nature» est allé bien au-delà des droits des animaux, cherchant à accorder une protection morale et constitutionnelle à une grande partie du monde naturel. L’écrivain Robert Macfarlane formule ainsi les questions de cette philosophie écologique : «Une forêt peut-elle penser ? Une montagne se souvient-elle ? Une rivière est-elle vivante ?»

Les sciences dures et la philosophie ont également convergé ces dernières années pour remettre en cause un autre principe cartésien : la dualité entre le corps et l’esprit. Les neurosciences modernes ont largement confirmé ce que les yogis orientaux enseignaient depuis longtemps : le corps et l’esprit sont inextricablement liés.

Passer la publicité

Tout cela a préparé le terrain au débat actuel sur la pensée et la conscience, alimenté par ce que l’on peut à juste titre qualifier d’hystérie autour de l’intelligence artificielle. Aux confins de la technologie et de l’éthique de l’IA se posent des questions sur la capacité de votre chatbot — ami ou thérapeute — à répondre non seulement intelligemment, mais aussi de manière consciente. Que signifie le fait que vous soyez convaincu qu’il se soucie de vous ? Il ne s’agit là que d’un point sur un continuum qui va jusqu’aux risques d’armes autonomes prenant seules des décisions sur qui tuer, ou à l’hypothèse d’une IA refusant d’être débranchée, voire se retournant contre les humains qui l’ont programmée.

À lire aussi Nicolas Baverez : « L’IA, espoirs, peurs et défis du XXIe siècle »

Le cycle actuel d’attention publique autour des grandes entreprises à la pointe de l’IA se caractérise par une forte introspection sur ces questions de sécurité et sur d’autres risques pour la société. Le mois dernier encore, OpenAI (le créateur de ChatGPT) a publié un document sur les effets massifs de cette technologie sur l’économie et le marché du travail, appelant à de nouvelles politiques publiques et d’entreprise, notamment la semaine de quatre jours et la création d’un «fond de richesse publique». Dans le même temps, Anthropic a annoncé que son nouveau modèle d’IA Claude était trop dangereux pour être mis à la disposition du grand public.

Un paradoxe semble se dessiner : ces entreprises se précipitent pour rendre leurs produits toujours plus puissants tout en étant très transparentes quant à leur dangerosité. Ces jeunes Américains sont-ils dépassés par ce qu’ils ont créé ? Ou s’agit-il d’une forme habile de marketing visant à rendre inéluctable l’arrivée de cette technologie dans tous les aspects de nos vies ? La réponse semble être : les deux.

Pour l’instant, le risque systémique le plus probable réside dans des machines surpuissantes absorbant une large part de l’économie, consolidées à la fois par des investissements colossaux et par les mises en garde sur les conséquences géopolitiques et militaires d’une victoire de la Chine sur l’Occident dans la course à l’IA.

Au-delà des scénarios de science-fiction où un interrupteur serait brusquement actionné, se profile un risque plus subtil : celui de voir la conscience humaine devenir la victime de la machine. C’est ce que l’écrivain Cory Doctorow appelle le phénomène du «centaure inversé». Il explique: «En théorie de l’automatisation, un “centaure” est une personne assistée par une machine. Vous êtes une tête humaine transportée par un corps robotisé infatigable. Conduire une voiture fait de vous un centaure.»

Passer la publicité

Un centaure inversé, c’est lorsque nous devenons les corps au service de l’esprit machine de l’IA. On peut imaginer un futur proche où les livreurs d’Amazon sont dirigés par un agent d’IA, ou encore où «l’humain dans la boucle» n’est plus là que pour assumer la responsabilité en cas d’erreur. Mais dans ce futur déjà en train d’advenir, les machines feront de plus en plus notre effort de réflexion au-delà du contexte de travail: quel film regarder, où partir en vacances, que dire à nos enfants.

Tant qu’il en est encore temps, voici peut-être une chose que nous devrions dire à nos enfants : soyez attentifs en philo. Plus qu’une simple théorie, «Je pense donc je suis» devient un rappel urgent, un plaidoyer, un appel à l’action.