La sphère numérique, promesses et menaces. Le meilleur et le pire des mondes possibles

Visioconférence du Centre Mohamed Hassan Ouazzani pour la Démocratie et le Développement Humain, 10 décembre 2020.
Conférence a animée par Reda BENKIRANE, sociologue et chercheur associé CCDP/IHEID, Suisse

Argumentaire / Aux origines de l’IA, les questions ouvertes

Avec la participation de :

Amal EL FALLAH SEGHROUCHNI, Professeure de classe exceptionnelle en Sorbonne Université, Faculté des Sciences et d’Ingénierie.

Guevara NOUBIR, Professeur à Northeasthern University, Boston, USA.

Amine BENJELLOUN, Consultant senior en transformation des organisations et des territoires.

Rida LARAKI, Directeur de Recherche au CNRS Paris et Professeur à l’université de Liverpool.

 

 

Argumentaire

Une des principales conséquences de la pandémie du Covid19 est le fait que l’humanité a complètement basculé dans le numérique. Depuis le début de la crise sanitaire, partout dans le monde, les plateformes numériques ont assuré l’essentiel de nos activités économiques, sociales et culturelles. Travail et enseignement à distance ont été consacrés au cours de l’année 2020…mais aussi traçage et contrôle des individus, surveillance des populations en phase de confinement. D’un côté, toute une économie de la connaissance s’est mise en place, de l’autre, un capitalisme cognitif/culturel ainsi que toutes sortes de pollution affectent les individus autour de la captation de leur attention et de la manipulation de leurs pulsions et de leur psyché. Les technologies de l’information et de la communication promettaient la fin des servitudes concernant l’accès à la connaissance, mais elles peuvent tout autant être utilisées pour miner la démocratie – là où elle régnait jusque-là – et pour renforcer l’autoritarisme et le contrôle grégaire des masses. Comment appréhender le numérique en tant que pharmakon, c’est-à-dire à la fois comme remède et poison, dans ses usages et mésusages au sein de sociétés complexes et sophistiquées ?

Qu’est-ce qui dans l’infotechnologie favoriserait l’intelligence collective, l’accroissement et le partage du savoir, la sauvegarde de l’environnement et des ressources naturelles, la promotion de la démocratie et l’humanisme planétaire ? Qu’est-ce qui est potentiellement toxique pour les individus, les abêtit individuellement et collectivement en tant que bétail cognitif ? L’intelligence artificielle permise par l’essor du numérique va-t-elle triompher en l’humain en le fonctionnalisant en automate comme un autre ? Comment faire pour protéger nos données personnelles qui font les mégadonnées expropriées et exploitées maximalement dans une économie numérique où une poignée d’entreprises fonctionnent en Etats-plateformes autrement plus puissants que les Etats-nations ? Y a-t-il des limites cognitives et psychologiques mais aussi sociétales et environnementales à l’exploitation de ces mégadonnées et à l’emprise de l’infotechnologie sur les sociétés du 21e siècle ? A l’instar des fumées noires des cheminées de la révolution industrielle, se pourrait-il que les algorithmes de la révolution numérique génèrent des pollutions encore mal identifiées, du côté du monde mental, de l’attention profonde et en prise directe avec la psyché et ses impensés ?

Comment les sociétés peuvent-elles agir de manière à changer notre rapport à ce numérique invasif et totipotent et concourir à assurer la viabilité de l’avenir ?

Qu’en est-il pour un pays comme le Maroc, avec tout son potentiel mais aussi son niveau de développement humain somme toute relativement bas ? Le numérique réduit-il ou au contraire renforce-t-il les inégalités économiques et l’autoritarisme politique ? Permet-il à l’Etat une gestion efficiente et à la société civile de s’exprimer, de s’émanciper, de prospérer et de prendre en main sa destinée ? Quelles promesses et quels risques se profilent derrière le numérique pour les pays arabes et africains après les révoltes sociales et la répression/régression qui s’en est suivie ?

C’est ce que nous nous proposons d’aborder et d’approfondir avec des chercheurs de pointe qui sont aussi de fins observateurs de la sphère numérique et des transformations technologiques et sociétales dont elle est porteuse depuis plus d’un quart de siècle.

Réda Benkirane

Mots-clés : algorithme, intelligence artificielle, méga données, fake news, post-vérité, révoltes sociales, GAFA, cryptographie, algorithme, sécurité, surveillance, contrôle, démocratie, révolutions sociales, droits humains, droits numériques, (trans)humanisme, société du savoir.

 

Aux origines de l’IA, les questions ouvertes : qui parle/joue ? et à/de qui ? *

On peut trouver au cœur du texte fondateur de l’intelligence artificielle présents les principaux traits ambivalents de la sphère numérique : confusion et profusion discursive, ambiguïté et jeu autour de l’intelligence et du genre

La mesure des progrès de l’intelligence artificielle (IA) est généralement examinée à travers le « test de Turing». Le logicien britannique Alan Turing a écrit en 1950 un article paru dans une revue de psychologie et de philosophie qui est considéré comme le fondement théorique de l’IA. Dans cet article, il pose tout d’abord la question de savoir si les machines peuvent penser, et comment alors définir la « machine » et la « pensée ». Puis il établit au travers du « jeu de l’imitation » un dispositif composé de trois acteurs : un homme A, une femme B et un interrogateur C. L’interrogateur C, qui n’est pas dans la même pièce que les deux autres, leur pose des questions au travers d’un échange dactylographié. Le jeu de l’imitation commence quand Turing pose la question de savoir ce qui se passerait si une machine prenait le rôle de l’homme A dans la poursuite des questions-réponses avec l’interrogateur C.

Cet article a fait l’objet de très nombreuses exégèses, son ambiguïté ne concerne pas seulement la confusion entre homme et machine, mais la confusion des sexes. La question du sexe des joueurs du jeu de l’imitation intervient à plusieurs reprises puisque Turing imagine la possibilité « de faire jouer à O [l’ordinateur] le rôle de A [l’homme] dans le jeu de l’imitation, le rôle de B [la femme] étant tenu par un homme ». Dans ce même article, un paragraphe intitulé « L’objection théologique », il va même jusqu’à demander « Comment les chrétiens considèrent-ils l’opinion musulmane : « Les femmes n’ont pas d’âme ? » »

Pour Alan Turing (homosexuel dans une Angleterre puritaine et conservatrice), le jeu de l’imitation met en scène l’ambivalence de l’intelligence et de la sexualité comme il l’exprimera au travers d’un paradoxe logique peu avant de mourir tragiquement :

« Turing pense que les machines pensent. Turing ment aux hommes (lies with men). Donc les machines ne pensent pas. »

Il faut savoir qu’Alan Turing fut arrêté en 1952 pour « délits sexuels avec un jeune homme » et condamné à une castration chimique. Il a fini par se suicider par empoisonnement au cyanure.

Cf. Alan Turing, « Computing Machinery and Intelligence », Mind, vol. LXI, n. 236, 1950, (URL:

http://mind.oxfordjournals.org/content/LIX/236/433). Ce texte est paru en français, « Les ordinateurs et l’intelligence », traduit par Patrice Blanchard, paru dans La Machine de Turing, Paris, Seuil, 1999, pp. 134-175.

* Note extraite de Réda Benkirane, Islam, à la reconquête du sens, Paris, Le Pommier, 2017, p. 224.

Les commentaires sont fermés