En marge (très en marge même) de mes principales thématiques de recherche, j’avais commencé à élaborer quelques réflexions sur le lien entre science-fiction et pensée politique (toujours disponibles sur ce blog dans des billets plus anciens). Comme souvent, réfléchir sur un sujet amène à percevoir les potentialités d’un autre sujet plus ou moins connexe. C’est typiquement ce qui s’est passé avec une série de romans à mon avis très stimulants et cela m’amènera sans doute à proposer un texte plus substantiel si j’arrive à trouver un peu de temps pour ce type d’échappée intellectuelle.
En essayant de croiser base littéraire et réflexion prospective, l’idée serait de tester une hypothèse qui semble de science-fiction, mais qui pourrait ne pas être seulement de science-fiction. Cette hypothèse part d’une partie de l’œuvre de l’écrivain écossais Iain M. Banks, celle couramment rassemblée sous l’appellation de « cycle de la Culture », et de l’organisation sociale qu’il y décrit. Cette série de romans de science-fiction, souvent louée pour avoir renouvelé le genre du « space opera », met en effet en scène une civilisation intergalactique (« la Culture »), basée sur des principes anarchistes et dans laquelle les problèmes de pénurie sont dépassés et le pouvoir paraît presque dissous. Dans cette civilisation au développement technique très poussé, ce sont des intelligences artificielles (« minds » ou « mentaux » dans les traductions françaises) qui assument les tâches de gestion des affaires collectives, libérant ainsi la masse des individus pour des activités plus spirituelles ou ludiques. Le type d’organisation collective décrit par Iain M. Banks dans ses romans[1] tient pour une large part grâce à l’appui bienveillant de ces intelligences artificielles.
Cette hypothèse formulée dans un registre littéraire peut-elle aider à penser le rôle que pourraient prendre des machines « intelligentes » (ou au moins fortement évoluées) dans l’organisation sociale et politique ? Comment pourrait s’effectuer l’insertion de telles machines dans la vie collective ? Dans le modèle civilisationnel de la Culture, certaines séparations ontologiques ont disparu, puisque ces entités se comportent et sont traitées comme des personnes. Vaisseaux et stations spatiales ont leurs propres « mentaux » qui formulent leurs propres choix. D’une certaine manière, ces machines « conscientes », « sensibles », dépassant les humains en intelligence, « sont » ces engins spatiaux. Elles sont l’infrastructure pensante de la Culture, qu’elles contrôlent d’ailleurs plus qu’elles ne l’habitent.
Si l’on suit la vision de Iain M. Banks, le développement et la présence généralisée de ces intelligences artificielles ont bouleversé le fonctionnement politique, et même la conception du politique. Ce serait une application très particulière des principes anarchistes. L’auteur a en effet créé un monde organisé dans lequel, grâce aux intelligences artificielles et à l’insouciance énergétique et subsistantielle, le projet de remplacement du gouvernement des hommes par l’administration des choses a été réalisé. Dans ce modèle, il n’y aurait plus vraiment de choix politiques à faire[2]. Les décisions délicates engendrées par des problèmes d’allocation des ressources n’auraient plus lieu d’être, ou au pire pourraient-elles être résolues par des puissances de calcul phénoménales. Les dérives dans l’usage du pouvoir ne seraient plus tellement à craindre, puisque celui-ci se trouverait en quelque sorte octroyé à ces intelligences artificielles qui, constitutivement, auraient dépassé ces enjeux (ou en tout cas pour qui ce type de tentations ne ferait guère sens).
Dans l’œuvre de Iain M. Banks, ces éléments ne relèvent pas du simple décor de science-fiction : ils jouent un rôle important et intime dans les récits. Au-delà de l’analyse littéraire (puisque j’ai essayé de pousser dans ce sens), ils peuvent être exploités comme une base de questionnement[3] sur les possibilités de régulation « sociale » sans intervention humaine directe, ou plus précisément avec la médiation de machines évoluant vers une forme d’intelligence artificielle. D’où mon envie de tester dans quelle mesure et sur quelles bases une telle hypothèse peut tenir. La réflexion à mon avis serait pour cela à organiser sur trois plans. Le premier devrait revenir sur la pensée anarchiste pour montrer que la vision de Iain M. Banks peut certes y trouver des correspondances, mais que cette pensée est en quelque sorte dépassée par les enjeux que l’œuvre de cet auteur fait émerger. Le deuxième poursuivrait en montrant les questions politiques que cette œuvre permet d’élaborer sur les retombées des avancées en matière d’intelligence artificielle et sur leurs effets dans l’organisation des collectivités. Le troisième, toujours sous un angle politique, essayerait d’établir des connexions plus concrètes à partir de lignes d’évolution discernables dans l’informatisation ou l’automatisation d’appareillages techniques qui peuvent participer à la régulation de processus sociaux.
Si la civilisation galactique décrite par Iain M. Banks a un fondement anarchisant[4], la forme du projet n’est en effet pas facile à placer par rapport à la tradition anarchiste, notamment quant aux réflexions touchant au progrès technique. Certains de ses penseurs voient dans la technique des potentialités qui permettent de la tirer dans le sens de l’émancipation. On retrouve chez Mikhail Bakounine l’idée qu’elle peut alléger la charge de travail qui pèse sur les individus et ainsi participer à la déstabilisation de l’ordre capitaliste. Murray Bookchin, dans sa tentative pour fonder théoriquement une « écologie sociale », envisageait quant à lui la possibilité d’une « technologie libératrice »[5]. Mais il est aussi resté dans les milieux anarchistes ou anarchisants une forte méfiance à l’égard de la technique (plus ou moins associée à la domination capitaliste). On peut donc penser que les avancées en matière d’intelligence artificielle auraient une réception au moins ambivalente dans les courants anarchistes, et probablement pas aussi optimiste que dans la version romancée de Iain M. Banks.
La mise en relation de la vision littéraire de science-fiction et des visions politico-philosophiques peut ainsi être une manière intéressante de questionner les implications politiques des avancées en matière d’intelligence artificielle. Quelles tâches peuvent être confiées à des machines qui ne sont plus de simples automates ? Ces tâches peuvent-elles interférer avec d’autres relevant des choix collectifs humains ? Quelles implications cela a-t-il dans la gestion d’affaires qui sont collectives ? Un projet anarchiste est-il plus crédible parce qu’il a recours à de telles machines évoluées ? À l’inverse d’anciennes manières d’envisager la technologie, de telles machines d’ailleurs ne seraient plus assimilables à des outils, mais accèderaient davantage au statut d’acteurs capables d’agir de manière autonome. En lisant les romans du cycle de la Culture, on peut d’ailleurs se demander si la confiance accordée aux intelligences artificielles et l’abandon de certaines tâches et activités ne conduisent pas vers une forme de passivité humaine. Bref, dans cette forme d’anarchie « assistée par ordinateur », l’idée de gouvernement ne fait plus sens, mais au moins aussi parce qu’une bonne part du pouvoir de décision est plus ou moins consciemment déléguée et distribuée à ce vaste réseau d’intelligences artificielles.
L’organisation sociotechnique de la Culture décrite par Iain M. Banks est d’autant plus intéressante qu’on peut lui trouver des correspondances dans des évolutions de la fin du XXe siècle. L’informatisation a pénétré de nombreux appareillages techniques, sous des formes qui peuvent d’ailleurs conduire à renégocier plus ou moins directement la place de l’humain[6]. De nombreux processus sociaux s’avèrent de plus en plus souvent automatisés. La gestion informatisée du trafic routier par l’intermédiaire des feux de circulation participe par exemple d’une redistribution des rôles et des fonctions entre humains et automatismes[7]. Sur les marchés financiers opèrent aussi dorénavant des « automates de trading ». Les avancées dans le domaine de l’intelligence artificielle sont de nature à renforcer les questionnements sur les reconfigurations des espaces de décision (si tant est qu’il soit alors encore possible de les discerner). Les enjeux ne sont donc pas simplement techniques, mais bel et bien politiques, et ce pourrait être un des mérites de la fiction de Iain M. Banks que d’avoir réussi, même si elle reste dans l’ordre de l’imaginaire, à les mettre en scène de manière suffisamment cohérente pour inciter à prolonger la réflexion sur cet entrelacement d’aspects sociaux, philosophiques et politiques loin d’être mineurs.
[1] Un article à vocation explicative, intitulé « A Few Notes on the Culture », avait aussi été mis en ligne sur Internet et avait été traduit dans la revue de science-fiction Galaxies, n° 1, Été 1996 (« Quelques notes sur la Culture »). Le texte en français a été récemment repris à la fin du roman Trames (Paris, Robert Laffont, 2009).
[2] Cf. Chris Brown, « `Special Circumstances’: Intervention by a Liberal Utopia », Millennium – Journal of International Studies, vol. 30, n° 3, 2001, notamment p. 632.
[3] Cf. Yannick Rumpala, « Entre anticipation et problématisation : la science-fiction comme avant-garde », Communication pour le colloque « Comment rêver la science-fiction à présent ? », Cerisy-la-Salle, 22 juillet 2009.
[4] Rendu selon lui nécessaire par la vie commune dans l’espace et la sophistication technologique corrélative : « Essentially, the contention is that our currently dominant power systems cannot long survive in space; beyond a certain technological level a degree of anarchy is arguably inevitable and anyway preferable » (« A Few Notes on the Culture », op. cit.).
[5] Cf. Murray Bookchin, Vers une technologie libératrice, trad. de l’américain, Paris, Librairies parallèles, 1974.
[6] Voir par exemple le travail de Victor Scardigli sur le cas des avions : Un anthropologue chez les automates. De l’avion informatisé à la société numérisée, Paris, PUF, 2001, et pour une présentation plus synthétique de l’argument, « Y a-t-il encore un pilote dans l’avion ? », Le Monde Diplomatique, n° 595, octobre 2003, p. 30.
[7] Cf. Bruno Latour, « Le Prince : Machines et machinations », Futur antérieur, n° 3, 1990, pp. 35-62.
C’est très intéressant de pousser la réflexion aussi loin, et de manière aussi professionnelle. Mais – même si ce n’est pas primordial – j’ai l’impression que vous faites l’impasse sur les détails gênants de la Culture. La passivité humaine qui découle de la délégation des responsabilités aux IA et à Circonstances Spéciales est une réalité. Cela renforce l’idée que la Culture est décadente. Le citoyen lambda préfère repousser les limites du transhumanisme ludique que de savoir ce que les IA et CS doivent faire pour préserver l’intégrité de la Culture. Banks indique aussi comment les esprits (artificiels ou naturels) qui sortent du rang sont corrigés/reprogrammés ou bannis pour protéger la Culture. En caricaturant un peu, la Culture est un bac à sable pour des gamins triés par eugénisme, et protégé par des individus calculateurs et sans beaucoup de scrupules.
C’est vrai que la délégation de responsabilités peut confiner à la passivité. Comme politiste, je trouve très intéressante cette espèce de réflexion en filigrane sur la manière dont l’introduction d’intelligences artificielles peut reconfigurer les enjeux de pouvoir. Je me demande toutefois si le terme de décadence n’est pas un peu fort : une telle société expansive peut-elle être décadente ? Ou alors c’est introduire un point de vue moral sur les moeurs qui y deviennent habituelles. Mais la dernière phrase de votre commentaire ne me paraît pas fausse. C’est ce que je trouve stimulant chez Banks : cette manière d’amener à se poser des questions sur les implications socio-politiques d’évolutions technologiques, et typiquement de la présence généralisée de machines très évoluées (pensons par exemple à ce qui est annoncé en matière d’”informatique ambiante”).
Si on juge la Culture telle qu’elle nous est présentée par Banks, alors oui, le terme décadence peut sembler un peu fort. Néanmoins, c’est Banks lui même qui utilise ce terme. La Culture est vue par les barbares (au sens grec du terme) comme une société décadente. J’ai adoré les premiers tomes de ce cycle, et j’ai pris ces jugements comme l’expression de la jalousie ou de l’incompréhension de peuples étrangers. Mais je crois que Banks va plus loin, et à force d’enchaîner les romans, j’ai perçu chez l’auteur une volonté de critiquer sa propre création.
Pour finir sur la décadence, Banks indique (à plusieurs reprises autant que je me souvienne) que la Culture a une fin, qu’à moyen terme elle est vouée à disparaître.
En tout cas, j’espère vite trouver le temps de lire vos autres textes de la catégorie “Science-fiction et théorie politique” !
La finesse des récits est effectivement de montrer certaines ambiguïtés de ce type de société. Je ne sais plus s’il y a l’idée de dépassement de la Culture par une autre forme sociale ; je vais essayer de retrouver ça.
Pour ce qui est des autres billets, les commentaires sont toujours les bienvenus.
Bonjour,
Je découvre avec plaisir vos articles consacrés à la littérature de science-fiction, grâce à un commentaire laissé sur mon blog. Cet angle d’approche me semble très pertinent dans le cas du “cycle” de la Culture, et ne me paraît pas nécessairement incompatible avec son intérêt proprement littéraire ou, si l’on veut, métaphysique.
Je signalais que l’étude de la science-fiction ne saurait se borner à la prospective ; il est évident qu’elle ne se résume pas non plus aux enjeux littéraires qu’elle mobilise.
Je lirai vos travaux avec grand plaisir !
Merci. Les lectures croisées sont effectivement enrichissantes et cette ouverture métaphysique m’aura aussi permis de lire avec intérêt d’autres angles d’analyse. Je vais suivre également votre blog. Bonne continuation.
Très intéresssant, un peu déroutant vu que je ne connais que deux livres du cycle mais ca me donne vraiment envie d’aller plus loin !!!
Au delà de cette très intéressante interprétation socio-philosophico-politique, les lecteurs potentiels seront heureux de savoir que le cycle de la Culture est un vrai bon cycle de science-fiction, prenant, facile à lire et apportant son lot d’originalités dans le paysage de la SF mondiale. (voir notre critique de L’Homme des jeux, le premier roman de la série : http://leblogdesbouquins.blogspot.com/2010/08/lhomme-des-jeux-de-iain-m-banks.html)
Bonne entrée en matière dans l’oeuvre en effet.
Très intéressant, ça m’a donné envie de lire ce cycle.
On rencontre aussi une société gérée par des IA dans le cycle des robots d’Isaac Asimov, elle aussi décadente et voué à disparaître.
il serait intéressant d’étudier une société où la technologie libère l’homme en administrant le monde, mais où la fin serait plus heureuse…
Merci. Pour rentrer dans le “cycle”, mieux vaut à mon avis commencer par les premiers romans écrits par Banks.
Ce n’est d’ailleurs pas tellement une société décadente qu’il décrit. A ce propos, quelques éclairages, mais en anglais, dans un papier que j’ai présenté à la 6e conférence « Visions of Humanity in Cyberculture, Cyberspace, and Science Fiction » à l’Université d’Oxford : à télécharger.
A partir de l’exemple de la Culture comme version plutôt optimiste du rôle des intelligences artificielles dans une société , j’essaye justement de montrer en quoi la confiance dans la technologie peut produire une forme (ambiguë) de régime “post-politique”.