Quelques notes (techno-politiques) sur les Mentaux de la "Culture"

8 02 2012

Le texte qui suit vient de paraître sur le site actusf.com. Il fait partie d’un petit dossier consacré à Iain M. Banks, à l’occasion de la parution récente en deux tomes d’Enfers Virtuels (dans la collection « Ailleurs & Demain » des éditions Robert Laffont,), son dernier roman dans sa série de la « Culture ». En voici donc une exploration guidée et un prétexte à réflexion sur un versant plus philosophique et politique.

                                                                – - – - – - -

      Une vaste société plutôt libertaire, sans gouvernement, mais administrée grâce à des machines intelligentes. Voilà sommairement comment on pourrait résumer le modèle politique de la Culture, cette civilisation galactique, puissante et expansionniste, imaginée par l’écrivain écossais Iain M. Banks. On pourrait se contenter de prendre la Culture comme un simple arrière-plan narratif, une espèce de décor raffiné,  dans une œuvre littéraire qui a permis à Iain M. Banks de figurer parmi les auteurs majeurs ayant contribué à renouveler le genre du « space opera ». Mais, comme le riche univers ainsi créé fait se rejoindre imaginaire technique et imaginaire politique, il peut être aussi intéressant de le considérer comme une source d’inspiration, voire comme un point de départ pour des explorations plus philosophico-politiques.

Dans cette série de romans, la civilisation mise en scène, extrêmement avancée technologiquement, s’est étendue dans la galaxie en étant basée sur des principes qu’on pourrait qualifier, avec nos catégories politiques modernes, d’anarchistes. La Culture est un vaste rassemblement d’espèces humanoïdes dans lequel les problèmes de pénurie sont dépassés et le pouvoir paraît presque dissous. Dans cette civilisation plurimillénaire, ce sont des intelligences artificielles (« Minds » ou « Mentaux » dans les traductions françaises) qui assument les tâches de gestion des affaires collectives, libérant ainsi la masse des individus pour des activités plus spirituelles ou ludiques. Le type d’organisation collective décrit par Iain M. Banks dans ses romans (1) tient pour une large part grâce à l’appui bienveillant de ces intelligences artificielles. Dans le modèle civilisationnel de la Culture, certaines séparations ontologiques ont disparu, puisque ces entités se comportent et sont traitées comme des personnes. Vaisseaux et stations spatiales ont leurs propres « Mentaux » qui  formulent  leurs  propres  choix.  D’une certaine manière,  ces machines « conscientes », « sensibles », dépassant les humains en intelligence, « sont » ces engins spatiaux. Elles sont l’infrastructure pensante de la Culture, qu’elles contrôlent d’ailleurs plus qu’elles ne l’habitent.

Si l’on suit la vision de Iain M. Banks, le développement et la présence généralisée de ces intelligences artificielles ont bouleversé le fonctionnement politique, et même la conception du politique. Ce serait une application très particulière des principes anarchistes. L’auteur a en effet créé un monde organisé dans lequel, grâce aux intelligences artificielles et à l’insouciance énergétique et matérielle, le projet de remplacement du gouvernement des hommes par l’administration des choses a été réalisé. Dans ce modèle, il n’y aurait plus vraiment de choix politiques à faire. Les décisions délicates engendrées par des problèmes d’allocation des ressources n’auraient plus lieu d’être, ou au pire pourraient-elles être résolues par des puissances de calcul phénoménales. Les dérives dans l’usage du pouvoir ne seraient plus tellement à craindre, puisque celui-ci se trouverait en quelque sorte octroyé à ces intelligences artificielles qui, constitutivement, auraient dépassé ces enjeux (ou en tout cas pour qui ce type de tentations ne ferait guère sens).

Dans l’œuvre de Iain M. Banks, ces éléments ne relèvent pas du simple décor de science-fiction : ils jouent un rôle important et intime dans les récits. Au-delà de l’analyse littéraire, ils peuvent être exploités comme une base de questionnement (2) sur les possibilités de régulation « sociale » sans intervention humaine directe, ou plus précisément avec la médiation de machines évoluant vers une forme d’intelligence artificielle. Quelles tâches peuvent être confiées à des machines qui ne sont plus de simples automates ? Ces tâches peuvent-elles interférer avec d’autres relevant des choix collectifs humains ? Quelles implications cela a-t-il dans la gestion d’affaires qui sont collectives ? Que reste-t-il du politique quand il devient dépendant de machines de plus en plus évoluées ? L’idée dans ce petit commentaire n’est pas d’évoquer toutes les particularités subtiles de la Culture, mais de se concentrer sur une dimension spécifique, celle précisément qui dessine une techno-politique, même si la fusion ainsi réalisée ne prétendait pas forcément sortir du registre fictionnel.

Société ouverte et abondance automatisée

Quelques précisions quand même sur la Culture elle-même, pour ceux qui ne l’auraient encore jamais visitée. Telle que Iain M. Banks la met en scène, c’est une civilisation, pas un empire. Rien, dans ce qui anime ses membres, ne ressemble à une quelconque ambition d’exercer une autorité ou une souveraineté sur les espaces galactiques où elle est présente. Ce qui ne veut pas dire qu’elle s’en désintéresse. Au contraire. Les romans de la série sont des épisodes où la Culture se retrouve en relation avec d’autres civilisations, avec l’enjeu notamment de défendre ou de promouvoir son modèle, de la manière la plus pacifique possible. Elle le fait le plus souvent en s’efforçant de ne pas apparaître directement, et en confiant donc la tâche à des branches spécialisées (« Contact » pour les aspects diplomatiques et « Circonstances spéciales » pour l’espionnage et les opérations clandestines), dont les agents sont réputés être suffisamment discrets et efficaces.

La Culture est une civilisation sûre de ses valeurs et le plus souvent confiante en ses capacités. Elle a des raisons de le croire, car elle a atteint un niveau d’évolution technique qui lui assure les facteurs essentiels à son maintien et à son expansion. Sur le plan matériel, elle a acquis une capacité à produire matière et énergie sans restriction (mais Iain M. Banks ne donne pas de détails sur cet apanage). En plus, et c’est ce qui va nous intéresser davantage, elle bénéficie de l’appui d’intelligences artificielles de diverses formes, de celles qui peuvent gérer de gigantesques habitats spatiaux artificiels (les « orbitales », dont la taille peut aller jusqu’à quelques millions de kilomètres de diamètre), jusqu’aux « drones », plus proches de la figure classique du robot. À première vue, la Culture pourrait être une incarnation de l’espoir formulé par ceux qui croient à la convergence technologique et aux retombées des nanosciences. Elle semble avoir atteint un stade permettant « l’interaction pacifique et mutuellement profitable entre les humains et les machines intelligentes, la disparition complète des obstacles à la communication généralisée, en particulier ceux qui résultent de la diversité des langues, l’accès à des sources d’énergie inépuisables » (3).

La description de Iain M. Banks va cependant plus loin que l’interaction. Ces machines intelligentes, dotées de personnalités distinctes, qu’il appelle les « Mentaux » pour les plus évoluées, sont devenues collectivement l’infrastructure administrative de cette civilisation, et leurs capacités sont telles qu’il ne semble plus y avoir de raison de ne pas se reposer sur elles pour assurer le bien-être général. Cette omniprésence semble avoir rendu superflues des institutions qui paraîtraient communes aux humains que nous sommes. La Culture n’est pas sans règles, mais celles-ci ne s’apparentent pas à des lois écrites, a fortiori élaborées par un organe législatif. Son fonctionnement ne repose pas sur des institutions correspondant à ce que nous appellerions un gouvernement. Le degré d’avancement technique semble avoir permis d’automatiser les fonctions de base à partir desquelles une société peut se perpétuer, les fonctions les plus élaborées étant reportées sur les « Mentaux » (par exemple comme « Moyeux » pour ceux gérant les anneaux spatiaux des « orbitales »). Pour les humanoïdes intégrés à la Culture, plus besoin de travailler, puisque les tâches ingrates peuvent être confiées à des machines moins évoluées et sans conscience. L’argent n’est plus utile puisque les raretés matérielles ont disparu.

L’anarchie assistée par ordinateur

Iain M. Banks élimine ainsi un bon nombre de facteurs produisant de la domination. Comme il l’explique lui-même dans une longue note complémentaire : « En gros, au sein de la Culture, rien ni personne n’est exploité. Il s’agit fondamentalement d’une société automatisée au niveau des processus manufacturiers, où l’intervention humaine se résume à une occupation impossible à distinguer du jeu ou du hobby. Les machines n’y sont pas exploitées non plus ; l’idée ici est que toutes les tâches peuvent être automatisées de telle manière qu’elles puissent être exécutées par des machines maintenues bien au-dessous de la conscience potentielle ; ainsi, ce qui à nos yeux serait un ordinateur d’une complexité stupéfiante chargé de la gestion d’une usine ne serait guère pour les IAs de la Culture qu’une calculatrice un peu améliorée, pas plus exploitée que l’insecte pollinisant l’arbre fruitier dont l’homme va ensuite manger le fruit » (4).

Humains et machines se mêlent ainsi dans un collectif qui semble fonctionner sur des bases égalitaires, dans un respect mutuel. La présence de machines évoluées dans l’environnement courant relève de l’évidence pour les humanoïdes qui les côtoient. Dans la Culture, l’intelligence artificielle n’est pas un objet qu’on utilise ; c’est un compagnon, un partenaire, un conseiller, un confident même parfois, voire un surveillant permanent sous la forme d’un « drone punitif » en cas de condamnation pour meurtre (5). Sous sa forme la plus évoluée, l’objet technique est personnifié, et sa technicité disparaît presque (les drones et les vaisseaux ont même un nom personnel), de même d’ailleurs que semblent disparaître ceux qui auraient pu appréhender cette technicité, à savoir les scientifiques, techniciens et autres détenteurs de connaissances plus ou moins technologiques. Et donc, sauf cas où leur destruction devient un moment de révélation (ou un peu avant, comme au tout début d’Une forme de guerre), le lecteur ne sait pas comment les artefacts techniques opèrent et se trouve en définitive presque face à une espèce de prodige technologique. Comme le fait remarquer Christopher Palmer : « Lorsque la technologie fonctionne « normalement », ses modes opératoires sont dissimulés, aisés, et comme s’ils étaient magiques — une exagération de l’expérience quotidienne de la technologie, mais, dans ce contexte de capacités immenses, une exagération révélatrice. En outre, Banks a imaginé une société future d’une portée technologique presque utopique, mais une société qui a confié le travail (physique ou intellectuel) à des « Mentaux » invisibles et à des drones. Il ne manifeste aucune inclination à imaginer l’activité de l’expert, du technicien, ou du scientifique comme un moyen de faire apparaître la technologie » (6). De fait, les capacités de ces machines hautement évoluées pourraient amener à se demander qui les conçoit et les produit. Au fil des différents romans, on ne saura pourtant jamais vraiment comment sont fabriqués les Mentaux. C’est juste dans le registre du commentaire que Iain M. Banks pourra glisser comme explication très brève que « [les IAs de la Culture] sont conçues (par d’autres IAs, et ce pratiquement depuis l’aube de l’histoire de la Culture) à l’intérieur d’une fourchette de paramètres très large mais réelle » (7).

Grâce aux intelligences artificielles, la Culture pourrait représenter le règne de l’agir rationnel, mais en finissant par s’appuyer sur une rationalité qui n’est plus strictement humaine, puisque largement artefactuelle. À tel point que Patrick Thaddeus Jackson et James Heilman en viennent à considérer que : « En renvoyant aux Mentaux pratiquement tout ce qui est de conséquence, la Culture s’est en effet laissée elle-même gouverner par la raison plus absolument que toute société dépendant d’autorités humaines pourrait l’être. [...] La présupposition qui prévaut dans la Culture, alors, est que si les Mentaux le décrètent, alors cela doit être raisonnable, et étant donné que la Culture est une société raisonnable, elle doit écouter ses Mentaux » (8). Des divergences peuvent exister entre les « Mentaux » (comme dans Excession pour faire face à une menace extérieure), mais elles se résolvent sans déraper vers des conflits plus ouverts. Ce primat d’un agir collectif rationnel, hyper-calculateur, se manifeste encore plus par effet de contraste lorsque la Culture rencontre des civilisations basées sur des principes divergents, comme l’Empire d’Azad où le jeu est au cœur du système politique, notamment comme mode de sélection des gouvernants (d’où le recrutement et l’envoi d’un agent joueur professionnel qui sera le héros, largement manipulé, de L’homme des jeux).

La Culture, une civilisation hédoniste, bienveillante… et post-politique ?

L’extension de cette civilisation à une échelle galactique peut aussi expliquer que le recours aux intelligences artificielles soit devenu nécessaire, dans la mesure où, même rassemblées et améliorées, les capacités humaines apparaissent largement en deçà de celles requises pour un degré d’organisation qui déborde le pensable (d’autant que, à l’instar des épisodes racontés dans les romans du cycle, la Culture reste en expansion en continuant à absorber d’autres civilisations). Partie intégrante de cette civilisation, ces intelligences artificielles assurent ainsi autant son entretien quotidien que la prise en charge de son devenir par une planification à plus long terme.

Les humains n’ont de fait plus les capacités de rattraper les intelligences des « Mentaux ». Ils sont devenus les obligés d’entités qui sont devenues d’une certaine manière supérieures. C’est pour cela que dans Une forme de guerre, le personnage central, Horza, mercenaire employé par la civilisation rivale des Idirans, considère la Culture comme une société dégénérée qui a succombé à l’emprise des machines. Autrement dit, sans s’apercevoir véritablement que son mode de vie hédoniste se paie au prix d’un abandon tendanciel du libre arbitre individuel. Les humains de la Culture pourraient répondre qu’ils y trouvent aussi une forme de sécurité. Avec les différentes variétés de terminaux qu’ils portent sur eux, ils ont toujours un lien de communication avec les « Mentaux », ce qui leur évite d’être laissés en difficulté ou à l’abandon en cas de situation problématique (accident, etc.).

Si la Culture est a priori pacifique et bienveillante, ses membres, et donc ses intelligences artificielles, peuvent néanmoins être amenés dans certaines circonstances à faire la guerre. Par exemple, comme dans Une forme de guerre, contre les Idirans et leur fanatisme expansionniste, et pour défendre ainsi des valeurs collectives. En cas de besoin, les systèmes défensifs et offensifs de la Culture sont à la mesure de ses capacités technologiques, donc forcément impressionnants pour des personnes de civilisations moins avancées (avec par exemple des combinaisons de combat capables de suppléer aux faiblesses de leurs utilisateurs) (9).

Dans la vision de Iain M. Banks, la politique semble garder une place, mais sous une forme principalement référendaire et dans une logique proche d’un principe de subsidiarité, où le niveau le plus pertinent n’a pas nécessairement besoin d’une intervention supérieure : « Dans la Culture, la politique se ramène au référendum en cas de problème à résoudre ; en théorie, chacun peut à tout moment proposer la tenue d’un scrutin sur n’importe quel sujet. Tous les citoyens ont le droit de voter. Quand il est question d’une subdivision ou d’une partie d’un habitat global, tous ceux, hommes ou machines, qui peuvent raisonnablement se prétendre concernés sont en droit de réclamer un vote. On exprime ses opinions et on formule les problèmes principalement via le réseau (libre et gratuit, évidemment), et c’est là que l’individu peut exercer son influence la plus personnelle, étant donné que les décisions prises après consultation sont généralement appliquées et supervisées par l’intermédiaire d’un Moyeu ou de tout autre machine gestionnaire, pendant que les humains, eux, font davantage office d’agents de liaison (le plus souvent par roulement) que de véritables décisionnaires. « Il est d’autant plus difficile d’accéder au pouvoir qu’on le désire ardemment », telle est une des rares lois auxquelles la Culture obéisse strictement » (10). Toutes les opinions semblent ainsi pouvoir être recensées et accéder à l’espace public. Celui-ci d’ailleurs n’a plus de matérialité, puisque tout choix collectif est replacé dans un univers virtuel (l’« infocosme » en traduction française ou le « dataverse » en version originale), où chacun peut mettre en avant ses arguments. Et, à nouveau, ce sont des machines qui permettent de suivre les discussions et les processus en cours, mais aussi de concrétiser les résolutions établies collectivement. Pas de divergences d’intérêts, de relations de pouvoir, qui puissent ainsi subsister entre humains et non-humains : tout se passe comme si elles étaient transcendées par ces processus hybrides, censés être capables de produire à chaque fois une forme de bien commun.

Lorsqu’il dépeint cette civilisation qu’il a appelée la Culture, Iain M. Banks postule apparemment une forme d’égalité entre humains et machines, et en tout cas une absence de hiérarchie. Dans ce vaste collectif galactique, l’avancée technique semble avoir permis d’accéder à un régime post-gouvernemental dans une société sans classes. La capacité des « intelligences artificielles » a ôté toute raison de chercher à appuyer la gestion des affaires collectives sur un État ou sur une administration.

Au-delà de la simple coexistence d’entités de nature différente, ce modèle semble supposer un accord général sur ce qu’est le bien commun. Et les principaux clivages d’intérêt semblent avoir disparu. Le modèle politique proposé par Iain M. Banks ressemble encore à une démocratie, mais encadrée et réglée par une nouvelle forme d’élite dont la sagesse est postulée, une élite qui serait d’un type technocratique particulier puisque constituée d’« intelligences artificielles ». D’une délégation, on passerait ainsi à une autre.

Il est d’ailleurs intéressant de faire le rapprochement avec les réflexions théoriques sur la démocratie en philosophie politique ou en science politique. Dans leurs évolutions récentes, elles ont contribué à remettre en avant la dimension délibérative des activités politiques, notamment comme garantie de légitimité des choix collectifs. Chez Iain M. Banks, cette dimension délibérative semble évacuée. Le lecteur ne peut que se demander s’il est possible de débattre avec des intelligences artificielles, et a fortiori à large échelle. Dans quel espace public ?

Une présence de plus en plus diffuse de machines évoluées est aussi de nature à remettre en cause profondément la  pertinence de la notion de décision. Pour les humains, que reste-t-il de l’autonomie individuelle ? Ce type de fonctionnement collectif suppose une confiance dans les machines (et dans une nouvelle gamme de systèmes experts). Mais ce n’est pas parce que les avancées en matière d’intelligence artificielle ne produisent pas une technique centralisatrice, hiérarchisante et oppressive, qu’elles comportent forcément un potentiel d’émancipation (11). Dans les romans relatifs à la Culture, rien n’est dit sur les modalités d’encadrement de l’activité des « Mentaux ». À supposer qu’ils se laissent encadrer…

* * *

Comme on le voit, la Culture paraît offrir des hypothèses plus optimistes que celles à la base de films populaires comme Terminator ou Matrix, ces formes de prophéties de malheur où les intelligences artificielles finissent par se retourner contre leurs créateurs. Dans la Culture, les « Mentaux » incarnent une forme de sagesse et garantissent la bonne marche du collectif. Celui-ci bénéficie d’un niveau élevé d’organisation, mais sous une forme qui se déploie au-delà du politique. Ce ne sont pas seulement des activités qui sont redistribuées, mais aussi des responsabilités, et notamment des responsabilités morales. Ce qui semble même proche de l’idéal pour Iain M. Banks : « Donc oui, ce que je pense c’est, "ne serait-ce pas cool si nous étions délivrés de la responsabilité morale par des machines incroyablement intelligentes et sages et si nous étions juste libres de nous mettre à être humains dans un cadre moral commun de bienveillance, et ne serait-ce pas merveilleux si à chaque fois que vous gagnez en intelligence, vous devenez plus gentil ?" C’est ma propre théorie, en tout cas » (12). Les intelligences artificielles pourraient alors presque passer pour une espèce d’anges gardiens, des esprits purs veillant en permanence sur les humains pour les garder sur le chemin du bien.

Loin d’être simpliste, l’œuvre de Iain M. Banks montre en tout cas les ambivalences d’un tel régime. Au reste, il associe l’avènement d’une civilisation du type de la Culture au développement de l’humanité dans l’espace : « Au sens le plus pur, vous arrivez à la Culture presque que vous le vouliez ou non. Mais cela implique bien de s’élancer vers l’espace, et cela implique juste une accumulation énorme en termes de capacité de fabrication. Parce que vous vous retrouvez avec des entités, vaisseaux spatiaux ou autres, qui deviennent autosuffisantes et capables de se déplacer librement dans l’espace, et il est très difficile de garder un contrôle effectif sur elles » (13). Si cette étape est le facteur déterminant, il va sans dire que le chemin sera encore long.

Notes :

(1) Un article à vocation explicative, intitulé « A Few Notes on the Culture », était aussi disponible sur Internet et avait été traduit dans la revue de science-fiction Galaxies, n° 1, Été 1996 (« Quelques notes sur la Culture »). Le texte en français a été récemment repris à la fin du roman Trames (Paris, Robert Laffont, 2009).

(2) Cf. Yannick Rumpala, « Ce que la science-fiction pourrait apporter à la pensée politique », Raisons politiques, 4/2010 (n° 40), pp. 97-113.

(3) Converging Technologies for Improving Human Performance. Nanotechnology, Biotechnology, Information Technology and Cognitive Science, Edited by Mihail C. Roco and William Sims Bainbridge (National Science Foundation), NSF/DOC-sponsored report, 2002, puis Dordrecht, Kluwer Academic Publishers, 2003 (notre traduction).

(4) « Quelques notes sur la Culture », in Trames, op. cit., p. 564-565.

(5) « Ce dernier se contente de vous suivre jusqu’à la fin de vos jours, histoire que vous ne récidiviez pas » (« Quelques notes sur la Culture », in Trames, op. cit., p. 576).

(6) Christopher Palmer, « Galactic Empires and the Contemporary Extravaganza: Dan Simmons and Iain M. Banks », Science Fiction Studies, #77, vol. 26, Part 1, March 1999 (notre traduction).

(7) « Quelques notes sur la Culture », in Trames, op. cit., p. 566.

(8) Patrick Thaddeus Jackson and James Heilman, « Outside Context Problems: Liberalism and the Other in the Work of Iain M. Banks », in Donald M. Hassler and Clyde Wilcox (eds), New Boundaries in Political Science Fiction, Columbia, University of South Carolina Press, 2008.

(9) Comme l’explique Djan Seriy, l’une des protagonistes de Trames et en l’occurrence agent de Circonstances Spéciales : « Les combats de haut niveau technologique se déroulent trop vite pour les réflexes humains, et ce seront donc les combinaisons qui se chargeront de viser, tirer et esquiver à votre place » (op. cit., p. 446).

(10) « Quelques notes sur la Culture », op. cit., p. 577. On laisse ici la traduction en français proposée à la fin de Trames, bien qu’elle semble déplacer le propos initial.

(11) Alexander R. Galloway a montré cette ambivalence à propos d’Internet. Cf. Protocol. How Control Exists after Decentralization, Cambridge, MIT Press, 2004.

(12) « Author Iain M. Banks: ‘Humanity’s future is blister-free calluses!’ », Interview pour CNN (2008), notre traduction.

(13) Entretien pour le site Salon, notre traduction.


Actions

Information

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s




Suivre

Recevez les nouvelles publications par mail.

Rejoignez 65 autres abonnés

%d bloggers like this: