Techno-politique des imprimantes 3D

Le texte qui suit est aussi paru sur le site nonfiction.fr dans la rubrique « Actualité des idées ».

* * *

Les imprimantes 3D sont de plus en plus fréquemment mises parmi les « signaux faibles » de mutations en cours, voire sont annoncées comme un des éléments d’une nouvelle « révolution industrielle »[1]. Ces récents développements techniques, qui permettent d’imprimer des objets couche par couche (donc en trois dimensions), pourraient effectivement avoir des effets importants, au-delà même des processus de fabrication.

Derrière les implications technologiques et économiques envisageables peuvent aussi venir d’autres questions : qui va pouvoir se saisir de ces potentialités technologiques, de quelle manière et pour en faire quoi ? Ces enjeux sont aussi politiques[2]. Ce qui pourrait effectivement se dessiner, ce n’est pas seulement une reconfiguration des systèmes de production (pouvant prendre en l’occurrence des formes déconcentrées et plus distribuées). Au moment où l’économie semble entrer dans une nouvelle phase d’automatisation des processus productifs (voire d’activités de services), qui risque de s’avérer fortement destructrice d’emplois, se développent en effet des outils qui permettent également de produire soi-même ou de manière communautaire. Donc sans forcément devoir passer par des circuits marchands (sauf éventuellement pour l’approvisionnement en matériaux, évidemment).

Les versions les plus accessibles des imprimantes 3D semblent ouvrir des possibilités d’autoproduction difficilement envisageables auparavant, en profitant de dynamiques déjà engagées dans le domaine du « numérique ». Cette fois, le processus concernerait davantage le monde matériel, celui des objets physiques utilisables dans les vies individuelles et qui gagnent en plus l’avantage d’être manipulables et modifiables (voire partageables) sur ordinateurs sous leur forme digitalisée (et nombreuses sont les envies qui se manifestent pour élargir les possibilités et promouvoir une meilleure adaptation aux besoins). À relativement court terme, si la qualité et la précision des systèmes et processus s’améliorent, la production réalisée peut concerner non seulement des jouets, des bijoux ou des objets décoratifs, comme le proposent déjà fréquemment les catalogues de modèles accessibles en ligne, mais aussi des objets simples, plus ou moins utiles (ou même vraiment peu utiles[3]), à usage domestique, du type de ceux devenus communs dans la cuisine (vaisselle, etc.), dans la salle de bain (pommeaux de douche, etc.), dans le salon (lampes et éléments de mobilier, etc.), pour le jardinage (pots, gicleurs d’arrosage et autres accessoires). Les exemples qui ont commencé à être mis en avant sont aussi des instruments de musique, des équipements de sport, des montures de lunettes, des vêtements et des chaussures. Dans une vision optimiste, ce serait « une machine qui pourrait fabriquer presque n’importe quoi » (“a machine that can make almost anything”), si l’on reprend les termes de Hod Lipson et Melba Kurman[4] (respectivement professeur en ingénierie à Cornell University et consultante en innovation technologique).

Certes, le rendu varie bien entendu en fonction du type de machines et de leur degré de perfectionnement, les machines domestiques, relativement petites et encore plutôt grossières dans leurs productions, restant encore loin des performances des machines industrielles, forcément plus chères. La marge d’amélioration est donc encore importante, a fortiori pour une utilisation courante dans chaque foyer.

En attendant de pouvoir peut-être en arriver là, des lieux publics, comme les bibliothèques, s’intéressent de plus en plus à ces machines[5]. La mise à disposition de versions accessibles de ces technologies peut permettre de partager des savoirs et de favoriser des apprentissages autour de machines relativement simples, notamment en fournissant des espaces de démonstration et en donnant des possibilités d’expérimentation. Ces espaces conçus comme communs peuvent ainsi inciter à collaborer à des projets collectifs. Dans ce cas, c’est aussi davantage l’offre d’un accès à ces machines qui est envisagé, plutôt que la possession de ces dernières. Par rapport aux fab labs, ces lieux peuvent au surplus paraître plus ouverts et plus accessibles à des publics qui ne soient pas seulement des technophiles ou des « geeks ». Plutôt qu’une généralisation dans les foyers ou un accès restreint dans des grandes surfaces de type hypermarchés et supermarchés (comme prévoit de le faire Auchan par exemple[6]), ils peuvent être une étape vers l’installation d’ateliers de quartier.

Les promesses de l’impression 3D sont même en train de s’étendre aux aspects écologiques. Les perspectives les plus ambitieuses prétendent presque arriver à contourner la question de la limitation des ressources. Différents projets, comme RecycleBot, Filabot et FilaMaker, visent à concevoir et proposer une machine de taille réduite, éventuellement en kit, permettant de recycler les déchets en plastique pour les transformer en filaments utilisables dans des imprimantes 3D. L’intention sous-jacente est aussi de permettre de faire baisser le coût des filaments. De telles initiatives permettent d’envisager de boucler les cycles d’utilisation des matériaux[7] et de rejoindre certaines conceptions couramment regroupées sous le terme d’« économie circulaire ». De ce point de vue, l’impression tridimensionnelle serait une pièce dans un agencement plus large. Elle rendrait envisageable un couplage technologique qui pourrait ouvrir des possibilités écologiques, grâce à des machines complémentaires. Le recyclage pourrait être décentralisé, en réduisant les nécessités de collecte et de transport vers de grosses unités de type industriel. La réalisation de ce bouclage suppose toutefois qu’il y ait dans la population une motivation à se doter d’un tel équipement permettant le recyclage, plutôt qu’à jeter. La facilité d’utilisation, comme pour beaucoup de technologies à usage quotidien serait un atout supplémentaire. Une autre condition serait que la possibilité d’utilisation d’un matériau recyclé dans des imprimantes 3D ne devienne pas une excuse pour moins se soucier des déchets qui peuvent être produits. Les controverses potentielles sur les mérites écologiques de ces machines relativement nouvelles ont du reste commencé à alimenter les incitations à développer des « analyses de cycle de vie » (ACV)[8]. S’ils se poursuivent, le rapprochement et l’agencement de ces différentes machines vont en tout cas être intéressants à suivre.

Alors que l’imaginaire des économies industrielles avait installé les fabrications matérielles dans le monde des usines, l’effervescence autour des imprimantes 3D semble en train d’ouvrir d’autres horizons. Derrière elles, il n’y a pas qu’une question de diversification des modes de production. Il y a aussi celle de la redistribution des capacités permettant de répondre à certains besoins matériels. Donc celle des conditions d’existence dans une société où le quotidien dépend de multiples artefacts. Une infrastructure productive « relocalisée », hyperlocalisée même, peut-elle alors devenir le vecteur d’une forme d’autonomie ? Pouvoir faire soi-même, ou au moins avec des machines accessibles localement (sans être dépendant de circuits compliqués et opaques). Autrement dit, pour le consommateur devenu prosommateur (à la fois producteur et consommateur), être potentiellement moins captif et savoir comment produire une partie de ce qui est utilisé quotidiennement. Une façon de qualifier cette potentialité est de parler de « déprolétarisation », à la manière du philosophe Bernard Stiegler[9], et l’on pourrait reprendre sa perspective et l’adapter, notamment pour la dégrossir et pouvoir bien tenir compte des agencements collectifs dans lesquels ce nouvel outillage va s’insérer (avec toutes les résistances et tous les obstacles que cela peut supposer). Il faudra alors appréhender et suivre l’énergie créative qui pourra être investie dans ces machines encore évolutives que sont les imprimantes 3D. Et suivre surtout les usages qui en actualiseront éventuellement les potentialités.

---

[1] Cf. Chris Anderson, Makers : la nouvelle révolution industrielle, Montreuil, Pearson, 2012.

[2] Cf. Yannick Rumpala, « L’impression tridimensionnelle comme vecteur de reconfiguration politique », Cités 3/2013 (n° 55), pp. 139-162. URL : www.cairn.info/revue-cites-2013-3-page-139.htm

[3] Cf. Hubert Guillaud, « Sortira-t-il autre chose que des “Crottbjets” de nos imprimantes 3D ? », InternetActu.net, 27/02/13, http://www.internetactu.net/2013/02/27/sortira-t-il-autre-chose-que-des-crottbjets-de-nos-imprimantes-3d/

[4] Cf. “Chapter 2: A machine that can make almost anything”, in Hod Lipson, Melba Kurman, Fabricated: The New World of 3D Printing, Hoboken, Wiley, 2013.

[5] Cf. Bruce E. Massis, “3D printing and the library”, New Library World, vol. 114, n° 7/8 (2013), pp. 351-354 ; Riel Gallant, “3D Printing in Libraries Around the World”, April 22, 2013, http://www.3ders.org/articles/20130422-3d-printing-in-libraries-around-the-world.html

[6] Cf. Sabine Blanc, « Chéri, achète de la lessive et imprime un porte-clé », Slate, 30/10/2013, http://www.slate.fr/story/79484/imprimante-3D-supermarche-auchan

[7] Cf. William McDonough / Michael Braungart, Cradle to cradle. Créer et recycler à l’infini, Paris, Éditions Alternatives, 2011.

[8] S’agissant de la mise en évidence d’une réduction des impacts environnementaux, voir par exemple Megan Kreiger and Joshua M. Pearce, “Environmental Life Cycle Analysis of Distributed Three-Dimensional Printing and Conventional Manufacturing of Polymer Products”, ACS Sustainable Chemistry & Engineering, September 2013, http://pubs.acs.org/doi/full/10.1021/sc400093k

[9] Cf. Entretien avec Bernard Stiegler, XXI, n° 16, Automne 2011, notamment p. 163.

Quelques notes (techno-politiques) sur les Mentaux de la « Culture »

Le texte qui suit vient de paraître sur le site actusf.com. Il fait partie d’un petit dossier consacré à Iain M. Banks, à l’occasion de la parution récente en deux tomes d’Enfers Virtuels (dans la collection « Ailleurs & Demain » des éditions Robert Laffont,), son dernier roman dans sa série de la « Culture ». En voici donc une exploration guidée et un prétexte à réflexion sur un versant plus philosophique et politique.

                                                                – – – – – – –

      Une vaste société plutôt libertaire, sans gouvernement, mais administrée grâce à des machines intelligentes. Voilà sommairement comment on pourrait résumer le modèle politique de la Culture, cette civilisation galactique, puissante et expansionniste, imaginée par l’écrivain écossais Iain M. Banks. On pourrait se contenter de prendre la Culture comme un simple arrière-plan narratif, une espèce de décor raffiné,  dans une œuvre littéraire qui a permis à Iain M. Banks de figurer parmi les auteurs majeurs ayant contribué à renouveler le genre du « space opera ». Mais, comme le riche univers ainsi créé fait se rejoindre imaginaire technique et imaginaire politique, il peut être aussi intéressant de le considérer comme une source d’inspiration, voire comme un point de départ pour des explorations plus philosophico-politiques.

Dans cette série de romans, la civilisation mise en scène, extrêmement avancée technologiquement, s’est étendue dans la galaxie en étant basée sur des principes qu’on pourrait qualifier, avec nos catégories politiques modernes, d’anarchistes. La Culture est un vaste rassemblement d’espèces humanoïdes dans lequel les problèmes de pénurie sont dépassés et le pouvoir paraît presque dissous. Dans cette civilisation plurimillénaire, ce sont des intelligences artificielles (« Minds » ou « Mentaux » dans les traductions françaises) qui assument les tâches de gestion des affaires collectives, libérant ainsi la masse des individus pour des activités plus spirituelles ou ludiques. Le type d’organisation collective décrit par Iain M. Banks dans ses romans (1) tient pour une large part grâce à l’appui bienveillant de ces intelligences artificielles. Dans le modèle civilisationnel de la Culture, certaines séparations ontologiques ont disparu, puisque ces entités se comportent et sont traitées comme des personnes. Vaisseaux et stations spatiales ont leurs propres « Mentaux » qui  formulent  leurs  propres  choix.  D’une certaine manière,  ces machines « conscientes », « sensibles », dépassant les humains en intelligence, « sont » ces engins spatiaux. Elles sont l’infrastructure pensante de la Culture, qu’elles contrôlent d’ailleurs plus qu’elles ne l’habitent.

Si l’on suit la vision de Iain M. Banks, le développement et la présence généralisée de ces intelligences artificielles ont bouleversé le fonctionnement politique, et même la conception du politique. Ce serait une application très particulière des principes anarchistes. L’auteur a en effet créé un monde organisé dans lequel, grâce aux intelligences artificielles et à l’insouciance énergétique et matérielle, le projet de remplacement du gouvernement des hommes par l’administration des choses a été réalisé. Dans ce modèle, il n’y aurait plus vraiment de choix politiques à faire. Les décisions délicates engendrées par des problèmes d’allocation des ressources n’auraient plus lieu d’être, ou au pire pourraient-elles être résolues par des puissances de calcul phénoménales. Les dérives dans l’usage du pouvoir ne seraient plus tellement à craindre, puisque celui-ci se trouverait en quelque sorte octroyé à ces intelligences artificielles qui, constitutivement, auraient dépassé ces enjeux (ou en tout cas pour qui ce type de tentations ne ferait guère sens).

Dans l’œuvre de Iain M. Banks, ces éléments ne relèvent pas du simple décor de science-fiction : ils jouent un rôle important et intime dans les récits. Au-delà de l’analyse littéraire, ils peuvent être exploités comme une base de questionnement (2) sur les possibilités de régulation « sociale » sans intervention humaine directe, ou plus précisément avec la médiation de machines évoluant vers une forme d’intelligence artificielle. Quelles tâches peuvent être confiées à des machines qui ne sont plus de simples automates ? Ces tâches peuvent-elles interférer avec d’autres relevant des choix collectifs humains ? Quelles implications cela a-t-il dans la gestion d’affaires qui sont collectives ? Que reste-t-il du politique quand il devient dépendant de machines de plus en plus évoluées ? L’idée dans ce petit commentaire n’est pas d’évoquer toutes les particularités subtiles de la Culture, mais de se concentrer sur une dimension spécifique, celle précisément qui dessine une techno-politique, même si la fusion ainsi réalisée ne prétendait pas forcément sortir du registre fictionnel.

Société ouverte et abondance automatisée

Quelques précisions quand même sur la Culture elle-même, pour ceux qui ne l’auraient encore jamais visitée. Telle que Iain M. Banks la met en scène, c’est une civilisation, pas un empire. Rien, dans ce qui anime ses membres, ne ressemble à une quelconque ambition d’exercer une autorité ou une souveraineté sur les espaces galactiques où elle est présente. Ce qui ne veut pas dire qu’elle s’en désintéresse. Au contraire. Les romans de la série sont des épisodes où la Culture se retrouve en relation avec d’autres civilisations, avec l’enjeu notamment de défendre ou de promouvoir son modèle, de la manière la plus pacifique possible. Elle le fait le plus souvent en s’efforçant de ne pas apparaître directement, et en confiant donc la tâche à des branches spécialisées (« Contact » pour les aspects diplomatiques et « Circonstances spéciales » pour l’espionnage et les opérations clandestines), dont les agents sont réputés être suffisamment discrets et efficaces.

La Culture est une civilisation sûre de ses valeurs et le plus souvent confiante en ses capacités. Elle a des raisons de le croire, car elle a atteint un niveau d’évolution technique qui lui assure les facteurs essentiels à son maintien et à son expansion. Sur le plan matériel, elle a acquis une capacité à produire matière et énergie sans restriction (mais Iain M. Banks ne donne pas de détails sur cet apanage). En plus, et c’est ce qui va nous intéresser davantage, elle bénéficie de l’appui d’intelligences artificielles de diverses formes, de celles qui peuvent gérer de gigantesques habitats spatiaux artificiels (les « orbitales », dont la taille peut aller jusqu’à quelques millions de kilomètres de diamètre), jusqu’aux « drones », plus proches de la figure classique du robot. À première vue, la Culture pourrait être une incarnation de l’espoir formulé par ceux qui croient à la convergence technologique et aux retombées des nanosciences. Elle semble avoir atteint un stade permettant « l’interaction pacifique et mutuellement profitable entre les humains et les machines intelligentes, la disparition complète des obstacles à la communication généralisée, en particulier ceux qui résultent de la diversité des langues, l’accès à des sources d’énergie inépuisables » (3).

La description de Iain M. Banks va cependant plus loin que l’interaction. Ces machines intelligentes, dotées de personnalités distinctes, qu’il appelle les « Mentaux » pour les plus évoluées, sont devenues collectivement l’infrastructure administrative de cette civilisation, et leurs capacités sont telles qu’il ne semble plus y avoir de raison de ne pas se reposer sur elles pour assurer le bien-être général. Cette omniprésence semble avoir rendu superflues des institutions qui paraîtraient communes aux humains que nous sommes. La Culture n’est pas sans règles, mais celles-ci ne s’apparentent pas à des lois écrites, a fortiori élaborées par un organe législatif. Son fonctionnement ne repose pas sur des institutions correspondant à ce que nous appellerions un gouvernement. Le degré d’avancement technique semble avoir permis d’automatiser les fonctions de base à partir desquelles une société peut se perpétuer, les fonctions les plus élaborées étant reportées sur les « Mentaux » (par exemple comme « Moyeux » pour ceux gérant les anneaux spatiaux des « orbitales »). Pour les humanoïdes intégrés à la Culture, plus besoin de travailler, puisque les tâches ingrates peuvent être confiées à des machines moins évoluées et sans conscience. L’argent n’est plus utile puisque les raretés matérielles ont disparu.

L’anarchie assistée par ordinateur

Iain M. Banks élimine ainsi un bon nombre de facteurs produisant de la domination. Comme il l’explique lui-même dans une longue note complémentaire : « En gros, au sein de la Culture, rien ni personne n’est exploité. Il s’agit fondamentalement d’une société automatisée au niveau des processus manufacturiers, où l’intervention humaine se résume à une occupation impossible à distinguer du jeu ou du hobby. Les machines n’y sont pas exploitées non plus ; l’idée ici est que toutes les tâches peuvent être automatisées de telle manière qu’elles puissent être exécutées par des machines maintenues bien au-dessous de la conscience potentielle ; ainsi, ce qui à nos yeux serait un ordinateur d’une complexité stupéfiante chargé de la gestion d’une usine ne serait guère pour les IAs de la Culture qu’une calculatrice un peu améliorée, pas plus exploitée que l’insecte pollinisant l’arbre fruitier dont l’homme va ensuite manger le fruit » (4).

Humains et machines se mêlent ainsi dans un collectif qui semble fonctionner sur des bases égalitaires, dans un respect mutuel. La présence de machines évoluées dans l’environnement courant relève de l’évidence pour les humanoïdes qui les côtoient. Dans la Culture, l’intelligence artificielle n’est pas un objet qu’on utilise ; c’est un compagnon, un partenaire, un conseiller, un confident même parfois, voire un surveillant permanent sous la forme d’un « drone punitif » en cas de condamnation pour meurtre (5). Sous sa forme la plus évoluée, l’objet technique est personnifié, et sa technicité disparaît presque (les drones et les vaisseaux ont même un nom personnel), de même d’ailleurs que semblent disparaître ceux qui auraient pu appréhender cette technicité, à savoir les scientifiques, techniciens et autres détenteurs de connaissances plus ou moins technologiques. Et donc, sauf cas où leur destruction devient un moment de révélation (ou un peu avant, comme au tout début d’Une forme de guerre), le lecteur ne sait pas comment les artefacts techniques opèrent et se trouve en définitive presque face à une espèce de prodige technologique. Comme le fait remarquer Christopher Palmer : « Lorsque la technologie fonctionne « normalement », ses modes opératoires sont dissimulés, aisés, et comme s’ils étaient magiques — une exagération de l’expérience quotidienne de la technologie, mais, dans ce contexte de capacités immenses, une exagération révélatrice. En outre, Banks a imaginé une société future d’une portée technologique presque utopique, mais une société qui a confié le travail (physique ou intellectuel) à des « Mentaux » invisibles et à des drones. Il ne manifeste aucune inclination à imaginer l’activité de l’expert, du technicien, ou du scientifique comme un moyen de faire apparaître la technologie » (6). De fait, les capacités de ces machines hautement évoluées pourraient amener à se demander qui les conçoit et les produit. Au fil des différents romans, on ne saura pourtant jamais vraiment comment sont fabriqués les Mentaux. C’est juste dans le registre du commentaire que Iain M. Banks pourra glisser comme explication très brève que « [les IAs de la Culture] sont conçues (par d’autres IAs, et ce pratiquement depuis l’aube de l’histoire de la Culture) à l’intérieur d’une fourchette de paramètres très large mais réelle » (7).

Grâce aux intelligences artificielles, la Culture pourrait représenter le règne de l’agir rationnel, mais en finissant par s’appuyer sur une rationalité qui n’est plus strictement humaine, puisque largement artefactuelle. À tel point que Patrick Thaddeus Jackson et James Heilman en viennent à considérer que : « En renvoyant aux Mentaux pratiquement tout ce qui est de conséquence, la Culture s’est en effet laissée elle-même gouverner par la raison plus absolument que toute société dépendant d’autorités humaines pourrait l’être. […] La présupposition qui prévaut dans la Culture, alors, est que si les Mentaux le décrètent, alors cela doit être raisonnable, et étant donné que la Culture est une société raisonnable, elle doit écouter ses Mentaux » (8). Des divergences peuvent exister entre les « Mentaux » (comme dans Excession pour faire face à une menace extérieure), mais elles se résolvent sans déraper vers des conflits plus ouverts. Ce primat d’un agir collectif rationnel, hyper-calculateur, se manifeste encore plus par effet de contraste lorsque la Culture rencontre des civilisations basées sur des principes divergents, comme l’Empire d’Azad où le jeu est au cœur du système politique, notamment comme mode de sélection des gouvernants (d’où le recrutement et l’envoi d’un agent joueur professionnel qui sera le héros, largement manipulé, de L’homme des jeux).

La Culture, une civilisation hédoniste, bienveillante… et post-politique ?

L’extension de cette civilisation à une échelle galactique peut aussi expliquer que le recours aux intelligences artificielles soit devenu nécessaire, dans la mesure où, même rassemblées et améliorées, les capacités humaines apparaissent largement en deçà de celles requises pour un degré d’organisation qui déborde le pensable (d’autant que, à l’instar des épisodes racontés dans les romans du cycle, la Culture reste en expansion en continuant à absorber d’autres civilisations). Partie intégrante de cette civilisation, ces intelligences artificielles assurent ainsi autant son entretien quotidien que la prise en charge de son devenir par une planification à plus long terme.

Les humains n’ont de fait plus les capacités de rattraper les intelligences des « Mentaux ». Ils sont devenus les obligés d’entités qui sont devenues d’une certaine manière supérieures. C’est pour cela que dans Une forme de guerre, le personnage central, Horza, mercenaire employé par la civilisation rivale des Idirans, considère la Culture comme une société dégénérée qui a succombé à l’emprise des machines. Autrement dit, sans s’apercevoir véritablement que son mode de vie hédoniste se paie au prix d’un abandon tendanciel du libre arbitre individuel. Les humains de la Culture pourraient répondre qu’ils y trouvent aussi une forme de sécurité. Avec les différentes variétés de terminaux qu’ils portent sur eux, ils ont toujours un lien de communication avec les « Mentaux », ce qui leur évite d’être laissés en difficulté ou à l’abandon en cas de situation problématique (accident, etc.).

Si la Culture est a priori pacifique et bienveillante, ses membres, et donc ses intelligences artificielles, peuvent néanmoins être amenés dans certaines circonstances à faire la guerre. Par exemple, comme dans Une forme de guerre, contre les Idirans et leur fanatisme expansionniste, et pour défendre ainsi des valeurs collectives. En cas de besoin, les systèmes défensifs et offensifs de la Culture sont à la mesure de ses capacités technologiques, donc forcément impressionnants pour des personnes de civilisations moins avancées (avec par exemple des combinaisons de combat capables de suppléer aux faiblesses de leurs utilisateurs) (9).

Dans la vision de Iain M. Banks, la politique semble garder une place, mais sous une forme principalement référendaire et dans une logique proche d’un principe de subsidiarité, où le niveau le plus pertinent n’a pas nécessairement besoin d’une intervention supérieure : « Dans la Culture, la politique se ramène au référendum en cas de problème à résoudre ; en théorie, chacun peut à tout moment proposer la tenue d’un scrutin sur n’importe quel sujet. Tous les citoyens ont le droit de voter. Quand il est question d’une subdivision ou d’une partie d’un habitat global, tous ceux, hommes ou machines, qui peuvent raisonnablement se prétendre concernés sont en droit de réclamer un vote. On exprime ses opinions et on formule les problèmes principalement via le réseau (libre et gratuit, évidemment), et c’est là que l’individu peut exercer son influence la plus personnelle, étant donné que les décisions prises après consultation sont généralement appliquées et supervisées par l’intermédiaire d’un Moyeu ou de tout autre machine gestionnaire, pendant que les humains, eux, font davantage office d’agents de liaison (le plus souvent par roulement) que de véritables décisionnaires. « Il est d’autant plus difficile d’accéder au pouvoir qu’on le désire ardemment », telle est une des rares lois auxquelles la Culture obéisse strictement » (10). Toutes les opinions semblent ainsi pouvoir être recensées et accéder à l’espace public. Celui-ci d’ailleurs n’a plus de matérialité, puisque tout choix collectif est replacé dans un univers virtuel (l’« infocosme » en traduction française ou le « dataverse » en version originale), où chacun peut mettre en avant ses arguments. Et, à nouveau, ce sont des machines qui permettent de suivre les discussions et les processus en cours, mais aussi de concrétiser les résolutions établies collectivement. Pas de divergences d’intérêts, de relations de pouvoir, qui puissent ainsi subsister entre humains et non-humains : tout se passe comme si elles étaient transcendées par ces processus hybrides, censés être capables de produire à chaque fois une forme de bien commun.

Lorsqu’il dépeint cette civilisation qu’il a appelée la Culture, Iain M. Banks postule apparemment une forme d’égalité entre humains et machines, et en tout cas une absence de hiérarchie. Dans ce vaste collectif galactique, l’avancée technique semble avoir permis d’accéder à un régime post-gouvernemental dans une société sans classes. La capacité des « intelligences artificielles » a ôté toute raison de chercher à appuyer la gestion des affaires collectives sur un État ou sur une administration.

Au-delà de la simple coexistence d’entités de nature différente, ce modèle semble supposer un accord général sur ce qu’est le bien commun. Et les principaux clivages d’intérêt semblent avoir disparu. Le modèle politique proposé par Iain M. Banks ressemble encore à une démocratie, mais encadrée et réglée par une nouvelle forme d’élite dont la sagesse est postulée, une élite qui serait d’un type technocratique particulier puisque constituée d’« intelligences artificielles ». D’une délégation, on passerait ainsi à une autre.

Il est d’ailleurs intéressant de faire le rapprochement avec les réflexions théoriques sur la démocratie en philosophie politique ou en science politique. Dans leurs évolutions récentes, elles ont contribué à remettre en avant la dimension délibérative des activités politiques, notamment comme garantie de légitimité des choix collectifs. Chez Iain M. Banks, cette dimension délibérative semble évacuée. Le lecteur ne peut que se demander s’il est possible de débattre avec des intelligences artificielles, et a fortiori à large échelle. Dans quel espace public ?

Une présence de plus en plus diffuse de machines évoluées est aussi de nature à remettre en cause profondément la  pertinence de la notion de décision. Pour les humains, que reste-t-il de l’autonomie individuelle ? Ce type de fonctionnement collectif suppose une confiance dans les machines (et dans une nouvelle gamme de systèmes experts). Mais ce n’est pas parce que les avancées en matière d’intelligence artificielle ne produisent pas une technique centralisatrice, hiérarchisante et oppressive, qu’elles comportent forcément un potentiel d’émancipation (11). Dans les romans relatifs à la Culture, rien n’est dit sur les modalités d’encadrement de l’activité des « Mentaux ». À supposer qu’ils se laissent encadrer…

* * *

Comme on le voit, la Culture paraît offrir des hypothèses plus optimistes que celles à la base de films populaires comme Terminator ou Matrix, ces formes de prophéties de malheur où les intelligences artificielles finissent par se retourner contre leurs créateurs. Dans la Culture, les « Mentaux » incarnent une forme de sagesse et garantissent la bonne marche du collectif. Celui-ci bénéficie d’un niveau élevé d’organisation, mais sous une forme qui se déploie au-delà du politique. Ce ne sont pas seulement des activités qui sont redistribuées, mais aussi des responsabilités, et notamment des responsabilités morales. Ce qui semble même proche de l’idéal pour Iain M. Banks : « Donc oui, ce que je pense c’est, « ne serait-ce pas cool si nous étions délivrés de la responsabilité morale par des machines incroyablement intelligentes et sages et si nous étions juste libres de nous mettre à être humains dans un cadre moral commun de bienveillance, et ne serait-ce pas merveilleux si à chaque fois que vous gagnez en intelligence, vous devenez plus gentil ? » C’est ma propre théorie, en tout cas » (12). Les intelligences artificielles pourraient alors presque passer pour une espèce d’anges gardiens, des esprits purs veillant en permanence sur les humains pour les garder sur le chemin du bien.

Loin d’être simpliste, l’œuvre de Iain M. Banks montre en tout cas les ambivalences d’un tel régime. Au reste, il associe l’avènement d’une civilisation du type de la Culture au développement de l’humanité dans l’espace : « Au sens le plus pur, vous arrivez à la Culture presque que vous le vouliez ou non. Mais cela implique bien de s’élancer vers l’espace, et cela implique juste une accumulation énorme en termes de capacité de fabrication. Parce que vous vous retrouvez avec des entités, vaisseaux spatiaux ou autres, qui deviennent autosuffisantes et capables de se déplacer librement dans l’espace, et il est très difficile de garder un contrôle effectif sur elles » (13). Si cette étape est le facteur déterminant, il va sans dire que le chemin sera encore long.

Notes :

(1) Un article à vocation explicative, intitulé « A Few Notes on the Culture », était aussi disponible sur Internet et avait été traduit dans la revue de science-fiction Galaxies, n° 1, Été 1996 (« Quelques notes sur la Culture »). Le texte en français a été récemment repris à la fin du roman Trames (Paris, Robert Laffont, 2009).

(2) Cf. Yannick Rumpala, « Ce que la science-fiction pourrait apporter à la pensée politique », Raisons politiques, 4/2010 (n° 40), pp. 97-113.

(3) Converging Technologies for Improving Human Performance. Nanotechnology, Biotechnology, Information Technology and Cognitive Science, Edited by Mihail C. Roco and William Sims Bainbridge (National Science Foundation), NSF/DOC-sponsored report, 2002, puis Dordrecht, Kluwer Academic Publishers, 2003 (notre traduction).

(4) « Quelques notes sur la Culture », in Trames, op. cit., p. 564-565.

(5) « Ce dernier se contente de vous suivre jusqu’à la fin de vos jours, histoire que vous ne récidiviez pas » (« Quelques notes sur la Culture », in Trames, op. cit., p. 576).

(6) Christopher Palmer, « Galactic Empires and the Contemporary Extravaganza: Dan Simmons and Iain M. Banks », Science Fiction Studies, #77, vol. 26, Part 1, March 1999 (notre traduction).

(7) « Quelques notes sur la Culture », in Trames, op. cit., p. 566.

(8) Patrick Thaddeus Jackson and James Heilman, « Outside Context Problems: Liberalism and the Other in the Work of Iain M. Banks », in Donald M. Hassler and Clyde Wilcox (eds), New Boundaries in Political Science Fiction, Columbia, University of South Carolina Press, 2008.

(9) Comme l’explique Djan Seriy, l’une des protagonistes de Trames et en l’occurrence agent de Circonstances Spéciales : « Les combats de haut niveau technologique se déroulent trop vite pour les réflexes humains, et ce seront donc les combinaisons qui se chargeront de viser, tirer et esquiver à votre place » (op. cit., p. 446).

(10) « Quelques notes sur la Culture », op. cit., p. 577. On laisse ici la traduction en français proposée à la fin de Trames, bien qu’elle semble déplacer le propos initial.

(11) Alexander R. Galloway a montré cette ambivalence à propos d’Internet. Cf. Protocol. How Control Exists after Decentralization, Cambridge, MIT Press, 2004.

(12) « Author Iain M. Banks: ‘Humanity’s future is blister-free calluses!’ », Interview pour CNN (2008), notre traduction.

(13) Entretien pour le site Salon, notre traduction.

La science-fiction comme matériau exploratoire : éléments de méthode et étude de cas

Des machines très évoluées pourraient-elles un jour participer au gouvernement du collectif ? Jusqu’à en changer la nature et le fonctionnement ? Des avancées informatiques à venir peuvent-elles conduire à renouveler la conception des formes possibles de l’administration des affaires publiques et de la régulation des activités sociales ? Si oui, dans quelle mesure ? Que reste-t-il du politique quand il devient dépendant de systèmes informatisés de plus en plus perfectionnés, comme ceux pouvant amener à parler d’« intelligences artificielles » ? Quelle part de choix peut-il subsister lorsque les formes de délégation à des artefacts techniques complexes deviennent de plus en plus nombreuses ?

Difficile de répondre à ces questions sans trouver comment amorcer une analyse de techniques qui n’existent pas encore concrètement, ou qui n’existent qu’à l’état de potentiel. Dans un article de 2010 (« Ce que la science fiction pourrait apporter à la pensée politique », Raisons politiques,  n° 40, disponible sur le portail cairn), j’avais proposé comme solution de considérer les œuvres fictionnelles axées sur l’avenir comme des supports heuristiques. L’idée était de prendre les œuvres de science-fiction à la fois comme un réservoir d’expériences de pensée et comme des formes de problématisations (au sens de Michel Foucault). Ces œuvres n’ont pas forcément été conçues comme des expériences de pensée, mais on peut considérer que la plus large part d’entre elles peut être réutilisée sur ce modèle, autrement dit comme si elles offraient des hypothèses à travailler (Et si… ?). Stimulante, la science-fiction l’est conjointement pour l’esprit, car elle peut être abordée comme une manière de problématiser non seulement des évolutions dans le domaine de la science (si l’on reste attaché à la dénomination du genre), mais aussi, et peut-être surtout, leurs conséquences plus ou moins directes sur les systèmes sociaux et politiques. À la manière de Michel Foucault (Cf. « Le souci de la vérité », in Dits et écrits 1954-1988, Tome II, Quarto Gallimard, 1994), ces problématisations peuvent être conçues comme des façons pour la pensée de s’emparer d’objets d’apparence relativement nouvelle. Pour être plus précis, elles peuvent être des manières d’interroger des conditions de possibilité, et alors fonctionner de telle sorte qu’entre l’entrée et la sortie de l’œuvre, la représentation d’une question se trouve modifiée. Dans le cas d’une œuvre littéraire, il est d’ailleurs fort possible que ces problématisations ne soient que le réarrangement de représentations diffuses reprises plus ou moins consciemment par l’auteur. Mais cela n’en diminue pas l’intérêt pour autant.

Reconsidéré de cette manière, le matériau fictionnel peut alors trouver des appuis méthodologiques pour devenir lui aussi un support de connaissance, même si sa relation à la réalité peut paraître très détachée. Sur un sujet comme celui des « intelligences artificielles », il peut s’agir notamment de repérer les mises en scène où le lecteur peut voir opérer ces machines « hyper évoluées ». Ces mises en scène sont éparpillées, mais leur rapprochement peut aider à dessiner une configuration relativement cohérente, avec de surcroît le bénéfice d’une liberté intellectuelle permettant de dépasser la question des frontières (largement artificielles) entre ce qui serait technique et ce qui serait politique. Même si les technologies envisagées sont encore hypothétiques, des potentialités peuvent être ainsi actualisées, non pas dans la réalité en l’occurrence, mais dans une construction fictionnelle (qui peut arriver à créer des effets de réalité). Traitée comme une forme de problématisation (avec d’ailleurs sa part de réactivation de mythes plus ou moins anciens), la science-fiction peut alors être mise plus facilement en relation avec d’autres formes de problématisation, comme celles qui existent dans la réflexion politique ou philosophique, ou celles qui trament l’accompagnement discursif de développements techniques.

Reprenons donc plus explicitement le cas des « intelligences artificielles », que j’avais commencé à explorer à partir de l’œuvre de l’écossais Iain M. Banks où il met en scène cette civilisation galactique technologiquement très avancée, hédoniste et libertaire, expansionniste mais bienveillante, qu’il a dénommée la « Culture » (pour une présentation, voir cet ancien billet). Bien entendu, la situation actuelle est encore loin de celle présentée dans ce type de roman, et des entités aussi évoluées que les « intelligences artificielles » décrites (des « Mentaux » dans le cas de la « Culture ») n’existent pas encore à proprement parler. Commencent déjà cependant à intervenir depuis quelques années d’autres technologies « intelligentes », de plus en plus intégrées dans l’environnement quotidien (rues, bâtiments, véhicules, etc.) et conçues pour « anticiper » les attentes. Si se poursuivent les développements de cette « intelligence ambiante », individus et groupes humains pourraient ainsi voir leur vie prise dans une forme d’assistance permanente, presque gérée même, et de nature à produire de nouvelles dépendances. À l’Université de Stanford en Californie, le Persuasive Technology Lab par exemple travaille sur des « machines conçues pour transformer les humains ». Les chercheurs du laboratoire se sont ainsi engagés dans ce que son directeur, B.J. Fogg, a appelé la « captology », qui est définie comme : « the study of computers as persuasive technologies. This includes the design, research, and analysis of interactive computing products (computers, mobile phones, websites, wireless technologies, mobile applications, video games, etc.) created for the purpose of changing people’s attitudes or behaviors » (voir aussi B.J. Fogg, Persuasive Technology. Using Computers to Change What We Think and Do, San Francisco, Morgan Kaufmann, 2002).

Une telle évolution des machines, débordant largement les seuls aspects mécaniques, apparaît porteuse de conséquences importantes. Depuis longtemps, l’humanité peuple le monde d’artefacts divers, mais elle semble maintenant en train d’en rajouter toute une gamme aux possibilités nouvelles. En plus des machines transformant l’énergie et/ou la matière opèrent maintenant des machines capables de traiter des flux d’information, et ce dans des quantités et à des vitesses prodigieuses. Il est encore difficile de dire si ces artefacts machiniques pourraient être les prémisses d’« intelligences artificielles » à venir. En tout cas, ils n’interviennent plus comme de simples instruments au service des activités humaines, mais finissent par former un assemblage sociotechnique au sein duquel ils semblent gagner des capacités de régulation plus autonomes. Dans cette évolution, c’est ainsi le rapport du collectif avec ses créations artefactuelles qui est susceptible de changer. Certes, des artefacts non-humains pouvaient déjà bénéficier de formes de délégation de la part des humains. Mais, avec des « intelligences artificielles », l’enjeu pourrait passer à un niveau supérieur. Surtout, un tel enjeu fait typiquement partie des nouvelles questions qui résultent de poussées techniques en cours, mais qu’il est devenu difficile de penser au présent (le risque étant de laisser ces évolutions sans réflexions sur leurs implications sociales et politiques). Même si ces développements possibles ne sont pas encore entrés en fonctionnement, il n’est donc pas inutile de leur donner une mise en situation. Comme j’essaye de le montrer, les productions fictionnelles, en saisissant des potentialités techniques sous une forme imaginaire, peuvent justement contribuer à amorcer des formes de réflexivité, de mise en réflexion collective, et à mettre en contraste différentes voies de réalisation des développements technologiques.

Dans un article presque tout frais, je reprends donc une partie de l’œuvre d’Iain M. Banks en appliquant cette méthode, pour analyser comment une civilisation recourant massivement et de manière presque banale à des « intelligences artificielles » peut voir son organisation politique notablement transformée. La mise en scène littéraire y est en effet suffisamment habile pour permettre de ne pas tomber trop facilement dans le messianisme technologique ou dans les prophéties de malheur où l’humanité finit complètement asservie par les machines. Cet article, intitulé « Artificial intelligences and political organization: an exploration based on the science fiction work of Iain M. Banks », paraît ce mois-ci dans la revue Technology in Society, Volume 34, n° 1. Pour les personnes intéressées qui ne seraient pas rattachées à une institution abonnée, une ancienne version, un peu moins complète, est aussi encore disponible en ligne. De toute manière, un petit courriel à l’auteur suffit pour avoir une copie.

Anarchy in a world of machines

In the margins of my main research topics, I started to develop some reflections on the relationship between science fiction and political thought. As is often the case, working on a topic leads one to perceive the potential of another more or less related subject. This is typically what happened with a series of novels which are in my opinion very stimulating and may lead me to propose a more substantial text if I can find enough time for such a form of intellectual escape (P.S.: the result is a longer article published in Technology in Society).

By trying to combine a literary starting point and prospective thinking, the idea would be to test a hypothesis that could at first seem to be science-fiction, but that might not be science fiction only. This hypothesis comes from a part of the work of the Scottish writer Iain M. Banks, the one commonly gathered under the name of “Culture cycle”, and from the social organization it describes. This series of science fiction novels, often praised for having revolutionized the genre of “space opera”, presents an intergalactic civilization (“the Culture”), based on anarchist principles and where shortage problems have been put an end to and in which power seems almost dissolved. In this civilization enjoying an elaborate technological development, forms of artificial intelligence (called “minds” in the novels) assume the tasks of administrating collective affairs, freeing up the mass of people for more spiritual or recreational activities. The type of collective organization described by Iain M. Banks in his novels[1] mostly works thanks to the benevolent support of these forms of artificial intelligence.

Can such a hypothesis, expressed in a literary register, help one think of the role that smart (or at least greatly advanced) machines could take in a social and political organization? How could the inclusion of such machines be made in collective life? In the civilizational model given by the Culture, certain ontological separations have disappeared, since these entities behave and are treated as individuals. Human beings and machines thus co-exist in a collective that seems to function on the basis of equality, with mutual respect. Ships and space stations have their own “minds” and make their own choices. Somehow, these conscious and sensitive machines outsmarting human intelligence “are” those spacecrafts. They are the thinking infrastructure of the Culture, which they also control more than they live in.

If we follow Iain Banks’ vision, the development and widespread presence of these forms of artificial intelligence have changed the political functioning, and even the design of politics. This is a very peculiar application of anarchist principles. The author has indeed created an organized world in which, thanks to forms of artificial intelligence and the solution given to energy and scarcity impediments, the project of replacing the government of men by the administration of things has been achieved. In this model, there would be no real political choices to be made[2]. Difficult decisions caused by problems of resource allocation would no longer happen, or at the worst they could be resolved by phenomenal powers of calculation. Excesses in the use of power would not have to be feared any more, since this use would be somehow allocated to these artificial intelligences, who would have constitutively moved beyond these issues (or in any case for who such temptations would make little sense).

In the work of Iain M. Banks, these elements do not merely have to do with a science-fiction scenery: they play an important and intimate role in the stories. Beyond a literary analysis, they can be used as a basis for questioning the possibilities of “social” regulation without direct human intervention, or more precisely with the mediation of machines moving towards a form of artificial intelligence. Hence my desire and this proposal to test to what extent and on what basis such an assumption may hold. This reflection in my opinion should be organised on three levels. The first should go back over the anarchist thought to show that the vision of Iain M. Banks can certainly find some matches there, but this thought is somewhat overwhelmed by the challenges that the work of this author highlight. The second would go on by showing the political issues that this work enables to draw about the consequences of advances in artificial intelligence and their effects on the community organization patterns. The third, also from a political angle, would try to establish more concrete connections from lines of evolution discernible in the computerization and automation of technical equipment which can participate in the regulation of social processes.

If the galactic civilization described by Iain M. Banks has an anarchist basis[3], the shape of the project is indeed not easy to place in relation with the anarchist tradition, especially regarding the thinking related to technical progress. Some thinkers see in technology potentials that can pull in the direction of emancipation. One can find in Mikhail Bakunin’s thinking the idea that technology can reduce the workload burden on individuals and thus participate in the destabilization of the capitalist order. Murray Bookchin, in his attempt to justify theoretically a “social ecology”, contemplated the possibility of a “liberatory technology”[4]. But there has also remained a strong distrust of technology in anarchist circles (with technology being more or less associated with capitalist domination). This suggests that advances in artificial intelligence could have an at least ambivalent reception among anarchist circles, and probably not such an optimistic one as in the fictionalized version of Iain Banks.

The linking between the artistic vision of science-fiction and political-philosophical views may well be an interesting way to question the political implications of advances in artificial intelligence. What tasks can be assigned to machines that are more than simple machines? Can these tasks interfere with other tasks being a matter for collective human choices? What implications does this have in the management of collective affairs? Is an anarchist project more credible because it uses such advanced machines? Unlike older approaches to technology, such machines would also no longer be treated as tools, but would have greater access to the status of actors able to act independently. By reading the novels of the Culture cycle, one can also wonder if the reliance on forms of artificial intelligence and the abandonment of certain tasks and activities do not lead to a form of human passivity. In short, in this form of  “computer-aided” anarchy, the idea of government does not make sense any more, but also at least because much power of decision is more or less consciously delegated and distributed to the vast network of artificial intelligences.

The socio-technical organization of the Culture described by Iain M. Banks is even more interesting that it can find matches in the developments of the late twentieth century. Computerization has penetrated many technical devices, in ways that may even lead to renegotiate more or less directly the place of human beings. Many social processes are more and more often automated. Computerized management of road traffic through traffic lights for example involves a redistribution of roles and functions between human beings and automation[5]. “Automated trading systems” now operate on financial markets as well. Advances in the field of artificial intelligence are likely to reinforce the questions about the reconfiguration of decisional spaces (if indeed it is still possible to discern them). The stakes are not merely technical but rather political, and this could be one of the merits of the fiction of Iain M. Banks that it has succeeded, even if it remains in the order of the imaginary, in presenting these stakes in a sufficiently coherent way to encourage further reflection on the intertwining of social, philosophical and political aspects which are far from being minor.

---

[1] An explanatory text entitled “A Few Notes on the Culture” had also been posted on the Internet in 1994 and is available via Iain M. Banks’ website (http://www.futurehi.net/phlebas/text/cultnote.html ).

[2] Cf. Chris Brown, “`Special Circumstances’: Intervention by a Liberal Utopia”, Millennium – Journal of International Studies, vol. 30, n° 3, 2001, especially p. 632.

[3] Which would according to him be rendered necessary for people to be able to live together in space and due to the correlated technological sophistication: “Essentially, the contention is that our currently dominant power systems cannot long survive in space; beyond a certain technological level a degree of anarchy is arguably inevitable and anyway preferable” (“A Few Notes on the Culture”, op. cit.).

[4] Cf. Murray Bookchin, “Towards a liberatory technology”, in Post-Scarcity Anarchism, Berkeley, Ramparts Press, 1971.

[5] Cf. Bruno Latour, “The Prince for Machines as well as for Machinations”, in Brian Elliot (ed.), Technology and Social Process, Edinburgh, Edinburgh University Press, pp. 20-43.

P.S.:
For a longer explanation, see the resulting article:
« Artificial intelligences and political organization: an exploration based on the science fiction work of Iain M. Banks », Technology in Society, Volume 34, Issue 1, February 2012.
This article can be downloaded here.

L’anarchie dans un monde de machines

En marge de mes principales thématiques de recherche, j’avais commencé à élaborer quelques réflexions sur le lien entre science-fiction et pensée politique (toujours disponibles sur ce blog dans des billets plus anciens). Comme souvent, réfléchir sur un sujet amène à percevoir les potentialités d’un autre sujet plus ou moins connexe. C’est typiquement ce qui s’est passé avec une série de romans à mon avis très stimulants et cela m’amènera sans doute à proposer un texte plus substantiel si j’arrive à trouver un peu de temps pour ce type d’échappée intellectuelle (PS : oui heureusement, avec donc un article de fond sur le sujet et même d’autres).

En essayant de croiser base littéraire et réflexion prospective, l’idée est de tester une hypothèse qui semble de science-fiction, mais qui pourrait ne pas être seulement de science-fiction. Cette hypothèse part d’une partie de l’œuvre de l’écrivain écossais Iain M. Banks, celle couramment rassemblée sous l’appellation de « cycle de la Culture », et de l’organisation sociale qu’il y décrit. Cette série de romans de science-fiction, souvent louée pour avoir renouvelé le genre du « space opera », met en effet en scène une civilisation intergalactique (« la Culture »), basée sur des principes anarchistes et dans laquelle les problèmes de pénurie sont dépassés et le pouvoir paraît presque dissous. Dans cette civilisation au développement technique très poussé, ce sont des intelligences artificielles (« minds » ou « mentaux » dans les traductions françaises) qui assument les tâches de gestion des affaires collectives, libérant ainsi la masse des individus pour des activités plus spirituelles ou ludiques. Le type d’organisation collective décrit par Iain M. Banks dans ses romans[1] tient pour une large part grâce à l’appui bienveillant de ces intelligences artificielles.

Cette hypothèse formulée dans un registre littéraire peut-elle aider à penser le rôle que pourraient prendre des machines « intelligentes » (ou au moins fortement évoluées) dans l’organisation sociale et politique ? Comment pourrait s’effectuer l’insertion de telles machines dans la vie collective ? Dans le modèle civilisationnel de la Culture, certaines séparations ontologiques ont disparu, puisque ces entités se comportent et sont traitées comme des personnes. Vaisseaux et stations spatiales ont leurs propres « mentaux » qui formulent leurs propres choix. D’une certaine manière, ces machines « conscientes », « sensibles », dépassant les humains en intelligence, « sont » ces engins spatiaux. Elles sont l’infrastructure pensante de la Culture, qu’elles contrôlent d’ailleurs plus qu’elles ne l’habitent.

Si l’on suit la vision de Iain M. Banks, le développement et la présence généralisée de ces intelligences artificielles ont bouleversé le fonctionnement politique, et même la conception du politique. Ce serait une application très particulière des principes anarchistes. L’auteur a en effet créé un monde organisé dans lequel, grâce aux intelligences artificielles et à l’insouciance énergétique et subsistantielle, le projet de remplacement du gouvernement des hommes par l’administration des choses a été réalisé. Dans ce modèle, il n’y aurait plus vraiment de choix politiques à faire[2]. Les décisions délicates engendrées par des problèmes d’allocation des ressources n’auraient plus lieu d’être, ou au pire pourraient-elles être résolues par des puissances de calcul phénoménales. Les dérives dans l’usage du pouvoir ne seraient plus tellement à craindre, puisque celui-ci se trouverait en quelque sorte octroyé à ces intelligences artificielles qui, constitutivement, auraient dépassé ces enjeux (ou en tout cas pour qui ce type de tentations ne ferait guère sens).

Dans l’œuvre de Iain M. Banks, ces éléments ne relèvent pas du simple décor de science-fiction : ils jouent un rôle important et intime dans les récits. Au-delà de l’analyse littéraire (puisque j’ai essayé de pousser dans ce sens), ils peuvent être exploités comme une base de questionnement[3] sur les possibilités de régulation « sociale » sans intervention humaine directe, ou plus précisément avec la médiation de machines évoluant vers une forme d’intelligence artificielle. D’où mon envie de tester dans quelle mesure et sur quelles bases une telle hypothèse peut tenir. La réflexion à mon avis serait pour cela à organiser sur trois plans. Le premier devrait revenir sur la pensée anarchiste pour montrer que la vision de Iain M. Banks peut certes y trouver des correspondances, mais que cette pensée est en quelque sorte dépassée par les enjeux que l’œuvre de cet auteur fait émerger. Le deuxième poursuivrait en montrant les questions politiques que cette œuvre permet d’élaborer sur les retombées des avancées en matière d’intelligence artificielle et sur  leurs effets dans l’organisation des collectivités. Le troisième, toujours sous un angle politique, essayerait d’établir des connexions plus concrètes à partir de lignes d’évolution discernables dans l’informatisation ou l’automatisation d’appareillages techniques qui peuvent participer à la régulation de processus sociaux.

Si la civilisation galactique décrite par Iain M. Banks a un fondement anarchisant[4], la forme du projet n’est en effet pas facile à placer par rapport à la tradition anarchiste, notamment quant aux réflexions touchant au progrès technique. Certains de ses penseurs voient dans la technique des potentialités qui permettent de la tirer dans le sens de l’émancipation. On retrouve chez Mikhail Bakounine l’idée qu’elle peut alléger la charge de travail qui pèse sur les individus et ainsi participer à la déstabilisation de l’ordre capitaliste. Murray Bookchin, dans sa tentative pour fonder théoriquement une « écologie sociale », envisageait quant à lui la possibilité d’une « technologie libératrice »[5]. Mais il est aussi resté dans les milieux anarchistes ou anarchisants une forte méfiance à l’égard de la technique (plus ou moins associée à la domination capitaliste). On peut donc penser que les avancées en matière d’intelligence artificielle auraient une réception au moins ambivalente dans les courants anarchistes, et probablement pas aussi optimiste que dans la version romancée de Iain M. Banks.

La mise en relation de la vision littéraire de science-fiction et des visions politico-philosophiques peut ainsi être une manière intéressante de questionner les implications politiques des avancées en matière d’intelligence artificielle. Quelles tâches peuvent être confiées à des machines qui ne sont plus de simples automates ? Ces tâches peuvent-elles interférer avec d’autres relevant des choix collectifs humains ? Quelles implications cela a-t-il dans la gestion d’affaires qui sont collectives ? Un projet anarchiste est-il plus crédible parce qu’il a recours à de telles machines évoluées ? À l’inverse d’anciennes manières d’envisager la technologie, de telles machines d’ailleurs ne seraient plus assimilables à des outils, mais accèderaient davantage au statut d’acteurs capables d’agir de manière autonome. En lisant les romans du cycle de la Culture, on peut d’ailleurs se demander si la confiance accordée aux intelligences artificielles et l’abandon de certaines tâches et activités ne conduisent pas vers une forme de passivité humaine. Bref, dans cette forme d’anarchie « assistée par ordinateur », l’idée de gouvernement ne fait plus sens, mais au moins aussi parce qu’une bonne part du pouvoir de décision est plus ou moins consciemment déléguée et distribuée à ce vaste réseau d’intelligences artificielles.

L’organisation sociotechnique de la Culture décrite par Iain M. Banks est d’autant plus intéressante qu’on peut lui trouver des correspondances dans des évolutions de la fin du XX^e siècle. L’informatisation a pénétré de nombreux appareillages techniques, sous des formes qui peuvent d’ailleurs conduire à renégocier plus ou moins directement la place de l’humain[6]. De nombreux processus sociaux s’avèrent de plus en plus souvent automatisés. La gestion informatisée du trafic routier par l’intermédiaire des feux de circulation participe par exemple d’une redistribution des rôles et des fonctions entre humains et automatismes[7]. Sur les marchés financiers opèrent aussi dorénavant des « automates de trading » à qui est déléguée une part croissante des transactions. Les avancées dans le domaine de l’intelligence artificielle sont de nature à renforcer les questionnements sur les reconfigurations des espaces de décision (si tant est qu’il soit alors encore possible de les discerner). Les enjeux ne sont donc pas simplement techniques, mais bel et bien politiques, et ce pourrait être un des mérites de la fiction de Iain M. Banks que d’avoir réussi, même si elle reste dans l’ordre de l’imaginaire, à les mettre en scène de manière suffisamment cohérente pour inciter à prolonger la réflexion sur cet entrelacement d’aspects sociaux, philosophiques et politiques loin d’être mineurs.

---

[1] Un article à vocation explicative, intitulé « A Few Notes on the Culture », avait aussi été mis en ligne sur Internet et avait été traduit dans la revue de science-fiction Galaxies, n° 1, Été 1996 (« Quelques notes sur la Culture »). Le texte en français a été récemment repris à la fin du roman Trames (Paris, Robert Laffont, 2009).

[2] Cf. Chris Brown, « `Special Circumstances’: Intervention by a Liberal Utopia », Millennium – Journal of International Studies, vol. 30, n° 3, 2001, notamment p. 632.

[3] Cf. Yannick Rumpala, « Entre anticipation et problématisation : la science-fiction comme avant-garde », Communication pour le colloque « Comment rêver la science-fiction à présent ? », Cerisy-la-Salle, 22 juillet 2009.

[4] Rendu selon lui nécessaire par la vie commune dans l’espace et la sophistication technologique corrélative : « Essentially, the contention is that our currently dominant power systems cannot long survive in space; beyond a certain technological level a degree of anarchy is arguably inevitable and anyway preferable » (« A Few Notes on the Culture », op. cit.).

[5] Cf. Murray Bookchin, Vers une technologie libératrice, trad. de l’américain, Paris, Librairies parallèles, 1974.

[6] Voir par exemple le travail de Victor Scardigli sur le cas des avions : Un anthropologue chez les automates. De l’avion informatisé à la société numérisée, Paris, PUF, 2001, et pour une présentation plus synthétique de l’argument, « Y a-t-il encore un pilote dans l’avion ? », Le Monde Diplomatique, n° 595, octobre 2003, p. 30.

[7] Cf. Bruno Latour, « Le Prince : Machines et machinations », Futur antérieur, n° 3, 1990, pp. 35-62.

P.S.:
Un article plus long et plus académique a été publié en anglais à la suite de ces premières réflexions : « Artificial intelligences and political organization: an exploration based on the science fiction work of Iain M. Banks », Technology in Society, Volume 34, Issue 1, Februrary 2012.
Il peut être téléchargé ici en fichier pdf.

La science-fiction comme forme de problématisation

L’année universitaire arrivant à sa fin, j’ai un peu plus de temps pour reprendre la réflexion laissée en suspens il y a quelques mois. La tâche devenait d’autant plus nécessaire que ce travail est aussi pour partie destiné à être présenté très bientôt au colloque « Comment rêver la science-fiction à présent ? » qui se tiendra à Cerisy-la-Salle du 20 au 30 juillet 2009. L’idée principale reste d’étudier dans quelle mesure la science-fiction peut nourrir la pensée politique.

Donc répétons-le : la science-fiction est certes faite de récits, mais il serait extrêmement dommage de s’arrêter à cette seule dimension narrative. Cette forme de production intellectuelle et d’expression artistique, il peut être judicieux de la considérer aussi comme un travail de problématisation, en se rapprochant du sens dans lequel Michel Foucault pouvait entendre ce terme. Pour lui, « Problématisation ne veut pas dire représentation d’un objet préexistant, ni non plus création par le discours d’un objet qui n’existe pas. C’est l’ensemble des pratiques discursives ou non discursives qui fait entrer quelque chose dans le jeu du vrai et du faux et le constitue comme objet pour la pensée (que ce soit sous la forme de la réflexion morale, de la connaissance scientifique, de l’analyse politique, etc.) »[1]. Gardons surtout ce dernier point pour le développer dans le sens qui va nous intéresser : parler de problématisation, c’est aussi envisager l’enclenchement possible d’un processus d’exploration, pas forcément linéaire d’ailleurs. Avec ce processus, ce qui paraissait évident, installé, va pouvoir être questionné, soumis au doute et à des interprétations concurrentes.

Si l’on revient à l’expression elle-même, la science-fiction est d’abord une façon de problématiser la science et ses applications. Les récits et leur cadre permettent des mises en situation des avancées scientifiques et des innovations technologiques. La science-fiction en tant que registre d’expression permet ainsi de décrire des potentialités techniques et d’entrevoir leurs effets propres ou les effets de leur agencement. L’ambition peut aller au-delà, comme on peut le voir en partant de quelques champs (parmi d’autres) explorés dans les univers de science-fiction.

          – Sur la place des machines

Les vies et activités humaines des sociétés les plus développées semblent marquées par une immersion de plus en plus profonde dans des environnements technologiques. La science-fiction, quasiment depuis ses origines, est une façon de problématiser les rapports entre les humains et les machines. Et elle l’a fait de plus en plus souvent avec une question majeure : qu’est-ce que l’humanité peut déléguer aux machines ? Le sujet est éminemment politique. Et il l’est encore plus si ces machines deviennent « intelligentes », si elles font preuve de capacités d’apprentissage, de communication, de coordination (autant de thèmes de recherche actuels).

Avec son « cycle de la Culture », fresque mettant en scène une civilisation intergalactique basée sur des principes anarchistes, l’écossais Iain M. Banks offre dans ses romans une vision dans laquelle ce sont des intelligences artificielles (« minds » ou « mentaux » dans les traductions françaises) qui assument les tâches de gestion des affaires collectives, libérant ainsi la masse des individus pour des activités plus spirituelles ou ludiques. Le type d’organisation collective décrit par Iain M. Banks dans ses romans tient pour une large part grâce à l’appui bienveillant de ces intelligences artificielles. Cette version des relations avec les machines est plutôt optimiste, mais il y en a d’autres plus sombres. Il y a aussi dans la science-fiction toute une tradition dans laquelle ce genre de question est traité avec souvent en arrière-plan la crainte que la machine se retourne contre son créateur.

          – Sur les potentialités et implications des évolutions techniques

Les œuvres de science-fiction peuvent d’ailleurs participer à des processus de problématisation plus larges, autrement dit qui ne leur sont pas propres. Sous une forme romancée, elles peuvent tester le basculement dans un autre système technique, agencer des situations permettant d’entrevoir quels pourraient être les effets induits. Difficile en effet de voir ces effets concrètement avant la pleine application des nouvelles techniques. Sans que cela soit forcément leur intention, les explorations fictionnelles peuvent en revanche contribuer à introduire des questionnements éthiques et politiques.

C’est ce qui a pu se passer à différents moments de processus de développement technoscientifique, comme récemment dans le cas des nanotechnologies[2]. En la matière, les effets de ce qui s’apparente à une révolution technique paraissent au moins aussi indéterminés que les potentialités des innovations attendues. D’où les nombreuses incertitudes de ceux qui essayent de réfléchir à ces effets[3]. Les explorations en science-fiction s’immiscent dans ces incertitudes, en imaginant à leur manière comment des technologies nouvelles pourraient restructurer les relations sociales, comme pourraient le faire les nanotechnologies si elles permettent de miniaturiser bon nombre d’appareillages plus ou moins courants. De fait, les résonances imaginaires qu’offre la science-fiction ont pu jouer un rôle non négligeable dans les débats publics sur ces nouvelles technologies[4].

          – Sur la transformation du monde et sa maîtrise par le pouvoir humain

La science-fiction est une manière d’essayer de décrire comment il serait possible d’habiter les mondes en préparation. Il est logique qu’elle ait été pénétrée par les enjeux de chaque époque et qu’elle les ait traduits. Les enjeux écologiques ont ainsi donné lieu à de multiples traitements[5]. Le roman Dune de Frank Herbert et sa longue suite[6] peuvent être interprétés dans un sens écologique. Dans cette série romanesque, Dune est le nom d’une planète aride mais dotée d’une ressource particulière et convoitée pour ses propriétés psychotoniques, l’Épice. L’œuvre intègre au cœur de la trame narrative une situation de tension écologique, le récit avançant de telle sorte que se révèlent aussi au fur et à mesure les implications sociales et politiques de ce cadre particulier. Même s’il ne faut surtout pas réduire le roman à cet aspect,  il permet de mettre en situation la gestion de ressources rares (l’eau, l’Épice), qui deviennent donc sources et enjeux de pouvoir. Que signifie pour des collectifs humains devoir faire face aux contraintes d’un monde devenu complètement désertique ? Quelles seraient les conditions (techniques, sociales…) permettant de transformer une telle situation ?

Les enjeux démographiques ont aussi trouvé une résonance notable dans la littérature de science-fiction. La fin des années 1960 et le début des années 1970 ont plutôt été marqués par le thème de la surpopulation, comme dans Tous à Zanzibar du britannique John Brunner[7]. Andreu Domingo a repéré d’autres thèmes formant selon lui un genre à part entière mobilisant les enjeux démographiques et qu’il a qualifié de « démodystopies »[8]. Il y englobe les fictions qui traitent de vieillissement généralisé, de dépopulation, de migrations internationales massives, de technologies reproductives et eugéniques.

Ces thèmes activent de manière plus ou moins directe les questions de maîtrise des transformations du monde. Ils sont en quelque sorte aussi une interrogation sur la manière dont les activités humaines peuvent trouver des processus de régulation.

          – Sur le devenir de la condition humaine

Le décalage dans des mondes ou des temps fictifs peut être aussi un moyen de travailler sur les figures de l’humain et sur sa condition. Le devenir post-humain est expérimenté par la science-fiction depuis déjà quelques décennies. Les récits ont été de plus en plus souvent peuplés d’individus bénéficiant de nouvelles techniques appliquées non plus seulement aux objets et aux environnements, mais aussi aux corps et aux esprits. Ces mises en situation fonctionnent là aussi en quelque sorte comme des expérimentations aidant ou invitant à se demander dans quelle mesure ces extensions, prothèses et modifications pourraient finir par changer l’être humain lui-même. La littérature cyberpunk est remplie de multiples types d’interfaces cerveau-machine, grâce auxquelles l’individu peut par exemple presque finir par faire corps avec son véhicule, comme dans Câblé de Walter Jon Williams. On rejoint là la thématique du cyborg, hybride d’humain et de machine, qui a non seulement été investie par la science-fiction mais qui a aussi ouvert un champ de réflexion en plein développement[9]. Et pour cause, les implications éthiques étant profondes : dans quelle mesure l’utilisation des possibilités technologiques peut-elle affecter la définition ou la représentation de ce qu’est l’être humain ? Les possibilités d’implants psychiques et corporels ne vont-elles pas engendrer de nouvelles inégalités si certains humains peuvent se payer des améliorations personnelles et d’autres non ?

De même, comment fonctionnerait une société dont les membres seraient constamment immergés dans des flux d’informations électroniques ? C’est un type de question qu’on peut retrouver en filigrane dans les écrits de Cory Doctorow. Dans son roman intitulé Dans la dèche au Royaume Enchanté[10] par exemple, les individus sont en permanence « online » et peuvent par la même occasion jauger instantanément la réputation de chacun. Cory Doctorow imagine ainsi une nouvelle unité de mesure, le « whuffie », qui remplace l’argent, permet d’apprécier en temps réel cette nouvelle forme de crédit personnel (pour jouer un peu sur les mots) et intervient donc constamment dans les interactions sociales.

Comme le montrent ces quelques champs d’exploration, traverser une œuvre de science-fiction peut donc être une occasion de rencontrer des situations inédites, susceptibles d’ouvrir des questionnements originaux. C’est par ces mises en situation que des problématisations nouvelles peuvent s’effectuer et servir de préparation à des réflexions plus poussées sur ce qui fait l’évolution de la vie collective.

---

[1] Michel Foucault, « Le souci de la vérité », in Dits et écrits 1954-1988, Tome II (1976-1988), Paris, Quarto Gallimard, 1994, pp. 1489.

[2] Cf. Diana M. Bowman, Graeme A. Hodge, Peter Binks, « Are We Really the Prey? Nanotechnology as Science and Science Fiction », Bulletin of Science, Technology & Society, vol. 27, n° 6, 2007, pp. 435-445.

[3] Cf. Nick Bostrom, « Technological Revolutions: Ethics and Policy in the Dark », in Nigel M. de S. Cameron and M. Ellen Mitchell (eds.), Nanoscale. Issues and Perspectives for the Nano Century, London, John Wiley, 2007, pp. 129-152.

[4] Voir par exemple Sylvie Catellin, « Le recours à la science-fiction dans le débat public sur les nanotechnologies : anticipation et prospective », Quaderni, n° 61, Automne 2006, pp. 13-24.

[5] Cf. Ernest J. Yanarella, The Cross, the Plow and the Skyline. Contemporary Science Fiction and the Ecological Imagination, Parkland, Brown Walker Press, 2001 ; Brian Stableford, « Science fiction and ecology », in A companion to science fiction, edited by David Seed, Malden, Blackwell Pub., 2005.

[6] Dune, London, New English Library, 1965 ; Paris, Robert Laffont, 1972.

[7] Stand on Zanzibar, Garden City, Doubleday, 1968 ; Tous à Zanzibar, Paris, LGF / Livre de Poche, 1995.

[8] Andreu Domingo, « « Demodystopias »: Prospects of Demographic Hell », Population and Development Review, volume 34, n° 4, December 2008, pp. 725-745.

[9] Cf. Axel Guïoux, Evelyne Lasserre et Jérôme Goffette, « Cyborg : approche anthropologique de l’hybridité corporelle bio-mécanique : note de recherche », Anthropologie et Sociétés, vol. 28, n° 3, 2004, pp. 187-204

[10] Paris, Folio SF, 2008.