La science-fiction comme matériau exploratoire : éléments de méthode et étude de cas

Des machines très évoluées pourraient-elles un jour participer au gouvernement du collectif ? Jusqu’à en changer la nature et le fonctionnement ? Des avancées informatiques à venir peuvent-elles conduire à renouveler la conception des formes possibles de l’administration des affaires publiques et de la régulation des activités sociales ? Si oui, dans quelle mesure ? Que reste-t-il du politique quand il devient dépendant de systèmes informatisés de plus en plus perfectionnés, comme ceux pouvant amener à parler d’« intelligences artificielles » ? Quelle part de choix peut-il subsister lorsque les formes de délégation à des artefacts techniques complexes deviennent de plus en plus nombreuses ?

Difficile de répondre à ces questions sans trouver comment amorcer une analyse de techniques qui n’existent pas encore concrètement, ou qui n’existent qu’à l’état de potentiel. Dans un article de 2010 (« Ce que la science fiction pourrait apporter à la pensée politique », Raisons politiques,  n° 40, disponible sur le portail cairn), j’avais proposé comme solution de considérer les œuvres fictionnelles axées sur l’avenir comme des supports heuristiques. L’idée était de prendre les œuvres de science-fiction à la fois comme un réservoir d’expériences de pensée et comme des formes de problématisations (au sens de Michel Foucault). Ces œuvres n’ont pas forcément été conçues comme des expériences de pensée, mais on peut considérer que la plus large part d’entre elles peut être réutilisée sur ce modèle, autrement dit comme si elles offraient des hypothèses à travailler (Et si… ?). Stimulante, la science-fiction l’est conjointement pour l’esprit, car elle peut être abordée comme une manière de problématiser non seulement des évolutions dans le domaine de la science (si l’on reste attaché à la dénomination du genre), mais aussi, et peut-être surtout, leurs conséquences plus ou moins directes sur les systèmes sociaux et politiques. À la manière de Michel Foucault (Cf. « Le souci de la vérité », in Dits et écrits 1954-1988, Tome II, Quarto Gallimard, 1994), ces problématisations peuvent être conçues comme des façons pour la pensée de s’emparer d’objets d’apparence relativement nouvelle. Pour être plus précis, elles peuvent être des manières d’interroger des conditions de possibilité, et alors fonctionner de telle sorte qu’entre l’entrée et la sortie de l’œuvre, la représentation d’une question se trouve modifiée. Dans le cas d’une œuvre littéraire, il est d’ailleurs fort possible que ces problématisations ne soient que le réarrangement de représentations diffuses reprises plus ou moins consciemment par l’auteur. Mais cela n’en diminue pas l’intérêt pour autant.

Reconsidéré de cette manière, le matériau fictionnel peut alors trouver des appuis méthodologiques pour devenir lui aussi un support de connaissance, même si sa relation à la réalité peut paraître très détachée. Sur un sujet comme celui des « intelligences artificielles », il peut s’agir notamment de repérer les mises en scène où le lecteur peut voir opérer ces machines « hyper évoluées ». Ces mises en scène sont éparpillées, mais leur rapprochement peut aider à dessiner une configuration relativement cohérente, avec de surcroît le bénéfice d’une liberté intellectuelle permettant de dépasser la question des frontières (largement artificielles) entre ce qui serait technique et ce qui serait politique. Même si les technologies envisagées sont encore hypothétiques, des potentialités peuvent être ainsi actualisées, non pas dans la réalité en l’occurrence, mais dans une construction fictionnelle (qui peut arriver à créer des effets de réalité). Traitée comme une forme de problématisation (avec d’ailleurs sa part de réactivation de mythes plus ou moins anciens), la science-fiction peut alors être mise plus facilement en relation avec d’autres formes de problématisation, comme celles qui existent dans la réflexion politique ou philosophique, ou celles qui trament l’accompagnement discursif de développements techniques.

Reprenons donc plus explicitement le cas des « intelligences artificielles », que j’avais commencé à explorer à partir de l’œuvre de l’écossais Iain M. Banks où il met en scène cette civilisation galactique technologiquement très avancée, hédoniste et libertaire, expansionniste mais bienveillante, qu’il a dénommée la « Culture » (pour une présentation, voir cet ancien billet). Bien entendu, la situation actuelle est encore loin de celle présentée dans ce type de roman, et des entités aussi évoluées que les « intelligences artificielles » décrites (des « Mentaux » dans le cas de la « Culture ») n’existent pas encore à proprement parler. Commencent déjà cependant à intervenir depuis quelques années d’autres technologies « intelligentes », de plus en plus intégrées dans l’environnement quotidien (rues, bâtiments, véhicules, etc.) et conçues pour « anticiper » les attentes. Si se poursuivent les développements de cette « intelligence ambiante », individus et groupes humains pourraient ainsi voir leur vie prise dans une forme d’assistance permanente, presque gérée même, et de nature à produire de nouvelles dépendances. À l’Université de Stanford en Californie, le Persuasive Technology Lab par exemple travaille sur des « machines conçues pour transformer les humains ». Les chercheurs du laboratoire se sont ainsi engagés dans ce que son directeur, B.J. Fogg, a appelé la « captology », qui est définie comme : « the study of computers as persuasive technologies. This includes the design, research, and analysis of interactive computing products (computers, mobile phones, websites, wireless technologies, mobile applications, video games, etc.) created for the purpose of changing people’s attitudes or behaviors » (voir aussi B.J. Fogg, Persuasive Technology. Using Computers to Change What We Think and Do, San Francisco, Morgan Kaufmann, 2002).

Une telle évolution des machines, débordant largement les seuls aspects mécaniques, apparaît porteuse de conséquences importantes. Depuis longtemps, l’humanité peuple le monde d’artefacts divers, mais elle semble maintenant en train d’en rajouter toute une gamme aux possibilités nouvelles. En plus des machines transformant l’énergie et/ou la matière opèrent maintenant des machines capables de traiter des flux d’information, et ce dans des quantités et à des vitesses prodigieuses. Il est encore difficile de dire si ces artefacts machiniques pourraient être les prémisses d’« intelligences artificielles » à venir. En tout cas, ils n’interviennent plus comme de simples instruments au service des activités humaines, mais finissent par former un assemblage sociotechnique au sein duquel ils semblent gagner des capacités de régulation plus autonomes. Dans cette évolution, c’est ainsi le rapport du collectif avec ses créations artefactuelles qui est susceptible de changer. Certes, des artefacts non-humains pouvaient déjà bénéficier de formes de délégation de la part des humains. Mais, avec des « intelligences artificielles », l’enjeu pourrait passer à un niveau supérieur. Surtout, un tel enjeu fait typiquement partie des nouvelles questions qui résultent de poussées techniques en cours, mais qu’il est devenu difficile de penser au présent (le risque étant de laisser ces évolutions sans réflexions sur leurs implications sociales et politiques). Même si ces développements possibles ne sont pas encore entrés en fonctionnement, il n’est donc pas inutile de leur donner une mise en situation. Comme j’essaye de le montrer, les productions fictionnelles, en saisissant des potentialités techniques sous une forme imaginaire, peuvent justement contribuer à amorcer des formes de réflexivité, de mise en réflexion collective, et à mettre en contraste différentes voies de réalisation des développements technologiques.

Dans un article presque tout frais, je reprends donc une partie de l’œuvre d’Iain M. Banks en appliquant cette méthode, pour analyser comment une civilisation recourant massivement et de manière presque banale à des « intelligences artificielles » peut voir son organisation politique notablement transformée. La mise en scène littéraire y est en effet suffisamment habile pour permettre de ne pas tomber trop facilement dans le messianisme technologique ou dans les prophéties de malheur où l’humanité finit complètement asservie par les machines. Cet article, intitulé « Artificial intelligences and political organization: an exploration based on the science fiction work of Iain M. Banks », paraît ce mois-ci dans la revue Technology in Society, Volume 34, n° 1. Pour les personnes intéressées qui ne seraient pas rattachées à une institution abonnée, une ancienne version, un peu moins complète, est aussi encore disponible en ligne. De toute manière, un petit courriel à l’auteur suffit pour avoir une copie.

Science-fiction et science politique

Certains pourront trouver le rapprochement surprenant, mais il est possible de combiner les deux, de nourrir l’une avec l’autre. La preuve avec un article (« Ce que la science-fiction pourrait apporter à la pensée politique ») qui vient de paraître dans le dernier numéro (n° 40, novembre 2010) de la revue Raisons politiques. L’idée de départ du texte, que j’avais eu l’occasion de présenter lors d’un colloque sur « Comment rêver la science-fiction à présent ? » à Cerisy-la-Salle en juillet 2009 (texte encore disponible ici dans sa version originale), était liée à l’impression qu’il y avait tout un espace laissé malheureusement vacant : il s’agissait ainsi non seulement de montrer qu’il existe des passerelles entre science-fiction et réflexion philosophico-politique, mais aussi que ces passerelles sont largement sous-exploitées.

J’avais aussi entamé cette réflexion parce que j’ai tendance à penser que ma discipline de rattachement, la science politique, est entrée dans une zone de rendements décroissants. Elle donne le sentiment de ne plus être vraiment capable d’appréhender les courants qui orientent en profondeur les évolutions du monde contemporain, notamment pour ce qui touche aux facteurs technoscientifiques. Quand l’époque semble être à l’accélération, pour reprendre le titre d’un récent livre du sociologue allemand Hartmut Rosa (Accélération. Une critique sociale du temps, La Découverte, 2010), autrement dit quand tout semble aller plus vite, l’enjeu est de pouvoir garder des prises intellectuelles, justement pour éviter de se retrouver emporté sans capacité de réagir. Et, de fait, semble s’accumuler une masse de questions qu’il est devenu difficile de penser au présent, avec des bases de réflexion de moins en moins adaptées.

C’est pour ces raisons que la recherche d’autres bases de réflexion ne devrait pas ignorer la littérature de science-fiction et devrait même prendre la peine d’aller au-delà de la dimension la plus apparente, la dimension narrative (même si cette dernière reste bien entendu une composante essentielle du plaisir de lecture). Par ses montages spéculatifs, ce continent littéraire en extension continuelle peut être aussi un support et un vecteur de réflexivité collective. Dans l’article, je pars ainsi de l’hypothèse que la science-fiction représente une façon de ressaisir le vaste enjeu du changement social, et derrière lui celui de ses conséquences et de leur éventuelle maîtrise. La science-fiction offre des terrains et des procédés pour s’exprimer sur des transformations plus ou moins profondes, plus précisément sur les trajectoires que ces transformations semblent pouvoir prendre. En considérant cette forme d’expression artistique comme un travail de problématisation, l’article propose donc d’examiner comment l’appréhension du changement social est travaillée par cette médiation littéraire, et surtout de montrer comment cette appréhension pourrait nourrir des réflexions relevant d’une forme de pensée politique. En l’occurrence, pour dégager la portée de cette base fictionnelle, ce lien entre l’expression artistique et ses potentiels prolongements politiques est mis à l’épreuve en explorant des courants généralement considérés comme porteurs de positions engagées : en particulier, pour reprendre les étiquettes en vigueur, le cyberpunk et postcyberpunk (exubérance technologique sur fond de néo-féodalisme économique et de déglingue sociale), le biopunk (variante autour de l’ingénierie génétique et des biotechnologies), la fiction spéculative et l’anticipation sociale.

Repris dans cette perspective croisée, voilà en effet un matériau qui ne demande qu’à être employé, recomposé, approfondi. Évidemment qu’on ne peut pas dire ce que sera l’avenir. Mais ce n’est pas pour autant qu’il faut être réduit à penser qu’on ne peut rien en dire. Parce qu’elle permet d’ouvrir les cadres de l’imagination, la science-fiction peut aussi être exploitée comme un réservoir d’expériences potentielles aidant à réfléchir sur les avenirs possibles et leurs conditions de réalisation.

J’avais par exemple commencé à me servir d’une partie de l’œuvre de l’écrivain écossais Iain M. Banks, celle du « cycle de la Culture », pour montrer comment on peut tirer profit de ce type de croisement entre les réflexions. Dans un billet exploratoire, j’avais pris cette série de livres comme un moyen de réfléchir aux effets politiques que pourrait avoir le développement d’« intelligences artificielles ». Dans quelle mesure peut-il devenir utile de reprendre une hypothèse où, comme dans ces romans, une part importante de la vie collective serait assurée par ces « acteurs » pas forcément visibles, mais devenus incontournables ? Des décisions (et lesquelles) peuvent-elles être confiées à des machines « intelligentes » ? Que peut-il se passer si ce type de machine devient capable d’apprendre de manière quasi autonome en échangeant des expériences, comme dans le projet RoboEarth de l’Institut fédéral suisse de technologie (ETH) de Zurich, qui, grâce au soutien financier de l’Union européenne, prévoit de donner aux futurs robots à la fois une base de données évolutive et un réseau de partage des connaissances acquises, à la manière des encyclopédies collaboratives sur Internet ? L’avancée des systèmes informatiques, leur rapprochement avec les recherches en nanotechnologies et sciences cognitives, peuvent-ils se poursuivre jusqu’à produire des machines changeant profondément non seulement l’environnement technique, mais aussi l’ordre politique ? Jusqu’où la pénétration de ces assemblages technologiques serait-elle alors susceptible de modifier les fonctionnements institutionnels, par exemple en amenant de nouvelles capacités de planification ? Comment se reconfigureraient les rapports de pouvoir ? Jusqu’au point de les faire disparaître, grâce à l’appui bienveillant de ces « intelligences artificielles », comme dans la forme de civilisation avancée que dépeint Iain M. Banks avec la « Culture » ? J’essaye de prolonger cette réflexion et j’aurai probablement l’occasion d’en présenter la suite dans les mois qui viennent, et notamment dans des cadres plus universitaires (normalement à la 6^e Conférence « Visions of Humanity in Cyberculture, Cyberspace, and Science Fiction » à l’Université d’Oxford en juillet prochain).

L’anarchie dans un monde de machines

En marge de mes principales thématiques de recherche, j’avais commencé à élaborer quelques réflexions sur le lien entre science-fiction et pensée politique (toujours disponibles sur ce blog dans des billets plus anciens). Comme souvent, réfléchir sur un sujet amène à percevoir les potentialités d’un autre sujet plus ou moins connexe. C’est typiquement ce qui s’est passé avec une série de romans à mon avis très stimulants et cela m’amènera sans doute à proposer un texte plus substantiel si j’arrive à trouver un peu de temps pour ce type d’échappée intellectuelle (PS : oui heureusement, avec donc un article de fond sur le sujet et même d’autres).

En essayant de croiser base littéraire et réflexion prospective, l’idée est de tester une hypothèse qui semble de science-fiction, mais qui pourrait ne pas être seulement de science-fiction. Cette hypothèse part d’une partie de l’œuvre de l’écrivain écossais Iain M. Banks, celle couramment rassemblée sous l’appellation de « cycle de la Culture », et de l’organisation sociale qu’il y décrit. Cette série de romans de science-fiction, souvent louée pour avoir renouvelé le genre du « space opera », met en effet en scène une civilisation intergalactique (« la Culture »), basée sur des principes anarchistes et dans laquelle les problèmes de pénurie sont dépassés et le pouvoir paraît presque dissous. Dans cette civilisation au développement technique très poussé, ce sont des intelligences artificielles (« minds » ou « mentaux » dans les traductions françaises) qui assument les tâches de gestion des affaires collectives, libérant ainsi la masse des individus pour des activités plus spirituelles ou ludiques. Le type d’organisation collective décrit par Iain M. Banks dans ses romans[1] tient pour une large part grâce à l’appui bienveillant de ces intelligences artificielles.

Cette hypothèse formulée dans un registre littéraire peut-elle aider à penser le rôle que pourraient prendre des machines « intelligentes » (ou au moins fortement évoluées) dans l’organisation sociale et politique ? Comment pourrait s’effectuer l’insertion de telles machines dans la vie collective ? Dans le modèle civilisationnel de la Culture, certaines séparations ontologiques ont disparu, puisque ces entités se comportent et sont traitées comme des personnes. Vaisseaux et stations spatiales ont leurs propres « mentaux » qui formulent leurs propres choix. D’une certaine manière, ces machines « conscientes », « sensibles », dépassant les humains en intelligence, « sont » ces engins spatiaux. Elles sont l’infrastructure pensante de la Culture, qu’elles contrôlent d’ailleurs plus qu’elles ne l’habitent.

Si l’on suit la vision de Iain M. Banks, le développement et la présence généralisée de ces intelligences artificielles ont bouleversé le fonctionnement politique, et même la conception du politique. Ce serait une application très particulière des principes anarchistes. L’auteur a en effet créé un monde organisé dans lequel, grâce aux intelligences artificielles et à l’insouciance énergétique et subsistantielle, le projet de remplacement du gouvernement des hommes par l’administration des choses a été réalisé. Dans ce modèle, il n’y aurait plus vraiment de choix politiques à faire[2]. Les décisions délicates engendrées par des problèmes d’allocation des ressources n’auraient plus lieu d’être, ou au pire pourraient-elles être résolues par des puissances de calcul phénoménales. Les dérives dans l’usage du pouvoir ne seraient plus tellement à craindre, puisque celui-ci se trouverait en quelque sorte octroyé à ces intelligences artificielles qui, constitutivement, auraient dépassé ces enjeux (ou en tout cas pour qui ce type de tentations ne ferait guère sens).

Dans l’œuvre de Iain M. Banks, ces éléments ne relèvent pas du simple décor de science-fiction : ils jouent un rôle important et intime dans les récits. Au-delà de l’analyse littéraire (puisque j’ai essayé de pousser dans ce sens), ils peuvent être exploités comme une base de questionnement[3] sur les possibilités de régulation « sociale » sans intervention humaine directe, ou plus précisément avec la médiation de machines évoluant vers une forme d’intelligence artificielle. D’où mon envie de tester dans quelle mesure et sur quelles bases une telle hypothèse peut tenir. La réflexion à mon avis serait pour cela à organiser sur trois plans. Le premier devrait revenir sur la pensée anarchiste pour montrer que la vision de Iain M. Banks peut certes y trouver des correspondances, mais que cette pensée est en quelque sorte dépassée par les enjeux que l’œuvre de cet auteur fait émerger. Le deuxième poursuivrait en montrant les questions politiques que cette œuvre permet d’élaborer sur les retombées des avancées en matière d’intelligence artificielle et sur  leurs effets dans l’organisation des collectivités. Le troisième, toujours sous un angle politique, essayerait d’établir des connexions plus concrètes à partir de lignes d’évolution discernables dans l’informatisation ou l’automatisation d’appareillages techniques qui peuvent participer à la régulation de processus sociaux.

Si la civilisation galactique décrite par Iain M. Banks a un fondement anarchisant[4], la forme du projet n’est en effet pas facile à placer par rapport à la tradition anarchiste, notamment quant aux réflexions touchant au progrès technique. Certains de ses penseurs voient dans la technique des potentialités qui permettent de la tirer dans le sens de l’émancipation. On retrouve chez Mikhail Bakounine l’idée qu’elle peut alléger la charge de travail qui pèse sur les individus et ainsi participer à la déstabilisation de l’ordre capitaliste. Murray Bookchin, dans sa tentative pour fonder théoriquement une « écologie sociale », envisageait quant à lui la possibilité d’une « technologie libératrice »[5]. Mais il est aussi resté dans les milieux anarchistes ou anarchisants une forte méfiance à l’égard de la technique (plus ou moins associée à la domination capitaliste). On peut donc penser que les avancées en matière d’intelligence artificielle auraient une réception au moins ambivalente dans les courants anarchistes, et probablement pas aussi optimiste que dans la version romancée de Iain M. Banks.

La mise en relation de la vision littéraire de science-fiction et des visions politico-philosophiques peut ainsi être une manière intéressante de questionner les implications politiques des avancées en matière d’intelligence artificielle. Quelles tâches peuvent être confiées à des machines qui ne sont plus de simples automates ? Ces tâches peuvent-elles interférer avec d’autres relevant des choix collectifs humains ? Quelles implications cela a-t-il dans la gestion d’affaires qui sont collectives ? Un projet anarchiste est-il plus crédible parce qu’il a recours à de telles machines évoluées ? À l’inverse d’anciennes manières d’envisager la technologie, de telles machines d’ailleurs ne seraient plus assimilables à des outils, mais accèderaient davantage au statut d’acteurs capables d’agir de manière autonome. En lisant les romans du cycle de la Culture, on peut d’ailleurs se demander si la confiance accordée aux intelligences artificielles et l’abandon de certaines tâches et activités ne conduisent pas vers une forme de passivité humaine. Bref, dans cette forme d’anarchie « assistée par ordinateur », l’idée de gouvernement ne fait plus sens, mais au moins aussi parce qu’une bonne part du pouvoir de décision est plus ou moins consciemment déléguée et distribuée à ce vaste réseau d’intelligences artificielles.

L’organisation sociotechnique de la Culture décrite par Iain M. Banks est d’autant plus intéressante qu’on peut lui trouver des correspondances dans des évolutions de la fin du XX^e siècle. L’informatisation a pénétré de nombreux appareillages techniques, sous des formes qui peuvent d’ailleurs conduire à renégocier plus ou moins directement la place de l’humain[6]. De nombreux processus sociaux s’avèrent de plus en plus souvent automatisés. La gestion informatisée du trafic routier par l’intermédiaire des feux de circulation participe par exemple d’une redistribution des rôles et des fonctions entre humains et automatismes[7]. Sur les marchés financiers opèrent aussi dorénavant des « automates de trading » à qui est déléguée une part croissante des transactions. Les avancées dans le domaine de l’intelligence artificielle sont de nature à renforcer les questionnements sur les reconfigurations des espaces de décision (si tant est qu’il soit alors encore possible de les discerner). Les enjeux ne sont donc pas simplement techniques, mais bel et bien politiques, et ce pourrait être un des mérites de la fiction de Iain M. Banks que d’avoir réussi, même si elle reste dans l’ordre de l’imaginaire, à les mettre en scène de manière suffisamment cohérente pour inciter à prolonger la réflexion sur cet entrelacement d’aspects sociaux, philosophiques et politiques loin d’être mineurs.

---

[1] Un article à vocation explicative, intitulé « A Few Notes on the Culture », avait aussi été mis en ligne sur Internet et avait été traduit dans la revue de science-fiction Galaxies, n° 1, Été 1996 (« Quelques notes sur la Culture »). Le texte en français a été récemment repris à la fin du roman Trames (Paris, Robert Laffont, 2009).

[2] Cf. Chris Brown, « `Special Circumstances’: Intervention by a Liberal Utopia », Millennium – Journal of International Studies, vol. 30, n° 3, 2001, notamment p. 632.

[3] Cf. Yannick Rumpala, « Entre anticipation et problématisation : la science-fiction comme avant-garde », Communication pour le colloque « Comment rêver la science-fiction à présent ? », Cerisy-la-Salle, 22 juillet 2009.

[4] Rendu selon lui nécessaire par la vie commune dans l’espace et la sophistication technologique corrélative : « Essentially, the contention is that our currently dominant power systems cannot long survive in space; beyond a certain technological level a degree of anarchy is arguably inevitable and anyway preferable » (« A Few Notes on the Culture », op. cit.).

[5] Cf. Murray Bookchin, Vers une technologie libératrice, trad. de l’américain, Paris, Librairies parallèles, 1974.

[6] Voir par exemple le travail de Victor Scardigli sur le cas des avions : Un anthropologue chez les automates. De l’avion informatisé à la société numérisée, Paris, PUF, 2001, et pour une présentation plus synthétique de l’argument, « Y a-t-il encore un pilote dans l’avion ? », Le Monde Diplomatique, n° 595, octobre 2003, p. 30.

[7] Cf. Bruno Latour, « Le Prince : Machines et machinations », Futur antérieur, n° 3, 1990, pp. 35-62.

P.S.:
Un article plus long et plus académique a été publié en anglais à la suite de ces premières réflexions : « Artificial intelligences and political organization: an exploration based on the science fiction work of Iain M. Banks », Technology in Society, Volume 34, Issue 1, Februrary 2012.
Il peut être téléchargé ici en fichier pdf.