En quoi l'argument selon lequel « l'IA n'est qu'un outil » est erroné

Cette façon d’aborder la technologie est devenue presque automatique dans le débat public. Elle revient constamment dans les discussions sur l’intelligence artificielle, la biotechnologie et bien d’autres technologies émergentes. L’idée sous-jacente est toujours à peu près la même : les technologies en elles-mêmes sont neutres, tandis que la responsabilité incombe principalement aux utilisateurs.

À première vue, cette affirmation semble raisonnable. Elle reflète une façon de penser profondément ancrée concernant les objets techniques. Un couteau peut servir à préparer un repas ou à blesser quelqu’un. L’objet en lui-même n’est ni moral ni immoral ; ce qui importe, c’est l’intention de la personne qui l’utilise. Appliquée à l’IA, la conclusion semble simple : la technologie n’est pas le problème. Le défi consiste simplement à encourager les bonnes utilisations et à prévenir celles qui sont nuisibles.

Mais je pense de plus en plus que cette analogie ne parvient pas à décrire ce que sont réellement les systèmes technologiques contemporains.

Du choix technologique à l’inévitabilité technologique

La conception de la technologie comme neutre s’accompagne souvent d’une autre idée fausse courante : l’IA est déjà là, et la seule question qui reste est donc de savoir comment en faire un usage éthique, responsable ou sûr.

Ces deux façons d’aborder le sujet écartent discrètement un élément essentiel du débat : la possibilité de remettre en question la trajectoire technologique elle-même. Les débats publics passent souvent rapidement de la question de savoir si certaines trajectoires technologiques devraient exister à celle de savoir comment les gouverner de manière responsable. Le développement et le déploiement des systèmes d’IA sont considérés comme largement inévitables. Le débat qui s’ensuit porte sur l’atténuation des risques, les cadres éthiques, les protocoles de sécurité, les normes de transparence ou les lignes directrices pour une utilisation responsable.

Pourtant, ce cadre repose déjà sur une hypothèse politique importante : celle selon laquelle la trajectoire elle-même n’est plus vraiment ouverte au choix collectif. La question n’est plus « Devrions-nous développer et déployer ces systèmes de cette manière ? », mais plutôt « Maintenant que ces systèmes sont là, comment atténuer leurs effets ? ». En d’autres termes, la gouvernance se concentre sur l’adaptation plutôt que sur la possibilité de façonner ou de limiter collectivement les orientations technologiques en amont.

Pourquoi les technologies ne sont pas « de simples outils »

Cela importe car les technologies ne sont jamais mises en œuvre dans le vide. L’idée selon laquelle la technologie serait neutre ou que seule la « réduction des risques a posteriori » soit sujette à débat ne rend pas compte de la manière dont nos systèmes technologiques émergent réellement.

Revenons à notre exemple classique : un couteau peut servir à cuisiner ou à tuer. L’objet en lui-même est censé être neutre ; la moralité dépend entièrement de l’utilisateur. Mais les technologies modernes à grande échelle ne fonctionnent pas comme des couteaux.

Un couteau ne s’accompagne pas d’incitations financières mondiales poussant vers des utilisations spécifiques. Des industries entières ne s’organisent pas autour de la maximisation de l’adoption du couteau. Les gouvernements ne repensent pas les infrastructures publiques pour intégrer son utilisation. Les universités ne restructurent pas leurs programmes et priorités de recherche pour l’optimiser. Des écosystèmes de lobbying massifs ne sont pas mis en place pour normaliser la dépendance au couteau dans toute la société.

L'intelligence artificielle, en revanche, s'inscrit précisément dans ce type de dynamique.

Son développement est façonné par d'énormes concentrations de capital, la concurrence géopolitique, les stratégies étatiques, les intérêts industriels, les contrats militaires et les budgets de recherche. Les utilisations qui s'imposent ne sont pas le fruit du hasard. Elles émergent de systèmes d'incitations et d'infrastructures qui orientent activement la manière dont la technologie est conçue, déployée et intégrée dans la vie quotidienne.

C’est pourquoi il est trompeur de décrire l’IA comme « un simple outil ». Non pas parce que la responsabilité individuelle disparaît, mais parce que les intentions individuelles ne suffisent pas à elles seules à comprendre comment les systèmes technologiques évoluent. Un chercheur peut sincèrement vouloir utiliser l’IA pour accélérer les découvertes scientifiques. Un hôpital peut déployer des systèmes d’IA dans l’espoir d’améliorer les diagnostics. Une administration publique peut adopter des systèmes automatisés pour gagner en efficacité. Aucun de ces acteurs n’a nécessairement l’intention de nuire.

Et pourtant, les conséquences plus larges peuvent tout de même inclure une augmentation de la consommation d'énergie, une concentration du pouvoir entre les mains d'une poignée d'entreprises technologiques, de nouvelles dépendances vis-à-vis d'infrastructures opaques, une intensification des capacités de surveillance ou des transformations du travail que personne ne contrôle pleinement. La question ne porte donc pas simplement sur la moralité des utilisateurs individuels. Elle concerne la structure même du système socio-technique.

Les limites du pharmakon

Le philosophe français Bernard Stiegler figurait parmi les penseurs qui ont le plus vigoureusement remis en cause l’idée de neutralité technologique. S’appuyant sur le concept grec du pharmakon, il a soutenu que les technologies sont toujours à la fois poison et remède[1]. L’écriture, par exemple, peut préserver le savoir mais aussi affaiblir la mémoire. Les technologies numériques peuvent connecter les individus entre eux tout en provoquant une captation de l’attention et une aliénation. Pour Stiegler, la technologie ne pouvait jamais être réduite à un instrument neutre, car elle transformait toujours les modes de vie et de pensée humains.

Cette idée reste fondamentale. Mais les systèmes technologiques contemporains soulèvent un problème supplémentaire qui va au-delà de la simple question de l’ambivalence.

Le problème n’est pas simplement que les technologies recèlent à la fois des dangers et des potentialités. Le problème est que les systèmes technologiques organisent de plus en plus les conditions dans lesquelles certaines utilisations deviennent dominantes, rentables, normalisées et "scalable". Ils ne se contentent pas de permettre certains comportements ; ils orientent activement les trajectoires collectives.

Les plateformes de réseaux sociaux optimisées pour l'engagement ne sont pas des outils de communication neutres qui seraient parfois utilisés à mauvais escient. Leur architecture encourage systématiquement certains comportements, car l'extraction de l'attention est intégrée à leur logique économique. De même, les systèmes d'intelligence artificielle développés dans le cadre de la dynamique de la concurrence mondiale, de l'accumulation capitaliste et des infrastructures de surveillance étatique ne peuvent être compris indépendamment de ces environnements. Les systèmes qui entourent les technologies émergentes au cours de leur développement et de leur déploiement rendent certains résultats bien plus probables que d’autres.

Il est important de noter que rien de tout cela ne nécessite de mauvaises intentions. De nombreux acteurs impliqués dans ces transformations agissent de manière rationnelle dans le cadre des contraintes et des incitations auxquelles ils sont confrontés. Les institutions recherchent des gains de productivité. Les gouvernements recherchent un avantage stratégique. Les entreprises recherchent des marchés. Les chercheurs recherchent des opportunités de financement et des possibilités de publication. Chaque décision individuelle peut paraître raisonnable prise isolément, tout en contribuant à une dynamique plus large que personne n’a explicitement choisie de manière démocratique.

Repolitiser les systèmes technologiques

C’est précisément pour cette raison que la distinction entre un outil et un système socio-technique revêt une importance politique. Lorsque les technologies sont présentées comme des outils neutres, la responsabilité est individualisée. Les préjudices sont alors principalement attribués à une mauvaise utilisation, à des acteurs peu scrupuleux ou à une réglementation insuffisante. Mais dès lors que les technologies sont comprises comme des systèmes structurés par des incitations, des dépendances, des comportements institutionnels et des attentes sociales, la responsabilité ne peut plus se réduire à la seule moralité individuelle.

La question prend alors une dimension bien plus large. Elle porte sur la manière dont les trajectoires technologiques sont organisées collectivement bien avant que les utilisateurs finaux ne fassent un choix explicite. Elle porte sur qui finance le développement technologique, quelles applications deviennent économiquement viables, quelles formes d’expertise façonnent le déploiement et quelles visions de la société s’ancrent dans les infrastructures techniques.

C'est aussi pourquoi les débats actuels autour de l'« IA responsable » semblent parfois étrangement insuffisants. Très souvent, les cadres de responsabilité se concentrent sur la réduction des préjudices tout en laissant la direction générale du développement technologique largement incontestée. La possibilité que les sociétés puissent choisir collectivement des trajectoires différentes, des déploiements plus lents, voire des refus dans certains domaines, n'entre que rarement dans la discussion de manière significative.

Pourtant, il s'agit fondamentalement d'une question politique, et non pas simplement technique.

Ce qui est en jeu, en fin de compte, dans l’argument selon lequel « l’IA n’est qu’un outil », ce n’est pas simplement un désaccord sémantique. Il s’agit d’une question politique qui touche notre capacité d’action. Si les technologies sont considérées comme neutres et inévitables, alors la délibération collective passe au second plan. La société se retrouve réduite à s’adapter à des trajectoires déjà définies ailleurs.

Mais si les technologies sont comprises comme des systèmes socio-techniques façonnés par les institutions, les incitations, les infrastructures et les rapports de force, alors le développement technologique devient quelque chose qui peut, et doit, rester ouvert à un examen démocratique.

Toutes les trajectoires technologiques ne doivent pas nécessairement être accélérées simplement parce qu’elles deviennent techniquement réalisables. Toutes les applications ne méritent pas d’être déployées simplement parce qu’elles sont rentables. Et toutes les transformations sociales ne doivent pas être acceptées comme la conséquence inévitable de l’innovation.

Le véritable défi ne consiste donc pas seulement à utiliser les technologies de manière responsable une fois qu’elles existent. Il s’agit de retrouver notre capacité collective à décider quels systèmes technologiques nous voulons réellement construire en premier lieu.

[1] Bernard Stiegler développe le concept de la technologie en tant que pharmakon dans plusieurs ouvrages, notamment What Makes Life Worth Living: On Pharmacology (Polity, 2013), en s’appuyant sur le sens grec original du mot pharmakon, qui désigne à la fois remède et poison.