cycle "vivre avec les algorithmes" : interview d'Estelle Hary sur les liens entre humains et algorithmes

En décembre 2020 le Labo Arts & Techs propose un cycle intitulé "Vivre avec les algorithmes", dont la programmation a été co-construite avec Estelle Hary, designer et doctorante, spécialisée dans les liens entre design et algorithme. Elle revient dans cette interview sur le choix de replacer l’humain au coeur des réflexions concernant les algorithmes et d'aborder, au long de ce cycle, les relations actuelles et futures entre humains et algorithmes. 

cycle algorithme

Qu’est-ce qui vous a amenée à vous intéresser aux algorithmes ? 

Partout mais invisibles, les algorithmes me paraissent être un objet soigneusement caché, alors qu’en vue de leurs enjeux, il y aurait tout intérêt à les mettre plus en lumière et en débat. Je pense que des pratiques de design peuvent se développer pour justement permettre cela. À titre personnel, je m’intéresse surtout à deux approches par le design des algorithmes.
La première, dans la continuité de projets comme Utop/Dystop(IA) menés au sein du studio Design Friction, est celui des imaginaires que nous entretenons avec cette technologie, et comment, par le design fiction, nous pouvons les questionner et les ouvrir.
La seconde s’intéresse aux modes de conception et de mise en place des algorithmes dans nos quotidiens pour permettre une reprise en main du déploiement de ces technologies par les individus et les communautés.
 

Comment avez-vous construit le cycle “Vivre avec les algorithmes” ? Pourquoi avoir choisi un axe social (relations entre humains et algorithmes) ? 

Les algorithmes et les problèmes qui les sous-tendent sont souvent pris sous un angle purement technique sans nécessairement les remettre dans leurs contextes social et culturel. Cela invisibilise toutes les formes d’interventions humaines dans la construction des algorithmes, de leur conception à leur fonctionnement quotidien, ce qui participe à les rendre indiscutables. 
 

Ce cycle cherche donc à remettre l’humain au coeur des réflexions concernant les algorithmes et à ouvrir les discussions sur l’impact sociétal de cette technologie. À ce titre, trois pistes sont apparues particulièrement pertinentes.Tout d’abord, celle du travail amène autant la question de la relation au travail que celle de la collaboration avec des systèmes algorithmiques. Cela a soulevé le point de la transparence et de l’intelligibilité des algorithmes, car bien souvent ceux-ci sont incompréhensibles de la part de leurs usagers, et parfois même de celle de leurs concepteurs. Il est intéressant d’observer les pratiques de transparence émergentes, allant d’approches très normatives, comme la législation garantissant des principes de transparence, à des approches plus empiriques et collectives, avec des formes de résistance et de manipulation des algorithmes basées sur l’observation de leur manifestation dans le quotidien. Ces formes de subversion soulèvent alors la question des rapports alternatifs que l’on peut développer avec les algorithmes, par la pratique, mais aussi, ce qui sera exploré en particulier dans le troisième temps du cycle, par les imaginaires. 

Ce cycle cherche à remettre l’humain au coeur des réflexions concernant les algorithmes et à ouvrir les discussions sur l’impact sociétal de cette technologie.

Aborder les algorithmes pendant la crise sanitaire actuelle est d’autant plus percutant, qu’est-ce que cette période révèle de notre façon d’exploiter les algorithmes ? 

D’un côté, cela met en lumière une pensée bien particulière considérant qu’insérer toujours plus de technologies équivaut au terme progrès. Ainsi, plus des réponses technologiques sont apportées à tout type de problème, mieux c’est. C’est ce que le chercheur Evgeny Morozov appelle le solutionnisme technologique, et ce que Sean Martin McDonald a plus récemment décrit comme un théâtre technologique, où des solutions technologiques sont mises en place pour donner l’impression que les problèmes sont gérés sans pour autant vraiment le faire.
 

De l’autre, la crise actuelle a révélé la limite des algorithmes. Alors qu’une partie des algorithmes développés actuellement sont conçus pour permettre de « prédire » l’avenir, voir, comme le note les philosophes Antoinette Rouvroy et Thomas Berns, de le faire advenir avant qu’il ne se produise grâce à l’acte de prédiction en tant que tel, et par extension aider à réduire l’incertitude, on s’est rendu compte qu’ils n’ont pas été très utiles face à la crise sanitaire. Ceci n’est pas très étonnant. De nombreux chercheurs, comme Dominique Cardon, ont souligné la capacité des algorithmes à observer et révéler les patterns réguliers de la réalité. Cela est possible seulement lorsque des données existent et sont accessibles. Dans le cas de la crise sanitaire, les données n’étaient pas là, et aucun algorithme ne pouvait vraisemblablement venir à l’aide au début de la crise, et même maintenant cela reste à démontrer. 
 

D’après-vous, les algorithmes peuvent-ils nous aider à sortir de la crise et à réinventer des modèles sociaux, ou au contraire, peuvent-ils nous freiner, nous dévier dans notre quête au progrès ?  

En l’état actuel, il est difficile de penser que les algorithmes vont nous aider à tout résoudre, notamment à cause des éléments décrits précédemment. En effet, si l’on considère que mettre en place un algorithme résout tout, alors on n’ira jamais remettre en question le système culturel et social sur lequel il repose et qu’il l’a construit. Au contraire, il risque de renforcer les modes de fonctionnement du système comme on put le démontrer des chercheuses comme Cathy O’Neil ou Ruha Benjamin. On est très loin d’une réinvention des modèles sociaux dans cette perspective, mais plus d’une automatisation des modes d’existence présents sans les remettre en question.
 

Finalement, l'algorithme a-t-il de beaux jours devant lui ? 

Les algorithmes nous accompagnent depuis l’Antiquité, il est difficile d’imaginer qu’ils vont soudainement disparaître. Aujourd’hui se dessine de réels enjeux de gouvernance de ces technologies qui demande à les aborder de façon critique : pourquoi, pour qui et comment voulons-nous les implémenter ? Le designer Matthieu Cherubini a proposé une exploration intéressante des enjeux éthiques de conception d’algorithmes de voiture autonomes qui révélait l’importance de la réponse à ces questions dans les décisions finales prises par l’algorithme.

Estelle Hary est designer et doctorante en design au sein du RMIT University et affiliée au Centre de recherche en design (ENS Paris-Saclay / ENSCI - Les Ateliers) travaillant sur les liens entre design et algorithmes. Elle travaille également au sein de la CNIL et a co-fondé le studio Design Friction qui explore des futurs possibles afin de mieux comprendre les problématiques d'aujourd'hui liées aux technologies. 
Avec le Labo Arts & Techs de Stereolux, elle a co-construit le cycle "Vivre les algorithmes"