«Sommes-nous prêts à voir nos vies documentées de A à Z?»

Sans faire grand de bruit, les caméras de sécurité ont fait leur apparition dans les espaces privés et publics. Toutefois, nos sociétés pourraient se trouver à un tournant: auparavant limitée à l'enregistrement passif, la vidéosurveillance devient « intelligente ». Ce qui était autrefois surveillé par des humains est désormais piloté par des algorithmes. Cela permettra-t-il d'éviter les erreurs et les dérives humaines? Ou, seront-elles remplacées par des biais algorithmiques? Et nos sociétés sont-elles prêtes pour un avenir orwellien?

Titulaire d'un doctorat en droit et philosophe, Johan Rochel est chargé de cours au Collège des humanités de l'EPFL et cofondateur d'Ethix, un cabinet de conseil basé à Zurich spécialisé dans le droit et l'éthique de l'innovation.

L'utilisation de la vidéosurveillance est-elle en augmentation?

Oui. Et cela se fait à la fois de manière visible et plus discrète. Pour les autorités locales, installer des caméras de vidéosurveillance est devenu très abordable. Cela peut devenir une sorte de réflexe face à un problème: « Des gens vendent de la drogue autour de la gare? Installons des caméras. » La véritable nouveauté réside dans la combinaison de caméras bon marché et largement disponibles avec de puissants outils d'IA. La surveillance n'est plus passive, elle est désormais automatisée et intelligente. On peut détecter des mouvements, identifier des comportements, rechercher des visages spécifiques.

Cela se produit-il aussi sur des propriétés privées?

Oui, c'est une autre facette du problème. Beaucoup de gens installent des caméras pour surveiller l'entrée de leur maison. Pour ce type de surveillance, il existe des lois et des réglementations précises. La partie de l'espace public que les citoyens privés sont autorisés à filmer est très limitée.

Cela revient-il à une question de liberté contre sécurité?

Le débat est souvent présenté comme un jeu à somme nulle entre libertés et sécurité: plus il y a de l'une, moins il y a de l'autre. Mais je ne suis pas sûr que ce soit la bonne façon de voir les choses. Les caméras de surveillance rendent-elles vraiment nos sociétés plus sûres? Elles peuvent donner une impression de sécurité, mais le coût en termes de liberté n'est pas réparti de manière égale. La technologie n'a pas le même impact sur tout le monde. Si vous êtes un jeune homme blanc en costume qui rentre du travail, vous ne remarquerez peut-être même pas les caméras. Et il est peu probable que vous soyez celui qui est surveillé. C'est la vieille question du profilage racial et social, et aujourd'hui, cette tendance est intégrée dans la technologie elle-même.

La technologie peut-elle être biaisée?

La technologie est toujours biaisée dans le sens où elle reflète des objectifs et des valeurs. Cela tient à la manière dont ces outils sont conçus et calibrés. Par exemple, ils sont souvent entrainés avec des données qui reflètent un segment limité de la population, souvent blanc. Par conséquent, ces systèmes sont moins précis lorsqu'il s'agit d'identifier des personnes au teint plus foncé. Il existe de nombreux cas documentés, notamment aux États-Unis, où des personnes ont été accusées à tort parce que le logiciel les avait mal identifiées. Je ne dis pas que les policiers sont racistes, ce sont les outils qui sont défaillants. Et même si la technologie de reconnaissance était parfaite, son déploiement est rarement neutre.

En tant que philosophe, que pensez-vous que notre propension à la surveillance révèle sur notre société?

La question de la surveillance m'amène à une question plus large: dans quelle mesure sommes-nous prêts à voir nos vies documentées de A à Z, partout et tout le temps ? Il existe une tendance profonde à transformer chaque aspect de notre existence en données. Les caméras de surveillance ne sont qu'une pièce de ce puzzle. Être filmé dans une gare peut sembler anodin. Mais la vraie question est la suivante: lorsque l'on additionne tous les endroits où nous sommes surveillés, reste-t-il une partie de notre vie qui échappe à la collecte de données? Pour beaucoup de gens, la réponse est non.

Cela a des conséquences profondes. Non seulement en termes de vie privée, mais aussi dans notre comportement. Comment le fait de savoir que nous sommes surveillés nous affecte-t-il? Agissons-nous différemment? Qu'advient-il de la confiance, de la spontanéité, lorsque nous vivons sous une surveillance potentielle? Nous ignorons encore quel sera l'impact sur les relations humaines, ou sur les relations entre les individus et l'État, lorsque tout sera surveillé et archivé. Mais l'histoire montre que, quand trop d'informations sont collectées sur les gens, les choses tournent rarement bien.

Vous semblez assez pessimiste.

Oui. Il y a une raison structurelle à cela. Beaucoup de gens autour de moi se concentrent sur la promotion des nouvelles technologies: les acteurs industriels, les acteurs privés, ceux qui commercialisent ces outils. Mais beaucoup moins de gens soulignent les risques, la nécessité de ralentir et de réfléchir attentivement. Je considère que c'est mon rôle. Je suis en quelque sorte « M. Bad News », et cela me convient. Je ne suis pas contre la technologie, au contraire, elle offre des possibilités incroyables. Mais ma conviction politique, ancrée dans le libéralisme, me rappelle que lorsque d'autres – États, entreprises, voire individus – détiennent trop d'informations sur moi, ils gagnent du pouvoir. Et le pouvoir peut être utilisé à mauvais escient.

Cette interview a été éditée et publiée pour la première fois dans C4DT Focus#9.