Les neurotechnologies menacent-elles notre intimité mentale?

Exploiter les vertus d’une technologie tout en prévenant ses possibles dérives. C’est le dilemme qui déchire les innovations les plus révolutionnaires. Les interfaces neuronales, les systèmes bioélectroniques, les interfaces cerveau-machine, regroupés sous le vocable neurotechnologies, sont de cet ordre. Ces avancées ont le potentiel de changer la vie de millions de patientes et patients en restaurant les fonctions motrices, mentales, communicationnelles ou cognitives. Mais elles sont aussi la porte ouverte à une utilisation commerciale ou malveillante de nos données les plus intimes — nos pensées, nos humeurs ou notre mémoire. De plus, elles pourraient accroître le fossé entre celles et ceux qui ont accès à ces technologies et les autres qui ne l’ont pas, que ce soit dans un but thérapeutique ou en vue d’améliorer nos performances. En d’autres termes, les progrès couplés des neurosciences et de l’ingénierie nous mènent aujourd’hui à l’aube d’une nouvelle ère qui promet de renouveler notre compréhension du cerveau humain et d’augmenter les capacités humaines de manière inédite. Ils soulèvent aussi des questions éthiques et légales extrêmement délicates dans un monde qui respecte de moins en moins les règles établies.

Comparés aux autres indicateurs biologiques classiques, les risques et les bénéfices d’accéder aux données neuronales issues du cerveau et de les analyser sont d’une tout autre nature. Ces données révèlent nos états mentaux, cognitifs ou affectifs. On touche à l’essence du moi, dans sa capacité et ses expériences de pensée, mémorisation, planification, intention, perception, émotions. Des états mentaux qui influencent nos comportements et motivent nos décisions. Décoder cette activité préfigure la modification de nos processus affectifs et cognitifs, dans un sens bidirectionnel. Les stimuli extérieurs, tels que les impulsions électriques ou magnétiques, usant de la plasticité cérébrale, seraient à même d’écrire de nouveaux modèles d’activité ou de modifier les existants.

«Nous devons absolument accélérer le développement des neurotechnologies. Un tiers de la population mondiale va connaître un trouble neurologique et la moitié de la population souffrira d’une affection mentale au cours de sa vie. Nous avons besoin de ces technologies pour comprendre le cerveau et soigner les gens», plaide Marcello Ienca, professeur à la Technische Universität München et qui a mené le projet Hybrid Minds à l’EPFL de 2021 à 2024. «Mais dès que nous quittons l’usage médical et le domaine de la recherche, la pente est glissante. Nous vivons dans un monde où le cerveau humain est l’avoir le plus intéressant. Il est la base du modèle économique des réseaux sociaux et de l’e-commerce: leur seul but est de connaître les préférences psychologiques des consommateurs et consommatrices pour les influencer, exploiter leurs vulnérabilités et les garder captifs. Les données neuronales rendront cette économie de la donnée encore plus précise et efficace. Avec les interfaces cerveau-machine, les entreprises pourront agréger les données comportementales qu’elles ont déjà avec celles beaucoup plus complètes issues directement du cerveau. Elles pourront aller directement à la source de la donnée. Or les gens ne sont pas conscients de la richesse de leurs signaux cérébraux.»

Aujourd’hui, de nombreuses entreprises, souvent en collaboration avec la communauté scientifique, ont développé des implants pour traiter la dépression, la maladie de Parkinson ou soigner des patientes et patients souffrant de paraplégie (voir page 36). Pour l’instant, implanter quelque chose dans le cerveau humain ne peut poursuivre qu’un but thérapeutique. Mais ce ne sont pas les ambitions qui manquent. Neuralink, la société dirigée par Elon Musk, s’est déjà positionnée sur ce terrain. «Elle est la seule à revendiquer sa volonté de doter prochainement de technologies implantables des millions d’individus pour des usages non médicaux, dans le seul but d’améliorer les performances», poursuit le philosophe et éthicien des neurosciences. Cependant, il n’y croit pas. «Je serais surpris qu’ils arrivent à implanter une centaine de personnes au cours des cinq prochaines années. Mais la perspective qu’ils parviennent à convaincre un nombre conséquent de personnes de partager leurs données neuronales avec eux n’en reste pas moins préoccupante. Et ma principale crainte est que, s’ils commettent une grave erreur — résultant en la mort d’un patient ou une fuite majeure de données — ce sera au détriment de la communauté des neuroscientifiques.»

Créer un monopole sur le cerveau humain est la chose la plus dangereuse qui pourrait arriver à l’espèce humaine. Ce sera extrêmement difficile, mais une des voies est d’avoir une forte stratégie européenne.

En attendant, les technologies non invasives — des miniélectroencéphalogrammes portables — fleurissent déjà dans des casques audio, des bandeaux pour le sport ou le sommeil capables de surveiller notre attention. «Elles ne comportent pas de risque physique direct ni de chirurgie, donc n’importe quelle entreprise peut les utiliser pour des usages non médicaux en lien avec des objectifs commerciaux, le contrôle à distance d’appareils, le neurogaming, le divertissement ou autre, souligne Marcello Ienca. Elles sont moins performantes que les implants cérébraux, mais on peut collecter les données de davantage de personnes. Or aujourd’hui plus de données signifie un meilleur entraînement de l’intelligence artificielle et des algorithmes de prédiction plus robustes.»

Ce n’est pas pour rien si Elon Musk est à la fois intéressé par les neurotechnologies et a acheté la plateforme X, elle-même rachetée par son entreprise d’intelligence artificielle. Ce n’est pas un hasard si Apple a breveté l’incorporation de capacités de lecture du cerveau pour une prochaine génération d’AirPods. «Les neurotechnologies sont ce que les économies de la donnée attendent depuis toujours: aller à la source neurobiologique de nos préférences, de nos intentions et de nos désirs. Et il y a un réel risque pour notre intimité mentale et un potentiel de manipulation et d’exploitation», poursuit le spécialiste.

«Nous sommes à l’aube d’une explosion des neurotechnologies. Notre décennie pourrait être ce que les années 80 ont été pour l’ordinateur personnel. Les neurotechnologies deviendront personnelles. On ne les utilisera pas parce qu’elles sont utiles, mais parce qu’on nous a convaincus qu’elles l’étaient. L’industrie du jeu pourrait être le cheval de Troie en produisant des neurojeux où l’on peut par exemple contrôler son avatar par la pensée.» Et on ne détaillera même pas les applications militaires...

Poser un cadre réglementaire sans entraver l’innovation

« En 2017, nous avons introduit la notion de neurodroits avec des collègues de Zurich, reposant sur l’idée que c’est une question fondamentale des droits humains qui n’a pas pu être anticipée par le texte de 1948 de la Déclaration universelle des droits humains. Nous avons donc proposé une mise à jour, soit en introduisant de nouveaux droits, soit en interprétant les droits existants de sorte à traiter ces défis », explique Marcello Ienca.
Le premier instrument international juridique contraignant dans le domaine de la protection des données est la Convention 108 sur la protection des données du Conseil de l’Europe. Ce dernier regroupe 46 membres, y compris la Suisse, mais le texte datant de 1981 regroupe 55 États parties. Marcello Ienca a fait partie du groupe d’experts pour établir des principes directeurs et proposer un amendement sur la neuroprotection et la protection des données neuronales discuté en session plénière en juin. Parallèlement, un groupe d’experts de l’Unesco, dont le professeur est également membre, travaille à un texte sur l’éthique des neurotechnologies. Les recommandations sont actuellement en consultation auprès des gouvernements membres. L’EPFL, à travers le Collège des humanités, en collaboration avec la Commission suisse pour l’Unesco, a accueilli la consultation régionale d’Europe occidentale sur le premier projet de texte de la Recommandation de l’Unesco sur l’éthique des neurotechnologies en juillet dernier.
Les initiatives progressent aussi au niveau local : en avril 2024, le Colorado a été le premier État à se doter d’une loi sur la protection des données neuronales pour les élever au rang des données personnelles, telles que l’ADN, les empreintes digitales, les photos du visage ou les données biométriques. La Californie a suivi en septembre en termes similaires.

Dangereux monopole

« Même s’il faut rester conscient qu’en 2025 les cadres légaux ne semblent pas la priorité et peuvent être facilement ignorés, il ne faut pas abandonner les efforts pour construire un cadre légal, insiste le professeur. C’est pourquoi il faut combiner cette approche top-down avec une approche bottom-up, en informant les individus sur la valeur de leurs données, la réalité des risques et comment ils peuvent
les limiter. »
L’autre rempart est pour l’expert d’éviter la création de monopoles, comme c’est le cas aujourd’hui avec l’industrie informatique ou l’IA. « Créer un monopole sur le cerveau humain est la chose la plus dangereuse qui pourrait arriver à l’espèce humaine. » Et de poursuivre : « Ce sera extrêmement difficile, mais une des voies est d’avoir une forte stratégie européenne. L’Europe est encore régie par le droit et il est très important que nous mettions en place des stratégies démocratiques pour accompagner le développement des neurotechnologies. En outre, l’Europe, et l’EPFL en particulier, sont idéalement positionnées dans le domaine des neurotechnologies. Il est essentiel de trouver un juste équilibre entre l’absence de régulation, prônée par certains acteurs comme Elon Musk, et une surréglementation qui risquerait d’étouffer l’innovation. Les universités européennes peuvent jouer un rôle moteur en promouvant une innovation responsable, qui respecte les droits fondamentaux et anticipe les impacts sociétaux de ces technologies, affirmant ainsi leur position de leaders mondiaux dans ce domaine.