Data est-il conscient ? Cette question, posée à propos d'un personnage de la série Star Trek, est reprise par le philosophe David Chalmers dans son dernier ouvrage Réalité +.1 Data est le nom d'un androïde. Dans l'épisode de la série intitulé "The Measure of a Man", un procès a lieu pour déterminer si Data est un être intelligent et conscient.
L'intelligence du robot humanoïde ne fait aucun doute : Les données ont la capacité d'apprendre, de comprendre et de gérer de nouvelles situations. Cependant, la question de savoir si Data est consciente reste sans réponse. Data a-t-elle une vie intérieure avec des perceptions, des émotions et des pensées conscientes ? Ou Data est-il ce que les philosophes appellent un "zombie" ? En philosophie, un zombie est un système qui, extérieurement, se comporte comme un être conscient mais qui, intérieurement, n'a pas d'expérience consciente. Il se comporte de manière intelligente, mais n'a pas de vie intérieure ni de réflexivité sur ses actions.
Chalmers a participé à cette histoire de se demander si un système numérique peut être conscient ou si seuls les humains et les animaux sont doués de conscience. Pour cet étonnant philosophe australien, un système simulant parfaitement les fonctions d'un cerveau pourrait être conscient au même titre qu'un cerveau biologique. Ce qui le conduit à des spéculations vertigineuses : dans ce cas, En reflétant cette logique, notre conscience réelle n'est-elle pas simplement la effet d'une simulation ? Ne vivons-nous pas déjà dans un métavers, et notre dieu n'est-il pas un ordinateur ?
Si nous faisons de l'histoire du bien nommé Data une allégorie, nous pouvons l'utiliser pour soulever une question éthique simple lorsque nous exploitons des données. De quel type de données s'agit-il ? Données zombies ou données conscientes ? Dans le premier cas, nous récoltons des données qui semblent se comporter de manière intelligente, mais dont le contenu est finalement vide et sans intérêt. Nous avons tous fait l'expérience de parcourir des masses de données pour des résultats parfois très faibles, voire absurdes ! On peut ajouter que les données nous transforment, nous aussi, en zombies... Car nous voilà réduits à des agrégats de comportements extérieurs (achats effectués, mots-clés tapés dans les moteurs de recherche, conversations tenues sur les médias sociaux, etc.) censés encapsuler nos désirs intérieurs - qui restent tout de même un peu plus subtils. Les données sur les zombies font les gens zombies !
En ce qui concerne les données conscientes, nous pouvons être certains que les Big Data n'ont pas la conscience du système que Chalmers juge tout à fait plausible dans le futur. Il ne reste alors plus qu'à la conscience extérieure humaine de donner un sens aux données, de les humaniser. C'est comme Data l'androïde, qui a besoin d'un ami humain pour évoluer, un rôle rempli par le capitaine Picard dans Star Trek. Les personnes conscientes font des données conscientes !
____________
1 David J. Chalmers, "Reality +. Les mondes virtuels et les problèmes de la philosophie", Penguin Books/Allen Lane, 2022.