Sophie Chassat
Philosophe, Associée chez Wemean
Zombie Data
“Is Data conscious?” Cette question, posée à propos d’un personnage de la série Star Trek, est reprise par le philosophe David Chalmers dans son dernier ouvrage “Reality +”1. Data est le nom d’un androïde. Dans l’épisode de la série intitulé “The Measure of a Man”, un procès a lieu pour déterminer si Data est un être intelligent et conscient.
Pas de doute sur l’intelligence du robot humanoïde : Data a la capacité d’apprendre, de comprendre et de gérer des situations nouvelles. En revanche, la question de savoir si Data est conscient reste sans réponse. Data disposet-il d’une vie intérieure avec des perceptions, des émotions et des pensées conscientes ? Ou Data est-il ce que les philosophe appellent un « zombie » ? En philosophie, un zombie est un système qui, extérieurement, se comporte comme un être conscient, mais qui, intérieurement, n’a aucune expérience consciente. Il se conduit de manière intelligente, mais n’a ni vie intérieure ni réflexivité de ses faits et gestes.
Chalmers part de ce récit pour se demander si un système digital peut être conscient ou si seuls les êtres humains et les animaux sont doués de conscience. Pour ce philosophe australien décoiffant, un système simulant parfaitement le fonctionnement d’un cerveau pourrait être conscient au même titre qu’un cerveau biologique. Ce qui l’entraîne vers de vertigineuses spéculations : mais alors, en miroir, notre conscience actuelle ne serait-elle pas elle-même l’effet d’une simulation ? Ne vivrions-nous pas déjà dans un métavers et notre Dieu ne serait-il pas un ordinateur ?
Si nous faisons de l’histoire du bien nommé Data une allégorie, nous pouvons l’utiliser pour nous poser une question éthique simple lorsque nous exploitons des data. À quel type de data avons-nous affaire : Zombie Data or Conscious Data ? Dans le premier cas, nous récoltons des data qui semblent se comporter intelligemment mais dont in fine le contenu est vide et sans intérêt. Expérience commune : quelle masse de data pour parfois si peu d’enseignements utiles, voire des usages absurdes ! Ajoutons que ces data nous transforment nous aussi en zombies… Car nous voilà réduits à des agrégats de comportements extérieurs (achats effectués, mots-clés tapés sur des moteurs de recherche, conversations sur les réseaux sociaux etc.) censés résumer nos désirs intérieurs – lesquels sont tout de même un peu plus subtils. Zombie Data make Zombie People!
En ce qui concerne les Conscious Data, il est aujourd’hui certain que le Big Data n’a pas la conscience des systèmes que Chalmers juge tout à fait plausible à terme. Reste alors aux consciences extérieures humaines à donner du sens aux data, à les humaniser. Un peu comme l’androïde Data a besoin d’un ami humain pour évoluer : c’est le rôle du Captain Picard dans Star Trek. Conscious People make Conscious Data!
____________
1 David J. Chalmers, “Reality +. Virtual worlds and the problems of philosophy”, Penguin Books/Allen Lane, 2022. Non encore traduit en français.