Je suis en train de lire The Age of spiritual machines de Ray Kurzweil et j’y trouve beaucoup de plaisir. Dans cet ouvrage, il démontre pourquoi l’avènement de machines dépassant largement l’intelligence humaine est inéluctable, et dans un avenir proche. Il se penche en détail sur la question de la conscience des machines. Longtemps, j’ai pensé que des machines existeraient un jour avec une intelligence de type humain, avec lesquelles on pourrait converser, des machines ressemblant à s’y méprendre à des êtres humains. C’est d’ailleurs à ce stade que, selon Alan Turing, on pourra parler de machines intelligentes. Mais je pensais que ces machines seraient purement « mécaniques » et que tout ce que l’on pourrait constater, c’est qu’elles sont intelligentes. Il me semblait qu’on ne pourrait pas affirmer qu’elles sont conscientes, notamment d’elles mêmes.
Aujourd’hui, à la lecture de Kurzweil, je me rends compte que c’est la même chose pour mes interlocuteurs humains. Puis-je dire qu’ils sont conscients ? Qu’est-ce que j’en sais, après tout ? La conscience est une expérience purement subjective. Je peux dire que je suis conscient mais je ne peux pas affirmer que vous qui me lisez l’êtes aussi.
La conscience n’est pas quelque chose d’observable. Et Kurzweil de citer Leibniz qui explique qu’en observant un cerveau en train de penser, on pourra en détailler toute la « mécanique » mais que l’on observera pas ses pensées. Aujourd’hui, on pourrait dire que l’on pourra peut-être observer les manifestations électromagnétiques de la pensée mais pas la pensée elle-même.
Ce qui vaut pour les êtres humains aujourd’hui vaudra demain pour les machines. Cela m’amène à deux réflexions. La première, c’est que, lorsque quelqu’un me parle, je fais l’hypothèse qu’il est conscient et conscient le lui-même. Mais c’est une croyance de ma part. Je m’aperçois donc que j’ai des croyances, que je suis « croyant ». Et cette prise de conscience (c’est le cas de le dire) n’est pas rien pour un sceptique comme moi !
La deuxième, c’est que je suis d’accord avec le pronostic de Kuzweil qui annonce que « prochainement » des machines très évoluées nous diront qu’elles sont conscientes d’elles-mêmes…et que nous les croirons. Moi aussi, j’anticipe le fait que je les croirai. L’idée fantaisiste selon laquelle, un jour, des machines réclameront des droits, du respect personnel, n’est finalement pas si fantaisiste que cela.
« Objets inanimés, avez-vous donc une âme ? » se demandait Lamartine. Pas tout à fait encore. Mais cela ne saurait tarder. Et ce jour-là, il faudra vous respecter en tant que personnes.
