Michael Pollan dit que l'IA peut « penser » – mais elle ne sera jamais consciente

Qu'est-ce que la conscience ?

Après avoir écrit un livre sur la façon dont l'utilisation de psychédéliques dans un cadre thérapeutique peut changer votre conscience, c'est la question à laquelle le journaliste Michael Pollan a eu du mal à répondre.

« Il n'y a rien parmi nous qui soit plus sûr que le fait que nous sommes conscients. Cela nous est immédiatement accessible. C'est la voix dans notre tête », dit-il. Et pourtant, Pollan ajoute : « Comment trois kilos de cette substance semblable au tofu entre vos oreilles génèrent-ils une expérience subjective ? Personne ne connaît la réponse à cette question. »

Son nouveau livre explore la conscience à la fois au niveau personnel et technologique. Pollan, qui vit près de la Silicon Valley, affirme que certains pensent que l'intelligence artificielle est capable de prendre conscience.

« Ils partent du principe… que le cerveau est un ordinateur et que la conscience est un logiciel », dit-il. « Et si vous pouvez l'exécuter sur le cerveau, qui est essentiellement, selon eux, un » ordinateur basé sur la viande « , vous devriez pouvoir l'exécuter sur d'autres types de machines. »

Pollan n'est pas d'accord avec cette évaluation. Il reconnaît que les ordinateurs peuvent simuler la pensée, mais il ajoute que la « vraie pensée » est basée sur le sentiment.

« Si vous y réfléchissez, vos sentiments sont très liés à votre vulnérabilité, au fait que votre corps peut être blessé, à la capacité de souffrir et peut-être à votre mortalité », dit-il. « Je pense donc que tous les sentiments signalés par un chatbot seront sans poids, dénués de sens, car ils n'ont pas de corps. Ils ne peuvent pas souffrir. »


Faits saillants de l’entretien

Sur l’idée selon laquelle les gens ont des obligations morales envers les chatbots

C'est une conversation très active ici, selon laquelle s'ils sont conscients, nous avons alors des obligations morales envers eux et devons penser à leur accorder la personnalité, par exemple, de la même manière que nous avons accordé la personnalité aux entreprises. Je pense que ce serait fou. Nous perdrions complètement le contrôle d’eux en leur donnant des droits. Mais je trouve vraiment étrange toute cette attention portée à l’éventuelle conscience des chatbots, car nous n’avons pas étendu la considération morale à des milliards de personnes, sans parler des animaux que nous mangeons et que nous savons conscients. Alors on va commencer à s'inquiéter pour les ordinateurs ? On dirait que nos priorités sont foutues.

Sur la sensibilité des plantes

Les plantes peuvent voir, ce qui est une idée étrange. Il existe une certaine vigne qui peut réellement changer la forme de ses feuilles pour imiter la plante autour de laquelle elle s'enroule. Comment sait-il quelle est la forme de cette feuille ? Les plantes peuvent entendre. Si vous entendez le bruit des chenilles qui rongent une feuille, elles produiront des produits chimiques pour repousser ces chenilles et les transmettre, pour alerter les autres plantes à proximité. Les plantes ont de la mémoire. Vous pouvez leur apprendre quelque chose et ils s’en souviendront pendant 28 jours.

Et les plantes peuvent être anesthésiées. J'ai trouvé que c'était particulièrement époustouflant. Je pense donc à une plante comme la plante sensible, Mimosa pudica, qui si on la touche, ses feuilles s'effondrent, ou à une plante carnivore qui se nourrit des insectes qui franchissent son seuil. Vous pouvez les anesthésier et ils ne feront rien. Ainsi, le fait qu’ils aient deux états d’être suggère fortement quelque chose comme la conscience.

De perdre du temps pour laisser notre esprit vagabonder

Je crains également qu’avec les médias et nos technologies, nous réduisions l’espace dans lequel la pensée spontanée peut survenir. Et que cet espace de… pensée spontanée est quelque chose de précieux que nous donnons à ces entreprises qui veulent essentiellement monétiser notre attention, et dans le cas des chatbots, qui veulent monétiser nos attachements, nos profonds attachements humains. Donc la conscience est, je pense – et c’est ce qui, pour moi, est l’urgence de la question – la conscience est assiégée. Je pense que c'est la dernière frontière pour certaines de ces entreprises qui veulent vendre notre temps.

Sur nos idées paradoxales sur soi

Ce qui est intéressant et paradoxal à propos de soi, c'est que nous prêchons les valeurs d'assurance et de confiance en soi et d'avoir une forte estime de soi. Nous voulons que nos enfants aient cela. D'un autre côté, nous passons beaucoup de temps à essayer de nous échapper, de le transcender, que ce soit à travers le sport, les expériences artistiques, le cinéma, les psychédéliques ou la méditation. Nous avons donc des sentiments très mitigés à l’égard de soi. Je pense que c'est parce que le moi nous sépare. L'ego est une structure défensive. Il construit des murs. Et lorsque ces murs tombent ou même simplement (sont) abaissés, nous pouvons nous connecter aux autres, à l'art, à la nature, au divin dans certains cas.

Sur l'écriture d'un livre aux prises avec des questions sans réponse

Il y a eu de nombreux moments de désespoir au cours du processus de reportage et d’écriture de ce livre. Cela m'a pris cinq ans, et à plusieurs reprises (je l'ai dit à ma femme) « J'ai creusé un trou ici et je ne sais pas comment je vais un jour m'en sortir ». Et cela était en partie dû à une frustration croissante à l’égard de la science, et en partie au fait que j’avais ce cadre occidental classique de problème/solution masculin – qu’il y avait un problème et que j’allais trouver la solution.

Il a fallu ma femme, en partie, et (la professeure bouddhiste zen) Joan Halifax et d'autres personnes, pour m'amener à remettre cela en question et (ils) ont dit : « Oui, il y a le problème de la conscience, mais il y a aussi le fait, et le fait est merveilleux. Le fait est miraculeux. Et c’est un peu là que je suis sorti – et ce n’est certainement pas là où je m’attendais à sortir.