Section 5     Section 6-a

Section 6-b
Vues contradictoires sur la question principale

Section 7

 Source : les ordinateurs et l'intelligence

texte original de Turing section 7
traduction Patrice Blanchard

6. Vues contradictoires sur la question principale

Nous pouvons maintenant considérer que nous avons déblayé le terrain, et que nous sommes prêts à entrer dans le débat sur notre question «Les machines peuvent-elles penser? » et sa variante citée à la fin du paragraphe précédent. Nous ne pouvons pas complètement abandonner la forme originale du problème, car les opinions différeront en ce qui concerne la validité de la substitution, et nous devons au moins être attentifs à ce qui peut être dit sur ce point. Cela simplifiera les choses pour le lecteur si j'expose d'abord mes propres vues sur le sujet. Examinons, en premier lieu, la question sous sa forme la plus précise. Je crois que dans une cinquantaine d'années il sera possible de programmer des ordinateurs, avec une capacité de mémoire d'à peu près 109, pour les faire si bien jouer au jeu de l'imitation qu'un interrogateur moyen n'aura pas plus de 70 % de chances de procéder à l'identification exacte après cinq minutes d'interrogation. Je crois que la question originale «Les machines peuvent- elles penser? » a trop peu de sens pour mériter une discussion. Néanmoins, je crois qu'à la fin du siècle l'usage, les mots et l'éducation de l'opinion générale auront tant changé quel'on pourra parler de machines pensantes sans s'attendre à être contredit. Je crois de plus qu'il ne sert à rien de dissimuler ces croyances. L'idée populaire selon laquelle les savants avancent inexorablement d'un fait bien établi à un autre, sans être influencés par des hypothèses non vérifiées, est absolument fausse. Pourvu que nous sachions clairement quels sont les faits prouvés et quelles sont les hypothèses, aucun mal ne peut en résulter. Les hypothèses sont de grande importance puisqu'elles suggèrent d'utiles voies de recherches. Je vais maintenant envisager les opinions opposées à la mienne.

1. L'objection théologique Penser est une fonction de l'âme immortelle de l'homme. Dieu a donné une âme immortelle à tout homme ou femme, mais à aucun animal ni à aucune machine. En conséquence, ni l'animal ni la machine ne peuvent pensera. Je ne peux accepter en rien cette objection, mais j'essaierai d'y répondre en termes théologiques. Je trouverais l'argument plus convaincant si les animaux étaient classés avec les hommes, car il y a une plus grande différence, à mon avis, entre l'animé et l'inanimé qu'il n'yen a entre l'homme et les autres animaux. Le caractère arbitraire du point de vue ortho a. TI est possible que cette vue des choses soit hérétique. Saint Thomas d'Aquin (Somme théologique; cité par Bertrand Russell, A History o/Western Philosophy, New York, Simon et Schuster, 1945, p. 458) dit que Dieu ne peut pas faire qu'un homme n'ait pas d'âme. Mais il se peut que cela ne soit pas une restriction réelle de Ses pouvoirs mais seulement un résultat du fait que l'âme humaine est immortelle, et donc indestructible. doxe devient plus clair si nous considérons comment il pourrait apparaître à un membre de quelque autre communauté religieuse. Comment les chrétiens considèrent-ils l'opinion musulmane: «Les femmes n'ont pas d'âme»? Mais laissons cela de côté, et revenons à la discussion principale. Il m' apparaît que l'argument énoncé ci-dessus implique une sérieuse restriction de la toute-puissance de Dieu. Il est admis qu'il y a certaines choses qu'Il ne peut faire, comme de faire que 1 soit égal à 2, mais ne devrions-nous pas croire qu'Il a la liberté de donner une âme à un éléphant si cela lui semble convenable? Nous pourrions nous attendre à ce qu'Il exerce seulement ce pouvoir en conjonction avec une mutation qui fournirait à l'éléphant un cerveau convenablement amélioré pour s'occuper des besoins de son âme. On peut imaginer unargument similaire pour le cas des machines, qui peut sembler différent parce qu'il est plus difficile à «avaler ». Mais cela signifie seulement que nous envisageons comme moins probable l'éventualité qu'Il considère que les circonstances sont favorables pour qu'Il leur donne une âme. On discutera les circonstances en question dans la suite de ce texte. En essayant de construire de telles machines, nous ne devrions pas plus usurper irrévérencieusement Ses pouvoirs de créer des âmes que nous ne le faisons en engendrant des enfants: nous sommes plutôt, dans les deux cas, des instruments de Sa volonté, fournissant des demeures aux âmes qu'Il crée. Cependant, cela est pure spéculation. Les arguments théologiques m'impressionnent peu, quel que soit l'objet qu'ils défendent. De tels arguments se sont souvent montrés peu satisfaisants dans le passé. Au temps de Galilée, on disait que les textes «Et le soleil s'arrêta [ ... ] et ne se hâta pas de se cacher pendant toute une journée» (Jos X,13) et «Il posa les fondations de la Terre pour qu'elle ne bouge à aucun moment» (Ps CV,5) étaient une réfutation appropriée de la théorie copernicienne. Avec nos connaissances actuelles, un tel argument paraît futile. Quand ces connaissances n'étaient pas établies, il faisait une impression tout à fait différente.

2. L'objection de l'autruche. « Le fait que les machines pensent aurait des conséquences trop terribles. Il vaut mieux croire et espérer qu'elles ne peuvent pas le faire. » L'argument est rarement exprimé aussi ouvertement que ci-dessus. Mais il affecte la plupart de ceux d'entre nous qui réfléchissent à ce sujet. Nous aimerions croire que l'homme est de quelque subtile façon supérieur au reste de la Création. Il serait encore mieux de pouvoir montrer qu'il est nécessairement supérieur, car alors il n'y aurait aucun risque qu'il perde sa position dominante. La popularité de l'argument théologique est clairement liée à ce sentiment. Il sera probablement plus fort parmi les intellectuels, puisqu'ils valorisent plus que les autres la capacité de penser comme base de leur croyance en la supériorité de l'homme. Je ne pense pas que cet argument soit suffisamment substantiel pour rendre nécessaire une réfutation. La consolation serait plus appropriée: peut-être devrait-on la chercher dans la métempsycose.

3. L'objection mathématique Un certain nombre de résultats de la logique mathématique peuvent être utilisés pour montrer qu'il Y a des limites aux pouvoirs des machines à états discrets. Le plus connu de ces résultats l'est sous le nom de théorème de Godet et montre que dans tout système logique suffisamment puissant on peut formuler des affirmations qui ne peuvent ni être prouvées ni être réfutées à l'intérieur du système, à moins que le système lui-même ne soit inconsistant. Il existe d'autres résultats, similaires à certains égards, dus à Church, Kleene, Rosser et Turing. Le dernier de ces résultats est le plus pratique à examiner, puisqu'il se réfère directement aux machines, alors que les autres ne peuvent être utilisés que comme des arguments comparativement indirects: par exemple, si l'on utilise le théorème de Gëdel, il nous faut en plus nous donner des moyens de décrire les systèmes logiques en termes de machines, et les machines en termes de systèmes logiques. Le résultat en question se réfère à un type de machine qui est essentiellement un ordinateur à capacité infinie. Ce résultat établit qu'il y a certaines choses qu'une telle machine ne peut pas faire. Si elle est programmée pour répondre à des questions, comme dans le jeu de l'imitation, il y aura certaines questions auxquelles soit elle donnera une réponse fausse, soit elle ne donnera pas de réponse du tout, quel que soit le temps qui lui sera imparti pour répondre. Il se peut bien sûr qu'il y ait beaucoup de questions de ce genre, et des questions auxquelles une machine donnée ne saura pas répondre obtiendront peut-être une réponse satisfaisante de la part d'une autre. Nous supposons bien sûr pour le moment des questions appelant une réponse en « oui» ou en « non », plutôt que des questions telles que: « Que pensez-vous de Picasso? » Nous savons que les machines doivent échouer dans des questions du type: « Considérez la machine spécifiée comme suit ... Cette machine répondra-t-elle "oui" à n'importe quelle question? » Les points de suspension doivent être remplacés par la description d'une machine de forme standard, qui pourrait ressembler à celle qui figure dans la section 5. Quand la machine décrite présente une relation évidente et comparativement simple avec la machine que l'on interroge, on peut montrer soit que la réponse est fausse, soit qu'elle n' apparaîtra jamais. Voici le résultat mathématique: on en déduit que cela prouve une incapacité des machines, qui ne se retrouve pas dans l'esprit humain. Pour répondre brièvement à cet argument, il faut dire que, bien qu'il soit établi qu'il y a des limites à la puissance de n'importe quelle machine, il a seulement été affirmé, sans aucune sorte de preuve, que de telles limites ne s'appliquaient pas à l'esprit humain. Mais je ne pense pas que nous puissions rejeter ce point de vue si légèrement. Chaque fois que l'on pose à l'une de ces machines la question cruciale appropriée et qu'elle donne une réponse définie, nous savons que cette réponse est forcément fausse, ce qui nous procure un certain sentiment de supériorité. Ce sentiment est-il illusoire? Il est sans aucun doute tout à fait sincère, mais je ne pense pas qu'il faille y attacher trop d'importance. Nous donnons nous-mêmes trop souvent des réponses fausses à des questions pour que nous ayons le droit de nous réjouir d'une telle preuve de la faillibilité des machines. Nous ne pouvons de plus, en de telles occasions, ressentir notre supériorité que par rapport à la machine particulière sur laquelle nous avons remporté un triomphe insignifiant. Il est exclu de triompher simultanément de toutes les machines. En bref, il se peut qu'il y ait des hommes plus intelligents que n'importe quelle machine donnée, mais il se peut aussi qu'il y ait d'autres machines encore plus intelligentes, et ainsi de suite. Ceux qui tiennent à l'argument mathématique accepteraient pour la plupart volontiers, à mon avis, le jeu de l'imitation comme base de discussion. Ceux qui croient aux deux objections précédentes ne s'intéresseraient probablement à aucun critère.

4. L'argument issu de la conscience Cet argument est très bien exprimé dans le discours Lister de 1949 du professeur Jefferson, dont j'extrais cette citation: «Nous ne pourrons pas accepter l'idée que la machine égale le cerveau jusqu'à ce qu'une machine puisse écrire un sonnet ou composer un concerto à partir de pensées ou d'émotions ressenties et non pas en choisissant des symboles au hasard, et non seulement l'écrire, mais savoir qu'elle l'a écrit. Aucun mécanisme ne pourrait ressentir (et non pas simplement produire artificiellement un signal, ce qui relève d'un artifice facile) du plaisir quand il réussit, du chagrin quand ses lampes grillent; il ne serait pas ému par la flatterie, malheureux de ses erreurs, charmé par le sexe, et ne se mettrait pas en colère ou ne se sentirait pas déprimé quand il ne peut pas obtenir ce qu'il veut. » Cet argument revient à nier la validité de notre test. Selon ce point de vue extrême, la seule manière dont on pourrait s'assurer qu'une machine pense serait d'être la machine et de ressentir qu'on pense. On pourrait alors décrire ces sentiments au monde, mais bien sûr personne n'aurait de raisons d'en tenir compte. De même, suivant ce point de vue, la seule manière de savoir qu'un homme pense est d'être cet homme lui-même. C'est en fait le point de vue solipsiste. Il se peut que ce soit la position la plus logique à tenir, mais cela rend difficile la communication des idées. A est enclin à croire que « A pense, mais B ne pense pas»; de son côté, B croit que « B pense, mais pas A ». Au lieu de discuter continuellement ce point, on utilise habituellement la convention polie stipulant que tout le monde pense. Je suis sûr que le professeur Jefferson ne souhaite pas adopter ce point de vue extrême et solipsiste. Il accepterait probablement volontiers le jeu de l'imitation comme test. Le jeu (en omettant le joueur B) est fréquemment utilisé en pratique sous le nom d'examen oral pour découvrir si quelqu'un comprend véritablement quelque chose ou a « appris comme un perroquet ». Imaginons une partie d'un tel examen: L'examinateur: Dans le premier vers de votre sonnet qui dit: « Te comparerais-je à un jour d'été », est-ce que« un jour de printemps» serait aussi bien ou mieux? Le témoin: Cela ne rimerait pas. L'examinateur: Et «un jour d'hiver»? Cela rimerait très bien? ... 2. En anglais. summer (été) et winter (hiver) ont les mêmes caractéristiques prosodiques. Alors que celles de spring (printemps) sont différentes (NdT). Le témoin: Oui, mais personne n'a envie d'être comparé à un jour d'hiver. L'examinateur: Diriez-vous que M. Pickwick vous fait penser à Noël? Le témoin: D'une certaine manière, oui. L'examinateur: Et pourtant Noël est un jour d'hiver, et je ne pense pas que la comparaison ennuierait M. Pickwick. Le témoin: Je ne pense pas que vous soyez sérieux. Par « un jour d'hiver », on veut dire un jour d'hiver typique, plutôt qu'une journée spéciale comme Noël. Et ainsi de suite. Que dirait le professeur Jefferson si la machine à écrire des sonnets était capable de répondre ainsi à un examen? Je ne sais pas s'il considérerait que la machine «produit simplement et artificiellement un signal» avec ces réponses, mais si les réponses étaient aussi satisfaisantes et fermes que dans le passage ci-dessus, je ne pense pas qu 'il la décrirait comme un « artifice facile ». Cette expression a, je pense, pour but de recouvrir des dispositifs comme l'inclusion dans la machine de l'enregistrement de quelqu'un lisant un sonnet, qu'un système approprié mettrait en marche de temps en temps. Donc, en bref, je pense que l'on pourrait persuader la plupart de ceux qui soutiennent l'argument issu de la conscience de l'abandonner plutôt que d'être contraints d'adopter la position solipsiste. Ils accepteront alors probablement volontiers notre test. Je ne voudrais pas donner l'impression de penser qu'il n'y a pas de mystère relatif à la conscience. Il y a, par exemple, une sorte de paradoxe lié à toute tentative faite pour la localiser. Mais je ne crois pas que ces mystères doivent nécessairement être résolus avant que nous puissions répondre à la question qui nous intéresse ici.

5. Les arguments provenant de diverses incapacités Ces arguments prennent la forme suivante: «Je vous concède que vous pouvez fabriquer des machines qui fassent tout ce que vous avez mentionné, mais vous ne serez jamais capable d'en fabriquer une qui fasse X. » On énumère à ce moment-là différents traits X. J'en présente une sélection: Qu'elle soit gentille, débrouillarde, belle, amicale (p. 156- 157), qu'elle ait de l'initiative, le sens de l'humour, qu'elle fasse la différence entre le bien et le mal, qu'elle fasse des erreurs (p. 157-158), qu'elle tombe amoureuse, qu'elle aime les fraises à la crème (p. 157), qu'elle rende quelqu'un amoureux d'elle, qu'elle apprenne à partir de son expérience (p. 166 sq.), qu'elle utilise les mots correctement, qu'elle soit l'objet de ses propres pensées (p. 159). (Certaines de ces incapacités sont examinées plus en détail, comme l'indiquent les numéros de pages.) Aucune preuve n'est habituellement fournie pour soutenir ces affirmations. Je crois qu'elles sont surtout fondées sur le principe de l'induction scientifique. Un homme a vu des milliers de machines dans sa vie. De ce qu'il en voit, il tire un certain nombre de conclusions générales: elles sont laides; chacune est conçue dans un but bien précis; quand on leur demande un travail légèrement différent, elles sont incapables de le réaliser; la variété de comportements de n'importe laquelle d'entre elles est très restreinte, etc. Il en conclut naturellement que ce sont des propriétés nécessaires des machines en général. Beaucoup de ces limites sont associées à la très faible capacité de mémoire de la plupart des machines. (Je suppose que l'idée de capacité de mémoire est étendue de manière à recouvrir des machines qui ne sont pas des machines à états discrets. La définition exacte n'a pas d'importance, puisque dans la présente discussion on ne revendique aucune exactitude mathématique.) Il Y a quelques années, alors qu'on avait peu entendu parler des ordinateurs, il était possible de faire disparaître une grande partie de l'incrédulité à leur égard en mentionnant leurs propriétés sans décrire leur réalisation. Cela était probablement dû à une application similaire du principe de l'induction scientifique. Les applications de ce principe sont bien sûr en grande partie inconscientes. Quand un enfant qui s'est brûlé craint le feu et montre qu'il le craint en l'évitant, je peux dire qu'il applique l'induction scientifique. (Je pourrais, bien sûr, aussi décrire son comportement de bien d'autres manières.) Les travaux et les coutumes de l'humanité ne semblent pas être un matériau très adapté à l'application de l'induction scientifique. On doit étudier une grande partie d'espace-temps si l'on veut obtenir des résultats fiables. Autrement, nous conclurions (comme le font la plupart des enfants français) que tout le monde parle français et qu'il est idiot d'apprendre l'anglais. . Il y a, cependant, des remarques particulières à faire concernant beaucoup des incapacités mentionnées. Le lecteur a pu être frappé par la futilité de l'incapacité à aimer les fraises à la crème. Il est possible qu'on puisse faire aimer ce plat délicieux à une machine, mais toute tentative pour le faire serait idiote. Ce qui importe, en ce qui concerne cette incapacité, est qu'elle contribue à d'autres incapacités: par exemple, on imagine mal comment un homme et une machine pourraient entretenir des liens d'amitié, comme ceux qui rapprochent des hommes blancs ou noirs. Le fait d'affirmer que «la machine ne peut pas faire d'erreurs» semble curieux. On est tenté de répondre: «Est- elle pire pour cela? » Mais adoptons une attitude plus sympathique et essayons de voir ce que cela veut dire. Je pense que cette critique peut être expliquée dans les termes du jeu de l'imitation. On affirme que l'interrogateur pourrait distinguer la machine de l 'homme, simplement en lui posant un certain nombre de problèmes d'arithmétique. La machine serait démasquée à cause de son exactitude implacable. La réplique est simple. La machine (programmée pour jouer le jeu) n'essaierait pas de donner les réponses justes aux problèmes d'arithmétique. Elle introduirait délibérément des erreurs d'une manière calculée pour dérouter l'interrogateur. Une erreur mécanique se révélerait probablement à cause d'une décision inopportune à propos du type d'erreur à commettre en arithmétique. Même cette interprétation de la critique n'est pas suffisamment sympathique. Mais la place nous manque pour y entrer plus avant. Il me semble que cette critique vient de la confusion entre deux types' d'erreurs: nous pouvons les appeler «erreurs de fonctionnement» et «erreurs de conclusion ». Les erreurs de fonctionnement sont dues à quelque faute mécanique ou électrique qui fait que la machine ne se comporte pas comme elle le devrait. Dans les discussions philosophiques, on préfère ignorer la possibilité de telles erreurs; on discute donc de «machines abstraites ». Ces machines abstraites sont des fictions mathématiques plutôt que des objets physiques. Elles sont par définition incapables d'erreurs de fonctionnement. En ce sens, nous pouvons effectivement dire que «les machines ne peuvent jamais faire d'erreurs ». Les erreurs de conclusion apparaissent seulement quand une signification est attribuée aux signaux de sortie de la machine. La machine peut, par exemple, imprimer des équations mathématiques, ou des phrases en anglais. Quand une proposition fausse se trouve imprimée, nous disons que la machine a commis une erreur de conclusion. Il n'y a évidemment absolument aucune raison de dire qu'une machine ne peut pas faire ce genre d'erreur. Elle pourrait ne rien faire d'autre qu'imprimer sans cesse «0 = 1 ». Pour prendre un exemple moins pervers, elle pourrait disposer d'une méthode pour tirer des conclusions par induction scientifique. Nous pouvons nous attendre à ce qu'une telle méthode conduise occasionnellement à des résultats erronés. Bien entendu, on peut répondre à l'affirmation qu'une machine ne saurait être l'objet de ses propres pensées que si l'on parvient à montrer que la machine a des pensées, et qu'elles ont des objets. Néanmoins, 1'« objet des opérations d'une machine» semble bien avoir une signification, du moins pour les gens qui travaillent avec elle. Si, par exemple, la machine essayait de trouver une solution à l'équation x2 - 40x - Il = 0, on serait tenté de décrire l'équation comme une partie de l'objet de la machine à ce moment-là. Dans ce sens, une machine peut sans aucun doute être son propre objet. Elle peut être utilisée pour aider à la confection de ses propres programmes ou pour prévoir les effets de modifications de sa propre structure. En observant les résultats de son propre comportement, elle peut modifier ses propres programmes pour atteindre un but de manière plus efficace. Il s'agit là de possibilités du futur proche, plutôt que de rêves utopiques. Souligner le fait qu'une machine ne peut pas avoir une grande diversité de comportements, c'est dire simplement qu'elle ne peut pas avoir une grande capacité de mémoire. Jusqu'à une période assez récente, une capacité de mémoire même de mille chiffres était très rare. Les critiques que nous considérons ici sont souvent des formes déguisées de l'argument issu de la conscience. Habituellement, si l'on soutient qu'une machine peut vraiment faire l'une de ces choses, et si l'on décrit le type de méthode que la machine est susceptible d'utiliser, on ne fera pas une forte impression. La méthode (quelle qu'elle soit, car elle est forcément mécanique) est en effet estimée plutôt vile. A preuve, la remarque entre parenthèses dans la précédente citation de Jefferson.

6. L'objection de lady Lovelace Les renseignements les plus détaillés que nous possédions sur la machine analytique de Babbage proviennent du mémoire de lady Lovelace. Elle y déclare: « La machine analytique n'a pas la prétention de donner naissance à quoi que ce soit. Elle peut effectuer tout ce que nous savons lui ordonner de faire» (les italiques sont de lady Lovelace). Cet extrait est cité par Hartree, qui ajoute: «Ceci n'implique pas qu'il ne soit pas possible de construire des machines électroniques qui "penseront par elles-mêmes" ou dans lesquelles, en termes biologiques, on pourrait inclure un réflexe conditionné qui servirait de base à un "apprentissage". Que cela soit en principe possible ou non est une question passionnante et stimulante, suggérée par certains développements récents. Mais il ne semble pas que les machines réalisées ou qui étaient à l'état de projet à cette époque aient eu cette propriété. » Je suis entièrement d'accord avec Hartree à ce sujet. On remarquera qu'il n'affirme pas que les machines en question n'avaient pas cette propriété, mais plutôt que les preuves dont lady Lovelace disposait ne l'encourageaient pas à croire qu'elles avaient cette propriété. Il est fort possible que, en un sens, les machines en question l'aient eue. Car supposons qu'une quelconque machine à états discrets ait cette propriété. La machine analytique était un calculateur numérique universel, et, en conséquence, si sa capacité mémoire et sa vitesse étaient adéquates, on pourrait avec un programme adapté lui faire imiter la machine en question. Il est probable que cet argument ne vint pas à l'esprit de la comtesse, ni à celui de Babbage. De toute façon, ils n'étaient pas dans l'obligation d'avancer tout ce qu'il y avait à avancer. On reconsidérera entièrement la question en examinant, plus loin, les machines à facuIté d'apprentissage. Une variante de l'objection de lady Lovelace affmne qu'une machine ne peut «jamais rien faire de vraiment nouveau ». On peut y répondre pour l'instant avec le dicton: «Il n'y a rien de nouveau sous le soleil. » Qui peut être certain que le «travail original» qu'il a effectué n'était pas simplement la croissance de la semence plantée en lui par l'enseignement, ou la conséquence de principes généraux bien connus? Une meilleure variante de l'objection affirme que la machine ne peut «jamais nous prendre par surprise », Cette affirmation est un défi plus direct, et on peut y faire face plus franchement. Les machines me prennent très fréquemment par surprise. La raison principale en est que je ne fais pas de calculs suffisants pour décider de ce à quoi je peux m'attendre de leur part ou plutôt que, bien que je fasse des calculs, je les fais de manière rapide et bâclée, en prenant des risques. Je me dis peut-être: « Je suppose que le voltage ici devrait être le même que là: de toute façon, supposons qu'il en soit ainsi. » Naturellement, je me trompe souvent, et le résultat est surprenant, car au moment de l'expérience ces suppositions ont été oubliées. Ces suppositions justifient les remontrances qu'on pourrait me faire sur mes pratiques douteuses, mais ne jettent pas l'ombre d'un doute sur ma crédibilité quand je parle des surprises que je ressens. Je ne m'attends pas à ce que cette réponse fasse taire les critiques. On m'objectera probablement que de telles surprises sont dues à quelque acte de création mentale de ma part, et ne sont pas à porter au crédit de la machine. Cela nous ramène à l'argument issu de la conscience et nous éloigne de l'idée de surprise. C'est une suite d'arguments que nous devons considérer comme close, mais il faut peut -être remarquer que le fait de trouver quelque chose surprenant requiert de toute façon un « acte de création mentale », que la surprise trouve son origine chez un homme, un livre, une machine ou quoi que ce soit d'autre. Cette opinionselon laquelle les machines ne peuvent pas nous surprendre est due, à mon avis, à un sophisme dont les philosophes et les mathématiciens sont tout particulièrement coutumiers. L'idée est que, dès qu'un fait se présente à l'esprit, toutes les conséquences de ce fait jaillissent simultanément avec lui dans l'esprit. C'est une hypothèse très utile dans de nombreuses circonstances, mais on oublie trop facilement qu'elle est fausse. Une conséquence naturelle est qu'on suppose qu'il n'y a aucun mérite à découvrir simplement les conséquences d'une information ou de principes généraux.

7. L'argument de la continuité dans le système nerveux Le système nerveux n'est certainement pas une machine à états discrets. Une petite erreur dans l'information sur la taille d'une impulsion nerveuse affectant un neurone peut nous conduire à nous tromper grossièrement sur la taille de l' impulsion de sortie. On peut dire que, puisqu'il en est ainsi, il ne faut pas s'attendre à pouvoir imiter le comportement du système nerveux avec un système à états discrets. Il est vrai qu'une machine à états discrets est forcément différente d'une machine continue. Mais, si nous acceptons les conditions du jeu de l'imitation, l'interrogateur ne pourra pas tirer avantage de cette différence. On peut rendre la situation , plus claire en considérant une machine continue plus simple. Un analyseur différentiel conviendra très bien (un analyseur différentiel est un type de machine qui n'est pas à états discrets, et qu'on utilise pour certains types de calculs). Certains d'entre eux impriment leurs réponses et peuvent ainsi facilement prendre part au jeu. Il ne serait pas possible à un ordinateur digital de prédire exactement quelles réponses l'analyseur différentiel donnerait à un problème, mais il serait tout à fait capable de donner le genre de réponse adéquat. Par exemple, si on lui demandait de donner la valeur de 1(; (en réalité, à peu près 3,1416), il serait raisonnable de choisir au hasard entre les valeurs: 3,12,3,13,3,14,3,15,3,16, avec des probabilités disons de 0,05, 0,15, 0,55, 0,19, 0,06. Dans ces circonstances, il serait très difficile pour l'interrogateur de distinguer l'analyseur différentiel de l'ordinateur digital.

8. L'argument du comportement informalisable Il n'est pas possible de produire un ensemble de règles qui ait la prétention de décrire ce qu'un homme devrait faire dans tout ensemble concevable de circonstances. On devrait, par exemple, établir une règle définissant qu'on doit s'arrêter quand on voit un feu rouge, et passer quand on voit un feu vert. Mais qu'arrive-t-il si par suite d'une erreur les deux apparaissent en même temps? On peut peut-être décider qu'il est plus sûr de s'arrêter. Mais quelque autre difficulté peut bien se faire jour plus tard à cause de cette décision. Il paraît impossible d'élaborer des règles de conduite pour parer à toutes les éventualités, même à celles concernant les feux tricolores. Je partage entièrement ce point de vue. A partir de là, on en déduit que nous ne pouvons pas être des machines. J'essaierai de reproduire l'argument, mais j'ai peur de ne pas être très juste à son égard. Il semble qu'il corresponde à peu près au syllogisme suivant: « Si chaque homme disposait d'un ensemble défini de règles de conduite d'après lesquelles il organiserait sa vie, il ne serait pas supérieur à la machine; mais de telles règles n'existent pas; ainsi, les hommes ne peuvent pas être des machines. » La non-distribution du moyen terme est manifeste. Je ne pense pas que l' argument soit jamais énoncé exactement dans ces termes, mais je crois néanmoins que c'est bien l'argument utilisé. Il se peut cependant qu'il y ait une certaine confusion entre les« règles de conduite» et les «lois du comportement» qui finisse d'obscurcir le problème. Par« règles de conduite» j'entends des préceptes tels que: « Arrêtez-vous quand vous voyez un feu rouge », sur lesquels on peut agir et dont on peut être conscient. Par «lois de comportement» j'entends des lois naturelles comme celles qui s'appliquent au corps humain, par exemple: « Si vous le pincez, il criera. » Si nous substituons « les lois du comportement qui règlent sa vie» à « les lois de conduite d'après lesquelles il règle sa vie» dans l'argument cité, la non-distribution du moyen terme n'est plus un obstacle insurmontable. Car nous croyons non seulement que le fait d'être soumis à des lois de conduite implique que l'on soit une machine (bien que non nécessairement une machine à états discrets), mais que, réciproquement, le fait d'être une telle machine implique que l'on soit soumis à de telles lois. Cependant, nous ne pouvons pas nous convaincre de l'absence d'un ensemble complet de lois du comportement aussi facilement que nous l'avons fait pour l'ensemble complet des règles de conduite. La seule manière dont nous puissions découvrir de telles lois est l'observation scientifique, et nous ne connaissons aucune circonstance nous permettant de dire: «Nous avons assez cherché, de telles lois n'existent pas. » Nous pouvons démontrer de manière plus convaincante qu'aucune affirmation de ce type ne serait justifiée. Supposons que nous puissions être sûrs de découvrir de telles lois si elles existaient. Alors, à partir d'une machine à états discrets donnée, il devrait certainement être possible de découvrir, par l'observation, assez d'éléments à son sujet pour prédire son comportement futur, et cela dans une période de temps raisonnable, disons mille ans. Mais il ne semble pas que ce soit le cas. J'ai introduit dans l'ordinateur de Manchester un petit programme utilisant seulement mille unités de stockage, par lequel la machine, lorsqu'on lui fournit un nombre de seize chiffres, répond par un autre nombre en deux secondes. Je défie quiconque d'en apprendre assez au sujet du programme à partir de ces réponses pour être capable de prédire la réponse pour des valeurs non encore utilisées.

9. L'argument de la perception extrasensorielle Je pars du principe que le lecteur est familiarisé avec l'idée de la perception extrasensorielle et les quatre éléments qui en font partie, c'est-à-dire: la télépathie, la clairvoyance, la préconnaissance et la psychokinésie. Ces phénomènes troublants semblent remettre en cause toutes nos idées scientifiques habituelles. Comme nous aimerions les discréditer! Malheureusement, l'évidence statistique, au moins pour la télépathie, est accablante. Il est très difficile de réorganiser ses idées pour y intégrer ces nouveaux faits. Une fois que nous les avons acceptés, ce n'est pas progresser beaucoup que de croire aux fantômes et aux spectres. L'idée que notre corps se déplace simplement suivant les lois connues de la physique, et suivant quelques autres qui n'ont pas encore été découvertes mais qui leur sont relativement similaires, serait la première à disparaître. Cet argument est, à mon avis, très fort. On peut répondre que beaucoup de théories scientifiques semblent continuer à fonctionner dans la pratique malgré les conflits avec la perception extrasensorielle; que l'on peut, en fait, très bien se débrouiller si on l'oublie. C'est d'un réconfort relatif, et l'on craint que la pensée ne soit justement le type de phénomène pour lequel la perception extrasensorielle est particulièrement adéquate. Un argument plus spécifique, fondé sur la perception extrasensorielle, pourrait être rédigé en ces termes: « Jouons au jeu de l'imitation, en utilisant comme témoins un homme qui est un bon récepteur télépathique et un ordinateur digital. L'interrogateur peut poser des questions comme: "Quelle est la couleur de la carte que j'ai dans la main droite?" L'homme, par télépathie ou clairvoyance, donne 130 fois la bonne réponse sur 400 cartes. La machine peut seulement deviner au hasard et peut-être obtenir 104 bonnes réponses. L'interrogateur peut ainsi l'identifier.' » Une possibilité intéressante apparaît ici. Supposons que l'ordinateur renferme un générateur de nombres au hasard. Il est alors naturel de l'utiliser pour décider de la réponse à donner. Mais alors, le générateur de nombres au hasard sera sujet aux pouvoirs psychokinésiques de l'interrogateur. Cette psychokinésie fera peut-être que la machine devinera juste plus souvent que l'on ne s'y attend d'après le calcul des probabilités, et ainsi l'interrogateur ne pourra toujours pas l'identifier correctement. D'un autre côté, il se pourrait qu'il soit capable de deviner juste sans poser de questions, par clairvoyance. Avec la perception extrasensorielle, tout peut arriver. Si la télépathie est admise, il sera nécessaire de renforcer notre test. La situation pourrait être considérée comme analogue à celle qui se produirait si l'interrogateur se parlait à lui- même et si l'un des participants écoutait avec l'oreille collée au mur. Le fait de placer les participants dans une «pièce à l'épreuve de la télépathie» satisferait toutes les exigences.  

section précédente    ---   section suivante