folder Filed in Désastre technocratique, Fabrique du consentement, Le mythe du progrès
Le travail scientifique est-il principalement motivé par le désir de faire du bien à l'humanité ? (par Theodore Kaczynski)
comment 3 Comments

Le texte qui suit est un extrait d’une lettre de Theodore Kaczynski à l’attention d’un certain P.B., en date du 16 mai 2009 (revue le 8 septembre 2009 et le 27 octobre 2009). Il a été traduit en français par Ana Minski depuis une version espagnole (la lettre originale, en anglais, n’est pas disponible sur internet), lisible à cette adresse.


Note liminaire de l’éditeur : Afin de mieux comprendre le propos de Theodore Kaczynski dans le texte ci-après, je reproduis ici les sections 87 à 92 de son livre La Société industrielle et son avenir :

87. La science et la technologie fournissent les exemples les plus parlants de ce qu’est une activité de substitution. Certains scientifiques prétendent être mus par la « curiosité », ou encore œuvrer pour le « bien de l’humanité ». Mais il est facile de voir qu’aucune de ces explications ne tient. Quant à celle qui invoque la « curiosité », elle est tout simplement absurde. La plupart travaillent dans des domaines hautement spécialisés qui sortent du champ de la curiosité ordinaire. Est-ce qu’un astronome, un mathématicien ou un entomologiste est intéressé par les propriétés de l’isopropyltriméthylméthane ? Bien sûr que non. Seul le chimiste l’est, et il l’est seulement parce que la chimie est son activité de substitution. Est-ce qu’un chimiste est curieux de connaître la classification appropriée d’une nouvelle sorte de coléoptères ? Non. Cette question intéresse seulement l’entomologiste, et il s’y intéresse seulement parce que l’entomologie est son activité de substitution. Si le chimiste et l’entomologiste devaient sérieusement assurer leur survie, et si cet effort mobilisait leurs capacités de manière intéressante sans pourtant rien avoir de scientifique, ils se ficheraient complètement de l’isopropyltriméthylméthane ou de la classification des coléoptères. Supposons que le manque de moyens ait empêché le chimiste de poursuivre ses études, et qu’il soit devenu agent d’assurances. Il se serait intéressé dans ce cas aux problèmes d’assurance et n’aurait rien eu à faire de l’isopropyltriméthylméthane. Il est stupide d’expliquer par la simple curiosité la quantité de temps et d’effort dépensée par les scientifiques dans leur travail. Cette explication ne tient pas debout.

88. Il n’est pas plus plausible d’invoquer le « bien de l’humanité ». Certains travaux scientifiques n’ont aucun rapport avec le bien-être de l’espèce humaine — comme la majeure partie de l’archéologie ou de la linguistique comparée, par exemple — et d’autres s’avèrent même manifestement dangereux. Les spécialistes de ces domaines sont pourtant aussi enthousiastes que ceux qui cherchent de nouveaux vaccins ou étudient la pollution de l’air. Prenons le cas du Dr Edward Teller, qui se lança avec passion dans la promotion des centrales nucléaires. Cette passion est-elle née du désir de faire le bien de l’humanité ? Et dans ce cas pourquoi le Dr Teller s’est-il pas senti concerné par d’autres causes « humanitaires » ? S’il était si humaniste, pourquoi a-t-il participé au développement de la bombe H ? Comme pour beaucoup d’autres travaux scientifiques, il est loin d’être prouvé que les centrales nucléaires sont réellement bénéfiques à l’humanité. Est-ce que la la modicité du prix de l’électricité compense l’accumulation des déchets ou les risques d’accidents ? Le Dr Teller a vu seulement un aspect de la question. Son engagement en faveur du nucléaire ne venait évidemment pas d’un désir d’œuvrer au « bien de l’humanité », mais du sentiment de réalisation personnelle qu’il retirait de ses travaux et de leurs applications.

89. Cela est vrai pour les scientifiques en général. Excepté en de rares cas, leurs mobiles ne sont ni la curiosité ni le bien de l’humanité, mais un besoin d’auto-accomplissement : avoir un but (un problème scientifique à résoudre), faire un effort (la recherche) et atteindre son but (résolution du problème). La science est une activité de substitution parce que les scientifiques travaillent essentiellement pour le sentiment de réalisation qu’ils retirent du travail lui-même.

90. Bien sûr, ce n’est pas si simple. En fait, chez beaucoup de scientifiques, d’autres mobiles entrent en jeu. L’argent et la carrière par exemple. Certains ont une soif inextinguible de prestige (voir paragraphe 79) et cela peut être le principal mobile de leur travail. Il est évident que la majorité des scientifiques, comme d’ailleurs le reste de la population, est plus ou moins réceptive à la publicité ou au marketing, et a besoin d’argent pour satisfaire sa fringale de marchandises et de services. La science n’est donc pas une pure activité de substitution, mais elle l’est dans une large mesure.

91. La science et la technologie constituent en outre un puissant mouvement de masse, et de nombreux scientifiques assouvissent leur besoin de puissance en s’identifiant à ce mouvement (voir paragraphe 83).

92. La science poursuit donc aveuglément sa marche en avant, sans se soucier du véritable bien-être de l’espèce humaine (ni de quoi que ce soit d’autre), obéissant seulement aux besoins psychologiques des scientifiques, des fonctionnaires du gouvernement et des dirigeants de l’industrie qui financent la recherche.

***

Le travail scientifique est-il principalement motivé par le désir de faire du bien à l’humanité ?

Dans vos commentaires sur les paragraphes 87–92 de la Société industrielle et son avenir [NdE : ci-avant] vous avez écrit :

« Les motivations des scientifiques. Cette section me semble particulièrement légère…

Une longue explication de pourquoi Edward Teller[1] est un Homme Mauvais. C’est bien. Mais quand nous pensons aux physiciens, la plupart d’entre nous pensent à Einstein plutôt qu’à Teller, et Einstein est un exemple paradigmatique de quelqu’un qui contredit totalement cette affirmation — mais il n’est pas le seul. [Quelle affirmation ? L’affirmation que le travail scientifique n’est pas principalement motivé par un désir de bénéficier à l’humanité ?] …

[Kaczynski], essentiellement, nie que les scientifiques ont des préoccupations morales…

En discutant avec des gens qui, je crois, ont travaillé dans ce que je considère être des disciplines de recherche véritablement nuisibles — conception d’armes à Lawrence Levermore[2], par exemple —, j’ai découvert que ceux qui dirigent et sont activement concernés par ce travail, le sont parce qu’ils croient faire ce qui est approprié pour le pays, y compris tous les risques que leur travail comporte, et qu’en faisant ce qui est approprié pour le pays, il font aussi ce qui est approprié pour le monde.

Ces gens sont conscients des implications morales des décisions qu’ils prennent activement — dans un sens que moi je ne prendrais pas.

Les personnes qui semblent ne pas vouloir faire ça [ne pas vouloir faire quoi ?] sont des personnes brillantes qui, plus que diriger le travail, l’entretiennent. Ils considèrent l’emploi dans cette discipline comme quelque chose d’éthiquement neutre, simplement comme un travail légal, et ils n’aiment pas penser aux coûts et bénéfices de leur travail. »

En premier lieu, gardons bien à l’esprit ceci : il doit être clair que, dans les paragraphe 87–89 de La société industrielle et son avenir, je commentais les motivations habituelles et typiques des scientifiques ; je ne prenais pas en compte les exceptions. Par conséquent, même si vous pouvez prouver que 1 % ou 5 % des scientifiques sont réellement motivés par un désir de faire ce qu’il y a de mieux pour l’humanité, cela n’affecterait en rien mon argumentaire. Il aurait dû être aussi évident qu’en questionnant les motivations des scientifiques, je m’interrogeais sur leurs motivations à réaliser des travaux scientifiques, et non sur leurs motivations au moment d’agir dans d’autres contextes. Je n’ai jamais dit que la majorité des scientifiques ne se préoccupait pas des questions morales. C’est une chose de dire qu’un scientifique ne se préoccupe pas des questions morales et c’en est une autre, très différente, de dire que sa principale motivation pour mener une recherche scientifique est le désir de faire du bien à l’humanité. (De toute manière, il est possible de trouver de nombreux exemples d’amoralité chez les scientifiques, comme je le développerai plus loin).

Pour autant, l’argument selon lequel les scientifiques (sauf quelques exceptions) ne sont pas principalement motivés par un désir de servir l’humanité ne nie pas que les scientifiques ont des préoccupations morales — hors du laboratoire. Vous mentionnez Einstein. Einstein a beaucoup œuvré pour la paix mondiale, et ses motivations étaient sans aucun doute profondément morales. Mais cela n’a rien à voir avec ses motivations pour mener des recherches en physique.

Ce que vous affirmez, c’est que les scientifiques agissent habituellement comme des agents moraux dans leur travail. Revenons à 2002, j’ai fait part de votre théorie aux deux psychologues de cette prison, des hommes compétents, selon moi, qui se considèrent eux-mêmes comme des « rationalistes récalcitrants » et dédaignent les théories douteuses comme celle du freudisme. Je cite une partie de mes notes datées du 9 avril 2002 :

« Étant donné que je compte répondre à une lettre que j’ai reçue il y a quelques temps d’un certain P. B., quand les docteurs Watterson et Morrison sont passés aujourd’hui par ma cellule, je leur ai demandé… s’ils avaient choisi la discipline de la psychologie pour satisfaire leurs besoins personnels, ou pour faire le bien de l’espèce humaine. Tous deux ont répondu qu’ils avaient choisi d’être psychologues pour satisfaire leurs besoins personnels. Je leur ai alors demandé s’ils pensaient que la majorité des psychologues choisissaient cette profession pour… faire du bien à l’espèce humaine, ou pour satisfaire leurs besoins personnels. Tous deux, les Dr. Watterson et Morrison, dirent que la majorité des psychologues choisissaient cette profession pour satisfaire leurs besoins personnels (et plus particulièrement leur ego, selon Watterson) et non pas pour le bien de l’espèce humaine. Morrison ajouta que beaucoup de psychologues diraient probablement qu’ils sont devenus psychologues pour aider les gens, mais que cela ne correspondrait pas à leur motivation réelle. Je leur ai fait part de l’opinion de P. B., selon laquelle les scientifiques ressentaient des “préoccupations d’ordre moral”. Watterson et Morrison semblèrent trouver ça amusant. Morrison suggéra, à moitié blagueur, que je devrais dire à P. B. de redescendre sur Terre. »

Dans le but de soutenir votre argument, vous dites « avoir découvert » que les personnes qui « dirigent et sont actuellement impliquées dans » la conception d’armes militaires pensent qu’elles font ce qu’il y a de mieux pour le monde et qu’elles « prennent en compte les implications morales des décisions qu’elles prennent activement ». Mais comment avez-vous découvert cela ? Parce qu’elles vous l’ont elles-mêmes dit ? Votre naïveté est stupéfiante. Si ces personnes pensaient que leur travail était préjudiciable, pensez-vous qu’elles l’auraient admis devant vous ? Si une personne a suffisamment peu de scrupules pour effectuer un travail aussi nuisible dans le but de satisfaire ses besoins personnels, il est certain qu’elle n’hésitera pas à travestir ses motivations véritables.

Certaines personnes ont des opinions très différentes des vôtres en ce qui concerne les scientifiques impliqués dans les recherches militaires. Dans ses mémoires d’après-guerre, le ministre de l’armement de Hitler écrivait :

« J’ai étudié le phénomène du dévouement, souvent aveugle, des techniciens à leur tâche. Étant donné qu’ils considéraient que la technologie était moralement neutre, ces gens étaient dépourvus du moindre scrupule en ce qui concerne leurs activités. Plus technique était le monde que nous imposait la guerre, plus dangereuse était l’indifférence des techniciens face aux conséquences de leurs activités anonymes. »[3]

Pensez-vous qu’un de ces techniciens aurait ouvertement admis à un inconnu qu’il était indifférent aux conséquences de son travail ? C’est très improbable. Prenons le cas de Wernher von Braun. Comme vous le savez probablement, von Braun était le chef des scientifiques chargés du développement des missiles sous Hitler. Il a dirigé la fabrication du missile V-2, qui tua de nombreux civils à Londres et dans d’autres villes.[4] Von Braun affirma après la guerre que ses motivations avaient été « patriotiques ».[5] Mais pendant tout le temps où il a travaillé avec Hitler, von Braun devait savoir que les Juifs étaient en train d’être exterminés, puisqu’il s’agissait « d’un secret de polichinelle en Allemagne au moins depuis fin 1942 », selon les études les plus récentes.[6] Quel genre de patriotisme conduirait un homme à construire des armes pour un régime qui extermine des groupes ethniques entiers par simple haine ? Il est clair que le « patriotisme » n’était qu’une excuse pour von Braun, et qu’il désirait simplement construire des missiles.

« Quand la Seconde Guerre mondiale touchait à sa fin, au début de 1945, Braun et beaucoup de ses associés décidèrent de se rendre aux États-Unis, où ils pensaient trouver un appui pour leur recherche sur les missiles […]. »[7] Ce qui importe n’est pas de savoir si construire des armes pour Hitler est moralement équivalent à construire des armes pour un régime prétendument démocratique comme celui des États-Unis. L’important c’est que les scientifiques s’attribuent à eux-mêmes des motivations apparemment nobles, telles que le « patriotisme », qui n’ont rien à voir avec leurs véritables motivations.

Et, non, cette façon d’agir ne se limite pas à ceux qui construisent des armes pour des régimes dictatoriaux. Comme sûrement vous le savez déjà, J. Robert Oppenheimer a dirigé le développement de la première bombe atomique des États-Unis. Dans un discours prononcé le 2 novembre 1945 devant les scientifiques qui avaient participé au projet de la bombe à Los Alamos, au Nouveau Mexique,[8] Oppenheimer souligne : « On doit toujours s’inquiéter du fait que ce que les gens disent être leurs motivations n’est jamais juste. » Après quoi Oppenheimer a présenté les excuses communes des scientifiques qui ont travaillé sur la bombe : les nazis auraient pu concevoir la bombe en premier ; il n’existe aucun autre lieu au monde où le développement des armes atomiques aurait moins de possibilités de conduire au désastre qu’aux États-Unis ; l’importance réelle de l’énergie atomique n’était pas dans les armes mais dans les bénéfices que cette énergie pouvait apporter à l’humanité ; etc. Oppenheimer souligne que toutes ces justifications étaient plus ou moins valables, mais il insiste sur le fait que la véritable raison pour laquelle les scientifiques avaient développé la bombe était que, pour eux, leur travail était une nécessité personnelle, une « nécessité organique ». Les scientifiques, du point de vue d’Oppenheimer, vivaient selon une philosophie qui considérait l’acquisition et la diffusion de connaissances comme des fins, indépendamment de leurs bénéfices pratiques pour l’espèce humaine.

Les implications du discours d’Oppenheimer sont évidentes, même si Oppenheimer ne les expose pas clairement : les scientifiques ne travaillent pas pour le bien de l’humanité, mais pour satisfaire leurs propres besoins. Même si Oppenheimer croyait probablement qu’en général la science bénéficie à l’humanité, il reconnaissait que justifier la science en disant qu’elle est bénéfique pour l’humanité était essentiellement une excuse qui ne représentait pas les motivations réelles des scientifiques.

Il est significatif que la version imprimée de ce discours trouvée parmi les papiers d’Oppenheimer portait cette note : « Ce matériel ne doit pas être rendu public. Une version corrigée devrait rapidement être publiée dans une revue scientifique. »[9] Mais, de fait, il semble que le discours n’ait pas été publié, ni sous forme « corrigée » ni aucunement, avant que Smith et Weiner ne l’intègrent à leur livre.

Apparemment, Oppenheimer n’était pas très à l’aise avec ce qu’il avait lui-même écrit au sujet des motivations des scientifiques. Quoi qu’il en soit, certains scientifiques ont exposé leur motivation plus ouvertement qu’Oppenheimer et sans aucun scrupule.

Werner von Siemens était un ingénieur du XIXe siècle qui inventa la génératrice à auto-excitation et réalisa d’autres découvertes importantes dans le domaine de l’électricité.[10] Dans une lettre datée du 25 décembre 1887, Siemens expose ses motivations :

« Certes, j’ai cherché à obtenir la richesse et les bénéfices économiques, mais pas prioritairement pour en profiter ; c’était plutôt pour obtenir les moyens pour l’exécution d’autres plans et projets et, grâce à mon succès, parvenir à la reconnaissance du bienfondé de mes méthodes et de l’utilité de mon travail. Pour autant, depuis ma jeunesse, j’ai désiré établir une entreprise internationale comme celles des Fugger,[11] qui garantirait, non seulement à moi mais aussi à mes successeurs, le pouvoir et l’estime dans le monde entier, ainsi que les moyens d’élever le niveau de vie de mes sœurs et des membres de ma famille proche. […]

Je considère notre entreprise seulement secondairement comme une source de richesse ; pour moi c’est davantage un royaume que j’ai fondé et que j’espère laisser intact à mes successeurs pour qu’ils continuent de développer un travail créatif. »[12] (Les italiques sont de moi)

Pas même une parole sur le bien de l’humanité. Mais portez votre attention sur l’importance que Siemens se porte à lui-même, à l’exécution de « plans », « projets » et « travail créatif ». C’est-à-dire aux activités alternatives. Je vous renvoie à La Société industrielle et son avenir, paragraphes 38–41, 84, 87–89.

Il est toutefois probable que les scientifiques qui travaillent dans des domaines dont les finalités sont explicitement humanitaires, comme la recherche de traitements pour différentes maladies, soient mus par le désir de faire du bien à l’humanité, n’est-ce pas ? Dans certains cas, peut-être. Mais, en général, je crois que non. Le bactériologue Hans Zinsser a écrit :

« N’ayant jamais eu de relation étroite avec quelqu’un travaillant dans le domaine des maladies infectieuses, il partageait la fausse croyance selon laquelle ces gens si particuliers étaient mus par de nobles motivations. Et, ne comprenant pas comment quelqu’un pouvait être porté par de telles motivations, il nous demanda : “Comment quelqu’un choisit de devenir bactériologue ?” […] En vérité, les hommes choisissent cette branche de la recherche pour divers motifs, parmi lesquels le désir conscient de faire le bien est le moins important. Ce qui compte, c’est qu’il s’agit d’un des quelques défis qu’il reste pour ceux qui ressentent le besoin de faire l’expérience de certaines émotions. La lutte contre les maladies infectieuses est l’une des quelques aventures authentiques qui restent encore dans le monde. […] Cette guerre contre ces petites et féroces créatures est peut-être l’unique défi authentique qui subsiste après l’insatiable domestication de l’espèce humaine […]. »[13]

Vous mentionnez Einstein comme exemple de quelqu’un dont le travail scientifique était motivé par un désir de faire le bien pour l’humanité, mais je crois que vous vous trompez. Selon Gordon A. Craig, Einstein aurait dit : « Tout notre progrès technologique, tant louangé, et notre civilisation en général, sont comme une hache entre les mains d’un criminel pathologique. »[14] Craig n’indique pas la source de cette citation, je ne peux donc pas vérifier sa véracité.[15] Mais, si ces paroles reflètent la vision qu’Einstein avait de la technologie, difficile de lui prêter une motivation altruiste. Einstein poursuivit son travail en physique théorique jusqu’à un âge très avancé.[16] Il a bien dû réaliser que n’importe quelle avancée physique aurait très certainement des applications pratiques et, pour autant, il participait au renforcement de cette technologie qu’il comparait à « une hache entre les mains d’un criminel pathologique ». Alors, pourquoi continua-t-il son travail ? Peut-être à cause d’une sorte de compulsion. Einstein a écrit : « Je ne peux me tenir à l’écart de mon travail. Il me tient inexorablement prisonnier. »[17]

Qu’il s’agisse d’une compulsion ou non, le travail scientifique d’Einstein n’avait rien à voir avec le désir de faire du bien à l’humanité. Dans une autobiographie[18] qu’il écrivit à 67 ans, Einstein décrit ses motivations. Enfant, déjà, il se sentait opprimé par le sentiment qu’avoir des envies et faire des efforts pour obtenir certaines choses était quelque chose de « vide » ou « dépourvu de sens » (Nichtigkeit).

Cela suggère une mentalité dépressive et défaitiste. D’autre part, il semble qu’Einstein était un enfant extrêmement délicat peu disposé à affronter la société, puisqu’il a découvert à un âge précoce ce qu’il appelait « la cruauté » de devoir faire des efforts (treiben) pour gagner sa vie. Au début, il tenta d’échapper à ces sentiments douloureux en devenant profondément religieux, mais à l’âge de douze ans il perdit la foi en lisant des livres scientifiques qui réfutaient l’histoire de la Bible. Il chercha donc une consolation dans la science, laquelle lui fournit un « paradis » qui remplaça le paradis religieux qu’il avait perdu.[19]

Par conséquent, il semblerait que dans le cas d’Einstein, le travail scientifique était non seulement une activité de substitution, mais aussi une manière de fuir un monde qu’il trouvait trop dur. De toute façon, ce qui est sûr, c’est qu’Einstein s’est consacré à la science uniquement pour satisfaire ses besoins personnels ; il ne suggère nulle part dans sa biographie que ses recherches pourraient, de quelque manière, améliorer les conditions de l’espèce humaine.

Je suppose que pour chaque scientifique que je pourrais citer et dont la motivation déclarée serait de satisfaire ses besoins personnels, vous pourriez en citer beaucoup qui jureraient avoir des motivations altruistes. Les motivations altruistes ne sont pas impossibles. J’imagine, par exemple, que la majorité de ceux qui étudient les disciplines de la botanique et de la zoologie sont en partie mus par un amour naïf des plantes ou des animaux sauvages. De toute façon, aux déclarations de motivations altruistes — ou, pour le dire de manière plus précise, aux motivations qui sont considérées admirables selon les normes de la société actuelle — il faut, en général, accorder très peu de valeur. Tandis qu’un scientifique qui admet que ses motivations sont égoïstes prend le risque de se dévaluer aux yeux de ceux qui l’entourent, celui qui affirme avoir une motivation « noble » satisfait leurs attentes et s’assure leur approbation, voire leur admiration. Il devrait être évident que la majorité des gens, la plupart du temps, diront ce qui pourra, à leur avis, leur octroyer l’approbation de leurs semblables. Cela suppose sans aucun doute une malhonnêteté délibérée, ainsi de von Braun lorsqu’il assurait que ses motivations étaient « patriotiques ». Néanmoins, je pense que les scientifiques croient à peu près en leurs propres excuses. La science possède sa propre idéologie autocomplaisante, dont une des fonctions consiste à rassurer celui qui y croit. Ainsi que l’explique le sociologue Monnerot, l’idéologie « offre une version différente de la relation entre la motivation et ce qu’elle engendre. Les matériaux qui composent une idéologie, et que cette dernière organise, peuvent alors être exposés, en quelque sorte. Ils ne sont pas seulement permis, ou honorables, ils tentent constamment d’affirmer leur relation avec les valeurs sociales reconnues […]. Les aspirations du [croyant] sont changées en valeurs éthiques et sociales par l’idéologie. […] »[20]

Mais l’idéologie qui présente la science comme une entreprise humanitaire est contredite par le discours et le comportement quotidiens des scientifiques. Au cours des onze années où j’ai été étudiant et professeur de mathématiques, durant lesquelles j’ai aussi assisté à quelques cours de physique et d’anthropologie physique, jamais je n’ai entendu, que ce soit dans la bouche d’un professeur ou d’un étudiant, la moindre mention de l’effet du travail scientifique ou mathématique sur la société, ou du bénéfice qu’il procurerait à l’humanité. Vous faites allusion à mon « isolement, y compris […] sur le plan académique », je me permets donc de vous rappeler que les affirmations formulées à mon sujet exagèrent souvent jusqu’à la caricature, ou pire, quand elles ne sont pas simplement fausses. J’étais effectivement solitaire, mais pas au point de ne pouvoir écouter et engager de nombreuses conversations avec d’autres étudiants et professeurs de mathématiques. Nous parlions entre professeurs et étudiants de ce qui se passait dans les diverses disciplines des mathématiques, à propos de certains types de recherches qui se pratiquaient, de qui les menaient, de leurs actes et de la personnalité de certains mathématiciens, mais jamais[21] je n’ai entendu quelqu’un manifester le moindre intérêt pour les avantages que son travail pourrait apporter à l’espèce humaine.

Une version moins infantile de l’idéologie scientifique présente la science non comme une entreprise humanitaire, mais comme quelque chose de « moralement neutre » : les scientifiques mettent simplement des outils à disposition de la société, et s’ils sont utilisés de manière négative, c’est la faute de la société, coupable d’en avoir fait un « mauvais usage » ; ainsi, les mains des scientifiques restent propres. Comme celles de Ponce Pilate. L’Encyclopédie Britannique énonce cet argument de la « neutralité » dans son article sur la technologie[22] ; vous, Dr. B., mentionnez le même argument dans la partie de votre lettre que j’ai citée plus haut ; Albert Speer le mentionna en se référant à l’excuse que donnaient les techniciens qui créaient les armes pour Hitler (voyez plus haut) : von Braun, de la même façon, « soulignait l’impartialité intrinsèque de la recherche scientifique, laquelle est en elle-même dépourvue de dimensions morales jusqu’à ce que ses produits soient utilisés par l’ensemble de la société. »[23]

D’un point de vue abstrait, la technologie peut effectivement sembler moralement neutre. Mais von Braun ne développait pas des missiles dans le champ abstrait des Formes Idéales de Platon. Il construisait des missiles pour Adolf Hitler et savait très bien que ces fusées seraient utilisées pour défendre un régime qui perpétrait des exterminations de masse. Aussi neutre que puisse sembler la technologie in abstracto, lorsqu’un scientifique développe une nouvelle technologie ou fait une découverte qui aura des applications technologiques, il agit d’une manière concrète qui implique des effets concrets sur la société dans laquelle il vit. Il n’a pas le droit de nier sa responsabilité en se basant sur l’idée selon laquelle la société aurait pu en faire usage d’une manière non destructrice. Von Braun était obligé de se demander non pas ce qu’Hitler aurait pu faire de ces missiles, mais ce qu’il en ferait effectivement. Pareillement, lorsque quelqu’un invente une nouvelle technologie aujourd’hui, il est obligé de considérer non pas ce que la société pourrait en faire, en théorie, mais de quelle manière cette technologie interagira avec la société dans la pratique.

Tout ce qui a été dit dans le paragraphe précédent est relativement évident, et n’importe quelle personne suffisamment qualifiée pour être experte en missile, en physique, ou en biologie moléculaire peut le comprendre en cinq minutes de réflexion honnête. Le fait que tant de scientifiques défendent l’argument de la « neutralité morale » démontre qu’ils sont soit malhonnêtes vis-à-vis d’eux-mêmes et des autres, soit qu’ils n’ont simplement jamais pris la peine de penser sérieusement aux implications sociales et morales de leur travail.[24]

Il existe un petit nombre de scientifiques qui pensent sérieusement et sincèrement aux conséquences de leur travail sur la société. Mais leurs scrupules moraux n’interfèrent pas significativement avec leur recherche ; ils la mènent à terme quoi qu’il en soit et tranquillisent leur conscience en insistant sur l’usage « éthique » de leur science, en imposant des limitations déterminées à leurs recherches ou en évitant les travaux qui sont spécifiquement liés au développement des armes.

Naturellement, leur insistance et leurs scrupules sont complètement inutiles. La façon dont la science est mise en pratique n’est pas déterminée par les scientifiques mais par l’utilité que la science revêt aux yeux de ceux qui détiennent le pouvoir ou l’argent.

Alfred Nobel était pacifiste, ce qui ne l’a pas empêché de développer de puissants explosifs. Il se consolait avec l’espérance « que les pouvoirs destructeurs de ses inventions aideraient à en finir avec la guerre ».[25] Nous savons comme cela a bien fonctionné, n’est-ce pas ? Comme nous l’avons déjà vu, Einstein prêchait — de manière inefficace — la paix mondiale, mais il poursuivit ses recherches jusqu’à la fin de sa vie, malgré son avis sur la technologie. Les scientifiques du Projet Manhattan développèrent d’abord la bombe atomique et prêchèrent ensuite — avec la même inefficacité — la nécessité d’une agence internationale pour contrôler l’énergie atomique.[26] Dans son livre Behavior Control[27], Perry London montrait qu’il avait bien examiné les implications des techniques qui facilitaient la manipulation du comportement humain. Il proposait certaines idées éthiques, espérant qu’elles guideraient l’usage de ces techniques — malheureusement, ces idées n’eurent strictement aucun effet concret.

David Gelernter, dans son livre Mirror Worlds[28], exprimait certaines préoccupations au sujet de l’impact de l’informatique sur la société. Pour autant, Gelernter a continué de promouvoir la technologie, y compris l’informatique[29], et les préoccupations qu’il exprima dans Mirror Worlds n’eurent strictement aucun effet sur les conséquences du développement de l’informatique. Dans un article publié dans le New York Times[30] à propos d’une conférence de l’AAAI[31] en date du 25 février 2009, traitant des dangers que représentait le développement de l’intelligence artificielle, on apprend que comme solutions potentielles, les scientifiques présents établirent des « limites à la recherche », le confinement de certaines recherches dans des « laboratoires de haute sécurité » et une « commission » qui devait « organiser les avancées et aider la société à affronter les conséquences » de l’intelligence artificielle. Difficile de savoir dans quelle mesure il s’agissait d’une stratégie publicitaire et dans quelle mesure ces scientifiques y croyaient vraiment. Quoi qu’il en soit, ces propositions étaient complètement naïves.

Il est clair que les « limites » proposées par les scientifiques n’envisageaient pas d’entraver les recherches dans le champ de l’intelligence artificielle en général, mais seulement dans certains secteurs très concrets que les scientifiques considèrent comme particulièrement sensibles. Ces « limites » n’auraient pas tenu longtemps. Si les scientifiques du Projet Manhattan avaient refusé de travailler dans la recherche militaire, ils auraient seulement retardé de quelques années l’apparition des armes nucléaires puisque, une fois la théorie quantique développée et la fission nucléaire découverte, il était inévitable que quelqu’un, tôt ou tard, mette ces connaissances au service de la fabrication d’armes nucléaires. De la même manière, étant donné que la recherche dans le domaine de l’intelligence artificielle va continuer, il est certain que quelqu’un, tôt ou tard (et probablement assez tôt), mettra les connaissances techniques développées au service des projets que l’ AAAI souhaiterait interdire

Les « laboratoires de haute sécurité » ne seront contrôlés ni par vous ni par moi, mais par des organismes puissants tels que les grandes entreprises ou les gouvernements. Par conséquent, le confinement de certaines recherches dans des laboratoires de haute sécurité ne fera qu’accroître la concentration du pouvoir dans nos sociétés, déjà largement excessive.

La « commission » qui prétend « donner corps aux avancées et aider la société à affronter les conséquences » de l’intelligence artificielle m’inspire crainte et mépris, parce que l’idée qu’ont ces gens de ce qui est bon pour les êtres humains dépasse à peine les réflexions d’un enfant de quatre ans. Le monde qu’ils créeraient s’ils le pouvaient est un cauchemar.

De toute manière, dans la pratique, la « commission » n’aura pas plus de succès que les groupes scientifiques qui se formèrent après 1945 afin de faire en sorte que l’énergie nucléaire soit « sagement » régulée et uniquement utilisée à des fins pacifiques. Au bout du compte, la façon dont l’intelligence artificielle sera développée et appliquée dépendra des volontés de ceux qui détiennent le pouvoir et qui en veulent toujours plus.

***

Quels que soient les critères éthiques qu’un scientifique professe, ils n’ont aucun effet sur le développement conjoint de la science et de la technologie. Ce que j’ai écrit dans le paragraphe 92 de La Société industrielle et son avenir est exact : « La science poursuit donc aveuglément sa marche en avant, sans se soucier du véritable bien-être de l’espèce humaine (ni de quoi que ce soit d’autre), obéissant seulement aux besoins psychologiques des scientifiques, des fonctionnaires du gouvernement et des dirigeants de l’industrie qui financent la recherche. »

Theodore Kaczynski

Traduction : Ana Minski
Édition : Nicolas Casaux
Relecture : Lola Bearzatto


  1. Physicien nucléaire des États-Unis d’origine hongroise. FC, groupe auteur de La Société industrielle et son avenir duquel Kaczynski serait l’unique membre, mentionnait le Dr. Teller, dans le paragraphe 88 de ladite œuvre, comme exemple de scientifique dont les motivations pour la recherche n’avaient rien à voir avec le bien pour l’humanité. N. du T. espagnol
  2. Lawrence Livermore, centre fédéral de la recherche et du développement situé à Livermore, Californie. Une de ses principales activités est la recherche en armement nucléaire. N. du T. espagnol
  3. Albert Speer, Inside the Third Reich, traduit par Richard et Clara Winston, Macmillan, New York, 1970, page 212.
  4. The Week, 6 mars 2009, page 39.
  5. The New Encyclopaedia Britannica, 15e édition, 2003, Vol. 2, article “Braun, Wernher von”, page 485.
  6. Benjamin Schwarz, “Co-Conspirators”, The Atlantic, mai 2009, page 80.
  7. Encycl. Britannica, 2003, Vol. 19, article “Exploration”, page 47.
  8. Le texte complet du discours est disponible dans le livre d’Alice Kimball Smith et Charles Weiner (eds), Robert Oppenheimer: Letters and Recollections, Stanford University Press, California, 1995, pages 315–325.
  9. Ibid.
  10. Voir G. A. Zimmermann, Das Neunzehnte Jahrhundert, deuxième moitié, deuxième partie, Milwakee, 1902, pages 439–442; Encycl. Britannica, 2003, Vol.10, article “Siemens, Werner von”, page 787.
  11. Importante famille allemande de banquiers et de commerçants. (N.d. T. espagnol)
  12. Friedrich Klemm, A History of Western Technology, traduit par Dorothea Waley Singer, M.I.T. Press, 1964/1978, page 353.
  13. Hans Zinsser, Rats, Lice, and History, vers la fin du chapitre I. Je n’ai pas noté la date de publication de ce livre, mais probablement autour de la décennie 1930..
  14. “The End of the Golden Age”, The New York Review of Books, 4 novembre 1999, page 14.
  15. L’auteur parvint postérieurement à trouver les dates originales utilisées par Craig: “Letter from Einstein to Heinrich Zangger, dated 6 Dec. 1917”, in Collected Papers of Albert Einstein, vol. 8A, pages 561–562 (en allemand). Princeton University Press (1987), J. Stachel, editor. Et la citation originale en allemand serait : “Unser ganzer gepriesene Fortschritt der Technik, überhaupt der Civilisation, ist der Axt in der Hand des pathologischen Verbrechers vergleichbar”. N. du T. espagnol
  16. Encycl. Britannica, 2003, Vol. 18, article “Einstein”, page 157.
  17. Ibid.
  18. Paul Arthur Schilpp (ed), Albert Einstein: Philosopher-Scientist, Open Court, La Salle, Illinois, Tercera Edición, 1970/1995, pages 1–94. Cette autobiographie a été originellement écrite en allemand et une traduction en anglais en pages alternatives. Je conseille au lecteur de lire la version allemande si possible, la traduction anglaise me semble pauvre.
  19. Pour ce paragraphe voir ibid., pages 2 et 4.
  20. Jules Monnerot, Sociologie du communisme.
  21. Avec une exception triviale qui n’est pas remarquable dans ce cas.
  22. Encycl. Britannica, 2003, Vol. 28, article “Technology, The History of”, p. 471.
  23. Ibid., Vol. 2, article “Braun, Wernher von”, page 485.
  24. On m’a raconté que ces dernières années certains scientifiques ou les entreprises qui leur servent de relations publiques ont développé des arguments suffisamment sophistiqués pour tenter de justifier le rôle de la science dans la société ; et je ne doute pas que cela est vrai. Mais tout ce que j’ai vu dans les moyens de communications de masse, jusqu’à l’été 2009, semble indiquer que la plus grande partie des pensées des scientifiques au sujet des implications sociales et morales de leur travail est toujours d’un niveau superficiel, voir infantile. Il serait très désirable et important de mener une étude de la propagande de la science officielle, et plus spécialement de la propagande sophistiquée dirigée à une audience intelligente, mais cette étude resterait très éloignée de la visée de cette lettre ; de plus, je manque des connaissances nécessaires pour cela. Les arguments des propagandistes professionnels reflètent probablement aussi peu la pensée du scientifique de base que les arguments des philosophes professionnels reflètent celle du soldat de base envoyé au front pour combattre pour la démocratie, pour le fascisme, ou pour le communisme. Comme beaucoup, les scientifiques et les soldats de base peuvent répéter sans réfléchir les arguments sophistiqués des propagandistes pour justifier leurs actes envers eux-mêmes ou devant les autres.
  25. Encycl. Britannica, 2003, vol. 8, article “Nobel, Alfred Bernhard”, page 738.
  26. Smith y Weiner, op. cit., pages 303 y 310.
  27. Harper & Row, New York, 1969
  28. Oxford University Press, New York, 1991, p. 213–225.
  29. Véase David Gelernter, “U.S. faces technology crisis”, The Missoulian (periódico de Missoula, Montana), 24 de febrero de 1992.
  30. John Markoff, “Scientists Worry Machines May Outsmart Man”, The New York Times, 26 juillet 2009.
  31. Sigles de “Association for the Advancement of Artificial Intelligence” (Association pour l’Avancement

    de l’Intelligence Artificielle). N du T. espagnol

idéologie science scientisme technosciences

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Cancel Laisser un commentaire

  1. Une petite remarque particulière concernant les psychologues: les cotoyant sur le plan professionnel, je peux vous assurer que pour la plupart, leur motivation principale pour s’orienter dans ce métier émanait d’un désir de domination sur leurs semblables. Connaitre les mécanismes de la pensée humaine afin de pouvoir manipuler. Force est de constater que des gens naturellement altruistes il y en a peu dans ces professions…

    1. Je ne sais pas si mon expérience personnelle est pertinente mais j’ai quitté le monde de la psychologie pour justement des questions « d’altruismes » (pour reprendre la logique de l’article). Arrivé en master et comme je considérai que réadapter des gens à la civilisation (à l’époque réadapter des gens à la vie capitaliste) était justement aller contre « l’humanité », j’ai préférer me réorienter. (Et je n’ai pas fait ça qu’une seule fois…)

      Ensuite je ne considère pas avoir fait cela pour de manière altruiste car j’ai fait principalement cela de manière égoiste prenant conscience que je me sentirai mal dans ma peau en agissant ainsi. Pour moi donc, l’altruisme et l’égoisme sont indissociables mais ça c’est une autre histoire…

  2. De même l’ont peut appliquer cela à nos représentants de l’ordre. Il vous diront que c’est pour protéger la veuve et l’orphelin et non pas pour assouvir leur désir de « violence légitime ». Mais quand on regarde la collaboration de ces gens à la déportation des juifs entre 40 et 45, je doute fort de leur soit-disant patriotisme et de leur sacrifice pour le bien de l’humanité
    https://www.contreculture.org/AT%20R%E9sistance.%20Chiffres.html
    « Le comportement de la police française
    Les déportations mentionnées plus haut n’ont pu se faire que grâce à la collaboration quasi-générale des fonctionnaires de police.

    Au musée de la Police, un cadre est consacré aux « morts pour le devoir » de la ville de Paris et du département de la Seine, de 1940 à 1944 ; il est possible d’y relever trente-six noms: 1 en 1940 ; 2 en 1941 ; 8 en 1942 ; 13 en 1943 ; 12 en 1944.
    Il est impossible de savoir si ces 36 « morts pour le devoir” ont été tués par des truands ou des résistants.

    Sur 200 000 fonctionnaires, on répertorie pour la durée de la guerre 19 policiers fusillés, morts en captivité ou tués dans les maquis, une soixantaine de déportés et un millier de combattants volontaires blessés. D’autre part, 167 fonctionnaires de police sont morts dans les combats pour la libération de Paris, et font liste à part.

    Pendant la durée de l’Occupation, la police française s’est acquittée des tâches suivantes, sans encourir de critiques majeures de la part des autorités allemandes :
    1. Le recensement des Juifs en octobre 1940, effectué dans les commissariats de police. De même l’apposition du cachet « Juif » sur les cartes d’identité.
    2. Les rafles des 14 mai et 20 août 1941.
    3. Le respect du couvrefeu imposé aux Juifs, à partir du mois de février 1942.
    4. L’obligation pour les Juifs de rendre leur poste récepteur de TSF.
    5. Les étoiles jaunes distribuées dans les commissariats de police et la vigilance apportée par les gardiens de la paix à ce que cet « insigne spécial » soit porté bien visiblement.
    6. L’obligation faite aux abonnés juifs du téléphone de rendre leur récepteur dans les commissariats de police.
    7. La surveillance attentive de ceux des Juifs qui ne respectaient pas l’interdiction qui leur était faite de paraître dans les lieux publics et de ne plus voyager que dans la dernière voiture du métro parisien.

    J’ai eu travaillé dans une école d’ingénieur et côtoyé donc des chercheurs. Un bien grand mot pour des petites gens. Des chercheurs qui n’ont ni foi ni morale, vendant père et mère pour récupérer les subventions des grands groupes industriels et surtout mortifères. Subvention de Total, Safran, Syngenta, Pétrole, Armement, OGM. Sérieux, c’est pour le bien de l’humanité! Et c’est la même dans tous les labos de France. A la recherche de financement, le chercheur se bouche le nez et prend tout. Son humanité ne ressemble qu’à ruine et tristesse.
    Anecdote : Au moment du scandale sur le bisphénol A, une chercheuse me disait « tu sais c’est compliqué pour les industriels, c’est un produit super et franchement sans grand danger ». Un truc de dingue. Et je me demande même si elle n’était pas directeur de labo… Vive la recherche