Asilomar et le difficile travail qui consiste à ralentir la science

Dans l’histoire des technologies émergentes, la prudence reste souvent moins présente dans les mémoires que la découverte. Pourtant, la conférence d’Asilomar sur l’ADN recombinant, organisée en 1975, demeure importante parce qu’elle s’est concentrée sur une question difficile : comment les scientifiques doivent-ils réagir lorsque leurs travaux peuvent entraîner des risques qu’ils ne comprennent pas encore pleinement ? L’épisode, évoqué à nouveau par le podcast Distillations du Science History Institute, offre à la communauté de l’IA une étude de cas historique utile, à condition d’en considérer les enseignements comme une réflexion, et non comme une formule prête à l’emploi.

Une technologie encore en devenir

L’ADN recombinant était alors un domaine émergent, dont les possibilités étaient difficiles à dissocier des incertitudes. Le Science History Institute présente la réunion d’Asilomar comme un épisode de l’histoire d’une science interrompue : des chercheurs ont marqué une pause pour examiner les implications de travaux qui progressaient plus vite que la confiance collective dans leurs conséquences. Cette pause est importante, car elle montre les scientifiques comme des acteurs de la gouvernance, et pas seulement comme des producteurs de nouvelles capacités.

L’histoire ne s’est pas arrêtée à la table de conférence. Le récit associé de l’Institut, consacré à l’affaire People versus Recombinant DNA, explique comment, en 1976, une petite ville a failli interrompre des recherches de pointe. Pris ensemble, ces épisodes suggèrent que l’inquiétude du public n’est pas une nuisance extérieure ajoutée au progrès scientifique. Elle peut devenir l’une des conditions dans lesquelles une technologie est autorisée à se développer.

Ce que cet exemple peut apprendre à l’IA

Pour les personnes qui développent l’intelligence artificielle, Asilomar peut faire émerger une question concrète : à quel moment le développement doit-il ralentir suffisamment pour permettre un débat sur les risques, les limites et les responsabilités ? La retenue volontaire peut contribuer à créer cet espace, notamment lorsque les règles officielles n’ont pas encore suivi. Mais la retenue, à elle seule, ne détermine ni qui doit décider, ni quelles préoccupations doivent être prises en compte, ni la manière dont les engagements seront appliqués.

L’analogie historique a également ses limites. L’ADN recombinant et l’IA sont des technologies différentes, dotées de propriétés techniques, d’institutions et de communautés concernées qui ne sont pas les mêmes. Une conférence d’une autre époque ne peut pas prouver qu’une réunion comparable produira aujourd’hui des résultats similaires. Sa valeur est plus modeste et plus durable : elle montre que les scientifiques peuvent considérer l’incertitude comme une raison d’agir de manière responsable, et que la gouvernance gagne en solidité lorsque les communautés techniques dialoguent avec le public avant que la controverse ne devienne la seule forme de contrôle possible.

Faire une pause fait partie du progrès

L’histoire d’Asilomar n’est donc pas une parabole sur l’arrêt de la science. Elle rappelle que le progrès consiste aussi à décider de la manière dont il doit se poursuivre. Pour l’IA, cela peut signifier considérer la prudence, la transparence et la responsabilité publique comme des composantes de la pratique technique, plutôt que comme des obstacles placés sur son chemin. Le résultat ne sera pas la certitude. Il pourrait toutefois instaurer une relation plus réfléchie entre l’invention et la société appelée à vivre avec elle.

Illustration éditoriale générée par IA ; ce n’est pas une photographie documentaire.

Source: Distillations podcast