Asilomar y el difícil trabajo de frenar la ciencia

En la historia de las tecnologías emergentes, la cautela suele recordarse con menos intensidad que el descubrimiento. Sin embargo, la Conferencia de Asilomar sobre ADN recombinante, celebrada en 1975, sigue siendo relevante porque se concentró en una pregunta difícil: ¿cómo deben responder los científicos cuando su trabajo puede generar riesgos que todavía no comprenden por completo? El episodio, retomado por el pódcast Distillations del Science History Institute, ofrece a la comunidad actual de la inteligencia artificial un caso histórico útil, siempre que sus lecciones se entiendan como una reflexión y no como una fórmula preparada.

Una tecnología todavía en formación

El ADN recombinante era un campo emergente cuyas posibilidades resultaban difíciles de separar de sus incertidumbres. El Science History Institute describe el encuentro de Asilomar como parte de una historia de interrupción científica: los investigadores hicieron una pausa para considerar las consecuencias de un trabajo que avanzaba más rápido que la confianza compartida sobre sus posibles efectos. Esa pausa importa porque presenta a los científicos como participantes en la gobernanza, no solo como productores de nuevas capacidades.

La historia no terminó en la mesa de la conferencia. El relato relacionado del Instituto, The People versus Recombinant DNA, describe cómo, en 1976, una pequeña ciudad estuvo a punto de detener por completo una investigación de vanguardia. Considerados conjuntamente, ambos episodios sugieren que la preocupación pública no es una molestia externa añadida al progreso científico. Puede convertirse en parte de las condiciones bajo las cuales se permite que una tecnología se desarrolle.

Qué puede enseñar el ejemplo a la IA

Para quienes desarrollan inteligencia artificial, Asilomar puede plantear una pregunta práctica: ¿cuándo debería ralentizarse el desarrollo el tiempo suficiente para debatir los riesgos, los límites y las responsabilidades? La moderación voluntaria puede ayudar a abrir ese espacio, especialmente cuando las normas formales todavía no se han puesto al día. Pero la moderación, por sí sola, no resuelve quién decide, qué preocupaciones se tienen en cuenta ni cómo se harán cumplir los compromisos.

La analogía histórica también tiene límites. El ADN recombinante y la inteligencia artificial son tecnologías distintas, con propiedades técnicas, instituciones y comunidades afectadas diferentes. Una conferencia de otra época no puede demostrar que un encuentro similar produciría hoy resultados parecidos. Su valor es más modesto y, precisamente por eso, más duradero: muestra que los científicos pueden reconocer la incertidumbre como una razón para actuar con responsabilidad, y que la gobernanza se fortalece cuando las comunidades técnicas dialogan con el público antes de que la controversia se convierta en la única forma disponible de supervisión.

Hacer una pausa también es progresar

La historia de Asilomar no es, por tanto, una parábola sobre detener la ciencia. Es un recordatorio de que el progreso también incluye decidir cómo debe avanzar el progreso. En el caso de la IA, eso puede significar tratar la cautela, la transparencia y la rendición de cuentas ante el público como elementos de la práctica técnica, en lugar de verlas como obstáculos colocados en su camino. El resultado no será la certeza. Sin embargo, quizá permita establecer una relación más deliberada entre la invención y la sociedad que tendrá que convivir con ella.

Ilustración editorial generada con IA; no es una fotografía documental.

Fuente: Distillations podcast