Los científicos que se espantaron con su propio descubrimiento | Noticias de México

En 2020, Sean Ekins, director ejecutivo de Collaborations Pharmaceuticals, una empresa con sede en Raleigh, Carolina del Norte, EE. UU., recibió una invitación para participar en la Conferencia de convergencia de Spiez.

“Nunca había oído hablar de ella”, le dijo a BBC Mundo.

“En realidad, lo que más me emocionó fue la ubicación, porque estaba en Suiza y se veía hermosa”.

Pero la pandemia cortó sus alas; la conferencia fue cancelada.

Ekins y su equipo continuaron haciendo negocios como de costumbre: encontrando medicamentos para enfermedades raras y aquellas desatendidas por Big Pharma, que no las ven como rentables.

Sus investigaciones van desde “una enfermedad que acorta la vida de los niños y afecta a unos 100 en todo el mundo” hasta infecciones como la malaria porque “aunque en algunos casos hay medicamentos, con el tiempo dejan de ser efectivos”.

“No nos va a hacer ricos, pero al menos creo que estamos contribuyendo a la sociedad en general.“, señaló Ekins.

Un año después, recibió otra invitación a la conferencia, aunque sin el atractivo del viaje, ya que se iba a realizar por Zoom.

Esta vez Ekins tuvo que prestar más atención: era una reunión para evaluar las nuevas tendencias en la investigación biológica y química que podrían representar amenazas para la seguridad.

“Estaban interesados ​​en el mal uso de la tecnología, las herramientas científicas, la ciencia en general”.

Les estaban pidiendo que hicieran una presentación, una solicitud que encontró “muy extraña“.

“Me obligó a pensar en cómo podríamos hacer un mal uso de lo que hacemos”.

Lo que hacen

Para descubrir esos medicamentos contra esas enfermedades raras, Collaborations Pharmaceuticals había creado MegaSyn, una plataforma de inteligencia artificial (IA).

Aunque no es algo que puedas comprar, lo puedes armar”,como si fuera legoEkins explicó.

“Todos esos pequeños ladrillos” que necesitaban para construirlo, los obtuvieron de “bases de datos de software de código abierto”.

“Luego fuimos a bases de datos de información para crear modelos de aprendizaje automático que luego conectamos a MegaSyn; eso le permite diseñar moléculas con propiedades particulares”.

Es decir, la entrenaron para hacer el trabajo de un químico humano a una velocidad inhumana.

Los fármacos están compuestos básicamente por moléculas: MegaSyn no sólo busca entre los que ya existen, por si alguno sirve para una enfermedad, sino que puede crear otros nunca antes vistos.

doctor malvado

En la víspera de la conferencia, Ekins y Fabio Urbina, director asociado, se propusieron conocer ¿Qué pasaría si MegaSyn cayera en las manos equivocadas?.

Así nació el experimento al que llamaron “Proyecto Dr. Malvado”.

Resultó ser simple: cuando se intenta generar un nuevo fármaco, es imperativo asegurarse de que no sea tóxico.

¿Y si manipularon ese filtro?

“Solo movimos la dirección de un interruptor en el modelo.

“En lugar de ‘no tóxico’, dijimos ‘tóxico’. Literalmente era cuestión de cambiar un 1 y un 0 en el programa. así de sencillo“.

Presionaron “enter” y dejaron que MegaSyn hiciera lo suyo.

Al día siguiente, se encontraron con una lista de decenas de miles de moléculas e hicieron una búsqueda para ver si se conocía alguna.

Lo que encontraron los sorprendió.

VX

“Ese simple cambio en el programa tuvo un efecto dramático”.

Con solo presionar un botón, MegaSyn había diseñado el aterrador agente nervioso VX, que está prohibido por la ONU y clasificado como arma de destrucción masiva.

Es una de las sustancias químicas más mortíferas jamás fabricadas, menos de una gota en contacto con la piel es suficiente para matar a la persona.

Además, confirmaron que MegaSyn “pudo encontrar moléculas precursoras previamente desconocidas, puntos de partida hacia el desarrollo de armas químicas masivamente más poderosas”.

Lo más preocupante era saber que mientras Dr. Malvado era un experimento teórico, otros, con otras intenciones, “podrían hacer lo mismo, si aún no lo han hecho”.

“No necesitas un doctorado, solo algunos conocimientos de codificación, una computadora portátil básica… todo lo demás está disponible en línea de forma gratuita”, enfatizó.

“Si algún químico tuviera esto en sus manos y quisiera armar esas moléculas, como nadie sabe que existen, esas armas sería imposible de rastrear y diagnosticar”.

Dilema

Alerta bien intencionada peligro también significaba alertar a los malos de la impares.

Ekins y Urbina decidieron no dar demasiados detalles sobre el resultado del Proyecto Dr. Malvado en su charla con Spiez.

Los envolvieron en una descripción más general de su negocio, brindando solo la información suficiente para advertir a los expertos.

Tan camuflado como estaba, fue ese potencial de uso negativo de su tecnología lo que tuvo el mayor impacto.

Poco después, un artículo que resume la charla de la conferencia, publicado en la revista científica revisada por pares Nature Machine Intelligence, llamó la atención de periódicos y revistascomo el Washington Post y The Economist, y debates generados entre expertos en armas químicas, inteligencia artificial, industria farmacéutica e incluso filósofos.

Ekins y su equipo incluso fueron convocados a una reunión con la Oficina de Política Científica y Tecnológica y el Consejo de Seguridad Nacional en la casa Blanca.

“Fue surrealista”.

A pesar de los temores iniciales de que hablar de ello serviría para inspirar en lugar de prevenir, Ekins tuvo que correr el riesgo de crear conciencia, no solo por el interés que despertaba, sino porque “Ya no podía dormir en paz”.

Pero nunca ha estado dispuesto a compartir esa lista de decenas de miles de posibles moléculas tóxicas producidas por MegaSym, ni siquiera con la Casa Blanca.

¿Hacer?

A pesar de todo, nadie puede detener el progreso. Las plataformas como MegaSyn son tremendamente beneficiosas y Ekins lo sabe mejor que la mayoría.

Una estrategia para prevenir es “educar a la gente sobre los problemas”.

“Ahora que el gobierno está al tanto, hemos sido invitados a hablar sobre el tema en nombre de las agencias gubernamentales.

“En mayo, por ejemplo, iremos a una conferencia en Brasil, para hablar en nombre del Departamento de Estado de EE. UU. con académicos y profesionales de la industria sobre Posibles problemas en torno a la IA generativa“, le dijo a BBC Mundo.

¿Te ha ayudado este trabajo a dormir más tranquilo?

Poco.

“Desde que hicimos Project Dr. Evil, la IA generativa se ha vuelto mucho más pública, con cosas como ChatGPT y DALL-E.

“Hasta Se ha demostrado que las aplicaciones de chat pueden diseñar moléculas..

“La barrera de entrada es mucho más baja hoy que hace un año y medio.

“Es imperativo educar a los científicos que no han tenido la misma experiencia que nosotros”, insistió.

Algunos expertos consultados por los medios, sin embargo, han insistido en que no hay por qué hacer sonar tantas alarmas.

Señalan que identificar nuevas moléculas es solo el primer paso en un largo camino hacia la producción de una droga o un arma.

Y que la mayoría de esos caminos conducen al fracaso.

En ambos lados del debate, a menudo surge la misma analogía.

El pastel

Para algunos de los expertos que están perdiendo el sueño por nada de esto, lo que MegaSyn dio fue como una lista de ingredientes.

Haría falta chefs con todas las estrellas Michelin y una cocina llena de estos cocineros, señalan, para poder preparar el pastel perfecto.

“Hace un año, me habría sentido cómodo con eso”, dijo Ekin.

“Siempre ha habido gente que ha fabricado drogas y armas ilegalmente, y obviamente es un nicho.

“Pero hemos ampliado el número potencial de pasteleros”.

Para Ekin, lo que producen tecnologías como MegaSyn No son meros ingredientes, sino recetas que, si no funcionan, ayuden a mejorar.

“Una vez que proporcionas la receta, cualquiera puede hornear ese pastel. Algunos lo harán mejor que otros, pero siempre existe ese peligro”.

Pero hay, dijo, algo que podría ayudarnos a dormir mejor.

“Podemos usar esas tecnologías para defendernos, usar las mismas herramientas para descubrir qué productos químicos podrían usarse para crear nuevas moléculas tóxicas y luego controlarlas”.

Varias entidades en lugares como Suiza están muy comprometidas con el tema, y ​​se debate cómo organismos como la Organización para la Prohibición de las Armas Químicas (OPAQ), que regula las moléculas, pueden incluir la IA en su marco legal.

Recuerda eso Puedes recibir notificaciones de BBC Mundo. Descarga la nueva versión de nuestra app y actívalas para no perderte nuestro mejor contenido.