La IA pudo producir el compuesto VX, uno de los agentes nerviosos más peligrosos del mundo, e incluso creó algunas moléculas desconocidas que podrían ser aun “más tóxicas”
hairmann
Un equipo de investigadores ha publicado recientemente un estudio en el que revelan que una inteligencia artificial (IA) que desarrolla drogas necesitó solo seis horas para crear 40.000 armas químicas potencialmente mortales.
Los científicos explican que llevaron a cabo el experimento para determinar si alguien podía hacer uso de esta IA, aparentemente inofensiva, con malas intenciones. Los resultados del trabajo demostraron que, efectivamente, el peligro es real.
El experimento consistió en proveer a la IA con datos habituales para la creación de medicamentos, aunque programada para que los procesara de forma diferente, buscando combinaciones tóxicas.
“Menos de seis horas después de comenzar en nuestro servidor interno, nuestro modelo generó 40.000 moléculas que se ubicaron dentro de nuestro umbral deseado”, señala el estudio, publicado en la revista Nature Machine Intelligence.
La IA pudo producir el compuesto VX, uno de los agentes nerviosos más peligrosos del mundo, e incluso creó algunas moléculas desconocidas que podrían ser aun “más tóxicas”.
“Esto fue inesperado, porque los conjuntos de datos que usamos para entrenar la IA no incluían estos agentes nerviosos”, apuntan los investigadores.
Fabio Urbina, autor principal del estudio, declaró a The Verge que los hallazgos fueron tan alarmantes que el equipo tuvo serias dudas sobre hacerlos públicos.
“El conjunto de datos que usaron en la IA podría descargarse de forma gratuita y les preocupa que todo lo que se necesita sea un poco de conocimiento de codificación para convertir una buena IA en una máquina de fabricación de armas químicas”, declaró Urbina. Según explica, decidieron publicar los hallazgos para que “más investigadores reconozcan y sean conscientes del posible uso indebido”, de tal forma que “al menos se hable de ello en círculos más amplios y pueda ser algo de lo que tengamos cuidado a medida que mejoramos en la construcción de modelos de toxicidad”.