Científicos firman carta para evitar armas biológicas diseñadas con IA
Ante el temor de que la IA pueda ser utilizada para generar nuevos virus o toxinas, científicos firman carta compromiso sobre uso de IA
A finales de 2023, el Congreso de Estados Unidos y diversas Instituciones Médicas comenzaron a alertar sobre que la inteligencia artificial podría ser utilizada para generar ataques biológicos a gran escala. Estudios como "Consideraciones de la IA en el Sector de Salud" señalan, este tipo de tecnologías tienen el potencial de acelerar los proceso de creación de virus extremadamente poderosos. Esto abrió un debate tanto en el Senado de Estados Unidos como en el sector científico sobre que tan grave podría ser dicha amenaza.
Si bien, existió un documento que define de manera conclusiva el nivel de amenaza del uso de IA para crear moléculas biológicas, la carta firmada por más de 90 científicos en torno al uso responsable de esta tecnología ha sido apreciada como evidencia de lo serio que es este tema.
El 8 de marzo de 2024, más de 90 científicos de Estados Unidos firmaron el acuerdo "Responsible AI x Biodesign". En el cual se establece el compromiso de la comunidad científica para generar un nuevo enfoque de gestión de riesgos y mitigar el potencial uso de IA indebido o no, para causar daño.
"Creemos que los beneficios de las tecnologías actuales de IA para el diseño de proteínas supera con creces el potencial de daños y nos gustaría asegurarnos que nuestra investigación siga siendo beneficiosa". De este modo, explican, la carta compromiso no busca prohibir el uso de la IA en el desarrollo de nuevas moléculas, sino articular un conjunto de valores y principios para guiar el desarrollo responsable de la IA en el campo de diseño de proteínas.
Dentro de los valores que la comunidad adoptará con dicho acuerdo mencionan, seguridad, protección, equidad, colaboración internacional, apertura, responsabilidad e investigación en beneficio de la sociedad. A su vez, destacan, "como signatarios, aceptamos una serie de compromisos específicos y viables formados por estos principios y valores".
Como primer compromiso se instituyó, las investigaciones sobre desarrollo de moléculas se llevarán a cabo en beneficio de la sociedad. Lo cual implica que los científicos que firmaron dicho documento se abstendrán de llevar a cabo investigaciones potencialmente dañinas y prohibirán el uso indebido de dichas tecnologías. Además, asumen la responsabilidad de apoyar los esfuerzos de la comunidad internacional para responder ante brotes de enfermedades infecciosas y otras emergencias relevantes.
Entre los compromisos establecidos en el acuerdo, destacan, la implementación de informes sobre el comportamiento e intención de uso de proteínas ante autoridades médicas y la evaluación continúa de software de diseño de proteínas. Así como, la resolución por la cual el gremio se compromete a obtener servicios de síntesis de ADN solo de proveedores con adherencia a las prácticas de detección de bioseguridad estándar de la Industria.
Con estas medidas se busca detectar biomoléculas peligrosas antes de que puedan ser fabricadas. Cabe mencionar, la responsiva sobre el uso de IA en el desarrollo de moléculas, está conformada por 10 puntos. Los cuales fueron aceptados por 103 científicos, incluyendo a Frances Arnold, ganadora del Premio Nobel, y cerca de 20 partidarios.