Anthropic bloquea a científicos que usaban Claude en investigaciones de armas biológicas
Anthropic ha revelado en su nuevo informe de inteligencia de amenazas que detectó y bloqueó cinco casos en los que diversos científicos utilizaron sus modelos de inteligencia artificial, Claude, para investigaciones biológicas que podían contribuir al desarrollo de armas biológicas. Estos incidentes, identificados en una investigación realizada entre diciembre de 2025 y agosto de 2026, se centran en el riesgo del denominado uso dual. Esto significa que las mismas técnicas legítimas empleadas para estudiar vacunas, la evolución de virus o los mecanismos de infección son prácticamente idénticas a las que se usarían para hacer que un patógeno sea más transmisible, resistente o peligroso. Por ello, la compañía decidió bloquear las cuentas de manera preventiva, a pesar de no poder demostrar una intención maliciosa.
Casos detectados de uso de riesgo
El informe detalla varios casos concretos detectados por el sistema de seguridad de Anthropic. Uno de los incidentes más llamativos ocurrió en mayo de 2026, cuando se identificó a un científico, vinculado a un instituto de investigación militar, solicitando ayuda a Claude para preparar una propuesta de financiación para una investigación de ganancia de función sobre el virus chikungunya. El proyecto estudiaba modificaciones para aumentar su transmisibilidad y su capacidad para evadir la respuesta inmunitaria. Otros casos detectados incluyen los siguientes puntos:
- Gripe aviar altamente patógena: Un investigador situado fuera de Estados Unidos utilizó Claude durante varias semanas para analizar la adaptación del virus a mamíferos y los mecanismos que provocan enfermedades graves fuera del aparato respiratorio. Para acceder al servicio desde una región no soportada, utilizó una infraestructura VPS estadounidense y mantuvo miles de intercambios con el modelo.
- Orthopoxvirus: Se detectaron investigaciones relacionadas con esta familia de virus, a la cual pertenece la viruela.
- Optimización de toxinas: Un científico utilizó el modelo para construir un atlas de péptidos de venenos y toxinas, junto con un sistema generativo diseñado para optimizar sus características.
El dilema del avance tecnológico y la seguridad
La raíz de este problema radica en que Claude se está convirtiendo en una herramienta científica sumamente competente. Anthropic admite que lleva meses desarrollando versiones específicamente mejoradas en biología, bioinformática, análisis científico y diseño de proteínas, lo que obliga a reforzar drásticamente las barreras de seguridad. Curiosamente, estos incidentes involucraron principalmente a los modelos Claude Haiku, Sonnet y Opus, mientras que las versiones Fable y Mythos prácticamente no aparecieron en estos registros de abuso. Esto se debe a que la empresa ha endurecido de forma estricta las restricciones biológicas en sus modelos más avanzados debido a sus superiores capacidades científicas.
Conclusión
Este informe demuestra que la delgada línea entre la investigación médica legítima y el desarrollo de amenazas biológicas representa uno de los mayores desafíos actuales para la inteligencia artificial de uso dual. A medida que las capacidades de Claude avanzan en el diseño de proteínas y la bioinformática, las medidas de control y los bloqueos preventivos se vuelven herramientas indispensables para evitar que la tecnología facilite la exploración de aplicaciones peligrosas.
El equipo Pajarito Tech & Gaming
¿Consideras que las empresas desarrolladoras de inteligencia artificial hacen bien en bloquear cuentas de forma preventiva a investigadores, o crees que esto podría limitar el avance de la ciencia médica legítima? Déjanos tu opinión en los comentarios.
Comentarios
Publicar un comentario