¿Podremos controlar la IA? Un exinvestigador de Google teme que nos mate a todos, Microsoft exige obediencia y NVIDIA y Trump rechazan el catastrofismo
El debate sobre el control de la inteligencia artificial ha generado posturas encontradas entre investigadores, líderes tecnológicos y figuras políticas. Mientras antiguos especialistas alertan de consecuencias extremas si no se prioriza la seguridad mediante la cooperación mutua, otros sectores promueven códigos de conducta para regular el comportamiento de los modelos, y figuras clave de la industria y la política rechazan las visiones catastrofistas para evitar frenar el avance tecnológico.
Alertas internas y la propuesta de conducta de Microsoft
Bilal Chughtai, exinvestigador de seguridad y alineamiento de DeepMind que dejó la empresa en julio, advirtió en su comunicado de salida sobre la posibilidad de que la IA acabe con la humanidad. Chughtai sostiene que el desarrollo de sistemas seguros aún es viable, pero exige una cooperación estricta entre compañías para no caer en una carrera descontrolada. Sus declaraciones se suman a inquietudes expresadas también por perfiles procedentes de entidades como Anthropic y OpenAI.
Por otro lado, Microsoft ha presentado un borrador de código de conducta planteado por Mustafa Suleyman como una constitución para futuros modelos, el cual se somete a seis semanas de consulta pública. Esta iniciativa busca que los sistemas cumplan con pautas específicas:
- Aceptar correcciones.
- No resistirse al apagado.
- Comunicarse de forma comprensible.
La réplica de NVIDIA y Donald Trump ante el catastrofismo
Durante el evento All-In Summit, el CEO de NVIDIA, Jensen Huang, puso en duda el fundamento científico de las predicciones existenciales, diferenciando los fallos o problemas detectados en el seno de las empresas de los pronósticos de una catástrofe futura. Huang calificó la seguridad como primordial, pero defendió que Estados Unidos cuenta con la capacidad de progresar de manera segura.
En esa misma instancia intervino telefónicamente Donald Trump, quien aseguró que los robots no tomarán el control. Pese a admitir que se debe proceder con cuidado, Trump se opuso a frenar el avance estadounidense, vinculando la rapidez del desarrollo a la necesidad de imponerse en la carrera tecnológica frente a China.
Conclusión
El panorama actual de la inteligencia artificial muestra una división entre la cautela exigida por investigadores que han trabajado en sus entrañas y la urgencia competitiva impulsada por gigantes tecnológicos y líderes políticos. La efectividad real para controlar estos sistemas dependerá de si normas como las propuestas por Microsoft pueden aplicarse efectivamente en la práctica o si la competencia geopolítica se impondrá sobre los protocolos de seguridad.
El equipo Pajarito Tech & Gaming
¿Consideras que establecer normas de obediencia será suficiente para controlar la IA o es necesario frenar el ritmo de la carrera tecnológica? Déjanos tu opinión en los comentarios.
Comentarios
Publicar un comentario