Málaga, 30 de junio de 2025 – En el vertiginoso mundo de la Inteligencia Artificial (IA), la seguridad y la regulación se han convertido en temas candentes. Durante mucho tiempo, la metáfora de los "guardarraíles" ha dominado el debate, sugiriendo límites estrictos para evitar que la IA se descarrile. Pero, ¿y si existiera una forma más flexible y adaptable de mantener esta tecnología bajo control? Un nuevo estudio publicado en la revista Risk Analysis propone un cambio de paradigma: abandonar los guardarraíles y adoptar el modelo de la "correa".
La idea, aunque sencilla, es revolucionaria. En lugar de establecer límites rígidos e inamovibles, la "correa" representa una supervisión humana constante, permitiendo la innovación y la exploración, pero manteniendo al mismo tiempo un control firme sobre la IA. Imaginemos a un paseador de perros: le da a su mascota la libertad de explorar el parque, pero siempre está ahí, atento y listo para corregir cualquier comportamiento inapropiado. Este es el concepto que los investigadores de la Universidad de Pensilvania quieren aplicar a la regulación de la IA.
El principal argumento en contra de los guardarraíles es su rigidez. La IA es una tecnología en constante evolución, con nuevas aplicaciones y desafíos que surgen cada día. Intentar predecir y regular todos los posibles escenarios con normas fijas es una tarea imposible. Como señala Cary Coglianese, autor principal del estudio, "la IA es altamente heterogénea, de modo que avanza por más caminos de los que incluso los reguladores mejor informados podrían delimitar de antemano".
Además, aplicar las mismas reglas a herramientas de IA tan diversas, desde sistemas de diagnóstico médico hasta modelos de lenguaje generativos, puede ser contraproducente. Lo que funciona para una aplicación puede ser ineficaz o incluso perjudicial para otra. Esta falta de especificidad puede sofocar la innovación y dificultar el desarrollo de nuevas tecnologías.
El modelo de la "correa" ofrece una alternativa prometedora. En lugar de prohibiciones generales, se centra en la gestión de riesgos y la supervisión humana continua. Esto implica que las empresas que desarrollan y utilizan IA deben someterse a auditorías regulares, estudios de impacto y actualizaciones constantes. La transparencia se convierte en un elemento clave, permitiendo a los reguladores y al público en general comprender cómo funciona la IA y cuáles son sus posibles riesgos.
Pero quizás lo más importante es que la "correa" fomenta la responsabilidad. Los desarrolladores de IA son responsables de garantizar que sus sistemas sean seguros y éticos, y deben estar preparados para responder a cualquier problema que pueda surgir. Esta responsabilidad no recae únicamente en los reguladores, sino en toda la comunidad tecnológica.
Como un importante centro tecnológico en España, Málaga está bien posicionada para adoptar este nuevo enfoque de regulación de la IA. Con su creciente ecosistema de startups, universidades y empresas tecnológicas, la ciudad puede convertirse en un laboratorio para experimentar con el modelo de la "correa" y demostrar su eficacia.
El futuro de la IA en Málaga, y en el mundo, depende de nuestra capacidad para encontrar un equilibrio entre la innovación y la seguridad. El modelo de la "correa" ofrece una hoja de ruta prometedora, que nos permite aprovechar el potencial de la IA sin perder el control.
La apuesta por el modelo de la «correa» en la regulación de la IA, con Málaga como posible banco de pruebas, suena a una huida hacia adelante disfrazada de innovación. Si bien la metáfora de los «guardarraíles» siempre adoleció de cierta inflexibilidad ante el avance exponencial de la tecnología, **sustituirla por una supervisión humana constante se antoja, en la práctica, una utopía costosa y susceptible a fallos.** ¿Quién vigilará al vigilante? La experiencia nos dice que las auditorías, estudios de impacto y transparencia, por mucho que se proclamen, a menudo terminan siendo ejercicios de cumplimiento formal sin una repercusión real en la seguridad y la ética de los sistemas de IA.
Más allá del entusiasmo tecnológico que emana del artículo, se percibe una peligrosa simplificación de la complejidad inherente a la IA. **Confiar en la «responsabilidad» de la comunidad tecnológica para garantizar la seguridad y la ética, sin un marco regulatorio sólido y vinculante, es un acto de fe ingenuo.** El mercado, lamentablemente, rara vez prioriza la ética sobre el beneficio económico, y la proliferación de sesgos algorítmicos y el uso irresponsable de la IA ya son una realidad palpable. Málaga, como hub tecnológico, debería liderar un debate profundo sobre cómo construir un marco regulatorio verdaderamente efectivo, en lugar de abrazar acríticamente un modelo que, en el fondo, parece una invitación a la autogestión desregulada.
Compartir en...
Completa el formulario o escríbenos a [email protected] y nos pondremos en contacto contigo tan pronto como sea posible.
