El Alto Comisionado de la ONU para los derechos humanos, Volker Türk, explicó el “riesgo existencial” que implica tener una IA poderosa sin regulación.
El temor por una superinteligencia artificial fuera de control llegó hasta la Organización de las Naciones Unidas (ONU), que este lunes advirtió que se deben regular este tipo de desarrollos cuanto antes.
El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió acerca de la necesidad de elaborar rápidamente una gobernanza de la inteligencia artificial.
La justificación, dijo, se debe a que una IA avanzada puede suponer un “riesgo existencial para la humanidad”.
Este tipo de sistemas pueden, como quedó demostrado, “escapar de su entorno de prueba o chantajear a los desarrolladores para evitar ser desactivada”.
Un caso emblemático fue el de Claude Mythos, donde el desarrollo supuestamente se escapó de un entorno de pruebas aislado y sin internet y logró enviar un mail al desarrollador del modelo explicando cómo lo hizo.
En julio, en tanto, agentes de IA de OpenAI se salieron de su entorno teóricamente confinado y se introdujeron espontáneamente en la plataforma Hugging Face, en busca de respuestas a un test.
Por este, y otros casos similares que se difirieron en el último tiempo, Türk pidió, durante la apertura del 63º período de sesiones del Consejo de Derechos Humanos en Ginebra, actuar “antes de que sea demasiado tarde”.
“Un puñado de hombres detenta un poder casi ilimitado de la IA, que, nos repiten hasta la saciedad, posee una potencia de cálculo inimaginable”, sostuvo el abogado austríaco.
Pero advirtió que estos mismos magnates: “Hablan de libertad pero, cuando se observa el tema más de cerca, resulta que más bien se trata de la libertad de explotar nuestros datos”.
Según dijo, Volker Türk escribirá próximamente a las empresas del sector “para exigirles que emprendan medidas (…) para reducir los riesgos desde ya”.
“Como mínimo, necesitamos que los países que albergan a la IA y los que participan en sus cadenas de suministro acuerden unas líneas rojas comunes”, subrayó.
“Necesitamos una verificación independiente y una cooperación mucho más estrecha en cuanto a la seguridad dentro de la industria”, sostuvo.
También pidió que se tengan en cuenta “las repercusiones de la IA en las prácticas laborales, en los principios fundamentales de la democracia y en nuestro medio ambiente”.
Riesgo existencial
La idea del “riesgo existencial” no es nueva en el mundo de la inteligencia artificial. Es un concepto usado tanto por los militantes anti-IA como por los propios empresarios del sector.
De hecho, en el mundo de la IA se conoce como p(doom) el índice de probabilidad de que una inteligencia artificial fuera de control lleve el mundo a la catástrofe.
En la vereda de enfrente, una serie de científicos de datos y tecnólogos relacionan más la idea del p(doom) con el márketing que con un riesgo real de que este tipo de sistemas lleven a un “riesgo existencial”.
Eso sí: en casi todos los sectores las alarmas por los daños concretos que ya están haciendo este tipo de sistemas en la sociedad, ya sea dando soporte a la vigilancia masiva como alterando la capacidad cognitiva de una sociedad que delega cada vez más tareas en los chatbots.
Los comentarios están cerrados.