Sam Altman marca los dos puntos críticos de la inteligencia artificial y pide reglas que se cumplan antes de que la tecnología se descontrole

El director ejecutivo de OpenAI, Sam Altman, volvió a poner el dedo en la llaga sobre hacia dónde camina la inteligencia artificial. En una serie de declaraciones recientes, identificó dos riesgos centrales que, según su mirada, deberían ocupar la agenda de gobiernos y empresas: que la humanidad pierda el manejo de sistemas cada vez más potentes y que una sola persona, compañía o país termine acumulando un poder desmedido gracias a esa tecnología. Para Altman, evitar ambos males al mismo tiempo obliga a transitar un camino intermedio que describe como estrecho.

Los dos escenarios que preocupan al CEO de OpenAI

El primero de esos escenarios suena a película, pero lo plantea en serio: que la IA supere la capacidad humana de control. Lo traduzco a lo cotidiano: es como subirse a un auto que cada vez corre más rápido y no tener cómo frenar. Para que eso no pase, el ejecutivo pidió que las técnicas de alineación y seguridad, es decir, los mecanismos que ajustan a la inteligencia artificial para que cumpla lo que los humanos le piden y no se desvíe, avancen al mismo ritmo que las capacidades de los modelos, o incluso un paso adelante.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, CEO de OpenAI

Qué propone para evitar la concentración de poder

El segundo riesgo tiene más cara de geopolítica y de mercado: que una inteligencia artificial muy poderosa quede al servicio de un solo actor y se use para imponer una visión del mundo sobre el resto. Para el usuario común, lo que cambia es enorme: hoy se discute si la IA nos deja sin trabajo o nos cambia la rutina; mañana podría definir qué información vemos, cómo se toman decisiones en una empresa o incluso cómo se gobierna un país.

• Un marco regulatorio federal en Estados Unidos con requisitos de seguridad comunes para los modelos de frontera, los sistemas más avanzados que hoy existen.
• Auditores independientes dentro de los mecanismos de supervisión, es decir, terceros que revisen por fuera de las empresas.
• Que las compañías empiecen a aplicar medidas de seguridad por su cuenta, sin esperar a que se aprueben nuevas leyes.
• Coordinación internacional entre gobiernos para evitar que la presión competitiva entre países empuje a tomar riesgos innecesarios.

“Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos.”Sam Altman, CEO de OpenAI

Altman fue claro al separar lo que ya se puede usar de lo que todavía es un pedido. Las declaraciones dejan un piso concreto: la necesidad de reglas federales, controles externos y cooperación entre países. Lo que todavía no existe es ese marco normativo. Mientras tanto, el debate sobre quién regula la inteligencia artificial y con qué herramientas sigue abierto, y el propio jefe de OpenAI reconoce que la ventana para actuar sin que la tecnología se descontrole se acorta.

Fuente: Bio Noticias. Autoría original: Ignacio Fuentealba.