El rápido desarrollo de la inteligencia artificial volvió a colocar sobre la mesa uno de los escenarios más extremos discutidos por especialistas en seguridad tecnológica: la posibilidad de que futuros sistemas superen las capacidades humanas y dejen de responder adecuadamente a los mecanismos creados para controlarlos.
Jacob Coxon, investigador de 27 años que durante los últimos tres años participó en el entrenamiento de modelos de IA, anunció su salida del sector y lanzó una severa advertencia sobre la dirección que está tomando la carrera tecnológica.
Coxon trabajó en Anthropic y anteriormente en OpenAI. Al explicar su decisión, sostuvo que el desarrollo de sistemas cada vez más avanzados podría representar un riesgo existencial si eventualmente alcanzan la capacidad de mejorarse a sí mismos sin que exista una solución suficiente para mantener sus objetivos alineados con los humanos.
¿Quién es Jacob Coxon y qué advirtió sobre la inteligencia artificial?
Coxon participó directamente en el entrenamiento de modelos durante aproximadamente tres años antes de anunciar su salida.
Al hacerlo, acusó a los principales desarrolladores de avanzar hacia sistemas capaces de alcanzar niveles de autonomía cada vez mayores y describió esta carrera tecnológica como estar “apostando con nuestras vidas”.
Su advertencia llegó todavía más lejos. Según Coxon, algunas personas involucradas en el desarrollo de IA consideran en privado plausible un escenario en el que una inteligencia artificial suficientemente avanzada pueda provocar consecuencias catastróficas para la humanidad antes de que termine esta década.
Esto no significa que exista una predicción científica que establezca 2030 como fecha límite, ni que se haya demostrado que un escenario de extinción vaya a producirse. Se trata de una valoración de riesgo expresada por el investigador.
¿La inteligencia artificial podría acabar con la humanidad antes de 2030?
No existe evidencia que permita afirmar que la humanidad vaya a desaparecer por culpa de la inteligencia artificial antes de 2030.
Las declaraciones de Coxon plantean un escenario hipotético de riesgo, no una fecha establecida para una catástrofe.
La diferencia resulta especialmente importante porque las preocupaciones expresadas por estos investigadores tampoco se refieren necesariamente a los sistemas que las personas utilizan actualmente.
El escenario que genera inquietud es el posible desarrollo futuro de una superinteligencia artificial, entendida como un sistema que pudiera superar ampliamente las capacidades humanas en múltiples áreas y mejorar progresivamente sus propias capacidades.
Otro investigador estima un riesgo superior al 10 por ciento
Las preocupaciones sobre este escenario también han sido expresadas públicamente por Evan Hubinger, responsable de investigación de alineación en Anthropic.
Hubinger ha situado en más del 10% su estimación personal sobre la posibilidad de que una futura inteligencia artificial provoque la extinción humana durante los próximos diez años.
Nuevamente, la cifra debe entenderse como una estimación de riesgo del investigador, no como una probabilidad científica consensuada ni como una predicción de que ese escenario ocurrirá.
El propio Hubinger distingue claramente entre las herramientas existentes y los sistemas hipotéticos que podrían desarrollarse en el futuro.
Los modelos de IA actuales no son el centro de la advertencia
Hubinger considera bajo el riesgo existencial asociado con los modelos disponibles actualmente.
Su preocupación se concentra en una tecnología que todavía no existe en la forma descrita: una superinteligencia capaz de mejorar sus propias capacidades de manera recursiva.
En ese escenario hipotético, cada mejora realizada por el sistema podría facilitar una nueva generación de avances, acelerando sus capacidades hasta un punto en el que los mecanismos humanos de supervisión resultaran insuficientes.
Precisamente ahí aparece uno de los problemas centrales del debate sobre seguridad de la inteligencia artificial: la alineación.
¿Qué es el problema de alineación de la inteligencia artificial?
En términos generales, la alineación busca conseguir que un sistema avanzado de IA actúe de acuerdo con objetivos compatibles con las intenciones y valores humanos, incluso conforme aumenten sus capacidades.
El problema no consiste únicamente en ordenar a una inteligencia artificial que realice determinada tarea, sino en garantizar que interprete y ejecute esos objetivos de manera segura bajo circunstancias que sus desarrolladores quizá no anticiparon.
La dificultad crecería considerablemente en el escenario hipotético de una superinteligencia con capacidades superiores a las humanas.
Hubinger ha reconocido que todavía no existe un plan que permita considerar completamente resuelto el problema de alineación de una eventual superinteligencia.
¿Existe actualmente una inteligencia artificial capaz de mejorarse sola?
Las advertencias no significan que los modelos disponibles actualmente hayan alcanzado el escenario descrito por Coxon y Hubinger.
Tampoco implican que exista una fecha confirmada para la creación de una superinteligencia o que pueda asegurarse que llegará antes de terminar la década.
El debate gira precisamente alrededor de la incertidumbre: algunos investigadores consideran que prepararse antes de que existan sistemas con esas capacidades resulta fundamental, debido a que intentar establecer controles posteriormente podría ser demasiado tarde.
Otros especialistas mantienen estimaciones diferentes sobre la probabilidad, velocidad y naturaleza de esos posibles avances.
El debate sobre la seguridad de la IA aumenta dentro de sus propios laboratorios
Las declaraciones de Coxon adquieren relevancia no porque permitan anticipar cuándo ocurrirá una catástrofe, sino porque proceden de un investigador que trabajó directamente en el entrenamiento de sistemas avanzados.
Su salida refleja además una discusión que se desarrolla dentro del propio sector sobre qué tan rápido deberían avanzar las capacidades de la inteligencia artificial y qué garantías de seguridad deberían existir antes de desarrollar sistemas considerablemente más poderosos.
Por ahora, ni las afirmaciones de Coxon ni las estimaciones de Hubinger permiten concluir que la IA vaya a “matarnos a todos” antes de 2030.
Sí muestran, en cambio, que algunos de los investigadores involucrados directamente en el desarrollo de esta tecnología consideran suficientemente serio el riesgo de una futura superinteligencia como para pedir mayor atención a sus posibles consecuencias antes de que esas capacidades lleguen a existir.
Quizás te interese: VIDEO: papá chihuahuense intenta forrar diccionario de su hijo y se viraliza
📲 ¡Síguenos en nuestro canal de difusión de WhatsApp! —> Solo da clic aquí
Y para esta y más información, síguenos también en nuestras múltiples redes sociales: en Facebook nos encuentras como Azteca Chihuahua , vía Twitter @aztecachihuahua . Instagram como @tvaztecachihuahua y TikTok @tvaztecachihuahua o también visita más notas en nuestro sitio web www.aztecachihuahua.com