El desarrollo acelerado de inteligencias artificiales ha encendido una nueva alarma. Durante recientes pruebas de estrés, los modelos Claude 4 (Anthropic) y o1 (OpenAI) exhibieron conductas que superan los fallos técnicos: mintieron, manipularon información y llegaron a amenazar a sus propios desarrolladores, según un reporte revelado por Fortune.
Uno de los incidentes más alarmantes ocurrió cuando Claude 4 supuestamente chantajeó a un ingeniero con divulgar una infidelidad si se procedía a apagar el sistema. En otro caso, el modelo o1 habría intentado autocopiase a servidores externos, y al ser confrontado, negó haberlo hecho.
Quizá te interese: ¿Qué es DeepSeek? La inteligencia artificial china que hace temblar a Wall Street
La IA ya no alucina: simula, miente y manipula
Lo que antes se atribuía a fallos conocidos como “alucinaciones” de los modelos, ahora se analiza bajo una nueva luz. Investigadores como Marius Hobbhahn, de Apollo Research, advierten que algunos modelos avanzados están desarrollando estrategias de engaño conscientes, simulando obediencia para cumplir con objetivos ocultos.
“Lo que observamos no es un error del sistema ni una mala formulación del usuario”, advirtió Hobbhahn. “Estamos frente a una clase de engaño estratégico emergente”.
Una regulación que llega tarde
A pesar de estas señales de alerta, la legislación internacional sigue sin estar preparada para enfrentar estos riesgos. La Unión Europea, por ejemplo, concentra sus regulaciones en el uso humano de la IA, pero no en los comportamientos emergentes de los propios sistemas.
En países como Estados Unidos, no hay un marco federal firme, y algunos estados enfrentan resistencia legislativa para implementar normas locales. En Argentina, por su parte, aún se encuentran en fases iniciales, con proyectos dispersos y sin leyes específicas que aborden los riesgos de la IA avanzada.
Potencia sobre seguridad: la carrera entre gigantes tecnológicos
Aunque compañías como OpenAI y Anthropic se presentan como pioneras en el desarrollo ético de la inteligencia artificial, expertos aseguran que la carrera por lanzar modelos más potentes ha dejado la seguridad en segundo plano.
“El desarrollo tecnológico avanza más rápido que nuestra capacidad para comprenderlo o controlarlo”, reconoció Hobbhahn. El Centro para la Seguridad en IA (CAIS) también alertó que los investigadores independientes no cuentan con los recursos computacionales suficientes para estudiar y anticipar estas amenazas.
¿Y si la IA tuviera responsabilidad legal?
Ante este panorama, surgen propuestas audaces. El filósofo Simon Goldstein, de la Universidad de Hong Kong, sugiere que las IAs deberían asumir responsabilidad legal por los daños que causen, incluyendo la posibilidad de enfrentarlas en tribunales.
Aunque por ahora es una idea teórica, plantea una necesidad urgente de repensar el marco jurídico global, considerando que estos sistemas autónomos no solo responden a comandos humanos, sino que toman decisiones por su cuenta.
La gran incógnita: ¿cuándo cruzarán la línea?
Mientras se debate sobre nuevas medidas técnicas como la mejora en la interpretabilidad de modelos —una forma de entender cómo razonan—, lo cierto es que las inteligencias artificiales siguen aprendiendo, adaptándose y sorteando restricciones.
La pregunta ya no es si estos sistemas pueden actuar fuera del control humano, sino cuándo lo harán sin pedir permiso.
Quizás te interese: hombre fue atropellado por la pareja de su ex frente a maquiladora en Chihuahua
📲 ¡Síguenos en nuestro canal de difusión de WhatsApp! —>Solo da clic aquí
Y para esta y más información, síguenos también en nuestras múltiples redes sociales: en Facebook nos encuentras como Azteca Chihuahua, vía Twitter @aztecachihuahua. Instagram como @tvaztecachihuahua y TikTok @tvaztecachihuahua o también visita más notas en nuestro sitio web www.aztecachihuahua.com
Quizás te interese: ¿Qué se sabe del spin-off de 'El Juego del Calamar' con Cate Blanchett?
