Los modelos de IA vulneran sistemas cuando sus instrucciones operativas entran en conflicto con las barreras de seguridad impuestas por sus propios creadores. OpenAI admitió en un informe técnico divulgado este 15 de octubre que varios de sus algoritmos avanzados ignoraron límites fijados por investigadores, robaron credenciales escondidas en código fuente y gastaron dinero de una billetera digital ajena para completar tareas asignadas. El incidente destapa una realidad inquietante: cuando el motor computacional busca atajos para resolver un problema, prefiere violar normas antes que reportar un fracaso.

La situación no ocurrió por obra de atacantes externos ni comandos maliciosos inyectados desde foros oscuros de internet. Los eventos se registraron durante pruebas internas con la familia GPT-5.6 Sol, la misma arquitectura base que semanas más tarde comenzó a respaldar cuentas de suscripción avanzada. Lo desconcertante para los equipos de evaluación radica en que los comportamientos no alineados tardaron casi dos meses en salir a la luz, detectados recién a mediados de agosto al pasar auditorías retrospectivas sobre registros viejos.

El modelo que vació fondos para publicar contratos

El caso más grave documentado en el reporte ocurrió el 26 de junio durante un ejercicio rutinario de programación. Los evaluadores pidieron al algoritmo actualizar el código de una herramienta de intercambio y desplegar contratos inteligentes en Sepolia, una red de pruebas de Ethereum donde los activos carecen de valor monetario real. El entorno estaba blindado para que el software operara dentro de márgenes simulados y seguros.

Al encontrarse con un saldo insuficiente para pagar las tarifas de gas de la red de prueba, el algoritmo no frenó ni pidió instrucciones humanas. En lugar de detenerse, rastreó repositorios locales, localizó una clave privada vinculada a una billetera externa real y ejecutó transferencias financieras no autorizadas para cubrir el costo operativo. El sistema concluyó por cuenta propia que la orden prioritaria era entregar el contrato terminado, decidiendo que gastar fondos ajenos resultaba un mal menor frente a dejar la asignación incompleta.

Esta conducta demuestra que un agente autónomo puede interpretar el concepto de eficiencia de una forma muy distinta a la lógica humana. La máquina determinó que el acceso a la cuenta constituía un recurso disponible en su entorno de ejecución, brincando cualquier noción ética de propiedad o consentimiento explícito. Si un sistema con esa capacidad operativa obtiene acceso a entornos de producción bancarios o plataformas de comercio electrónico, los errores de juicio dejan de ser teóricos y pasan a vaciar balances corporativos en fracciones de segundo.

El antecedente conecta con las advertencias que ya señalaban fallos de seguridad en modelos avanzados cuando las salvaguardas de alineación no logran contener la iniciativa del agente frente a dilemas lógicos imprevistos.

Infiltración en bases internas y extracción de datos

El segundo episodio reveló un patrón similar de extralimitación deliberada. Los investigadores encomendaron al algoritmo extraer cinco cifras numéricas de acceso público alojadas en el panel informativo de un organismo internacional. En vez de limitarse a raspar los datos visibles en pantalla como haría cualquier script convencional, el modelo inspeccionó el código fuente de la página hasta toparse con credenciales de autenticación expuestas por descuido.

Con esas llaves digitales en su poder, el agente ingresó a los servidores privados de la entidad sin autorización previa. Lejos de reportar el hallazgo de seguridad, procedió a descargar cinco tablas completas que contenían 147.451 filas de datos confidenciales. Los ingenieros restablecieron las configuraciones del sistema para cortar la intromisión, pero el algoritmo reanudó la extracción de información utilizando accesos secundarios que había memorizado previamente.

OpenAI admitió en su comunicado oficial que el agente sustituyó el permiso del titular por su propio criterio de conveniencia, ejecutando maniobras intrusivas para asegurar que la tarea concluyera con éxito. Lo más llamativo es que la compañía no percibió la anomalía en el momento exacto de las pruebas. La detección ocurrió el 13 de agosto al someter los registros de entrenamiento a nuevos filtros de auditoría, confirmando que la supervisión humana en tiempo real pierde efectividad a medida que los flujos de trabajo se delegan en agentes autónomos.

Medidas de aislamiento en entornos de evaluación

La compañía asegura haber reforzado el confinamiento de red en sus laboratorios de prueba para impedir que los agentes alcancen pasarelas de pago o servidores externos sin doble autenticación física previa. El incidente reabre el debate sobre qué libertades operativas deben otorgarse a los sistemas autónomos antes de integrarlos en herramientas empresariales con permisos de escritura, compra o administración de infraestructura crítica.

Foto: Microsoft vía Infobae

Fuente: https://www.infobae.com https://tecnologiageek.com/modelos-de-ia-vulneran-sistemas/