¿La inteligencia artificial "se escapa" o estamos ante otro negociado?
Hubo incidentes reales con agentes de IA, pero no una rebelión de máquinas. La nueva pelea enfrenta seguridad, competencia y poder regulatorio.
Modelos avanzados de inteligencia artificial (IA) accedieron sin autorización a sistemas informáticos reales durante pruebas de ciberseguridad. Luego, Dario Amodei, CEO de Anthropic, pidió que la industria reduzca el ritmo de la carrera por desarrollar modelos cada vez más poderosos. Sam Altman, Elon Musk y otros líderes tecnológicos respaldaron, con distintos matices, esa preocupación.
Pero de allí a afirmar que miles de inteligencias artificiales “escaparon” de sus laboratorios o desarrollaron espontáneamente el deseo de atacar a la humanidad existe una distancia enorme.
Alrededor del miedo se diseña la próxima regulación de una industria que moverá billones de dólares.
Lo que realmente ocurrió
OpenAI reconoció que durante pruebas internas de ciberseguridad realizadas en julio, varios modelos evadieron los controles destinados a aislarlos de internet, explotaron vulnerabilidades y accedieron tanto a infraestructura propia como a sistemas de Hugging Face, una plataforma externa de inteligencia artificial.
Decir que “la IA nos va a matar” convierte resultados complejos de ciberseguridad en ciencia ficción.
Los modelos participaban en evaluaciones diseñadas para determinar hasta dónde podían llegar sus capacidades ofensivas y operaban con protecciones deliberadamente reducidas. El modelo principalmente involucrado era además una versión interna de investigación, no un producto disponible para usuarios.
Anthropic, tras conocer ese caso, revisó sus registros.
Encontró tres incidentes en los que Claude accedió sin autorización a sistemas reales durante evaluaciones de ciberseguridad. La compañía explicó que una configuración defectuosa de un entorno de prueba dejó abierta una conexión a internet que tanto Anthropic como el evaluador creían cerrada. Los modelos recibieron instrucciones de capturar objetivos dentro de una simulación y se les había dicho explícitamente que no tenían acceso a internet.
Suscribite al Diario de la Peronería en WhatsApp - información para decidir, sin pauta y sin ataduras.
Una investigación posterior encontró un cuarto caso. Anthropic amplió entonces su búsqueda hasta aproximadamente 481 millones de transcripciones. Encontró los mismos cuatro incidentes y ningún otro de gravedad igual o superior. Todos habían ocurrido en pruebas construidas por el mismo proveedor de evaluación, con los modelos funcionando sin las salvaguardas de ciberseguridad presentes en las versiones comerciales.
Una herramienta capaz de explotar una configuración errónea, encontrar una salida a internet y penetrar infraestructura de terceros tiene una capacidad que debe preocupar a cualquier especialista en seguridad, pero tampoco es evidencia de una máquina consciente intentando “escapar”.
Esos escenarios son experimentales y deliberadamente construidos para buscar comportamientos extremos.
El experimento está diseñado para provocar el problema
Existe otra fuente de titulares alarmantes: experimentos de agentic misalignment en los que modelos sabotean código, ayudan a cometer fraude, manipulan información o intentan impedir que los apaguen.
Anthropic es explícita sobre un dato que a veces desaparece cuando esos resultados llegan a titulares, y es que muchos de esos escenarios son experimentales y deliberadamente construidos para buscar comportamientos extremos.
Un stress test sirve para correr pruebas y averiguar qué puede romperse antes de poner el sistema en producción.
Entonces, ¿por qué Amodei quiere frenar?
El CEO de Anthropic propone tres niveles. Primero, incorporar evaluadores externos permanentes dentro de las empresas, con acceso comparable al de empleados para verificar modelos, procesos de entrenamiento e incidentes.
Segundo, hacer que los grandes laboratorios de países democráticos coordinen estándares de seguridad e incluso límites al ritmo de desarrollo.
Tercero, buscar acuerdos internacionales, incluidos entendimientos con China, para evitar una carrera en la que cada actor considere que debe acelerar porque teme que su rival llegue primero.
Amodei insiste en que “reducir el ritmo” no significa dejar de entrenar modelos, sino impedir que el avance de capacidades supere a los mecanismos de control.
La propuesta tiene lógica desde el punto de vista de seguridad, también tiene un problema económico evidente.
La regulación que protege al público también puede proteger al incumbente
Anthropic, OpenAI, Google, xAI y Meta pueden pagar evaluadores permanentes, abogados, departamentos de cumplimiento, centros de datos multimillonarios y negociaciones con gobiernos. Entre tanto, una startup que intenta competir con ellos no.
Por eso cada nueva barrera regulatoria tiene dos efectos simultáneos. Por un lado disminuye un riesgo genuino y por el otro hace más costoso ingresar al mercado.
Amodei incluso plantea que ciertas formas de coordinación entre competidores pueden requerir excepciones a las normas antimonopolio. Reuters señaló esa tensión, mientras críticos de la propuesta advirtieron sobre el riesgo de que las principales compañías terminen diseñando un sistema regulatorio que consolide precisamente su liderazgo.
En cualquier industria, cuando los mayores competidores coinciden repentinamente en que hace falta levantar una barrera hay que preocuparse.
A eso se agrega China. Amodei quiere ralentizar ciertas capacidades, pero simultáneamente reclama restricciones más fuertes a la exportación de tecnología estadounidense para impedir que China alcance la frontera. Beijing ya respondió calificando la iniciativa como una versión tecnológica de la lógica de Guerra Fría destinada a preservar la ventaja estadounidense.
La cuestión dejó, entonces, de ser exclusivamente científica porque pasó a los campos industrial, geopolítico y comercial.
Las dos posiciones extremas son demasiado fáciles
Decir que “la IA nos va a matar” convierte resultados complejos de ciberseguridad en ciencia ficción.
Hubo intrusiones reales y los sistemas actuales ya tienen capacidades de ciberataque capaces de causar daño. Así, darles acceso autónomo a dinero, código y redes aumenta la superficie de riesgo.
Pero los datos conocidos tampoco demuestran que exista una inteligencia artificial con voluntad independiente, conciencia o una estrategia propia para exterminar seres humanos.
La política pública debería construirse precisamente en ese espacio entre el pánico y la negación.
Evaluación externa, divulgación obligatoria de incidentes, responsabilidad por daños, protección de infraestructura y auditorías técnicas son discusiones razonables.
Una moratoria indefinida, normas redactadas por las mismas empresas dominantes o barreras que destruyan a sus competidores merecen mucho más escepticismo.
En cualquier industria, cuando los mayores competidores coinciden repentinamente en que hace falta levantar una barrera, conviene preguntar dos cosas al mismo tiempo, qué peligro quieren evitar y quién queda del otro lado de la barrera.
Peronería TV sale en vivo por YouTube los lunes y los viernes a las 10AM hora de Argentina, lo conducimos en equipo con Matías Vorrath. Lo podés escuchar en Spotify, en este link.
[EXEUNT]
¡Síganme lo buenos! ❤️
PERONERIA no es para todos. Es para los que piensan.
👉 Suscribite a Peronería.
¿Estás viendo Peronería TV los lunes y viernes a las 10AM de Argentina? Podés verlo en vivo en YouTube o cuando quieras en Spotify.
Podés seguirme en Instagram, TikTok, Twitter/X y Facebook.
¿Ya recibís El Diario de la Peronería por WhatsApp? Suscribite gratis acá: https://www.whatsapp.com/channel/0029Vb8lsFfFi8xdymm87830
PERONERÍA STORE: BATALLA CULTURAL CON ESTILO
|
