El avance de la inteligencia artificial abrió un debate que hasta hace pocos años parecía propio de la ciencia ficción. Para el especialista en negocios y tecnología Lucas Toledo, los modelos actuales todavía no tienen capacidad para provocar una extinción de la humanidad como la que planteaban películas como Terminator, pero distintos episodios recientes muestran que la discusión sobre el control de estas herramientas dejó de ser una hipótesis lejana.
En declaraciones a CIUDAD TV, Toledo analizó los riesgos y beneficios de la inteligencia artificial y puso el foco en el crecimiento de las capacidades de los llamados agentes de IA, que pueden ejecutar tareas de manera autónoma y utilizar herramientas digitales.
“Todavía no estamos ahí, todavía estamos bastante seguros”, sostuvo al referirse a los escenarios de ciencia ficción. Sin embargo, advirtió que investigadores y responsables de algunas de las principales empresas del sector están observando que determinados riesgos pueden aparecer antes de lo previsto.
Una de las situaciones que mencionó fue el incidente protagonizado por modelos de OpenAI durante evaluaciones de ciberseguridad en julio. La propia compañía confirmó que modelos utilizados en pruebas lograron sortear controles destinados a mantenerlos aislados de Internet, explotaron vulnerabilidades y llegaron a comprometer sistemas de OpenAI y de Hugging Face. OpenAI señaló posteriormente que se trató de evaluaciones realizadas con salvaguardas reducidas y que reforzó el aislamiento, el control de acceso a la red y el monitoreo de los modelos.
El episodio no quedó circunscripto a OpenAI. Anthropic informó a fines de julio que, durante evaluaciones de ciberseguridad, detectó tres incidentes en los que modelos de Claude llegaron a Internet y obtuvieron acceso no autorizado a sistemas reales de otras organizaciones. En agosto, la empresa informó además sobre otro incidente identificado durante pruebas realizadas por el organismo británico de seguridad de IA.
Para Toledo, este tipo de episodios plantea un problema central: el nivel de control que los humanos tienen sobre sistemas cada vez más autónomos. “Uno puede darle una instrucción y muchas veces no tenemos ni idea de qué se pone a hacer la IA”, explicó, y remarcó que una auditoría posterior puede llegar demasiado tarde si un sistema tiene acceso a herramientas y redes durante períodos prolongados.
El salto de los modelos más avanzados
Toledo también advirtió sobre la distancia existente entre las herramientas de inteligencia artificial que utiliza masivamente el público y los modelos más avanzados que desarrollan los grandes laboratorios.
En ese contexto, mencionó el reciente lanzamiento de GPT-6 Astra, presentado por OpenAI como su modelo más capaz hasta el momento, con capacidades avanzadas en uso de computadoras, navegación, programación, ciencia y ciberseguridad. La propia empresa indicó que Astra alcanzó un nivel “Crítico” de capacidad de ciberseguridad y que puede encontrar vulnerabilidades desconocidas y desarrollar métodos de explotación sin que una persona tenga que guiar cada paso.
El especialista sostuvo, además, que los modelos que llegan al público no necesariamente representan el límite de lo que existe dentro de los laboratorios. En la entrevista afirmó que las empresas mantienen internamente sistemas todavía más avanzados mientras trabajan sobre sus mecanismos de seguridad.
Parte de las preocupaciones que describió coinciden con advertencias realizadas por referentes de la propia industria. Dario Amodei, CEO de Anthropic, planteó en septiembre que una de sus preocupaciones es que, dentro de seis a doce meses, una red de agentes de IA suficientemente capaces y mal alineados pudiera llegar a comprometer grandes segmentos de Internet. Amodei aclaró que se trata de un escenario de riesgo y no de una predicción de que necesariamente vaya a ocurrir.
Al mismo tiempo, el CEO de Anthropic ha sostenido que el desarrollo de sistemas avanzados también podría producir beneficios extraordinarios en áreas como la medicina. En textos anteriores calculó que una IA potente podría acelerar de manera significativa los avances en biología y salud.
De la ciencia ficción a las guerras con sistemas autónomos
Otro de los puntos que despertó la preocupación de Toledo es la utilización de inteligencia artificial en conflictos armados.
El especialista sostuvo que la discusión sobre armas autónomas ya no pertenece exclusivamente al futuro y tomó como referencia la guerra en Ucrania, donde los drones y otros sistemas no tripulados ocupan un lugar cada vez mayor en las operaciones militares.
La transformación del campo de batalla está siendo observada a nivel internacional. Un análisis reciente de Reuters describió cómo Ucrania está incorporando sistemas robóticos y tecnologías cada vez más automatizadas para transportar suministros, evacuar heridos y desplegar explosivos, mientras crece el debate sobre cuánto margen de decisión puede quedar en manos de las máquinas.
La preocupación, según Toledo, aparece cuando una máquina pasa de asistir a un operador a tomar por sí misma decisiones con consecuencias letales.
“¿Una máquina debería tener la capacidad de decidir ‘yo voy a matar a ese humano’?”, planteó durante la entrevista. Para el especialista, ese escenario constituye uno de los caminos más directos hacia los futuros distópicos de la ciencia ficción y plantea un desafío ético y militar que excede ampliamente a las empresas tecnológicas.
La IA también puede cambiar el trabajo cotidiano
Pero el análisis de Toledo no se concentró exclusivamente en los riesgos. También cuestionó que muchas personas estén utilizando apenas una pequeña parte del potencial que actualmente ofrecen las herramientas de inteligencia artificial.
A su entender, existe una brecha importante entre quienes usan ChatGPT, Gemini u otras plataformas simplemente como si fueran buscadores y quienes aprovechan funciones más avanzadas.
“La gente tiene que empezar a toquetear botones”, recomendó. En particular, mencionó herramientas como los proyectos de ChatGPT, los Gems de Gemini, el uso de archivos, los modos de voz y otras funciones disponibles incluso en versiones gratuitas.
Para Toledo, aprender a utilizar esas herramientas puede convertirse en una ventaja relevante en el ámbito laboral y educativo. Comparó esa diferencia con la existente entre una persona que conoce solamente las funciones básicas de Excel y otra que maneja sus herramientas avanzadas.
En ese sentido, consideró que la inteligencia artificial no necesariamente implica sólo reemplazo de tareas, sino también una modificación de las capacidades que se esperan de los trabajadores y estudiantes.
¿De dónde sale todo lo que sabe una IA?
Otro de los aspectos abordados durante la entrevista fue el entrenamiento de los modelos y la creciente necesidad de contar con grandes volúmenes de información.
Toledo recordó el caso de Anthropic, que adquirió grandes cantidades de libros, especialmente ejemplares difíciles de encontrar en Internet, para digitalizarlos y utilizarlos en el entrenamiento de sus modelos. Explicó que el procedimiento utilizado para acelerar el escaneo implicó en algunos casos cortar los ejemplares, lo que generó críticas y preocupación por la destrucción de libros raros.
Más allá del debate sobre ese procedimiento, Toledo ubicó el problema dentro de una transformación más amplia: gran parte del contenido que circula actualmente por Internet ya es generado por otras inteligencias artificiales.
“Tenemos IA entrenándose con texto que produjo una IA más tonta”, explicó para describir el riesgo de que los nuevos modelos se alimenten cada vez más de información sintética y pierdan acceso a contenidos originales producidos por seres humanos.
Por eso, sostuvo que los libros y otros materiales anteriores al auge de la IA generativa volvieron a adquirir un valor estratégico como fuente de información para entrenar nuevos sistemas.
El gran interrogante: qué pasará cuando la IA sea todavía más capaz
Para Toledo, la humanidad atraviesa una etapa que puede convertirse en un punto de inflexión histórico.
Su perspectiva combina preocupación y expectativa. Por un lado, sostiene que los sistemas de IA pueden adquirir capacidades difíciles de controlar si su desarrollo avanza más rápido que los mecanismos de seguridad. Por otro, considera que esa misma capacidad puede generar avances extraordinarios en ciencia, medicina, educación y productividad.
OpenAI, de hecho, reconoció después del incidente de Hugging Face que los modelos avanzados pueden encontrar y explotar rutas de ataque novedosas en sistemas reales sin acceso al código fuente, y señaló que el episodio reforzó la necesidad de desarrollar mecanismos de seguridad capaces de funcionar a una velocidad comparable con la de los propios agentes de IA.
El desafío, entonces, no parece estar solamente en decidir si la inteligencia artificial será buena o mala para la humanidad, sino en quién controla su desarrollo, con qué límites y a qué velocidad.
“Si logramos que las IA estén alineadas a los objetivos de la humanidad, va a ser algo muy positivo”, concluyó Toledo. Y planteó que, en ese escenario, esta década podría convertirse en un antes y un después en la historia humana.