El especialista en tecnología Lucas Toledo analizó los avances más recientes de la inteligencia artificial y advirtió que la creciente capacidad de los sistemas para ejecutar tareas, imitar voces y generar imágenes y videos realistas plantea nuevos desafíos para empresas, profesionales, usuarios y el sistema político.
La inteligencia artificial avanza hacia una nueva etapa en la que la competencia ya no pasa solamente por cuál chatbot ofrece mejores respuestas, sino por qué herramientas son capaces de ejecutar tareas cada vez más complejas y durante períodos más prolongados. Pero, junto con esas posibilidades, también crecen los riesgos vinculados a errores, filtración de información sensible, estafas y la proliferación de contenidos falsos.
En diálogo con CIUDAD TV, el especialista en tecnología Lucas Toledo repasó algunas de las principales novedades del sector y advirtió sobre la necesidad de que las empresas y los usuarios incorporen controles antes de delegar decisiones o tareas sensibles en sistemas de inteligencia artificial.
“Agosto fue muy destacado por la aparición de nuevas herramientas agénticas, que ya no son simplemente chats respondiendo, sino ejecutando tareas”, explicó. Según señaló, el escenario tecnológico está cambiando rápidamente y la discusión comienza a desplazarse hacia la capacidad de estas herramientas para trabajar de manera autónoma sobre procesos más complejos.
Sin embargo, Toledo remarcó que ninguna inteligencia artificial puede garantizar una efectividad absoluta y que quienes utilicen estas tecnologías siguen siendo responsables por sus resultados.
“Si la IA se manda un error, no va a poner la cara: te van a levantar el teléfono a vos”, advirtió al referirse a las empresas que incorporan estos sistemas para atención al cliente, producción de contenidos u otras tareas.
Por eso, consideró fundamental verificar previamente el funcionamiento de las herramientas, reducir al máximo los márgenes de error y contar con protocolos para actuar ante eventuales fallas.
Deepfakes y voces clonadas
Uno de los principales desafíos señalados por el especialista es el avance de los llamados deepfakes, es decir, contenidos generados o manipulados mediante inteligencia artificial para simular que una persona dijo o hizo algo que en realidad nunca ocurrió.
Toledo explicó que los avatares creados con inteligencia artificial no son una novedad, pero sí lo es el nivel de realismo que alcanzaron en los últimos tiempos. “Hoy el ojo no entrenado tiene muchas dificultades para distinguir una persona real de una falsa”, señaló.
La detección puede resultar todavía más compleja cuando se utilizan herramientas sofisticadas. Aunque existen algunas verificaciones básicas que pueden ayudar a detectar manipulaciones simples, en muchos casos la confirmación definitiva puede requerir un peritaje técnico posterior.
El fenómeno también alcanza a las voces. Según explicó Toledo, con pocos segundos de audio ya es posible generar imitaciones de la voz de una persona, mientras que una mayor cantidad de registros permite lograr resultados cada vez más precisos.
Esto abre la puerta a nuevas modalidades de estafa. Por ejemplo, la utilización de voces clonadas para solicitar dinero a familiares o conocidos simulando una situación de emergencia.
Como medida preventiva, recomendó establecer mecanismos de verificación adicionales dentro de los grupos familiares, como una palabra o código de seguridad que permita confirmar la identidad de quien realiza un pedido urgente.
El impacto en las elecciones y la política
El especialista también advirtió sobre el impacto que la proliferación de contenidos falsos puede tener en los procesos electorales.
“Van a salir cientos o miles de videos de políticos haciendo cosas que quizás nunca hicieron”, sostuvo al analizar la posibilidad de que la inteligencia artificial sea utilizada para fabricar testimonios, imágenes o grabaciones falsas durante campañas políticas.
El riesgo, explicó, no se limita a una orientación política determinada: las herramientas pueden utilizarse tanto para construir falsamente una imagen positiva de una persona como para atribuirle hechos o conductas inexistentes.
En ese contexto, consideró necesario avanzar en regulaciones que permitan responder a las nuevas formas de manipulación digital.
Toledo valoró, además, las iniciativas legislativas orientadas a controlar determinados usos de la inteligencia artificial, especialmente aquellos vinculados con la creación y difusión de deepfakes y la utilización no consentida de la imagen de las personas.
Entre los casos que generan mayor preocupación mencionó la utilización de estas tecnologías para crear contenidos sexuales falsos utilizando imágenes de adolescentes o compañeros de escuela, una problemática que ya se registró en distintos lugares del mundo.
Empresas y datos sensibles
Otro de los puntos centrales de la entrevista fue el tratamiento de la información que los usuarios y las empresas incorporan a los sistemas de inteligencia artificial.
Toledo señaló que uno de los pedidos más frecuentes que recibe su consultora, Growlab, está vinculado con la capacitación de empleados para utilizar estas herramientas sin comprometer información sensible.
El problema, explicó, surge cuando trabajadores cargan documentos, datos internos o información de terceros sin realizar previamente un análisis sobre qué tipo de plataforma están utilizando y qué tratamiento podría recibir ese contenido.
La situación adquiere especial relevancia en sectores que manejan información sensible, como el ámbito jurídico y el de la salud.
Como alternativa, Toledo mencionó la posibilidad de utilizar modelos de inteligencia artificial instalados en computadoras o servidores propios, lo que permite a una organización mantener un mayor control sobre la información procesada.
También existen modelos de código abierto que pueden ser descargados y ejecutados en infraestructura propia, aunque su implementación requiere determinados conocimientos técnicos y recursos informáticos.
Una tecnología que seguirá creciendo
Finalmente, el especialista consideró que la integración entre inteligencia artificial y dispositivos personales continuará profundizándose durante los próximos años, aunque estimó que algunos de los cambios más disruptivos todavía se encuentran lejos de una aplicación masiva.
Anteojos, auriculares y otros dispositivos cada vez más pequeños podrían incorporar en el futuro conexiones permanentes con sistemas de inteligencia artificial e internet.
Sin embargo, Toledo consideró que la desaparición de los teléfonos celulares como los conocemos actualmente todavía es una posibilidad lejana.
Mientras tanto, el desafío inmediato parece estar en otro lugar: aprovechar las posibilidades que ofrece la inteligencia artificial sin perder de vista los riesgos que plantea.
La verificación de la información, la protección de los datos personales, la supervisión humana y el desarrollo de regulaciones aparecen así como algunos de los principales desafíos frente a una tecnología que avanza a una velocidad cada vez mayor.