Escuchá la entrevista con el especialista en tecnología Mauro D. Ríos.
En Spotify:
En Soundcloud:
La advertencia de Naciones Unidas sobre los riesgos que plantea el rápido avance de la inteligencia artificial volvió a poner en el centro del debate la necesidad de establecer controles sobre una tecnología que avanza a gran velocidad y que puede impactar sobre derechos fundamentales como la privacidad, la salud y la seguridad.
Ríos cuestionó, sin embargo, los discursos que presentan a la inteligencia artificial como una amenaza existencial para la humanidad. Sostuvo que la IA no tiene autoconciencia, motivaciones ni intencionalidad propia, sino que funciona a partir de algoritmos, entrenamiento y capacidades que son definidos por los seres humanos.
Reconoció que los sistemas actuales tienen niveles de autonomía cada vez mayores y que eso exige mejorar los mecanismos de control y auditoría. En ese sentido, consideró necesarios los llamados guardrails o mecanismos de contención para evitar que la tecnología pueda generar daños, afectar derechos o comprometer infraestructuras.
El especialista también cuestionó algunos de los ejemplos utilizados recientemente para advertir sobre los riesgos de la inteligencia artificial. En particular, negó que modelos de IA se hayan “escapado” de sus entornos de prueba por voluntad propia. Explicó que los casos mencionados correspondieron a experimentos realizados en entornos controlados, conocidos como sandboxes, donde los modelos recibieron determinadas instrucciones. Según señaló, algunos sistemas lograron acceder a Internet debido a fallas de seguridad en la infraestructura, pero no porque hubieran desarrollado una intención de escapar.
Ríos también relativizó otro caso difundido públicamente, referido a dos modelos de inteligencia artificial que supuestamente habían desarrollado un lenguaje propio para comunicarse. Según explicó, se trató de un sistema de comunicación mediante tonos diseñado para facilitar el intercambio de información entre los modelos y no de la creación espontánea de un idioma.
Ríos consideró que la regulación de la inteligencia artificial es necesaria, siempre que no termine bloqueando el desarrollo tecnológico. Rechazó la posibilidad de establecer una pausa general en el avance de la IA y defendió la capacidad de los seres humanos para investigar, crear e innovar. A su entender, el desafío consiste en establecer controles que eviten daños y protejan libertades y derechos, sin impedir el desarrollo de la tecnología.
