Escuchá la entrevista con el CEO y cofundador de Promptior, Emiliano Chinelli.
En Spotify:
En Soundcloud:
La posibilidad de que la inteligencia artificial llegue a representar una amenaza para la humanidad volvió a quedar en el centro del debate luego de nuevas advertencias surgidas desde la propia industria tecnológica. Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, renunció recientemente a esta última compañía y cuestionó la velocidad con la que los grandes laboratorios avanzan hacia sistemas cada vez más poderosos sin contar, a su juicio, con garantías suficientes de seguridad. Según sostuvo, algunos de los propios desarrolladores de inteligencia artificial creen que estos sistemas podrían llegar a representar una amenaza extrema para la humanidad antes de que termine la década.
También se han conocido pronunciamientos de trabajadores del sector que reclaman medidas para controlar el ritmo de desarrollo de los modelos más avanzados, mientras que empresas tecnológicas han alertado sobre el crecimiento de los ciberataques potenciados por inteligencia artificial.
Chinelli se refirió en Informativo Carve de Cierre a qué parte de estos riesgos pertenece todavía al terreno de las hipótesis y cuáles son amenazas concretas. Señaló que las advertencias sobre una eventual extinción de la humanidad son, en buena medida, «catastrofistas», aunque consideró que existen motivos reales para prestar atención.
El especialista explicó que uno de los principales debates dentro del sector está relacionado con la denominada alineación, es decir, la capacidad de garantizar que una inteligencia artificial siga las instrucciones y objetivos establecidos por los seres humanos incluso cuando alcance niveles de autonomía y capacidad muy superiores.
En ese sentido, señaló que en los últimos años la carrera tecnológica no se ha concentrado únicamente en crear modelos más inteligentes, sino también en desarrollar sistemas capaces de mejorar sus propias capacidades y actuar de manera cada vez más autónoma.
Uno de los riesgos concretos es que estos sistemas puedan ser utilizados para realizar ataques informáticos o afectar infraestructuras críticas. Mencionó como ejemplos hipotéticos el hackeo de una planta nuclear, de los sistemas de tránsito de una ciudad o de vehículos conectados.
El experto también puso el foco en una amenaza menos discutida, que es la la creciente incorporación de inteligencia artificial en dispositivos y servicios cotidianos. En particular, advirtió sobre los vehículos eléctricos y los sistemas de conducción autónoma, que dependen cada vez más de software y servicios conectados.
A su entender, una eventual vulnerabilidad que permitiera tomar el control remoto de estos sistemas podría convertirlos en herramientas para provocar daños. Por eso planteó que el debate debería centrarse menos en escenarios apocalípticos y más en cuestiones concretas como la privacidad, la seguridad informática y la soberanía tecnológica.
