La columna de Mauro D. Ríos
En las últimas dos semanas se ha suscitado un intenso debate a raíz del despliegue de nuevas funcionalidades en ChatGPT y otros modelos de inteligencia artificial (IA).
Actualmente, es posible transformar, a partir de una sola fotografía, el rostro o cuerpo completo de una persona en una representación caricaturesca, conforme al estilo de su elección. Posteriormente, dicha imagen se puede compartir a otros modelos de IA para ser animada, incluso llegando a clonar la voz del usuario para que el avatar hable a partir de textos proporcionados. Aunque esta innovación resulta, en un primer nivel, lúdica e inspiradora, presenta importantes controversias.
Por una parte, se ha generado indignación por el elevado consumo de energía y recursos asociados a este proceso. Según estudios recientes, la generación de cada imagen puede requerir entre 0,02 y 3,45 litros de agua para la refrigeración de los centros de datos, lo que suma cifras que, a escala global, pueden alcanzar hasta 6.600 millones de metros cúbicos anuales para 2027.
Además, se ha informado que una consulta en ChatGPT consume hasta tres veces más energía que una búsqueda convencional en Google.
Por otra parte, se plantean significativos problemas de privacidad. La app, o el cahtbot en la web, al procesar la imagen, podría recolectar información adicional, como la ubicación geográfica, contactos, acceso a la cámara, micrófono, dirección IP e incluso el historial de uso del dispositivo, siempre y cuando se hayan otorgado los permisos respectivos.
Expertos en ciberseguridad han advertido que tales prácticas implican riesgos ineludibles, pues la exposición y almacenamiento de datos biométricos, considerados inmutables, puede conducir a la suplantación de identidad. Esta preocupación cobra especial relevancia cuando se considera que, en aplicaciones de reconocimiento facial, sistemas basados en técnicas como FaceNet o Dlib generan vectores (o “embeddings”) de aproximadamente 128 valores recolectado (o más), los cuales han demostrado llegar a superar una efectividad del 99% en condiciones ideales de la fotografía sobre la identificación de una persona, pero ya veremos que los temores son ciertos pero tienen puntos que han quedado fuera del sensacionalismo de los memes o algunas noticias con grandes titulares.
Es cierto que la situación no depende exclusivamente de nuestras propias acciones. Dado que mantenemos una vida activa en las redes sociales, es muy probable que existan miles de fotografías en las que aparezcamos, tanto las publicadas por nosotros como las compartidas por terceros. Esto implica que cualquier individuo podría tomar una de estas imágenes, cargarla en un sistema de inteligencia artificial de reconocimiento facial y “regalarle a la IA” nuestros datos biométricos sin que hayamos otorgado nuestro consentimiento.
Más aún, dichas IA tienen la capacidad de explorar Internet en busca de imágenes de personas, registrando la biometría que contienen para utilizarla en el entrenamiento de sus modelos. Tal práctica resulta especialmente preocupante, ya que, como se ha mencionado, podría permitir rastrearnos a partir de nuestras fotografías, construyendo no solo una huella biométrica única, sino también un perfil detallado de nuestra personalidad y, con un margen de error muy reducido, delinear nuestros desplazamientos cotidianos, gustos, costumbres, etc.
Pero pongamos paños fríos a tantos temores, por que esto que parece un riesgo de suplantación de identidad sobre el cual somos casi indefectiblemente víctimas, tiene un punto de tranquilidad.
La biometría a partir de una fotografía es diferente a la utilizada para autenticarnos en sistemas informáticos. La biometría utilizada a partir de la fotografía sólo podría engañar a sistemas informáticos antiguos, básicos o mal configurados, esto es porque el reconocimiento facial ha evolucionado a sistemas más sofisticados, incluso aquellos que tenemos en nuestros dispositivos móviles. Los nuevos sistemas no son tan sencillos de engañar, éstos utilizan técnicas como detección de profundidad (reconocimiento 3D), detección de vida (liveness detection), o incluso análisis térmico, lo que dificulta o impide el uso de fotos estáticas o videos para engañarlos.
En consecuencia, aunque las aplicaciones de IA ofrecen oportunidades revolucionarias, y sin dudas nos dan espacio para divertirnos, es imperativo adoptar una postura siempre cautelosa y revisar detenidamente los permisos concedidos a dichos sistemas, para preservar tanto la sostenibilidad ambiental como la seguridad y privacidad de los usuarios.
Aunque difícilmente una IA pueda utilizar la biometría de nuestros rostros para acceder a sistemas y por ejemplo suplantar nuestra identidad ante la APP de un banco, siempre debemos estar atentos y no facilitar ni proporcionar más información de la que las APP y los sistemas informáticos necesitan de nosotros para cumplir su función. Debemos aprender a preguntar, por ejemplo, si la APP es un juego, ¿para qué necesita el reconocimiento de mi rostro?, si uso una aplicación de mapas, perfectamente solicitará mi ubicación GPS, pero ¿para que solicitaría acceso a mis archivos o mi cámara?
Debemos ser conscientes de que todo aquello sobre lo que no esté a nuestro alcance proteger o prever, toda medida de seguridad y prevención que adoptemos, estará justificada, con ello podremos mitigar posteriores daños.
Mauro D. Ríos
