Bill Gates solía decir que la computación vino a resolver problemas que antes no existían. Hoy, podríamos reformular esa idea para señalar que la inteligencia artificial generativa ha traído consigo problemas que antes tampoco existían: la dificultad de distinguir entre lo real y lo fabricado, entre lo grabado y lo generado.
Sobre la IA
A la fecha de publicación del presente artículo, muy pocas personas no habrán escuchado ya de la Inteligencia Artificial y seguramente habrán tenido conocimiento de alguna definición, pero como un escritor responsable no lo voy a obviar y proporcionaré una definición de IA.
La inteligencia artificial (IA) es un conjunto de tecnologías que permiten a sistemas informáticos ejecutar tareas que, tradicionalmente, requerían de la intervención humana, como el análisis de datos, la toma de decisiones, la generación de imágenes y vídeos.
La IA generativa, que tiene la capacidad de crear contenido nuevo —como imágenes, videos, texto o audio— a partir de instrucciones humanas, sin necesidad de partir de un material preexistente.
La infoxicación
La sobreabundancia de contenidos generados por IA produce lo que algunos expertos llaman infoxicación: una intoxicación informativa en la que el exceso de datos, imágenes y narrativas falsas o manipuladas dificulta que las personas se concentren en lo que realmente importa. Existe una saturación de estímulos visuales que disuelve la frontera entre lo real y lo ficticio, debilitando la confianza en los medios digitales, se va a volver habitual dudar de lo que vemos.
La necesidad
En este contexto, un mecanismo certificador no solo sería valorado (por su valor jurídico) ⏤No es un juego de palabas, los colegas abogados lo entenderán⏤, sino también social: ayudaría a las personas a centrarse en lo real, filtrando lo auténtico de lo fabricado. Si bien hoy casi todas las plataformas tienen una opción para etiquetar el contenido creado con IA, llegará un momento en que se deba etiquetar el contenido capturado de una escena real, esto debido a la abundancia de herramientas de IA que permiten crear imágenes y videos hiperrealistas con una facilidad inédita.
En ese sentido, será necesario o por lo menos una gran idea que, cada dispositivo capaz de capturar foto o video integre un sistema para certificar la autenticidad de la imagen desde el momento de la captura, preservando metadatos y generando una cadena verificable de custodia.
Lo anterior dotaría de valor probatorio a los archivos de imagen o vídeo capturados con dichos dispositivos, esto en la práctica legal sería de suma valía, porque la desconfianza generada por la IA generativa tendría un contrapeso con estos dispositivos automáticamente certificadores, sobre todo en medio de una disputa legal basada en imágenes o vídeos, que para verificar su autenticidad requieren perfeccionamiento a través de un peritaje.
//Existe un software para generar fotografías con valor probatorio, pero la crítica a este es que no lo han democratizado para usarse por individuos, está dirigido a compañías, lo que desde mi gusto deja escapar un mercado más grande compuesto de abogados particulares o individuos que usan la fotografía o videograbación como forma de documentar sucesos. //
//También existe un fabricante de cámaras fotográficas que trabajó en un prototipo con esta tecnología de certificación, pero no lo ha sacado a la venta. //
La urgencia
La idea no es futurista, sin embargo, para que tenga impacto real, deben ser adoptadas de manera masiva por fabricantes de cámaras, teléfonos inteligentes y cualquier dispositivo con capacidad de grabación. La responsabilidad y posibilidad recae (por el momento) en la industria que provee los dispositivos, el usuario los adoptará en cuanto su dispositivo los incorpore.
Conclusión
La IA generativa seguirá expandiendo sus posibilidades, y con ello, la dificultad de distinguir lo real de lo simulado. Ante este panorama, dotar a los dispositivos de mecanismos de certificación no es un lujo, sino una necesidad. Solo así podremos preservar la confianza en la imagen y el video como testimonios fieles de la realidad y, al mismo tiempo, ayudar a la sociedad a navegar la infoxicación digital con mayor claridad.
Escrito por: Augusto MENESES.
Abogado Especialista en Tecnologías de la Información.