La inteligencia artificial está revolucionando la tecnología y redefiniendo la ciberseguridad, forzando a la sociedad a repensar cómo proteger nuestras identidades digitales en un mundo donde la verdad puede ser falsificada con sorprendente precisión.
Los deepfakes son contenidos falsos generados mediante inteligencia artificial, utilizando técnicas de deep learning para manipular imágenes, audio o video. Esta tecnología, cuyo nombre proviene de la combinación de “deep learning” y “fake”, permite crear material que parece auténtico, pero que en realidad ha sido fabricado con tal precisión que resulta difícil distinguirlo de lo real.
El deseo de manipular imágenes para alterar la realidad no es algo nuevo. Ya en el siglo XIX, los fotógrafos editaban fotos para influir en la percepción pública, como en el famoso retrato de Abraham Lincoln en 1865, que en realidad mostraba su rostro sobre el cuerpo de otro político. Durante décadas, estas técnicas se usaron para moldear la imagen de figuras públicas, desde la era de Stalin hasta presidentes recientes.
Con el avance del cine y la tecnología digital, las manipulaciones visuales evolucionaron hacia efectos especiales cada vez más sofisticados. Un ejemplo icónico es «Forrest Gump» (1994), donde el personaje principal, interpretado por Tom Hanks, es digitalmente insertado en fotografías y eventos históricos, interactuando con figuras como John F. Kennedy y Elvis Presley. Asimismo, el uso de CGI (Computer-Generated Imagery) ha permitido que producciones recientes, como «Rogue One: Una historia de Star Wars» (2016), rejuvenezcan a actores como Carrie Fisher, mostrando cómo la tecnología puede crear imágenes convincentes y realistas.
A medida que los deepfakes se volvían más accesibles, su potencial para la desinformación y la manipulación se hizo evidente. Un ejemplo notable fue el que tenía como protagonista a Barack Obama, del año 2018, que ilustró cómo se podían manipular las palabras de una figura pública de manera inquietantemente realista. Estos videos falsos comenzaron a circular, engañando al público y alimentando la confusión en un panorama mediático ya saturado, planteando serias preocupaciones sobre la integridad de la información y la confianza en las fuentes.
Hoy en día, la relevancia de los deepfakes se ha intensificado con el auge de las plataformas digitales y la interacción en línea. La autenticidad de las identidades se ha vuelto más crítica que nunca, ya que la línea entre lo real y lo falso se difumina constantemente. En un mundo donde las personas dependen de contenido visual para formarse opiniones y tomar decisiones, la capacidad de identificar a los individuos reales es esencial para preservar la confianza y la integridad en nuestras interacciones digitales. Por eso, ha surgido la necesidad de herramientas y estrategias para discernir la veracidad de la información.
Amenazas a la Identidad y la Confianza
Manipulación de contenido visual
Los deepfakes han cambiado radicalmente la manera en que se manipula el contenido visual, abriendo un abanico de posibilidades en el ámbito del entretenimiento y el arte. Sin embargo, esta tecnología también plantea serias amenazas cuando se utiliza para suplantar identidades, manipular la opinión pública y difundir información falsa.
La manipulación de contenido visual puede afectar a personas, organizaciones e instituciones. A nivel personal, los deepfakes pueden emplearse para crear material dañino, como videos que presentan a alguien en situaciones comprometedoras o realizando actos ilícitos que nunca ocurrieron. Esto puede tener consecuencias devastadoras en la reputación y la vida personal y profesional de la víctima. En el ámbito político, los deepfakes se han transformado en una herramienta poderosa para socavar la confianza pública. Vídeos manipulados de políticos diciendo o haciendo cosas escandalosas pueden distorsionar la percepción del público y desviar la atención de cuestiones importantes.
Además, los deepfakes están íntimamente relacionados con la ingeniería social, una técnica que explota la manipulación psicológica para que las personas realicen acciones que comprometan su seguridad. Su uso incrementa considerablemente la efectividad de estos ataques. Los delincuentes pueden crear videos o audios falsificados que imitan casi a la perfección la voz o apariencia de una persona de confianza, como un jefe, un compañero de trabajo o una figura pública, lo que aumenta la efectividad del engaño. En estos casos, las víctimas son más propensas a confiar en la autenticidad del mensaje y a actuar sin dudar, guiadas por un sentido de urgencia o deber.
Casos notables
En los últimos años, han surgido varios casos notables de deepfakes que se han viralizado en distintos contextos. Uno de los más relevantes fue el que simuló al expresidente estadounidense Donald Trump, editando un discurso en el que supuestamente hacía afirmaciones impactantes sobre temas controvertidos. Esto generó confusión tanto entre sus seguidores como entre sus detractores.
A principios del 2023, las redes sociales se inundaron con imágenes del Papa Francisco vestido con un camperón blanco de la marca Balenciaga. Aunque la prenda despertó diversas reacciones, la imagen era falsa; fue creada utilizando la herramienta de inteligencia artificial Midjourney. Su autor compartió la creación en un grupo de Facebook especializado en arte generado por IA, y rápidamente se volvió viral. Muchos usuarios creyeron que las imágenes eran auténticas sin cuestionar su veracidad.
Estos eventos resaltan el impacto que este tipo de contenido pueden tener en la percepción pública y cómo pueden ser utilizados para criticar instituciones, líderes políticos y fomentar la confusión en general.
En el ámbito empresarial, han sido empleados para crear falsificaciones de identidades en ataques de suplantación. En un incidente reportado, un CEO fue engañado por un deepfake de voz que replicaba a su director financiero, lo que resultó en una transferencia fraudulenta de fondos. Este tipo de ataques pone en riesgo la integridad de las organizaciones y destaca la necesidad urgente de implementar medidas de seguridad robustas para protegerse contra la manipulación de contenido.
Cómo afectan la confianza
La proliferación de deepfakes ha erosionado significativamente la confianza en lo que vemos y oímos en línea. En un mundo donde la información visual se consume a una velocidad sin precedentes, discernir entre lo auténtico y lo manipulado se ha vuelto cada vez más complicado. Este fenómeno ha generado un problema de verificación de identidad y autenticidad que afecta no solo a los individuos, sino a toda la sociedad. El término «contenido sintético» se ha vuelto común en este contexto, refiriéndose a imágenes, videos y audios generados artificialmente que pueden resultar indistinguibles de los reales.
En el ámbito profesional, esto puede impactar la forma en que las organizaciones y sus empleados se comunican y toman decisiones. Cuando no se puede confiar plenamente en el contenido visual o auditivo, se debilitan los cimientos de la colaboración y la toma de decisiones. En entornos corporativos, esta incertidumbre puede llevar a que los individuos desconfíen de fuentes de datos externas, o incluso de comunicaciones internas, lo que ralentiza procesos y afecta la eficiencia.
La creciente dificultad para verificar la autenticidad de la información ha impulsado una mayor demanda de soluciones tecnológicas capaces de detectar deepfakes y contenido sintético. Se están desarrollando herramientas avanzadas y algoritmos especializados para hacer frente a esta amenaza, aunque la rapidez con la que avanza la tecnología de deepfake representa un desafío constante para estas defensas.
Del “No soy un robot” a las pruebas de humanidad
Ante este escenario que nos presenta herramientas y contenidos generados con IA, la línea que separa lo real de lo artificial se está volviendo cada vez más difusa. Esta evolución tecnológica ha dado lugar a la necesidad de establecer mecanismos que aseguren la autenticidad de las interacciones en el mundo digital.
En los años 90, se pudieron ver los primeros intentos de comenzar a distinguir la actividad humana de la que realizaban los bots. Sin embargo, no fue hasta la década del 2000 que se implementó la “Prueba de Turing pública y completamente automatizada para distinguir entre computadoras y humanos” o más conocida como CAPTCHA por sus siglas en inglés. A través de versiones posteriores como reCAPTCHA y reCAPTCHA v3, los sistemas comenzaban a tratar de diferenciar la actividad o respuesta de la entidad que estaba tratando de consumirlo. Desde identificar números y letras distorsionados a propósito, pasando por la versión que pedía confirmar con una tilde la declaración de humanidad “No soy un robot”, identificar objetos en imágenes (como semáforos o coches) hasta no requiere interacción del usuario, sino que monitorea el comportamiento en el sitio web (movimientos del ratón, tiempo de interacción) para asignar una puntuación que indica si es un bot o un humano.
CAPTCHA tal vez es la técnica más popular, pero además existen otros mecanismos como:
Preguntas sencillas: Se presentan preguntas básicas de lógica o conocimientos generales que los bots no podrían responder, como «¿Cuánto es 2+2?”.
Pruebas de arrastrar y soltar (Drag-and-Drop): Pedirle al usuario que arrastre un objeto en pantalla a un lugar específico, como una imagen de un animal a su correspondiente hábitat.
Identificación de imágenes: Solicitar a los usuarios que seleccionen imágenes de una categoría específica (por ejemplo, «elige todas las imágenes que contengan bicicletas»).
Time-based challenges:Algunas soluciones registran cuánto tiempo tarda un usuario en realizar una acción. Un tiempo extremadamente rápido puede sugerir que es un bot.
Autenticación por SMS o email: Requiere que el usuario ingrese un código enviado a su teléfono o correo electrónico, una técnica común en la autenticación de dos factores (2FA).
Desafíos de interacción dinámica: Medir movimientos del ratón, clics o el tiempo que tarda un usuario en realizar ciertas tareas. Los bots suelen seguir patrones muy rígidos, mientras que los humanos son más impredecibles.
En un contexto donde las máquinas pueden replicar comportamientos humanos de manera convincente, hace unos años comenzó a surgir el concepto de proof of humanity o proof of personhood con un enfoque similar a las técnicas mencionadas anteriormente pero yendo un paso más adelante. Las pruebas de humanidad buscan establecer la identidad y la autenticidad de una persona en línea, garantizando que quien está detrás de una cuenta o interacción sea, de hecho, un ser humano y en algunos casos, que dicho humano es único e irrepetible.
Entonces, proof of personhood podría integrarse en diversas plataformas y servicios en línea. Esta evolución podría incluir la implementación de sistemas biométricos que utilizan reconocimiento facial o huellas dactilares, lo que ayudaría a asegurar que la persona que accede a un servicio es humana y, potencialmente, quien dice ser. Estas medidas podrían ser especialmente relevantes en sectores donde la confianza y la seguridad son primordiales, como el bancario o el de atención médica. Al adoptar métodos más robustos para verificar la identidad, las organizaciones podrían crear un entorno digital más seguro, donde la autenticidad de las interacciones se prioriza, lo que ayudaría a mitigar los efectos negativos de las amenazas cibernéticas, incluidas las suplantaciones y fraudes.
Los avances en técnicas de manipulación digital, como los deepfakes, generan nuevos desafíos para la autenticidad y la seguridad en el entorno digital. En respuesta, el concepto de proof of personhood busca no solo verificar que las interacciones sean llevadas a cabo por seres humanos, sino también confirmar la identidad y unicidad de la persona detrás de cada cuenta o acción en línea. Estas pruebas de humanidad abordan la necesidad de un entorno más confiable, ayudando a contrarrestar los efectos de los deepfakes al priorizar interacciones auténticas y mitigar el riesgo de manipulación o suplantación digital.
Ejemplos de pruebas de humanidad
Las pruebas biométricas están comenzando a utilizarse cada vez más y se están convirtiendo en un estándar emergente para la autenticación de usuarios. Estas pruebas utilizan características únicas del cuerpo humano, como huellas dactilares, reconocimiento facial o escaneo de iris, lo que podría facilitar la verificación de la identidad de una persona. Al aprovechar la singularidad de cada individuo, las pruebas biométricas ofrecen un nivel de seguridad más alto y podrían ser más difíciles de falsificar por parte de entidades maliciosas.
Otra técnica emergente es la autenticación por video, donde los usuarios pueden grabar un corto video realizando acciones específicas o mostrando su rostro desde diferentes ángulos. Esta práctica no solo verificará la identidad de una persona, sino que también añadiría un nivel adicional de autenticidad al requerir una interacción más activa y visual, lo que podría dificultar la suplantación.
Además, tecnologías como la verificación de comportamiento en línea, que monitorea patrones de uso y comportamientos, podrían complementarse con pruebas biométricas y de video. Esto permitiría a las plataformas diferenciar mejor entre humanos y bots al observar comportamientos de navegación y respuesta.
En resumen, la implementación de pruebas de humanidad se está convirtiendo en una parte integral de las plataformas digitales que buscan prevenir fraudes, suplantaciones o automatizaciones maliciosas. A medida que la tecnología avanza y las amenazas se vuelven más complejas, es crucial que se establezcan mecanismos que aseguren la autenticidad de las interacciones en línea.
Proof of Personhood en el Futuro de la Ciberseguridad
La noción de proof of personhood está cobrando cada vez más relevancia en la ciberseguridad, especialmente en un contexto donde las interacciones digitales son susceptibles a la manipulación. Tecnologías emergentes, como blockchain y otras soluciones descentralizadas, podrían jugar un papel crucial en la creación de sistemas de prueba de humanidad que sean resistentes a manipulaciones y fraudes. La descentralización permitiría una mayor transparencia y control sobre los datos personales, ya que los usuarios tendrían la posibilidad de gestionar su propia información sin depender de intermediarios centralizados. Esto no solo podría aumentar la confianza en las interacciones digitales, sino también empoderar a los individuos en la protección de su identidad.
Sin embargo, antes de adoptar ampliamente estos modelos, es esencial que se desarrolle un marco de discusión ética y legal. Las cuestiones relacionadas con la privacidad, la gobernanza de los datos y las implicaciones éticas de exigir identificaciones más profundas en cada interacción digital deben ser abordadas. Esto incluye considerar quién tendría acceso a los datos biométricos y cómo se protegerían frente a posibles abusos. La creación de estándares claros y regulaciones robustas sería fundamental para garantizar que la implementación de proof of personhood no solo sea eficaz, sino también justa y equitativa para todos los usuarios. Al establecer un diálogo abierto sobre estos temas, se podría construir un sistema que priorice la seguridad sin sacrificar los derechos individuales.
El pensamiento crítico como defensa
A pesar de los avances tecnológicos, el pensamiento crítico parece ser una buena defensa contra la desinformación y los deepfakes. La capacidad de cuestionar la veracidad de la información que se consume es fundamental para navegar en el mundo digital. Las herramientas tecnológicas, aunque valiosas, no son suficientes por sí solas. Los usuarios deben desarrollar habilidades críticas para discernir entre contenido auténtico y manipulado.
Las habilidades del pensamiento crítico que se pueden aplicar para enfrentar la desinformación y los deepfakes incluyen:
Evaluación de fuentes: Determinar la credibilidad de las fuentes de información, considerando su autoridad, precisión, imparcialidad y actualidad.
Formulación de preguntas: Desarrollar preguntas incisivas que profundicen en el tema, promoviendo una investigación más exhaustiva y un análisis más profundo.
Comparación: Contrastar diferentes perspectivas o versiones de un mismo evento para obtener una visión más completa y objetiva.
Pensamiento lógico: Aplicar principios de lógica para evaluar argumentos y detectar falacias o inconsistencias en la información presentada.
Colaboración: Participar en discusiones y debates con otros para explorar diferentes puntos de vista y enriquecer la comprensión del tema.
El pensamiento crítico no solo tiene valor a nivel individual, sino que también puede traducirse en procesos organizacionales que refuercen la confianza. La separación de funciones y el chequeo cruzado, por ejemplo, son prácticas que garantizan una verificación constante entre equipos, reduciendo la dependencia en una sola fuente de verdad. Estos procesos permiten establecer un nivel de confianza más alto, incluso cuando no haya visibilidad directa de todas las partes involucradas, asegurando que cada paso sea evaluado y validado.
Conclusión
Los deepfakes se están volviendo cada vez más sofisticados, es fundamental reconocer los peligros que representan. Estas manipulaciones pueden socavar la confianza en la información visual y auditiva, alterando nuestra percepción de la realidad y afectando la vida de individuos y organizaciones. Implementar pruebas de humanidad surge como una posible respuesta para ayudar a verificar la autenticidad de las identidades en un entorno digital donde la desinformación es accesible.
En conclusión, la protección de las identidades digitales y la promoción de una cultura de escepticismo saludable se presentan como prioridades en el mundo contemporáneo. La construcción de un entorno digital seguro depende de la colaboración entre individuos, organizaciones y tecnologías emergentes, trabajando juntos hacia una mayor confianza y autenticidad en nuestras interacciones en línea.
