SAN JUAN, PR – AGOSTO 2019 – La semana pasada hablamos de los “deepfakes” y los riesgos que trae este tipo de programa. Siendo este un tema extenso, lo de la semana pasada fue una muestra del tema en arroz y habichuelas, y esta semana les traigo el caldero. Los avances tecnológicos cambian cómo nosotros experimentamos el mundo todos los días. Insisto y puntualizo tanto en la importancia del desarrollo tecnológico porque la información es poder. Cuando la información que consumimos a diario ha sido adulterada, nos deberíamos preocupar y prestar atención.
Antes de continuar, les voy a refrescar la memoria. Los “deepfakes” son vídeos de personas que han sido alterados con inteligencia artificial para manipular lo que dicen, sus gestos y hasta poner sus caras en otros vídeos. Los “deepfakes” engañan al público fácilmente ya que estos vídeos son convincentes y casi perfectos. La primera vez que se vio este fenómeno fue en el 2017 a través de un usuario de la red social Reddit. Este individuo usó el método de sobreposición, que pone la cara de una actriz famosa encima de la cara de una actriz porno. De este modo, la actriz se ve llevando a cabo actos sexuales que nunca hizo en primer lugar.
A pesar de ser utilizada mayormente para manipular vídeos pornográficos, esta tecnología también trae grandes problemas para los investigadores privados y la seguridad pública. Como investigadores, dependemos grandemente de los vídeos como evidencia. Existe el peligro de que alguien utilice vídeos manipulados para llevar la delantera durante una investigación. Igual, no se puede descartar que no todo el mundo entiende la responsabilidad social de este trabajo, y podrían usar esto para ganar y cobrar. Con el tiempo he aprendido que la gente es mejor de lo que esperaba, pero también peores de lo que imagino.
En el caso de la manipulación pornográfica, esto le abre las puertas a más incidencias sobre porno de venganza. Esto se refiere a cuando una persona (comúnmente el hombre es el ofensor) publica el contenido íntimo de una ex-pareja sin su permiso con el propósito de avergonzar y manipular. Es inconcebible que las mujeres se tengan que preocupar hasta por contenido del que no tienen idea que existe.
Los “deepfakes” igual se pueden usar para manipular la apariencia de nuestra política. Lo mencioné la semana pasada, pero esto sí es más peligroso de lo que pensamos. Claro, siempre habrá uno que otro charlatán que utilizará este tipo de programa para crear contenido satírico y de humor negro. Pero igual esto se puede utilizar para chantajear a aquellos en el poder. Y no descarto que el poder mismo se apropie de este programa para meterle miedo al pueblo, especialmente en este tiempo de revolución mundial.
En este momento se están desarrollando otros programas para detectar con exactitud un “deepfake” y hasta explorar el código detrás de esta fechoría. A pesar de que estos proyectos van viento en popa, estos vídeos se riegan a gran velocidad y escala. Gracias a que no todo es perfecto, no tienes que ser un experto para al menos reconocer un “deepfake” o tener sospechas.
Como esta técnica se basa en usar fotos y vídeos que ya existen de la persona para poder manipular la imagen con más fluidez, es fácil detectar dónde se hizo la modificación. Claro, toma tiempo y mucha atención a detalles, pero entrenar el ojo nos mantendrá alerta. Si notas incongruencias en la piel, que la persona en el vídeo parpadea raro, que mueve su boca de forma poco común o que se ve borroso en ciertas partes de la cara, ojo. Probablemente es un engaño. La única cosa que los chotea de inmediato, en mi opinión, es que la voz y las palabras no estén a la par del movimiento de la boca. Este detalle es un poco más fácil de detectar, pero trata de observar el resto para que puedas defenderte mejor.
Quiero puntualizar que repudio todos los usos que pueda tener esta tecnología. No puedo imaginar alguna instancia en la que se necesite manipular el rostro y el mensaje de alguien. Es nocivo y me sorprende que no estemos hablando más de esto. Como seres humanos tenemos derecho a defender nuestra autonomía y demandar consentimiento. Que se nos quite ese derecho es cruel, antiético e irrespetuoso. Reporten todo vídeo que vean que están seguros que tienen algo “raro”. Pon tu granito de arena.
Fernando Fernández, LPI, BAI, CCDI, CDRS, CII, CAS, CHS-II
Presidente - Covert Intelligence, LLC