Hechos profundamente inquietantes sobre los deepfakes

Ya se ha dicho mucho sobre los diversos peligros potenciales de la IA, incluso si lo peor aún puede estar bastante en el futuro. La IA puede ser poderosa y revolucionaria, aunque algo así como una toma de control de una máquina deshonesta, al menos con la tecnología actual, parece bastante improbable.

Sin embargo, una aplicación de IA ha avanzado de manera preocupante en los últimos años. Los deepfakes son esencialmente animaciones o videos falsos generados por IA que podrían editarse para hacer cualquier cosa, y con eso queremos decir cualquier cosa. Puedes hacer un video falso de una celebridad haciendo algo específico que quieras, o de un líder mundial con armas nucleares amenazando a otro, o literalmente cualquier otra cosa. Las posibilidades son infinitas, por eso es tan peligroso. ¿La peor parte? En este punto, la tecnología ya es tan buena que es imposible saber si es real sin un análisis forense elaborado.

Los deepfakes se han apoderado de las células de ciberdelincuencia de países de todo el mundo, debido a sus diversas aplicaciones en delitos como pornografía de venganza, robo de identidad, golpes políticos, etc. Las preocupaciones también están bien fundadas, como deepfakes, y su integración con otras aplicaciones de inteligencia artificial. – han recorrido un largo camino en apenas cinco años.

10. Es un tipo de delito completamente nuevo

No lo dudamos deepfakes definitivamente se usaría para algo bueno en el futuro, como lo son la mayoría de las tecnologías innovadoras. Lo que es preocupante, sin embargo, es el gran número de aplicaciones en el crimen.

Tome su uso en el porno de venganza como ejemplo. De acuerdo con las leyes vigentes en la mayoría de los países del mundo, el delito de subir una foto o video de otra persona sin permiso tiene una línea clara de responsabilidad que, si se encuentra, podría rastrearse hasta el culpable. Ese no es el caso de los deepfakes, ya que no necesitas nada más que una fotografía para hacerlos. Olvídese de la trazabilidad; Según nuestras leyes actuales, estos delitos ni siquiera están debidamente categorizados, lo que plantea algunas preguntas difíciles sobre cómo lidiar con ellos.

Para tomar el ejemplo mencionado anteriormente, no estamos seguros de qué tipo de delito eso sería. ¿Es voyerismo? Podría decirse que no existe una invasión real de la privacidad de una persona real sin su consentimiento, ya que la imagen o el video falsos no son reales para todos los propósitos legales. Bajo el sistema actual, el único problema aquí es tomar contenido de la cuenta de redes sociales de alguien que ya está disponible en el dominio público, incluso si eso ni siquiera se acerca a explicar la gravedad del crimen.

9. Ahora puedes hacer deepfake a una persona completamente nueva

Incluso para el artista más hábil que existe, es imposible dibujar una cara que no existe. Todo nuestro arte es una mera imitación del mundo que vemos a nuestro alrededor, y la creación de algo verdaderamente extraño o inexistente no es posible para casi todos nosotros. Ahí es donde entran las computadoras, ya que no tienen las mismas barreras en su imaginación.

El arte generado por la IA se ha vuelto viral varias veces en el pasado reciente y se destaca por lo diferente que es de todo lo que conocemos. Mientras que el arte de la IA estaba restringido a ilustraciones e imágenes indescifrables hasta ahora, los deepfakes lo han llevado un paso más allá. Ahora podemos generar caras completamente nuevas con la ayuda de IA y deepfakes y, lo que es preocupante, es imposible decir que no existen en absoluto. La parte verdaderamente aterradora, sin embargo, es por aprendizaje automático, los deepfakes pueden hacer todo eso sin ninguna supervisión humana.

8. Ya están desencadenando una nueva carrera armamentista mundial

Las nuevas tecnologías a menudo se ven con sospecha, que suele ser lo que desencadena las carreras de armamentos. Lo mismo ocurre con la IA, y las deepfakes en particular, ya que casi todas las naciones importantes están trabajando actualmente en formas de perfeccionar la tecnología. Hay una diferencia clave entre los deepfakes y cualquier otra tecnología militar del pasado, sin embargo, no tenemos una visión clara de hacia dónde nos estamos dirigiendo.

En el mejor de los casos, sabemos lo que estamos desarrollando, que es una tecnología que puede falsificar cualquier cosa a un nivel que no podemos detectar. Su número de aplicaciones, sin embargo, es asombrosamente vasto y todavía bastante poco claro.

Lo que está claro, sin embargo, es que un deepfakes global carrera de armamentos ya está en marcha, y tampoco en un futuro lejano. Los deepfakes ya han comenzado a influir en la política del mundo actual y se han utilizado en bastantes campañas políticas y golpes de estado en todo el mundo en los últimos años.

7. El mundo occidental no está realmente en riesgo

Se ha dicho suficiente sobre el papel de los deepfakes a la hora de influir en el resultado de las elecciones, lo que también ocurre con una de sus aplicaciones más peligrosas. Imagínese una tecnología tan avanzada que cualquiera pueda hacer cualquier cosa en un registro fotográfico. Puede hacer que un político pronuncie cualquier discurso falso que desee, o hacer que un líder estatal falso declare una emergencia militar, todo ajustando algunas cosas en una computadora. Las posibilidades son infinitas, aunque los países desarrollados no sentirán las consecuencias más devastadoras de esta tecnología. Si bien es cierto que el uso de deepfakes entre las poblaciones occidentales conocedoras de la tecnología para influir en las elecciones sigue siendo una amenaza constante, estos países todavía tienen muchos controles para no dejar que se salga de control.

El sur global, por otro lado, es mucho más empobrecido y susceptible a campañas manufacturadas destinadas a sembrar disturbios con la ayuda de deepfakes. Las tensiones étnicas aún son altas en muchos países de Asia, África y Medio Oriente, y es casi seguro que se usarían deepfakes para afianzar aún más esas líneas.

6. Desacreditan pruebas reales y admisibles

Si bien los deepfakes podrían usarse para muchos propósitos nefastos, su impacto en la psique humana colectiva sería más profundo que solo una mayor tasa de delincuencia. Como sociedad, confiamos en las fotos y los videos para que sean representaciones precisas de la realidad, ya que todo, desde la candidatura política hasta las investigaciones de la escena del crimen, asume que las cosas en las fotos y videos son como son en realidad. Incluso con nuestras mejores falsificaciones, es posible, y a menudo bastante fácil, saber qué es real y qué no.

Con deepfakes, ese ya no sería el caso. En un mundo donde los videos y las fotos se pueden hacer para hacer cualquier cosa, no tendrá sentido confiar en imágenes para cualquier cosa. De hecho, las fotografías y los videos pueden dejar de ser medios para capturar momentos humanos por completo, ya que una IA probablemente sería capaz de «hacer» mejores fotografías de las que usted jamás podría capturar; sería un cambio fundamental y permanente en la forma en que interactuamos con el mundo que nos rodea.

5. Afectan de manera desproporcionada a las mujeres

No hay duda de que los deepfakes causarían muchos problemas nuevos e imprevistos en los asuntos globales. En realidad, es por eso que ya son tan buenos, ya que las campañas electorales son algunos de los mayores empleadores de tecnologías como estas.

Sin embargo, algunas de sus consecuencias más graves no las sentirán un país o un líder mundial, sino las mujeres comunes. Los deepfakes ya se están utilizando para hacer el tipo de porno de venganza que nunca antes fue posible: uno que no existe. Siempre que tenga una fotografía de ellos, ahora puede hacer videos porno de prácticamente cualquier persona que desee. Podría ser una celebridad desprevenida, un ex o simplemente cualquier mujer fuera de Internet.

4. Uno de los mayores peligros para la paz mundial

Unas cuantas cosas figuran en la lista de los mayores peligros para la paz mundial, como el terrorismo, la hambruna mundial, las armas nucleares, el bioterrorismo, etc. Si bien todos ellos son indudablemente bastante peligrosos, la IA está emergiendo rápidamente como un medio viable, y posiblemente incluso el más mortífero – alternativa a todos ellos.

Muchos científicos y otros expertos han emitido advertencias contra la continuación de la investigación en Inteligencia Artificial. También por una buena razón, ya que ya ha llegado lo suficientemente lejos como para alarmarnos. La IA de 2020 puede repararse a sí misma, navegar por Internet y aprender cosas por sí misma como un estudiante, y escribir su software de IA. propio.

Combinar eso con deepfakes, y no hay escasez de cosas que podrían salir mal, y todo eso ya está sucediendo. Tomemos el ejemplo de las recientes elecciones en India, donde los deepfakes se utilizaron en todo su potencial por primera vez. O el de Gabón – un pequeño país de África – donde el miedo a los deepfakes se ha utilizado para iniciar un golpe. Los deepfakes ya están desestabilizando el mundo, aunque es intrínsecamente imposible detenerlos porque:

3. Están diseñados para mejorar por sí mismos

La mayoría de la gente piensa que los verdaderos peligros de los deepfakes y otras aplicaciones de inteligencia artificial radican en lo que pueden hacer. Ya están siendo noticia por entrometerse en las elecciones en todo el mundo, y todos hemos visto suficientes películas cyberpunk para saber dónde termina todo esto.

Sin embargo, como muchos expertos le dirían, los deepfakes y la IA no solo dan miedo por lo que pueden hacer, sino por cómo lo hacen. Aprendizaje automático es uno de los inventos más innovadores de nuestro tiempo, y es esta capacidad de usar sus propios datos para corregirse y observar el mundo que lo rodea para aprender lo que hace que los deepfakes y la IA sean tan peligrosos.

Una IA de Hollywood simplemente se volvería rebelde, se armaría y trataría de matar a todos. Una IA real, por otro lado, podría ejecutar todos los resultados en su cabeza antes de tomar cualquier decisión. Si reemplazar a un líder político sirve a sus propósitos mejor que una toma armada absoluta, ese es el camino que tomaría, mientras mejora aún más en la elección de sus caminos futuros.

Eso es lo verdaderamente peligroso del aprendizaje automático y, debido a ello, la inteligencia artificial y las falsificaciones profundas del futuro serían infalibles y casi imposibles de mejorar, si es que aún no lo están.

2. Fotografías en movimiento

Si recuerdas el universo de Harry Potter, recordarías que todas las fotografías del mundo están constantemente en movimiento. Para aquellos que no están familiarizados con el universo, no es nada complicado; es solo magia. Eso sí, no son análogos a los marcos de fotos animados o cualquier otro tipo de videos en el mundo real. Las fotografías en el mundo mágico de Harry Potter tienen personalidades propias e incluso interactúan con otros personajes vivos.

Si bien algo exactamente así tomaría un poco más de tiempo para desarrollarse, los deepfakes pueden haber aprendido cómo hacer que las imágenes se muevan. Desarrolladores en Samsung han desarrollado una tecnología que utiliza inteligencia artificial y deepfakes que puede hacer que cualquier rostro en una imagen se mueva, con una cantidad sorprendente y aterradora de control sobre lo que puede hacer.

1. No tenemos forma de contrarrestarlo

Con todos los informes alarmantes, uno pensaría que nuestra infraestructura de seguridad cibernética estaría trabajando horas extras para contrarrestarlos, ya que los deepfakes son una seria amenaza para todos. El problema, sin embargo, es que no sabemos cómo proceder.

Actualmente, simplemente no tenemos forma de eliminar, o incluso detectar con precisión sin un análisis forense exhaustivo, las imágenes o videos falsos La Internet. No tenemos ningún software o algoritmo para saber con precisión si algo fue generado por una IA o un buen Photoshop. Es un caso clásico de tecnología que avanza más rápido de lo que podría regularse.

Incluso si tuviéramos una forma precisa de detectar deepfakes, es aún más difícil establecer la intención. ¿Cómo se separa un meme editado que hace una broma inofensiva con una campaña en línea diseñada deliberadamente por una potencia extranjera destinada a desestabilizar el país? Es posible que tenga una respuesta clara a eso, pero es muy probable que no se mantenga en un tribunal de justicia. Incluso si lo descubrimos, ¿cómo podemos responsabilizar a alguien por un video sin nombre generado por una máquina en Internet?

Debido a nuestra dificultad para categorizar y detener los delitos relacionados con deepfakes, ha habido pocos o ningún control sobre lo que puede hacer. Los deepfakes de hoy son peligrosamente avanzados y son capaces de hacer cosas que no podíamos ni hace dos años, mientras aún averiguamos cómo detenerlos.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.