En un caso innovador de delito cibernético, una empresa multinacional de Hong Kong fue víctima de una sofisticada estafa con vídeos falsos, lo que tuvo como resultado una asombrosa pérdida de 200 millones de dólares de Hong Kong (25.6 millones de dólares estadounidenses). Este incidente marca una evolución escalofriante en las capacidades de los estafadores para explotar la inteligencia artificial (IA) con fines delictivos, lo que genera alarmas en toda la comunidad empresarial mundial.
Los deepfakes son vídeos o audios sintéticos que utilizan inteligencia artificial manipular a una persona's Semejanza y voz para simular que dicen o hacen cosas que en realidad no dijeron ni hicieron. Los delincuentes utilizan cada vez más esta tecnología para cometer fraudes y estafas.
En este caso, Los estafadores crearon una videollamada deepfake. con varios empleados de la empresa, incluida una réplica convincente de la empresa's Director financiero (CFO). El falso CFO, junto con otros empleados generados por IA en la llamada, instruyó a los empleados reales para que realizaran una serie de grandes transferencias de dinero por un total de alrededor de 26 millones de dólares a cuentas bancarias controladas por los delincuentes.
Este parece ser el primer caso importante de estafa deepfake utilizada para atacar directamente robar dinero de una empresa. Si bien los deepfakes se han utilizado en una variedad de fraudes y esquemas de extorsión contra individuos, esta estafa dirigida a una corporación a escala representa una escalada y evolución de la amenaza.
El auge de la tecnología deepfake
Deepfakes, un acrónimo de “deep learning” y “falso” son medios sintéticos creados por AI algoritmos que pueden manipular audio y video para que parezca como si las personas estuvieran diciendo o haciendo cosas que nunca hicieron. Los deepfakes, que inicialmente surgieron como una novedad controvertida, han avanzado rápidamente hasta un punto en el que pueden ser casi indistinguibles de las imágenes auténticas.
Cómo desenmascarar deepfake 👉 Las mejores herramientas y técnicas de detección de deepfake
La estafa se desarrolla
En el caso de Hong Kong, los estafadores utilizaron tecnología deepfake para hacerse pasar por la empresa.'s El director financiero y otros ejecutivos durante videollamadas con empleados. Los participantes del deepfake solicitaron convincentemente la transferencia de fondos, lo que provocó el movimiento no autorizado de millones de dólares.
El enfoque de los estafadores fue meticuloso. Elaboraron los deepfakes utilizando videos disponibles públicamente y otros contenidos, asegurándose de que todos los participantes en las videollamadas, excepto el individuo objetivo, fueran fabricados de manera convincente. Este nivel de sofisticación en la estafa es un testimonio del peligroso potencial de la tecnología deepfake cuando se usa de manera maliciosa.
La amenaza global de las estafas deepfake
El incidente de Hong Kong no es un hecho aislado. Las estafas con vídeos deepfake son cada vez más comunes y la tecnología se vuelve más accesible y realista. Casos anteriores han involucrado a celebridades, políticos y líderes empresariales, lo que demuestra que nadie es inmune a esta amenaza emergente.
El potencial de que los deepfakes causen daño va más allá de las estafas financieras. Pueden utilizarse para crear pruebas falsas, manipular mercados de valores, influir en las elecciones políticas e incluso incitar conflictos internacionales. La tecnología's La capacidad de difuminar las líneas entre la realidad y la ficción plantea un profundo desafío a la integridad de la información en la era digital.
Protección contra deepfakes
A medida que crece la amenaza de los deepfakes, también crece la urgencia de que las personas y las empresas se protejan. Los expertos recomiendan una combinación de soluciones tecnológicas y prácticas vigilantes para mitigar los riesgos:
¿Cuáles son algunas de las tácticas comunes utilizadas por los estafadores para crear Deepfakes?
- Phishing de voz: Utilizando inteligencia artificial, los estafadores pueden crear réplicas vocales muy precisas de personas de confianza. Esto puede dar lugar a estafas en las que la víctima recibe una llamada telefónica de una voz en la que confía, como un familiar o un amigo, solicitando ayuda financiera urgente.
- Fraude de aplicaciones: Los deepfakes se pueden utilizar para reforzar solicitudes de préstamos o cuentas bancarias falsificadas. Los estafadores utilizan tecnología deepfake para crear identidades aparentemente auténticas o manipular identidades reales. En los fraudes de identidad sintética, los delincuentes combinan detalles de identidad reales y fabricados para crear una identidad falsa.
- Fraude de transacciones: Los deepfakes se pueden utilizar para hacerse pasar por usuarios genuinos y tomar el control de sus cuentas. Una vez que tienen el control, pueden cambiar la configuración de acceso e incluso excluir por completo al usuario real.
- Fraude de apertura de cuenta nueva: Un estafador podría recopilar cientos de imágenes para crear una imagen falsa y agregar eso a una identidad sintética. Si es lo suficientemente bueno, el estafador podría usar la identidad y el deepfake convincentes para abrir una nueva cuenta en un banco, solicitar préstamos e irse sin pagar intereses.
- Manipulación sintética de documentos de identidad: Los estafadores pueden utilizar deepfakes para manipular documentos de identidad, como extractos bancarios o tarjetas de identificación emitidas por el gobierno. Pueden cambiar los existentes o crear otros nuevos utilizando IA generativa.
- Estafas de suplantación de identidad: En una estafa de suplantación de identidad, un estafador se hace pasar por otra persona, como un funcionario del gobierno o un representante de una empresa, para engañar a la víctima para que proporcione información confidencial o realice un pago. Los deepfakes pueden hacer que estas estafas parezcan reales al crear videos o grabaciones de audio que parecen ser del individuo suplantado.
- Estafas de Phishing: Un ejemplo común es el uso de deepfakes en estafas de phishing. Las estafas de phishing son un tipo de fraude en línea en el que los estafadores envían correos electrónicos o mensajes que parecen provenir de una fuente confiable, como un banco o un sitio de redes sociales, para engañar al destinatario para que proporcione información confidencial como contraseñas o números de tarjetas de crédito. . Los deepfakes pueden hacer que estas estafas sean muy convincentes al crear videos o grabaciones de audio que parecen provenir de una fuente confiable, lo que hace que sea muy difícil de detectar para los destinatarios.
Estas tácticas resaltan la creciente amenaza de la tecnología deepfake en el ámbito del delito cibernético y subrayan la importancia de la concientización y las medidas de protección contra tales estafas.
Preguntas frecuentes relacionadas con la tecnología Deepfake
¿Qué es la tecnología deepfake?
La tecnología deepfake es una forma de inteligencia artificial que crea imágenes realistas, audio y videos falsos manipulando los medios existentes o generando contenido nuevo que muestra a personas diciendo o haciendo cosas que en realidad nunca hicieron.
¿Cómo funcionan las falsificaciones profundas?
Los deepfakes utilizan dos algoritmos: un generador y un discriminador. El generador crea el contenido falso inicial basándose en datos de entrenamiento, mientras que el discriminador evalúa qué tan realista es el contenido. Este proceso se repite hasta que el contenido parezca auténtico.
¿Cuáles son los usos comunes de los deepfakes?
Los deepfakes se utilizan en diversos campos, incluidos el entretenimiento, el arte y la educación. Sin embargo, también se utilizan con fines maliciosos como fraude, chantaje y difusión de desinformación.
¿Cómo contribuyó la tecnología deepfake a la estafa de 26 millones de dólares en Hong Kong?
Los estafadores utilizaron tecnología deepfake para hacerse pasar por el director financiero y otros ejecutivos de una empresa multinacional durante una videollamada, convenciendo a un empleado de transferir 26 millones de dólares a cuentas que controlaban.
¿Cuáles son los signos de un video o audio deepfake?
Los signos de contenido deepfake pueden incluir inconsistencias en la textura de la piel, patrones de parpadeo inusuales y sombras alrededor de los ojos. Sin embargo, a medida que la tecnología mejora, estos signos se vuelven más difíciles de detectar.
¿Se pueden utilizar los deepfakes para cometer fraude?
Sí, los deepfakes se pueden utilizar para cometer varios tipos de fraude, incluida la suplantación de personas para autorizar transacciones financieras o la creación de identidades falsas para obtener ganancias financieras.
¿Cómo pueden las personas y las empresas protegerse contra las estafas deepfake?
Para protegerse contra las estafas de deepfake, las personas y las empresas deben verificar la autenticidad del contenido, educar a los empleados sobre los riesgos de los deepfake, utilizar plataformas seguras para la comunicación y emplear herramientas de detección para identificar contenido falso.
¿Existen medidas legales contra el uso malicioso de deepfakes?
Sí, algunas jurisdicciones han comenzado a aprobar leyes contra la creación y distribución maliciosa de deepfakes, como la prohibición de deepfakes. porngrafía o deepfakes políticos. Sin embargo, las medidas legales aún están alcanzando a la tecnología.
Recomendación relacionada de AiMojo:
Conclusión
El caso de la empresa de Hong Kong sirve como una clara advertencia de los peligros que plantea la tecnología deepfake. AI A medida que la tecnología siga evolucionando, la línea entre los medios reales y los sintéticos será cada vez más difícil de discernir. Es imperativo que las empresas, los legisladores y el público se mantengan a la vanguardia en la comprensión y la defensa contra esta potente forma de ciberdelito.
Ante esta creciente amenaza, la comunidad global debe unirse para establecer defensas sólidas, pautas éticas y estándares legales para garantizar que los poder de la IA se aprovecha para el bien, no se explota para el engaño y el fraude.
Este artículo proporciona una descripción general del fenómeno de las estafas con vídeos deepfake, centrándose en el caso reciente de Hong Kong. También describe las implicaciones más amplias de la tecnología deepfake y ofrece estrategias de protección y prevención. Para una exploración más detallada de este tema, se requerirían más investigaciones y análisis.
BONUS: Obtenga nuestros $200 “AI “Mastery Toolkit” ¡GRATIS cuando te registras!
