Las estafas de clonación de voz mediante IA están sustrayendo hasta 635 000 dólares a sus víctimas con solo una muestra de audio de 5 segundos de un ser querido

Estaba destinado a suceder eventualmente, tan cierto como el día y la noche alternos. Cada nueva tecnología ha desbloqueado históricamente nuevos vectores para el fraude, y la IA está demostrando ser particularmente fértil para los nefastos, produciendo miles de dólares cada mes a través de un fraude absoluto.

Los esquemas de fraude liderados por la inteligencia artificial son tan diversos como lucrativos, lo que permite a los embaucadores ganar miles de dólares cada mes

Un usuario chino de IA aparentemente está ganando hasta 100,000 yuanes (~ $ 15,000) cada mes a través de herramientas de creación de música de IA. Su modus operandus es bastante simple: subir una imagen que establezca el tema para la pista, elegir un género musical, agregar voces después de seleccionar un estilo de canto, y voilà, tiene una pista generada por inteligencia artificial que es casi indistinguible del verdadero negocio. El paso final consiste en subir el esfuerzo de minutos a una plataforma de música y video corto para la monetización.

Por supuesto, algunos de ustedes que aparentemente se dosifican por la noche mientras ven videos de YouTube recurren cada vez más al contenido generado por IA y de horas que combina una voz tranquila y relajante con un tema algo interesante, abordando el tema con una precisión cuestionable. Recientemente me he encontrado con videos que describen cómo los habitantes de un castillo medieval sobrevivieron a una típica noche de invierno, la historia completa de 1.000 años de la Escuela Hogwarts de Magia y Hechicería, y un montón de videos sobre la tradición del Señor de los Anillos.

Si bien estos casos de gamificación de la IA podrían ser relativamente inocuos, si son perjudiciales para el stock acumulativo de conocimiento de nuestras generaciones futuras, las personas también están utilizando aplicaciones de IA para fines más nefastos.

Por ejemplo, las autoridades en China ahora advierten a la gente contra un nuevo vector de fraude, uno que puede clonar la voz de sus amigos y familiares con un fragmento de audio de 5 segundos de sus voces. Estas voces clonadas se utilizan para exigir dinero, con algunas víctimas defraudadas de hasta 4.3 millones de yuanes (~ $ 635,000).

Estas instancias muestran el lado oscuro emergente de la IA, que ahora aparentemente no solo viene después de sus trabajos, sino también su grupo acumulado de capital, equipado con hacks descarados y cada vez más sofisticados. Además, a medida que prolifere el stock de gafas impulsadas por IA, AirPods y colgantes de IA dedicados, estos vectores solo se volverán más omnipresentes.

En un mundo donde ya no podemos confiar en nuestros órganos sensoriales, ¿la IA se acercará para protegernos contra sus propios ataques, encapsulandonos en un círculo casi perfecto de causalidad y efecto?

Fuente: Wccftech