Description: A Ferrari executive was targeted by an AI-generated deepfake impersonating CEO Benedetto Vigna in an alleged fraud attempt. The scammer, using WhatsApp and a cloned voice, claimed an urgent, secretive financial deal required immediate action. The executive became suspicious after detecting slight artificial intonations; the scam failed when the executive tested the caller by asking about a recent book recommendation.
Editor Notes: The incident date of 07/16/2024 is an approximation. Reporting suggests it was on a Tuesday in July 2024 that the incident occurred.
Entidades
Ver todas las entidadesAlleged: Unknown deepfake technology developer y Unknown voice cloning technology developer developed an AI system deployed by scammers , Fraudsters , Phishers y Scammers impersonating Benedetto Vigna, which harmed Unnamed Ferrari executive , Benedetto Vigna y Ferrari.
Sistemas de IA presuntamente implicados: Unknown deepfake app y Unknown voice cloning technology
Estadísticas de incidentes
ID
966
Cantidad de informes
1
Fecha del Incidente
2024-07-16
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
El mundo es un lugar extraordinariamente complejo. Siento que recién nos hemos acostumbrado al concepto de que las imágenes sean retocadas con Photoshop, y ahora las voces y los videos falsificados por IA hacen que sea difícil confiar en al…
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents