AI-voiceclone kost Italiaanse bank €95 miljoen

Op 23 februari kreeg Paolo Molesini, destijds voorzitter van de Italiaanse private bank Fideuram, een WhatsApp-bericht van zijn hoogste baas. Of hij met spoed wilde meewerken aan een vertrouwelijke transactie in het buitenland. Kort daarna belde een advocaat die hij kende om het te bevestigen, en de voorzitter gaf de financiële afdeling opdracht te betalen. In drie dagen gingen er elf overboekingen de deur uit, samen goed voor zo'n €95 miljoen.

Geen van beide mannen had iets gestuurd of gebeld. Het bericht kwam niet van Intesa Sanpaolo-topman Carlo Messina, en de stem aan de telefoon was niet die van Paolo Nastasi van advocatenkantoor A&O Shearman Italia. Die stem was met AI nagemaakt. De zaak kwam vorige week naar buiten in de Italiaanse pers.

Zo werkt een voiceclone

Een voiceclone is synthetische spraak die klinkt als een bestaand iemand. Een AI-model krijgt opnames van die persoon te horen, leert daaruit de klankkleur, het spreektempo en de eigenaardigheden in de uitspraak, en spreekt daarna nieuwe zinnen uit in die stem.

Wat het tot een bruikbaar misdaadgereedschap maakt, is de input. Van een bestuursvoorzitter of een advocaat staan doorgaans uren aan opnames online: interviews, congresoptredens, podcasts, bedrijfsvideo's. Wie zo'n stem wil namaken, hoeft hem niet te stelen. Die is er al.

De misleiding moet het uiteindelijk niet van de techniek hebben maar van de opzet eromheen, en die is in deze zaak leerboekmateriaal. De Amerikaanse toezichthouder FTC omschrijft het patroon zo: klinkt een telefoontje als je baas die om bankgegevens vraagt, dan ben je eerder geneigd te doen wat er gevraagd wordt. Bij Fideuram kwam eerst een bericht van de hoogste baas, en pas daarna de stem van een advocaat die het bevestigde. Die tweede stap gaf de eerste zijn geloofwaardigheid.

Wat er nog te halen viel

Het geld ging in drie richtingen. €42,5 miljoen naar de Bank of China, €34,9 miljoen in zes overboekingen naar de Portugese Banco BPI, en €4,9 miljoen naar een Portugees bedrijf bij diezelfde bank.

Toen de Portugese bank aan de bel trok, was de fraude binnen een dag rond: Messina bevestigde dat hij nooit contact had opgenomen. Daarna begon het terughalen, en dat ging verrassend goed zolang het geld op bankrekeningen stond. Ruim €42 miljoen kwam terug uit China. De rechtbank in Milaan legde beslag op €13 miljoen bij de Portugese bank.

En toen hield het op.

Waar het spoor doodloopt

Over het bedrag dat weg is lopen de lezingen uiteen. De meeste Italiaanse media houden het op €36 miljoen; persbureau ANSA komt op €39,5 miljoen. Wat ermee gebeurde is wel bekend: het liep via rekeningen in Malta, Luxemburg en Nederland en via een Canadees geldtransportbedrijf, om te eindigen in twee bitcoinwallets. De adressen zijn niet openbaar gemaakt.

Dat verschil tussen de twee helften van deze zaak is de hele les. Het geld dat op een bankrekening stond kon worden bevroren, ook in China, ook in Portugal. Het geld dat in bitcoin zat, staat er nog steeds.

De Milanese justitie onderzoekt een Israëlische IT-specialist, verdacht van gekwalificeerde oplichting. Zijn naam is niet gepubliceerd, en volgens de berichtgeving kan het om een verzonnen identiteit gaan. Hij zou in verband staan met het gokplatform Stake.com, waar ongeveer 4 miljoen USDT terechtkwam. Er lopen internationale rechtshulpverzoeken die het cryptospoor moeten volgen.

Niet de enige

Dat Fideuram geen incident was, blijkt uit de rest van het dossier. De aanklagers in Milaan melden twee vergelijkbare zaken: bij Banca Ifis ging het om €24 miljoen, dat gedeeltelijk in Barcelona is teruggehaald nadat het via Spanje, Singapore, Hongkong en Bahrein was rondgepompt. Bij een derde, kleinere instelling ging het om ongeveer €2 miljoen. Of dezelfde groep achter alle drie zit, is nog niet vastgesteld.

Molesini trad in maart af. Hij is in het fraudeonderzoek geen verdachte, wat het ongemakkelijke van deze zaak alleen maar onderstreept: er is niets gehackt, geen systeem gekraakt, geen wachtwoord buitgemaakt. Er werd gebeld, en er werd betaald.

Fideuram beheert €452,3 miljard aan vermogen. Daar is €95 miljoen een afrondingsfout. Het waren de laatste €36 miljoen die de bank niet meer terugkrijgt, en precies die zaten in bitcoin.