La voce di don Ciotti clonata con l'intelligenza artificiale per truffare i malati
Il video con consigli medici sui social, l'associazione Libera si rivolge alla polizia postale
TRENTO. In poco più di un minuto don Luigi Ciotti si lancia in inusuali consigli medici contro reumatismi e dolori articolari, invitando tutti a rivolgersi ad un dottore che lo ha avuto in cura per scoprire fantomatici rimedi alle malattie delle ossa e della pelle.
Parole che il sacerdote, però, non hai mai pronunciato e che mai probabilmente si sognerebbe di farlo. Quello che si vede nel video diffuso sui social, infatti, è sì don Ciotti, ma le sue parole - perfettamente sincronizzate con il labiale - sono frutto dell'intelligenza artificiale.
A rivelarlo è stato lo stesso fondatore di Libera che ha presentato denuncia alla polizia Postale di Torino per far rimuovere il contenuto dal web.
A ingannare gli spettatori, e magari anche persone malate particolarmente sensibili al tema, non è solo la presenza di don Ciotti in video, ma anche - e soprattutto - la riproduzione fedele della sua voce, in perfetto sincrono con il movimento delle labbra. In realtà quelle immagini risalgono ad una delle tante Giornate nazionali contro la mafia presenziate ogni anno dal sacerdote.
Nel caso specifico il video risale ad una intervista fatta a Tor Vergata il 24 marzo.
"I medici ci nascondono la verità dicendo che i dolori articolari possono essere curati solo con la chirurgia", sono le prime parole pronunciate dal fake-don Ciotti che poi continua svelando che "le malattie delle articolazioni e delle ossa possono essere curate comodamente da casa". Alla fine la truffa porta verso l'immancabile "medico onesto" la cui "ricetta innovativa" può essere letta gratuitamente soltanto cliccando su un determinato pulsante, passaggio definitivo per finire nella rete dei truffatori.
Appena intercettato il video, Libera ha pubblicato l'allerta spiegando che "gira sui social un contenuto falso, diffamatorio e ingannevole, generato con intelligenza artificiale, che riproduce don Luigi Ciotti promuovere un prodotto a fini medici e commerciali. Un fatto gravissimo, che abbiamo denunciato alle autorità competenti". La stessa Agenzia per la Cybersicurezza Nazionale, riprendendo proprio il caso di don Ciotti, "raccomanda di diffidare da simili messaggi e di non cliccare mai su link di dubbia provenienza".
Il caso del deepfake del sacerdote antimafia è solo una delle tante truffe che si moltiplicano di giorno in giorno su web e telefonini. Si passa dalle finte telefonate agli spot che utilizzano personaggi famosi del mondo dello spettacolo.
Recentemente, per esempio, l'attrice statunitense Scarlett Johansson ha accusato OpenAi, la società che gestisce ChatGpt, di aver utilizzato la sua voce estrapolandola dal film Her (in cui la star prestava proprio la voce ad un'intelligenza artificiale). Prima di lei, un altro divo di Hollywood come Tom Hanks si era ritrovato suo malgrado testimonial di servizi per l'igiene orale.