Settimana 28: Il riconoscimento delle immagini generate con l’IA tra passato e futuro
L’intelligenza artificiale fa ormai parte della vita quotidiana e viene utilizzata sempre più spesso anche per tentativi di frode. Oggi è possibile creare in pochi minuti e-mail a prima vista autentiche, siti web dal design professionale o immagini generate con l’intelligenza artificiale. Nella serie estiva di quest’anno, l’UFCS illustra come i truffatori utilizzino immagini generate con l’IA e come riconoscere i falsi.
L’intelligenza artificiale (IA) fa già parte della vita quotidiana in molti ambiti ed è diventata uno strumento di lavoro che può essere più o meno utile. Questo sviluppo interessa però anche i tentativi di frode. Le e-mail fraudolente infatti sono ormai redatte in un tedesco, francese o italiano perfetto. Siti web dal design impeccabile, video e immagini contraffatti e persino teleconferenze in cui si impersonano altre persone possono essere creati in pochissimo tempo grazie all’intelligenza artificiale. La serie estiva di quest’anno dell’UFCS è dedicata al tema delle immagini generate con l’intelligenza artificiale e al loro utilizzo nei tentativi di frode. La prima parte tratta l’evoluzione generale degli ultimi anni, la seconda è dedicata al tema dei testi e dei siti web, mentre la terza parte affronta i metodi di frode con immagini contraffatte attualmente in uso. La serie estiva si concluderà con uno sguardo al futuro.
L’uso dell’IA generativa va distinto da quello dell’IA tradizionale. Anche un filtro antispam integrato nel programma di posta elettronica rappresenta una forma di intelligenza artificiale ed esiste ormai da molti anni. Il boom dell’IA generativa è da ricondurre al lancio di ChatGPT nel 2022. A differenza dei sistemi di IA esistenti, l’intelligenza artificiale generativa non solo analizza i dati esistenti, ma è anche in grado di creare autonomamente nuovi contenuti quali testi, immagini o musica.
Negli ultimi mesi sono stati segnalati all’UFCS numerosi casi in cui immagini generate dall’intelligenza artificiale sono state utilizzate a fini di truffa. Tali immagini vengono utilizzate soprattutto su siti di investimento fraudolenti. Ma anche nel caso di annunci di lavoro falsi e di phishing finalizzato al furto di credenziali di accesso vengono utilizzate immagini generate artificialmente, come ad esempio ricevute postali contraffatte.
Il problema risiede nel fatto che questi modelli migliorano continuamente. È pertanto possibile che una caratteristica distintiva attualmente valida, non lo sia più già da domani. Alcuni campanelli d’allarme permettono di riconoscere comunque le immagini generate con l’IA.
Mani
Per lungo tempo le IA hanno faticato a rendere la forma delle mani. Si riscontravano irregolarità, ad esempio, nel numero o nella lunghezza delle dita, ma anche nella pelle stessa, che spesso dava un’impressione di plasticità. Anche i dettagli più piccoli, come il numero di bottoni sui capi di abbigliamento e la loro disposizione, possono indicare l’uso dell’IA. Con i modelli di IA migliorati questo indicatore è destinato però a perdere validità. Proprio gli ultimi modelli del 2026 non presentano quasi più errori, ma al massimo qualche dettaglio illogico.
Volti / persone
L’IA ha faticato in passato anche a generare volti umani. Proprio come per le mani, alcuni dettagli ne tradivano la fedeltà. Ma anche in questo ambito l’IA ha compiuto progressi notevoli. Se i primi modelli presentavano ancora problemi con gli occhi e la pelle, i modelli più recenti sono diventati molto più affidabili. La pelle, i capelli e i denti hanno assunto un’apparenza più naturale. Tuttavia, anche nei modelli attuali si riscontrano ancora piccoli errori nei dettagli, come il riflesso su entrambi gli orecchini, i gioielli che scompaiono nel collo e le orecchie eccessivamente lunghe.
Paesaggi
Spesso si ricorre all’intelligenza artificiale per generare immagini di paesaggi, con l’obiettivo di conquistare la fiducia delle vittime, ad esempio simulando un legame con la Svizzera. Anche qui esistono dettagli che permettono di individuare l’impiego dell’IA. Spesso il contrasto cromatico delle albe e dei tramonti viene reso in modo esagerato. Ciò dà origine a contrasti che sembrano impossibili. L’IA tende inoltre spesso a cadere nella ripetitività, raffigurando ripetutamente oggetti come bandiere e case. In realtà, è raro che in un paesaggio le case abbiano tutte gli stessi colori e gli stessi motivi. Questo è un indicatore affidabile dell’utilizzo dell’intelligenza artificiale.
Sfondi e gruppi di persone
Le fallacie logiche sono un problema ben noto dell’IA. Gli sfondi risultano molto spesso sfocati, come accadrebbe solo nelle foto scattate in modalità ritratto. L’IA mostra i suoi limiti anche nella generazione di grandi gruppi di persone. Spesso mancano degli oggetti oppure ce ne sono troppi (ad esempio, troppo pochi piatti e troppi bicchieri rispetto al numero dei commensali). Come già descritto in precedenza, possono verificarsi anche incongruenze nella generazione delle mani e degli arti, il che può portare alla presenza di mani sinistre duplicate e alla distorsione delle dita. Anche le scene complesse continuano a rappresentare un problema per l’intelligenza artificiale e fanno sì che i volti delle persone, soprattutto nei gruppi numerosi, risultino distorti o sfocati. Anche gli sfondi appaiono eccessivamente sfocati in situazioni normali. Gli oggetti spesso si fondono l’uno con l’altro. Le sedie, ad esempio, possono trasformarsi in un tavolo, oppure le posate possono scomparire nelle mani. Anche la geometria può essere un indicatore, poiché, ad esempio, pareti, finestre ecc. non sono dritte o non convergono visivamente. Per ultimo, anche le ombre che non sono orientate nella stessa direzione possono costituire un ulteriore indizio per riconoscere l’uso dell’intelligenza artificiale.
Testi nelle immagini
Ancora oggi l’intelligenza artificiale ha difficoltà a inserire nelle immagini testi dall’aspetto realistico. Mentre i modelli precedenti presentavano notevoli difficoltà nella generazione delle lettere, nei modelli più recenti i testi danno l’impressione di essere stati inseriti con la grafica computerizzata. Tuttavia, anche oggi le lettere deformate e gli errori ortografici possono ancora costituire un indizio dell’uso dell’IA.
Altri indicatori
Ulteriori indizi per riconoscere le immagini generate dall’IA derivano da sottili incongruenze. Ad esempio, la luce e le ombre possono sembrare innaturali, soprattutto quando le fonti di luce appaiono incoerenti o le ombre cadono in direzioni diverse. Anche la prospettiva può fornire indizi quando le linee sono distorte o le strutture spaziali non combaciano in modo logico. Sono inoltre tipici i motivi ripetitivi in cui elementi quali finestre, persone o trame presentano somiglianze evidenti. Un’altra caratteristica è la rappresentazione innaturale della pelle e delle consistenze, che risultano troppo lisce o artificiali. Infine, spesso rimane una sensazione generale di artificialità: l’immagine, pur risultando convincente a prima vista, a un esame più attento «non convince del tutto».
Conclusione
Sebbene al momento esistano ancora numerosi fattori che aiutano a identificare le immagini generate dall’intelligenza artificiale, in futuro questo approccio è destinato a cambiare. A causa dei rapidi progressi dei modelli generativi, molti di questi indicatori classici stanno progressivamente scomparendo o si manifestano ormai solo in modo sottile. La valutazione deve invece basarsi maggiormente sulla logica visiva del contenuto e sulla comprensione complessiva del soggetto raffigurato. Ciò che conta non sono i singoli errori evidenti, bensì le sottili incongruenze nella prospettiva, nel contesto, nelle proporzioni o nella coerenza semantica. In futuro, gli osservatori dovranno guardare con maggiore attenzione e sviluppare un occhio esperto per cogliere quei dettagli che a prima vista sembrano plausibili, ma che, a un esame più attento, non risultano del tutto coerenti.
Numeri e statistiche attuali
Segnalazioni della scorsa settimana per categoria: