Settimana 29: Riconoscere testi e contenuti web generati con l’IA
I testi e i siti web generati con l’intelligenza artificiale (IA) sono sempre più difficili da riconoscere. Le segnalazioni relative a e-mail e siti web realizzati con l’ausilio dell’intelligenza artificiale giunte all’UFCS sono tuttora in aumento. Dato che i modelli IA vengono costantemente perfezionati, molte delle attuali caratteristiche distintive spariscono. È dunque ancora più importante conoscere gli indicatori rimanenti. Nella seconda edizione della serie estiva l’UFCS fornisce spiegazioni per facilitare il riconoscimento di testi e siti web generati con l’intelligenza artificiale.
Diventa sempre più difficile riconoscere le e-mail e i siti web fraudolenti in base allo stile di scrittura. Mentre in passato un’e-mail mal scritta o un sito web pieno di errori d’ortografia era sovente un evidente indizio di phishing o truffa, oggi non si può più fare affidamento soltanto a queste caratteristiche. Con l’ausilio dell’IA possono infatti essere generati testi impeccabili in qualsiasi lingua, e questo conferisce loro una parvenza di legittimità. Considerato che l’IA è in grado di realizzare in tempi brevi un sito web apparentemente professionale, viene impiegata proprio a tale scopo dai truffatori. Tuttavia, anche l’intelligenza artificiale non è perfetta. Tende, infatti, a ricadere in modelli già noti, in base ai quali si può capire che c’è di mezzo l’IA.
Trattini
Una caratteristica frequente è il trattino lungo «—». Può essere utilizzato in svariati modi e i testi generati con l’IA lo utilizzano particolarmente spesso per collegare pensieri, oppure per aggiungere inserti o sfumature. Nei testi provenienti dalla Svizzera il trattino lungo compare invece molto raramente. La frequente presenza di trattini può essere indizio di un testo generato con l’IA, però non costituisce di per sé ancora una prova.
Utilizzo eccessivo del grassetto
Al fine di migliorare la leggibilità, l’IA scrive frequentemente parti di testo in grassetto allo scopo di comunicare i punti principali e concentrare il massimo contenuto informativo in un colpo d’occhio.
Doppia «ß»in tedesco
Considerato che l’IA si allena principalmente con letteratura in tedesco standard e segue le rispettive regole grammaticali, nei testi compare con una certa frequenza la doppia «ß», e questo sebbene in Svizzera non venga utilizzata, in particolare non dalle organizzazioni ufficiali.
Lunghezza e struttura regolari delle frasi
I testi redatti con l’IA appaiono spesso linguisticamente molto corretti e privi di errori. Lo stile è sovente neutro e privo di emozioni marcate. Le frasi presentano spesso la medesima struttura e appaiono particolarmente lisce.
«One pager»: tutte le informazioni su una pagina
Generalmente i siti web fraudolenti rimangono online solo per poco tempo e devono quindi essere redatti molto velocemente. Per motivi di semplicità, tali siti sono spesso realizzati in forma di cosiddetti «one pager», con la sola aggiunta di alcune sottopagine minori per il processo di login. Un sito web costituito da un’unica lunga pagina sulla quale vengono fornite una dopo l’altra tutte le informazioni è sovente un forte indizio che si tratta di un sito generato artificialmente.
Formulazioni esagerate prive di contenuto
L’IA tende a produrre molto testo con scarso contenuto concreto e a formulare in modo esagerato quanto viene affermato. Il motivo non è riconducibile ai dati d’allenamento, bensì all’allenamento successivo con i feedback umani. Molte persone considerano le risposte formulate in modo esaustivo e determinato più utili e credibili, per cui i modelli hanno imparato a prediligere quel tipo di testi. Nei testi fraudolenti ciò si esprime sovente tramite un elevato numero di superlativi e strutture di frasi ripetitive in combinazione con un contenuto informativo scarso.
Animazioni
Ulteriori indizi di un utilizzo dell’IA sono dati dalla presenza eccessiva di animazioni e altri contenuti animati all’interno del sito. Poiché nel materiale d’allenamento questi stratagemmi sono indicati come caratteristica di un buon sito web, l’IA tende a utilizzarli fino all’esagerazione, anche negli elementi in cui non sono necessari e non apportano alcun vantaggio effettivo per quanto riguarda la leggibilità del sito.
Immagini non coerenti e legame forzato con la Svizzera
Un’altra caratteristica presente nei siti web può essere quella che il contenuto del testo non è coerente con le immagini utilizzate e che inoltre non vi sia nessun nesso logico tra loro. Succede per esempio che gli sfondi e i colpi d’occhio fuori dalle finestre non siano realistici e mostrino scenari differenti che non possono coesistere nello stesso luogo.
Altri esempi possono essere un numero eccessivamente elevato di riferimenti alla Svizzera. Considerato che i modelli sono sovente alimentati con informazioni in inglese, ma anche in altre lingue, durante il prompt (la modalità di inserimento con cui lavora l’IA) i truffatori devono integrare nel testo il legame con la Svizzera, con la conseguenza che l’intelligenza artificiale impiega in sovrabbondanza croci svizzere e altri simboli del nostro Paese.
Conclusione
I testi del web generati con l’IA sono sovente ben strutturati, corretti e formulati in modo neutro. Tuttavia, nella maggioranza dei casi, hanno poca profondità individuale, e appaiono molto uniformi dal profilo linguistico. Per riconoscerli con certezza è necessario combinare un numero maggiore di caratteristiche tipiche. Anche se le scorrettezze nei siti web possono essere indizio di attività fraudolente, è ancora più importante osservare regole di comportamento basilari che sono indipendenti dall’IA. Queste prevedono per esempio di leggere attentamente le recensioni e di non immettere mai password o dati delle carte di credito su siti che presentano simili scorrettezze o che sono stati aperti attraverso un link in un’e-mail oppure in un messaggio di testo.
Numeri e statistiche attuali
Segnalazioni della scorsa settimana per categoria: