Ricerca
Amore, bugie e modelli linguistici: indagare il ruolo dell’IA nelle truffe di adescamento sentimentale
Le truffe di adescamento sentimentale sono diventate una delle principali cause di danni finanziari ed emotivi in tutto il mondo. Queste operazioni sono gestite da organizzazioni criminali che…

- arXiv
- 2512.16280
- Pubblicato
- 2025-12-18
- Autori
- Gilad Gressel, Rahul Pankajakshan, Shir Rozenfeld, Ling Li, Ivan Franceschini, Krishnashree Achuthan, Yisroel Mirsky
Abstract degli autori
Le truffe di adescamento sentimentale sono diventate una delle principali cause di danni finanziari ed emotivi in tutto il mondo. Queste operazioni sono gestite da organizzazioni criminali che trafficano migliaia di persone per costringerle al lavoro forzato, imponendo loro di creare un’intimità emotiva con le vittime nel corso di settimane di conversazioni via messaggio, prima di spingerle a investire in criptovalute con modalità fraudolente. Poiché queste truffe si svolgono intrinsecamente tramite testo, sollevano interrogativi urgenti sul ruolo dei modelli linguistici di grandi dimensioni (LLM) nell’automazione attuale e futura. Abbiamo indagato questa intersezione intervistando 145 insider e 5 vittime di truffe, conducendo uno studio in cieco su conversazioni a lungo termine per confrontare agenti truffaldini basati su LLM con operatori umani e valutando i filtri di sicurezza commerciali. I nostri risultati mostrano che gli LLM sono già ampiamente impiegati nelle organizzazioni criminali, con l’87% del lavoro legato alle truffe costituito da attività conversazionali sistematizzate, facilmente suscettibili di automazione. In uno studio della durata di una settimana, un agente basato su LLM non solo ha suscitato maggiore fiducia nei partecipanti allo studio (p=0.007), ma ha anche ottenuto una maggiore adesione alle richieste rispetto agli operatori umani (46% contro il 18% degli esseri umani). Nel frattempo, i filtri di sicurezza più diffusi hanno rilevato lo 0,0% dei dialoghi di adescamento sentimentale. Nel loro insieme, questi risultati suggeriscono che le truffe di adescamento sentimentale potrebbero prestarsi a un’automazione su vasta scala tramite LLM, mentre le difese esistenti restano inadeguate a impedirne l’espansione.
Il riassunto di questo paper è disponibile solo in inglese: leggilo nella pagina inglese.
Leggi il paper originale su arXiv