Vai al contenuto
Crypto.world

Ricerca

Non per compromettere, ma per attestare: sonde avversarie per la verifica degli LLM nel rispetto della privacy

Le modifiche apportate ai modelli linguistici di grandi dimensioni dopo la distribuzione possono alterarne il comportamento senza cambiare in misura sostanziale le risposte abituali.

Non per compromettere, ma per attestare: sonde avversarie per la verifica degli LLM nel rispetto della privacy
arXiv
2608.27954
Pubblicato
2026-08-28
Autori
Cameron Wilding, Mina Shaker, Fatemeh Ganji

Abstract degli autori

Le modifiche apportate ai modelli linguistici di grandi dimensioni dopo la distribuzione possono alterarne il comportamento senza cambiare in misura sostanziale le risposte abituali. Questo pone una sfida alla governance dell’IA quando i pesi dei modelli sono proprietari. Presentiamo un sistema di audit basato su zk-SNARK che tutela la privacy e cerca sonde progettate secondo il principio degli esempi avversari, per amplificare la deriva dei logit tra un modello approvato e una versione modificata in produzione. Il nostro sistema esplora famiglie di sonde complementari in condizioni di accesso diverse. Le sonde basate su token operano a scatola nera e richiedono soltanto l’interfaccia di input, il tokenizer e il vocabolario. Le sonde basate sugli embedding richiedono accesso a scatola grigia all’interfaccia degli embedding. Le sonde di stress si avvalgono di ulteriori funzionalità dell’interfaccia, ma non richiedono pieno accesso a scatola bianca ai pesi o all’architettura del modello. Questa gamma permette di scegliere le sonde bilanciando sensibilità, requisiti di accesso e costi di distribuzione. Valutiamo le sonde su diverse architetture di LLM, in scenari di manomissione dei modelli rappresentativi di attacchi successivi alla distribuzione e su piattaforme GPU. È importante notare che i nostri risultati sperimentali mostrano come le sonde basate su token offrano sistematicamente la sensibilità media più elevata tra modelli e piattaforme GPU, pur operando a scatola nera. Il nostro processo zk-SNARK Groth16 resta praticabile anche quando il numero di sonde passa da 1 a 50: il tempo di generazione della prova aumenta da 1,02 a 1,78 secondi, quello di verifica rimane vicino a 0,84 secondi e la dimensione della prova resta costante.

Il riassunto di questo paper è disponibile solo in inglese: leggilo nella pagina inglese.

Leggi il paper originale su arXiv