Ricerca
Verifica dell’IA con divulgazione minima di informazioni a tutela della privacy
La verifica dell’IA attraversa un confine di fiducia: chi verifica deve apprendere quanto basta per accertare un’affermazione autorizzata, ma le stesse evidenze possono rivelare dettagli sensibili…

- arXiv
- 2608.02774
- Pubblicato
- 2026-08-03
- Autori
- Sleem Abdelghafar, Gabriel Kulp
Abstract degli autori
La verifica dell’IA attraversa un confine di fiducia: chi verifica deve apprendere quanto basta per accertare un’affermazione autorizzata, ma le stesse evidenze possono rivelare dettagli sensibili sul modello, sul carico di lavoro o sull’hardware. Introduciamo la divulgazione minima di informazioni (MID), un approccio che progetta e quantifica il contenuto informativo delle evidenze fornite al verificatore. MID misura la fuga collaterale di informazioni attraverso l’informazione mutua condizionata: quanto i dati divulgati rivelano della proprietà protetta una volta noto il risultato autorizzato. MID è concepito per essere generale: può adattarsi a diversi obiettivi di verifica, proprietà protette, fonti di evidenze e vincoli di implementazione. Per dimostrarne l’applicabilità pratica, valutiamo MID su quattro misurazioni fisiche e sei compiti di verifica che riguardano il tipo di esecuzione, l’identità dell’hardware, la scala di calcolo e l’identità del modello. Questi esperimenti impiegano tre variabili di progettazione del meccanismo — il canale delle evidenze, la politica di raccolta e la trasformazione dei dati divulgati — ma MID non si limita a queste scelte e può adattarsi ad altri meccanismi implementabili. In questi compiti, MID produce tre divulgazioni con verifica perfetta su dati tenuti da parte e una fuga collaterale di informazioni misurata pari a zero, mentre i compiti rimanenti producono frontiere esplicite tra privacy e utilità. MID supporta anche divulgazioni certificate tramite ZKP: ne diamo dimostrazione usando il meccanismo di proiezione lineare che proponiamo con uno zk-SNARK Groth16.
Il riassunto di questo paper è disponibile solo in inglese: leggilo nella pagina inglese.
Leggi il paper originale su arXiv