Vai al contenuto
Crypto.world

Ricerca

Verifica dell’IA con divulgazione minima di informazioni a tutela della privacy

La verifica dell’IA attraversa un confine di fiducia: chi verifica deve apprendere quanto basta per accertare un’affermazione autorizzata, ma le stesse evidenze possono rivelare dettagli sensibili…

Verifica dell’IA con divulgazione minima di informazioni a tutela della privacy
arXiv
2608.02774
Pubblicato
2026-08-03
Autori
Sleem Abdelghafar, Gabriel Kulp

Abstract degli autori

La verifica dell’IA attraversa un confine di fiducia: chi verifica deve apprendere quanto basta per accertare un’affermazione autorizzata, ma le stesse evidenze possono rivelare dettagli sensibili sul modello, sul carico di lavoro o sull’hardware. Introduciamo la divulgazione minima di informazioni (MID), un approccio che progetta e quantifica il contenuto informativo delle evidenze fornite al verificatore. MID misura la fuga collaterale di informazioni attraverso l’informazione mutua condizionata: quanto i dati divulgati rivelano della proprietà protetta una volta noto il risultato autorizzato. MID è concepito per essere generale: può adattarsi a diversi obiettivi di verifica, proprietà protette, fonti di evidenze e vincoli di implementazione. Per dimostrarne l’applicabilità pratica, valutiamo MID su quattro misurazioni fisiche e sei compiti di verifica che riguardano il tipo di esecuzione, l’identità dell’hardware, la scala di calcolo e l’identità del modello. Questi esperimenti impiegano tre variabili di progettazione del meccanismo — il canale delle evidenze, la politica di raccolta e la trasformazione dei dati divulgati — ma MID non si limita a queste scelte e può adattarsi ad altri meccanismi implementabili. In questi compiti, MID produce tre divulgazioni con verifica perfetta su dati tenuti da parte e una fuga collaterale di informazioni misurata pari a zero, mentre i compiti rimanenti producono frontiere esplicite tra privacy e utilità. MID supporta anche divulgazioni certificate tramite ZKP: ne diamo dimostrazione usando il meccanismo di proiezione lineare che proponiamo con uno zk-SNARK Groth16.

Il riassunto di questo paper è disponibile solo in inglese: leggilo nella pagina inglese.

Leggi il paper originale su arXiv