Come valutare un fornitore di AI in un settore regolamentato?

Dove vanno i dati, fisicamente e giuridicamente?

Non ‘sono cifrati?’ — ma quali datacenter, quali sub-responsabili, sotto quale giurisdizione, e cosa succede a prompt, contesto recuperato, telemetria e snapshot per il supporto. Chiedi l’elenco dei sub-responsabili e verifica se le modifiche ti vengono notificate prima o solo comunicate dopo.

Quale modello risponde, e cosa succede quando cambia?

Un cambio di modello dietro un endpoint stabile cambia il comportamento del tuo sistema senza che il tuo sistema cambi. Chiedi se vieni avvisato, se puoi fissare una versione e per quanto tempo un modello deprecato resta disponibile. Un fornitore che non sa rispondere ti sta chiedendo di accettare cambiamenti che non puoi rilevare.

Cosa sa mostrare il sistema di una risposta data sei mesi fa?

Insieme recuperato, versioni dei documenti, prompt, modello, output, approvatore. Se il prodotto non è in grado di produrli, l’obbligo non scompare — ricade su di te, e non hai modo di adempierlo.

Qual è la policy di ingestion per i dati personali?

Se i dati personali possono entrare nell’indice, se possono essere esclusi in fase di ingestion anziché filtrati al momento della risposta, e come la cancellazione si propaga a embedding e cache. ‘Li filtriamo nell’output’ è un’affermazione diversa e molto più debole.

Di cosa li rende davvero responsabili il contratto?

Leggi la limitazione di responsabilità confrontandola con il valore del guasto che dovrebbe coprire. Poi leggi l’impegno di disponibilità, la finestra di notifica degli incidenti e se l’accuratezza dell’output sia garantita — di solito non lo è, e non è irragionevole, ma devi saperlo prima dell’incidente e non durante.

Cosa succede all’uscita?

Formato di esportazione per documenti, embedding, configurazione e registro di audit; quanto tempo hai; chi cancella cosa e con quale prova. Le condizioni di uscita sono la cosa più economica da negoziare prima della firma e la più costosa dopo.

Chi si fa carico degli obblighi di sicurezza che hai già?

Se rientri nell’ambito di NIS2 o DORA, gli accordi con i fornitori fanno parte dei tuoi obblighi, non sono una conversazione a parte. Chiedi come il fornitore supporta le tue tempistiche di notifica, perché il tuo orologio non si ferma mentre aspetti lui.

Cosa dichiarano, per iscritto, sulla conformità?

Un fornitore che afferma che il suo prodotto ti rende conforme sta descrivendo qualcosa che non esiste. Quello che un prodotto può fare è portare controlli e produrre evidenze. Di solito è questa distinzione a separare i fornitori che hanno lavorato in un ambiente regolato da quelli che ne hanno letto.

La direttiva del 2024 sulla responsabilità da prodotto include il software nella definizione di prodotto e si applica ai prodotti immessi sul mercato o messi in servizio dal 9 dicembre 2026 — la data entro cui gli Stati membri devono averla recepita (in Italia il decreto di recepimento è stato approvato in via definitiva dal Consiglio dei ministri il 28 ottobre 2026 e non è ancora in Gazzetta Ufficiale). Questo non rende i fornitori responsabili di tutto, e non mette al sicuro chi acquista. Quello che fa è rendere decisivo il confine: quali difetti ricadono su chi ha immesso il prodotto sul mercato, e quali su chi lo ha messo in esercizio, configurato e alimentato di dati.

Nella pratica la maggior parte delle controversie si giocherà su quel confine più che sulla tecnologia, e la maggior parte delle organizzazioni non l’ha mai tracciato. Tracciarlo è l’intero contenuto dell’assessment di esposizione: tre giornate di lavoro e un deliverable firmato che indica dove cade la linea per la tua configurazione e quali evidenze la sostengono.

Un fornitore che ha già affrontato un’ispezione risponde nel merito e dichiara da sé i limiti: cosa il prodotto non fa, cosa resta in capo al cliente, cosa gli servirebbe da te per supportare un audit. Un fornitore che non l’ha affrontata risponde per aggettivi — enterprise-grade, livello bancario, pienamente conforme — e tratta le domande come un ostacolo invece che come normale diligenza.

Il secondo segnale è chi si presenta. Se nessuno nella stanza sa descrivere la pipeline di retrieval o dire il nome del modello, stai parlando con lo strato commerciale di un’azienda di cui non hai ancora conosciuto l’ingegneria. Chiedi di incontrarla prima della firma, non dopo il primo incidente.

Il terzo è cosa chiedono a te. Un fornitore che non chiede della tua classificazione dei dati, dei tuoi obblighi di conservazione o degli obblighi di notifica del tuo settore ha in programma di consegnarti un deployment generico e lasciarti scoprire le lacune da solo.