Panoramica Tecnica del Sistema di IA

Panoramica

Questo articolo offre trasparenza tecnica su come vengono costruiti, testati e gestiti i sistemi di intelligenza artificiale di ISMS Copilot. Questi dettagli dimostrano il nostro impegno nello sviluppo responsabile dell'AI attraverso pratiche di implementazione verificabili.

A chi è rivolto

Questo articolo è destinato a:

• Team di sicurezza e conformità che valutano i controlli di governance dell'AI
• Auditor che verificano l'implementazione dei sistemi di AI rispetto alle politiche
• Responsabili del rischio che richiedono trasparenza tecnica per i sistemi di AI
• Utenti tecnici che desiderano comprendere l'architettura dell'AI

Implementazione ISO 42001

Il sistema di AI di ISMS Copilot è progettato e gestito in conformità ai requisiti della norma ISO 42001:2023 (Artificial Intelligence Management System). La nostra implementazione tecnica è mappata su specifici controlli ISO 42001:

Allineamento dell'architettura:

• A.4.2 (Stabilimento del contesto): Sistema di iniezione dinamica della conoscenza del framework documentato nel documento di progettazione del sistema di AI (AI-SDD-001)
• A.5 (Valutazione dell'impatto): Valutazione completa dell'impatto dell'AI (1.9 Rischio Basso, classificazione Rischio Limitato EU AI Act)
• A.6 (Sviluppo responsabile): Ciclo di sviluppo sicuro con test di regressione, scansioni SAST/DAST, test di injection dei prompt
• A.7 (Gestione dei dati): Accordi di Zero Data Retention, isolamento degli spazi di lavoro, periodi di conservazione controllati dall'utente
• A.8 (Interazione con l'utente): Avvisi di trasparenza, design con umano nel ciclo, dichiarazioni di verifica in tutta la piattaforma
• A.9 (Uso responsabile): Limitazione dello scopo, prevenzione dei jailbreak, guardrail per il contenuto

Architettura dinamica della conoscenza dei framework

ISMS Copilot utilizza l'iniezione dinamica della conoscenza dei framework per ancorare le risposte dell'AI a conoscenze verificate sulla conformità. A partire dalla versione 2.5 (febbraio 2025), questa sostituisce la precedente architettura RAG (Retrieval-Augmented Generation) con un approccio più affidabile ed efficiente in termini di token.

Come funziona l'iniezione della conoscenza dei framework

Componenti dell'architettura:

• Livello di rilevamento dei framework: Rilevamento basato su regex delle menzioni dei framework nelle query degli utenti (ISO 27001, SOC 2, GDPR, HIPAA, CCPA, NIS 2, DORA, ISO 42001, ISO 27701, EU AI Act)
• Livello di iniezione della conoscenza: Carica dinamicamente solo la conoscenza rilevante del framework nel contesto dell'AI in base ai framework rilevati
• Livello di generazione: I modelli di linguaggio di grandi dimensioni (LLM) dei fornitori di AI aziendali ricevono la conoscenza del framework prima di generare le risposte
• Meccanismo di validazione: La conoscenza del framework fornita all'AI garantisce che le risposte siano basate su requisiti di conformità reali, non su congetture probabilistiche

Perché l'iniezione dinamica è importante per la conformità:

• Elimina le allucinazioni: L'AI riceve la conoscenza verificata del framework prima di rispondere, prevenendo la fabbricazione di numeri di controllo e requisiti
• Efficienza dei token: Vengono caricati solo i framework rilevanti (~1-2K token) rispetto all'invio di tutta la conoscenza (~10K token) ad ogni richiesta
• Rilevamento affidabile: Il pattern matching basato su regex (non basato sull'AI) garantisce che le menzioni dei framework non vengano mai perse
• Architettura estensibile: Nuovi framework aggiunti con una singola definizione di oggetto, senza necessità di riqualificazione del modello
• Supporto multi-framework: Gestisce query che menzionano più framework contemporaneamente (es. "Mappa ISO 27001 a SOC 2")

Implementazione tecnica

Processo di rilevamento:

1. L'utente invia una query (es. "Che cos'è l'Annex A.5.9 di ISO 27001?")
2. Il rilevamento dei framework analizza la query per corrispondenze di pattern (ISO 27001, GDPR, SOC 2, ecc.)
3. I framework corrispondenti attivano l'iniezione della conoscenza
4. La conoscenza rilevante del framework viene aggiunta al prompt del sistema di AI prima della generazione

Framework supportati (v2.5):

• ISO 27001:2022, Sistema di Gestione della Sicurezza delle Informazioni
• ISO 42001:2023, Sistema di Gestione dell'Intelligenza Artificiale
• ISO 27701:2025, Sistema di Gestione delle Informazioni sulla Privacy
• SOC 2, Service Organization Control (Criteri dei Servizi di Fiducia)
• HIPAA, Health Insurance Portability and Accountability Act
• GDPR, Regolamento Generale sulla Protezione dei Dati
• CCPA, California Consumer Privacy Act
• NIS 2, Direttiva sui Sistemi di Rete e Informazione
• DORA, Digital Operational Resilience Act
• EU AI Act, Legge sull'Intelligenza Artificiale dell'Unione Europea

Evoluzione da RAG all'iniezione dinamica

Approccio precedente (pre-v2.5): Architettura RAG

• La ricerca semantica recuperava frammenti di documentazione rilevanti
• La qualità del recupero variava in base alla formulazione della query
• Tutti i ~10K token di conoscenza venivano inviati in molte richieste
• Focalizzato principalmente su ISO 27001

Approccio attuale (v2.5+): Iniezione dinamica dei framework

• Il rilevamento basato su regex garantisce un'identificazione affidabile dei framework
• Vengono caricati solo i framework rilevanti (efficienza dei token)
• Supporta 90+ framework contemporaneamente
• Design estensibile per aggiunte rapide di framework

Fornitori di AI e protezione dei dati

Utilizziamo fornitori di AI di livello enterprise con accordi rigorosi sulla protezione dei dati.

Fornitori attuali

Modelli di AI di backend:

• xAI Grok, Percorso predefinito attuale per molte sessioni a pagamento Fast / Think / Beyond quando la Protezione Avanzata dei Dati è disattivata (instradamento in stile zero-retention; consulta il Trust Center per la tabella aggiornata)
• Anthropic Claude, Percorso di backup / alternativo a seconda del piano e della disponibilità
• OpenAI / altri modelli di classe OpenRouter, Instradamento Economy per Free/Essential e alcuni compiti specializzati
• Mistral AI, Percorso UE quando la Protezione Avanzata dei Dati è attivata

L'instradamento dipende dal piano e dalle impostazioni, non è un singolo marchio fisso per ogni utente. Il failover automatico può spostare il traffico quando un fornitore non è disponibile. Quando la Protezione Avanzata dei Dati è abilitata, l'elaborazione dell'AI segue la topologia EU Mistral descritta nella documentazione ADP. Tutti i percorsi utilizzano la stessa iniezione specializzata della conoscenza sulla conformità. Per la due diligence, preferisci sempre il Trust Center rispetto a questo riassunto narrativo se dovessero differire.

Accordi di Zero Data Retention

Tutti i fornitori di AI operano sotto accordi di Zero Data Retention (ZDR):

Termini degli accordi ZDR:

• Nessuna conservazione dei dati utente oltre l'elaborazione della richiesta
• Nessun addestramento del modello sui contenuti dei clienti
• Trasferimenti di dati conformi al GDPR con Clausole Contrattuali Standard (SCC)
• Standard di sicurezza enterprise applicati

Per informazioni dettagliate sui processori e sui flussi di dati, consulta il nostro Registro delle Attività di Trattamento.

Requisiti di sviluppo

Ogni componente del sistema di AI viene sviluppato in base a requisiti documentati che definiscono il comportamento atteso, i vincoli di sicurezza e le soglie di prestazione.

Requisiti funzionali

Definizione dell'ambito:

• L'AI fornisce assistenza per la conformità, non consulenza legale
• Limiti delle attività: generazione di politiche, analisi delle lacune, preparazione degli audit, revisione dei documenti
• Applicazione dei vincoli: nessun accesso a internet, nessuna esecuzione di codice, nessun trattamento di dati personali oltre l'utilizzo della piattaforma

Requisiti di prestazione

Obiettivi di qualità:

• Accuratezza delle risposte basata su fonti recuperate con citazione
• Finestra di contesto sufficiente per l'analisi della conformità multi-documento
• Tempo di risposta ottimizzato per l'uso interattivo (obiettivo: sotto i 10 secondi)
• Limiti di frequenza definiti per livello utente per garantire la stabilità del sistema

Requisiti di sicurezza

Mitigazione delle allucinazioni:

• Ancoraggio alle fonti: le risposte devono fare riferimento alla documentazione recuperata
• Validazione del recupero: le risposte vengono verificate rispetto al contenuto delle fonti
• Punteggio di confidenza: l'incertezza viene riconosciuta quando le fonti sono ambigue
• Dichiarazioni di verifica per l'utente: tutte le uscite richiedono la revisione umana

Filtraggio dei contenuti:

• Rilevamento e blocco dei contenuti inappropriati
• Limiti dell'ambito: l'AI rifiuta richieste fuori ambito (es. argomenti non correlati, consulenza medica/legale)
• Protezione da jailbreak e injection dei prompt

Vedi Panoramica sulla sicurezza e l'uso responsabile dell'AI per i dettagli sui guardrail di sicurezza.

Requisiti di gestione dei dati

Privacy by Design:

• Nessun dato utente per l'addestramento del modello (accordi ZDR applicati)
• Minimizzazione dei dati: vengono elaborati solo i dati necessari per il recupero e la generazione
• Elaborazione temporanea: nessuna conservazione a lungo termine di prompt/risposte oltre i log della sessione utente
• Controlli di conservazione: periodi di conservazione dei dati configurabili dall'utente (da 1 giorno a 7 anni, o conservazione permanente)
• Controlli sui trasferimenti: trasferimenti di dati conformi al GDPR con SCC

Per pratiche complete di gestione dei dati, consulta la nostra Informativa sulla Privacy.

Test di verifica e validazione

I sistemi di AI sono sottoposti a test rigorosi prima della distribuzione. Nessun sistema viene messo in produzione senza aver superato la validazione basata sui requisiti.

Test di regressione

Test automatizzati eseguiti ad ogni modifica del codice per garantire che la funzionalità esistente rimanga intatta.

Copertura dei test:

• Accuratezza del recupero: Precisione e richiamo rispetto a set di dati di verità fondamentale
• Ancoraggio delle risposte: Verifica che le uscite citino le fonti recuperate
• Rilevamento delle allucinazioni: Confronto con risposte note come errate
• Benchmark di prestazione: Validazione del tempo di risposta e della gestione del contesto

Test di Sicurezza

I sistemi di AI sono sottoposti alla stessa validazione di sicurezza di tutti i componenti della piattaforma.

Pipeline di Test:

• SAST (Static Application Security Testing): Scansione delle vulnerabilità a livello di codice con integrazione Semgrep
• DAST (Dynamic Application Security Testing): Validazione della sicurezza a runtime
• Penetration Testing: Valutazioni di sicurezza annuali da parte di terze parti
• Prompt Injection Testing: Validazione contro input avversari che tentano di bypassare i vincoli di sicurezza

User Acceptance Testing

La validazione con scenari reali da parte di professionisti della conformità assicura che:

• Gli output soddisfino gli standard di qualità professionale
• Le risposte siano appropriate per i casi d'uso di conformità
• Le limitazioni siano comunicate chiaramente
• I meccanismi di feedback siano accessibili ed efficaci

Checklist di Validazione del Deployment

I sistemi di AI vengono distribuiti solo dopo aver soddisfatto i requisiti documentati:

I deployment che non superano la validazione vengono riportati allo stato precedente fino a quando i requisiti non sono soddisfatti.

Monitoraggio e Miglioramento Continuo

Dopo il deployment, monitoriamo il comportamento dei sistemi di AI per rilevare degrado, problemi emergenti o utilizzi impropri.

Metriche di Monitoraggio

Cosa Monitoriamo:

• Tasso di allucinazioni: Tracciato tramite segnalazioni degli utenti e rilevamento automatizzato
• Accuratezza delle risposte: Validazione campionata rispetto a standard di conformità di riferimento
• Pattern di utilizzo: Rilevamento di utilizzi fuori ambito o inappropriati
• Metriche di performance: Tempo di risposta, precisione del recupero, tassi di errore
• Feedback degli utenti: Segnalazioni di impatto negativo, ticket di supporto, richieste di funzionalità

Ciclo di Miglioramento Continuo

I dati di monitoraggio informano i miglioramenti iterativi:

Cicli di Feedback:

• Feedback degli utenti e segnalazioni di impatto negativo → aggiornamenti del modello e ottimizzazione del recupero
• Risultati dei test di sicurezza → miglioramenti della sicurezza e aggiornamenti dei controlli
• Cambiamenti normativi e best practice → aggiornamenti della documentazione e del framework
• Monitoraggio delle performance → miglioramenti dell'accuratezza e ottimizzazione delle risposte

Risposta agli Incidenti

Notifichiamo agli utenti gli incidenti relativi all'AI per mantenere trasparenza e fiducia.

Canali di Notifica:

• Avvisi via email per incidenti critici che influiscono sulla funzionalità dell'AI
• Notifiche Slack per i team iscritti
• Aggiornamenti sulla pagina di stato con tempistiche degli incidenti e risoluzioni
• Notifiche di early warning conformi a NIS2 (segnalazione entro 24 ore per incidenti di cybersicurezza significativi)

Limitazioni Note

I sistemi di AI presentano limitazioni intrinseche che gli utenti devono comprendere per utilizzarli in modo responsabile.

Limitazioni Tecniche

Vincoli Attuali:

• Natura probabilistica: L'AI genera risposte basate su pattern statistici, non su logica deterministica
• Nessun accesso a internet: L'AI non può recuperare informazioni in tempo reale o accedere a siti web esterni
• Nessuna esecuzione di codice: L'AI non può eseguire calcoli, script o validare implementazioni tecniche
• Limite di conoscenza: La conoscenza del modello di AI è limitata alle date di cutoff dei dati di addestramento (varia a seconda del fornitore)
• Limiti di contesto: La finestra di contesto massima limita la quantità di informazioni elaborate in una singola richiesta
• Confini di dominio: L'AI è addestrata per la conformità/sicurezza; le prestazioni in altri domini non sono garantite

Per limitazioni dettagliate e soluzioni alternative, consulta la nostra pagina Problemi Noti.

Responsabilità di Verifica dell'Utente

ISMS Copilot è progettato per assistere, non sostituire, il giudizio professionale:

• Confronta i suggerimenti dell'AI con gli standard ufficiali
• Convalida le informazioni critiche prima della presentazione agli auditor
• Utilizza l'AI come assistente del consulente, non come sostituto dell'expertise
• Applica il giudizio professionale nell'implementazione delle raccomandazioni dell'AI

Consulta Come utilizzare ISMS Copilot in modo responsabile per le best practice di verifica.

Segnalazioni e Feedback

Il feedback degli utenti è fondamentale per il miglioramento dei sistemi di AI. Forniamo diversi meccanismi per segnalare problemi, imprecisioni o comportamenti inattesi.

Come Segnalare Problemi

Impatti Negativi o Allucinazioni:

1. Vai al menu utente (in alto a destra) > Centro Assistenza > Contatta il Supporto
2. Includi prompt, risposta e screenshot nella tua segnalazione
3. Riceverai una risposta entro 48 ore

Segnalazione In-Platform:

• Utilizza il pulsante "Segnala Problema" disponibile in tutta la piattaforma per segnalare specifiche risposte dell'AI

Cosa Succede Dopo la Segnalazione

1. Revisione immediata (entro 48 ore): Il team di supporto valuta la gravità e l'impatto
2. Indagine: Il team tecnico analizza il problema, riproduce l'errore e identifica la causa principale
3. Risposta: Riceverai un aggiornamento sui risultati e sulle azioni pianificate
4. Rimedio: I problemi vengono affrontati tramite aggiornamenti del modello, ottimizzazione del recupero, correzioni del codice o miglioramenti della documentazione
5. Miglioramento continuo: Le lezioni apprese vengono integrate nei processi di test e monitoraggio

Consulta la Panoramica su Sicurezza e Uso Responsabile dell'AI per istruzioni dettagliate sulla segnalazione.

Aggiornamenti della Documentazione

Le specifiche tecniche vengono aggiornate quando:

• I fornitori di AI cambiano (nuovi modelli, API deprecate)
• L'architettura evolve (nuovi componenti, metodi di validazione)
• I requisiti vengono rivisti (nuovi vincoli di sicurezza, obiettivi di performance)
• Le pratiche di test si espandono (nuove tecniche di validazione, strumenti di sicurezza)

Gli aggiornamenti vengono comunicati tramite note di rilascio e questa pagina di documentazione. Iscriviti alla nostra pagina di stato per ricevere notifiche sulle modifiche.

Prossimi Passi

• Scopri come ISMS Copilot implementa la ISO 42001
• Informati su guardrail di sicurezza dell'AI e pratiche di uso responsabile
• Comprendi le allucinazioni dell'AI e come prevenirle
• Segui le best practice per utilizzare ISMS Copilot in modo responsabile
• Consulta le nostre Politiche di Sicurezza complete

Assistenza

Per domande tecniche sulle specifiche dei sistemi di AI o per richiedere documentazione aggiuntiva:

• Contatta il supporto tramite il menu Centro Assistenza
• Segnala immediatamente le preoccupazioni relative alla sicurezza per un'indagine
• Consulta il Trust Center per informazioni dettagliate sulla governance dell'AI
• Controlla la Pagina di Stato per problemi noti