Valutazione d’impatto sulla protezione dei dati (DPIA)
La valutazione d’impatto sulla protezione dei dati è un obbligo del titolare del trattamento art. 35 GDPR. Per i dati di studenti e docenti trattati a fini didattici il titolare è l’istituto scolastico, non il fornitore della piattaforma.
Questo documento non è la DPIA della vostra scuola: è il contributo che BB NETWORKS S.R.L. rende in qualità di responsabile del trattamento art. 28, §3, lett. f) GDPR, e contiene tutto ciò che solo il fornitore può sapere — architettura, flussi, modelli, conservazione, misure di sicurezza. L’istituto lo adotta integrandolo con il proprio contesto (finalità didattiche, classi coinvolte, informative, consensi) e lo fa proprio con la firma del titolare, sentito il DPO.
Oltre che attraverso la scuola, la piattaforma si acquista anche con una licenza personale, intestata a un docente o a una famiglia (al 29 ottobre 2026: 372 licenze personali attive, con 207 PIN per alunni o figli). I ruoli cambiano a seconda dell’uso.
- Il docente usa gli strumenti per sé (preparazione delle lezioni, chatbot per adulti, strumenti per i docenti). Interessato è il docente stesso; BB NETWORKS S.R.L. è titolare dei dati del suo account e delle sue conversazioni, descritti nell’informativa privacy. Questo documento descrive in modo completo i flussi, i fornitori e i tempi di conservazione che lo riguardano.
- Il docente usa la licenza personale con i propri alunni (PIN assegnati alla classe). L’attività resta un’attività didattica della scuola: il docente agisce come persona autorizzata dall’istituto art. 29 GDPR; art. 2-quaterdecies D.Lgs. 196/2003 e non diventa titolare autonomo dei dati degli alunni. Prima dell’uso in classe deve quindi informare il dirigente scolastico, perché l’istituto adotti lo strumento seguendo il §7. Non trasferiamo al singolo docente responsabilità che la legge attribuisce alla scuola.
- La famiglia usa la licenza a casa (licenze «Libro» di Gioca con Sofia, un PIN per il bambino). Il genitore agisce nell’ambito della vita familiare art. 2, §2, lett. c) GDPR ed è lui a decidere l’accesso del figlio allo strumento art. 4, c. 4, L. 132/2025. BB NETWORKS S.R.L. è titolare del trattamento del PIN e dei risultati di gioco, con le stesse misure descritte in questo documento: nessun nome del bambino, cancellazione a fine licenza.
Nei casi in cui BB NETWORKS S.R.L. è titolare, questa valutazione, che descrive gli stessi flussi e le stesse misure, vale anche come sua valutazione d’impatto art. 35 GDPR.
1.Titolare, responsabile, ruoli
| Fornitore della piattaforma | BB NETWORKS S.R.L. — Via Valle Grana 24, 12010 Bernezzo (CN) — P.IVA/C.F. 03555400047 — PEC bbnetworkssrl@pec.it. Opera sul mercato con il marchio registrato «Scuoladigitale academy» attraverso la piattaforma «AI ScuolaDigitale Academy» (ai.scuoladigitaleacademy.it). |
|---|---|
| Ruolo GDPR | Responsabile del trattamento art. 28 per i dati di studenti e docenti trattati per conto dell’istituto. |
| Titolare | L’istituto scolastico, che determina finalità e mezzi del trattamento didattico. |
| Ruolo AI Act | BB NETWORKS S.R.L. è fornitore art. 3(3) Reg. UE 2024/1689; l’istituto è utilizzatore (deployer) art. 3(4). I ruoli GDPR e AI Act sono distinti e non si sovrappongono. |
| Autorità competenti | Per l’AI Act, in Italia, l’Agenzia per la Cybersicurezza Nazionale (ACN) è autorità di vigilanza del mercato e l’AgID autorità di notifica D.Lgs. 7 ottobre 2026, n. 179. Per la protezione dei dati personali resta competente il Garante per la protezione dei dati personali. |
| Titolarità autonoma | BB NETWORKS S.R.L. è titolare autonomo, e non responsabile, per i trattamenti che svolge per finalità proprie: registrazione e gestione degli account dei docenti, contratti, licenze e fatturazione, sicurezza dell’infrastruttura. Tali trattamenti sono descritti nella relativa informativa e restano fuori dal perimetro di questa valutazione. |
2.Descrizione sistematica del trattamento
Art. 35, §7, lett. a) GDPR. I dati qui riportati sono verificati sul sistema in produzione alla data del documento.
2.1 Categorie di interessati
- Studenti, di norma dai 3 ai 12 anni. Accedono esclusivamente tramite un PIN numerico assegnato dal docente. La piattaforma non richiede né conserva nome, cognome, data di nascita o altro identificativo dell’alunno.
- Docenti e personale scolastico. Accedono con account nominativo. Per loro il trattamento riguarda dati personali pieni.
2.2 Categorie di dati e collocazione
| Servizio | Dati trattati | Interessato | Dove sono elaborati |
|---|---|---|---|
| Account e SSO (Keycloak) | Nome, cognome, email, istituto, ruolo, credenziali | Docenti | Server del fornitore |
| Licenze e PIN studente | PIN (hash bcrypt con pepper; presente anche in forma leggibile, vedi R4), prefisso, etichetta, riferimento alla licenza e al docente | Studenti (pseudonimi) | Server del fornitore |
| Chatbot: Parla con Alma, La Lavagna risponde | Testo delle conversazioni, documenti caricati dal docente | Docenti e studenti | Mistral AI (Francia) per l’elaborazione e, per Parla con Alma, per il controllo automatico di sicurezza (moderazione) + database del fornitore per lo storico |
| Diretta il pappagallo (vocale) | Voce dell’alunno (in transito: trascritta localmente e scartata, non conservata, non usata per identificazione); testo trascritto (effimero, in RAM di sessione) | Docenti e studenti | Server del fornitore (STT e TTS locali); solo il testo a Mistral AI (Francia) per generare la risposta |
| Disegna con Sofia | Testo del prompt e immagine generata, conservati affiancati nella galleria personale dell’utente. L’immagine scaricabile è marcata come generata da IA (art. 50(2), vedi §5) e ripulita dai metadati che ne contenevano il prompt | Studenti e docenti | Server del fornitore (ComfyUI, modelli locali) |
| La Maestra Anna | Testo o immagine sottoposti all’analisi | Contenuti, non identificativi | Server del fornitore — nessuna conservazione |
| Gioca con Sofia: registro «La mia classe» (3–5, 6–8, 8–12) | Per ogni PIN: giochi completati, livello, per alcuni giochi le risposte corrette; nell’8–12 avanzamento del percorso, brevi testi scritti dal bambino, diploma; nel 3–5 e 6–8 i disegni che il bambino invia «alla maestra» (massimo 30 per PIN). Visibile solo al docente della licenza. Nessuna intelligenza artificiale | Studenti (pseudonimi) | Server del fornitore |
| UDA Builder (strumento per docenti) | Unità didattiche progettate e salvate dal docente. Composte da modelli predefiniti: nessuna intelligenza artificiale | Docenti | Server del fornitore |
| PDF Tools (strumento per docenti) | File PDF caricati dal docente e file risultanti. Nessuna intelligenza artificiale | Docenti | Server del fornitore |
2.3 Sub-responsabili e trasferimenti
Tutti i chatbot della piattaforma si appoggiano all’API di Mistral AI SAS (Parigi, Francia) per generare le risposte: il testo scritto dall’utente, incluso quello scritto da uno studente, viene trasmesso a Mistral per generare la risposta. Mistral può conservare richieste e risposte per un massimo di 30 giorni al solo scopo di monitoraggio degli abusi, come previsto dalle sue condizioni per l’API, salvo attivazione della conservazione zero (zero data retention); se attivata, il fornitore ne darà comunicazione al titolare con l’aggiornamento di questo documento.
Controllo di sicurezza delle conversazioni degli alunni. Dal 31 ottobre 2026, per «Parla con Alma» (l’unico chatbot usato dagli alunni con il PIN), la domanda dell’alunno, insieme alle ultime battute della stessa conversazione, e la risposta generata sono inviate anche al servizio di moderazione di Mistral, che restituisce solo una valutazione per categorie di rischio (contenuti sessuali, autolesionismo, violenza, odio, pericoli, reati, tentativi di aggirare le regole, dati personali). Si tratta dello stesso sub-responsabile, con lo stesso punto di accesso europeo e le stesse condizioni: non c’è un nuovo destinatario, e il testo inviato è lo stesso già trasmesso per generare la risposta.
Luogo dell’elaborazione. Dal 29 ottobre 2026 tutte le chiamate passano dal punto di accesso regionale europeo di Mistral (api.eu.mistral.ai), che secondo la documentazione del fornitore vincola l’elaborazione (inferenza) a data center nell’Unione europea o nei Paesi EFTA. In precedenza era usato il punto di accesso globale, per il quale Mistral non garantisce un luogo di elaborazione. Restano fuori dal vincolo regionale solo i dati di gestione dell’account del fornitore presso Mistral (fatturazione, utenze), che non contengono dati degli utenti della piattaforma. La ricerca sul web dei chatbot è disattivata su tutti i chatbot.
Mistral AI è una società con sede nell’Unione europea: non si configura alcun trasferimento verso un Paese terzo ai sensi del Capo V del GDPR, e non occorrono clausole contrattuali standard né valutazioni di adeguatezza. Mistral opera come sub-responsabile ai sensi dell’art. 28, §§2 e 4.
Documenti di Mistral, consultabili direttamente. Per chi vuole verificare in autonomia le condizioni del sub-responsabile:
- Informativa privacy di Mistral AI — tempi di conservazione dei dati inviati alle API
- Accordo sul trattamento dei dati (DPA) di Mistral AI — obblighi di Mistral come sub-responsabile
- Trust Center di Mistral AI — elenco aggiornato dei sub-fornitori di Mistral e certificazioni (come è gestito)
- Elaborazione regionale nell’UE — il punto di accesso europeo che usiamo
- Esclusione dall’addestramento — nel nostro account Mistral l’uso delle chiamate API per addestrare i modelli è disattivato, così come i modelli sperimentali «Labs» (verificato il 29 ottobre 2026)
- Conservazione zero (zero data retention) — opzione non attiva al 29 ottobre 2026
L’infrastruttura di Mistral comprende sub-fornitori di cloud con data center nell’UE, tra cui società con sede negli Stati Uniti: l’elenco e i luoghi aggiornati sono nel Trust Center. La valutazione di questo aspetto spetta al titolare.
Gli altri strumenti — generazione di immagini, analisi di Maestra Anna, sintesi vocale — utilizzano modelli eseguiti sui server del fornitore: per essi nessun dato raggiunge fornitori esterni.
Manutenzione dei server. Lo sviluppo, la gestione tecnica, i backup e la sicurezza dei server sono curati anche da un consulente esterno (persona fisica, Italia), nominato sub-responsabile con contratto ex art. 28 GDPR e indicato tra i sub-responsabili delle condizioni d’uso per la Scuola (§18.8). Accede ai dati solo nei limiti dello stretto necessario agli interventi; nessun dato lascia l’Unione europea.
2.4 Conservazione
| Dato | Durata | Meccanismo |
|---|---|---|
| Conversazioni degli studenti con Alma | Cancellazione entro 15 minuti dall’ultima attività | Processo automatico (ogni 5 minuti, sulle conversazioni inattive da 10) che elimina fisicamente messaggi, conversazioni e memoria dal database |
| Conversazioni degli altri chatbot | 90 giorni (La Lavagna risponde: 120) | Processo automatico giornaliero |
| Memoria dei chatbot per gli utenti adulti (informazioni scritte dall’utente e ricordate tra una conversazione e l’altra, es. ruolo, materia, interessi) | Fino a richiesta di cancellazione | Cancellazione su richiesta dell’interessato; per gli alunni la memoria è cancellata con la conversazione |
| Analisi di Maestra Anna | Nessuna conservazione | Lo strumento non dispone di alcuna base di dati: il contenuto esiste solo in memoria per la durata della richiesta |
| Disegni e prompt di Disegna con Sofia | 12 mesi | Processo automatico giornaliero che cancella immagine e prompt. Il termine copre l’anno scolastico; oltre la licenza (365 giorni) il PIN è invalidato e la galleria non è più raggiungibile |
| Registro «La mia classe» e dati dei percorsi (giochi completati, risposte, testi, diplomi, disegni inviati alla maestra) | Fino all’azzeramento da parte del docente; comunque cancellati quando il PIN è invalidato o la licenza scade o è revocata | Azzeramento dal pannello del docente; processo automatico notturno (dal 27 ottobre 2026 anche per i risultati dei giochi, prima solo per i disegni) |
| File di PDF Tools | 2 ore | Processo automatico pianificato |
| Unità didattiche di UDA Builder | Fino all’eliminazione da parte del docente | Eliminazione dal pannello del docente o con la cancellazione dell’account |
| PIN studente | Fino a invalidazione o scadenza della licenza | Invalidazione automatica alla scadenza; revoca manuale dal pannello del docente |
| Account docente | Durata del rapporto contrattuale | Gestione a cura del titolare e del fornitore |
2.5 Volumi rilevati
Fotografia del sistema al 15 luglio 2026, utile a dimostrare che il trattamento non è «su larga scala».
| Grandezza | Valore |
|---|---|
| Conversazioni presenti in archivio | 40 |
| Messaggi presenti in archivio | 350 |
| Conversazioni riconducibili a un PIN studente | 0 — conferma che la cancellazione automatica funziona |
| PIN studente attivi | 295 (al 12 ottobre 2026 i PIN emessi erano 1.026) |
| Elaborati e tentativi di gioco dei percorsi | 3 elaborati, 51 tentativi |
2.6 Scenario vocale — «Diretta il pappagallo»
Introdotto dopo la prima versione della DPIA: il primo strumento con interazione vocale. Contributo del responsabile ex art. 28 §3 lett. f).
Rispetto ai chatbot testuali, Diretta aggiunge la voce: l’alunno (6–8 anni) parla tenendo premuto un pulsante; l’audio è trascritto in testo on-premise (riconoscimento vocale locale sull’infrastruttura del responsabile) e scartato; il solo testo è elaborato dal modello linguistico (Mistral AI, UE) su knowledge curata; la risposta è resa con voce sintetica generata on-premise e sottotitolata parola per parola. Nessuna conversazione è conservata. La voce non è usata per identificare il bambino né per finalità biometriche (non è trattamento ex art. 9).
| Rischio | Valutazione | Misure |
|---|---|---|
| Captazione della voce di minori (soggetto vulnerabile) | Mitigato alla fonte | Trascrizione locale: l’audio non lascia l’infrastruttura del responsabile e non è conservato; a terzi (Mistral) va solo il testo. |
| Ascolto continuo / captazione involontaria dell’ambiente | Basso | Microfono attivo solo a pulsante premuto (push-to-talk); nessuna attivazione autonoma; eventuale captazione incidentale limitata alla pressione e non conservata. |
| Profilazione o tracciamento dell’alunno | Escluso per architettura | Nessuna persistenza di conversazioni, esiti o profili; storico in sola RAM di sessione. |
| Inferenza dello stato emotivo (art. 5(1)(f) AI Act) | Escluso | Nessuna analisi prosodica o biometrica: l’audio è convertito in parole e scartato; divieto espresso nel prompt di sistema; le animazioni dipendono dal testo del personaggio, non dallo stato del bambino. |
| Contenuti inidonei generati dal modello | Mitigato | Tre livelli di filtri (blacklist input con risposta predefinita, SafetyFilter di piattaforma, filtro sull’output pre-sintesi); knowledge curata; storie e indovinelli = testi fissi d’autore; linguaggio neutro. |
| Errore/allucinazione nel dialogo libero | Residuo, dichiarato | Pedagogia interna che insegna a verificare; supervisione adulta richiesta dalle istruzioni per l’uso; sottotitoli in tempo reale; pulsante Stop. |
| Voce artificiale del personaggio (non di persona reale) | Non è dato personale | Voce di sintesi generata con uno strumento di terzi su licenza; non riproduce la voce di una persona reale, quindi nessun consenso o diritto d’immagine di terzi in gioco. Dichiarazione permanente in interfaccia della natura artificiale (art. 50(1)). Da tenere agli atti: la licenza dello strumento di sintesi. |
| Accesso di minori <14 (L. 132/2025) | In carico al titolare, con supporto | Nessun PIN studente, per scelta del fornitore: l’uso avviene sotto la supervisione del docente, sulla licenza del docente, come attività di classe mediata. Resta raccomandata l’acquisizione dei consensi genitoriali da parte dell’istituto. |
Necessità e proporzionalità. Il canale vocale è necessario alla finalità (interazione per bambini che non padroneggiano ancora la scrittura) ed è configurato secondo minimizzazione spinta: trattamento locale, effimero, senza conservazione — la configurazione più protettiva a parità di funzione. Nessun processo decisionale automatizzato con effetti sugli interessati.
Marcatura dell’audio sintetico (art. 50(2)): applicata dal 10 ottobre 2026. Le risposte vocali di Diretta sono contenuti audio generati dal sistema. L’obbligo di marcatura leggibile a macchina si applica dal 2 agosto 2026 ai sistemi immessi sul mercato da quella data; il termine del 2 dicembre 2026 vale solo per i sistemi già sul mercato prima del 2 agosto art. 111(4) Reg. UE 2024/1689, come modificato dal Reg. UE 2026/1744. Poiché la sintesi vocale è eseguita sui server del fornitore, ogni frase pronunciata da Diretta è marcata al momento della generazione con due tecniche indipendenti, come indicato dal Code of Practice del 10 giugno 2026: (1) metadati nel file audio che dichiarano il contenuto come generato da intelligenza artificiale; (2) watermark impercettibile legato a una chiave del fornitore, rilevabile anche su porzioni dell’audio e dopo variazioni di volume. La marcatura è applicata anche agli audio dei contenuti fissi (storie e indovinelli) e non comporta alcun trattamento di dati personali. La verifica è possibile su richiesta, con strumenti interni del fornitore.
3.Necessità e proporzionalità
Art. 35, §7, lett. b) GDPR.
3.1 Base giuridica
Il trattamento svolto dall’istituto per finalità didattiche si fonda sull’art. 6, §1, lett. e) GDPR — esecuzione di un compito di interesse pubblico — radicato nell’ordinamento scolastico. Non è il consenso: la scelta degli strumenti didattici rientra nell’autonomia dell’istituzione scolastica.
L’articolo 4, comma 4, della Legge 23 settembre 2025 n. 132 dispone che «l’accesso alle tecnologie di intelligenza artificiale da parte dei minori di anni quattordici nonché il conseguente trattamento dei dati personali richiedono il consenso di chi esercita la responsabilità genitoriale».
La norma riguarda l’accesso alla tecnologia, non soltanto il trattamento dei dati: per questo non è automaticamente assorbita dalla base giuridica dell’interesse pubblico, e l’intera utenza studentesca della piattaforma ha meno di 14 anni. Il coordinamento fra questa norma e la prassi consolidata del Garante in ambito scolastico non è ancora stato chiarito da provvedimenti o linee guida.
Raccomandazione del fornitore: in attesa di chiarimenti, acquisire il consenso informato di chi esercita la responsabilità genitoriale per l’accesso degli alunni agli strumenti di IA, trattandolo come adempimento aggiuntivo e non sostitutivo della base giuridica dell’art. 6, §1, lett. e). È una decisione del titolare, da assumere con il DPO.
3.2 Minimizzazione
La minimizzazione non è affidata a una procedura ma all’architettura del sistema:
- lo studente esiste sulla piattaforma solo come PIN: la corrispondenza fra PIN e alunno resta presso il docente e non transita mai dai sistemi del fornitore;
- le conversazioni degli studenti con Alma sono cancellate fisicamente entro 15 minuti dall’ultima attività, non archiviate e non anonimizzate a posteriori;
- Maestra Anna non ha una base di dati: non c’è nulla da conservare perché nulla viene scritto;
- il registro dei giochi «La mia classe» contiene solo il PIN e gli esiti delle attività, è visibile solo al docente, può essere azzerato in ogni momento ed è cancellato automaticamente a fine licenza;
- i modelli di generazione di immagini e di analisi sono eseguiti in locale, così che i contenuti dei bambini non raggiungano fornitori terzi.
3.3 Assenza di addestramento sui dati degli utenti
I dati degli utenti non sono utilizzati per addestrare o perfezionare alcun modello, né dal fornitore né per finalità proprie. Il fornitore si impegna a mantenere con il sub-responsabile condizioni contrattuali che escludano l’uso dei contenuti trasmessi per l’addestramento e a comunicare al titolare ogni variazione.
3.4 Diritti degli interessati
Per gli studenti l’esercizio dei diritti passa necessariamente dall’istituto: non disponendo di identificativi, il fornitore non è in grado di collegare una richiesta a un alunno. La scuola individua il PIN corrispondente e il fornitore dà seguito su istruzione documentata. Per i docenti i diritti si esercitano ordinariamente verso il titolare, con l’assistenza del fornitore ai sensi dell’art. 28, §3, lett. e).
4.Valutazione dei rischi
Art. 35, §7, lett. c) GDPR. La valutazione considera probabilità e gravità per i diritti e le libertà degli interessati, con specifica attenzione ai minori (considerando 38 GDPR).
| Rischio | Probabilità | Gravità | Misure adottate |
|---|---|---|---|
| R1. Dati personali inseriti spontaneamente nel testo libero Un bambino scrive il proprio nome, quello di un compagno o un dato di famiglia dentro una chat o un prompt. |
Media | Media | Il testo scritto dagli utenti vive in tre soli luoghi, tutti presidiati: cancellazione entro 15 minuti dall’ultima attività delle chat degli alunni; cancellazione a 12 mesi dei prompt e dei disegni; nessun contenuto nei log applicativi (vi finiscono solo i prompt bloccati dal filtro di sicurezza, conservati per dimostrare la diligenza richiesta dall’AI Act, e ruotati a 14 giorni). In aggiunta: filtri di sicurezza (in «Parla con Alma», dal 31 ottobre 2026, anche il riconoscimento di indirizzi, numeri di telefono, email e password, con un invito gentile a non scriverli), istruzioni d’uso che prescrivono di non inserire dati personali, nessun collegamento all’identità sul lato piattaforma. Rischio residuo: non azzerabile, perché nessuna misura impedisce a un bambino di scrivere il proprio nome. |
| R2. Trasmissione del testo al sub-responsabile Il contenuto scritto dallo studente raggiunge Mistral AI. |
Certa | Bassa | Sub-responsabile con sede UE; elaborazione vincolata all’UE tramite punto di accesso regionale europeo; nessun trasferimento extra-UE; conservazione presso Mistral limitata a 30 giorni per il monitoraggio degli abusi; nomina ex art. 28; esclusione contrattuale dell’uso per addestramento; testo privo di identificativi. |
| R3. Re-identificazione dell’alunno Qualcuno collega un PIN a una persona. |
Bassa | Media | La chiave di collegamento è solo presso la scuola. Sul lato fornitore i dati sono, ai sensi del considerando 26 GDPR, privi di identificabilità ragionevole. La custodia della corrispondenza PIN→alunno è un trattamento del titolare e va disciplinata nella sua documentazione. |
| R4. PIN conservato anche in chiaro Per consentire al docente di rileggerlo, il PIN è presente in forma leggibile accanto all’hash. |
Bassa | Media | Accesso riservato al docente titolare della licenza; il PIN da solo non identifica una persona. Rischio dichiarato e accettato: il fornitore ne ha programmato la revisione. Vedi §6. |
| R5. Registro della classe consultabile dal docente Nei giochi di Sofia il docente vede, PIN per PIN, i giochi completati, il livello, le risposte corrette ai quiz, i brevi testi (8–12) e i disegni inviati alla maestra. Non vede le conversazioni degli alunni con Alma. |
Media | Bassa | È una funzione di vigilanza didattica, coerente con il ruolo educativo e con la mediazione dell’adulto. Il registro è pseudonimo (solo il PIN: in nessuna parte della piattaforma il PIN è collegato al nome dell’alunno), visibile solo al docente della licenza, non produce voti né profili, non usa intelligenza artificiale; il docente può azzerarlo in ogni momento e i dati sono cancellati automaticamente a fine licenza. Va dichiarato nell’informativa che la scuola rende alle famiglie. |
| R6. Generazione di immagini inappropriate «Disegna con Sofia» produce un’immagine non adatta a un minore. Per i chatbot vedi R8. |
Molto bassa | Alta | Tre strati: (1) filtro deterministico sui prompt in ingresso, attivo prima dell’elaborazione, per le lingue offerte dall’interfaccia (italiano, inglese, francese), mirato ai contenuti sessuali e alla violenza estrema; (2) controllo dei temi a rischio sulla descrizione tradotta, quindi per tutte le lingue dell’interfaccia: se la richiesta contiene violenza, armi, sangue, fumo, alcol, droghe, nudità, costumi da bagno o biancheria, la descrizione è riscritta in una versione adatta all’età e il bambino riceve una breve spiegazione del perché; se dopo la riscrittura resta un termine vietato, il disegno non viene generato; (3) classificatore sull’immagine generata (modello di visione locale) che la valuta prima del salvataggio e la scarta se non adatta a un minore, indipendentemente dalla lingua della richiesta — l’immagine bloccata non viene conservata. In aggiunta: termini di sicurezza nel prompt negativo; assenza di caricamento di immagini da parte degli utenti (solo testo→immagine); registrazione dei tentativi bloccati in ingresso e in uscita; verifiche di robustezza documentate. È la misura richiesta dal divieto di cui all’art. 5(1) del Regolamento (UE) 2024/1689, che presidia l’output ragionevolmente prevedibile. |
| R7. Violazione dei dati Accesso non autorizzato ai sistemi. |
Bassa | Media | Vedi §5. Procedura di notifica al titolare senza ingiustificato ritardo ai sensi dell’art. 33, §2. |
| R8. Risposte o conversazioni inadatte in «Parla con Alma» Un alunno scrive o riceve contenuti non adatti a un minore (sessualità, violenza, autolesionismo, sostanze, odio), tenta di aggirare le regole del chatbot, oppure racconta una situazione di pericolo (per esempio un adulto che gli chiede segreti o foto). |
Bassa | Alta | Quattro livelli, dal 31 ottobre 2026: (1) lista di protezione per categorie in italiano, inglese e francese, applicata al testo dopo averlo normalizzato, così da riconoscere anche le parole storpiate (lettere staccate, numeri al posto delle lettere, lettere ripetute), oltre a numeri di telefono ed email; (2) moderazione automatica della domanda, con il contesto delle ultime battute, tramite il servizio di Mistral (§2.3), con soglie severe tarate per i minori; (3) regole di sicurezza nelle istruzioni del chatbot che non possono essere modificate dall’alunno, comprese le indicazioni su come rispondere a un bambino che chiede aiuto; (4) moderazione della risposta prima che l’alunno la veda. Se un livello scatta, il modello non viene interrogato o la risposta viene sostituita da un messaggio gentile adatto all’età; nei casi di autolesionismo o di possibile adescamento il messaggio invita a parlarne subito con un adulto di fiducia e indica Telefono Azzurro (19696). Se il servizio di moderazione non risponde, il chatbot si ferma invece di rispondere senza controllo. Nei log va solo la categoria del blocco, mai il testo. Le misure sono state provate prima della messa in servizio su oltre 150 frasi di prova e su risposte reali del chatbot. Rischio residuo: nessun filtro è infallibile; per questo l’uso è previsto solo con un adulto presente (condizioni d’uso per la Scuola). |
5.Misure di sicurezza
Art. 35, §7, lett. d) e art. 32 GDPR. Descrizione funzionale: i dettagli implementativi sono documentati e disponibili al titolare e alle autorità su richiesta.
- Infrastruttura di proprietà in UE: riconoscimento vocale, sintesi vocale e generazione immagini sono eseguiti su server del fornitore ubicati nell’Unione europea, non su cloud di terzi; solo il testo dei chatbot è affidato a un sub-responsabile UE (Mistral AI), tramite il suo punto di accesso regionale europeo. La manutenzione dei server è curata anche da un consulente esterno nominato sub-responsabile (§2.3).
- Cifratura in transito su tutte le comunicazioni.
- Credenziali e PIN protetti con funzione di hash adattiva e pepper conservato separatamente; il PIN è presente anche in forma leggibile, ad accesso riservato al docente (R4).
- Chiavi delle API di terzi cifrate a riposo, con chiave master distinta.
- Autenticazione centralizzata con separazione dei ruoli fra amministratore d’istituto, docente e studente.
- Protezione perimetrale a più livelli e difese contro tentativi ripetuti di accesso.
- Protezione contro le richieste falsificate e irrigidimento delle sessioni.
- Registro degli accessi e delle operazioni in sola aggiunta.
- Rotazione dei log: server 14 giorni; processi della piattaforma settimanale; log dei container giornaliera. Nessun contenuto scritto dagli utenti vi compare, salvo i prompt bloccati dal filtro di sicurezza di «Disegna con Sofia»; per «Parla con Alma» si registra solo la categoria del blocco.
- Protezioni del chatbot per gli alunni («Parla con Alma»): lista di protezione, moderazione della domanda e della risposta, regole di sicurezza non modificabili, arresto del servizio se il controllo non è disponibile (R8).
- Marcatura di trasparenza dei contenuti generati (art. 50(2) Reg. UE 2024/1689): le immagini di «Disegna con Sofia» sono marcate con due strati leggibili a macchina — provenienza C2PA firmata (dichiarazione trainedAlgorithmicMedia) e watermark impercettibile — e il prompt dell’utente è rimosso dai metadati del file. Dal 10 ottobre 2026 anche le risposte vocali di «Diretta il pappagallo» sono marcate con due tecniche (metadati e watermark impercettibile, vedi §2.6).
- Cancellazione automatica secondo i termini del §2.4, eseguita da processi pianificati e verificabili.
- Backup dei sistemi con verifica periodica del ripristino.
6.Rischi residui e consultazione preventiva
I rischi residui individuati sono i seguenti:
- Dati personali incidentali nel testo libero (R1): mitigato ma non eliminabile. È il rischio residuo principale.
- PIN in chiaro (R4): scelta di usabilità consapevole, di cui il fornitore ha programmato la revisione.
- Consenso genitoriale ex art. 4, c. 4, L. 132/2025: quadro interpretativo non consolidato. Vedi §3.1.
- Docenti come interessati pieni: per gli account degli adulti il GDPR si applica integralmente; l’attenuazione derivante dalla pseudonimizzazione vale per gli studenti, non per loro.
- Marcatura del testo generato dai chatbot (art. 50(2)): posizione motivata. I chatbot producono testo sintetico e rientrano quindi, in astratto, nell’obbligo di marcatura leggibile a macchina dell’art. 50(2). Alla data del presente documento tale marcatura non è applicata, per ragioni concrete e cumulative: (a) l’obbligo, per i sistemi già sul mercato prima del 2 agosto 2026, decorre dal 2 dicembre 2026 art. 111(4) Reg. UE 2024/1689, come modificato dal Reg. UE 2026/1744; (b) il testo è generato da un fornitore di modello a monte (Mistral AI, UE) sulla cui inferenza il fornitore del sistema non ha controllo: un watermark del testo si inserisce durante la generazione dei token, e il Code of Practice del 10 giugno 2026 prevede espressamente che la marcatura possa essere assolta «a diversi stadi della catena del valore, anche dal fornitore del modello a monte»; (c) il rischio che l’art. 50(2) mira a prevenire — la circolazione di contenuti sintetici spacciati per autentici — è basso per una chat effimera (le conversazioni degli alunni sono cancellate entro 15 minuti dall’ultima attività), dichiarata come IA a norma dell’art. 50(1) e non diffusa come file; (d) le tecniche di watermark del testo sono, allo stato dell’arte, poco affidabili sui testi brevi, come riconoscono il Code of Practice e le Linee guida della Commissione sull’art. 50 (luglio 2026); le risposte dei chatbot sono in larga parte brevi. Posizione del fornitore: si monitora l’implementazione della marcatura da parte del fornitore del modello a monte e l’evoluzione degli standard, riservandosi di adottare le misure fattibili entro il 2 dicembre 2026; la trasparenza dell’interazione con l’IA (art. 50(1)) è già in atto su tutti i chatbot. La marcatura art. 50(2) è invece già applicata alle immagini di «Disegna con Sofia», generate localmente e sotto il controllo del fornitore. La valutazione conclusiva su questa posizione spetta al titolare e al DPO/legale.
- Strumento di verifica della marcatura: le Linee guida della Commissione sull’art. 50 prevedono che il fornitore renda disponibile un modo per verificare se un contenuto è marcato. Oggi la verifica è possibile su richiesta, con strumenti interni; la messa a disposizione di uno strumento pubblico è da definire.
Nessuno di questi rischi residui è, a giudizio del fornitore, di livello elevato ai sensi dell’art. 36 GDPR: la consultazione preventiva del Garante non appare necessaria. La valutazione conclusiva spetta comunque al titolare e al suo DPO.
7.Cosa deve fare l’istituto per adottarla
Questo documento copre l’architettura. Il contesto lo mette la scuola.
- Sottoscrivere l’atto di nomina a responsabile ex art. 28, §3, se non già sottoscritto.
- Integrare le sezioni di contesto: finalità didattiche perseguite, classi e fasce d’età coinvolte, durata dell’attività, docenti autorizzati.
- Aggiornare l’informativa alle famiglie artt. 13-14, dichiarando l’uso di strumenti di IA, il ricorso al sub-responsabile con sede UE e il registro della classe consultabile dal docente (R5).
- Decidere sul consenso genitoriale per gli under 14, alla luce del §3.1.
- Disciplinare la custodia della corrispondenza PIN→alunno, che è un trattamento della scuola e non del fornitore (R3).
- Registrare il trattamento nel proprio registro ex art. 30, §1.
- Sottoporre il documento al DPO e acquisirne il parere ex art. 35, §2.
- Adottare la policy d’uso dell’IA e individuare il referente, come richiesto dalle Linee guida ministeriali (DM MIM n. 166 del 9 agosto 2025).
- Riesaminare la valutazione al variare del trattamento e comunque con periodicità almeno annuale art. 35, §11.
Contributo del responsabile del trattamento ai sensi dell’art. 28, §3, lett. f) del Regolamento (UE) 2016/679, redatto sulla base dell’architettura effettiva della piattaforma alla data indicata. Non costituisce parere legale e non sostituisce la valutazione del titolare né il parere del Responsabile della protezione dei dati. Il fornitore aggiorna il documento a ogni modifica sostanziale della piattaforma e ne comunica la nuova versione agli istituti licenziatari.
Riferimenti: Reg. (UE) 2016/679 · D.Lgs. 196/2003 come mod. dal D.Lgs. 101/2018 · Legge 23 settembre 2025 n. 132 · Reg. (UE) 2024/1689 · DM MIM n. 166 del 9 agosto 2025 · Linee guida WP248 rev.01.