Principi, Governance e AI Act per Tecnologie Responsabili e Affidabili

L’innovazione tecnologica non produce valore solo perché introduce strumenti più potenti, più veloci o più automatizzati. Produce valore quando riesce a migliorare la vita delle persone, a rendere più affidabili i servizi, a sostenere la competitività delle imprese e a farlo senza compromettere diritti, sicurezza, equità e sostenibilità. È in questo spazio che entrano in gioco etica e accountability: due parole che spesso vengono percepite come astratte o accessorie, ma che in realtà rappresentano una parte essenziale della qualità dell’innovazione.

Oggi il tema riguarda da vicino pubbliche amministrazioni, imprese, università, centri di ricerca e fornitori di tecnologia. I sistemi basati su dati e AI possono generare vantaggi importanti in sanità, manifattura, energia, servizi pubblici, turismo e logistica; ma possono anche amplificare bias, rendere opache le decisioni, esporre informazioni personali, spostare i costi ambientali o creare dipendenze organizzative difficili da governare. Per questo l’Unione europea ha costruito un quadro sempre più esplicito fondato su fiducia, diritti fondamentali, trasparenza e gestione del rischio, con l’AI Act come riferimento normativo principale e con una più ampia tradizione di trustworthy AI e innovazione centrata sulla persona.

Per la Sardegna, questo tema si collega sia alla Priorità P8, perché i servizi digitali e le infrastrutture intelligenti devono essere affidabili e verificabili, sia alla Priorità P1, perché l’innovazione nelle PMI e nelle filiere ha bisogno di modelli di sviluppo responsabili, capaci di rafforzare competitività senza sacrificare coesione sociale, parità di genere, tutela dei dati e sostenibilità.

• Perché etica e accountability non sono un freno all’innovazione
• I principi chiave: equità, bias, privacy, sicurezza e sostenibilità
• Dall’etica alla governance: ruoli, processi e responsabilità
• Linee guida operative per imprese e pubbliche amministrazioni
• AI Act e valori europei: un quadro comune per l’innovazione responsabile
• Misurare, rendere conto, correggere: l’accountability come pratica
• Una prospettiva di lungo periodo per la fiducia tecnologica

Perché etica e accountability non sono un freno all’innovazione

Nel dibattito pubblico, l’etica applicata alla tecnologia viene talvolta presentata come una forma di cautela che rallenta l’innovazione. In realtà accade spesso il contrario. Le organizzazioni che non riflettono in anticipo sugli effetti sociali, giuridici e organizzativi delle tecnologie tendono a pagare costi più alti in un secondo momento: errori di progettazione, contenziosi, perdita di fiducia, blocco dei progetti, resistenze interne, reputazione compromessa e difficoltà di scalare soluzioni che non sono state pensate in modo responsabile fin dall’inizio.

L’etica, quindi, non va letta come un commento esterno alla tecnologia, ma come una componente della sua qualità progettuale. Un sistema digitale è più solido quando sa spiegare i propri limiti, quando riduce i rischi di discriminazione, quando protegge i dati, quando prevede supervisione umana e quando rende chiaro chi risponde delle decisioni. L’accountability serve proprio a questo: trasformare principi generali in responsabilità concrete, ruoli verificabili, evidenze documentate e processi di correzione.

Questo vale in modo particolare nella pubblica amministrazione, dove l’innovazione non può essere valutata solo in base alla velocità o al risparmio di tempo. I servizi pubblici devono anche essere comprensibili, equi, contestabili e affidabili. Ma vale anche per le imprese, soprattutto quando operano in mercati regolati, trattano dati sensibili o costruiscono soluzioni destinate a utenti, lavoratori, cittadini o clienti che chiedono sempre più spesso non solo efficienza, ma anche garanzie di correttezza.

L’innovazione responsabile, quindi, non riduce il potenziale tecnologico. Lo rende più robusto, più legittimo e più sostenibile nel tempo.

I principi chiave: equità, bias, privacy, sicurezza e sostenibilità

Parlare di etica della tecnologia significa prima di tutto chiarire quali principi devono guidare le scelte progettuali e organizzative. Nel contesto europeo, alcuni riferimenti sono ormai consolidati e possono essere tradotti in una griglia di lettura concreta per imprese e PA.

Il primo principio è l’equità. Un sistema tecnologico è equo quando non produce svantaggi sproporzionati per individui o gruppi sulla base di caratteristiche non pertinenti o protette. Nel caso dei sistemi di AI, questo significa interrogarsi sul modo in cui i dati sono raccolti, etichettati e usati, ma anche su come i risultati vengono interpretati e applicati. Il problema del bias non riguarda solo i dataset: può emergere negli obiettivi scelti, nelle soglie decisionali, nelle categorie amministrative o nelle pratiche organizzative che accompagnano l’uso del sistema.

Il secondo principio è la privacy, che nel contesto europeo non coincide solo con un adempimento formale. Significa minimizzazione dei dati, chiarezza sulle finalità, uso proporzionato delle informazioni, protezione degli interessati, governance dell’accesso e attenzione ai rischi di riuso improprio. In molti servizi digitali il vero errore non è soltanto “violare” la privacy, ma costruire sistemi che chiedono più dati del necessario o che non rendono chiaro perché un certo dato è davvero utile.

Il terzo principio è la sicurezza e la robustezza tecnica. Una tecnologia non è eticamente accettabile se è fragile, manipolabile, poco resiliente o incapace di gestire gli errori in modo sicuro. Questo vale per il software, per le API, per i modelli di AI, per i sistemi cloud e per le piattaforme che supportano servizi pubblici o industriali. La qualità etica, in questo senso, non è separata dalla qualità ingegneristica.

Il quarto principio è la trasparenza. Gli utenti, i cittadini, i lavoratori e i partner devono poter capire quando stanno interagendo con un sistema automatizzato, quali dati vengono usati, con quali limiti e, per quanto possibile, secondo quali logiche viene generato un risultato. La trasparenza non impone di rendere pubblico tutto il codice o tutti i segreti industriali, ma richiede di non nascondere ciò che è rilevante per comprendere impatti e responsabilità.

Il quinto principio è la sostenibilità. Un’innovazione può essere molto efficiente sul piano operativo e al tempo stesso produrre costi ambientali o sociali rilevanti. L’etica europea della tecnologia richiama sempre di più il tema del benessere sociale e ambientale: consumo energetico, effetti sulle comunità, accessibilità, inclusione, conseguenze sui territori e sugli ecosistemi. L’innovazione, in altre parole, non dovrebbe essere valutata solo per ciò che rende possibile, ma anche per ciò che sposta o consuma.

Dall’etica alla governance: ruoli, processi e responsabilità

I principi diventano davvero utili solo quando sono tradotti in governance. Molte organizzazioni dichiarano di adottare un approccio etico, ma poi non sanno indicare chi prende le decisioni, chi valuta i rischi, chi approva i sistemi, chi gestisce gli incidenti o chi risponde di fronte agli utenti e ai controllori. È qui che l’accountability diventa decisiva.

Una governance credibile dovrebbe chiarire almeno quattro livelli. Il primo riguarda i ruoli: chi è il responsabile di business o del servizio, chi presidia il dato, chi si occupa della conformità, chi valida l’uso del sistema, chi monitora effetti inattesi e chi gestisce reclami o contestazioni. Il secondo riguarda i processi: valutazione del caso d’uso, analisi preliminare dei rischi, scelta dei dati, test, rilascio, monitoraggio, audit periodico e regole di escalation se qualcosa non funziona.

Il terzo livello riguarda le evidenze. Un’organizzazione dovrebbe essere in grado di documentare come un sistema è stato progettato, quali dati usa, quali limiti presenta, quali metriche sono state considerate, quali soglie di rischio sono state accettate e come vengono gestiti gli aggiornamenti. Senza questa traccia, l’accountability resta puramente retorica.

Il quarto livello riguarda il controllo umano significativo. In molti casi, soprattutto quando il sistema incide su persone, diritti, accesso a servizi o scelte rilevanti, è necessario che esistano meccanismi di supervisione e possibilità di intervento umano. Non si tratta di bloccare l’automazione, ma di evitare che la delega tecnologica diventi deresponsabilizzazione.

Questo schema vale sia per la PA sia per le imprese. Nelle amministrazioni, la governance deve tutelare legalità, imparzialità, trasparenza e diritti. Nelle imprese, deve conciliare innovazione, reputazione, conformità e rapporto con clienti e filiere. In entrambi i casi, la qualità etica della tecnologia dipende molto meno dagli slogan e molto più dalla qualità di questi processi.

Linee guida operative per imprese e pubbliche amministrazioni

Per rendere l’etica applicata alla tecnologia davvero praticabile, imprese e PA possono partire da alcune linee guida semplici ma strutturanti.

La prima è valutare il contesto d’uso prima della tecnologia. Non ogni problema richiede AI o automazione. Prima di adottare un sistema, occorre chiarire l’obiettivo, i destinatari, il livello di rischio, la presenza di alternative meno invasive e l’impatto atteso su diritti, persone e processi. Questa fase è decisiva soprattutto nella PA, dove il valore pubblico non coincide automaticamente con l’efficienza.

La seconda è mappare dati e rischi. Quali dati vengono usati? Sono pertinenti e aggiornati? Ci sono rischi di esclusione, errore sistematico o trattamento sproporzionato? Il sistema può svantaggiare gruppi specifici? La qualità etica si costruisce molto prima del deployment, nella selezione delle fonti, nella definizione delle variabili e nella comprensione dei limiti del dataset.

La terza è documentare e rendere spiegabili le scelte. Un’organizzazione non deve solo sviluppare bene una soluzione, ma poter spiegare perché l’ha scelta, con quali obiettivi e con quali presìdi. Questo aiuta il management, i revisori, i partner e anche gli utenti finali a comprendere meglio il sistema.

La quarta è stabilire un monitoraggio nel tempo. Bias, errori, problemi di sicurezza o impatti inattesi possono emergere dopo il rilascio. Per questo servono indicatori di qualità, meccanismi di feedback, canali di segnalazione, revisioni periodiche e processi di correzione. L’etica non si “certifica” una volta per tutte: si mantiene.

La quinta è coinvolgere competenze diverse. La governance dell’innovazione non può essere affidata solo a sviluppatori o consulenti legali. Servono anche referenti di processo, protezione dati, sicurezza, qualità, comunicazione, direzione e, quando possibile, rappresentanti degli utenti o dei soggetti impattati. L’interdisciplinarità è una condizione della qualità etica, non un costo accessorio.

AI Act e valori europei: un quadro comune per l’innovazione responsabile

L’Unione europea ha scelto di affrontare il tema dell’AI e della tecnologia digitale dentro un quadro basato su diritti fondamentali, gestione del rischio e centralità della persona. L’AI Act (Regolamento UE 2024/1689) rappresenta il riferimento normativo più rilevante di questa fase: introduce un approccio risk-based, distingue tra diversi livelli di rischio e mira a promuovere un’AI affidabile e compatibile con i valori europei. Entrato in vigore nell’agosto 2024 e pienamente applicabile dall’agosto 2026, è il primo quadro giuridico completo sull’AI a livello mondiale. Allo stesso tempo, la tradizione europea della trustworthy AI ha già chiarito da anni che una tecnologia affidabile dovrebbe essere insieme legale, etica e robusta.

Questo quadro è importante perché offre una bussola comune alle organizzazioni. Non dice solo “cosa è vietato” o “cosa è consentito”, ma spinge a costruire processi che tengano insieme sicurezza, trasparenza, controllo umano, non discriminazione e attenzione agli impatti sociali e ambientali. In pratica, aiuta imprese e amministrazioni a evitare due errori opposti: da un lato l’adozione ingenua e opaca della tecnologia, dall’altro una paralisi che rinuncia a innovare per paura di rischi non governati.

Per la PA, il quadro europeo ha un significato ulteriore. L’uso della tecnologia da parte del settore pubblico non può essere neutro: incide sulla relazione di fiducia con i cittadini e sulla qualità stessa della democrazia amministrativa. Per le imprese, invece, il vantaggio principale è la possibilità di innovare dentro regole più chiare, con una prospettiva di mercato che premia affidabilità, accountability e rispetto dei diritti.

In questa prospettiva, i valori europei non sono un vincolo esterno imposto alla tecnologia. Sono il perimetro entro cui la tecnologia può essere adottata in modo più credibile, duraturo e accettabile.

Misurare, rendere conto, correggere: l’accountability come pratica

L’accountability diventa reale quando può essere misurata e praticata. Questo significa che imprese e PA dovrebbero dotarsi di indicatori, soglie e meccanismi di controllo che permettano di capire non solo se una tecnologia “funziona”, ma se funziona bene rispetto ai principi dichiarati.

Si possono misurare, ad esempio, la qualità dei dati, il tasso di errore, la presenza di scostamenti tra gruppi o contesti, il numero di contestazioni, i tempi di correzione degli incidenti, la percentuale di casi gestiti con supervisione umana, la chiarezza dell’informativa agli utenti, la frequenza di aggiornamento dei modelli o l’impatto energetico del sistema. In una PA si possono aggiungere indicatori di comprensibilità delle decisioni, tracciabilità dei passaggi, riduzione di errori procedurali o equità di accesso. Nelle imprese si possono osservare anche indicatori di fiducia del cliente, conformità contrattuale e robustezza della supply chain digitale.

Ma misurare non basta. Occorre anche rendere conto. Ciò significa predisporre report sintetici, registri di decisione, documentazione interna, audit periodici, momenti di riesame e, quando necessario, comunicazioni chiare verso utenti e partner. La trasparenza organizzativa non richiede di pubblicare tutto, ma di non lasciare opache le dimensioni rilevanti del rischio e della responsabilità.

Infine, serve la capacità di correggere. Un’organizzazione accountable non è quella che non sbaglia mai, ma quella che sa riconoscere un problema, documentarlo, intervenire e imparare da ciò che è accaduto. Questo vale tanto per un errore di un modello quanto per una policy mal progettata o un processo di supervisione inadeguato.

È qui che etica e accountability si incontrano davvero: nella capacità di trasformare principi in pratiche verificabili e migliorabili.

Una prospettiva di lungo periodo per la fiducia tecnologica

L’etica e l’accountability dell’innovazione non sono una moda lessicale né un tema accessorio da affrontare solo quando emerge un incidente. Sono una parte della infrastruttura di fiducia che rende possibile la trasformazione digitale di lungo periodo. Senza questa infrastruttura, le tecnologie possono certamente diffondersi, ma difficilmente riescono a radicarsi in modo stabile, legittimo e utile.

Per la Sardegna, questo significa che la qualità dell’innovazione non dipenderà solo dalla disponibilità di fondi, competenze o startup, ma anche dalla capacità del territorio di costruire pratiche condivise di governo della tecnologia: più attenzione ai diritti, più consapevolezza dei rischi, più trasparenza, più parità di accesso, più sostenibilità ambientale e organizzativa. In questa chiave, la P8 rafforza la dimensione digitale e infrastrutturale, mentre la P1 aiuta a tradurre questi principi in competitività, trasferimento tecnologico e innovazione di filiera.

Nel lungo periodo, la vera differenza non la farà la quantità di sistemi adottati, ma la capacità di usarli in un quadro di fiducia, controllo e responsabilità. È questa la condizione che consente all’innovazione di essere non solo più avanzata, ma anche più giusta, più leggibile e più coerente con i valori europei.