Le regole bastano a rendere etica l'AI in azienda?

No. Dal 2 febbraio 2025 l'AI Act vieta di dedurre le emozioni delle persone sul posto di lavoro e obbliga a formare chi usa l'AI; dal 2 agosto 2026 impone di dichiarare i chatbot e di rendere riconoscibili i contenuti generati. Ma fra ciò che è chiaramente vietato e ciò che è chiaramente permesso resta uno spazio largo, e lì decide la persona davanti allo schermo.

Questo articolo racconta l'incontro del 15 settembre 2026 che ho tenuto insieme a Isabella Flecchia, fondatrice di Impulso Futuro ed esperta di cambiamento di persone e team, davanti a una platea di manager e responsabili HR. Il video integrale è qui sotto.

Quali obblighi dell'AI Act valgono già oggi per la mia azienda?

Tre, e non sono in arrivo: sono in vigore. Il Regolamento (UE) 2024/1689, cioè l'AI Act, li ha già tradotti in cose che cambiano la giornata di lunedì.

Se usi l'AI verso il pubblico, lo devi dichiarare. Dal 2 agosto 2026 si applica l'articolo 50: un chatbot deve far capire dal primo contatto che non è una persona, e i contenuti generati vanno resi riconoscibili con marcature leggibili da una macchina. Se ti è mai arrivato a casa un prodotto che nella pubblicità sembrava il doppio più grande, hai visto il problema da vicino: un modello che genera un'immagine non mantiene le proporzioni, e nessuno ti aveva avvisato che quell'immagine era generata.

Se hai delle persone, non puoi analizzarne le emozioni sul posto di lavoro. Il divieto dell'articolo 5 è applicabile dal 2 febbraio 2025 e riguarda i sistemi che deducono lo stato emotivo dei lavoratori, con le eccezioni previste per finalità mediche o di sicurezza.

Se in azienda si usa l'AI, le persone vanno formate e la formazione va documentata. È l'articolo 4, applicabile anche questo dal 2 febbraio 2025. Non servono certificazioni: non esiste un ente certificatore. Serve che qualcuno in azienda se ne occupi e scriva che è stato fatto. Poche ore fatte bene, con un piano, valgono più di competenze raccolte per caso nei corridoi. Su questo punto ho scritto una guida a parte: perché comprare strumenti AI non basta più.

Nella mia esperienza in azienda, l'obbligo di formazione è quello che quasi nessuno sa di avere. È in vigore da un anno e mezzo.

Posso usare l'AI per valutare o selezionare le persone?

Per ora sì, ed è esattamente questo il punto. I sistemi ad alto rischio dell'Allegato III, che includono quelli usati per l'assunzione e la gestione del personale, dovevano diventare obbligatori dal 2 agosto 2026. Il Regolamento (UE) 2026/1744, il Digital Omnibus sull'AI dell'8 luglio 2026, pubblicato in Gazzetta Ufficiale dell'Unione il 24 luglio 2026, li ha rinviati al 2 dicembre 2027.

Quel rinvio non sposta la domanda, la lascia aperta più a lungo. Da qui a dicembre 2027 usare l'AI per giudicare una persona non è illegale: è una decisione tua, cioè un problema etico prima che normativo.

Due fatti aiutano a capire dove porta la strada sbagliata. Il Garante per la protezione dei dati personali, con il provvedimento del 14 maggio 2026, è intervenuto sul caso Myndoor: un plugin per Slack e Teams che stimava il livello di stress dei lavoratori analizzando semanticamente i messaggi in chat. Un prodotto nato per il benessere organizzativo, con ogni probabilità in buona fede. Il Garante ha chiarito che informazioni sullo stato emotivo dei dipendenti, dedotte da un sistema di AI, non devono arrivare al datore di lavoro.

Molto prima, nell'ottobre 2018, Amazon abbandonò lo strumento interno di selezione dei curriculum che si era addestrato su dieci anni di candidature in un settore a maggioranza maschile e aveva imparato a penalizzare quelle femminili. Nessuno lo aveva programmato per farlo: aveva solo imparato bene da dati sbilanciati.

Perché la stessa tecnologia funziona in un'azienda e fallisce in un'altra?

Perché la differenza non sta nello strumento, sta in come entra.

Nel primo caso che ho incontrato, la direttrice di un albergo faceva le riunioni da remoto e lasciava che il sistema trascrivesse tutto e producesse il riassunto. Poi usava quel riassunto per valutare i collaboratori: cosa avrebbe dovuto fare quella persona secondo il mansionario, e dove ha sbagliato. Il riassunto però non sa se quel giorno avevi un problema, non sa cosa è successo il giorno prima. Il risultato è che le persone si sentivano giudicate da una macchina che non poteva capirle, e a un certo punto non si capiva più chi dirigesse l'albergo.

Quel caso ha tre difetti, ed è utile enumerarli perché si ripetono ovunque: le persone non sapevano di essere valutate, non potevano rispondere a quel giudizio, e di quel giudizio non rispondeva nessuno.

Nel secondo caso, un'impresa di servizi tecnici per l'edilizia con una dozzina di persone. L'imprenditore mi disse: "Vorrei adottare l'AI, ma ho tanti dubbi". È una bella frase, molto più promettente del suo contrario, che di solito suona come "lo strumento lo decido io e tu lo usi come dico io". Da quei dubbi è nato un percorso: prima capire come lavorano davvero i vari reparti, poi la formazione, poi gli strumenti, che non erano uno solo. Stessa tecnologia del primo caso, risultato opposto. Da una parte ansia, dall'altra persone contente, e qualcuno che è diventato il riferimento interno.

La differenza in una riga: nel primo caso l'AI è entrata addosso alle persone, nel secondo insieme a loro.

Cosa chiede l'articolo 14 sulla supervisione umana, e perché è difficile applicarlo?

Qui il contributo di Isabella è stato il più scomodo, perché non riguarda cosa dice la norma ma cosa serve a una persona per riuscire a farlo.

L'articolo 14 dell'AI Act dice che chi esercita la supervisione su un sistema ad alto rischio deve essere consapevole del rischio di affidarsi automaticamente o eccessivamente agli output, quello che si chiama automation bias. È chiarissimo. Poi prova a portarlo nella giornata vera: come fa un supervisore a restare vigile quando ha poco tempo, molte priorità tutte urgenti, e quando fidarsi della risposta costa meno fatica che verificarla?

Lo stesso articolo dice che chi supervisiona deve poter decidere di non usare il sistema, oppure ignorarne, modificarne o ribaltarne gli output. Avere formalmente quel potere però non è la stessa cosa che esercitarlo, soprattutto se quella persona non si sente sicura delle proprie capacità tecniche, o del proprio ruolo, o del proprio posto di lavoro.

"Le regole ci danno il perimetro, ma dentro c'è una persona che deve potersi accorgere che sta scegliendo."

Isabella Flecchia, fondatrice di Impulso Futuro

Nel suo lavoro con una grande azienda cliente, racconta Isabella, c'erano regole chiare, formazione dedicata a tutti, manager che le seguivano per primi, strumenti adeguati anche per i dati sensibili, e persino un punto di riferimento interno. Tutto fatto da manuale. Eppure, appena si è creato uno spazio abbastanza sicuro per parlarne, le domande delle persone erano ancora lì. Una buona governance non le cancella: le rende dicibili.

Da dove si comincia lunedì mattina?

Dalle tre domande con cui abbiamo chiuso l'incontro, che valgono come controllo rapido su qualunque uso dell'AI tu stia facendo:

1. Come resto vigile davvero? Non in teoria: quando hai quindici minuti e cinque cose urgenti.
2. Quanto riesco a mantenere il mio giudizio? Anche davanti a una risposta formulata con assoluta sicurezza, e sbagliata.
3. Mi accorgo di quando sto delegando? Perché il sollievo di sentirsi dire che va tutto bene è reale, e non è un buon criterio.

Se le tre domande ti sembrano vaghe, prova l'unico test concreto che conosco: chiediti se le persone che l'AI tocca sanno di essere toccate, se possono rispondere, e se qualcuno risponde di quel risultato. Erano i tre difetti del caso dell'albergo, e sono un buon setaccio.

Il secondo dei due incontri dedicati all'etica si tiene il 14 ottobre 2026 dalle 12.30 alle 13.30, sempre su LinkedIn, e parte da dove questo si è fermato: dove sta la responsabilità individuale.

Se invece vuoi partire dalla tua azienda, l'obbligo di formazione dell'articolo 4 è il punto più semplice da cui cominciare, perché è già scaduto e si chiude in poche ore fatte bene. Il resto dell'AI Act, con le scadenze e le sanzioni, lo trovi in questa guida. Per una fotografia rapida di come sta messa la tua azienda c'è il test di AI Readiness, gratuito e da cinque minuti, e gli altri pezzi su come l'AI entra davvero al lavoro stanno nell'hub Adozione AI.

Domande frequenti

Quando diventano obbligatori gli obblighi dell'AI Act sui sistemi ad alto rischio?

Il 2 dicembre 2027 per i sistemi ad alto rischio dell'Allegato III, che comprendono quelli usati per assumere e gestire il personale. La scadenza originaria era il 2 agosto 2026, ma il Regolamento (UE) 2026/1744, il Digital Omnibus sull'AI pubblicato in Gazzetta Ufficiale dell'Unione il 24 luglio 2026, l'ha rinviata. Gli obblighi di trasparenza dell'articolo 50 e quello di alfabetizzazione dell'articolo 4 non sono stati rinviati.

Posso analizzare le emozioni o lo stress dei dipendenti con l'AI?

No. Il divieto dell'articolo 5 dell'AI Act è applicabile dal 2 febbraio 2025 e riguarda i sistemi che deducono le emozioni delle persone sul posto di lavoro, salvo le eccezioni per finalità mediche o di sicurezza. Il Garante privacy, con il provvedimento del 14 maggio 2026 sul caso Myndoor, ha aggiunto un punto che vale anche quando il servizio è volontario: le informazioni sullo stato emotivo dedotte dall'AI non devono arrivare al datore di lavoro.

La formazione sull'AI è obbligatoria per le aziende?

Sì. L'articolo 4 dell'AI Act è applicabile dal 2 febbraio 2025 e chiede misure di alfabetizzazione adeguate alle competenze del personale e al contesto d'uso. Non serve una certificazione e non esiste un ente certificatore, ma serve che l'azienda se ne occupi e che la formazione sia documentata. Poche ore con un piano strutturato valgono più di competenze raccolte in modo informale.

Chi è Castaldo Solutions e chi ha organizzato l'incontro?

Castaldo Solutions è una società di consulenza tecnologica con sede legale a Milano e sede operativa a Pavia, specializzata nell'adozione dell'AI nelle PMI italiane fino a 50 dipendenti. Il metodo di lavoro si chiama CompanyTech BattlePlan e si articola in 4 fasi su 4-8 settimane. L'incontro del 15 settembre 2026 è stato organizzato insieme a Impulso Futuro, di cui Isabella Flecchia è fondatrice. Il primo passo per un'azienda è un Pre-Assessment gratuito.