Una simulazione alla luce del D.Lgs. 81/2008: il caso del lavoratore investito da una struttura automatizzata governata da un sistema robotico con IA
La progressiva introduzione dell’Intelligenza Artificiale nei processi produttivi pone le imprese davanti a una questione destinata ad assumere sempre maggiore rilevanza: come cambia la responsabilità del datore di lavoro quando le decisioni operative di un impianto sono affidate, almeno in parte, a sistemi automatizzati o governati da IA?
La tecnologia può aumentare sicurezza, produttività e capacità di controllo, ma non determina, di per sé, il trasferimento della responsabilità giuridica dall’organizzazione aziendale alla macchina.
FEDIMI propone quindi una simulazione giuridica, costruita su un caso ipotetico, per analizzare il problema alla luce dei principi del D.Lgs. 81/2008 e s.m.i.
IL CASO
Immaginiamo un reparto produttivo caratterizzato da un sistema misto:
- una parte della produzione è svolta mediante robot e strutture automatizzate;
- il processo è coordinato da un sistema basato su Intelligenza Artificiale;
- il sistema IA dispone anche di un controllo esterno e di sistemi di supervisione;
- alcuni lavoratori operano nel reparto per effettuare verifiche, controlli e attività di controllo qualità;
- robot, strutture mobili e lavoratori possono pertanto trovarsi all’interno dello stesso ambiente produttivo, secondo procedure e aree operative definite.
Durante il normale ciclo produttivo, un lavoratore addetto al controllo qualità entra nell’area prevista per effettuare una verifica.
Una struttura automatizzata in transito non viene arrestata dal dispositivo di sicurezza che avrebbe dovuto rilevare la presenza del lavoratore.
Il sistema di protezione non funziona correttamente.
Il lavoratore viene investito e subisce lesioni.
La domanda è inevitabile:
chi risponde dell’infortunio?
E soprattutto:
il fatto che il movimento della struttura fosse gestito da un sistema robotizzato controllato mediante IA può escludere o attenuare la responsabilità del datore di lavoro?
IL PUNTO DI PARTENZA: LA VALUTAZIONE DI TUTTI I RISCHI
Il primo riferimento è rappresentato dagli artt. 17, 28 e 29 del D.Lgs. 81/2008.
La valutazione dei rischi costituisce uno degli obblighi fondamentali dell’organizzazione della sicurezza aziendale.
L’art. 28 stabilisce che la valutazione deve riguardare tutti i rischi per la sicurezza e la salute dei lavoratori, considerando anche la scelta delle attrezzature e l’organizzazione dei luoghi di lavoro.
In un reparto nel quale uomini, robot e sistemi automatizzati operano contemporaneamente, la valutazione dovrebbe quindi prendere in considerazione non soltanto il funzionamento ordinario dell’impianto, ma anche le possibili condizioni di interferenza tra:
uomo – macchina – software – sistema di sicurezza – sistema di supervisione.
L’introduzione dell’IA non elimina questo obbligo.
Al contrario, la presenza di sistemi capaci di governare o modificare dinamicamente il comportamento delle macchine potrebbe rendere necessaria una valutazione ancora più approfondita delle possibili condizioni di rischio.
IL DVR NON PUÒ RIMANERE “FERMO” MENTRE LA FABBRICA CAMBIA
Un aspetto particolarmente importante riguarda l’art. 29 del D.Lgs. 81/2008.
La normativa prevede infatti la rielaborazione della valutazione dei rischi quando intervengono modifiche del processo produttivo o dell’organizzazione del lavoro significative ai fini della salute e sicurezza, nonché in relazione all’evoluzione della tecnica, della prevenzione e della protezione.
Questo principio assume particolare importanza nell’Industria 4.0 e, ancora di più, nell’industria basata sull’IA.
L’introduzione di:
robot collaborativi, sistemi di movimentazione automatizzata, algoritmi decisionali, sensoristica intelligente, sistemi di visione artificiale o controllo remoto
non dovrebbe quindi essere considerata esclusivamente un aggiornamento tecnologico della produzione.
Deve essere valutata anche come possibile modifica dell’ambiente e dell’organizzazione della sicurezza.
IL DISPOSITIVO DI SICUREZZA NON FUNZIONA: COSA OCCORRE ACCERTARE?
Torniamo alla nostra simulazione.
Il lavoratore viene investito perché il sistema destinato a impedire l’interferenza uomo-macchina non arresta la struttura in movimento.
In un eventuale procedimento penale non sarebbe sufficiente affermare semplicemente:
“il sistema di Intelligenza Artificiale ha sbagliato”.
Occorrerebbe ricostruire l’intera catena causale dell’incidente.
Tra gli aspetti che potrebbero essere oggetto di verifica:
1. Il rischio era stato individuato?
Il DVR contemplava espressamente la possibilità che un lavoratore potesse trovarsi nella traiettoria della struttura automatizzata?
2. Erano presenti adeguate misure di protezione?
Occorrerebbe verificare l’esistenza e l’adeguatezza di barriere, sensori, sistemi di arresto, segregazioni delle aree, procedure di accesso, dispositivi di emergenza e ulteriori misure tecniche.
3. Il sistema di sicurezza era sottoposto a manutenzione e controllo?
Un dispositivo di sicurezza esistente ma non correttamente funzionante potrebbe evidenziare problemi nella manutenzione, nelle verifiche periodiche o nell’organizzazione dei controlli.
4. Il guasto era prevedibile?
Sarebbe necessario verificare se fossero già stati registrati anomalie, falsi segnali, errori, malfunzionamenti o “near miss”.
5. Il lavoratore era stato adeguatamente formato e addestrato?
Le procedure di accesso e permanenza nelle aree automatizzate devono essere conosciute e concretamente applicabili.
6. Esisteva un sistema alternativo di sicurezza?
Una questione particolarmente significativa potrebbe riguardare l’eventuale presenza di una ridondanza dei sistemi di protezione.
In altri termini: il mancato funzionamento di un singolo sensore era sufficiente a consentire alla macchina di raggiungere fisicamente il lavoratore?
L’IA NON DIVENTA IL “DATORE DI LAVORO”
Questo rappresenta probabilmente il punto più interessante.
Un algoritmo può governare una macchina.
Può analizzare informazioni.
Può individuare anomalie.
Può modificare determinati parametri operativi.
Può perfino assumere decisioni operative entro i limiti della propria programmazione.
Ma, sotto il profilo della sicurezza sul lavoro, non diventa per questo titolare della posizione di garanzia propria delle persone fisiche individuate dall’ordinamento.
L’introduzione dell’IA non dovrebbe quindi essere interpretata come uno spostamento automatico della responsabilità dall’uomo alla tecnologia.
Il tema diventa piuttosto un altro:
chi aveva il dovere e il potere di governare quello specifico rischio?
LA POSIZIONE DEL DATORE DI LAVORO
Il datore di lavoro mantiene gli obblighi che l’ordinamento gli attribuisce e, in particolare, quelli non delegabili relativi alla valutazione dei rischi e alla conseguente elaborazione del DVR.
L’art. 18 individua inoltre numerosi obblighi del datore di lavoro e del dirigente, tra cui quelli connessi all’organizzazione della prevenzione, all’accesso alle aree caratterizzate da rischi specifici, all’informazione e all’adozione delle necessarie misure di sicurezza.
In presenza di un infortunio, tuttavia, la responsabilità penale non dovrebbe essere considerata automatica per il solo fatto che l’evento si sia verificato.
Dovrà essere accertato, caso per caso, se vi sia stata una concreta violazione degli obblighi prevenzionistici riferibili al soggetto e se tale violazione abbia avuto rilevanza causale rispetto all’evento.
In caso di lesioni potrebbero quindi assumere rilievo, ricorrendone concretamente tutti i presupposti, le fattispecie penali colpose connesse alla violazione della normativa antinfortunistica.
E SE IL SISTEMA ERA STATO PROGETTATO DA UN SOGGETTO ESTERNO?
La questione diventa ancora più interessante quando il sistema robotizzato e il relativo software siano stati progettati, forniti, programmati o mantenuti da soggetti terzi.
Immaginiamo che l’indagine accerti che:
- l’impresa utilizzatrice abbia correttamente installato il sistema;
- siano state rispettate le prescrizioni previste;
- la manutenzione sia stata regolarmente effettuata;
- il lavoratore abbia seguito correttamente le procedure;
- il DVR abbia valutato adeguatamente il rischio;
- ma il sistema di sicurezza presenti un difetto originario di progettazione, programmazione o integrazione.
In questo scenario l’accertamento delle responsabilità potrebbe estendersi ad altri soggetti della filiera tecnica.
Progettista, costruttore, integratore, installatore, manutentore, fornitore del sistema software o altri soggetti tecnicamente coinvolti potrebbero assumere rilievo, a seconda della concreta origine del malfunzionamento e delle rispettive competenze.
La presenza di più soggetti, tuttavia, non determina automaticamente l’esclusione della posizione del datore di lavoro: occorre ricostruire le singole sfere di competenza e il rapporto causale tra eventuali condotte colpose e l’infortunio.
E SE L’IA HA ASSUNTO UNA DECISIONE NON PREVISTA?
Consideriamo uno scenario ancora più complesso.
Il dispositivo fisico funziona correttamente, ma il sistema IA modifica autonomamente un parametro operativo e determina una traiettoria o una condizione non prevista in fase di progettazione.
Qui emerge uno dei problemi giuridici più interessanti del prossimo futuro:
fino a che punto un comportamento autonomo e imprevedibile del sistema può incidere sulla responsabilità delle persone chiamate a governarne l’utilizzo?
La risposta non può essere automatica.
Occorrerebbe verificare almeno:
- prevedibilità del comportamento;
- possibilità tecnica di controllo;
- limiti assegnati al sistema;
- sistemi di supervisione umana;
- possibilità di arresto;
- procedure previste in caso di comportamento anomalo;
- conoscenza di precedenti anomalie;
- adeguatezza delle misure tecniche disponibili al momento dell’evento.
Il problema giuridico, quindi, si sposterebbe dalla semplice domanda “chi ha commesso l’errore?” a una domanda molto più articolata:
“chi aveva il potere e il dovere di prevedere, controllare o impedire che quell’errore tecnologico producesse conseguenze per il lavoratore?”
ANCHE L’IMPRESA POTREBBE ESSERE COINVOLTA
L’analisi non riguarda necessariamente soltanto le persone fisiche.
In presenza dei relativi presupposti potrebbe entrare in considerazione anche il D.Lgs. 231/2001, con particolare riferimento ai reati di omicidio colposo o lesioni personali colpose gravi o gravissime commessi con violazione delle norme sulla tutela della salute e sicurezza sul lavoro.
Si tratta di un profilo distinto dalla responsabilità penale individuale e che richiede una specifica verifica dei presupposti previsti dalla normativa sulla responsabilità degli enti.
Ne deriva un ulteriore messaggio per le imprese: l’evoluzione tecnologica dovrebbe procedere parallelamente all’aggiornamento dei modelli organizzativi, dei sistemi di controllo e delle procedure di gestione della sicurezza.
DALLA “SICUREZZA DELLA MACCHINA” ALLA “SICUREZZA DEL SISTEMA”
L’Intelligenza Artificiale obbliga probabilmente a modificare anche il modo con cui pensiamo alla prevenzione.
Nella fabbrica tradizionale l’analisi era prevalentemente concentrata sulla singola macchina.
Nella fabbrica digitale diventa sempre più necessario analizzare il sistema complessivo.
Un robot può essere sicuro.
Un software può essere correttamente progettato.
Un sensore può essere certificato.
Una procedura può essere formalmente corretta.
Ma ciò non significa necessariamente che l’interazione tra tutti questi elementi sia automaticamente sicura.
La vera sfida diventa pertanto la sicurezza dell’interazione:
UOMO ↔ ROBOT ↔ IA ↔ SENSORI ↔ SOFTWARE ↔ ORGANIZZAZIONE
L’IA PUÒ ESSERE ANCHE UNO STRUMENTO DI PREVENZIONE
Non bisogna, tuttavia, trasformare il dibattito sull’IA in una rappresentazione esclusivamente negativa.
Le stesse tecnologie possono diventare straordinari strumenti di prevenzione.
Sistemi intelligenti possono contribuire a rilevare comportamenti anomali, prevedere guasti, identificare situazioni pericolose, analizzare near miss e arrestare un impianto prima che si verifichi un incidente.
La vera questione per le imprese non sarà quindi scegliere tra IA e sicurezza.
Sarà imparare a progettare:
IA + sicurezza + organizzazione + controllo umano.
LA POSIZIONE DI FEDIMI
Come associazione datoriale, FEDIMI ritiene che l’innovazione tecnologica debba essere accompagnata da un’evoluzione altrettanto rapida della cultura della prevenzione.
Non sarebbe corretto trasformare automaticamente ogni infortunio verificatosi in un ambiente tecnologicamente avanzato in una responsabilità del datore di lavoro.
Ma sarebbe altrettanto errato pensare che l’affidamento di determinate funzioni a un sistema automatizzato o a un’Intelligenza Artificiale possa creare una sorta di “zona franca della responsabilità”.
La questione centrale rimane la corretta organizzazione del rischio.
Per questo motivo le imprese che introducono sistemi robotizzati e soluzioni IA dovrebbero accompagnare l’investimento tecnologico con una revisione della valutazione dei rischi, delle procedure, della formazione, dei sistemi di supervisione e dei protocolli di manutenzione e controllo.
La fabbrica del futuro non sarà semplicemente più automatizzata.
Dovrà essere anche più consapevole, più controllata e più sicura.
Nota – Simulazione a finalità informativa
Il caso descritto è esclusivamente ipotetico e viene proposto da FEDIMI con finalità divulgative e di approfondimento sui temi della sicurezza, dell’innovazione tecnologica e dell’organizzazione aziendale. L’individuazione di eventuali responsabilità penali richiede sempre l’accertamento delle circostanze del singolo caso, delle posizioni di garanzia, delle deleghe eventualmente conferite, delle condotte concretamente poste in essere e del relativo nesso causale.
Lidio Damiano Carboni
Responsabile Rapporti istituzionali FEDIMI