Sicurezza e responsabilità nei sistemi robotici
Assicurare una sicurezza elevata dei propri prodotti e prospettare risposte adeguate per l’eventualità che essi arrechino danni a chi li usa o a terzi costituisce una delle preoccupazioni costanti dell'industria robotica. I sistemi robotici sono sempre più pensati per essere introdotti in ambienti comuni, a stretto contatto con l'uomo e ciò aumenta, insieme alla versatilità della tecnologia, le occasioni di contatto e di impatto accidentale.
(Nella foto: Michele Iaselli, Coordinatore del Comitato Scientifico di Fedeprivacy)
Rispetto ai robot industriali - macchine che sono confinate in spazi predisposti per accoglierle da barriere fisiche e virtuali, e munite di dispositivi che ne arrestano o ne riducono il movimento nel caso in cui una persona faccia ingresso nell' area delimitata - il rischio di incidenti è contenuto.
Molto più difficile è introdurre sistemi di sicurezza affidabili nei robot mobili, che sono progettati per circolare in ambienti non strutturati, come il comune traffico stradale, oppure per essere inseriti in abitazioni private, o ancora per operare in stretta relazione con una persona che soffre di una disabilità o che necessita di una terapia riabilitativa.
È il caso dei robot assistenti, che devono muoversi in ambienti altamente dinamici e unire autonomia e flessibilità per assistere l'individuo nelle attività quotidiane; il sistema di sensori di cui sono dotati dovrebbe consentire loro di localizzarsi, di evitare gli ostacoli, di pianificare la traiettoria da seguire, ma la complessità di queste operazioni è tale da non consentire di scongiurare completamente ogni rischio.
Ancora più evidente è il problema rispetto ai veicoli autonomi, che possono notevolmente aumentare la sicurezza del traffico su strada, secondo alcune stime, posto che non soffrono di deficit di attenzione, di problemi di distrazione, di imprudenza o imperizia; i loro software sono in grado di registrare e seguire la traiettoria di più oggetti in movimento lungo un campo visivo più ampio di quello umano e consentono tempi di reazione più rapidi.
Il rischio principale è però legato alla necessaria condivisione dell’ambiente operativo con altri veicoli normalmente guidati e con pedoni, il cui comportamento può essere imprevedibile, nonché alla relativa velocità di funzionamento che non può essere eccessivamente limitata salvo privarli di utilità per gli spostamenti.
Preoccupazioni per la sicurezza della stessa persona che li usa suscitano poi i robot usati nella riabilitazione, per esempio degli arti dopo un ictus cerebrale o una lesione del midollo spinale, che sono dispositivi indossabili e quindi destinati ad essere impiegati in strettissimo contatto con il corpo. Sistemi come le protesi bioniche o interfaccia cervello-macchina che manovrano una sedia a rotelle o un'altra piattaforma robotica pongono primariamente il problema della corretta interpretazione del segnale che induce il movimento dell'arto artificiale o del dispositivo esterno.
Le tipologie di rischi da fronteggiare sono legate a vizi ingegneristici o di programmazione (scarsa tenuta delle componenti meccaniche, difetti del sistema elettronico o del software, algoritmi inaffidabili), a errori umani dell'operatore, a condizioni ambientali che ostacolano l'attività dei sensori. Un malfunzionamento potrebbe far sì che il robot non si arresti in presenza di un ostacolo, che assuma una velocità eccessiva, che si metta in moto bruscamente, in generale che dia una risposta non corretta agli stimoli che riceve.
Ma vi sono altri pericoli da tenere in considerazione, come quello della sicurezza del sistema informatico contro potenziali attacchi esterni che inviano comandi non autorizzati al robot o ne danneggiano il sistema operativo.
Queste considerazioni tratteggiano sommariamente le ragioni di ordine tecnico e socio-economico che rendono cruciali i temi della sicurezza e della responsabilità nell'analisi giuridica della robotica.
La preoccupazione verso la fissazione di standard elevati di safety e per una chiara definizione delle regole sull'attribuzione della responsabilità dipende anzitutto dalle caratteristiche della robotica di servizio, destinata a generare forme di stretta interazione uomo-macchina e con ciò a moltiplicare esponenzialmente le occasioni di danno.
I compiti delicati cui potrebbe essere adibito un robot e la vicinanza a utenti vulnerabili, come malati, persone anziane o con disabilità, a sua volta aumenta il rischio di provocare lesioni gravi in caso di incidente.
Ma soprattutto la fase precoce ed emergente della robotica rende predominanti le istanze di sicurezza a fronte del rischio, nel caso di coinvolgimento in una controversia per danni da prodotto, di uscire dal mercato.
Si ripropone, in altre parole, una situazione tipica degli albori di innovazioni tecnologiche oggi comuni, come l'aviazione civile nel settore dei piccoli velivoli e dei loro componenti, che hanno rischiato di scomparire per effetto degli alti costi, stimati e in parte sopportati, delle azioni civili di danno.
Altra similitudine asseverata è con Internet, che avrebbe potuto espandersi anche grazie a un sostanziale esonero dalla responsabilità dei web provider per i contenuti offensivi o lesivi di diritti di privativa altrui diffusi attraverso il web.
Accanto a questi elementi, a giustificare la centralità del tema della responsabilità vi sono ragioni tecniche che rimandano alla peculiare natura di alcune applicazioni robotiche.
Si allude alla crescente capacità delle macchine - siano esse veicoli che circolano sulle strade o robot assistenti usati a casa propria, in un contesto ospedaliero, in una casa di cura - di operare e muoversi senza una guida umana; caratteristica che, dando luogo a una parvenza di autonomia, sembra sottrarne razione alla sfera di controllo della persona.
A ciò si fa conseguire la difficoltà di collocare la responsabilità per gli incidenti determinati dall'uso della tecnologia robotica in un ordine concettuale che normalmente presuppone la corrispondenza tra possibilità di controllo, capacità di evitare il verificarsi di un danno e relativa imputazione della responsabilità.
