Dirottamento dell’intelligenza artificiale: il caso di Mike Johns e i rischi legali dei veicoli autonomi

In un’epoca di rapido sviluppo della tecnologia AI, ci troviamo sempre più spesso di fronte a domande non solo sulla sua efficacia, ma anche su questioni legali e di responsabilità per i danni causati dai sistemi AI.
Il caso di alto profilo di Mike Johns, un imprenditore tecnologico di Los Angeles che ha rischiato di perdere il volo perché è stato “dirottato da un veicolo autonomo” a causa di un’anomalia del suo veicolo Waymo, è un esempio perfetto delle sfide normative nel settore dell’intelligenza artificiale e delle tecnologie autonome.
Come ha detto lo stesso Mike Johns, “sono diventato il mio caso di studio”.

L’incidente e le sue conseguenze

Johns è rimasto “intrappolato” in un’auto Waymo che ha girato intorno al parcheggio per diversi minuti, non rispondendo ai comandi impartiti dall’utente tramite l’app o da un rappresentante dell’azienda. Tra l’altro, Mike non era sicuro che il rappresentante fosse un sistema di intelligenza artificiale o un umano e non è stato informato. Anche se alla fine la situazione è stata riportata sotto controllo e l’utente è riuscito a prendere il suo volo grazie a un aereo in ritardo, il caso solleva importanti interrogativi:

• Chi è responsabile dei guasti nei veicoli autonomi?
• Quali diritti ha il passeggero in queste situazioni?
• L’utente di un veicolo autonomo ha l’obbligo di intraprendere determinate azioni in situazioni di emergenza?
• Quali obblighi deve rispettare il costruttore in una situazione del genere?

Responsabilità del costruttore e dell’operatore

Nel caso di Waymo, il problema del “looping” è stato risolto con un aggiornamento del software, il che può far pensare che il guasto fosse dovuto a un errore algoritmico. Ci si chiede tuttavia se tali errori possano essere considerati come classici difetti del prodotto e, in tal caso, chi debba essere ritenuto responsabile: il produttore del software? L’operatore della flotta Waymo?

Quadro giuridico

• Nell’Unione Europea, le questioni relative ai veicoli autonomi sono regolamentate, tra l’altro, dal regolamento AI Act, dalla direttiva sulla responsabilità per danno da prodotti difettosi o dalle leggi locali sul traffico e sulla responsabilità civile.

L’articolo 43 dell’AI Act impone ai fornitori di sistemi di intelligenza artificiale di effettuare valutazioni dei rischi e di monitorare le prestazioni dei loro prodotti; inoltre, secondo l’articolo 50 dell’AI Act, l’utente deve essere informato ogni volta che interagisce con un sistema di intelligenza artificiale.

Inoltre, l’articolo 3 della legge sull’IA si riferisce agli obblighi dei fornitori e degli utenti di sistemi di IA ad alto rischio e ad altri.

Negli Stati Uniti, invece, obblighi simili si applicano solo al settore pubblico e alle agenzie federali in base all’Ordine esecutivo 14091, firmato dal presidente Joe Biden nel 2023, che riguarda lo sviluppo responsabile dell’intelligenza artificiale. Nel settore privato, l’uso responsabile dell’IA, compresa l’informazione agli utenti sull’interazione con un sistema di IA, è più oggetto di buone pratiche e standard etici che di norme giuridiche. Tuttavia, vi sono pressioni pubbliche e legali affinché le grandi piattaforme tecnologiche, come Google o OpenAI, applichino standard di trasparenza simili a quelli degli enti pubblici. Un elenco delle entità che hanno firmato una lettera aperta in cui si impegnano a costruire un’intelligenza artificiale etica negli Stati Uniti è disponibile all’indirizzo www.nist.gov/aisi. Waymo non è tra le entità presenti in questo elenco.

Diritti dei passeggeri – protezione dei consumatori

Il suddetto incidente dimostra anche la necessità di creare standard per la comunicazione e l’assistenza ai passeggeri in situazioni di emergenza, soprattutto a causa del danno emotivo che può insorgere in una situazione del genere.

Il caso di Mike Johns non è solo una curiosità tecnologica, ma anche materiale per una riflessione più approfondita sulla regolamentazione giuridica nel settore dell’IA e delle tecnologie autonome.

Se siete interessati a un’analisi legale delle tecnologie autonome o avete domande sulla conformità del vostro prodotto alla legge sull’IA, vi invitiamo a contattarci. Insieme possiamo preparare soluzioni legali adatte alla realtà tecnologica in continua evoluzione.