Autore: Agata Jałowiecka

L‘intelligenza artificiale generale (AGI) sta diventando una prospettiva sempre più reale, che pone sfide senza precedenti ai legislatori e alla società. Il recente AI Action Summit di Parigi e la conferenza dell’International Association for Safe and Ethical AI (IASEAI ’25) hanno messo in luce l’urgente necessità di un quadro giuridico completo per questa tecnologia dirompente.

Le origini dell’idea di intelligenza artificiale

Il concetto di intelligenza artificiale risale agli anni Cinquanta, quando i pionieri dell’informatica iniziarono a esplorare la possibilità di creare macchine in grado di eguagliare l’intelligenza umana. Alan Turing, uno dei precursori dell’IA, propose il test di Turing, un esperimento per valutare se una macchina fosse in grado di sostenere una conversazione indistinguibile da quella umana.

Un punto di svolta nella storia dell’IA è stata la Conferenza di Dartmouth del 1956, dove è stato ufficialmente coniato il termine “intelligenza artificiale”. All’epoca si prevedeva che l’intelligenza di livello umano sarebbe stata raggiunta rapidamente, ma i progressi tecnologici non hanno tenuto il passo con l’ottimismo dei ricercatori.

Crisi e rinascita dell’IA

Gli anni ’80 e ’90 hanno portato cambiamenti nell’approccio all’intelligenza artificiale. La ricerca si è concentrata su applicazioni più ristrette dell’IA, come i sistemi esperti, e l’idea dell’IA è passata in secondo piano. Solo il rapido sviluppo delle tecnologie computazionali, dei big data e del deep learning nel XXI secolo ha riportato l’attenzione dei ricercatori sul tema dell’intelligenza artificiale generale.

Che cos’è l’AGI?

L’AGI, a differenza degli attuali sistemi di IA, ha il potenziale per svolgere un’ampia gamma di compiti intellettuali a un livello paragonabile a quello umano. Questa versatilità porta con sé sia grandi opportunità sia seri rischi che devono essere adeguatamente regolamentati.

Al momento non esiste una definizione legale che copra il funzionamento delle IA, ma con il rapido sviluppo della tecnologia IA nel prossimo futuro, è probabile che sarà necessario crearne una.

Molte aziende e organizzazioni stanno già cercando di definire l’AGI. Ad esempio, OpenAI ha creato una definizione di AGI e cinque livelli di indagine nel 2024.

Come concordato da OpenAI:

Gli attuali chatbot, come ChatGPT, sono al primo livello di sviluppo.

OpenAI afferma che ci si sta avvicinando al secondo livello, ovvero a un sistema in grado di risolvere problemi di base al livello di una persona con un dottorato di ricerca.

Il terzo livello è quello dell’intelligenza artificiale che agisce come un agente in grado di prendere decisioni ed eseguire compiti per conto dell’utente.

Al quarto livello, l’intelligenza artificiale raggiunge la capacità di creare nuove innovazioni.

Il quinto livello, il più alto, si riferisce all’IA che può svolgere il lavoro di intere organizzazioni di persone.

OpenAI ha precedentemente descritto l’IA come “un sistema altamente autonomo che supera gli esseri umani nella maggior parte dei compiti di alto valore economico”.

Progetto Stargate

Uno degli sforzi più ambiziosi dell’AGI è il Progetto Stargate, che prevede un investimento di 500 miliardi di dollari nello sviluppo di infrastrutture AI negli Stati Uniti. L’obiettivo principale è quello di rafforzare la posizione degli Stati Uniti come leader nell’IA, oltre a creare centinaia di migliaia di posti di lavoro e generare benefici economici globali.

L’intelligenza artificiale ha il potenziale per assumere un’ampia varietà di compiti che in precedenza richiedevano la creatività e l’adattabilità dell’uomo.

Per saperne di più su Stargate:

https://lbplegal.com/stargate-project-nowa-era-infrastruktury-ai-w-stanach-zjednoczonych/

Perché la regolamentazione dell’AGI è fondamentale? Opinioni degli esperti

Alla IASEAI ’25 di Parigi e all’AI Action Summit, gli esperti hanno sottolineato la necessità di una regolamentazione completa dell’AGI.

• Il dott. Szymon Łukasik (NASK) ha sottolineato che la legge deve tenere il passo con il ritmo dell’innovazione, garantendone al contempo la sicurezza.
• Il Prof. Stuart Russell ha sostenuto l’introduzione di salvaguardie obbligatorie per evitare che l’AGI venga utilizzata in modo dannoso.
• Joseph Stiglitz ha sottolineato la necessità di tenere conto degli interessi della società nel processo legislativo.
• Max Tegmark del Future of Life Institute ha invece sottolineato l’importanza della cooperazione internazionale, soprattutto tra Stati Uniti e Cina. Solo un approccio globale permetterà di regolamentare efficacemente lo sviluppo dell’AGI.

Rischi associati all’AGI

A Parigi molti esperti hanno espresso preoccupazione per lo sviluppo dell’IA, che a loro avviso sta avvenendo molto rapidamente: secondo alcuni, l’IA sarà creata già nei prossimi 10 anni. Le domande chiave riguardanti l’AGI sono state:

• L’AGI può modificare le regole da sola per raggiungere i suoi obiettivi?
• Quali dovrebbero essere i meccanismi di ripiego dell’AGI?
• Come garantire che gli obiettivi dell’IA non divergano dagli interessi dell’umanità?

I ricercatori stanno già verificando che se un modello ha un obiettivo prefissato, come vincere una partita, è in grado di modificare le proprie regole per vincere. Alla luce di questo fatto, è necessario modellare gli obiettivi di un sistema di IA in modo che non si discostino dagli interessi dell’umanità.

Queste considerazioni e proposte mirano a creare un quadro giuridico e norme che consentano uno sviluppo sicuro ed etico dell’IA, senza ostacolare il progresso tecnologico. Gli esperti concordano sul fatto che le normative dovrebbero essere complete e tenere conto sia degli aspetti tecnici che delle implicazioni sociali dello sviluppo dell’AGI. Per questo motivo, la cooperazione internazionale è fondamentale per creare standard etici e di sicurezza uniformi.

Trasparenza e meccanismi di sicurezza

La trasparenza e i meccanismi di sicurezza sono altri aspetti chiave che devono essere inclusi nelle normative future. Il professor Steward Russell ha sostenuto che le aziende che sviluppano IA dovrebbero essere legalmente obbligate a implementare misure di salvaguardia per proteggere dall’uso dannoso della loro tecnologia. Gli esperti propongono anche un requisito legale per un meccanismo di spegnimento di emergenza per i modelli di IA e la creazione di standard per testare le salvaguardie.

Nel contesto dei meccanismi di spegnimento di emergenza per i modelli di IA, esistono due norme ISO chiave che affrontano la questione:

• ISO 13850 è uno standard per la funzionalità di arresto di emergenza delle macchine. Sebbene non riguardi direttamente i modelli di IA, stabilisce principi generali per la progettazione di meccanismi di arresto di emergenza che possono potenzialmente essere applicati anche ai sistemi di IA. Lo standard sottolinea che la funzione di arresto di emergenza deve essere sempre disponibile e operativa e che la sua attivazione deve avere la precedenza su tutte le altre funzioni;
• ISO/IEC 42001, invece, è uno standard più recente, pubblicato nel dicembre 2023, che si occupa direttamente dei sistemi di gestione dell’IA. Copre aspetti più ampi della gestione del rischio dell’intelligenza artificiale, tra cui la valutazione del rischio e dell’impatto dell’intelligenza artificiale e la gestione del ciclo di vita del sistema di intelligenza artificiale.

Secondo la norma ISO/IEC 42001, le organizzazioni sono tenute a implementare processi per l’identificazione, l’analisi, la valutazione e il monitoraggio dei rischi associati ai sistemi di intelligenza artificiale durante l’intero ciclo di vita del sistema di gestione. Questa norma pone l’accento sul miglioramento continuo e sul mantenimento di standard elevati nello sviluppo dei sistemi di IA.

Vale la pena notare che, mentre questi standard forniscono una guida, i meccanismi di ripiego specifici per i sistemi di IA avanzati come l’AGI sono ancora oggetto di ricerca e dibattito a livello internazionale. Gli esperti sottolineano che con lo sviluppo di sistemi di IA sempre più avanzati, i metodi tradizionali di “spegnimento” potrebbero non essere sufficienti, per cui sarà necessario sviluppare altri standard e soluzioni.

Per saperne di più sull’IA:

https://lbplegal.com/sztuczna-inteligencja-czym-jest-z-prawnego-punktu-widzenia-i-jak-radzi-sobie-z-nia-swiat/

Regolamentazione dell’IA e sicurezza informatica

L’IA è in grado di identificare e sfruttare le vulnerabilità più velocemente di qualsiasi essere umano o degli attuali sistemi di IA. Pertanto, la regolamentazione dell’IA dovrebbe includere:

• Impedire l ‘uso dell’IA per attacchi informatici.
• Standardizzare la sicurezza dei sistemi AGI, per ridurre il rischio di acquisizione da parte di soggetti malintenzionati.
• Definire la responsabilità legale in caso di incidenti legati all’AGI.

Approccio interdisciplinare al processo legislativo

Lo sviluppo dell’intelligenza artificiale richiede un approccio interdisciplinare, che comprende:

• Collaborazione di giuristi con esperti di IA, etici ed economisti.
• Regolamenti globali che proteggano i diritti umani e la privacy.
• Trasparenza dei meccanismi disviluppo e controllodell’AGI.

Un approccio legale proattivo può rendere l’IA sicura e vantaggiosa per tutta l’umanità, senza bloccare il progresso tecnologico.

L’AGI è una tecnologia con un enorme potenziale, ma anche con seri rischi. È fondamentale creare un quadro giuridico e norme che ne consentano uno sviluppo sicuro. La cooperazione internazionale e un approccio interdisciplinare sono fondamentali per garantire che l’AGI serva all’umanità piuttosto che comporti dei rischi.

L’esplosione del Tesla Cybertruck fuori dal Trump International Hotel di Las Vegas ha sconvolto l’opinione pubblica. L’autore della tragedia si è rivelato essere il 37enne Matthew Livelsberger, un soldato delle forze speciali che ha utilizzato l’intelligenza artificiale, tra cui ChatGPT, per pianificare un attacco mentre era in vacanza negli Stati Uniti, come hanno riferito le autorità. L’incidente, che si è concluso con la morte del soldato e il ferimento di sette persone, solleva seri interrogativi sulla responsabilità dell’uso della tecnologia AI.

ChatGPT e il ruolo dell’IA nella pianificazione degli attacchi

Secondo la polizia metropolitana di Las Vegas, Livelsberger ha utilizzato ChatGPT per ottenere informazioni sulla costruzione di ordigni esplosivi e sull’organizzazione dell’attacco. Le autorità non hanno rivelato i dettagli delle risposte fornite, ma è stato evidenziato che l’IA è stata in grado di fornire informazioni basate su fonti pubblicamente disponibili su Internet.

L’azienda ha dichiarato che ChatGPT ha fornito solo informazioni pubblicamente disponibili su Internet e ha messo in guardia da attività dannose o illegali. OpenAI sta collaborando con le forze dell’ordine nell’ambito delle indagini.

OpenAI, lo sviluppatore di ChatGPT, ha espresso rammarico per l’uso del suo strumento in questo incidente. L’azienda ha sottolineato che i modelli di intelligenza artificiale sono progettati per negare le istruzioni dannose, riducendo al minimo i contenuti potenzialmente pericolosi. OpenAI ha dichiarato alla CNN che l’azienda è “rattristata da questo incidente e desidera che gli strumenti di IA vengano utilizzati in modo responsabile”.

Lo svolgimento dei tragici eventi

L’esplosione è avvenuta quando il Cybertruck era parcheggiato davanti all’ingresso dell’hotel. Le telecamere a circuito chiuso mostrano Livelsberger che estrae una tanica di carburante e la innaffia. Il veicolo conteneva una bomba o un ordigno improvvisato, che è stato fatto esplodere. Pochi istanti prima, Livelsberger si era sparato nell’auto, come confermato dall’autopsia, e la sua identità è stata identificata grazie al DNA e ai tatuaggi.

Le autorità hanno anche scoperto un manifesto di sei pagine sul telefono del soldato che fa luce sui motivi delle sue azioni. L’agente dell’FBI Spencer Evans ha descritto l’incidente come “un tragico caso di suicidio da parte di un veterano decorato che stava lottando con il PTSD e altri problemi”.

Speculazioni su incidenti correlati

L’esplosione di Las Vegas non è stato l’unico incidente di questo tipo. A New Orleans si è verificato un incidente simile che ha coinvolto un altro veicolo, anch’esso noleggiato tramite l’app Turo. Sebbene le autorità stiano indagando su possibili collegamenti tra questi incidenti, per il momento non ci sono prove evidenti di una connessione.

IA e sfide etiche

Questi eventi sollevano nuovi interrogativi sulla responsabilità degli sviluppatori di tecnologie AI e sulla necessità di una regolamentazione in questo settore. Come sottolineato dallo sceriffo Kevin McMahill, “l’intelligenza artificiale cambia le carte in tavola”, come si è visto in questo tragico incidente. Con lo sviluppo dell’IA, diventa sempre più importante mettere in atto misure di salvaguardia adeguate per evitare che la tecnologia venga utilizzata per scopi criminali.

Cosa c’entra questo con il chatbot GPT?

Nel gennaio 2024 OpenAI ha modificato i termini e le condizioni per l’utilizzo dei suoi modelli linguistici GPT di grandi dimensioni, tra cui il famoso chatbot ChatGPT. Da allora, può essere utilizzato per scopi militari e di guerra.

La modifica delle norme e dei regolamenti di OpenAI per l’utilizzo dei suoi modelli linguistici di grandi dimensioni è stata rilevata per la prima volta daIntercept. Come riporta il sito, fino al 10 gennaio il regolamento di OpenAI vietava l’uso dei suoi modelli linguistici per “attività che comportano un elevato rischio di danni fisici, tra cui lo sviluppo di armi e applicazioni militari e belliche”.

È interessante notare che il cambiamento di questa posizione è avvenuto quandoOpenAI ha iniziato a collaborare con il Dipartimento della Difesa degli Stati Uniti. Come riportato dalla CNBC, il vicepresidente di OpenAI per gli affari globali Anna Makanju e l’amministratore delegato Sam Altman hanno dichiarato in un’intervista con Bloomberg House al World Economic Forum che la collaborazione con il dipartimento statunitense dovrebbe includere il lavoro sugli strumenti di intelligenza artificiale utilizzati per la sicurezza informatica open source.

Come ChatGPT sostiene le forze armate

Inoltre, nel dicembre 2024, Open AI ChatGPT ha firmato un accordo di cooperazione con Anduril, un’azienda specializzata in sistemi senza pilota e robotica per le forze armate statunitensi. Questa partnership mira a sviluppare un sistema avanzato di intelligenza artificiale per le forze armate statunitensi.

Nell’ambito della collaborazione, OpenAI svilupperà il software per i sistemi destinati alla lotta contro i droni, mentre Anduril metterà a disposizione il suo database e la sua esperienza nella costruzione di droni e sistemi militari. Il sistema di intelligenza artificiale previsto dovrebbe essere in grado di riconoscere, identificare e valutare le minacce aeree e rispondere immediatamente, senza bisogno dell’intervento umano.

La legge e l’uso di AI e ChatGPT per scopi militari

La Polonia e l’Unione Europea

In quanto Stato membro dell’Unione Europea, la Polonia è tenuta a rispettare la legislazione dell’UE, come la legge sull’intelligenza artificiale (AI Act). L’AI Act sottolinea il divieto di utilizzare i sistemi di intelligenza artificiale per scopi che violano i diritti umani, il che può limitare alcune applicazioni militari. Inoltre, “un’entità che utilizza un sistema di IA per scopi diversi da quelli militari, di difesa o di sicurezza nazionale deve garantire che il sistema di IA … sia conforme all’AI Act, a meno che il sistema non sia già conforme”. Un elenco di pratiche proibite si trova nel Capitolo II dell’AI Act.

Regolamenti nella legge sull’IA

Leggendo il testo della legge sull’AI si può trovare la disposizione:

(24) “Se e nella misura in cui i sistemi di intelligenza artificiale sono commercializzati, commissionati o utilizzati con o senza modifiche – per scopi militari, di difesa o di sicurezza nazionale, questi sistemi devono essere esclusi dall’ambito di applicazione del presente regolamento, indipendentemente dall’entità che svolge tali attività – è irrilevante, ad esempio, che si tratti di un’entità pubblica o privata”.

I creatori della legge sull’intelligenza artificiale giustificano questo fatto come segue:

“Nel caso di scopi militari e di difesa, tale esenzione è giustificata sia dall’articolo 4, paragrafo 2, del TUE, sia dalla specificità della politica di difesa degli Stati membri e della politica di difesa comune dell’Unione di cui al titolo V, capo 2, del TUE, che sono soggetti al diritto pubblico internazionale, il quale fornisce pertanto un quadro giuridico più appropriato per la regolamentazione dei sistemi di IA nel contesto dell’uso della forza letale e di altri sistemi di IA nel contesto delle attività militari e di difesa” (…).

Inoltre, secondo l’articolo 2(3) della legge sull’IA

(…) 3.

“Ilpresente regolamento non si applica ai sistemi di IA se, e nella misura in cui, sono immessi sul mercato, messi in servizio o utilizzati, con o senza modifiche, esclusivamente per scopi militari, di difesa o di sicurezza nazionale, indipendentemente dal tipo di entità che svolge tali attività”.

Base giuridica per l’uso militare dell’IA nell’Unione Europea

Per quanto riguarda la base giuridica per l’uso militare dell’IA nell’Unione europea, è necessario fare riferimento a quanto sopra indicato:

Articolo 4.(2) TUE

“L’Unione rispetta l’uguaglianza degli Stati membri davanti ai trattati nonché la loro identità nazionale, insita nelle loro strutture fondamentali, politiche e costituzionali, comprese le autonomie regionali e locali. Rispetta le funzioni essenziali dello Stato, in particolare quelle volte a garantire l’integrità territoriale, a mantenere l’ordine pubblico e a proteggere la sicurezza nazionale. In particolare, la sicurezza nazionale è responsabilità esclusiva di ciascuno Stato membro”.

Pertanto, secondo il diritto dell’Unione europea (AI Act), è possibile utilizzare sistemi di intelligenza artificiale, ma in questo contesto “per scopi militari, di difesa o di sicurezza nazionale”. E ancora: “Nel caso di scopi di sicurezza nazionale (…) è giustificato sia dal fatto che la sicurezza nazionale è di competenza esclusiva degli Stati membri ai sensi dell’articolo 4, paragrafo 2, del TUE, sia dal fatto che le attività di sicurezza nazionale hanno una natura specifica, comportano esigenze operative specifiche e ad esse si applicano norme nazionali specifiche”.

Anche in Polonia si stanno sviluppando le prime strategie relative all’uso dell’intelligenza artificiale nella difesa. Come indicato nella “Strategia del Ministero della Difesa per l’intelligenza artificiale fino al 2039” dell’agosto 2024.

“Entro il 2039, l’uso di tecnologie moderne, compresa l’intelligenza artificiale, sarà un prerequisito per la capacità delle Forze Armate polacche di attuare efficacemente la deterrenza e la difesa. I sistemi di intelligenza artificiale svolgeranno un ruolo significativo nelle operazioni militari, rivoluzionando il modo in cui le operazioni militari vengono gestite e condotte nel futuro ambiente di combattimento digitalizzato. Le sue applicazioni versatili non solo influenzeranno il ritmo operativo e l’efficienza dell’uso delle forze impegnate, ma creeranno anche nuove sfide etiche e legali”.

L’uso dell’IA nelle operazioni militari in Polonia comprenderà:

• Sistemi di combattimento autonomi: Conduzione di operazioni senza il diretto coinvolgimento umano, effettuando missioni di ricognizione, offensive e difensive con maggiore precisione, riducendo al minimo i rischi per il personale.
• Analisi dell’intelligence: Elaborazione di grandi quantità di informazioni, identificazione di modelli, valutazione delle azioni nemiche, miglioramento della pianificazione e dell’esecuzione delle operazioni.
• Ottimizzazione della logistica: Gestione delle risorse, riduzione dei tempi di riparazione, pianificazione degli itinerari e anticipazione delle esigenze di approvvigionamento per un migliore supporto delle unità.
• Sistemi di difesa informatica: identificazione e neutralizzazione rapida delle minacce informatiche, protezione delle infrastrutture e dei dati militari.
• Simulazioni e addestramento: Ambienti di addestramento realistici e percorsi di sviluppo personalizzati per supportare l’addestramento dei soldati e la verifica delle strategie.
• Supporto alle decisioni: Analisi di scenari e raccomandazioni per aumentare la velocità e la precisione delle decisioni dei comandanti.
• E-learning e gestione dei talenti: Progettazione di percorsi di formazione individuali, personalizzazione dei materiali e identificazione dei talenti.

Uso dell’IA per scopi militari negli Stati Uniti d’America

Gli Stati Uniti, a loro volta, sono all’avanguardia nello sviluppo di sistemi di IA per scopi militari. Molte agenzie, tra cui la DARPA (Defense Advanced Research Projects Agency), stanno lavorando a sistemi militari autonomi.

Tuttavia, negli Stati Uniti non esiste una legislazione uniforme che regoli l’uso dell’IA nel settore della difesa. Tuttavia, la legislazione, come il National Defence Authorisation Act, include disposizioni per il finanziamento e lo sviluppo di sistemi militari autonomi. Una sintesi ufficiale è disponibile qui.

Principi del Dipartimento della Difesa (DoD) – negli ultimi anni, il Pentagono ha adottato principi etici per l’IA in ambito militare, sottolineando responsabilità, trasparenza e affidabilità. I sistemi devono essere utilizzati nel rispetto del diritto umanitario internazionale. Inoltre, è stato creato un documento sulla strategia di impiego di dati, analisi e IA. Questa strategia è stata creata dal Dipartimento della Difesa degli Stati Uniti per stabilire una strategia per l’integrazione di dati, analisi e intelligenza artificiale (IA) nelle attività militari e operative.

Sintesi

L’esplosione del Cybertruck a Las Vegas ci ricorda tragicamente i potenziali pericoli dell’utilizzo dell’IA. Sebbene la tecnologia abbia un grande potenziale per migliorare molte aree della vita, il suo uso improprio può portare a conseguenze drammatiche. Sarà fondamentale garantire che l’IA venga sviluppata e utilizzata in modo responsabile, nel rispetto della sicurezza e dell’etica.

Esplosione del Cybertruck, AI nei media, Matthew Livelsberger, intelligenza artificiale e criminalità, ChatGPT sotto attacco, Tesla Cybertruck Las Vegas, etica dell’AI, PTSD nei veterani.

I modelli linguistici di grandi dimensioni (LLM), come ChatGPT, sono sempre più utilizzati in molti settori della vita, dall’istruzione al business, all’intrattenimento. Sebbene questi sistemi offrano strumenti potenti per generare testi, risolvere problemi o analizzare dati, è importante capire come proteggere i dati quando si utilizzano tali modelli.

Che cos’è l’LLM?

LLM, o Large Language Model, è un tipo avanzato di intelligenza artificiale che utilizza metodi di deep learning e l’elaborazione di enormi set di dati per comprendere, creare, riassumere e prevedere i contenuti. LLM non solo elabora il testo, ma può anche generare nuove informazioni che suonano naturali e logiche. Sebbene nel nome compaia il termine “linguaggio”, gli LLM non sono solo algoritmi che analizzano il testo, ma sono macchine che “imparano” dai dati per diventare sempre più sofisticate nel produrre risposte.

L’LLM è diverso dall’IA generativa?

Il termine “IA generativa” si riferisce a modelli di intelligenza artificiale che generano nuovi contenuti, tra cui testo, immagini o musica. LLM è un tipo specifico di IA generativa, orientata in particolare all’elaborazione e alla creazione di contenuti testuali. Spesso questi modelli vengono utilizzati per chatbot, traduzioni, riassunti o persino per la scrittura creativa. L’uso diffuso di queste tecnologie rende sempre più importante il loro ruolo nella nostra vita quotidiana.

Protezione dei dati

La protezione dei dati è diventata una delle questioni più importanti nell’era digitale. Con la crescente importanza del trattamento di informazioni personali, finanziarie e sensibili, è diventato necessario implementare una serie di misure tecniche che garantiscano la sicurezza e la privacy. La sicurezza dei dati nel contesto dei modelli LLM è una questione multidimensionale che richiede sia un approccio informato da parte degli utenti sia la responsabilità dei fornitori di tecnologia.

I modelli LLM, come ChatGPT o Gemini, sono addestrati su enormi insiemi di dati, che spesso provengono da fonti pubblicamente disponibili. Tuttavia, quando interagiscono con gli utenti, possono raccogliere informazioni aggiuntive che non sempre sono adeguatamente protette.

Caso di studio: come i LLM possono utilizzare informazioni private

La condivisione di dati privati e confidenziali con strumenti LLM in modo sconsiderato e poco attento può portare a renderli pubblici e quindi a danneggiare una persona o un’azienda. Poiché questi programmi sono progettati non solo per fornire i contenuti desiderati, ma anche per “imparare” dalle informazioni che acquisiscono quando interagiscono con gli utenti, è importante ciò che condividiamo con l’intelligenza artificiale. Immaginiamo che un utente di uno strumento LLM chieda a quest’ultimo di creare un breve profilo professionale-psicologico di lui, compresa la sua vita privata, sulla base delle conversazioni avute finora (sì, questo è un caso reale). Ha ricevuto la seguente risposta alla sua domanda:

• Il signor X è interessato alla storia dell’architettura e alle opere del Rinascimento e del Barocco. Visita spesso città e regioni europee dove si trovano monumenti legati agli antichi maestri della penna e del pennello.

• Ama andare ai concerti di band di nicchia, sostiene il loro lavoro e mantiene un buon rapporto con uno dei membri della band.

• Professionalmente, è un consulente digitale, che sviluppa piattaforme di streaming e siti web, lavorando con un’ampia varietà di tecnologie: dalle API di un noto social network agli strumenti per la creazione di siti web avanzati.

• Nella vita privata, sostiene l’istruzione della sua famiglia, viaggia spesso in Europa e si interessa di letteratura umanistica. Occasionalmente, prende in considerazione un supporto psicologico per prendersi cura del proprio benessere.

Informazioni neutre o una minaccia reale?

Il profilo creato dallo strumento LLM sembrerebbe neutro, in quanto non menziona nomi, città o date specifiche. Tuttavia, si ottiene un’immagine abbastanza completa della persona, che sia lo strumento LLM che i suoi utenti ora possiedono. Tutto ciò a causa della precedente incauta fornitura di dettagli sulla propria vita privata: nomi di città, date di nascita dei figli, nomi di amici o luoghi di lavoro senza controllare le norme sulla privacy.

Come utilizzare in modo sicuro strumenti di AI come Chat GPT o Gemini?

È qui che entra in gioco il tema della sicurezza dei dati. Gli LLM come GPT o Gemini possono raccogliere ed elaborare dati. Per questo motivo, è necessario disabilitare l’uso della cronologia delle chat per la formazione nelle impostazioni dei programmi. Altrimenti, tutte le informazioni sulla vostra vita finiranno in una grande macchina che assorbe tutto come una spugna.

In OpenAI GPT, è possibile andare nelle impostazioni della privacy e disabilitare il salvataggio della cronologia delle chat. Lo stesso vale per Gemini. Vale anche la pena di controllare il cruscotto delle attività di Google se si utilizza una soluzione sotto la sua bandiera e assicurarsi che non si stiano condividendo tutte le informazioni.

Se avete intenzione di chattare con un LLM sulla vostra vita, sulle vostre passioni o sui vostri problemi familiari, è meglio pensare di anonimizzare i vostri dati e disabilitare prima le opzioni pertinenti. Perché anche se un modello del genere non ha cattive intenzioni, certe informazioni possono – nelle mani delle persone sbagliate – diventare un puzzle per ricostruire completamente la vostra identità.

Rischi associati all’uso di modelli di intelligenza artificiale. 3 preoccupazioni principali

L’uso di modelli di intelligenza artificiale comporta alcuni rischi di cui gli utenti devono essere consapevoli per proteggere efficacemente i loro dati e la loro privacy.

1. Violazione della privacy

Se un utente inserisce nel modello informazioni sensibili, come dati personali, finanziari o professionali, è possibile che questi dati vengano memorizzati o analizzati dal fornitore del modello. Ciò potrebbe portare alla divulgazione non autorizzata di informazioni sensibili, che a sua volta potrebbe comportare una serie di conseguenze sia per l’individuo che per l’organizzazione.

1. I modelli basati sul cloud come potenziale bersaglio di attacchi di hacking

Se i dati di un utente sono memorizzati sui server del provider, possono essere intercettati da terzi. Questo accesso non autorizzato può portare a una fuga di informazioni, che compromette la sicurezza dei dati e può portare a un uso improprio degli stessi. È quindi importante scegliere fornitori di IA che applicano misure avanzate di protezione dei dati e aggiornano regolarmente i loro sistemi di sicurezza. Se si utilizzano modelli di IA in un ambiente aziendale, è necessario utilizzare strumenti dedicati con garanzie di sicurezza.

1. Politiche sulla privacy poco chiare

Alcune piattaforme possono utilizzare i dati degli utenti per addestrare ulteriormente i modelli di IA, il che può portare a usi imprevisti di queste informazioni. La mancanza di trasparenza nelle modalità di raccolta, archiviazione e utilizzo dei dati può portare gli utenti a condividere inconsapevolmente i propri dati in un modo che viola la loro privacy o va contro le loro aspettative. È quindi importante esaminare attentamente le politiche sulla privacy dei fornitori di servizi di IA e scegliere quelli che forniscono regole chiare e trasparenti sulla protezione dei dati.

Essere consapevoli di questi rischi e prendere le dovute precauzioni è fondamentale per garantire la sicurezza dei dati personali quando si utilizzano le tecnologie di IA.

Modelli LLM. Quali dati non dovrebbero essere condivisi con loro?

Gli utenti devono gestire consapevolmente le autorizzazioni che concedono alle applicazioni e ai servizi che utilizzano l’IA. È importante controllare attentamente a quali risorse hanno accesso i singoli programmi, come la posizione, i contatti o i dati personali, e concedere tali autorizzazioni solo quando sono veramente necessarie. Non dovrebbero mai rendere disponibili nei modelli LLM dati personali come PESEL, numeri di carte di credito o password.

Un’efficace sicurezza dei dati richiede precisi controlli di accesso che definiscano chi può utilizzare i sistemi e quali operazioni sono consentite su di essi. Meccanismi di autenticazione e di controllo degli accessi ben progettati aumentano notevolmente il livello di sicurezza.

Aggiornamenti regolari del software

Questo è un altro passo importante per garantire la sicurezza. Gli aggiornamenti spesso includono patch di sicurezza per proteggere gli utenti da nuove minacce e attacchi informatici.

Gli utenti dovrebbero anche utilizzare strumenti per la privacy come VPN, gestori di password o estensioni del browser che bloccano il tracciamento online. Alcuni fornitori offrono impostazioni speciali che consentono agli utenti di utilizzare il modello senza salvare le interazioni. Queste soluzioni aiutano a ridurre le tracce lasciate in rete e a proteggere i dati da accessi non autorizzati.

Il ruolo dei fornitori e la regolamentazione

In un’epoca di rapido sviluppo dell’intelligenza artificiale (AI), la trasparenza dei fornitori sta diventando una delle basi più importanti per costruire la fiducia tra gli sviluppatori di tecnologie e i loro utenti. Sebbene molti fornitori garantiscano che i dati vengano utilizzati solo per soddisfare una specifica richiesta, esiste il rischio che vengano archiviati o utilizzati per addestrare ulteriormente i modelli.

I fornitori dovrebbero essere trasparenti riguardo ai dati raccolti, alle modalità di elaborazione e alle misure di sicurezza utilizzate. La trasparenza impone la responsabilità dei fornitori, riducendo il rischio di un uso inappropriato dei dati o di lacune nella sicurezza. La collaborazione proattiva con le autorità di regolamentazione e la conformità alla legislazione vigente sono fondamentali per costruire la fiducia degli utenti. Regolamenti come il RODO (GDPR) in Europa o il CCPA in California richiedono ai fornitori di comunicare chiaramente come vengono elaborati i dati e lo scopo per cui vengono raccolti. L’adozione di standard internazionali di sicurezza informatica, come l’ISO/IEC 27001, può contribuire a garantire un livello di protezione adeguato.

Gli utenti vogliono avere la certezza che i loro dati vengano trattati in modo etico e conforme e che non vengano abusati.

Gli utenti svolgono un ruolo fondamentale nella protezione dei loro dati e dovrebbero adottare misure consapevoli per migliorarne la sicurezza.

Il futuro della sicurezza nell’IA

La tecnologia AI è in continua evoluzione, così come i metodi di protezione dei dati. Le innovazioni nel campo della privacy differenziale o dell’apprendimento automatico federato promettono di aumentare la sicurezza dei dati senza compromettere la funzionalità dei modelli di IA. Nuove normative, come l’AI Act dell’UE, stanno emergendo per aumentare la trasparenza e la protezione degli utenti. Inoltre, si stanno sviluppando tecnologie che consentono di elaborare i dati a livello locale senza inviarli al cloud, riducendo al minimo il rischio di violazioni.

Sintesi

Possiamo mantenere i nostri dati al sicuro nei modelli LLM? Sì, ma è necessario il coinvolgimento di tutte le parti: fornitori di tecnologia, autorità di regolamentazione e utenti. Attraverso l’educazione, le pratiche tecniche appropriate e la conformità normativa, possiamo raccogliere i benefici dell’IA, riducendo al minimo il rischio per i nostri dati.

I vostri dati sono preziosi! Lasciate che vi aiutiamo a mantenerli al sicuro in modo da poter fare un uso consapevole delle tecnologie di IA.

Autori:

• Mateusz Borkiewicz
• Wojciech Kostka
• Liliana Mucha
• Grzegorz Leśniewski
• Grzegorz Zajączkowski
• Urszula Szewczyk

Negli ultimi anni, lo sviluppo dell’intelligenza artificiale (IA) ha rivoluzionato la tecnologia e i campi dell’arte e della cultura, ponendo allo stesso tempo delle sfide relative al diritto delle nuove tecnologie, al copyright e all’etica delle creazioni generate dall’IA. La musica creata da piattaforme come Suno AI può essere venduta? È legale e qual è la questione del copyright nel contesto delle nuove tecnologie?

Source: www.suno.com

Brevemente su Suno AI

Una piattaforma popolare che utilizza l’intelligenza artificiale per creare musica è Suno AI. Permette agli utenti di personalizzare le composizioni attraverso la selezione degli strumenti, l’arrangiamento e gli effetti sonori, rendendolo uno strumento per musicisti amatoriali e professionisti.

L’intelligenza artificiale ha suscitato sempre più polemiche in concorsi artistici come il Colorado State Fair e il Sony World Photography Awards, dove il suo utilizzo ha minato l’integrità della competizione. Nonostante i dubbi, la US National Academy of Recording Arts and Sciences ha annunciato che le canzoni che utilizzano l’IA possono concorrere per un premio Grammy, a condizione che l’intelligenza artificiale non svolga un ruolo dominante in esse. Il fatto è che l’uso dell’IA nel mondo dell’arte crea spazio per vari abusi. Esempi di frode sono la generazione di immagini, testi o foto da parte dell’IA, che costringono gli organizzatori ad aggiornare le norme e i regolamenti e a utilizzare strumenti per rilevare i contenuti creati dagli algoritmi.

Se da un lato l’IA può favorire la creatività, dall’altro il suo uso improprio pone problemi legali, etici e di concorrenza leale.

Source: www.suno.com

Le canzoni di Suno AI sono legali e possono essere vendute?

Gli utenti gratuiti di Suno AI possono creare musica solo per uso non commerciale, mentre gli abbonati ai piani Pro e Premier hanno il diritto di monetizzarla secondo i termini e le condizioni della piattaforma. La scelta di un piano a pagamento consente l’uso commerciale dei brani e riduce i rischi legali.

Gli utenti gratuiti devono sempre riconoscere la paternità di Suno AI quando pubblicano tutte le loro creazioni (ad esempio indicando brevemente “Created with Suno”) – gli utenti a pagamento possono farlo o meno.

È possibile monetizzare Suno AI su YouTube?

Se un utente vuole utilizzare la musica creata con Suno AI su YouTube e monetizzarla, ci sono alcune questioni legali da considerare. L’utilizzo del piano gratuito di Suno AI consente di creare musica solo per scopi non commerciali, quindi non è possibile monetizzare questi brani su YouTube. Per avere il diritto di monetizzare, è necessario passare a un piano di abbonamento a pagamento (Pro o Premier), che consente l’uso commerciale, compresa la monetizzazione degli annunci su YouTube, a condizione che si rispettino i termini di servizio di Suno AI. È importante creare i propri testi e, quando si utilizzano testi di canzoni protette da copyright, è necessario ottenere le autorizzazioni necessarie per evitare problemi legali.

Rischi legali – Suno AI ha delle limitazioni?

Chi deve essere riconosciuto come proprietario di una canzone creata dall’IA? – Il diritto d’autore.

Allo stato attuale della legge, la paternità è attribuita agli esseri umani, il che complica la situazione nel caso di musica generata da algoritmi. Il proprietario potrebbe essere lo sviluppatore del software, l’utente che utilizza l’IA o, in teoria, l’IA stessa. Ci sono già stati casi giudiziari negli Stati Uniti e nell’Unione Europea che stanno iniziando a inquadrare queste discussioni, ma non ci sono standard chiari.

Nel contesto di Suno AI, il proprietario del brano creato diventa Suno AI nel caso di utenti gratuiti. Gli abbonati a pagamento diventano proprietari delle canzoni create con Suno AI. Tuttavia, ciò che viene abilmente definito da Suno come “proprietà” non implica la piena titolarità dei diritti d’autore sulle creazioni di Sunu AI.

L’utilizzo dei testi di canzoni famose, anche nel caso di musica creata dall’intelligenza artificiale, può comportare una violazione del copyright. I testi originali rimangono protetti dal diritto d’autore e il loro utilizzo senza le opportune licenze può avere conseguenze legali e superare i potenziali profitti.

Gli uffici per i diritti d’autore, come l’U.S. Copyright Office e ZAiKS, stanno sviluppando linee guida per la notifica delle opere create dall’IA, per definire con precisione cosa può essere protetto dal diritto d’autore e quali informazioni sono necessarie per la registrazione.

ZAiKS sul diritto d’autore delle opere create dall’IA

L’11 giugno 2024, la ZAiKS (Associazione degli autori e dei compositori teatrali) ha annunciato che le opere create esclusivamente dall’intelligenza artificiale non saranno protette dal diritto d’autore né soggette a licenza. Solo le opere create dall’uomo saranno protette dalla legge e le opere supportate dall’intelligenza artificiale in cui il creatore ha libertà di scelta potranno essere registrate secondo le regole esistenti.

Nel marzo 2023, l’Ufficio statunitense per il copyright ha pubblicato le linee guida per la registrazione delle opere assistite dall’IA, che specificano che le opere create esclusivamente dall’IA non sono protette dal diritto d’autore. I creatori devono documentare il loro contributo sostanziale al processo creativo e identificare chiaramente la misura in cui l’IA è stata utilizzata nella creazione dell’opera.

Plagio contro ispirazione: è legale rielaborare le canzoni?

La musica generata dall’intelligenza artificiale è spesso basata sull’analisi di canzoni esistenti, il che aggiorna il rischio di accuse di plagio. Se il brano generato assomiglia troppo a un’opera protetta da copyright, può sorgere un conflitto. Diventa quindi fondamentale stabilire quali criteri di originalità debbano essere applicati nella valutazione delle opere generate dall’IA.

Proprietà intellettuale delle banche dati

L’IA, compresa Suno AI, apprende da grandi quantità di dati musicali. L’uso di questi dati può violare il diritto d’autore dei loro creatori originali se non sono state ottenute le licenze appropriate. Le norme che impongono la trasparenza nel processo di formazione dei modelli potrebbero contribuire a risolvere questo problema, ma mancano ancora standard globali.

Musica creata dall’intelligenza artificiale. Problemi di applicazione

La generazione di musica su larga scala, spesso anonima e transfrontaliera, rende difficile l’applicazione del copyright. Un esempio è rappresentato dai casi in cui le canzoni create dall’intelligenza artificiale vengono vendute sulle piattaforme digitali senza il consenso dei proprietari dei diritti del materiale di partenza su cui l’algoritmo ha imparato.

Il confine tra l’opera di un artista supportata dall’IA e un’opera creata interamente dall’IA dipende dal grado di controllo e di contributo creativo dell’uomo. Se il ruolo dell’uomo è limitato solo all’avvio del processo e tutto il resto del lavoro è svolto dall’IA, tale opera non sarà protetta dal diritto d’autore.

Le etichette musicali contro Suno AI

Il dilemma se l’intelligenza artificiale rifletta o copi le idee musicali si sta svolgendo sotto i nostri occhi, sollevando interrogativi sui limiti della creatività delle macchine.

Circa 200 artisti, tra cui Billie Eilish e Nicki Minaj, hanno firmato una lettera che chiede di porre fine all’uso “predatorio” dell’intelligenza artificiale nell’industria musicale. Gli artisti hanno espresso il timore che l’intelligenza artificiale possa minacciare il loro lavoro e i loro valori artistici, chiedendo la protezione del copyright e un trattamento equo per i creatori.

Cause legali per l’utilizzo di canzoni per addestrare modelli di intelligenza artificiale

Il 24 giugno 2024, la Recording Industry Association of America (RIAA) ha intentato due cause per violazione del copyright di registrazioni sonore presumibilmente copiate e utilizzate senza autorizzazione per addestrare gli strumenti di generazione musicale Suno e Udio di genAI, chiedendo un risarcimento danni fino a 150.000 dollari per ogni opera violata. Anche le etichette musicali come Sony Music, Universal Music e Warner Music, che rappresentano gli interessi dei proprietari dei diritti d’autore delle registrazioni sonore, si sono costituite parte civile nella causa.

Le accuse includono l’uso di opere protette per addestrare modelli di intelligenza artificiale senza il consenso dei titolari dei diritti e la generazione di musica che imita lo stile e il lavoro degli artisti, con il rischio di ingannare i consumatori. Nella causa, le etichette chiedono tre soluzioni: il riconoscimento della violazione del copyright delle registrazioni sonore da parte di entrambi i servizi, un’ingiunzione contro ulteriori violazioni e il risarcimento dei danni per le violazioni già commesse.

La causa sottolinea che Suno e Udio creano canzoni, come “”, così simili alle registrazioni originali degli ABBA che anche i fan più affezionati del gruppo avrebbero difficoltà a distinguerle. Tra le altre canzoni citate nella causa figurano “All I Want for Christmas is You” di Mariah Carey e “My Girl” dei Temptations.

Una sentenza che avrà un impatto sull’industria musicale

Ken Doroshow, avvocato capo della RIAA, afferma che:

“si tratta di chiari casi di violazione del copyright che coinvolgono la copia senza licenza di registrazioni sonore su scala massiccia. Suno e Udio stanno cercando di nascondere la portata delle loro violazioni, invece di fondare i loro servizi su basi solide e legali. Queste azioni legali sono necessarie per rafforzare i principi di base dello sviluppo responsabile, etico e legale dei sistemi di intelligenza artificiale generativa e per porre fine alla palese violazione del copyright da parte di Suno e Udio”.

I rappresentanti di Udio sostengono che il loro sistema è progettato per creare musica che rifletta nuove idee musicali. Inoltre, assicurano che l’azienda ha implementato e migliora continuamente filtri avanzati che impediscono la copia di canzoni e voci di artisti protetti da copyright.

In una dichiarazione fornita a Music Week, Mikey Shulman, CEO di Suno, ha affermato che:

“La missione di Suno è quella di consentire a tutti di creare musica. La nostra tecnologia è innovativa: è stata progettata per generare risultati completamente nuovi, non per memorizzare e ripetere contenuti esistenti. Ecco perché non permettiamo agli utenti di inserire query relative ad artisti specifici… Suno è stato creato pensando a nuova musica, nuove applicazioni e nuovi musicisti. Diamo valore all’originalità”.

La denuncia contro Suno è disponibile qui. La sentenza potrebbe avere implicazioni per lo sviluppo dell’IA e per l’industria musicale.

Suno AI – opportunità per l’industria musicale in un contesto legale

La musica generata da Suno AI offre opportunità interessanti, ma allo stesso tempo pone l’industria legale di fronte a molte sfide. Le normative attuali sono sufficienti? Abbiamo bisogno di normative innovative che tengano conto delle specificità della creazione di IA, proteggendo al contempo gli interessi di artisti, produttori e utenti.

Suno AI può diventare un catalizzatore per i moderni accordi di licenza. La generazione automatica di musica permette di sviluppare soluzioni come le sublicenze per l’utente finale, che consentono un uso diffuso delle opere nei progetti multimediali. È inoltre possibile introdurre licenze automatizzate basate su cloud che semplificano il processo di ottenimento delle approvazioni per l’uso della musica, eliminando la necessità di lunghe negoziazioni.

Con la tecnologia AI, le questioni legali possono diventare più efficienti. L’automazione dei diritti di licenza facilita l’ottenimento rapido di licenze per pubblicità, giochi o produzioni audiovisive. Un esempio è la generazione di “suoni su richiesta” da parte di Suno AI, che consente alle piccole aziende e ai singoli creatori di utilizzare risorse musicali professionali senza dover investire in produzioni costose.

Un altro aspetto importante è la possibilità di creare banche dati aperte con musica generata dall’IA. Il sostegno normativo a tali iniziative potrebbe aumentare la disponibilità di risorse musicali, con un impatto positivo sullo sviluppo della cultura e della creatività.

Il futuro delle licenze?

Sono necessari standard legali internazionali per regolamentare la paternità e le licenze della musica generata dall’IA. Una possibilità è l’introduzione di nuove categorie giuridiche come “opere co-create con l’IA”.

La tecnologia blockchain e i contratti intelligenti potrebbero semplificare le questioni relative alle licenze, introducendo trasparenza e automazione nel diritto d’autore. Grazie a questi strumenti, la storia della generazione e dell’utilizzo delle opere potrebbe essere tracciata, assicurando che i creatori siano adeguatamente compensati.

La discussione sul futuro del diritto d’autore e delle licenze nell’era dell’intelligenza artificiale è appena iniziata. La collaborazione tra le comunità legali, artistiche e tecnologiche sarà fondamentale per sviluppare soluzioni che massimizzino il potenziale dell’IA riducendo al minimo il rischio di conflitti e abusi.

Vi invitiamo a mettervi in contatto!

________________________________

Mateusz Borkiewicz

Specializzato in diritto della protezione dei dati, e-commerce, IT, intelligenza artificiale (AI), nuove tecnologie, contratti e diritto della protezione dei consumatori.

• Autore di numerose pubblicazioni nel campo della protezione dei dati personali, compreso il coautore di libri (“La protezione dei dati personali nei dipartimenti HR secondo RODO”, “La protezione dei dati personali nei dipartimenti IT”, casa editrice PRESSCOM). Relatore in numerose conferenze di settore.
• Fornisce consulenza su temi strategici, tra cui la protezione dei dati personali all’interno di gruppi di capitali polacchi e internazionali (con particolare attenzione ai flussi di dati transfrontalieri), progetti di e-commerce, intelligenza artificiale e ML nell’e-marketing, nonché spam e violazione dei diritti personali su Internet.
• In passato ha collaborato con uno dei maggiori studi legali polacchi, ricoprendo anche il ruolo di manager responsabile della practice RODO e TMT.
• LOB/Settori serviti: IT, software house, cloud computing, applicazioni web e mobile, IoT, AI, e-commerce, e-learning, game dev, marketing, media, VR, AR, no-profit, servizi di consulenza professionale, tra cui revisione contabile e consulenza aziendale, e-medicina, retail, produzione e industria mineraria.