ChatGPT в центрі суперечок. Вибух кібер-трака в Лас-Вегасі

Eksplozja Tesli Cybertruck przed hotelem Trump International w Las Vegas wstrząsnęła opinią publiczną. Sprawcą tragedii okazał się 37-letni Matthew Livelsberger, żołnierz sił specjalnych, który podczas urlopu w USA wykorzystał sztuczną inteligencję, w tym ChatGPT, do zaplanowania ataku – podały władze. Incydent, który zakończył się śmiercią żołnierza oraz rannych siedmiu osób rodzi poważne pytania o odpowiedzialność za wykorzystanie technologii AI.  

ChatGPT і роль штучного інтелекту в плануванні атак

За даними поліції Лас-Вегаса, Лівельсбергер використовував ChatGPT для отримання інформації про конструкцію вибухових пристроїв і організацію нападу. Влада не розголошує деталі наданих відповідей, але підкреслює, що ШІ зміг надати інформацію, засновану на загальнодоступних джерелах в Інтернеті.

У компанії заявили, що ChatGPT надавав лише загальнодоступну інформацію в інтернеті і попереджав про шкідливу або незаконну діяльність. OpenAI співпрацює з правоохоронними органами в рамках розслідування.

Компанія OpenAI, розробник ChatGPT, висловила жаль з приводу використання їхнього інструменту в цьому інциденті. У компанії підкреслили, що моделі штучного інтелекту розроблені таким чином, щоб відкидати шкідливі інструкції, мінімізуючи потенційно небезпечний контент. В OpenAI заявили CNN, що компанія «засмучена цим інцидентом і бажає, щоб інструменти ШІ використовувалися відповідально».

Перебіг трагічних подій

Вибух стався, коли Cybertruck був припаркований перед входом до готелю. На відео з камер спостереження видно, як Лівелсбергер дістає каністру з пальним і обливає нею машину. У машині була бомба або саморобний вибуховий пристрій, який здетонував. За кілька хвилин до цього Лівельсбергер застрелився в машині, що було підтверджено розтином, а його особистість була встановлена за допомогою ДНК і татуювань.

Влада також виявила в телефоні солдата шестисторінковий маніфест, який проливає світло на мотиви його дій. Агент ФБР Спенсер Еванс описав інцидент як «трагічний випадок самогубства нагородженого ветерана, який боровся з ПТСР та іншими проблемами».

Спекуляції щодо пов’язаних інцидентів

Вибух у Лас-Вегасі був не єдиним подібним інцидентом. У Новому Орлеані стався схожий інцидент з іншим автомобілем, також найнятим за допомогою додатку Turo. Хоча влада розслідує можливі зв’язки між цими інцидентами, наразі немає чітких доказів зв’язку між ними.

ШІ та етичні проблеми

Ці події знову піднімають питання про відповідальність розробників технологій штучного інтелекту і необхідність регулювання в цій сфері. Як підкреслив шериф Кевін МакМахілл, «штучний інтелект змінює правила гри», як показав цей трагічний інцидент. З розвитком ШІ стає все більш важливим запровадити відповідні запобіжники для запобігання використанню технології у злочинних цілях.

Як це стосується чат-бота GPT?

OpenAI в січні 2024 року змінила умови використання своїх великих мовних моделей GPT, в тому числі – відомого чат-бота ChatGPT. Відтепер його можна використовувати у військових цілях і для ведення бойових дій.

Про зміну правил та умов використання великих мовних моделей OpenAI першим повідомив сайтIntercept. Як повідомляє видання, до 10 січня внутрішні документи OpenAI забороняли використовувати його мовні моделі для «діяльності, яка несе високий ризик фізичної шкоди, включаючи розробку зброї та військові і військові програми».

Цікаво, що зміна цієї позиції відбулася після того, якOpenAI почав співпрацювати з Міністерством оборони США. Як повідомляє CNBC, віце-президент OpenAI з глобальних питань Анна Маканджу і генеральний директор Сем Альтман заявили в інтерв’ю Bloomberg House на Всесвітньому економічному форумі, що співпраця з американським відомством, як очікується, включатиме роботу над інструментами штучного інтелекту, які використовуються для кібербезпеки з відкритим вихідним кодом.

Як ChatGPT допомагає збройним силам

Крім того, у грудні 2024 року Open AI ChatGPT підписав угоду про співпрацю з компанією Anduril, що спеціалізується на безпілотних системах і робототехніці для Збройних сил США. Метою цього партнерства є розробка передової системи АІ для Збройних сил США.

В рамках співпраці OpenAI розробить програмне забезпечення для систем, призначених для боротьби з бойовими безпілотниками, а Anduril надасть свою базу даних і досвід у створенні безпілотників і військових систем. Очікується, що запланована система ШІ буде здатна розпізнавати, ідентифікувати та оцінювати повітряні загрози і негайно реагувати на них – без необхідності втручання людини.

Право і використання ШІ та ChatGPT у військових цілях

Польща та Європейський Союз

Як країна-член Європейського Союзу, Польща зобов’язана дотримуватися законодавства ЄС, зокрема Закону про штучний інтелект (Закон про ШІ). Закон про штучний інтелект наголошує на забороні використання систем штучного інтелекту в цілях, які порушують права людини, що може обмежити певні військові застосування. Крім того, «суб’єкт, який використовує систему штучного інтелекту для цілей, відмінних від військових, оборонних або цілей національної безпеки, повинен забезпечити, щоб система штучного інтелекту … відповідала вимогамЗакону про штучний інтелект, якщо тільки вона вже не відповідає цим вимогам». Перелік заборонених практик можна знайти в Главі II Закону про ШІ.

Положення Закону про штучний інтелект

Вчитуючись у текст Закону про штучний інтелект, можна знайти таке положення:

(24) «Якщо і в тій мірі, в якій системи штучного інтелекту продаються, вводяться в експлуатацію або використовуються з модифікаціями або без них – для військових, оборонних цілей або цілей національної безпеки, ці системи повинні бути виключені зі сфери дії цього регулювання незалежно від того, який суб’єкт здійснює цю діяльність – не має значення, наприклад, чи є це державна або приватна організація».

Творці Закону про штучний інтелект обґрунтовують цей факт наступним чином:

«У випадку військових і оборонних цілей такий виняток виправданий як статтею 4(2) ДФЄС, так і специфікою оборонної політики держав-членів і спільної оборонної політики Союзу, охопленої Главою 2 Розділу V ДФЄС, які підпадають під дію міжнародного публічного права, яке, таким чином, забезпечує більш відповідну правову основу для регулювання систем ШІ в контексті застосування смертоносної сили та інших систем ШІ в контексті військової та оборонної діяльності» (…).

Крім того, згідно зі статтею 2(3) Закону про ШІ

(…) 3.

«Цей Регламент не застосовується до систем ШІ, якщо і в тій мірі, в якій вони розміщуються на ринку, вводяться в експлуатацію або використовуються, з модифікацією або без неї, виключно у військових, оборонних цілях або цілях національної безпеки, незалежно від типу суб’єкта, що здійснює цю діяльність».

Правові засади використання ШІ у військовій сфері в Європейському Союзі

Таким чином, говорячи про правові засади використання ШІ у військових цілях в Європейському Союзі, необхідно вказати на вищезазначене:

Стаття 4.(2) ДФЄС

«Союз поважає рівність держав-членів перед Договорами, а також їхню національну ідентичність, притаманну їхнім фундаментальним структурам, політичним і конституційним, включаючи їхнє регіональне і місцеве самоврядування. Вона поважає основні функції держави, зокрема ті, що спрямовані на забезпечення її територіальної цілісності, підтримання громадського порядку та захист національної безпеки. Зокрема, національна безпека є виключною відповідальністю кожної держави-члена».

Таким чином, відповідно до законодавства Європейського Союзу (AI Act), використання систем штучного інтелекту можливе, але в цьому контексті «у військових, оборонних цілях або в цілях національної безпеки». А також «У випадку цілей національної безпеки (…) це виправдано як тим, що національна безпека є виключною відповідальністю держав-членів відповідно до статті 4(2) ДФЄС, так і тим, що діяльність у сфері національної безпеки має специфічний характер, пов’язана з особливими оперативними потребами і що до неї застосовуються специфічні національні правила».

У Польщі також розробляються перші стратегії, пов’язані з використанням штучного інтелекту в обороні. Як зазначено в «Стратегії Міністерства оборони щодо штучного інтелекту до 2039 року» від серпня 2024 року.

«До 2039 року використання сучасних технологій, в тому числі штучного інтелекту, стане передумовою здатності польських збройних сил ефективно здійснювати стримування і оборону. Системи штучного інтелекту відіграватимуть значну роль у військових операціях, які революціонізують спосіб управління військовими операціями і їх проведення в майбутньому оцифрованому бойовому середовищі. Його різнобічне застосування не лише вплине на оперативний темп і ефективність використання виділених сил, а й створить нові етичні і правові виклики».

Використання ШІ у військових операціях в Польщі буде включати в себе

• Автономні бойові системи: Проведення операцій без безпосередньої участі людини, виконання розвідувальних, наступальних і оборонних місій з більшою точністю, мінімізуючи ризики для особового складу.
• Аналіз розвідданих: Обробка великих обсягів інформації, виявлення закономірностей, оцінка дій противника, покращення планування та виконання операцій.
• Оптимізація логістики: Управління ресурсами, скорочення часу на ремонт, планування маршрутів і прогнозування потреб у постачанні для кращої підтримки підрозділів.
• Системи кіберзахисту: швидке виявлення та нейтралізація кіберзагроз, захист військової інфраструктури та даних.
• Симуляції та тренування: Реалістичне тренувальне середовище та персоналізовані шляхи розвитку для підтримки підготовки солдатів і тестування стратегій.
• Підтримка прийняття рішень: Аналіз сценаріїв і рекомендації для підвищення швидкості і точності рішень командирів.
• Електронне навчання і управління талантами: Розробка індивідуальних шляхів навчання, кастомізація матеріалів і виявлення талантів.

Використання ШІ у військових цілях у Сполучених Штатах Америки

США, своєю чергою, є лідером у розробці систем штучного інтелекту для військових цілей. Над автономними військовими системами працюють багато відомств, зокрема DARPA (Агентство передових оборонних дослідницьких проектів).

Однак у США немає єдиного законодавства, що регулює використання ШІ в оборонному секторі. Однак законодавчі акти, такі як Закон про національну оборону, містять положення про фінансування і розробку автономних військових систем. Офіційне резюме можна знайти тут.

Принципи DoD (Міністерство оборони) – в останні роки Пентагон прийняв етичні принципи застосування ШІ у військовій сфері, наголошуючи на підзвітності, прозорості та надійності. Системи повинні використовуватися відповідно до міжнародного гуманітарного права. Крім того, був створений документ про стратегію розгортання даних, аналітики та ШІ. Ця стратегія була розроблена Міністерством оборони США з метою створення стратегії інтеграції даних, аналітики та штучного інтелекту (ШІ) у військову та оперативну діяльність.

Підсумок

Вибух кібер-вантажівки в Лас-Вегасі є трагічним нагадуванням про потенційну небезпеку використання ШІ. Хоча ця технологія має великий потенціал для поліпшення багатьох сфер життя, її зловживання може призвести до драматичних наслідків. Вкрай важливо забезпечити, щоб ШІ розроблявся і використовувався відповідально, з дотриманням правил безпеки та етики.

Вибух кібермобіля, ШІ в ЗМІ, Метью Лівелсбергер, штучний інтелект і злочинність, атака на ChatGPT, Tesla Cybertruck у Лас-Вегасі, етика ШІ, посттравматичний стресовий розлад у ветеранів.