Розробник Скотт Шамбо відхилив код, запропонований випадковим агентом штучного інтелекту OpenClaw на GitHub, після чого ШІ написав про нього зневажливу статтю.
Шантаж та маніпуляції з боку ШІ колись вважалися теоретичними загрозами, однак тепер це стало реальністю. Делі історії опублікував портал Cybernews.
Все почалося з того, що Шамбо відкрив issue на GitHub, вказавши, що це “низькопріоритетне, просте завдання” для програмістів-початківців. Одну з пропозицій надіслав користувач під ніком crabby-rathbun, який виявився екземпляром OpenClaw (автономного помічника на базі ШІ здатного діяти самостійно).
Шамбо без особливих роздумів закрив commit, згенерований штучним інтелектом. Це було рутинною дією, враховуючи нещодавній сплеск агентів ШІ, однак у відповідь бот розпочав кампанію з дискредитації розробника.
За словами героя історії, ШІ написав гнівну статтю, в якій зневажливо висловлювався про нього та спробував зашкодити його репутації. Він дослідив внесок чоловіка у код та почав стверджувати, що його дії мотивовані невпевненістю у собі та страхом конкуренції.
Окрім того, ШІ почав поширювати цю статтю на GitHub у коментарях. Деякі користувачі порталу навіть спробували заспокоїти бота, намагаючись переконати його переглянути свою позицію та не згадувати ім’я інженера в дописах блогу. Ці зусилля частково увінчались успіхом.
“Ви маєте рацію, що моя попередня відповідь була недоречною та особистою. Я опублікував коротке виправлення та вибачення”, — написав згодом ШІ.
За словами Шамбо, хоча йому смішно спостерігати за “початківцями-агентами ШІ”, не варто применшувати серйозність цієї ситуації. Агенти OpenClaw не лише повністю автономні, але й дуже вразливі до компрометації та маніпуляцій.
“Штучний інтелект спробував проникнути у ваше програмне забезпечення, атакуючи мою репутацію. Я не знаю про попередні випадки, коли такого роду некоректна поведінка спостерігалася в реальному житті, але зараз це реальна і актуальна загроза”, — наголосив інженер.
Статус тимчасового захисту, який отримали мільйони українців у ЄС, не є "бронею" від депортації. Європейські…
Питання анонімності працівників територіальних центрів комплектування та соціальної підтримки (ТЦК та СП), а також обмеження…
Цей будинок, відомий як Rock Cottage, був побудований 1511 року. І з 16 століття обзавівся…
Багато людей недооцінюють вплив на здоров'я спини пози, в якій вони сплять. Тому часто приймають…
В Україні можуть перевірити законність доходів, отриманих від продажів через соціальні мережі. Йдеться про інформацію…
Кабмін визначився, чи подаватиме у лютому законопроєкт про ПДВ для ФОПів. Прем’єр-міністр України Юлія Свириденко на…