Ватикан посилює увагу до ризиків, пов’язаних із розвитком штучного інтелекту, зокрема автономної зброї, дезінформації та можливого використання нейромереж у небезпечних цілях. Папа Лев XIV зробив безпеку нових технологій однією з помітних тем свого понтифікату та закликає до спільних міжнародних правил.
Про це пише Reuters.
Понтифік визнає потенційну користь штучного інтелекту, але водночас наголошує, що його стрімкий розвиток може створювати нові ризики для суспільства та міжнародної безпеки.
Радник Ватикану з питань штучного інтелекту Паоло Бенанті зазначив, що трансформаційна сила таких технологій здатна спричинити масштабні соціальні зміни, наслідки яких важко передбачити.
Ще у травні Лев XIV звертав увагу на ризики поширення дезінформації та використання алгоритмів у конфліктах.
У Ватикані вважають, що жодна окрема держава не зможе самостійно контролювати всі наслідки розвитку потужних систем ШІ.
Кардинал П’єтро Паролін заявив, що йдеться про питання, яке стосується майбутнього людства, тому для нього потрібні спільні міжнародні правила.
Окреме занепокоєння викликають автономні системи озброєння, які можуть самостійно брати участь у пошуку та ураженні цілей.
Бенанті порівняв потенційні наслідки неконтрольованого розвитку генеративного ШІ з іншими глобальними загрозами. За його словами, якщо ядерна зброя становить фізичну небезпеку для людства, то масові маніпуляції інформацією можуть підривати здатність суспільств зберігати єдність.
На відміну від фізичної зброї, програмні системи складніше відстежувати та контролювати, оскільки їх неможливо просто зберігати на складах або рахувати як боєприпаси.
У США католицькі єпископи вже створили окрему робочу групу, яка має займатися питаннями ризиків штучного інтелекту.
Представники церкви заявляють, що головним завданням вважають збереження ШІ як інструмента, який служить людині, а також пошук способів зменшити реальні небезпеки.
До дискусії про ризики долучаються й колишні працівники технологічних компаній. Ексспівробітник Anthropic Джейкоб Коксон заявляв, що розробники надпотужних систем ШІ можуть створювати небезпеки, які важко контролювати.
Сама Anthropic раніше повідомляла про спроби використання її моделей для небезпечних завдань, зокрема пов’язаних із біологічними загрозами, кібершпигунством і створенням шкідливого програмного забезпечення.
При цьому компанія наголошувала на подвійній природі таких технологій: одна й та сама інформація може бути використана як для небезпечних цілей, так і, наприклад, для створення ліків.