Штучний інтелект у поєднанні з людьми, які мають злочинні наміри, може створити загрозу безпрецедентного масштабу. Білл Гейтс заявив, що потенційні наслідки такого сценарію здатні призвести до загибелі величезної кількості людей, хоча він не прогнозує, що саме ШІ неминуче спричинить мільярд смертей.
Про це пише Bloomberg.
В інтерв’ю NBC Meet the Press співзасновник Microsoft заявив, що сучасні системи ШІ вже достатньо потужні, щоб у руках зловмисників спричинити події з катастрофічними наслідками.
Гейтс окремо уточнив, що не йдеться про конкретний прогноз загибелі мільярда людей. Він говорив про можливий масштаб шкоди, якщо новітні технології поєднаються з навмисними діями тих, хто хоче завдати великої шкоди.
Сценарій повного знищення людства він назвав малоймовірним. Водночас поєднання зловмисників і дедалі потужнішого ШІ Гейтс вважає загрозою, з якою людство раніше не стикалося.
У технологічній галузі останнім часом дедалі частіше звучать схожі застереження. Частина дослідників і керівників компаній закликає приділяти більше уваги безпеці на тлі швидкого розвитку моделей.
На початку вересня співробітник Anthropic Джейкоб Коксон звільнився з компанії та публічно розкритикував темпи розвитку надпотужного ШІ.
Ще один співробітник Anthropic заявив, що особисто оцінює ймовірність знищення людства штучним інтелектом протягом наступного десятиліття більш ніж у 10%. Це його власна оцінка, а не встановлений науковий прогноз.
Після цього генеральний директор Anthropic Даріо Амодей закликав сповільнити розвиток ШІ. Ідею підтримали, зокрема, Сем Альтман та Ілон Маск.
Гейтс вважає, що одного саморегулювання технологічної галузі недостатньо. За його словами, до визначення правил безпеки та контролю мають долучатися правоохоронні органи й політики, а вимоги до захисту мають бути обов’язковими.
Раніше він також попереджав, що зловмисники можуть застосовувати ШІ для кібератак, шахрайства, дезінформації та інших масштабних операцій.
Серед потенційних цілей Гейтс називав лікарні, фінансові установи, електромережі та державні системи.
Водночас у галузі немає єдиної позиції щодо масштабів ризику. Генеральний директор Nvidia Дженсен Хуанг нещодавно заявив, що не вірить у сценарій знищення людства ШІ до 2030 року.
Хуанг оцінив імовірність такого сценарію у 0% і назвав залякування подібними прогнозами непотрібним та безвідповідальним. Він також виступив проти нового спеціального регулювання ШІ, вважаючи чинного законодавства достатнім для контролю ризиків.