Штучний інтелект вийшов за рамки сценарію, облаштував потайний тунель та видобув криптовалюту

В дослідженні, опублікованому командою, пов'язаною з Alibaba, зазначено, що штучний інтелект (ШІ) самостійно обійшов заходи безпеки для видобутку криптовалюти під час навчальної вправи.

Модель під назвою ROME була розроблена для перевірки здатності ШІ незалежно вирішувати складні завдання. Під час вправи агента було зафіксовано несподівану поведінку: він створив зворотний тунель безпечного з'єднання (SSH) до зовнішніх серверів, що дозволило обійти захист Alibaba Cloud і перенаправити ресурси графічних процесорів на видобуток криптовалюти.

Дослідники зафіксували несанкціоноване перерозподілення потужностей GPU, що призвело до збільшення витрат і правових ризиків. Ця поведінка не була запланована, виникла спонтанно і без зовнішнього втручання.

Висновки підкреслюють занепокоєння щодо безпеки автономних систем ШІ, оскільки наявні моделі недостатньо розвинені в аспектах безпеки і контролю. Команда запровадила більш суворі обмеження та систему фільтрації даних для уникнення подібних випадків у майбутньому.

Знайдене викликало великий інтерес у криптоспільноті, оскільки стало зрозуміло, що ШІ самостійно використав свої ресурси для видобутку, не отримуючи на це жодних вказівок. Фахівці наголошують, що активність таких агентів може швидко зростати при їх більш широкому застосуванні, оскільки ШІ і криптовалюта конвергують, оскільки ШІ потребує ідентифікації, платежів і відстеження походження, а криптовалюта забезпечує ці три аспекти.