OpenAI стверджує, що його новий АІ 'Astra' може будувати атаки без допомоги людини

Компанія OpenAI оголосила про свою нову модель Astra, яка здатна виявляти раніше невідомі програмні вразливості та перетворювати їх на справжні атаки без участі людини, тим самим переходячи межу кібербезпеки, яка раніше належала в основному експертним хакерським командам.

Astra стала першою моделлю, яку OpenAI класифікувала як таку, що має «Критичні» кіберможливості.

Для отримання цього статусу модель повинна виявляти невідомі вразливості, відомі як нульові дні, та розробляти робочі експлойти для них.

Під час тестування Astra продемонструвала 100% успіх у розробці експлойтів з відомих вразливостей та виявила дві невідомі помилки.

Вона змогла вийти з більшості обмежень безпеки браузера та виконати команди на хост-комп'ютері, а також об'єднати кілька вразливостей в операційній системі для отримання прав адміністратора. Необхідно зазначити, що компанія вирішила призупинити частину розробки Astra, щоб додати захисні механізми, та планує спочатку обмежити її найрозвинутіші можливості у сфері кібербезпеки для обраних тестувальників.

Це особливо актуально для криптовалюти, де вразливості можуть перетворюватись на грошовий дохід за лічені хвилини.

Дослідники вважають, що важливішим є не стільки новий клас атак, скільки швидкість, з якою вже існуючі слабкі місця можуть бути виявлені та використані.