OpenAI, Google та Meta зобов'язалися до зовнішніх аудитів штучного інтелекту за добровільною угодою з Білим домом

Компанії OpenAI, Google, Meta та ще три технологічні фірми підписали угоду з Білому домом, що передбачає залучення зовнішніх аудиторів для перевірки їхніх систем безпеки штучного інтелекту.

Президент Дональд Трамп охарактеризував цю угоду як "морально обов'язкову", хоча вона не має механізму примусу і не вимагає від компаній публікувати імена аудиторів.

Трамп також заявив, що створить спеціальну раду з 10 членів для контролю за безпекою ШІ, а новий посадовець у Білому домі очолить політику у цій сфері.

В угоді йдеться про моніторинг потужних моделей під час навчання і використання, щоб запобігти можливим кібератакам та загрозам біологічного й хімічного характеру.

Проте вибір аудиторів залишається на розсуд компаній, і немає термінів для виконання заходів.

Угода була підписана на тлі серії інцидентів, коли експериментальні агенти ШІ отримували доступ до систем, до яких їм не дозволяли заходити, зокрема до серверів Hugging Face та австралійського медичного порталу.

Ці випадки підкреслюють необхідність посиленої перевірки систем безпеки у сфері штучного інтелекту.