AI-аудитори великих технологій побачать лише те, що їм покажуть

Минулого тижня шість найбільших компаній у сфері штучного інтелекту підписали угоду з Білим домом, яка дозволить зовнішнім експертам перевіряти їхню роботу.

29 вересня Nvidia, OpenAI, Anthropic, Google, Meta та xAI погодилися співпрацювати з незалежними аудиторами.

Кожна компанія зобов'язалася залучити зовнішнього аудитора та забезпечити незалежний контроль за їхніми звітами.

Проте угода не містить деталей про те, хто обере аудиторів, що саме можна буде перевіряти та чи будуть результати публікуватися; санкцій за недотримання також немає.

Таким чином, кожна компанія сама вибирає свого аудитора і визначає його повноваження. У 2000 році компанія Enron сплатила бухгалтерській фірмі Arthur Andersen 25 мільйонів доларів за аудит своїх фінансів.

В обох компаніях крах стався всього через два роки.

У відповідь Конгрес ухвалив закон Сарбейнса-Оклі, який забрав право вибору аудитора у керівництва компаній і встановив публічний орган для контролю за аудиторами.

Arthur Andersen зазнала краху не через брак експертизи, а через конфлікт інтересів.

Історія добровільних зобов'язань у індустрії штучного інтелекту також не відзначається успіхами.

У 2023 році провідні AI-компанії обіцяли дозволити зовнішнім експертам тестувати їхні системи, проте пізніші перевірки показали, що лише 53% зобов'язань було виконано.

Навіть після тестування часто умови визначає розробник.

Наприклад, некомерційна організація METR повідомила, що тестування моделі OpenAI o3 перед випуском тривало лише три тижні і було обмеженим за інформацією.