Чому штучний інтелект стикається з терміновим вибором: націоналізувати чи децентралізувати

Цього вікенду, 12 вересня, гендиректор Anthropic Дарио Амодеї закликав до узгоджених обмежень у розвитку передового штучного інтелекту та виклав трьохетапний план.

Anthropic планує запросити зовнішніх оцінювачів, які отримають доступ до компанії, аналогічний доступу внутрішніх ризикових команд. Пропонована команда оцінювачів отримає обладнання, доступ до робочого місця та можливості спілкуватися з працівниками.

Угода дозволятиме публікацію ключових висновків без втручання Anthropic, з дотриманням визначених правових, безпекових, конфіденційних та комерційних обмежень.

Зовнішніми експертами зможуть бути перевірені зобов’язання компанії щодо безпеки. Але доступ до однієї лабораторії не зможе уповільнити конкуренцію.

Тому другий етап Амодеї передбачає регулювання та координацію за участю уряду серед значної кількості передових розробників США.

Третій етап пропонує досягнення верифікованих угод між державами, аби демократії зберегли стратегічний простір відносно Китаю. Дебати про націоналізацію та розподілення влади охоплюють три різні аспекти.

Державна власність змінює, хто отримує економічні вигоди та впливає на корпоративні рішення.

Незалежний доступ визначає, хто може перевіряти розвиток передових технологій.

Юридично обов'язкове призупинення безпосередньо обмежує швидкість розвитку контролюємого системи. Управління Anthropic вже надає директорам можливість враховувати більше, ніж тільки прибутки акціонерів.

Компанія функціонує як організація суспільної користі, а законодавство Делаверу вимагає врахування інтересів акціонерів, а також тих, кого бізнес безпосередньо зачіпає.

Довгостроковий траст компанії має повноваження для вибору членів правління з метою підтримки місії компанії. Хоча статут суспільної користі може дозволити ухвалення рішень на основі безпеки всередині Anthropic, він не може зобов’язати конкурентів, які відмовляються від такої моделі.

Пропозиція Амодеї стосується створення загальних правил та міжнародної перевірки, а не передачі власності. Контроль за розвитком штучного інтелекту створює свої ризики концентрації.

Переміщення всіх лабораторій під державну власність може поєднати розробку моделей та рішення про їх зупинку в одній інституції.

Обмежені повноваження зупинки дозволяють компаніям залишатись приватними, забронювавши втручання на випадок екстремальних ризиків. Відкриті моделі розширюють доступ і дозволяють дослідникам перевіряти та адаптувати системи.

Проте загальнодоступність може ускладнити подальше забезпечення безпеки.

Калифорнія та Європейський Союз демонструють, як публічні правила можуть регулювати приватних розробників.

Узагальнюючи, Амодеї пропонує, щоб зовнішні оцінювачі мали глибший доступ для перевірки впливу подібних обов'язків на внутрішні рішення.

Публічне втручання повинно базуватися на чітких критеріях, а оцінювачі мають мати свободу для висвітлення негативних висновків.

Таким чином, демократична легітимність вимагає незалежних експертів, дослідників, активістів та регуляторів для перевірки доказів і викликів до зупинки.