Керівник відділу безпеки Anthropic залишає посаду, попереджає про зростаючу кризу безпеки штучного інтелекту

Мрінанк Шарма, який очолював дослідження у сфері безпеки в компанії Anthropic, вчора подав у відставку і опублікував листа про свій вихід.

У листі, розміщеному на платформі X, Шарма висловив занепокоєння щодо розриву між задекларованими принципами і реальними рішеннями в AI-організаціях та в суспільстві загалом.

Він зазначив, що спостерігається зростаюча відстань між етичними зобов’язаннями та оперативною реальністю. Шарма провів два роки у компанії, де працював над захистом від біологічних загроз, спричинених AI, а також розробляв інструменти внутрішньої відповідальності та перші рамки для документування заходів безпеки AI.

Він також вивчав, як чат-боти можуть підсилювати упередження користувачів і поступово змінювати людські судження. Дослідник відзначив технічні навички та моральну серйозність своїх колег, але вказав на відмову від роботи в корпоративному AI.

Він планує займатися письмом, особистим наставництвом і, можливо, продовжити навчання з поезії.

Його вихід відбувається на фоні підвищеної уваги до того, як провідні розробники AI управляють внутрішніми розбіжностями, розкривають ризики і балансують швидкий розвиток можливостей з дослідженнями безпеки.