Генеральний директор Anthropic закликає уповільнити гонку в сфері ШІ. Муск та Алтман з OpenAI підтримують цю думку.

Керівники компаній, які прагнуть створити найпотужніші системи штучного інтелекту (ШІ), починають дійти згоди стосовно необхідності уповільнення темпів розвитку.

Діаріо Амодей, генеральний директор компанії Anthropic, закликав до свідомого регулювання прогресу у сфері ШІ, стверджуючи, що можливості моделей розвиваються швидше, ніж здатність дослідників їх розуміти та контролювати.

У своєму есе "Ми повинні уповільнити розвиток на межі", він висловив занепокоєння, що робота над безпекою ШІ вже не встигає за швидкими змінами. Амодей зазначив, що хоча це не означає повну зупинку розробок, слід уповільнити розвиток технологій, щоб уникнути ризиків.

Його позицію підтримали керівники OpenAI та xAI, Сам Альтман і Ілон Маск, які погодилися, що прогрес у сфері ШІ має тривати, але не за будь-яку ціну.

Попередження Амодея звучить на фоні зростаючого занепокоєння серед дослідників про можливість переходу до самоудосконалення систем ШІ.

Один із колишніх дослідників Anthropic звинуватив компанії в перегонах до створення надінтелекту, яке може загрожувати людству.

Хоча Амодей не пішов так далеко, його есе підкреслює тривогу щодо все більшої автоматизації розробки нових можливостей ШІ, яка може випередити здатність людей контролювати ці процеси.