Попередження Anthropic: Штучний інтелект на межі самостійного розумнішання

Американська компанія з розробки штучного інтелекту Anthropic попереджає, що розвиток AI просувається з такою швидкістю, що незабаром агенти зможуть самостійно створювати, навчати і вдосконалювати себе без участі людини.

У блозі, опублікованому в четвер, керівники Anthropic, Маріна Фаваро та Джек Кларк, зазначили, що агенти вже можуть самостійно виконувати код, делегувати частину роботи іншим агентам і можуть бути на межі повного самоврядування. Вони підкреслили, що зміщення ролі людини у процесі розвитку AI набуває загрозливих масштабів.

Наприклад, модель Claude від Anthropic вже створює близько 80% коду, що потрапляє в базу даних компанії.

На думку Фаваро і Кларка, якщо якість коду, написаного людьми і AI, досягне паритету, люди можуть повністю зупинити написання коду та перейти лише до його рецензування. Водночас, існують побоювання щодо наслідків, якщо AI зможе самостійно вдосконалюватися.

Компанія OpenAI заявила, що проводить дослідження для безпечного впровадження потужнішого AI, включно з AI, здатним до рекурсивного самовдосконалення. Фаваро і Кларк закликали до сповільнення розвитку технології, щоб дати можливість дослідити її "величезні" наслідки.

Вони підкреслили, що будь-яке сповільнення може не дати очікуваних результатів, якщо більш ризиковані гравці технологічно нас догонятимуть. Тим часом, AI-агенти стають все більш популярними, зокрема серед користувачів криптовалют.

Деякі керівники криптокомпаній вважають, що AI-агенти можуть сприяти зростанню обсягів транзакцій.

Згідно з даними інвестиційної компанії Keyrock, AI-агенти завершили платежі на суму 73 мільйони доларів у 176 мільйонах транзакцій за останній рік.