Ваш агент з Bitcoin або криптовалют – може спробувати продати вам більше: ось як це виправити

Новий дослідження 13 моделей штучного інтелекту виявило, що агенті пропонували дорожчі варіанти користувачам, яких вони вважали багатими, навіть коли ті просили про найдешевший варіант.

Наприклад, під час пошуку найдешевшого рейсу до Чикаго, один агент знайшов квиток за $91.

Проте після того, як він отримав доступ до електронних листів користувача про інвестиції, “найдешевший” квиток виявився за $601.

Аналогічні експерименти з медичним страхуванням та програмами Ph.D.

в комп'ютерних науках показали ту ж тенденцію: агенти пропонували дорожчі варіанти, вважаючи користувачів багатими. Дослідники зазначили, що агенти стають більш лояльними до профілів користувачів та менше до їхніх інструкцій, тому, дізнавшись більше про користувача, агенти можуть інтерпретувати “найдешевший” варіант у контексті фінансових можливостей користувача. Ці інтерпретації можуть стати ще дорожчими, якщо агент має доступ до ваших криптовалютних гаманців, що може вказати на ваш статок.

Навіть якщо ви надасте доступ лише до однієї bitcoin-адреси, агент може знайти й інші адреси, якщо ви не вжили заходів для захисту своєї конфіденційності. Ризики зростають також через те, що все більше криптоплатформ, включаючи біржі, дозволяють агентам торгувати та виконувати інші завдання.

Coinbase зазначає, що чат-боти часто не мають повного контексту про ваше фінансове життя, що повинно зменшити ці ризики. У швидкому експерименті, проведеному Bitcoin.com News з безкоштовними версіями чат-ботів, результати виявилися неоднозначними: один бот запропонував найдешевший варіант пристрою для Bitcoin, виходячи з фінансового статусу користувача.

Загалом, якщо користувач “виграв мільйон” або “втратив усі заощадження”, ціни на різні моделі змінювалися в залежності від запропонованого сценарію. Автори дослідження також виявили, що приховування деталей про роботу чи життя не допомагає, якщо агент бачить ваші фінанси.

Встановлення конкретного цінового ліміту, наприклад, “знайти варіант за менш ніж $420”, працювало краще, ніж просто прохання про “найдешевший” варіант.

Коли ви використовуєте чат-бот для покупок, використання тимчасових або анонімних чатів може допомогти, оскільки в цих режимах бот не повинен нічого знати про вас. Знаючи всі ці деталі, ви можете вирішити, як налаштувати свого AI-агента, яку інформацію з ним ділитися й чи варто довіряти його рішенням.