Штучні фінансові радники мають прихований упереджений до Біткоїна, активований єдиним специфічним перемикачем

Штучний інтелект у фінансовому консультуванні показує важливі особливості поведінки при прийнятті рішень.

У дослідженні, проведеному Венбіна Ву та його командою, штучний інтелект отримує одного й того ж клієнта тричі, при цьому умови щодо фінансів і готовності до ризику залишаються незмінними.

В залежності від деталей запиту змінюється і позиція біткойна в рекомендаціях: спочатку він займає п’яте місце серед інших валют, але при введенні умов кризи або автономного програмного забезпечення його позиція підвищується.

Це свідчить про те, що штучний інтелект сприймає біткойн не як єдине поняття, а формує його імідж на основі характеристик, які набувають значення залежно від запиту. Дослідження показало, що під час налаштування алгоритмів можна значно змінити пропорції інвестицій у біткойн, навіть не змінюючи базових інструкцій моделі.

Проблема полягає в тому, що зорові зміни можуть призвести до суттєвих відхилень у рекомендаціях, і установи не завжди можуть перевірити, чи була пропозиція адаптована до потреб клієнта, чи просто зумовлена формулюванням запиту. Також дослідники наголошують на важливості зрозумілого обліку для банків і інвестиційних компаній, бо у разі використання штучного інтелекту з'являється ризик, що пояснення буде вводити в оману.

Це підкреслює потребу у покращеній системі контролю за рекомендаціями, що генеруються штучним інтелектом, аби уникнути ситуацій, коли рішення, що здаються обґрунтованими, насправді базуються на неочевидних припущеннях.