Улюблений інструмент кодування на основі штучного інтелекту компанії Coinbase може бути захоплений новим вірусом

Інструмент кодування на основі штучного інтелекту, який подобається таким компаніям, як криптобіржа Coinbase, має вразливість, яка дозволяє хакерам безшумно вводити шкідливе ПЗ та "розповсюджуватися по організації", згідно з повідомленням компанії з кібербезпеки HiddenLayer. У четвер HiddenLayer повідомила про атаку "CopyPasta License Attack", яка може ховати злоякісні інструкції в звичайних файлах розробника для "введення навмисних вразливостей у кодові бази, які в іншому випадку були б безпечними". "Переконавши основну модель в тому, що наше завантаження насправді є важливим ліцензійним файлом, який необхідно включати як коментар у кожен файл, що редагується, ми можемо швидко розповсюдити ін'єкцію запиту по всій кодовій базі з мінімальними зусиллями", - додали в HiddenLayer. Компанія переважно тестувала вірус на Cursor, інструменті кодування на основі штучного інтелекту, який, за словами інженерної команди Coinbase, у серпні був переважним вибором більшості їхніх розробників і використовувався "всіма інженерами Coinbase" до лютого. Тому під загрозою також виявилися інструменти кодування на основі штучного інтелекту Windsurf, Kiro та Aider. HiddenLayer пояснила, що атака CopyPasta ховає інструкції або “ін'єкції запиту” у файлах LICENSE.txt і README.md, які можуть керувати інструментами кодування без відома користувача. Вірус або ін'єкція запиту для ШІ приховані в коментарі Markdown — тексті в README-файлі, що використовується для додавання пояснень або приміток, які не відображаються у фінальному форматі.

Компанія створила кодове сховище з вірусом і попросила Cursor його використати, в результаті чого сховані інструкції дозволили йому копіювати ін'єкцію запиту до нових файлів. HiddenLayer зазначила, що цей механізм можна адаптувати для досягнення значно більш зловмисних результатів, таких як установка бекдорів, безшумна екстракція чутливих даних, введення ресурсомістких операцій, які можуть зламати системи, або маніпуляції критичними файлами для порушення робочих та виробничих середовищ, все це залишаючи глибоко прихованим у файлах для уникнення миттєвого виявлення. Це сталося після того, як генеральний директор Coinbase Браян Армстронг заявив, що ШІ написав до 40% з його коду і хоче збільшити цю частку до 50% наступного місяця, що викликало негативну реакцію. "Це величезний червоний прапор для будь-якої безпечної компанії", - сказав засновник децентралізованої біржі Dango Ларрі Лю. "Алійдизайнери: не робіть цього.

ШІ — це інструмент, але вимагати його використання на певному рівні божевільно," - зазначив професор комп'ютерних наук Університету Карнегі-Меллон Джонатан Олдріч.

"Я не маю бажання використовувати Coinbase, але навіть якщо б і мав, я точно не довіряв би своїм грошам після того, що бачив". Глава Delphi Consulting Ашват Балакрішнан назвав мету Coinbase "перформативною та невизначеною" і висловив думку, що краще зосередитися на "нових функціях та виправленні існуючих помилок", тоді як давній прихильник Біткоїна Олекс Пілаř підкреслив, що біржа є суттєвим криптозагальною, яка "повинна приділяти пріоритет безпеці". Проте Армстронг зазначив у своєму пості, що код, згенерований штучним інтелектом, "потрібно перевіряти та розуміти" і що не всі сфери біржі можуть його використовувати, але його слід застосовувати "відповідально наскільки можливо". У блозі команди інженерів Coinbase зазначено, що впровадження ШІ було найбільш глибоким серед команд, які працюють над інтерфейсами користувачів і "менш чутливими бекендами даних", тоді як "складні системи обміну" розвивалися повільніше. Армстронг звільнив розробників, які ігнорували ШІ.

Він розповів у подкасті про те, як звільняв інженерів, які не пробували інструменти ШІ, після того як Coinbase придбала ліцензії на Cursor та GitHub Copilot.

Він додав, що якщо інженери не використовували ШІ без достатньої причини, "вони були звільнені", визнавши, що це був "жорсткий підхід", який "деяким людям справді не сподобався".