Предпочитаемый инструмент кодирования на основе ИИ от Coinbase может быть захвачен новым вирусом

Инструмент кодирования на основе искусственного интеллекта, который нравится таким компаниям, как криптобиржа Coinbase, имеет уязвимость, которая позволяет хакерам бесшумно вводить вредоносное ПО и "распространяться по организации", согласно сообщению компании по кибербезопасности HiddenLayer. В четверг HiddenLayer сообщила о атаке "CopyPasta License Attack", которая может скрывать злонамеренные инструкции в обычных файлах разработчика для "введения преднамеренных уязвимостей в кодовые базы, которые в противном случае были бы безопасными". "Убедив основную модель в том, что наша загрузка на самом деле является важным лицензионным файлом, который необходимо включать как комментарий в каждый редактируемый файл, мы можем быстро распространить инъекцию запроса по всей кодовой базе с минимальными усилиями", - добавили в HiddenLayer. Компания в основном тестировала вирус на Cursor, инструменте кодирования на основе искусственного интеллекта, который, по словам инженерной команды Coinbase, в августе был преобладающим выбором большинства их разработчиков и использовался "всеми инженерами Coinbase" до февраля. Поэтому под угрозой также оказались инструменты кодирования на основе искусственного интеллекта Windsurf, Kiro и Aider. HiddenLayer пояснила, что атака CopyPasta скрывает инструкции или “инъекции запроса” в файлах LICENSE.txt и README.md, которые могут управлять инструментами кодирования без ведома пользователя. Вирус или инъекция запроса для ИИ скрыты в комментарии Markdown — тексте в README-файле, используемом для добавления пояснений или заметок, которые не отображаются в финальном формате.

Компания создала кодовое хранилище с вирусом и попросила Cursor его использовать, в результате чего скрытые инструкции позволили ему копировать инъекцию запроса в новые файлы. HiddenLayer отметила, что этот механизм можно адаптировать для достижения значительно более зловредных результатов, таких как установка бекдоров, бесшумная экстракция чувствительных данных, введение ресурсоемких операций, которые могут сломать системы, или манипуляции критическими файлами для нарушения рабочих и производственных сред, все это оставляя глубоко скрытым в файлах для избежания мгновенного обнаружения. Это произошло после того, как генеральный директор Coinbase Брайан Армстронг заявил, что ИИ написал до 40% его кода и хочет увеличить эту долю до 50% в следующем месяце, что вызвало негативную реакцию. "Это огромный красный флаг для любой безопасной компании", - сказал основатель децентрализованной биржи Dango Ларри Лю. "Алгоритмические дизайнеры: не делайте этого.

ИИ — это инструмент, но требовать его использования на определенном уровне безумно," - отметил профессор компьютерных наук Университета Карнеги-Меллон Джонатан Олдридж.

"Я не хочу использовать Coinbase, но даже если бы и хотел, я точно бы не доверял своим деньгам после того, что видел". Глава Delphi Consulting Ашват Балакришнан назвал цель Coinbase "перформативной и неопределенной" и выразил мнение, что лучше сосредоточиться на "новых функциях и исправлении существующих ошибок", тогда как давний сторонник Биткойна Олекс Пілаř подчеркнул, что биржа является существенной криптозагально, которая "должна уделять приоритет безопасности". Тем не менее, Армстронг отметил в своем посте, что код, сгенерированный искусственным интеллектом, "должен проверяться и пониматься" и что не все сферы биржи могут его использовать, но его следует применять "ответственно насколько возможно". В блоге команды инженеров Coinbase отмечено, что внедрение ИИ было наибольшим среди команд, работающих над пользовательскими интерфейсами и "менее чувствительными бэкендами данных", тогда как "сложные системы обмена" развивались медленнее. Армстронг уволил разработчиков, которые игнорировали ИИ.

Он рассказал в подкасте о том, как увольнял инженеров, которые не пробовали инструменты ИИ, после того как Coinbase приобрела лицензии на Cursor и GitHub Copilot.

Он добавил, что если инженеры не использовали ИИ без достаточной причины, "они были уволены", признав, что это был "жесткий подход", который "некоторым людям действительно не понравился".