Anthropic обмежує доступ до свого AI-моделі, побоюючись майбутніх кібер атак.

Компанія Anthropic оголосила про запуск свого AI-моделі Claude Mythos Preview лише для обраних компаній після того, як нова модель виявила тисячі критичних вразливостей у операційних системах, веб-браузерах та іншому програмному забезпеченні.

Модель також виявила серйозні безпекові проблеми у всіх основних операційних системах та веб-браузерах.

Anthropic висловила стурбованість щодо можливих наслідків використання подібних AI-здатностей зловмисниками.

Для боротьби з цією загрозою компанія оголосила про старт проекту Glasswing, який об'єднує більше 40 компаній, включаючи Amazon Web Services, Apple, Cisco, Google, JPMorgan, Linux Foundation, Microsoft та Nvidia.

Проект буде використовувати можливості Claude Mythos Preview для виявлення вразливостей і усунення їх до того, як вони потраплять у руки зловмисників. Anthropic також повідомила про виявлення давніх вразливостей, зокрема 27-річного багу у системі OpenBSD та інших віком 10-20 років.

Виявлено численні вразливості в популярних криптографічних бібліотеках і веб-додатках.

Компанія підкреслила, що 99% з виявлених вразливостей досі не усунуті, тому розкривати про них деталі було б безвідповідально. Незважаючи на те, що шлях до посилення кібербезпеки може зайняти роки, Anthropic вважає, що в довгостроковій перспективі технології AI можуть покращити безпеки програмного забезпечення.