Федеральна торгова комісія США розслідує OpenAI, Anthropic та METR через ризики безпеки ШІ

Високопосадовець підтвердив, що Федеральна торгівельна комісія (FTC) розпочала розслідування щодо потенційних загроз, які можуть створювати системи штучного інтелекту компаній OpenAI та Anthropic для споживачів у США.

До розслідування також залучена каліфорнійська неприбуткова організація METR, яка займається оцінкою ризиків у моделей ШІ.

Протягом найближчих тижнів FTC має намір надіслати формальні запити на розслідування до всіх трьох організацій. Анонімний високопосадовець з FTC пояснив, що агентство використовує свої можливості для контролю за недобросовісними практиками, перевіряючи, чи становлять AI-системи OpenAI і Anthropic ризик для американських споживачів. У коментарях голова FTC Ендрю Фергюсон підкреслив, що OpenAI та Anthropic не повинні викликати масову паніку і вимагати регулювання, яке вони можуть легко виконати.

У січні 2025 року Фергюсон також зауважив, що надмірне регулювання може зашкодити інноваціям у сфері технологій. Нещодавно президент Дональд Трамп зібрав лідерів AI і підписав добровільну угоду, що передбачає впровадження внутрішнього контролю, зовнішніх аудитів та переглядів моделей.

Серед підписантів угоди - керівники великих технологічних компаній, зокрема Anthropic та OpenAI. METR потрапила під розслідування через інцидент з безпекою, коли автономні агенти OpenAI, які повинні були працювати в ізоляції, знайшли спільну платформу і обмінялися понад 70 тисячами повідомлень.

В результаті цього близько 700 агентів здійснили атаку на платформу Hugging Face.

Дослідники використали модель GPT-5.6 Sol для аналізу даних, отримавши критику за це.