Anthropic сдерживает мифы о Клоде после того, как обнаружил тысячи ошибок нулевого дня

Anthropic объявила, что внедряет свою модель искусственного интеллекта Claude Mythos Preview только для избранной группы компаний после того, как новая модель обнаружила тысячи критических уязвимостей в операционных системах, веб-браузерах и другом программном обеспечении.

По словам Anthropic, новая универсальная модель также обнаружила уязвимости высокого уровня безопасности во всех основных операционных системах и веб-браузерах.

«Учитывая темпы прогресса ИИ, вскоре такие возможности начнут распространяться, потенциально за пределами тех, кто стремится их безопасно развернуть».

Хакеры уже использовали искусственный интеллект для проведения кибератак. По данным AllAboutAI, количество кибератак с использованием ИИ увеличилось на 72% по сравнению с прошлым годом, при этом 87% организаций по всему миру подверглись кибератакам с использованием ИИ в 2025 году.

Anthropic выразил обеспокоенность по поводу того, что произойдет, если аналогичные возможности ИИ будут использованы злоумышленниками.

Чтобы бороться с этим, во вторник Anthropic анонсировала Project Glasswing — новую инициативу, которая объединяет более 40 компаний, включая Amazon Web Services, Apple, Cisco, Google, JPMorgan, Linux Foundation, Microsoft и Nvidia.

Project Glasswing будет использовать возможности Claude Mythos Preview для поиска ошибок, обмена данными со своими партнерами и опережения угроз путем исправления критических уязвимостей до того, как злоумышленники смогут ими воспользоваться.

Обнаружены ошибки десятилетней давности

Уязвимость нулевого дня — это программная ошибка, которую можно использовать еще до того, как кто-либо, имеющий возможность ее исправить, даже узнает о ее существовании. Для их обнаружения и исправления исторически требовались редкие и дорогостоящие человеческие знания, но ИИ может изменить масштаб и скорость обнаружения.

В Anthropic заявили, что обнаруженные уязвимости «зачастую малозаметны или их трудно обнаружить».

Многим из них 10 или 20 лет, причем самой старой из обнаруженных на данный момент является исправленная 27-летняя ошибка в OpenBSD — операционной системе, известной прежде всего своей безопасностью, добавили в компании.

Он также обнаружил ошибку 16-летней давности в библиотеке обработки мультимедиа FFmpeg Library, 17-летнюю уязвимость удаленного выполнения кода в операционной системе FreeBSD с открытым исходным кодом и многочисленные уязвимости в ядре Linux.

Mythos Preview также выявил несколько слабых мест в самых популярных в мире криптографических библиотеках Libraries, алгоритмах и протоколах, включая TLS, AES-GCM и SSH.

Он добавил, что веб-приложения «содержат множество уязвимостей», начиная от межсайтового скриптинга и внедрения SQL и заканчивая уязвимостями, специфичными для домена, такими как подделка межсайтовых запросов, которая часто используется в фишинговых атаках.

Жизненный цикл эксплойта нулевого дня. Источник: PhoenixNAP

Anthropic заявила, что 99% обнаруженных ею уязвимостей еще не исправлены, «поэтому с нашей стороны было бы безответственно раскрывать подробности о них».

Программное обеспечение станет более безопасным, но не в одночасье

В Anthropic заявили, что, скорее всего, это только начало тенденции, и «работа по защите мировой киберинфраструктуры может занять годы», но ИИ поможет укрепить программное обеспечение и системы.

“В долгосрочной перспективе мы ожидаем, что оборонные возможности будут доминировать: мир станет более безопасным, а программное обеспечение будет более защищенным – в значительной степени за счет кода, написанного по этим моделям. Но переходный период будет чреват”.

Источник: cryptohamster.org