Модель Mythos представляет собой новое поколение систем искусственного интеллекта, способных не только анализировать код, но и самостоятельно выполнять сложные кибероперации.
Грегори Аллен, старший советник Центра стратегических и международных исследований (CSIS), в интервью Bloomberg Television утверждает, что развитие искусственного интеллекта за последний год привело к «качественному скачку» в возможностях: от общения с пользователем к созданию полноценных программных решений. Ключевое отличие Mythos заключается в способности проходить все этапы кибератаки от обнаружения уязвимости до ее эксплуатации без участия человека.
Аллен подчеркивает, что высокая компетентность в программировании фактически приближает систему к уровню профессионального хакера. Это меняет саму природу киберугроз, поскольку сложные атаки больше не требуют длительной подготовки специалистов. В результате ИИ начинает выполнять задачи, ранее доступные только высококвалифицированным и редким кадрам.
Чего больше приносит появление Mythos: новых угроз или возможностей для защиты?
Кибербезопасность на протяжении десятилетий испытывает дефицит специалистов, что ограничивает возможности защиты инфраструктуры. Аллен отмечает, что устранение уязвимостей часто затягивается именно из-за нехватки ресурсов и высокой стоимости экспертов. Mythos потенциально снимает это ограничение, автоматизируя значительную часть работы.
С другой стороны, такая технология подходит не только для защиты, но и для взлома систем. Модель, способная автономно проводить атаки, может быть использована злоумышленниками. Эксперт прямо указывает на двойственную природу технологии, которая одновременно усиливает как защиту, так и угрозы.
Может ли Mythos повысить устойчивость систем?
Несмотря на риски, технология открывает возможности для радикального улучшения защиты. Аллен предлагает рассматривать Mythos как инструмент стресс-тестирования: любое программное обеспечение может проходить проверку на устойчивость к атакам такого уровня.
Ранее подобные проверки были дорогими, длительными и не гарантировали полного выявления уязвимостей. Новый подход позволяет обнаруживать огромные массивы ранее неизвестных ошибок, что потенциально делает программные системы более надежными. «Таким образом, мы действительно открываем мир, в котором можем обеспечить более надежную защиту нашего программного обеспечения», – заключает Аллен.
Проблема, по мнению Аллена, кроется в переходном периоде. Огромные объемы кода, включая компоненты с открытым исходным кодом, на которых держится инфраструктура интернета, поддерживаются добровольцами. Крупные банки и энергетические компании столкнутся с необходимостью масштабной переработки своих систем в ближайшие 12 месяцев. Ключевой вопрос состоит в том, как долго удастся удерживать технологию Mythos исключительно в руках добросовестных игроков и какой объем уязвимостей получится устранить до того, как начнутся реальные проблемы.
Насколько государство отстает от частного сектора и готово ли оно к сотрудничеству?
Аллен отмечает значительное отставание государственных структур от частного сектора в разработке передовых ИИ-моделей. По его оценке, правительство США «очень далеко позади» и вынуждено полагаться на сотрудничество с частными компаниями.
Anthropic, по оценке Аллена, опережает OpenAI и другие ведущие мировые лаборатории искусственного интеллекта на 6-8 месяцев. Этот временной промежуток эксперт называет критическим окном для исправления уязвимостей до того, как аналогичные технологии станут доступны другим государствам или хакерским сообществам.
Однако, по мнению Аллена, правительство США рискует упустить это время из-за спора об условиях контрактов с Пентагоном. Anthropic является ключевым поставщиком не только кибервозможностей, но и технологий искусственного интеллекта, используемых в разведке и непосредственно в боевых действиях, в том числе в Иране. Несмотря на это, Пентагон присвоил компании статус источника риска для цепочки поставок, что является обозначением, обычно применяемым к фирмам, подозреваемым в прикрытии иностранного шпионажа.
Аллен характеризует ситуацию как момент крайней противоречивости. С одной стороны, от Anthropic требуют помощи в защите ключевых финансовых систем страны. С другой стороны, компании выражают полное недоверие и фактически ставят под вопрос ее дальнейшее существование.