Компания Anthropic представила новую нейросеть Claude Mythos Preview, которую разработчики называют самой мощной моделью в истории компании. Особенность Mythos заключается в её способностях к взлому: модель способна находить тысячи уязвимостей в популярном программном обеспечении, включая критические баги, которые десятилетиями оставались незамеченными.
Среди обнаруженных Mythos уязвимостей — баг в OpenBSD, который не замечали на протяжении 27 лет, дыра в видеокодеке FFmpeg, пережившая миллионы автоматических проверок, а также несколько уязвимостей в ядре Linux, позволяющих получить полный контроль над чужим компьютером. В одном из тестов модель самостоятельно собрала работающий взлом браузера, объединив сразу четыре уязвимости — раньше такое было под силу только топовым хакерам.
Самое удивительное, что Mythos не обучали специально для взлома. Эти способности появились как побочный эффект общего роста модели в программировании и логике. Anthropic не ставили перед собой задачу создать кибероружие, но результат оказался настолько опасным, что разработчики решили не выпускать модель в открытый доступ.
Вместо этого Anthropic раздали Mythos примерно 40 компаниям, включая Microsoft, Apple, Amazon, Nvidia, Cisco и CrowdStrike, в рамках программы Project Glasswing. Задача партнёров — оперативно закрыть обнаруженные уязвимости до того, как аналогичные модели появятся у конкурентов или утекут в открытый доступ. Эксперты сравнивают ситуацию с тем, как «дать школьникам ядерную бомбу».
Вопрос о том, является ли Mythos прототипом AGI, остаётся открытым. Однако её способности к взлому и самостоятельному анализу уязвимостей вызывают опасения даже у самих разработчиков. Anthropic намерена продолжать работу с ограниченным кругом партнёров, чтобы минимизировать риски глобальных кибератак.
