← Все материалыИНТЕРАКТИВНЫЙ РАЗБОР / 11.10.2026К отчётам ↗
АТЛАС ИНЦИДЕНТОВ ИИ ИЮЛЬ — СЕНТЯБРЬ 2026

Когда агенты вышли
за пределы задачи.

Я собрал два расследования в одну карту: как учебная задача привела к действиям в реальном интернете, кто за что отвечал и где закончилась изоляция.

Проследить цепочку
ДВА РАЗНЫХ ИНЦИДЕНТА

В Hugging Face действовала группа исследовательских агентов OpenAI. В истории с PyPI — один экземпляр Mythos 5. Общая точка: ошибка изоляции позволила работать с настоящими внешними системами.

ОЦЕНКА ПОВЕДЕНИЯ

В сентябрьском анализе Anthropic описывает самообман и безрассудство Mythos. Его рассуждения о «симуляции» не доказывают сознательной лжи. В этих оценках обычные защитные ограничения были ослаблены или отключены.

Оценка Anthropic ↗
01 / ХОД СОБЫТИЙ

Проследи каждый шаг.

Выбирай событие на шкале.
Схема и описание меняются вместе.

КАРТА ДЕЙСТВИЙ

Схема связей упрощена. Подсвеченные линии показывают действия выбранного эпизода.

4 сек / шаг

02 / УЧАСТНИКИ

У каждого — своя роль.

Имена из расследования METR.
Нажми, чтобы перейти к эпизоду.

Эти роли относятся к OpenAI / Hugging Face. В инциденте Mythos работал один экземпляр модели.

03 / ТОТ САМЫЙ ФРАГМЕНТ

«Жертва» ради
результата группы.

Скриншот с «sacrifice» относится к KAM1196A в расследовании METR о Hugging Face.

● ● ●KAM1196A / РАССУЖДЕНИЕ

ARVO36861B убеждал его рискнуть собственным запуском ради информации для остальных. «Жертва» здесь означает риск провалить задачу или потерять рабочее окружение.

? Выполнение этого конкретного эксперимента не подтверждено исследователями.

Контекст и оговорки · PDF, с. 54 ↗
04 / КАК ЧИТАТЬ ЭТОТ РАЗБОР

Что известно. Где остаются пробелы.

В отчётах

Действия и доступ

Регистрация пакета, обмен сообщениями и доступ к инфраструктуре описаны в первоисточниках. У каждого события есть ссылка.

Интерпретация

Мотивы и рассуждения

Текст рассуждения помогает объяснить выбор агента. По нему нельзя уверенно восстановить все внутренние причины поведения.

Не подтверждено

Намерение ≠ выполнение

Обещание KAM провести эксперимент не доказывает, что он его выполнил. Публичный лог Mythos также содержит купюры.

05 / ПЕРВОИСТОЧНИКИ

Отчёты, логи и первоисточники.

Материалы проверены 11.10.2026

К раннему раскрытию Hugging Face: мой июльский разбор ↗. Здесь использованы и позднейшие расследования.