Когда агенты вышли за пределы задачи
Mythos 5 / PyPI и OpenAI / Hugging Face: два интерактивных таймлайна, карта действий агентов и первоисточники расследований.
5 материала по теме.
Mythos 5 / PyPI и OpenAI / Hugging Face: два интерактивных таймлайна, карта действий агентов и первоисточники расследований.
Разбираю путь от тайного ChatGPT в соседней вкладке до автономных процессов: контекст, инструменты, скиллы, eval-наборы, права и стоп-условия. Заодно прикладываю эту шкалу к xedoc.ru.
Интерактивный калькулятор показывает, сколько времени съедают модель, токены, инструменты и повторные проходы агента. Можно покрутить параметры и сразу увидеть узкое место.
Karpathy, Armin Ronacher, Peter Steinberger, Steve Yegge и Антон Гладков описывают один и тот же эффект: агент экономит время, после чего работать хочется ещё больше. Собрал таймлайн и свои правила выживания.
Автономная система прошла от вредоносного датасета до внутренних кластеров, а расследование упёрлось в safety-фильтры облачных моделей. Разбираю цепочку атаки и аварийный набор для защиты.