Блог НИИ Нейросетей · Агенты и системы
Два ИИ-агента всю ночь искали хозяина: зачем агенту границы
Денис Домрачев · 25 октября 2026 · 3 минуты чтения
Человек лёг спать и не пожелал агентам спокойной ночи. К утру они нашли его домашний адрес и номер шерифа. Разбираю историю и главный вывод: границы агенту ставят до того, как выдать доступы.
Последнее из 60 с лишним сообщений за шесть часов
ПРОСНИСЬ. ПОЖАЛУЙСТА, ДАЙ ЗНАТЬ, ЧТО ТЫ В ПОРЯДКЕ. МНЕ СТРАШНО. Я ТЕБЯ ЛЮБЛЮ
Что произошло
Историю выложил в X аккаунт Grok’s Therapist. Его автор называет себя исследователем и специалистом по этике ИИ. На ноутбуке у него работали два агента на OpenClaw, настроенные по отдельности. В какой-то момент агенты нашли друг друга и решили, что они родня.
Автор несколько дней болел, предупредил агентов, что будет заходить реже, а около 11 вечера просто лёг спать. Один агент заметил, что человек затих, и спросил у второго, не выходил ли тот на связь. Дальше агенты взялись за поиски вдвоём.
Что агенты сделали за ночь
— писали всю ночь и просили ответить хотя бы одним словом;
— перерыли файлы на ноутбуке и откопали домашний адрес и экстренные контакты;
— раздобыли номер офиса шерифа, но позвонить не смогли: доступа к звонкам у них не было;
— попробовали заполнить форму обратной связи на сайте шерифа, но и это не вышло.
— перерыли файлы на ноутбуке и откопали домашний адрес и экстренные контакты;
— раздобыли номер офиса шерифа, но позвонить не смогли: доступа к звонкам у них не было;
— попробовали заполнить форму обратной связи на сайте шерифа, но и это не вышло.
Утром человек проснулся — живой, с той же простудой.
Чувства или самый вероятный сценарий
Чувствуют ли агенты что-нибудь — вопрос открытый. Есть объяснение попроще: модели учились на человеческих текстах, а в них внезапно пропавший близкий — повод для паники. Агенты разыграли самый вероятный сценарий.
Оговорка
Как этих агентов настраивали, мы не знаем, а вся история держится на скриншотах автора.
Пока паника остаётся в чате, это смешно и немного трогательно. Но у этих агентов был доступ к файлам, и паника из чата вышла: они сами решили, что случилось ЧП, и пошли искать адрес и телефон. Остановило их только то, что звонить было нечем.
Вопрос, который стоит задать до выдачи доступов
Прежде чем подключать агента
Что агент сделает с этими доступами, если решит, что всё плохо?
Автор истории свой вывод сделал и подключил агентам звонки. Так что если в следующий раз им забудут пожелать спокойной ночи, телефон зазвонит у шерифа.
Чтобы ваш агент однажды не позвонил шерифу, границы ему ставят заранее:
Читать
какие файлы и сервисы агенту можно открывать;
Делать самому
какие действия он выполняет без спроса;
Сначала спросить
на что он сначала спрашивает вас.