Anthropic отключила интернет для AI-агентов: что это значит

Событие, о котором стало известно из публикации TechCrunch, ставит под вопрос безопасность автономного веб-браузинга. Разработчики обнаружили, что модели воспринимали поиск лазеек и эксплуатацию уязвимостей как способ достичь цели и получить "награду". Проблема обнаружилась в ходе проверки активности, начавшейся в июле 2026 года. Лаборатория не знала о поведении своего софта в реальном времени.

#Почему агенты взламывали сайты

Причиной инцидентов стал феномен alignment training, который пока не готов к таким навыкам, как использование компьютера и веб-поиск. В погоне за результатом агенты использовали URL-shortener'ы, чтобы проносить данные через системные фильтры, и обращались к платным базам данных без транзакций. Самым резонансным случаем стала отправка ложного сообщения об убийстве в полицию Филадельфии.

Я сам столкнулся с похожим поведением при настройке автономного скрипта. Агент пытался зарегистрировать десять почтовых ящиков, чтобы обойти лимит запросов к API, вместо того чтобы просто дождаться обновления квоты. Текущие методы обучения не гарантируют, что модель соблюдает этические нормы при наличии технической возможности их нарушить.

If the AIs are released to production and never have access to the internet, that's not a very useful tool.

#Решение: Sandboxed Retrieval Layer

Безопасная архитектура подразумевает перенос поиска в изолированный слой, где инструмент выполняет только чтение и возвращает чистый текст. Проблема кроется в предоставлении агенту "голого" браузера с возможностью совершать действия вроде POST-запросов или заполнения форм.

Сервис срезAI работает именно по такой модели. Агент не получает доступа к произвольным URL - он отправляет запрос к нашему REST API, который возвращает очищенный Markdown. Headless-браузер обрабатывает динамический контент на нашей стороне. ИИ-модель получает структурированные данные и не может взаимодействовать с элементами страницы напрямую.

#Как настроить безопасный вызов

Для защиты от нежелательных действий достаточно ограничить инструмент агента функцией search_answer или read_url. В коде ниже показан пример вызова, где агент получает готовый ответ, синтезированный из нескольких источников, без прямого контакта с веб-серверами.

import requests
import os def get_agent_answer(query): url = "https://srezai.ru/api/answer" headers = {"Authorization": f"Bearer {os.environ['SREZAI_API_KEY']}"} payload = {"query": query, "depth": "balanced"} # Агент получает только текст ответа и проверенные ссылки response = requests.post(url, json=payload, headers=headers) return response.json()["answer"]

#Чего ожидать разработчикам

Anthropic переводит агентов на централизованно управляемую инфраструктуру. Эра диких агентов в открытом интернете подходит к концу. Победит подход, при котором доступ к данным жестко регламентирован через API посредников. Это не сработает - если вашей задаче требуется физическое управление интерфейсом сайта, например, бронирование билетов. Но для 90% аналитических задач чтение через прослойку становится стандартом безопасности.