OpenAI анонсировала внедрение WebSocket-поддержки в API для ChatGPT, что значительно ускоряет выполнение агентных рабочих процессов. Обновление, запущенное 15 апреля 2026 года, позволяет моделям, таким как o1 и GPT-4o, устанавливать постоянные двусторонние соединения с серверами OpenAI, обеспечивая передачу данных в реальном времени без задержек, связанных с традиционными HTTP-запросами. Ранее агентные системы, использующие инструменты вроде браузеров или кодовых интерпретаторов, тратили до 70% времени на ожидание ответов от API — теперь эта доля сокращается до 20–30%, как показывают внутренние тесты компании. Ключевые фигуры проекта, включая首席 инженера API Питера Ли и главу продуктов Кевина Вея, подчеркивают: "WebSockets превращают асинхронные вызовы в синхронные потоки, делая агентов в 3–5 раз быстрее в задачах, требующих множественных итераций".
Технические детали включают поддержку потоковой передачи событий (Server-Sent Events через WebSockets), где модели могут мгновенно получать обновления о статусе инструментов — от "tool_calls_requested" до "tools_completed". Для разработчиков доступны SDK на Python, Node.js и других языках, с примерами кода для интеграции. OpenAI приводит цифры: в бенчмарке на задаче "планирование поездки" время выполнения сократилось с 45 секунд до 12 секунд, а в симуляции веб-скрейпинга — с 2 минут до 25 секунд. Компания позиционирует это как шаг к "агентам следующего поколения", способным обрабатывать сложные цепочки действий без пауз. Пользователи отмечают упрощение: "Теперь не нужно поллингить эндпоинты каждые 500 мс", — цитирует отзыв разработчика из Reddit в материале.
Внедрение уже влияет на рынок: конкуренты вроде Anthropic и Google DeepMind анонсировали аналогичные обновления в течение недели, что усиливает гонку за скоростью в AI-инфраструктуре. Для пользователей — от стартапов до enterprises — это означает снижение затрат на токены на 40–50% за счет меньшего числа запросов и возможность масштабирования агентов для реального времени, например, в чатботах поддержки или автономных торговых ботах. OpenAI ожидает роста API-трафика на 25% в ближайший квартал, с фокусом на безопасность: все соединения шифрованы TLS 1.3, с лимитами в 100 одновременных WebSockets на ключ. Итог — переход от батчевых к потоковым workflow, радикально меняющий экосистему агентного AI.
Обновление значительно снижает время ожидания ответов от API, позволяя пользователям быстрее обрабатывать данные и улучшая эффективность работы агентов.
Источник: https://openai.com/index/speeding-up-agentic-workflows-with-websockets
Комментарии(0)
Оставьте комментарий
Войдите, чтобы присоединиться к обсуждению