Тема: Внесение дополнительного контекста во время выполнения запроса

Алексей Семаков · 2026-02-06T07:42:34.770114

Проблема взаимодействия с моделью в процессе выполнения запроса Текущая ситуация В процессе работы с языковой моделью я периодически сталкиваюсь со следующей проблемой: модель начинает выполнять действия, не соответствующие моим ожиданиям. Типичные примеры: чтение лишних файлов, не относящихся к задаче; создание дублирующих или избыточных функций; отклонение от изначальной логики решения. Существующие ограничения На данный момент у меня нет возможности скорректировать работу модели «на лету». Для внесения изменений приходится: 1. Отменять текущий запрос. 2. Вносить правки в изначальный промпт. 3. Отправлять запрос заново. 4. Надеяться, что модель теперь правильно поймёт задачу. Этот процесс: занимает лишнее время; увеличивает расход ресурсов; не гарантирует корректного результата при повторной попытке. Предлагаемое решение Необходимо внедрить функционал оперативной корректировки работы модели. Суть предложения: Добавить возможность отправлять промежуточные запросы в уже выполняющийся процесс модели. Эти запросы должны: либо учитываться моделью мгновенно (в режиме реального времени); либо применяться при следующей итерации API‑запроса. Ожидаемые преимущества Реализация данного...