В автобусе, направляющемся в Сеул, я вновь систематизировал вопросы по набору данных/конвейеру RAG для Godot 4
Раньше я думал о структуре, где официальную документацию Godot сканируют, проекты GitHub преобразуют в форматы md, jsonl, а затем через RAG‑чат‑бот определяют, относится ли проект к Godot 3 или 4
Но возник вопрос, можно ли поместить весь контекст проекта и найденные фрагменты официальной документации в один ввод модели
Размышления о пределе ввода контекста при создании RAG‑чат‑бота
В одном проекте GitHub могут быть README, структура каталогов, множество файлов .gd, сцены и пути к ресурсам
Если к этому добавить официальные документы, найденные через RAG, объём ввода резко возрастает, поэтому важнее продумать, какие файлы и фрагменты документов отбирать, а не просто собирать как можно больше материалов
Систематизация вопросов о форме набора вопросов/ответов
Запрос вроде «Создай карту» может не решить задачу одним фрагментом кода
На практике требуется несколько этапов рассуждения: понять структуру проекта, определить необходимые ассеты, проанализировать стиль существующего кода, проверить синтаксис Godot 4, решить, какие файлы менять
Поэтому возникает вопрос, достаточно ли помещать в набор инструкций только конечный код или нужно также сохранять процесс поиска и принятия решений
Возможные опасения, что при обработке чанками вес Python‑модели вновь усилится
Даже если попросить «Создай карту в Godot 4», модель может во время чтения проекта и документов по чанкам снова опираться на предобученные веса, ориентированные на Python
Нужно более явно вводить контекст Godot 4 в начале подсказки и усиливать фильтрацию на этапе предобработки, чтобы в данные не просочились код Godot 3 или ответы в стиле Python
Итоги дня
RAG и краулинг сами по себе не являются решением; главное — спроектировать, какой контекст будет читать модель и какие выводы она сделает
Разделить контекст проекта по файлам/ролям/зависимостям, а в набор инструкций включать не только окончательный ответ, но при необходимости и ход поиска и рассуждения
Чтобы контекст Godot 4 не «размывался» в процессе вывода, необходимо более строго проектировать подсказки, теги, фильтрацию и критерии предпочтительных данных