2026-06-17 Godot RAG детектор → Qwen 3.6 модель кодирования разработка поток заметка

Структурное изображение

Основной поток

Подготовка официальной документации Godot  
-> Первичная чанкинг  
-> Постобработка, специфичная для Godot  
-> Создание локальной поисковой инфраструктуры  
-> Сбор и структурирование данных GitHub  
-> Запуск детектора RAG  
-> Создание обучающего набора данных  
-> Обучение кодирующей модели Qwen 3.6

Этот документ описывает MVP‑процесс, в котором сначала создаётся детектор Godot RAG, а затем с его помощью генерируется набор данных для обучения модели кодирования Godot на основе Qwen 3.6.

Краткое описание этапов

1. Подготовка официальной документации

• Подготовить godot_docs_full.zip
• Использовать полностью собранную версию официальной документации
• Данные находятся в исходном виде, без применения RAG
• Ввод — набор файлов .md

2. Первичное чанкование

• Запустить chunk_docs.py
• Чанкирование по заголовкам
• Большие блоки разбиваются повторно с помощью max_chars и overlap
• Первичный результат — docs_chunks.jsonl

3. Специфическая постобработка для Godot

• Удаление остатков Sphinx
• Извлечение символов
• Добавление метаданных классов/методов/свойств
• Вывод правил миграции

Результаты:

docs_chunks.jsonl
api_mapping.jsonl
label_prototypes.jsonl

4. Локальная поисковая инфраструктура

• Vector DB: встраивание документов
• Keyword Index: точный поиск
• Reranker: переупорядочивание результатов поиска
• API Mapping DB / Label Prototype DB

Важные моменты:

Метка определяется системой.

5. Сбор и структурирование данных GitHub

• .gd, .tscn, .tres, project.godot, README сбор
• Формирование дерева репозитория
• Структурирование кода/сцен/файлов настроек

Результаты:

GitHub Structured Data JSONL

6. Запуск детектора RAG

RAG детектор использует локальную систему и удалённый LLM совместно.

Ответственность локальной системы:

• Ввод фрагментов GitHub
• Извлечение символов
• Поиск по векторам + ключевым словам
• Перепозиционирование
• Определение метки

Ответственность удалённого LLM:

• Генерация исправленного кода
• Создание описания
• Генерация образцов QA
• Генерация кандидатов DPO

Окончательный JSON собирает Python‑код.

7. Создаваемый набор данных

version_classification
api_mapping
migration_fix
instruction_sft
dpo_preference
repo_explorer
patch_generation
metadata_verification

Итогом было то, что для начального MVP достаточно сначала создать от 10 000 до 40 000 образцов.

8. Обучение модели

Первичное обучение:

Qwen 3.6 SFT

Цель:

• Приоритет Godot 4
• Базовый вывод GDScript
• Отказ от API Godot 3

Вторая часть обучения:

DPO

Цель:

• Усиление предпочтения ответов Godot 4

Последующее расширение:

SWE расширение

Цель:

• обзор репозитория
• патч
• траектория

Основные принципы

• Сначала создаём определитель RAG, основываясь на официальной документации.
• Метки определяет система, а не LLM.
• LLM отвечает только за помощь в генерации.
• Конечная цель — кодовая модель Qwen 3.6 Godot.