2026-06-17 Godot RAG 判别器 -> Qwen 3.6 编码模型 开发流程 备忘

结构图片

核心流程

Godot 官方文档准备  
-> 第一次分块  
-> Godot 专用后处理  
-> 构建本地搜索基础设施  
-> 收集并结构化 GitHub 数据  
-> 运行 RAG 判别器  
-> 生成训练数据集  
-> 训练 Qwen 3.6 编码模型

这份笔记整理了先制作 Godot RAG 判别器，然后利用该判别器生成基于 Qwen 3.6 的 Godot 编码模型训练数据集的 MVP 流程。

步骤概述

1. 官方文档准备

• 准备 godot_docs_full.zip
• 使用已完成爬取的官方文档
• 仍为非 RAG 的原始数据状态
• 输入为 .md 文档集合

2. 第一次分块

• 运行 chunk_docs.py
• 基于 heading 进行分块
• 对大块使用 max_chars 和 overlap 重新划分
• 第一次产出为 docs_chunks.jsonl

3. Godot 专用后处理

• 删除 Sphinx 残余
• 提取 symbols
• 添加 class/method/property 元数据
• 提取迁移规则

产出物：

docs_chunks.jsonl
api_mapping.jsonl
label_prototypes.jsonl

4. 本地搜索基础设施建设

• Vector DB: 文档嵌入
• Keyword Index: 精确搜索
• Reranker: 搜索结果重新排序
• API Mapping DB / Label Prototype DB

重要事项：

标签由系统决定。

5. GitHub 数据收集及结构化

• .gd, .tscn, .tres, project.godot, README 收集
• repo tree 构成
• 代码/场景/设置 文件结构化

产出物:

GitHub Structured Data JSONL

6. RAG 判别器执行

RAG 判别器同时使用本地系统和远程 LLM。

本地系统负责：

• GitHub chunk 输入
• symbol 提取
• 向量 + 关键字 搜索
• 重新排序
• 标签决定

远程 LLM 负责：

• 生成修改代码
• 生成说明
• 生成 QA 示例
• 生成 DPO 候选

最终 JSON 由 Python 代码组装。

7. 生成的数据集

version_classification
api_mapping
migration_fix
instruction_sft
dpo_preference
repo_explorer
patch_generation
metadata_verification

初始 MVP 认为先生成 1 万~4 万样本就足够。

8. 模型学习

1 次学习：

Qwen 3.6 SFT

目标：

• Godot 4 优先考虑
• GDScript 基本输出
• 拒绝 Godot 3 API

二次学习：

DPO

目标:

• 加强对 Godot 4 答案的偏好

后续扩展:

SWE 扩展

目标：

• repo explorer
• patch
• trajectory

核心原则

• 基于官方文档首先制作 RAG 判别器。
• 标签由系统而非 LLM 决定。
• LLM 只负责生成辅助。
• 最终目标是 Qwen 3.6 Godot 编码模型。