一个用 YAML 训练和微调 AI 模型的框架，12k star

今天看的是这个项目：

ludwig-ai/ludwig https://github.com/ludwig-ai/ludwig

它做的事很直接：用一份 YAML 配置，把 AI 模型的训练、微调、预测和部署串起来。

Ludwig GitHub 预览

Ludwig 组件示意

1. 它到底是什么

Ludwig 是一个声明式深度学习框架。

你不用先写一堆 PyTorch 训练代码，而是先写清楚：输入字段是什么，输出字段是什么，模型类型是什么，训练器怎么跑，后端用本地还是分布式。

然后执行：

ludwig train --config model.yaml --dataset my_data.csv

README 里把它定位成给 LLM、多模态模型、表格 AI 用的框架。它不是 notebook，不是数据库，也不是前端 UI 库。

为什么用声明式配置

2. 它解决什么麻烦

做机器学习项目，很多时间不在“模型名字”上。

麻烦常常在这些地方：数据怎么预处理，文本字段怎么编码，类别字段怎么处理，训练参数怎么放，评估怎么跑，模型怎么导出，服务怎么起。

Ludwig 的思路是把这些决定收进配置文件。

比如一个影评分类任务，配置里写 genres 是 set，content_rating 是 category，review_content 是 text，最后预测 recommended 这个 binary 输出。文档里的入门例子就是这么走的。

这对团队很实用。

因为配置文件比散落在脚本里的训练逻辑更容易看、改、复现。

3. 核心看点

第一个看点是 LLM 微调。

README 里给的例子是用 LoRA/QLoRA 微调 Llama。配置里写 model_type: llm、base_model、adapter、quantization、prompt template，然后用 ludwig train 跑。

它还覆盖 SFT、DPO、KTO、ORPO、GRPO，以及多种 PEFT adapter。也就是说，它不是只包一层推理 API，而是认真碰训练和对齐这块。

LLM 微调示意

第二个看点是多模态和表格数据。

Ludwig 支持 text、number、category、binary、set、image、audio、timeseries、vector、date 这些输入类型。你可以把文本、图片、数值字段混在一个任务里，让配置描述它们怎么进入模型。

第三个看点是它没有只停在训练。

文档里有 ludwig predict，也有 ludwig serve。serve 会起一个 FastAPI 服务，然后通过 /predict 接收请求。

4. 为什么值得看

我觉得 Ludwig 值得看，是因为它把“模型工程”这件事收得比较完整。

一个配置文件里，不只是模型结构。

它还可以放 preprocessing、trainer、hyperopt、backend。文档里也提到 Ray、DeepSpeed、FSDP、Docker、Hugging Face Hub、KServe、Ray Serve 这些工程路径。

这类项目最怕只展示一个漂亮 demo，但一碰训练规模、部署和复现实验就散掉。Ludwig 至少把这些入口都摆在了同一套接口里。

它现在由 Linux Foundation AI & Data 托管。PyPI 当前版本是 0.16.2，发布时间是 2026-05-08，要求 Python 3.12+。

Ludwig on Ray

5. 怎么用起来

安装很普通：

pip install ludwig

如果要把可选依赖都装上：

pip install ludwig[full]

如果只想试 LLM 微调，可以看文档里的方式：

pip install ludwig ludwig[llm]

最小路径是这样：

先准备一个 CSV，再写 model.yaml，里面声明输入和输出字段。

然后训练：

ludwig train --config model.yaml --dataset data.csv

预测：

ludwig predict --model_path results/experiment_run/model --dataset new_data.csv

起服务：

ludwig serve --model_path results/experiment_run/model

LLM 微调还要注意 Hugging Face token、模型访问权限和 GPU。文档里的 Llama2 QLoRA 例子提到本地 GPU 至少 12 GiB VRAM。

性能对比示例

6. 适合谁，以及先注意什么

Ludwig 适合两类人。

一类是数据科学和机器学习团队。手里有表格、文本、图片、时间序列这些数据，想快速搭一个可复现的训练流程。

另一类是要做 LLM 微调的人。尤其是已经知道自己要用哪个 base model、哪份 instruction 数据，只是不想把训练脚手架从头写一遍。

要先注意的是，声明式配置不是魔法。

字段类型要判断对，数据质量要自己看，训练资源要自己算。LLM 微调还会碰到显存、模型授权、量化和 adapter 选择这些现实问题。

所以更合适的打开方式，是先拿文档里的 Rotten Tomatoes 或 Alpaca 小例子跑通，再把自己的数据换进去。先确认配置和结果都能解释，再往更大的训练任务上加。

今天就先聊到这里，我们下期再见。