jingyaogong commited on
Commit
7bb9b0e
·
verified ·
1 Parent(s): 0e064d3

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +31 -15
README.md CHANGED
@@ -35,39 +35,55 @@ tags:
35
 
36
  ## Ⅰ 数据集
37
 
38
- 原始源:
39
- - [Chinese-LLaVA-Vision](https://huggingface.co/datasets/LinkSoul/Chinese-LLaVA-Vision-Instructions):包含约57万张预训练图像来自CC-3M和COCO 2014
40
- - [llava-en-zh-300k](https://huggingface.co/datasets/BUAADreamer/llava-en-zh-300k)包含300k条指令微调数据和15万张
41
- - [LLaVA-SFT-665K](https://huggingface.co/datasets/csuhan/LLaVA-SFT-665K):包含665k条指令微调数据
42
 
43
- 其中部分为中文数据,部分为英文数据。问答内容经过翻译,对中文支持更友好,进一步经过整理并`resize`(pretrain分辨率128×128sft分辨率160×160
 
 
 
44
 
45
- (pretrain_i2t.parquet) 预训练数据集格式:
 
 
 
 
 
 
 
 
 
 
 
 
 
 
46
 
47
  ```text
48
- 列名: conversations (json string), image_bytes (binary), image_names (string)
49
 
50
  conversations 示例:
51
  [
52
- {"role": "user", "content": "提供给定简要描述。\n<image>"},
53
- {"role": "assistant", "content": "橄榄油是自由使用健康成分。"}
54
  ]
55
  image_bytes: <图像二进制数据>
56
  ```
57
 
58
- (sft_i2t.parquet) 单图指令微调数据集格式:
59
 
60
  ```text
61
- 列名: conversations (json string), image_bytes (binary), image_names (string)
62
 
63
  conversations 示例:
64
  [
65
- {"role": "user", "content": "闹钟位置对睡眠质量有什么影响?<image>"},
66
- {"role": "assistant", "content": "把数字闹钟放在床头柜..."}
67
  ]
68
  image_bytes: <图像二进制数据>
69
  ```
70
 
71
- > 注:sft_i2t.parquet 共约 58 万条数据,其中约 23.6 万条为图对话(i2t34.6 万条为纯文本对话(t2t后者用于保持模型的基础语言能力。
72
 
73
- 数据集下载地址:([ModelScope](https://www.modelscope.cn/datasets/gongjy/minimind-v_dataset) | [HuggingFace](https://huggingface.co/datasets/jingyaogong/minimind-v_dataset))
 
35
 
36
  ## Ⅰ 数据集
37
 
38
+ 本轮训练用到的图文数据全部自 [ALLaVA-4V](https://huggingface.co/datasets/FreedomIntelligence/ALLaVA-4V) 系列。
39
+ 相比以往从几份 LLaVA 衍生集拼接得到的数据ALLaVA-4V 的质量更整齐、中英双语原生对照,细粒度描述也更充分。
40
+ 它由两个子源构成一份是 LAION 里挑出来的高质量图片(自然图像为主),一份是 VFLAN 指令流里挑出来的片(文档、图表、合成场景居多)。
 
41
 
42
+ - **Pretrain(`pretrain_i2t.parquet`,约 127 万条 / ~64 万张唯一图像**
43
+ - `ALLaVA-Caption-LAION-4V` 英/中:~47万 + ~44万
44
+ - `ALLaVA-Caption-VFLAN-4V` 英/中:~19万 + ~17万
45
+ - 任务形式为"请描述这张图片"类的单轮长描述,用于让模型建立视觉 token 到语言 token 的基础对齐。
46
 
47
+ - **SFT(`sft_i2t.parquet`,约 290 万条 / ~65 万张唯一图像)**
48
+ - `ALLaVA-Instruct-LAION-4V` 英/中:~47万 + ~47万
49
+ - `ALLaVA-Instruct-VFLAN-4V` 英/中:~19万 + ~17万
50
+ - `Instruct-LAION-4v-gemini-claude-ensembled`(Gemini/Claude 合成的增广指令):~5万
51
+ - `Instruct-LAION-4oiterative`(基于 GPT-4o 迭代润色的指令):~5万
52
+ - 纯文本对话(保留基础语言能力,图像列填 8×8 黑图占位):~23万
53
+ - **Pretrain caption 数据全量合并**(与 pretrain 同源、~99% 图像重叠):~127万
54
+ - 任务形式混合了"围绕图片的推理式问答"、"caption 长描述"和"纯文本对话",既考验细节追问/长链条推理,也兼顾图像描述与通用语言能力。
55
+
56
+ 合计约 290 万条样本,Pretrain 阶段可直接跳过(SFT 已把 Pretrain 作为子集吸收)。中英比例大致均衡。
57
+ 考虑到 MiniMind-V 的语言主干仅 67M,把英文和中文一起喂进去是比较稳妥的做法——中文语料对母语输出更友好,而英文原生描述通常更精细,两者互为补充。
58
+
59
+ 图像统一 `resize` 到 **256×256**(与 SigLIP2 NaFlex 编码器的 256 patch token 输入规格相对应),重新编码为 JPEG 打包进 parquet。
60
+
61
+ (`pretrain_i2t.parquet`) Pretrain 数据集格式:
62
 
63
  ```text
64
+ 列名: conversations (json string), image_bytes (binary)
65
 
66
  conversations 示例:
67
  [
68
+ {"role": "user", "content": "<image>\n请提供详细文字描述。"},
69
+ {"role": "assistant", "content": "这张图片展示是一个..."}
70
  ]
71
  image_bytes: <图像二进制数据>
72
  ```
73
 
74
+ (`sft_i2t.parquet`) 单图 SFT 数据集格式:
75
 
76
  ```text
77
+ 列名: conversations (json string), image_bytes (binary)
78
 
79
  conversations 示例:
80
  [
81
+ {"role": "user", "content": "根据图片推断这个场景大致时间?<image>"},
82
+ {"role": "assistant", "content": "从光线和阴影来看..."}
83
  ]
84
  image_bytes: <图像二进制数据>
85
  ```
86
 
87
+ > 注:sft_i2t.parquet 共约 290 万条数据,其中约 140 万条为图像 instruct 对话、约 127 万条为图像 caption 描述Pretrain 数据合并而来23 万条为纯文本对话(t2t,图像列填 8×8 黑图占位,用于保持模型的基础语言能力由于 Pretrain 已作为子集并入,可选择跳过 Pretrain 阶段直接进行 SFT。
88
 
89
+ 数据集下载地址:([ModelScope](https://www.modelscope.cn/datasets/gongjy/minimind-v_dataset) | [HuggingFace](https://huggingface.co/datasets/jingyaogong/minimind-v_dataset))