据Hugging Face Blog于2026年10月16日刊登的联合文章,英伟达与印度理工学院马德拉斯分校及其AI4Bharat实验室合作开发了Nemotron-pretraining-Indic-v1,规模约2.8万亿词元。文章称,这套印度语言预训练数据即将推出,用于生成数据的开放式GPU加速流程也将一同提供。

语料覆盖印度宪法列出的22种语言,全部提供本族文字数据,其中12种语言还提供拉丁字母转写文本,共形成34种语言与文字组合。文章援引2011年人口普查说明,这22种语言是印度97%人口的第一语言,对应近12亿人。

数据内容来自经过筛选的英语材料,包括数学、代码和问答内容,再将其转入印度语言。作者将这套语料定位为模型构建者的新训练资源,用于支持模型以这些语言解释技术概念、处理问题和回答提问;文章并未将这些用途表述为已验证的模型效果。

计划开放的不只是语料,还包括提示词、大模型工作流和质量检查等完整生成方法。开发者可将流程用于自己的源材料,生成所需数据。具体流程结合文档级翻译、质量评估与定向修复,并设置检查以保留公式、表格和代码等内容。

文章称,每条记录都能追溯到经过筛选的源文档,每份输出也会与输入核对,以使合成文本有真实信息依据。作者同时强调,这批合成数据是对自然撰写的印度语言文本的补充;后者对于本地知识和文化语境仍然不可或缺。

原始来源:Scaling Indic Pretraining: 2.8 Trillion Tokens and an Open Data Generation Pipeline