OpenBMB

OpenBMB全称为Open Lab for Big Model Base，旨在打造大规模预训练语言模型库与相关工具，加速百亿级以上大模型的训练、微调与推理，降低大模型使用门槛，与国内外开发者共同努力形成大模型开源社区，推动大模型生态发展，实现大模型的标准化、普及化和实用化，让大模型飞入千家万户。

OpenBMB将努力建设大模型开源社区，团结广大开发者不断完善大模型从训练、微调、推理到应用的全流程配套工具。基于贡献者团队前期工作，OpenBMB设计了大模型全流程研发框架，并初步开发了相关工具，这些工具各司其职、相互协作，共同实现大模型从训练、微调到推理的全流程高效计算。

OpenBMB是一个专注于大规模预训练语言模型的开源社区，由清华大学自然语言处理实验室和面壁智能共同支持发起。这个社区致力于推动自然语言处理领域的研究和发展，其主要目标是促进模型创新和应用落地。OpenBMB的核心贡献包括参数高效微调（Parameter-efficient Fine-tuning）的方法，这是一种用于针对特定任务和应用场景对大规模预训练模型进行微调的技术。
OpenBMB开源社区还发布了一系列开源工具和代码库，帮助研究人员和开发者轻松地使用和扩展这些技术。这些工具包括BMTrain、BMCook、BMInf、OpenPrompt、OpenDelta和ModelCenter等，它们各自具有不同的功能，如大模型训练、模型压缩、低成本高效推理计算、提示学习、参数高效微调和大模型仓库等。
OpenBMB的工作得到了学术界和工业界的广泛关注和支持，已经在多个自然语言处理任务中取得了优异的表现。例如，OpenBMB曾提出知识指导的预训练模型ERNIE并发表在自然语言处理顶级国际会议ACL 2019上，累计被引超过600次。此外，团队依托智源研究院研发的“悟道·文源”中文大规模预训练语言模型CPM-1、CPM-2、CPM-3，在众多下游任务中也取得了优异性能。
总的来说，OpenBMB是一个在自然语言处理领域具有重要影响力的开源社区，它通过提供一系列工具和资源，大大降低了大规模预训练语言模型的使用门槛，推动了这些模型在实际应用中的普及和实用化。