BigBang Transformer[乾元]是基于GPT Decoder-only架构的大规模预训练模型。继2022年开源BBT-1-0.2B模型之后,我们正式开源最新系列的BBT模型:BBT-1-1B,BBT-2-12B-Text,BBT-2.5-13B-Text。预训练语料库覆盖14个高质量数据源,覆盖书籍、百科、论文、小说、新闻、政策文件、中文博客、社交媒体等多个数据源种类。BBT-2-12B-Text基于中文700亿tokens进行预训练,经过指令微调的BBT-2基础模型可以回答百科类和日常生活的问题。BBT-2.5-13B-Text基于中文+英文 2000亿tokens进行预训练。
模型开源后所有开发者可以:
1. 可以直接调用大模型进行对话
2. 在我们训练的基础上使用自由语料库继续训练
3. 对大模型进行微调训练以满足各种下游任务

类似的工具

盘古大模型
各组织、企业、个人的专家助手

封神榜-IDEA研究院
最大的开源预训练模型体系

零一万物-官网01.ai
以 Project AI2.0 之名入局大模型

KwaiYii快意大模型
独立自主研发的一系列大规模语言模型

讯飞星火认知大模型
免费使用-AI写作、AI百科、AI问答

阿里·通义千问
一个专门响应人类指令的大模型
其他人也看的工具

通义智文
支持网页阅读、论文阅读、图书阅读和自由阅读,让AI帮你读得多、读得快、读得懂

喵呜提示词助手
将复杂的 Midjourney 提示词"咒语"进行可视化编辑和调整,输入中文提示词自动翻译成英文,傻瓜式操作,帮助您更好的创作提示词

BGM猫
BGM猫_AI一键生成BGM平台
