BigBang Transformer[乾元]是基于GPT Decoder-only架构的大规模预训练模型。继2022年开源BBT-1-0.2B模型之后,我们正式开源最新系列的BBT模型:BBT-1-1B,BBT-2-12B-Text,BBT-2.5-13B-Text。预训练语料库覆盖14个高质量数据源,覆盖书籍、百科、论文、小说、新闻、政策文件、中文博客、社交媒体等多个数据源种类。BBT-2-12B-Text基于中文700亿tokens进行预训练,经过指令微调的BBT-2基础模型可以回答百科类和日常生活的问题。BBT-2.5-13B-Text基于中文+英文 2000亿tokens进行预训练。
模型开源后所有开发者可以:
1. 可以直接调用大模型进行对话
2. 在我们训练的基础上使用自由语料库继续训练
3. 对大模型进行微调训练以满足各种下游任务

类似的工具

K2-上海交通大学
一个地球科学的开源大预言模型

KwaiYii快意大模型
独立自主研发的一系列大规模语言模型

火山方舟
加速大模型能力渗透到千行百业

讯飞星火认知大模型
免费使用-AI写作、AI百科、AI问答

阿里·通义千问
一个专门响应人类指令的大模型

零一万物-官网01.ai
以 Project AI2.0 之名入局大模型
其他人也看的工具

小鱼AI写作 – 免费
满足自媒体人和办公人写作创作的在线智能AI写作平台,可以用AI自动生成高质量原创内容,内容创作覆盖多种类型,满足不同场景、人群的AI创作需求以及提供个性化的自定

AI一键论文-AIPaperPass
5分钟3万字,附带ppt,开题报告,40篇真实参考文献,查重超过10%退费!

媒帮派AI伪原创
持续更新算法,为您更好的服务

Moonbeam
Moonbeam 是唯一经过专门培训的 AI 写作助手,可帮助您撰写论文、故事、文章、博客和其他长篇内容。

呱呱有声-制作平台
长音频内容生产AIGC开放平台