BigBang Transformer[乾元]是基于GPT Decoder-only架构的大规模预训练模型。继2022年开源BBT-1-0.2B模型之后,我们正式开源最新系列的BBT模型:BBT-1-1B,BBT-2-12B-Text,BBT-2.5-13B-Text。预训练语料库覆盖14个高质量数据源,覆盖书籍、百科、论文、小说、新闻、政策文件、中文博客、社交媒体等多个数据源种类。BBT-2-12B-Text基于中文700亿tokens进行预训练,经过指令微调的BBT-2基础模型可以回答百科类和日常生活的问题。BBT-2.5-13B-Text基于中文+英文 2000亿tokens进行预训练。
模型开源后所有开发者可以:
1. 可以直接调用大模型进行对话
2. 在我们训练的基础上使用自由语料库继续训练
3. 对大模型进行微调训练以满足各种下游任务

类似的工具

xAI Grok
使用xai的大型语言模型(LLM)进行聊天

K2-上海交通大学
一个地球科学的开源大预言模型

封神榜-IDEA研究院
最大的开源预训练模型体系

BenTsao本草
中文医学知识的大语言模型

百度·文心一言
百度全新一代知识增强大语言模型

TigerBot
以世界级的基础大模型,贡献于中国式的创新。
其他人也看的工具

寻鲸AI
功能强大的人工智能写作工具,支持对话提问、内置多场景写作模板

百度AI合成图检测
图片/视频进行合成图检测

稿定AI-搞定AI!
提供多样化的、可控的图像生成算法

CA.LA
超过1000种样式-外套,衬衫,连衣裙,牛仔,汗衫,帽子,泳装,内衣,眼镜,包,袜子,床上用品,和更多-总计数十万件已生产的CALA网络的30个制造商遍布13个国家。

DeepfaceAI
您可以轻松地在直播和短视频中实现实时换脸

Google Colab
Google Colab