BigBang Transformer[乾元]是基于GPT Decoder-only架构的大规模预训练模型。继2022年开源BBT-1-0.2B模型之后,我们正式开源最新系列的BBT模型:BBT-1-1B,BBT-2-12B-Text,BBT-2.5-13B-Text。预训练语料库覆盖14个高质量数据源,覆盖书籍、百科、论文、小说、新闻、政策文件、中文博客、社交媒体等多个数据源种类。BBT-2-12B-Text基于中文700亿tokens进行预训练,经过指令微调的BBT-2基础模型可以回答百科类和日常生活的问题。BBT-2.5-13B-Text基于中文+英文 2000亿tokens进行预训练。
模型开源后所有开发者可以:
1. 可以直接调用大模型进行对话
2. 在我们训练的基础上使用自由语料库继续训练
3. 对大模型进行微调训练以满足各种下游任务
类似的工具
K2-上海交通大学
一个地球科学的开源大预言模型
xAI Grok
使用xai的大型语言模型(LLM)进行聊天
商汤商量SenseChat
商量商量,都能解决
乾元BigBangTransformer
BBT-2-12B-Text基于中文700亿tokens进行预训练,经过指令微调的BBT-2基础模型可以回答百科类和日常生活的问题。BBT-2.5-13B-Text基于中文+英文 2000亿tokens进行预训练。
昇思大模型
在线体验为一体的AI学习与实践社区
山海大模型
人类的良师益友,也是灵动强大的智能助理
其他人也看的工具
AI Chalk
10分钟帮你搞定高质量范文
FakeYou
FakeYou是一个使用深度伪造技术生成不同语言和声音的文本到语音的音频剪辑的工具。它允许用户用自己喜欢的角色创建音频剪辑,还提供了人工智能的文本转语音功能。它也有一个视频口型社区,排行榜和赞助人feed。
TTS Online
提供200多种声音选择,并支持多款热门游戏角色语音生成
XPaper AI
XPaper AI 大学生都在用的论文写作辅助指导平台,AI 一键辅助创作,一杯咖啡时间(5-10分)即可完成!
Suppr.ai 超能文献
Suppr.ai 是专业的 AI 学术研究助手,提供智能文献检索、多格式翻译、深度研究分析等功能,帮助医学研究者高效获取和处理文献资料。
AI 中文社
