BigBang Transformer[乾元]是基于GPT Decoder-only架构的大规模预训练模型。继2022年开源BBT-1-0.2B模型之后,我们正式开源最新系列的BBT模型:BBT-1-1B,BBT-2-12B-Text,BBT-2.5-13B-Text。预训练语料库覆盖14个高质量数据源,覆盖书籍、百科、论文、小说、新闻、政策文件、中文博客、社交媒体等多个数据源种类。BBT-2-12B-Text基于中文700亿tokens进行预训练,经过指令微调的BBT-2基础模型可以回答百科类和日常生活的问题。BBT-2.5-13B-Text基于中文+英文 2000亿tokens进行预训练。
模型开源后所有开发者可以:
1. 可以直接调用大模型进行对话
2. 在我们训练的基础上使用自由语料库继续训练
3. 对大模型进行微调训练以满足各种下游任务
类似的工具
xAI Grok
使用xai的大型语言模型(LLM)进行聊天
K2-上海交通大学
一个地球科学的开源大预言模型
零一万物-官网01.ai
以 Project AI2.0 之名入局大模型
阅文妙笔大模型
全面探索有声、漫画、动画、衍生等开发链条的AI应用。
Kimi Chat
一口气读完二十万字的小说
MediaGPT:中文自媒体大模型
一个针对自媒体领域进行特殊训练的模型
他人最近看的工具
腾讯混元
腾讯混元大模型是由腾讯研发的大语言模型,具备跨领域知识和自然语言理解能力,实现基于人机自然语言对话的方式,理解用户指令并执行任务,帮助用户实现人获取信息,知识和灵感。
即时灵感
免费不限次数的国产AI绘画
Voicepods
Voicepods是一个在线文本转语音平台,允许用户在30秒内将任何书面文本转换为音频文件。它提供了16种多种语言的国际声音和一个表达性内容编辑器来定制声音的输出。
纽约大学
纽约大学(New York University),简称纽大(NYU),是由时任美国财政部长艾伯特·加勒廷成立于1831年,私立大学。有45000余名学生。纽约大学同时在伦敦、马德里、悉尼、柏林、巴黎等地共设立11个全球学术中心。 美国大学协会成员 ,2023U.S. News美国最佳大学排名第25,2022福布斯美国大学排行榜第60名。
酷芯微电子
应用于智能安防、智能硬件、智能车载等多个领域。
鹏城实验室
鹏城实验室,又称深圳网络空间科学与技术省实验室,是中央批准成立的突破型、引领型、平台型一体化的网络通信领域新型科研机构,始建于2018年3月,主要从事该领域战略性、前瞻性、基础性重大科学问题和关键核心技术研究,是国家战略科技力量的重要组成部分。
AI 中文社
