BigBang Transformer[乾元]是基于GPT Decoder-only架构的大规模预训练模型。继2022年开源BBT-1-0.2B模型之后,我们正式开源最新系列的BBT模型:BBT-1-1B,BBT-2-12B-Text,BBT-2.5-13B-Text。预训练语料库覆盖14个高质量数据源,覆盖书籍、百科、论文、小说、新闻、政策文件、中文博客、社交媒体等多个数据源种类。BBT-2-12B-Text基于中文700亿tokens进行预训练,经过指令微调的BBT-2基础模型可以回答百科类和日常生活的问题。BBT-2.5-13B-Text基于中文+英文 2000亿tokens进行预训练。
模型开源后所有开发者可以:
1. 可以直接调用大模型进行对话
2. 在我们训练的基础上使用自由语料库继续训练
3. 对大模型进行微调训练以满足各种下游任务

类似的工具

阅文妙笔大模型
全面探索有声、漫画、动画、衍生等开发链条的AI应用。

BuboGPT
文本、图像和音频等多模式输入,具有将其对视觉对象的响应作为基础的独特能力。

MediaGPT:中文自媒体大模型
一个针对自媒体领域进行特殊训练的模型

零一万物-官网01.ai
以 Project AI2.0 之名入局大模型

盘古大模型
各组织、企业、个人的专家助手

悟道·天鹰(Aquila)
国内数据合规需求的开源语言大模型
其他人也看的工具

PaperYY
提供专业的论文重复率检测、论文降重、论文在线修改、论文格式规范等一站式服务

iThinkScene
人人都容易上手的AI写作工具

PromptArt
灵感之源,创意之港The Source Of Inspiration, The Port Of Creativity

Writey AI

Elements of AI
与超过 950,000 名其他人一起...

免费WriteText.ai for Magento
Automate Magento SEO with WriteText.ai. Generate meta titles, descriptions, product text, and more—helping businesses save time while scaling content creation.