BigBang Transformer[乾元]是基于GPT Decoder-only架构的大规模预训练模型。继2022年开源BBT-1-0.2B模型之后,我们正式开源最新系列的BBT模型:BBT-1-1B,BBT-2-12B-Text,BBT-2.5-13B-Text。预训练语料库覆盖14个高质量数据源,覆盖书籍、百科、论文、小说、新闻、政策文件、中文博客、社交媒体等多个数据源种类。BBT-2-12B-Text基于中文700亿tokens进行预训练,经过指令微调的BBT-2基础模型可以回答百科类和日常生活的问题。BBT-2.5-13B-Text基于中文+英文 2000亿tokens进行预训练。
模型开源后所有开发者可以:
1. 可以直接调用大模型进行对话
2. 在我们训练的基础上使用自由语料库继续训练
3. 对大模型进行微调训练以满足各种下游任务
类似的工具
SparkDesk讯飞星火认知大模型
从海量数据和大规模知识中持续进化,实现从提出、规划到解决问题的全流程闭环。
MOSS(复旦大模型)
复旦大模型MOSS,正式开源了
乾元BigBangTransformer
BBT-2-12B-Text基于中文700亿tokens进行预训练,经过指令微调的BBT-2基础模型可以回答百科类和日常生活的问题。BBT-2.5-13B-Text基于中文+英文 2000亿tokens进行预训练。
MiniMax开放平台
MiniMax新一代通用大模型
曹植GPT大语言模型
可内置在客户各类业务系统中提供专用服务
360智脑
以人为本,安全可信
他人最近看的工具
Chato:构建聊天机器人
生成机器人助理,能写,能聊,多端发布
小冰智能 你的私人助理
拒绝科技上网3.5免费,支持4.0,300多种角色,AI绘画MJ二开可上传参考图,模型超高清风格化,混乱,多功能限时免费使用
中国计算机学会
中国计算机学会(CCF)成立于1962年,全国一级学会,独立社团法人,中国科学技术协会成员。
MoPro知用AI旗下应用助手
全方位的AI助手服务,助您在瞬息万变的市场竞争中脱颖而出。
元小分
「元小分」赋能企业运营与内部管理 AI智能营销+业务自动化解决方案,重构企业生产模式
OSS Insight
Data Explorer by OSS Insigh...
AI 中文社
