BigBang Transformer[乾元]是基于GPT Decoder-only架构的大规模预训练模型。继2022年开源BBT-1-0.2B模型之后,我们正式开源最新系列的BBT模型:BBT-1-1B,BBT-2-12B-Text,BBT-2.5-13B-Text。预训练语料库覆盖14个高质量数据源,覆盖书籍、百科、论文、小说、新闻、政策文件、中文博客、社交媒体等多个数据源种类。BBT-2-12B-Text基于中文700亿tokens进行预训练,经过指令微调的BBT-2基础模型可以回答百科类和日常生活的问题。BBT-2.5-13B-Text基于中文+英文 2000亿tokens进行预训练。
模型开源后所有开发者可以:
1. 可以直接调用大模型进行对话
2. 在我们训练的基础上使用自由语料库继续训练
3. 对大模型进行微调训练以满足各种下游任务
类似的工具
BenTsao本草
中文医学知识的大语言模型
轩辕大模型
国内首个开源的千亿级中文对话大模型
百川大模型
构建中国最优秀的大模型底座
序列猴子开放平台
极大地提高了生产效率和数据处理能力
悟道·天鹰(Aquila)
国内数据合规需求的开源语言大模型
百度·文心一言
百度全新一代知识增强大语言模型
他人最近看的工具
ControlNet
ControlNet是一种通过添加额外条件来控制扩散模型的神经网络结构,是AI图像生成的游戏规则改变者。它为稳定扩散带来了前所未有的控制水平。
IMI Prompt推荐
IMI Prompt生成器是一个AI艺术生成器,帮助用户创建独特的艺术作品。凭借其广泛的艺术风格,颜色和对象的选择,用户可以轻松地生成艺术作品,而不需要知道复杂的术语。该应用程序是用户友好的,并经常更新,以与最新版本的Midjourney兼容。该博客还提供了每日主题的教程和记录,以帮助用户开始使用Midjourney。
Verbatik
Verbatik是一款由人工智能驱动的文本到语音生成器,提供了一个不断增长的库,包含142种语言和口音的600多种自然声音。
Recraft ai
生成矢量艺术、3D 图像等
AI辅助Excel课
GPT与Word VBA应用实战21个教程
PaperAI智能降重
基于人工智能(AI)的自动论文降重系统
AI 中文社
