专注区块链信息及金融服务
微信二维码
迪恩财经
手机版
访问手机版

[快讯] √DeepSeek发布Prover-V2模型,参数量达6710亿

0
回复
9
查看
[复制链接]

9029

主题

0

回帖

2万

积分

超级版主

积分
27157
发表于 昨天 18:37 | 显示全部楼层 |阅读模式
 
【DeepSeek发布Prover-V2模型,参数量达6710亿】桃报道,DeepSeek今日于AI开源社区Hugging Face上发布了一个名为DeepSeek-Prover-V2-671B的新模型。据悉,DeepSeek-Prover-V2-671B 使用了更高效的 safetensors文件格式,并支持多种计算精度,方便模型更快、更省资源地训练和部署,参数达6710亿,或为去年发布的Prover-V1.5数学模型升级版本。在模型架构上,该模型使用了DeepSeek-V3架构,采用MoE(混合专家)模式,具有61层Transformer层,7168维隐藏层。同时支持超长上下文,最大位置嵌入达16.38万,使其能处理复杂的数学证明,并且采用了FP8量化,可通过量化技术减小模型大小,提高推理效率。(金十)
 
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

下载fochat:即可扫码

官方网站

APP下载

fo官网:

fo.com

官方地址:香港中环皇后大道中2号的“长江集团中心”

邮编:999077 推特:@钱锋雷

Copyright   ©2015-2016  FO粉丝社区Powered by©foshequ.com!技术支持:米勒