腾讯云目前支持4种DeepSeek开源大模型部署方案

日期:2025-02-21 00:02 来源:腾云会智 作者:腾云会智 浏览量:

日期:1970-01-01 08:01 来源:腾云会智

作者:腾云会智 浏览量:

1、面向开发者开箱即用的HAI方式

1)参考:https://mp.weixin.qq.com/s/kZLPfXv3b1sxLSwyRVsEsg

2)优势:支持R1,免除购买资源部署的过程,直接开箱使用;参数规模支持1.5B、7B、8B、14B、32B、70B。

 

2、API直接调用的方式

1)参考:https://cloud.tencent.com/document/api/1772/115963

2)优势:支持V3和R1,通过API方式调用,也无需购买资源部署,适合无需精调即可直接做推理的场景;默认是671B参数规模,目前到2月25日免费调用

 

3、基于Ti-One的算力推理/训练方式

1)参考:部署指导 https://cloud.tencent.com/document/product/851/115962

2)优势:支持V3和R1,可根据业务对性能和参数规模的要求,选择不同的算力资源,支持后续按需精调;参数规模支持1.5B、7B、8B、14B、32B、70B、671B,各规模参数对算力资源的要求参考 https://cloud.tencent.com/document/product/851/107823

 

4、腾讯云知识引擎lke

率先支持联网搜索,接通搜狗提供的搜索增强API,让DeepSeek可以实时抓取互联网最新资讯,提升时效性和回答准确度,https://lke.cloud.tencent.com/