支持的大模型
目前TorchV AI已经对接了众多国内的大模型,以下是支持的大模型列表:
TorchV AI不做中间商，所有在RAG\Agent调用过程中产生的消耗，都按原价给到客户.
针对客户自身部署的私有大模型,无需计费
通义千问
官方文档请参考链接
| 模型编码 | 费用(元/千tokens) | 模型上下文 |
|---|---|---|
qwen-72b-chat | 输入：0.02、输出：0.02 | 32K |
qwen1.5-72b-chat | 输入：0.005、输出：0.01 | 32K |
qwen2-72b-instruct | 输入：0.005、输出：0.01 | 32K |
qwen2-57b-a14b-instruct | 输入：0.0035、输出：0.007 | 32K |
智谱AI
官方文档请参考链接
| 模型编码 | 费用(元/千tokens) | 模型上下文 |
|---|---|---|
glm-3-turbo | 0.001 | 128K |
glm-4 | 0.1 | 128K |
百川智能
官方文档请参考链接
| 模型编码 | 费用(元/千tokens) | 模型上下文 |
|---|---|---|
Baichuan2-Turbo | 0.008 | 32k |
Baichuan3-Turbo | 0.012 | 32k |
Baichuan3-Turbo-128k | 0.024 | 192K |
Baichuan4 | 0.1 | 32K |
月之暗面
官方文档请参考链接
| 模型编码 | 费用(元/千tokens) | 模型上下文 |
|---|---|---|
moonshot-v1-32k | 0.024 | 32K |
moonshot-v1-128k | 0.06 | 128K |
零一万物
官方文档请参考链接
| 模型编码 | 费用(元/千tokens) | 模型上下文 |
|---|---|---|
yi-medium | 0.0025 | 16K |
yi-medium-200k | 0.012 | 200K |
yi-large-turbo | 0.025 | 16K |
DeepSeek
官方文档请参考链接
| 模型编码 | 费用 | 模型上下文 |
|---|---|---|
deepseek-chat | 输入：1元/百万tokens，输出：2元/百万tokens | 128K |
deepseek-coder | 输入：1元/百万tokens，输出：2元/百万tokens | 128K |