当前位置: 首页 > news >正文

Qwen - 14B 怎么实现本地部署,权重参数大小:21GB

Qwen - 14B 权重参数大小:21GB

参数量与模型占用存储空间(GB)是不同概念。Qwen - 14B参数量约140亿 。其模型大小在不同精度下占用存储空间不同,如在一些资料中提到,Qwen - 14B在特定情况下占用空间约21GB 。实际存储大小会因存储格式、量化方式等因素有所变化。

Qwen - 14B 怎么实现本地部署

python 下载

from modelscope import snapshot_download
model_dir = snapshot_download(“qwen/Qwen2.5-0.5B”, cache_dir=“./models2.5”)
在这里插入图片描述

https://modelscope.cn/models/Qwen/Qwen2.5-14B-Instruct/files

图中 “model - 00001 - of - 00008.safetensors” 到 “model - 00005 - of - 00008.safetensors” 这种编号形式,是因为大模型文件体量庞大,为便于存储、传输和管理,常将其切分。这里的 “00001 - 00008” 等编号表示它


http://www.mrgr.cn/news/97649.html

相关文章:

  • opencv无法设置禁用RGB转换问题
  • aosp13增加摄像头控制功能实现
  • 嵌入式笔试(一)
  • 【设计模式】创建型 -- 单例模式 (c++实现)
  • 单次 CMS Old GC 耗时长问题分析与优化
  • selenium元素获取
  • 初学STM32之编码器测速以及测频法的实现
  • 团体程序设计天梯赛题解(L2)
  • VSCode英文翻译插件:变量命名、翻单词、翻句子
  • vue3中pinia基本使用
  • 【扩展KMP】P10634 BZOJ2372 music |省选-
  • C++进阶笔记第二篇:引用
  • 智能设备运行监控系统
  • FreeRTOS临界区
  • CentOS8.5 安装 LLaMA-Factory
  • openEuler24.03 LTS下安装Flink
  • 查看手机在线状态,保障设备安全运行
  • SpringDoc【使用详解】
  • Dev C++下载及安装
  • fpga系列 HDL:跨时钟域同步 4-phase handshake(四相握手通信协议,请求-确认机制)浅释与代码实现