新上8卡RTX 5090 限时特惠 Read more

多模态推理的显存暗坑:视觉编码器吃多少、什么时候该拆出去

纯文本推理 7B 模型 14G 显存跑得好好的,换成 Qwen2-VL-7B 直接 OOM——多出来的 8-1 […]

Read more
云数方舟
  • contact@globaldc.cn