README.md

metadata

language:
  - ja
tags:
  - llm
  - quantized
  - gguf

Qwen2.5-VL-7B-Instruct

これはQwen2.5-VL-7B-Instructの 1.56bit 量子化バージョンです。

モデル情報

• 元のモデル: Qwen2.5-VL-7B-Instruct
• 量子化手法: llama.cpp を使った IQ1_S
• ビット数: 1.56 bit

使用方法

このモデルは .gguf 形式であり、llama.cppなどのツールで利用することが前提です。