language: | |
- ja | |
tags: | |
- llm | |
- quantized | |
- gguf | |
# Qwen2.5-VL-7B-Instruct | |
これはQwen2.5-VL-7B-Instructの 1.56bit 量子化バージョンです。 | |
## モデル情報 | |
- 元のモデル: Qwen2.5-VL-7B-Instruct | |
- 量子化手法: llama.cpp を使った IQ1_S | |
- ビット数: 1.56 bit | |
## 使用方法 | |
このモデルは .gguf 形式であり、llama.cppなどのツールで利用することが前提です。 | |