KanNaga's picture
モデルカードを追加
60c6aaf verified
---
language:
- ja
tags:
- llm
- quantized
- gguf
---
# Qwen2.5-VL-7B-Instruct
これはQwen2.5-VL-7B-Instructの 1.56bit 量子化バージョンです。
## モデル情報
- 元のモデル: Qwen2.5-VL-7B-Instruct
- 量子化手法: llama.cpp を使った IQ1_S
- ビット数: 1.56 bit
## 使用方法
このモデルは .gguf 形式であり、llama.cppなどのツールで利用することが前提です。