README.md

---
language:
 - ja
tags:
 - llm
 - quantized
 - gguf
---
  
# Qwen2.5-VL-7B-Instruct  
これはQwen2.5-VL-7B-Instructの 1.56bit 量子化バージョンです。  
  
## モデル情報  
  
 - 元のモデル: Qwen2.5-VL-7B-Instruct  
 - 量子化手法: llama.cpp を使った IQ1_S  
 - ビット数: 1.56 bit  
   
## 使用方法  
  
このモデルは .gguf 形式であり、llama.cppなどのツールで利用することが前提です。