--- language: - ja tags: - llm - quantized - gguf --- # Qwen2.5-VL-7B-Instruct これはQwen2.5-VL-7B-Instructの 1.56bit 量子化バージョンです。 ## モデル情報 - 元のモデル: Qwen2.5-VL-7B-Instruct - 量子化手法: llama.cpp を使った IQ1_S - ビット数: 1.56 bit ## 使用方法 このモデルは .gguf 形式であり、llama.cppなどのツールで利用することが前提です。