Hugging Face Blog·おすすめAIスコア60
Multiverse Computing、圧縮・4-bit化したGPT-OSS 120Bで精度を回復するQAHを発表
Quantization-Aware Healing: a compressed, 4-bit model that outperforms its full-precision original
AIによる概要
Multiverse Computingは、圧縮・4-bit化した大規模言語モデルを回復する手法Quantization-Aware Healing（QAH）を発表した。
推荐理由
元モデルを教師にする設計とベンチマーク結果を通じて、圧縮後の4-bitモデルで精度を回復する方法を比較できる。
出典：Hugging Face Blog · huggingface.co