2024-05

Hugging Faceで公開されているGGUFファイル形式のLLMを、Ollamaを使ってローカル環境で手軽に動かす方法を紹介。LLMの専門知識がなくても、最先端のAIを気軽に体験できます。mmngaさんが公開している「rinna-nekomata-14b-instruction-gguf」を例に、具体的な手順を解説します。