Ubuntu

ELYZA Japanese LLaMA 2 の 13B モデルがリリースされたのでお試しです。量子化済みモデルの中から fast-instruct-q5_K_M を選びました。 7B を扱った先回記事とだいたい同じ内容を Ubuntu で行っています。 Llama.cpp の Python バインディング (CPU) である llama-cpp-python は OpenAI 互換の API サーバーを内蔵しているので、ここに Chatbot UI (WEB フロントエンド) を接続することで、ChatGPT サービスのように WEB から ELYZA Japanese LLaMa 2 を使うことができます1。 …

Ubuntu と Windows のデュアルブート環境ではシステム時刻の扱いに注意が必要です。なぜなら、Windows はシステム時刻をローカル時間で扱う一方、Ubuntu では UTC で扱っており、Ubuntu を起動したあとに Windows を起動すると時刻表示が 9 時間ずれます（日本時間の場合）。 次のコマンドを Ubuntu のターミナルで実行することで、システム時刻の設定をローカル時間に変更することができます。 …