ELYZA Japanese LLaMA 2 (CPU) を Chatbot UI から遊ぶ
![ELYZA Japanese LLaMA 2 (CPU) を Chatbot UI から遊ぶ](/posts/ai/nlp/llama-cpp-python-server/cover_hud4b4e91d71fd898392d3ce9e26887070_797251_720x0_resize_q90_bgffffff_lanczos_3.jpg)
先回記事の続きです。前回紹介した Elyza の日本語言語モデル ELYZA Japanese LLaMa 2 を Chatbot UI から使えるようにしてみました。
Llama.cpp の Python バインディングである llama-cpp-python は OpenAI 互換の API サーバーを内蔵しているので、ここに Chatbot UI を接続することで、ChatGPT のように WEB から ELYZA Japanese LLaMa 2 を使うことができます1。 …