枯れ木も山の賑わいという言葉があります。LLMを動かしてみた系の記事はネット上にあふれかえっています。でも私は枯れ木を山に植えます…(忘れっぽいから備忘のためでもある)
本記事は技術的に深い内容には何も触れていません。まーじでただのやってみた記事です。
Pinokioのインストール
というわけでね(‘_’) インストールを進めていきます。公式ページのインストーラでWindowsを選んでダウンロード。トップページの思想が強くて笑っちゃった。「おれはAIと遊びたいだけなんだッ、なのになんでコマンドをポチポチ打たなきゃならねえんだッ、おれは…おれは…CUIに終止符を打つッ!」みたいな強い”意志”を感じました。ノーモアノーモア…
Pinokioとは
AIに関連するアプリ、サービス、ツールを動かすときに、GUIベースでボタンポチーで立ち上げたり管理したりできるツールみたいです。トップページに強い意志が書かれており楽しいです。実際使ってみて、マジでコマンド打たなくてよくてびっくりしました。便利です。
インストーラをDL+実行する。いつインストールが終わったのかよくわからなかったがHome画面が立ち上がったので成功したようだ。実行ファイルを探してみるとAppDataに入ったみたい。
C:\Users\[UserName]\AppData\Local\Programs\Pinokio\Pinokio.exe
AI Townのインストール
PinokioのHome画面からDiscoverをクリック。検索窓で「AI Town」と入力する。
クリックするとダウンロードページに遷移する。
DownloadをクリックするとAI Townで必要なものがリストで表示される。gitとかすでに自環境に入っているような気がするが、「Not Installed」になっているのでなんか違うのだろう(Pinokio専用環境にあるかないかってことか?)。とりあえずInstallを実行してみる。
vsってなんだろ? っと思っていたらVisual Studioだった。けっこうゴツいもの入れてくる…。あんま気にしてなかったけど一式をダウンロードすると結構ディスク容量食ってそう。そこそこ容量空けておいたほうがよさそうだ。インストール前の容量見ていなかったので詳細は分からないけど、10GBくらい使っていそう。権限認証系のダイアログが何回か出てくるのでOKをポチポチする。インストールはだいたい15分くらいかかった。
必要な環境系のインストールがおわるとダイアログが表示される。AI TownをローカルにDLしたときの名前を決められるようだ。とりあえずデフォルトのまま保存する。
保存後にAI Townトップページ(?)が表示される。
画面のInstallをクリック。インストーラが動き始めるので1分くらい待つ。
AI Townを動かす
インストールが終わるとStartとかUpdateとかのメニューが増える。インストール完了したときにポップアップも同時に表示されており、Startをクリックせよということなのでクリックしてみる。ポチー
なんだこれ!? っと思ったが、AI Townは遊ぶにOllamaを起動する必要があるみたい。そりゃそうか。AIモデルがなにかしら動いていないと困るよね。
なぜか自分の環境では↑みたいに真っ白ボタンが表示されていたが、クリックするとOllamaのダウンロードページに飛んだので、本来は「Get Ollama」みたいな文言が入る予定…なのか? AI TownのページにもOllama動かしてねって書いてるし。
Dockerからでも大丈夫なのかな…? Ollamaは前回Docker環境でLlama3-8Bを動かすために使っていたのでそれを立ち上げる。ほんとは何らかのLLMモデルをOllamaにダウンロードしている必要があると思うが、自分の環境はすでにLlama3-8Bが入っているのでたぶんそのまま動くだろう…という見込みで先に進める。
あらためて先ほどの画面のNextをクリックする。実行するとコンソールがダラダラ流れ始めて…コンソールにエラーがめっちゃ出ているがなんか先に進んでいる。途中でまた権限認証がポップアップしたのでこれもOKにする。エラーがひととおり出たあとは、なんか定周期で動いていそうなログが出はじめた。うーん、動いてる…動いてるんかこれ…?
動いていると信じてWebUIを見てみることに。画面左メニューにある「Open Web UI」をクリックする。
なんか動いてるッ!!!
でも日本語で見たい…ので、上のほうにあるサーバーのアドレス(自分の環境だと http://localhost:5173/ai-town でした)をコピってEdgeブラウザにペタペタ…ブラウザの翻訳機能ON!
これで使っているモデルをLlama3-8Bからもうちょっと日本語が強いローカルLLMに差し替えたり、人々の性格をいじったりすると、ごっこ遊びが加速しそうな気がする…!
AI Townを止める
止めたいときは左のメニューから Terminal > Stop で停止でした。
感想
いやはやって感じです。イヤハヤ…うわー…。っというかこれマジでびっくりなのが、動かすのがめちゃめちゃ簡単で、コマンド手打ちがマジで全然なくて、なんていうか、なんだかすごい時代になったんだな~っと(Pinokioが強すぎるのか? いやいやDockerもだいぶつよい。。。)
自分は普段こういうバリバリに自動化効きまくった環境で開発しておらず、そういうのもあって、とにかくすげえなあ、すげえなあ、ありがてえなあ、と思いました…。