- 参考リンク
今日話題になっていたので動かしてみる。自分のPCでも動くのかな…?
- PCスペック
- Windows 11 64bit
- Intel(R) Core(TM) i7-14700F 2.10 GHz
- RAM 16.0 GB
- GeForce RTX 4060
手順
※リンク先のReadme見てるだけです
VSCodeを起動して拡張機能から追加する。「AI Toolkit」で一番上に出てきた。インストールする。
![](https://bkbkjo.work/impression/wp-content/uploads/2024/05/image-1-1024x202.png)
![](https://bkbkjo.work/impression/wp-content/uploads/2024/05/image-2.png)
![](https://bkbkjo.work/impression/wp-content/uploads/2024/05/image-4.png)
左メニューにアイコンが追加されるのでクリック。GitHubのログインを求められる。
![](https://bkbkjo.work/impression/wp-content/uploads/2024/05/image-5.png)
Allowを選択するとブラウザ経由で承認する。承認が完了すると、モデルカタログが見えるようになる。
![](https://bkbkjo.work/impression/wp-content/uploads/2024/05/image-6.png)
今回はお試しでmistral-7b-v02-int4-gpuをインストールして動かしてみる。モデルのダウンロード中は画面下部にポップアップで進捗が表示される。
![](https://bkbkjo.work/impression/wp-content/uploads/2024/05/image-7.png)
ダウンロード完了後、メニューのModel Playgroundからおなじみのチャット形式GUIから動かせる。
![](https://bkbkjo.work/impression/wp-content/uploads/2024/05/image-8-1024x482.png)
というわけで動きました。簡単だなあ。