Visual Studio CodeでAI Toolkitを試してみる

投稿日 投稿者 shionaka

　今日話題になっていたので動かしてみる。自分のPCでも動くのかな…？

  • PCスペック
    • Windows 11 64bit
    • Intel(R) Core(TM) i7-14700F 2.10 GHz
    • RAM 16.0 GB
    • GeForce RTX 4060

手順

　※リンク先のReadme見てるだけです

　VSCodeを起動して拡張機能から追加する。「AI Toolkit」で一番上に出てきた。インストールする。

この時点で3897人が遊んでる(‘_’)
プレ版警告はOKする
追加

　左メニューにアイコンが追加されるのでクリック。GitHubのログインを求められる。

ログインを要求される

　Allowを選択するとブラウザ経由で承認する。承認が完了すると、モデルカタログが見えるようになる。

左メニューの「Model Catalog」をクリックすると一覧が出る

　今回はお試しでmistral-7b-v02-int4-gpuをインストールして動かしてみる。モデルのダウンロード中は画面下部にポップアップで進捗が表示される。

3.96GBなのでそこそこ時間かかる

　ダウンロード完了後、メニューのModel Playgroundからおなじみのチャット形式GUIから動かせる。

動いた！

　というわけで動きました。簡単だなあ。