Stable Diffusionで美女画像をつくっているだけでいつまでも遊べるんですが、ゲームもしないのにゲーミングPCを買ったんだから、ローカルでChatGPTみたいなチャットボットを動かしてみたいと思っていたら、NVidiaからChat with RTXというのが発表されて、わざわざ自分で設定することないじゃないか、とおもって試してみた。
Stable Diffusionの設定ではビデオドライバーやCUDAのバージョンが合わないとかいろいろと面倒なことがあったけど、これはサポートされているプラットフォームがWindowsだけなので、とくになにも考えなくてもインストールしたら動く。が、しかしダウンロードサイズが巨大で35GB以上、インストール後のディスク占有サイズは60GB以上。Linuxを入れるときに、Windowsは120GBくらいあれば十分か、とおもってパーティションを設定したけど、こういうやつが出てきたらぜんぜん足りなくなるので、急きょ300GBのパーティションを作ってDドライブにした。まだまだ大丈夫だけれど、そのうち1TBじゃ足りない、みたいなことになるんだろうな。
機能的にはChatGPTに慣れた目からすると、日本語も使えないしたいしたことないな、とも言えるんだけれど、これがローカルのPCで動いているというのはロマンですな。
上の画像ではノースカロライナの”haiku”を書かせてみました。
松の木がそよ風に揺れ
コオロギが夜に鳴く
平和なノースカロライナ
退屈で凡庸な作品ですが現実を的確に表現しているともいえるでしょう。
民の帳面 
では次は、高性能GPUの性能をさらに発揮させ、さらにSSDの容量を圧迫するであろう日本語を使えるLLMロマンにぜひ挑戦してくださいね。
ロマンその1 rinna
これってひょっとしてあのマイクロソフトの残骸なの？わからん。
→ https://rinna.co.jp/news/2023/05/20230507.html
インプレスの過去の記事
→ https://www.watch.impress.co.jp/docs/news/1501239.html
清水理史さんの導入事例
→ https://internet.watch.impress.co.jp/docs/column/shimizu/1503707.html
ロマンその2 サイバーエージェントの68億パラメータのやつ
サイバーエージェントは最大68億パラメータの日本語LLM(大規模言語モデル)をHugging Face上で一般公開したらしい。
→ https://www.cyberagent.co.jp/news/detail/id=28797
→ https://huggingface.co/cyberagent
レポートお待ちしております。
LikeLike
rinnaはぜひ動かしたいなー
LikeLike