ローカルAIとは何でしょうか？現状皆さんはAIをどうやって使っているでしょうか？

「チャッピー（ChatGPT）をスマホで使っています。」

という人が多いと思います。阿部慎之助監督の娘さんもそうやって使っていました。
これはネットワークを使って大規模なクラウドコンピューティング環境を使っていますね。

　一方で、ローカルAIは手元にあるPCだけで使えるAIの事です。
私も実はいろいろ試していたのですが、以前はメモリがたっぷりあって処理の力の高い高級なPCでしか動きませんでした。
私のやり方が悪いのもあったのですが、安いPCだと散々待たされた挙句「メモリが足りないよ～ん。」と言われてしまうのが関の山。
しかし、最近は小型PC用の環境整備が進んでなんとか動くようになってきています。
実際に動かした画面をご覧ください。
これはIntel(R) Core(TM) i7-7500U CPU @ 2.70GHzという比較的昔のCPUに8GBのメモリのPCで動かしたものです。

　今だとせいぜい1.5万円位で売れれば上等なマシンです。これで何をするんでしょう？ローカルAIに何ができるのか？もちろん真正面から比較したら答えの質、速度共にクラウドサービスのAIにはかなうわけがありません。「ローカルAIなどいらん！」と言っている人たちは大抵この点を問題にしています。

　ただローカルAIにもメリットある用途があります。先ずはAIの学習用です。

①現実のAIに触れる前にAIとはどういうものかリテラシーを高め。妄信や誤解が生じないような準備をする。
②いろいろいじり倒せるのでAIの仕組みを学ぶことができる。
③自分で開発、カスタムしたAIをここで動かして評価できる。

まあ、私は③をやりたくてやっています。うちの教室をアピールしてくれるAIや、ダジャレばかり言うおやじAIを作ってみたいです。

　次に、完全なセキュリティが必要な使用環境用。

④通信を行わないローカルAIは情報が外に出る心配が無い。

　最後に、料金対策です。IT長者を信じていますか？Youtubeはどうでしたか？通常料金だと将来AIが余計なおすすめや消費誘導をしてくるようになる可能性があります。その際、避けるには追加料金が必要になるでしょうし、値上げされる可能性が高いです。

⑤利用料金がかからない。

ざっと考えただけでも以上のメリットがあります。

　以下に実際の動作動画を公開します。正直、応答には20秒から1分半くらいかかっていて遅いです。

ローカルAI操作動画

　現状、このAIは知識はあまりありませんが、日本語だけでなく英語や中国語も話せてしまい賢すぎかと。AIとの会話中にもありますが、私はQLoRAで少しアホにしてLoRAで得意分野（日本語や教室のアピールにダジャレ）を限定してカスタムし、高速化・高精度化をしてみようと思います。

ローカルAIを体験されたい方は是非体験をお申し込みください。