最近生成AI関連の話題を良くしていますが、話題だけでなく課金も今まで色々とやってきた。
正直、生成AI関連はサブスク前提のサービスが多すぎて、全部サブスク契約していると請求額がえらいことになる。昨今の物価高の影響で色々と節約志向の中、生成AIについてもなんとか節約したいなと思っていた。
そうは言っても、生成AIは自分にとってもはやインフラみたいなもので、手放すことはちょっと難しい。そうなると、サブスクではなく従量課金にすればいいのではと考えた。
何故かは分からないが、いわゆるチャットボットタイプの生成AIツールはほとんどがサブスクで、従量課金というのがない。無いなら作ってしまおうというのが高専卒のマインドなので、今回は自分が思うような環境を作ってみた。
構築方法などは省くが、最終的に下記のような組み合わせに落ち着いた。
- LibreChatを使ったチャットボットシステム
- Difyを使用した生成AIツール開発環境
LibreChatはMCPにも対応しているので、正直ChatGPTの有料課金時よりできることが増えているくらい拡張性がある。Difyについては、ノーコードツールということで正直懐疑的だったが、困ったらLLMノードを追加して自然言語で指示すれば大体どうにかなるので、昔ながらのノーコードツールであった「頭の中に疑似言語で書かれたコードができてるのに、ノーコードツールでどう表現するのかわからない」というストレスは無くなった気がする。まあ、Dify特有のとっつきにくさは無いと言えば嘘になるが。
それよりも今回一番困ったのは、Docker周りの設定だった。最近の主要なOSSはほとんどDockerで配布されていて、Dockerに慣れてない自分はだいぶ骨が折れた。まあ、今回で大体Dockerについてはなんとなく分かったので、次回からはもう少し時間を短縮できそうな気はする。
思い切って、久しぶりに新しい技術をどんどん取り入れてみたが、やはり新しいものというのは面白い。とは言え、ツールで遊んでばかりもいられないので、これからはこいつを有効活用する方法を考えていきたい。
