AI
Gemini Code Assist StandardをGemini CLIで使おうとしてハマったのでメモ。 Gemini Code Assist Standardを使う場合、Gemini3を有効にするにはCode Assistのpre-GAを有効にする必要があるのだが、通常の方法ではGCPのプロジェクトを指定するのではなくユー…
ここ1年くらいだろうか。AIの可能性を模索するために、ありとあらゆるAIツールやサービスを試してきた。最初の半年くらいは、AIができることを見極めるために。その後の半年くらいは、AIに全てを賭ける価値があるか、というかAIにどの程度投資すべきかを見極…
ここ数ヶ月、いわゆるバイブコーディングにハマってたのだけれども、バイブコーディングは止めることにした。バイブコーディングって確かになんかどんどん出来上がっていってる気がするんだけど、いざソースコードを読んでみると、一つのファイルに数千行の…
最近、OfficeアプリでCopilotが使いたくてCopilot Proを試してみていたら、マイクロソフトから下記のように、Microsoft 365 Premiumなるプランが出てきた。 Microsoft 365 Premium を購入 - サブスクリプション価格、ダウンロード | Microsoft Store 相変わ…
ローカルLLMを色々と使ってみたが、結論としては下記の内容に至った。 モデルについてはGemma3一択。自分の環境に応じてどのパラメーター数・量子化ビット数を選ぶかは考える。 自分の環境(1050 TiやCore 5 Ultra 245の内蔵GPU)なら4BパラメータのQ4_K_Mを…
ここ数日で色々と構築してきた結果をメモっておく。会社で同じ環境を再現する必要があるので。 LM Studio LM Studioについては特筆する設定項目はなし。 とりあえず入れているモデルは下記の通り。 ランタイムについては色々と調べてみたけど、Vulkan使って…
中古でポチっていたGeForce GTX 1050 Tiが届いたので、早速デスクトップPCに取り付けてLLMを動かしてみた。 大昔のエントリークラスレベルのGPUなのでそんなに期待はしていなかったが、思ったよりは高速化した。まあ、3DMark Time Spyのスコアで今使っている…
LM StudioでLLMが動いたのはいいけど、どうも汎用ドライバみたいなもので動いているらしくて、IPEX-LLMというIntel謹製のものを使ったllamaを使うと速くなるらしい。 github.com ここのバイナリを使えばIntelのGPUに最適化されたollamaが使えるらしいが、ど…
前回の投稿で色々と調べてみたけど、結局のところローカルLLMは下のやつを用途に応じてでいいかなという結論になった。 google/gemma-3n-e4b:結構速いので、ほかモデルで日本語が怪しい場合はこっちでもいいかも gemma-2-2b-jpn-it-gguf/gemma-2-2b-jpn-it-…
前の記事でローカルLLMを試してみたが、確かに4Bくらいでもそれなりには動くものの、しょぼいGPUやiGPUではちょっと厳しい。Jan-v1みたいなモデルでWebスクレイピングをして放置って用途ならこれでもいいが、文章要約とかあらかじめ用意されているドキュメン…
最近はAI熱下がり気味だけど、ふと思い立ってローカルLLMをやってみた。 というのも、Jan-v1なるLLMが軽いけど高性能という話を聞き、LM Studioからモデルをインストールし、Anything LLMでRAGとWebスクレイピングをやってみた。 システム構成 あとから実現…
AI界隈はGemini CLIで賑わっていますが、ご多分に漏れず自分もやってみた。 無料で使える!と喧伝されていますが、GoogleのAIサービスは個人用の場合大抵入力されたデータを学習に使う前提となっているので、今回はあえてGemini Code Assist Standardに課金…
相変わらずAI関連の支出をどうやって抑えようか検討中の今日このごろ。 Cursorはそこそこの値段でそれなりのモデルが使えてお得な感じはあるが、AIエージェントというよりは、ユーザーがわかっていることをAIにやらせるためのエディタ感が昔から強いと思って…
Difyを自前でホスティングしていたんだが、どうもこれあんまり使わない気がしてきた。 Difyの良さはノーコードでAIアプリが作成できるという点なのだが、正直Power Automateにしてもそうだが、ノーコードというのはメリットでもありデメリットでもある。 ノ…
ここ最近Clineをプログラム作成に使用しているのだけれども、多分100ドルくらい使って分かってきたことを書き残しておく。 PlanとActのモデルは同じにしたほうがいい ネット上の情報を見て、しばらくPlanとActモードで使うモデルを分けていた(要するに少し…
AIをしばらく色々な方面で使用しているが、とにかく価格をいかに抑えて、かつ自分が求める出力を得るかということを考えると、結論としてはAIと極力会話せず、一回の入力でやりたいことを伝えるかが重要だということに落ち着いてきた。 というのも、各社のAI…
最近はAIの利用方法ばかり考えていて、このブログの記事もその話ばっかりになっているが、相変わらずAIを使う部分と人間がやる部分の棲み分けを考えている。 正直なところ、プログラムに関しては明らかにAIのほうがうまく書くし、自分自身もプログラムと言う…
o3は耳コピもできるという話を聞いて、実際にfripSideのclosest loveを解析させてみた。 下記は実際のChatGPTとの会話を要約した感じの記事。 確かになんか解析してるっぽいけど、自分はこれ関連の知識がないので全くわからん。 色々とChatGPTと話していると…
メタプロンプトすごい(語彙力)。 AIというのはプロンプト次第でどうにでもなるというのは、このブログでも何回も言っている気がするが、そのプロンプトを考えるのがまた難しい。そもそも楽したいからAI使ってるのに、1000文字も2000文字もプロンプトを書く…
ここ最近、ずっとAIの使い所に迷っていたのだが、やっと一段落できた気がする。 AIというのはどうも万能に見えるが、まあ万能じゃない。間違えたり、意図を理解していないのに適当に暴走したりして結構手に余る感じはするが、それでも有能なことに変わりはな…
ChatGPTがProプランを展開している中、ついにClaudeも「Max」という高額なプランを打ち出してきた。 これまでAI関連のサブスクリプションは、月額3,000円前後が主流であった。しかし、この価格帯では高性能GPUの維持コストをまかなうのは難しいのかもしれな…
以前から、定期的にひどい肩こりに悩まされているのだが、その原因の殆どが、まあ当たり前なのだがパソコン作業中の姿勢にあるようだ。 自分は作業の殆どをパソコンで行っているので、周辺機器にはかなり投資しているのだが、それでもなぜか肩こりがひどくな…
文章生成AIのときにも思ったけど、やっぱり自分がよくわかっていないコードが無限に生成されるというのは、あまりにもプロジェクトが複雑になりすぎて破綻してしまう。やはりボトルネックは人間だったか。 AIをどう使うかと言うのは人によって変わってくると…
ここ数日、AIを活用したワークローを模索している過程で、Copilotの進化が著しいことに気づいた。 以前は、CopilotGPTの劣化版のような印象があったが、それも過去の話であり、現在ではMicrosoft製品の至る所にCopilot機能が統合され、他のプロダクトでは体…
AIツールの課金問題 ここ数日Cursorを使っているのだが、AIツール全部これで完結するのでは?と考えている。AIツールは星の数ほどあり、そのどれもがたいていサブスクで課金して使う形式を採用しており、片っ端から使っているとサブスクだけで1万円超えなん…
ここ数ヶ月、様々なAIエージェントを使い分け、課金対象を変えながら試行錯誤を重ねてきた。その結果、最終的に「Cursorに全振りするのが最も効率的なのではないか」という考えに至った。 Cursorの基本的な魅力:多様なモデルと言語処理能力 Cursorの大きな…
ChatGPT Proをやめて複数のAIに契約してみたが、今の時点でのワークフローを整理したいと思う。 現時点での、自分なりのライティングにおけるAIワークフローは 文章のたたき台はChatGPTで作る 文章の加筆修正・構成の練り上げはClaudeで行う ファクトチェッ…
これは最近出たChatGPTの新しい画像生成機能で作ったアイキャッチ画像。文字が問題なく書けるのはまさに革命的な進化と言える。どうなってんだこれ。 AIの個人的マイブームが始まって数週間、何でもかんでもAIにやらせてみたり、仕事のどの部分がAIに代替で…
Vibe Codingが流行ってるらしい 最近巷では、Vibe Codingなるものが流行っているらしい。曰く、Vibe CodingとはLLMにコーディングを全部やらせて、自分は設計と出てきたコードの評価・改修を行うというものらしい。 かくいう自分も、このVibe Coding(もどき…
最近結構AIの利用方法について考える機会があるが、AIと人間のバランスについてよく考える事がある。 やはりAIは便利なので、何でもかんでもAI!となってしまう気持ちもあるが、全部AIに書かせると、なんというか面白くない。人間味がない(当たり前だが)。…