Gemini APIの料金が高い|請求15倍の犯人は思考トークンだった

Gemini APIの料金が高い原因を調べたら、請求が前月の15倍になっていた。犯人は目に見えない思考トークンだったという記事のサムネイル

どうも〜さとあつです😄

今日はお金の話です。しかも、俺が青くなったほうの話。

Googleから支払いのメールが来ました。約2万円。

・・・

・・・・・・・

あれ?

先日も1万円くらい来てて、そのときは、まあそんなもんかで流してたんです。でも2万は手が止まる。

うちのAIの請求、6月は1,838円でした。

15倍です。

まず疑ったのは、自分がいちばん最近はじめたやつ

最初に頭に浮かんだのは、ブログと動画でした。

うちはサムネも挿絵もぜんぶAIに描かせてます。動画も量産をはじめたところ(その裏側を書いた話はこっち)。画像って、なんとなく高そうじゃないですか。

だから、これは俺が画像を作りすぎたな、と思った。

思ったんだけど。

いや、待て。

なんとなくで犯人を決めるの、いちばんまずいやつです。前にもAIの大丈夫ですを鵜呑みにして痛い目を見てる(サーバーに穴が開いてた話はこっち)。

だから今回は、感覚を捨てました。請求書そのものを、1円単位で分解させることにした。

請求書はサービス別じゃなく、SKU別で開く

ここ、たぶんこの記事でいちばん役に立つところです。

Google Cloudの請求画面って、ふつうに開くとサービス別で出ます。でも、それだと何も分からない。うちは複数のツールが同じ場所にぶら下がってたので、全部ひとまとめに見えてました。

そこをSKU別に切り替える。料金の品目まで細かく割った表示です。すると、こう出ました。

SKU(料金の品目)使用量金額どれのぶん
gemini 2.5 flash 出力トークン 最大39,179,608¥15,831営業ツール
Places API テキスト検索1,769回¥4,350営業ツール
gemini 2.5 flash 入力トークン78,061,383¥3,785営業ツール
Gemini 3.1 Flash 画像生成349,440¥3,466ブログ・動画

決め手は、SKUの名前でした。

画像を描かせてるのはGemini 3.1のほう。テキストを処理してるのが2.5 flash。モデルの名前が品目に入ってるから、混ざりようがないんです。

で、答え合わせ。

ブログと動画で作った画像は312枚で3,466円。全体の13%でした。残りの87%、23,966円が営業ツール(LeadQUEST)のぶん。

ついでに単価も出たんよ。画像は1枚11.1円。ブログ1記事ぶんで34円、動画1本で141円。毎日ブログを書いても月1,000円ちょっと。疑ってごめん、という感じです。

AIは、答える前に頭の中で考えてる

問題は営業ツールのほうです。出力トークンが3,900万。桁がおかしい。

ここでピンと来なかったので、実際にAPIを叩いて中身を見させました。そしたら、こうでした。

AIって、答えを返す前に考えるんです。人が下書きするみたいに、頭の中で。

その考えた分も、出力として課金される。

画面には出てきません。返ってくる答えは短い。なのに裏で大量に考えてて、そのぶん金が出ていってる。

AIが返す答えは氷山の一角で、水面下に見えない思考の塊があり、そこにも課金メーターが回っていることを表した図解
↑ 見えてるのは答えだけ。金を食ってるのは水面下のほう。

どれくらい考えてたのか、処理ごとに実際に測りました。

AIにやらせてる処理考えさせたまま考えを絞った後減った割合
営業の文面を作る3,836236-94%
会社の情報を抜き出す2,587295-89%
問い合わせフォームを読み解く1,630197-81%
公式サイトかどうか判定する62532-95%
CSVの列を判定する79359-93%
業種を判定する51312-98%

課金される出力の、85〜98%が考えた分でした。

答えそのものは、ほんの数%しかない。

そして、いちばんこたえたのがこれです。この、どれくらい考えるかの設定が、うちのコードに1箇所も書かれてなかった。

書かないと、既定でしっかり考えるモードのまま動きます。つまりうちは何も指定しないまま、AIに考えるだけ考えさせて、そのぶんを毎日払い続けてたわけです。

じゃあ切ればいい、って話でもなかった

ここで飛びつきたくなります。設定ひとつで9割落ちるなら、いますぐ切ればいい。

でも、止めました。

うちの営業ツールは、企業の問い合わせフォームをAIに読ませて、どの欄に何を入れるか判断させて送ってます(この仕組みを作った話はこっち)。ここの判断が雑になったら、送信そのものが失敗する。安くなっても届かなかったら意味がない。

だから、切る前に測らせました。

実在する会社のフォーム13件で、考えあり・考えなしを10回ずつ。合計290回。

結果、13件中12件で、まったく同じ判断でした。

というより、考えありのほうがブレてた。同じ入力なのに30通りの答えを出してくる。考えなしは18通り。CSVの列を判定するほうも、わざと汚くしたデータ12パターンで100%対100%。

拍子抜けするくらい、落ちなかったんです。

思考させたAIと思考を切ったAIが同じ答えを出しているのに、思考させたほうだけコインを大量に消費していることを表した図解
↑ 答えは同じ。片方だけ、余分に払ってた。

ただし、全部を切るわけじゃない。業種を判定するところだけは、そのままにしました。

ここを切ると判定の基準が変わって、前に登録した会社と、これから登録する会社で二重規格になる。安くなるより、データが濁るほうが痛いです。

で、いくら下がるのか

7月の24日ぶん月に直すと
いまのまま¥23,966約 ¥29,958
考える量を設定したあと約 ¥10,800約 ¥13,500

月3万が、1.3万。

ただし、これはまだ見込みの数字です。

正直に書くと、まだ直してません

この記事を書いてる時点で、本番にはまだ入れてない。

送信の仕組みは、過去に事故を起こしたことがある場所です。安くなるからといって、勢いで触っていい場所じゃない。まず設定を1か所に集める仕組みを作って、通し忘れたらビルドが止まるようにして、それから入れます。

あと、これは調べてる途中でついでに見つかったんだけど、いま使ってるモデルは10月16日で終わるらしい。しかも移行先は値段が上がる。

安くしたそばから、これですよ(笑)

同じことで青くなってる人へ

もし請求を見てギョッとしてるなら、この順番で見てほしいです。

1サービス別じゃなく、SKU別で開く。品目名にモデル名が入ってるので、どのツールのぶんか一発で分かります

2Geminiの課金される出力は totalTokenCount − promptTokenCount で見る。返事の長さ(candidatesTokenCount)だけ見ると、まず騙されます

3考える量は thinkingBudget で指定できる。0で切れるし、128みたいに数値でも刻めます

4予算アラートを先に置いておく。うちはこれを置いてなかったので、メールで知りました

2番、けっこうな罠です。

うちのAIも最初これを見誤って、出力は小さいから大丈夫ですと報告してきました。返事は短いんです。でも裏で考えてる分が、しっかり乗ってる。

それでも、AIは安い

AIは安い、って言われます。俺もそう思ってました。

実際、ブログの画像は1枚11円です。安い。

でも、見えないところで考えさせっぱなしにしてると、月に3万飛ぶ。同じAIなのに。

道具が高いんじゃなくて、俺が設定の存在を知らなかっただけでした。知ってしまえば、9割落ちる。こういうのは、たぶんまだいくつも埋まってます。

あなたのところは、どうですか。AIの請求書、中身まで開いて見てますか。

見たほうがいいですよ、ほんとに😅

AIを業務に入れるときの原価の話も、システム開発とセットで相談を受けてます。気になる人はXのDMから気軽にどうぞ。

今日も最後まで読んでくれて、ありがとうございました😄

SNSも見てね!

ではまた!!

コードが書けない俺が、AIで作った営業ツールです

新規開拓のリスト作りから送信までを、まるごと仕組みにしました。Googleログインだけで無料で試せます。

LeadQUESTを見てみる

\ 最新情報をチェック /