AI・機械学習

プロンプトキャッシュ(ぷろんぷときゃっしゅ)

前回と同じ部分の指示文を使い回して、料金と待ち時間を減らす仕組み。

概要

毎回同じ前置き（長い指示文や資料）を送る場合に、一度処理した部分を AI 会社側で一定時間とっておき、再利用する仕組み。再利用された部分は通常の入力より大幅に安くなる（Claude では通常の約1割の単価）。保存期間が切れると、次の1回は再び通常の料金で処理し直す。