Prompt CachingとBatch APIの割引は重なる一方、キャッシュヒット率によっては併用のほうが高コストに。記事では条件別の試算、逆転の境界、自分のワークロード向け計算関数を解説します。手順はこちら:https://tips.j...

Prompt CachingとBatch APIの割引は重なる一方、キャッシュヒット率によっては併用のほうが高コストに。記事では条件別の試算、逆転の境界、自分のワークロード向け計算関数を解説します。手順はこちら:https://tips.jp/u/ai-lab/a/mpU0pYSj#AI #Claude #Anthropic

Read Original

Related