OpenAI News·AIスコア41
GPT-6のプロンプトキャッシュ改善:ヒット率向上と診断機能、制御機能の追加
Better prompt caching for GPT-6
AIによる概要
GPT-6はプロンプトキャッシュを改善し、キャッシュヒット率を高める。新たな診断機能、明示的なブレークポイント、レイテンシーとコストを抑える制御機能を導入する。
出典:OpenAI News · openai.com
Better prompt caching for GPT-6
GPT-6はプロンプトキャッシュを改善し、キャッシュヒット率を高める。新たな診断機能、明示的なブレークポイント、レイテンシーとコストを抑える制御機能を導入する。
出典:OpenAI News · openai.com