トークンベースの価格設定モデルと、推論のコストとパフォーマンスに及ぼす影響
Token-Based Pricing and Its Effect on Inference Cost and Performance
AI 生成試験ガイド v1.1 準拠人による確認:未実施
このページの内容は、AWS 公式の試験ガイドをもとに AI が作成しました。誤りを含む可能性があります。正式な情報は公式の試験ガイドで確認してください。
概要
大規模は単位で課金されることが多く、との両方が課金対象になり、通常は出力のほうが高い。や回答が長いほどが増え、速度は落ちる。コスト削減には、プロンプトの短縮、出力の制限、小さいモデル、がある。
Large models are often priced per token: both input and output tokens are billed, and output usually costs more. Longer prompts and answers raise cost and slow responses. Ways to cut cost include shorter prompts, limiting output, smaller models, and prompt caching.
主な用語
| 日本語 | English |
|---|---|
| Token-based pricing | |
| Input tokens | |
| Output tokens | |
| On-demand | |
| Provisioned throughput | |
| Prompt caching | |
| Context window |
解説
日本語の解説は準備中です。上の概要と用語表で要点を確認し、確認テストで理解度を確かめてください。
出典:AWS Certified AI Practitioner (AIF-C01) 試験ガイド Domain 2 › Task 2.1
項目名と要約は本サイトによるものです。試験ガイドの原文は公式サイトで確認してください。
読み終えたら「学習済み」にしましょう。確認テストで 80% 以上正解すると「習得済み」になります。
D2 確認テスト 1 へ