プロンプトエンジニアリングの潜在的なリスクと制限
Risks and Limitations of Prompt Engineering
AI 生成試験ガイド v1.1 準拠人による確認：未実施
このページの内容は、AWS 公式の試験ガイドをもとに AI が作成しました。誤りを含む可能性があります。正式な情報は公式の試験ガイドで確認してください。
概要
自体が攻撃対象になりうる。キーワードは 4 つ：（機密情報の漏えい）、（データの汚染）、（攻撃者がの目的を乗っ取る）、（安全制限の回避）。対策はフィルタリング、、、機密をプロンプトに入れないこと。
Prompts themselves can be an attack surface. Four key terms: exposure (leaking sensitive information), poisoning (contaminating data), hijacking (an attacker taking over the model's goal), and jailbreaking (bypassing safety limits). Defend with filtering, guardrails, least privilege, and keeping secrets out of prompts.
主な用語
| 日本語 | English |
|---|---|
| ろしゅつ | Exposure |
| Poisoning | |
| Hijacking | |
| Jailbreaking | |
| Prompt injection |
解説
日本語の解説は準備中です。上の概要と用語表で要点を確認し、確認テストで理解度を確かめてください。
出典：AWS Certified AI Practitioner (AIF-C01) 試験ガイド Domain 3 › Task 3.2
項目名と要約は本サイトによるものです。試験ガイドの原文は公式サイトで確認してください。
読み終えたら「学習済み」にしましょう。確認テストで 80% 以上正解すると「習得済み」になります。
D3 確認テスト 1 へ