AWS AI Practitioner 9 Prompt Engineering Overview

프롬프트 엔지니어링 태스크 

Instruction 

Context 

Input data

Output indicator 

 

Enhanced Prompt 

- 위의 4가지 

+ Example Output 

 

Negative Prompting 

- 명시적으로 포함하지 말 것을 정하는 것

---

Prompt Optimization

- System Prompt  ; 모델이 어떻게 행동하고 대답할지에 대한 

- Temp ; Creativity를 나타냄  0~1 

- TopP ; 상위 xx%에 해당하는 단어를 선택

   -> Top P를 줄임으로써 다양성을 줄이고 이해가능성을 높일 수 있음 

- TopK ; 고려 가능한 단어의 갯수

  -> Top K를 늘릴 수록 다양하고 창의적이어짐 

- Length ; 최대 길이 

- Stop Sequence ; 모델 중지를 알려주는 토큰 

 

Prompt Latency 

- model size

- type 

- number of tokens in input 

- number of tokens in output 

- 하지만 topK/P, 온도에 의해 영향 X