AWS AI Practitioner 5 RAG 핸즈온

영어로 Knowledge Base를 Bedrock에서 찾을 수 있다

첫페이지에서 어떤 순서대로 작동하는지 참조가 가능하다 

첫번째 박스의 Chat with your document를 통해서, 기본 작동 방식으로 엿볼 수 있다

들어가면, 이런 화면인데

파라미터와, 프롬프트 템플릿, 데이터를 설정할 수 있다  

 

 

파라미터 중 온도와 상위P라는 개념이 있다.

이 때 온도는 맥스웰-볼쯔만 분포 특성에서 가져온 개념이다

온도가 높아지면 속도 분포가 넓고 다양해지게 된다

마찬가지로, AI의 온도를 높이면 

탐색하는 범위가 넓고 다양해지며 답변의 무작위성이 증가한다고 보면 되는 것이다

실제 로직이 어떻게 구현되는지는 알아볼 일이지만 컨셉츄얼하게만 당장은 이해하려고 한다 

 

상위 P는 사용률 상위 몇 퍼센트의 단어들을 사용하여

답변할 것인지를 나타내는 것이다 

따라서 수치가 낮아질 수록, 답변의 일관성이 확보된다고 볼 수 있으며

수치가 높아질 수록 무작위성이 증가하게 된다 

 

프롬프트 확인 및 편집도 가능하다 

 

Data 소스를 업로드하고 챗봇 테스트를 할 수 있다 

우측에 챗팅한 내용이 나오며 

소스 세부 정보 표시를 통해서, 소스 데이터를 잘 참조하여 작성했는지 검증할 수 있다