본문 바로가기
IT 공부/AWS AI Practioner(완)

AWS AI PRACTITIONER 8 Bedrock 다른 기능

by 랜턴K 2024. 10. 3.
반응형

아마존 배드락 다른 기능
 
배드락 스튜디오 -> 팀이 더 쉽고 어플 빠르게 생성하게 한느 것 
워터마크 디텍션 -> 타이탄에 의해 생성된 이미지를 검증 

배드락 프라이싱
- 온디맨드 
- 배치 -> 한번에 여러 예측 가능 50% 절감
- 프로비전드 스루풋 -> 특정 기간에 맞는 가격 / 최대 분당 처치량 있음 
- 베이스 모델 / 파인튠 / 커스텀 모델 

모델 임프루브먼트 테크닉 코스트 오더 
1 프롬프트 엔지니어링
2 RAG
3 지도학습 베이스 파인튜닝
4 DOMAIN ADAPTATION파인튜닝 

베드락 코스트 세이빙
- 온디맨드 예측 불가능의 워크로드 / 단기간 
- 배치 - 50% 절감 / 좀 기다려야 함 
- 프로비전드 스루풋 비용절감 없음 / 용량에 대한 리저빙만 된다고 보면 됨 
- 온도 / 탑K / 탑P ; 프라이싱에 영향 없음
- 모델 사이즈  작은 모델이 보통 쌈
- 인풋&아웃풋 토큰 갯수 - 가장 중요 

 

배드락의 개요 가장 마지막에

AWS 데모를 볼 수 있다 

실제 어플리케이션으로 어떻게 구현되는지에 대한 샘플이다. 

반응형