반응형
아마존 배드락 다른 기능
배드락 스튜디오 -> 팀이 더 쉽고 어플 빠르게 생성하게 한느 것
워터마크 디텍션 -> 타이탄에 의해 생성된 이미지를 검증
배드락 프라이싱
- 온디맨드
- 배치 -> 한번에 여러 예측 가능 50% 절감
- 프로비전드 스루풋 -> 특정 기간에 맞는 가격 / 최대 분당 처치량 있음
- 베이스 모델 / 파인튠 / 커스텀 모델
모델 임프루브먼트 테크닉 코스트 오더
1 프롬프트 엔지니어링
2 RAG
3 지도학습 베이스 파인튜닝
4 DOMAIN ADAPTATION파인튜닝
베드락 코스트 세이빙
- 온디맨드 예측 불가능의 워크로드 / 단기간
- 배치 - 50% 절감 / 좀 기다려야 함
- 프로비전드 스루풋 비용절감 없음 / 용량에 대한 리저빙만 된다고 보면 됨
- 온도 / 탑K / 탑P ; 프라이싱에 영향 없음
- 모델 사이즈 작은 모델이 보통 쌈
- 인풋&아웃풋 토큰 갯수 - 가장 중요
배드락의 개요 가장 마지막에
AWS 데모를 볼 수 있다
실제 어플리케이션으로 어떻게 구현되는지에 대한 샘플이다.
반응형
'IT 공부 > AWS AI Practioner(완)' 카테고리의 다른 글
AWS AI Practitioner 9 Prompt Engineering Overview (0) | 2024.10.04 |
---|---|
AWS AI PRACTITIONER 7 CloudWatch와 Bedrock (2) | 2024.10.03 |
AWS AI Practitioner 6 RAG 핸즈온 (0) | 2024.10.01 |
AWS AI Practitioner 5 RAG 핸즈온 (0) | 2024.10.01 |
AWS AI Practitioner 4 RAG (0) | 2024.10.01 |