본문 바로가기
IT 공부/AWS AI Practioner(완)

AWS AI Practitioner 2 파인 튜닝

by 랜턴K 2024. 10. 1.
반응형

AWS 제공하는 모든 FM이 가능한건 아니고 
일부 오픈소스만 가능하다 


트레이닝 데이터는 특정 포맷으로 s3에 저장하여 파인튜닝을 진행한다 
Provisioned Throughput을 사용한다 
1 지도 학습
- 특정 도메인 태스크 : 레이블된 예제 
2 Continued Pre-training
- 비지도 학습 
- 도메인 어댑테이션 목적의 파인 튜닝 
3 싱글 턴 메세징 
- 지도 학습 파인튜닝의 종류 
- 한 차례의 대화 컨텍스트를 준다 
4 멀티 턴 메세징 
- 여러 차례의 대화 컨텍스트를 지도 학습으로 제공한다 

Budget 
지도 학습이 Pre-training보다 더 싸다 > 더 적은 데이터로 충분하기 때문
- ML 엔지니어가 필요함
- 데이터가 필요함
- 파인튜닝된 모델은 더 비쌈 

Transfer Learning
사전학습된 모델을 새로운 태스크에 어댑트하는 일   
-이미지 분류 / NLP 등에 사용 
- 파인튜닝은 트랜스퍼 러닝의 한 종류다 
- 따라서, 트랜스퍼 러닝은 파인튜닝 대비 범용적 답변인 걸 알고 있자 

반응형