본문 바로가기
IT 공부/AWS AI Practioner(완)

AWS AI Practitioner 22 HW

by 랜턴K 2024. 10. 18.
반응형

EC2 for AI 

GPU-베이스 EC2 ; P3/4/5/ G/3/4... 

AWS Trainuium ;

- 100B+ 파라미터
- Trn 1 -> 16 티라늄 액셀러레이터

- 50% 비용 절감  

AWS Inferentia ; 

- ML 칩 - 추론에 적합한 칩 고성능 저비용 

- lnf1/2 

- 4배 이상의 처리량 70% 비용 절감 

 

 

반응형