본문 바로가기

전체 글262

AWS SAA 정리 RDS RDS : 관리형 관계형 데이터베이스 - 오토스케일링 (최대임계값 설정 필요) - 10% 이하 / 5분 / 지난 수정으로부터 6시간 이후 - 지속적으로 타임스탬프가 생성 - 모니터링 대시보드 - 읽기 전용 레플리카 > 일긱 성능 개선 - 다중 az 셋업 가능 - 스케일성 (수직 수평 둘 다) - EBS - 파일 스토리지 구성 - SSH 사용은 안됨!!! RDS read Replica - 15개 - az 내 / 크로스 az / 크로스 리전 : 전부 다 레플리카 가능 - 비동기식 복제 - 레플리카에 대해서 같은 리전이면, 크로스 az 상황에서도 무료!! RDS multi az - 리드 레플리카와 구분을 잘하자 - DR용 - 동기식 복제 - DNS하나 - 자동으로 페일오버 발생시 대비 스탠바이 - 스케일링에 .. 2024. 2. 5.
RAG와 레거시 기업 메뉴스크립트의 방향성에 대한 고찰 23년 3월, ChatGPT3에서 우리가 느낀 LLM의 단점 중 하나는 ChatGPT3의 학습데이터가 21년까지 뿐이었기 때문에, 최신의 질문에 대한 대답을 못한다는 것이었습니다. 즉, 컨티뉴얼 러닝 - 지속학습이 불가능하다가 실제 비즈니스 필드에서 적용되기 어려운 난점이었던 것이죠 컨티뉴얼 러닝의 문제는 아예 언어 모델의 패러다임이 바뀌지 않는 한 원리적으로 정면에서 해결될 수 있는 문제가 아닙니다. 이에, 여러 우회적인 해결책들이 제시되었는데, 그 중 가장 현실적이고 효용성 있는 생각되는 게 'RAG' 입니다. 물론, RAG에 대해서는 전부터 셀프 스터디를 통해 대략적인 내용은 꿰고 있었습니다만 작년 회사 내부적으로 진행한 NCP 설명회를 통해 좀 더 자세한 엔지니어들의 설명을 들을 수 있었습니다. .. 2024. 2. 3.
반응형

티스토리툴바