AWS TechCamp 5. AWS에서 제안하는 생성형 AI Application 모범 사례

세션 5는 AWS 글로벌 SA들이 만든, 

생성형 AI 어플리케이션 챗봇을 빠르게 만들고 테스트할 수 있는

웹 관리 페이지를 만드는 방법에 대해 설명하였다. 

세션 4 내용만 해도, 꽤나 많은 영감을 얻었는데,

아예 일종의 플랫폼처럼 내부 구축가능한 아키텍쳐를 소개해준다는 측면에서 더욱이 의미가 깊었다. 

 

그리고 전날에는 OpenSearch를 통해서 검색엔진을 구현했지만,

이번에는 Kendra 라는 관리형 NLP 시스템을 통해서 Chatbot을 구현하는 점이 달랐다.

하나의 또 다른 서비스를 실습해 본다는 측면에서 또 좋은 기회가 되었다. 

실습 시간에는 시간 대로 따라하고, 당장 눈 앞에 것들을 이해하는 데 벅차다보니

전부를 미처 빨아들이지 못한 점이 다소 아쉬웠다. 

 

1.  

OpenSearch 말고 Kendra 라는 또 다른 솔루션을 써보고 경험한 부분이 좋았다. 

하지만, Kendra 설정 과정에서 무얼 놓쳤는지 온전히 다 테스트를 해 보지 못해서 

사용자 레벨에서 차이점을 경험하지 못한 것이 아쉬웠다.

 

2. 

개념적으로 OpenSearch 비즈니스 데이터 기반의 Elastic Search에 필요한 

벡터 DB를 만들어 주는 것이고,

Kendra는 자체적인 NLP를 갖고 내부적으로 완전 관리형으로 관리됨까지 이해했다. 

 

내가 속한 비즈니스에서 문제는 워낙 사용하는 언어가 특별하게 정의되는 경우가 많기 때문에 

제너럴한 언어에 익숙한 NLP 또는 LLM에 적합하지 않다는 것이다.

따라서, 인풋과 아웃풋 양단 전부에

어떤 방식이건 제대로 스니펫을 타겟할 벡터 DB가 다 필요하다는 생각이다.

Kendra의 적용은 우리로썬 문제가 있고,

만약 현업에서 이런 것들을 적용할 기회가 온다면 

이런 식의 사용은 막아야 한다는 인사이트를 가질 수 있게 되었다.