본문 바로가기

기획/인사이트14

AWS TechCamp 5. AWS에서 제안하는 생성형 AI Application 모범 사례 세션 5는 AWS 글로벌 SA들이 만든, 생성형 AI 어플리케이션 챗봇을 빠르게 만들고 테스트할 수 있는웹 관리 페이지를 만드는 방법에 대해 설명하였다. 세션 4 내용만 해도, 꽤나 많은 영감을 얻었는데,아예 일종의 플랫폼처럼 내부 구축가능한 아키텍쳐를 소개해준다는 측면에서 더욱이 의미가 깊었다.  그리고 전날에는 OpenSearch를 통해서 검색엔진을 구현했지만,이번에는 Kendra 라는 관리형 NLP 시스템을 통해서 Chatbot을 구현하는 점이 달랐다.하나의 또 다른 서비스를 실습해 본다는 측면에서 또 좋은 기회가 되었다. 실습 시간에는 시간 대로 따라하고, 당장 눈 앞에 것들을 이해하는 데 벅차다보니전부를 미처 빨아들이지 못한 점이 다소 아쉬웠다.  1.  OpenSearch 말고 Kendra 라.. 2024. 6. 30.
AWS TechCamp 4. 기본 과정 : Amazon bedrock을 활용한 상품리뷰 요약과 숏폼 만들기 Bedrock에서 AI 모델을 선택하고, Bedrock 콘솔 내 플레이그라운드에서, 테스트를 해보았다.프롬프트를 입력하여, 모델 별 아웃풋을 빠르게 검토하면서어떤 모델이 가장 적합할지, 혹은 나의 프롬프트에 개선점이 무엇일지 피드백 관점을 획득할 수 있었다. 이후, Bedrock에 API를 호출하는 람다 함수와 ALB를 구성하여퍼블릭 망에서, 원하는 프롬프트 대로 작동하는 웹 서비스를 구축하였다.  구체적인 웹 개발 쪽은, AWS 측에서 준비해주어 빠르게 구축이 가능했다. streamlit이라는 파이썬 패키지를 제공해주었는데, AWS Cloud9 (클라우드 기반 웹 IDE)에서 빠르게 전개가 가능하여 상당히 간편하였다.    1.AI 어플리케이션 관점의 기초 모델을 구축함으로써,빠르게 피드백해볼 수 있다.. 2024. 6. 30.
AWS TechCamp 3. 기본 과정 : Amazon OpenSearch와 Amazon Bedrock을 활용하여 고도화된 검색 시스템 구현하기 무늬만 Solution Arhchitect Certicicate 보유자이고, 내재화된 개발스택이 전혀 없었기에, 개념적으로는 RAG와 RAG 아키텍쳐를 어떻게 짜야한다는 이해만 됬었다.즉, 실제 어떻게 구현할지에 대해서는 깜깜했고,또 RAG 아키텍쳐를 빌드하기 위해 어떤 서비스를 어떻게 연결해야 될지도 감이 잡히질 않았다.그런 측면에서, 테크캠프의 세션3 부터는 나에게 굉장히 의미있고두려움이 많이 있는 도전과 같은 일이었다.  불행히도, 리전 생성을 잘못했다는 사실을 뒤늦게 알아차려서실습 세션 내내 헤메다가 중간에 따라하는 것을 포기했다. 구체적인 내용은 나중에 혼자 공부하면서 파악해야겠다라고 생각하며세션3의 실습 과정은 대부분을 놓쳤지만, 그렇다고 해서 완전 망쳐버린 것은 아니었다.  1.글로만 배웠던.. 2024. 6. 29.
AWS TechCamp 2. 기초과정 : WEB APP VPC와 Subnet을 설정하고,Subnet에 EC2를 프로비저닝하여, ALB를 구축하는 것까지 진행하였다.  자격증 공부하면서 배웠던 것들을 상기하는 장점도 있었지만 1. 실제 작업 간, 제약사항이 많다  EC2가 있어야 할 서브넷을 잘못 설정하고, 서브넷의 AZ를 잘못 설정하는 등 중간중간 실수를 저질렀다.문제는 이런 실수를 원복시키는 것이 꽤 성가시다는 것이었다. 자격증 공부할 때만 봤던, EBS 스냅샷 이후,EC2를 종료시키고, 새로운 EC2를 연 후 마이그레이션 진행한다는 방법을...이제서야 확실히 깨달았다.  아니 왜 이렇게 귀찮게 해놨지?에 대한 의구심이 덕분에 이제야 들었고,ChatGPT와 대화를 통해 확인할 수 있는 계기가 되었다. (물리적으로 구분된 AZ 내에 프로비저닝 시키는 것이고,.. 2024. 6. 25.
AWS TechCamp 1. 기초과정 : Serverless Web App 때는 정확히 기억이 안난다. 아무튼 AWS 자격증을 취득한 후 였다.내가 DevOps를 직접할 것은 아니지만(요새는 나중에는 그럴지도? 라는 생각중이긴 한데)자격증을 취득하고서도 머리와 손에 지식이 감기는 맛이 없어서 아쉬울 때가 있었다.공대생 특유의 제 손으로 하지 않고서는 못배기는 실습의 갈증이었을까? 아니면 기질적으로 타고난 나의 성미의 문제였을까? 한 번은 업무하면서 음악처럼 TechCamp를 들었었는데, 역시 멀티태스킹이 좀처럼 되지 않았고, 다음번에는 그냥 제대로 실습까지 하면서 들어야겠다라고 마음 먹었다. 마침 6월 마지막주, 본 행사를 다시 진행한다고 하여 휴가내고 3일간 TechCamp를 수강하며 따라해보기로 했다.  화요일 오전 첫 강의는 서버리스 웹 앱이었다. 뭐, 서비스를 어떻게 붙.. 2024. 6. 25.
ChatGPT 4o 공개가 소비자의 스탠다드에 끼칠 영향 이번에, ChatGPT 4o가 공개되었고,Youtube에 쇼케이스 영상까지 함께 공개되었다. 쇼케이스에 참가한 사람들이 누구인지 영상에 언급되지 않았던 것으로 기억하는데, (확실하진 않다.) 어찌되었던, 작년 12월 구글의 Gemini 공개 논란 처럼 체리피킹이나, 조작되었을 가능성은 적을 거 같다. 실제 바로, 프리 버전의 Chat Gpt 4o가 퍼블릭으로 풀리기도 했고. 정말 2년도 안되는 사이에, 그 속에서 성과랄게 뚜렷하지 않은 공룡과 고래들의 경쟁과 공방이 치열하다.  특히 금번의 발표는, 바로 ChatGPT 무료버전에 배포되었기 때문에, 여파가 클 것으로 보인다. 단순히, AI 프로덕트라서가 아니라 모든 어플리케이션에 대해서 말이다. 이들이 현시점 가장 고도의 기술이며,  ; 따라서 불편함을 .. 2024. 5. 15.
어설픈 기획자의 시선 : PRE-SIGNED S3 데이터 공유에서의 활용 나의 데이터와 컨텐츠를 어떻게 많이 표출시킬 수 있는가? 마케팅에서 영원히 해소되지 못할 숙제일 테고, 나 역시도 이 고민을 하는 사람 중에 한명이다. (나는 마케팅은 아니다만) 모두가 그러하듯, 나 역시, 매년 적지 않은 돈을 들여, 산소호흡기를 달듯이, 링거를 갈듯이, 플랫폼에 필요한 컨텐츠나 데이터를 만들고 가공한다. 이 분야의 가장 큰 문제는 KPI화 하기 어렵다는 점이고, 어쩌면 높은 히트수를 기록하면 위안이 되기 마련이다. 그렇다, 같은 자본이 투자되었다면 어떻게 히트수를 높일 수 있을까? 어떻게 나의 컨텐츠와 데이터를 노출 시킬 수 있을까 사내에 번잡스럽게 있는 중구난방의 플랫폼들, 그리고 그 플랫폼 마다의 룰을 지키면서 종속된 컨텐츠 또는 API로 전달하는 건 안되겠다 싶었다. 최근에, A.. 2024. 3. 1.
OpenAI Sora 발표와 편집의 변화 예상 AI 편집 도구를 통한 영상 편집 작업의 가속화 - 영상 편집 작업은 매우 세밀하고 많은 작업이 필요합니다. - AI 편집 도구를 사용하면 영상 편집 작업을 가속화할 수 있습니다. - AI 편집 도구를 사용하면 최종 결과물을 보면서 실시간으로 변경을 할 수 있어 생산성이 높아집니다. Sora의 수 많은 예시 중에서, 수정도 가능함을 예시로 보여주었다. 이는 시사하는 바가 매우 크다. 첫째, 부분을 터치업하는 작업들이 매우 가속화 될 수 있다. 오늘날, 카피라이터들이 AI를 통해 일차적으로 카피라이트 리스트를 발췌하여 수정하는 것처럼영상 편집 작업도 1차적으로 AI가 수정 후, 인간 작업자가 터치업을 마무리하는 것이 보편화 될 수 있다. 이런 편집 공수의 단축은 일차적으로 생각했을 때, 비디오 크리에이터의.. 2024. 2. 24.
어설픈 기획자의 시선 : GEMINI 1.5 PRO 발표 며칠 전 구글 Gemini 1.5 Pro가 발표되었습니다. 이전에 유럽 쪽 스타트업에서 MoE(Mixture of Experts) 방식의 LLM이 충분한 성능을 냈다는 발표에 이어, 구글의 GEMINI 1.5 PRO는 빅테크 회사 중 첫번째 사례가 되겠습니다. MoE는 특정 분야에서 전문성을 갖는 작은 파라미터 숫자의 LLM으로 LLM을 구성하는 방식입니다. 이에, 연산속도나 리소스 소모가 대폭 줄어 경제성이 대폭 올라갔다고 합니다, 구글 제미나이 1.5 프로에서 주목할 점은, 한 번에 처리할 수 있는 토큰 갯수가 대폭 올라갔다는 점입니다 기존 ChatGpt 4.0 대비 5배 정도 증가했다고 합니다, 이 정도 수치는 특정 언어의 사전과 문법책을 인풋으로 한 번에 받는 정도의 수준이라고 하는데, 가늠이 잘.. 2024. 2. 23.
반응형