본문 바로가기

분류 전체보기336

Delta 시즌 2 23년 12월, 처음 Delta를 시작할 때, 우리는 9명잉었다. 24년 7월 마지막 미팅에서, 우리는 6명으로 시작하여 5명으로 끝났다.내가 초청한 시니어께서 마지막 말을 남기며, 공식적으로 Delta에서 하차했기 때문이었다. 그렇게 9명에서 우리는 5명이 되었다.  나는 원래 인간이 인간의 가능성을 결정하는 것을 싫어한다.내가 나의 가능성을, 내가 타인의 가능성을,타인이 타인의 가능성을, 타인의 나의 가능성을심지어 타인이 타인 스스로의 가능성을 제한하고 결정하는 것조차 말이다 따라서, 지적이던 스킬이던, 어떤 지점에 오르는 것에 있어서개인마다 어려울 수는 있다고 생각하였으나, 불가능하다고 생각하지는 않았다.지금와서 이런 생각에 변함이 없느냐고 한다면, Delta 시즌1을 겪고 난 뒤, 여전히 많은 고.. 2024. 10. 8.
AWS AI Practitioner 13 Amazon Q QuickSight Amazon Q QuickSight데이터 시각화와 대시보드 AmazonQ는 자연어 명령을 알아들을 수 있고 -> 대시보드를 만들어준다 실용적 서머리QA를 할 수 있음 Gen image 기반 대시보드 형성  Amazon Q for EC2 EC2를 추천해줌 RQMT를 더해서 더 정확한 추천을 해줄 수 있음  Amazon Q for AWS Chatbot 슬랙이나 Teams에서 전개 가능함  PartyRock 코딩 없이 접근 간으함UI는 Amazon Q Apps와 유사함 2024. 10. 5.
AWS AI Practitioner 12 Amazon Q Apps / Developer Amazon Q Appss  자연어만 사용해서 AI app 만들 수 있음당연히 Amazon Q 데이터를 사용  Amazon Q Developer AWS 문서와 서비스 선택에 대해 답변 AWS 내에 있는 리소스에 대해서 답변 CLI 제시 분석  에러해결 트러블슈팅 AI 코드 컴패니언 IDE 확장 -> VSC VS JETBRAINS AMAZON Q Business에서 Amazon Q Apps 접근 권한을 갖게 되면아래처럼 Apps 메뉴를 통해 접근 가능하다우측 가장 큰 화면에서 이미 제작된 App을 테스트 가능하다 Customer Feedback Analyzer를 눌렀을 때 화면 변화다프롬프트로 이 App에대한 설명을 제공한다 생성하게 되면 아래와 같은 화면이 나온다우측 상단에서 Add cardㄹ를 통해서 .. 2024. 10. 4.
AWS AI Practitioner 11 Amazon Q 완전 관리형 GEN AI 어시스턴트 Company's Knowledge & Data 베이스 - 답변 요약 생성 자동하- 루틴 액션 수행  Data Connectors - 40+ enterprise data와 연결 가능 플러그인 - 3rd 파티 서비스 ; 지라 서비스나우 젠데스크 등 - 다른 서드 파티와도 연결 가능  IAM Identity Center- authentification을 책임- 다른 계정 시스템과 인테그레이션 가능  Admin Control - 가드레일 설정 가능- 예 / Block specific words or topics - 예 / Allow only internal data referred - 글로벌 컨트롤 & 토픽 레벨 컨트롤 전부 가능  Amazon Q business에서 어플리.. 2024. 10. 4.
AWS AI Practitioner 10 Prompt Engineering Techniques Zero Shot Prompting -> 직접 FM에게 묻는 방식  Few Shots Prompting -> 몇 가지 예시를 제시하고 FM에게 묻는 방식  CoT (Chain of Thouths)-> 시퀀스를 만들어서 FM이 작성하게 하는 방식  RAG -> 외부 데이터 소스를 통해 풍부한 답변을 만드는 방식   Prompt Templates -> 프롬프트 템플릿을 채우는 방식으로 인풋을 받아서    답변을 완성하게 할 수 있다 Prompt template injections -> 막는 법 ; 이런 시도를 막는 명료한 지시를 입력하는 것으로 막을 수 있다 2024. 10. 4.
AWS AI Practitioner 9 Prompt Engineering Overview 프롬프트 엔지니어링 태스크 Instruction Context Input dataOutput indicator  Enhanced Prompt - 위의 4가지 + Example Output  Negative Prompting - 명시적으로 포함하지 말 것을 정하는 것Prompt Optimization- System Prompt  ; 모델이 어떻게 행동하고 대답할지에 대한 - Temp ; Creativity를 나타냄  0~1 - TopP ; 상위 xx%에 해당하는 단어를 선택   -> Top P를 줄임으로써 다양성을 줄이고 이해가능성을 높일 수 있음 - TopK ; 고려 가능한 단어의 갯수  -> Top K를 늘릴 수록 다양하고 창의적이어짐 - Length ; 최대 길이 - Stop Sequence ; 모델.. 2024. 10. 4.
AWS AI PRACTITIONER 7 CloudWatch와 Bedrock CLOUDWATCHModel Invocation logging  - 아마존 클라우드 워치와 S3로 모들 호출 로그를 전송  - 텍스트 이미지 임베딩을 포함  - CLOUDWATCH LOGS 를 통해 분석 알림 CLOUDWATCH METRICS  - 메트릭 배드락에서 생성해서 클라우드워치로 발행 - 클라우드워치 알람 생성 가능   -> 예 ) 가드레일에 걸렸을 때 트레시홀드를 넘어설 때     Bedrock에서, 맨 밑의 설정을 통해 접근한다 그러면 이렇게 로깅에 대한 설정을 지정할 수 있다.S3/CWL만/S3+CWL 동시에 저장 3가지 옵션 타입이 있다 S3를 포함할 경우 경로만 입력해주면 되므로,CloudWatch Logs만으로 진행해보려 한다 보면, 로그 그룹이름과 서비스 역할 이름을 설정해야 한다지.. 2024. 10. 3.
AWS AI PRACTITIONER 8 Bedrock 다른 기능 아마존 배드락 다른 기능  배드락 스튜디오 -> 팀이 더 쉽고 어플 빠르게 생성하게 한느 것  워터마크 디텍션 -> 타이탄에 의해 생성된 이미지를 검증  배드락 프라이싱 - 온디맨드  - 배치 -> 한번에 여러 예측 가능 50% 절감 - 프로비전드 스루풋 -> 특정 기간에 맞는 가격 / 최대 분당 처치량 있음  - 베이스 모델 / 파인튠 / 커스텀 모델  모델 임프루브먼트 테크닉 코스트 오더  1 프롬프트 엔지니어링 2 RAG 3 지도학습 베이스 파인튜닝 4 DOMAIN ADAPTATION파인튜닝  베드락 코스트 세이빙 - 온디맨드 예측 불가능의 워크로드 / 단기간  - 배치 - 50% 절감 / 좀 기다려야 함  - 프로비전드 스루풋 비용절감 없음 / 용량에 대한 리저빙만 된다고 보면 됨  - 온도 / .. 2024. 10. 3.
AWS AI Practitioner 6 RAG 핸즈온 S3 버킷 생성 S3 데이터 업로드  Bedrock 지식 기반 UI를 눌러서 지식기반을 생성한다 -> S3 연결- DB는 AWS걸 선택하면 OpenSearch Serverless가 Default- 외부 DB 선택도 가능하다 (OpenSearch는 동작하는 동안 과금되므로) 전부 생성하면 아래와 같이 나온다 이때, 데이터 소스를 동기화해야, OpenSearch와 소스DB가 동기화되어벡터 DB가 생성된다  OpenSearch에 들어가서, 대시보드를 살피면 새로운 DB가 생성됨을 확인 가능하다  이름을 클릭하여, 해당 벡터 DB의 정보를 참조 가능하다 인덱스가 아마 주요한 포인트일텐데 잘 보면 총 문서 5개에 벡터필드 1개임을 볼 수 있다 이전 화면에서 대시보드를 눌러서 해당 벡터 DB의 상세한 내용을 볼 수.. 2024. 10. 1.
반응형