AWS AI Practitioner 26 AI Responsibility

개요

Resposible AI & Security 

- Transparent & TrustWorthy 

- Mitigating Potential Risk & Negative outcomes

- Throughout whole AI lifecycle 

 

Governance 

- Add value / Manage risk  

-Clear Policies / guidelines / Oversight Mechanism 

  -> 법적 규제적 요구사항과 시스템을 얼라인하기 위해서 

 

Compliance 

- Adherence to Regulation And Guidelines

- Sensitive Domain ; 헬스케어 파이낸스 리갈어플라이언스 등 

 

Responsible AI 의 요소들 

- Fairness ; 포함을 촉진하고 차별을 방지함 

- Explainability 

- Privacy and Security ; 언제 정보가 사용되는지 확인 

- Transparency ; 

- Veracity and Robustness ; 비정상상황에서도 의존가능해야 

- Governance ; 

- Saftey ; 개인과 사회에게 안전해야 

- Controlability ;휴만 가치와 의도를 충족해야 

 

관련된 AWS Services 

- Amazon Bedrock ; 휴먼 / 자동화 모델 평가 

- Guardrails ; PII / 원하지 않는 토픽 차단 / 유해 컨텐츠 차단 / 필터링 

- SageMaker Clarify ; FM 정확도 및 강건성 체크  / 바이어스 감지 

- SageMaker Data Wrangler ; 바이어스 교정 -> 새로운 인스턴스를 생성해서 교정 

- SageMaker Model Monitor ; 품질 분석 

- A2I ; 휴먼 리뷰 

- Governacne ; 세이지메이커 롤 매니저 / 모델 카드 / 모델 대시보드 

 

AWS AI Service Cards 

- 책임있는 AI 문서 제공 

- 서비스에 대한 설명과 특징 소개

- 의도된 사용 사례와 한게
- 책임있는 AI 설계 선택들

- 전개와 퍼포먼스 최적화 베스트 예제 제시

 

Interpretability Trade-offs

- 원인에 대해서 사람이 얼마나 해석할 수 있는가? 

- Interpretability와 퍼포먼스는 반비례관계에 있다 

- 선형 회귀는 높은 인터프리빌리티와 낮은 퍼포먼스 // 뉴럴 네트웤은 낮은 인터프리빌리티와 높은 퍼포먼스

- Explainability ; 모델의 행동에 대한 예측 가능성 

   -> 모델의 세부 행동에 대해서는 알 필요 없이 인풋과 아웃풋을 예상할 수 있는가? 

 

PDP ; Partial Dependence Plots

- 한 개 특징이 어떻게 예측 결과에 영향을 끼칠 수 있는지

- 모델이 블랙박스일 때는 유용함

 

HCD - Human Centered Design 

- 사람의 필요성에 의한 시스템을 기획해라 

- 강화된 의사결정을 위해 디자인해라

  -> 리스크와 에러를 최소화 /

  -> 명확성 단순성 사용성을 디자인해라 /

  -> 유연성을 디자인해라 /

  -> 의존가능하게 디자인해라 

 - 바이어스 비편향적인 디자인 

 -> 인식하고 발견해야.. / 의사결정 자체는 바이어스로부터 자유롭게 

- 휴먼과 AI를 위한 디자인 

 -> AI 시스템이 휴먼을 통해 배울 수 있게 

 -> 개인화를 통해서 .. 극복 가능

 -> 사용자 중심 디자인