(특강) 오혜연 - AI Ethics

AI 모델링에서 발생할 수 있는 윤리적인 문제에 대한 특강

Bias Metrics

학습 데이터의 Bias로 인해 차별적인 모델이 만들어 질 수 있다.

예를 들어 백인이 주로 사용하는 이름과 긍정적인 단어가 매핑이 많이 되는 반면 흑인이 주로 사용하는 이름에는 부적적인 단어가 많이 매핑되는 현상을 볼 수 있다.

Privacy

코로나로 인해 QR코드를 찍거나 APP을 설치하여 누구를 만나고 어디를 갔는지에 대한 감시를 함으로써 개인 프라이버시의 침해에 대한 문제가 있다.

AI 기술의 문제라기보다 정보화시대의 이슈가 아닌가 싶다

Social Inequality (사회적 불평등)

AI 기술의 적응으로 보험 가입, 채용, 법적 결정 등에 있어 인해 나이, 성별, 인종, 종교, 학력 등에 대해서 불평등을 일으킬 수 있다.

AI 기술로 인해 이득을 취할 수 있는 층이 오히려 소수가 된다.

• Who benefits?

  • Those with knowledge and skills or access to skills in AI

  • Large corporations with many resources

• Who gets harmed?

  • Individuals with little knowledge/access

  • Small corporations, schools, organizations with lack of resources

  • Minority groups

  • People in low-protection jobs

Misinformation

• 잘못된 기사의 전달 (AI가 만들어 낸 기사)

• deepfakes 얼굴 이식 기술

위와 같은 문제로 인해 Manipulation Detection이라는 가짜 정보에 대해 검증해내는 기술이 생기고 있다.

• identity detection

  • facebook에서의 좋아요나 게시글을 통해 성향을 분석할 수 있다.

AI for Health / Environment

AI 기술을 활용한 건강문제를 해결하거나 기후변화, 에너지 절약 등의 분야에 활용이 가능하다.