(특강) 이활석 - 서비스 향 AI 모델 개발하기

서비스 관점에서 AI 개발이란?

1. 학습 데이터 셋 준비

보통 실무에서는 학습 데이터 셋이 명확하게 주어지지 않는다. 그렇기에 학습해야할 데이터 셋에 대한 종류 등에 대한 정보를 서비스 기획팀과의 질의응답을 통해 구체화하여야 한다.

위와 같이 실제로 데이터 셋을 준비하기 위해서는 수많은 고려사항들과 처리해야할 작업들이 존재한다.

2. 테스트 데이터셋 / 테스트 방법

3. 모델 요구사항 도출

모델을 설계함에 있어 요구되는 조건들이 발생한다. 예를 들어 처리시간아니 정확도 정도등을 고려하여야 하며 이런 부분을 향상시키기위해 장비를 늘리거나, 처리시간을 줄이거나, 모델크기를 줄이는 방법이 있다.

서비스 향 AI 모델 개발 기술팀의 조직 구성

Modeler

• AI 모델 구조 제안

• AI 모델 성능 분석/디버깅

Data Curator

• 학습데이터 셋 준비

  • 외주업체 대응

  • 작업 가이드 문서

  • QnA 대응

• 정량평가 수립

• 정성평가 수립

IDE Developer

• 라벨링 툴 개발

• 모델 분석 툴 개발

• 모델 개발 자동화 파이프라인 개발

Model Quality Manager

Model Engineer

• Model Serving 부분

• Mobile에서 구동하기 위해

  • Pytorch -> tensorflow -> TFLite로 변환

• GPU SERVER에서 구동하기 위해서

  • Pytorch -> tensorflow -> TensorRT로 변환

• 각 툴킷에서 지원하는 operation으로만 모델 구조 변경하여 재학습하거나 custom Layer 구현

• 메모리를 줄이기 위한 Lightweight(경량화) 작업

  • Distillation, Quantization

  • gpu 고속처리를 위해 CUDA programming

• 아예 모든 연산을 C++/C로 변

APP Developer