AI 앱 workflow

  1. 데이터 수집(데이터엔지니어)
  2. 모델개발(머신러닝 엔지니어)
  3. 모델운영(백엔드 엔지니어)
  4. 어플/서비스

데이터 수집

  • 테크기업
    데이터 : 유저(로그, 이미지, 글)
    ex) 페이스북, 아마존, 애플, 넷플릭스, 구글
    데이터가 쌓이는 속도가 비교적 빠름

  • 비테크기업
    데이터 : 센서, 제품사진
    ex) 삼성, 현대, lg, sk

모델 개발과정

  1. 문제정의 : 어떤 질문에 어떤 답을 하는 챗봇을 만들까?
    평가지표설정 : 챗봇의 대답을 잘했는지 못했는지 어떻게 판단?

  2. 데이터수집 : 머신러닝, 데이터엔지니어의 소통 증가.
  3. ML 모델링
  4. 평가

결과 도출 시간

  • 오래걸리는경우 : 크랙테스트의 경우, 사람이 직접확인하며 라벨링을 해야해서 시간이 걸림
  • 문제가 있을경우 재학습까지 진행하는게 MLOPS의 역할

ML 옵스의 단계

-머신러닝 프로젝트 중 9%만이 실제 서비스에 적용된다.

  • lev 0 : 모델을 배포할수 있다.

  • lev1 : 파이프라인을 실행할수 있어, 정확도가 떨어지면 모델 재학습, 재배포 하는등 변동성에 대응(CT)

  • lev2 : 신규/  개선 IDEA적용 (사람의개입+CT) cicd

 

ML 모델을 사용할때 문제점들

 

  1. 개발
  2. 많은 사람 들이 모델을 사용할때 부하분산등 문제가 생김

  3. ml 옵스 투입으로 문제해결
  4. 데이터 사이언티스트의 기능 추가와, ml 옵스의 시스템의 충돌

 

+ Recent posts