AI 앱 workflow
- 데이터 수집(데이터엔지니어)
- 모델개발(머신러닝 엔지니어)
- 모델운영(백엔드 엔지니어)
- 어플/서비스
데이터 수집
- 테크기업
데이터 : 유저(로그, 이미지, 글)
ex) 페이스북, 아마존, 애플, 넷플릭스, 구글
데이터가 쌓이는 속도가 비교적 빠름 - 비테크기업
데이터 : 센서, 제품사진
ex) 삼성, 현대, lg, sk
모델 개발과정
- 문제정의 : 어떤 질문에 어떤 답을 하는 챗봇을 만들까?
평가지표설정 : 챗봇의 대답을 잘했는지 못했는지 어떻게 판단? - 데이터수집 : 머신러닝, 데이터엔지니어의 소통 증가.
- ML 모델링
- 평가
결과 도출 시간
- 오래걸리는경우 : 크랙테스트의 경우, 사람이 직접확인하며 라벨링을 해야해서 시간이 걸림
- 문제가 있을경우 재학습까지 진행하는게 MLOPS의 역할
ML 옵스의 단계
-머신러닝 프로젝트 중 9%만이 실제 서비스에 적용된다.
- lev 0 : 모델을 배포할수 있다.
- lev1 : 파이프라인을 실행할수 있어, 정확도가 떨어지면 모델 재학습, 재배포 하는등 변동성에 대응(CT)
- lev2 : 신규/ 개선 IDEA적용 (사람의개입+CT) cicd
ML 모델을 사용할때 문제점들
- 개발
- 많은 사람 들이 모델을 사용할때 부하분산등 문제가 생김
- ml 옵스 투입으로 문제해결
- 데이터 사이언티스트의 기능 추가와, ml 옵스의 시스템의 충돌