반응형
3월에 있었던 2가지 일에 대해 소개해드리고 합니다.
인공지능 개발자가 API개발이 필요할 때 보통 fastapi, flask를 사용합니다. 주로, 인공지능 모델을 이용한 분석 요청 서비스를 만듭니다. 문제는 분석 기능이 몇시간 이상 소요되는 긴 작업이 많았습니다. 그러므로, 사용자가 분석을 요청하면 응답을 몇 분안에 응답을 받지 않아서 tiemout이 발생했었습니다.
이처럼, 긴 시간이 걸리는 API 작업은, 작업을 백그라운드로 실행하고 바로 응답을 날려주는 것이 좋습니다. 그리고 작업이 끝나면 webhook방식으로 사용자에게 응답을 전송하면 됩니다.
백그라운드 실행은 여러가지 방법이 있는데, 인공지능 분석 서비스에서는 worker방식을 사용합니다. 대표적으로 파이썬에서는 celery가 있습니다. 가벼운 분석 서비스라면 쓰레드(fastapi에서는 background task)를 사용하면 됩니다.
반응형
'회고모음' 카테고리의 다른 글
| SK OOO AWS 프로젝트를 마치며 (0) | 2022.05.15 |
|---|---|
| 4월 2주차 회고 (0) | 2022.04.18 |
| facebook 쿠버네티스 밋업 회고 (2) | 2022.03.21 |
| 2월회고록 (0) | 2022.02.27 |
| 2022.1.10 ~ 16회고 (0) | 2022.01.16 |