* 작성자: 정현우 (GitHub) Introduction Annotation AI, Docker 최적화 사례 Annotation AI의 여러 서비스들은 의존성을 패키징하여 Docker 이미지로 만들어 배포하고 있습니다. 이번 글에서는 FastAPI를 이용한 Docker 이미지 최적화 경험을 예시로 소개하며, Docker 이미지를 최적화하는 방법에 대해 설명하겠습니다. 최적화하지 않은 초기 Dockerfile FROM python:3.8 RUN apt-get update && apt-get

* 작성자: 박진우 (GitHub) * GitHub: https://github.com/facebookresearch/segment-anything * Demo: https://segment-anything.com/demo * Blog: https://ai.facebook.com/blog/segment-anything-foundation-model-image-segmentation/ Motivation 최근 대규모의 언어 모델들은 놀라운 Zero-shot / Few-shot Generalization 성능을 보이고 있다. 이러한 Foundation Model들은 종종 Prompt Engineering을 통해 여러가지 Task에 대한 적절한 텍스트 응답을 생성해주는 능력을 보여주기도 한다.

* 작성자: 류원탁 (GitHub) gRPC 로드 밸런싱하기? Kubernetes에 공식블로그 중 인상적인 제목의 글이 있습니다. 바로 gRPC Load Balancing on Kubernetes without Tears글인데요. gRPC통신을 로드 밸런싱하기 위해서는 약간의 노력이 필요합니다. 우선 gRPC에 대해서 간략하게 알아보겠습니다. gRPC란 gRPC는 꾸준히 인기를 끌고 있는 프로토콜입니다. gRPC는 다음과 같은 기능을 제공합니다. * 11개 언어에 대해 클라이언트 라이브러리

* 작성자: 김경환 (GitHub) K3S? 많은 서비스에서 컨테이너 기반의 클러스터 구축 도구로 Kubernetes(이하 K8s)를 활용하고 있습니다. 최근 ML분야에서 사용되고 있는 K8s 기반의 MLOps 도구들(e.g. Kubeflow, Seldon Core)이 한 예시입니다. 그러나 Native K8s는 굉장히 무겁기 때문에 작은 규모의 인프라와 서비스에서는 적합하지 않습니다. 조금 더 가벼운 버전의 K8s

* 작성자: 박진우 (GitHub) GoCV? GoCV 패키지는 Computer Vision Library의 대명사인 OpenCV의 Golang 바인딩(bindings)를 제공한다. 2017년 10월 10일 v0.1.0 공개 이후 5년이 넘는 기간동안 꾸준히 업데이트가 이루어지고 있다. OpenCV 그룹의 공식 파이썬 패키지 OpenCV-Python가 2016년 9월에 첫 번째 릴리즈를 공개한 것을 감안하면 그 역사가 결코 짧지 않다고