분류 전체보기
MobileViT 논문 리뷰
ICML 2022에 accept된 Apple직원분들의 논문인 MOBILEVIT: LIGHT-WEIGHT, GENERAL-PURPOSE, AND MOBILE-FRIENDLY VISION TRANSFORMER 을 리뷰해보겠습니다! 1. Introduction MobileViT는 mobile과 같은 하드웨어의 자원이 제한된 곳에서 사용할 수 있도록 만든 작고(Light-weight) 빠른(low-latency) ViT(Visual Transformer) 모델입니다. 위와 같은 성능을 도출하기위해 MobileViT는 CNN과 ViT의 장점을 결합하였다고 합니다. CNN의 장점 spatial(local) inductive bias data augmentation에 덜 민감 ViT의 장점 input-adaptive..
EfficientNetv2 논문 리뷰
ICML 2021에 accept된 구글 논문인 EfficientNetV2: Smaller Models and Faster Training을 리뷰해보겠습니다! 1. Introduction EfficientNet의 후속모델로 EfficientNetv2는 기존 모델보다 다음과 같은 목적성을 이룰려고 하고 이루게 됩니다. More efficient Training time More efficient Parameter number More efficient Accuracy 실제로 아래그림은 EfficientNetv2의 결과인데 보면 위의 목적성을 모두 잘 이뤗네요. 역시 구글.. 그럼 EfficientNetv2의 어떤 contribution이 있었기에 이런 결과를 도출해냈을까요? (1) EfficientNet을 ..
TensorFlow.js (2) - WebGL 기반 hand pose detection
0. WebGL 기반 hand pose detection 오늘은 TensorFlow.js의 backend가 무엇이 있는 지 알아보고 사용가능한 backend 중 하나인 WebGL을 기반으로 hand pose detection을 해볼것입니다. hand pose detection만 하면 재미가 없으니 hand pose 에 따라 다음과 같이 이모티콘을 보여줄 수 있도록 해봅니다. 엄지를 위로 올리면 엄지척하는 이모티콘이 나오도록 하고 아래로 내리면 OMG하는 이모티콘을 나오도록 하겠습니다. 1. TensorFlow.js backend TensorFlow.js에는 다양한 backend가 존재합니다. 일단 backend란 모델 그래프의 연산들을 수행하는 내부적인 플랫폼이라고 이해하시면 됩니다. 그래서 어떤 bac..
TensorFlow.js (1) - TensorFlow.js 이해 및 detection 예제
1. TensorFlow.js 란?? TenosorFlow.js는 javascript를 기반으로 하여 웹환경에서 사용되는 머신러닝 라이브러리입니다. 1.1 TensorFlow.js의 특징 Web 기술과의 통합 TensorFlow.js는 javascript로 작성되므로 웹 브라우저에서 ML model을 별도의 수정없이 동작가능하게 해줌 ML 애플리케이션 배포에 용이 Web browser 상에서의 다수의 backend 지원 WebGL [GPU]: 웹 브라우저에서 GPU를 사용할 수 있게 해주는 표준 명세서로 GPU acceleration가능함. (3MB 이상의 ML모델에 적합) Web Assembly (WASM) [CPU]: CPU performance의 향상시킬수 있다는 특징. (3MB 이하의 ML 모델사..
Airflow (2) - DAG workflow 작성 및 실행
1. Workflow(DAG) 작성 및 실행 이제부터 직접 python을 통해 workflow를 DAG형태로 만들어보고 해당 workflow를 airflow에서 실행하고 이해해봅시다. airflow안에서 yolov5 model으로 inference하는 것을 목적으로 하겠습니다. 따라오시죠! 1.1 실행 환경 준비 실행 환경을 다음과 같이 셋팅합니다. airflow webserver 실행 (localhost의 8080포트로 연결) airflow webserver -p 8080 airflow scheduler 실행 airflow scheduler DAG file을 생성할 저장소 생성 (맥북 기준) cd ~/airflow/ mkdir dags 참고로 airflow.cfg 는 Airflow 관련 설정에 대한 파..
Airflow (1) - Airflow 이해 및 설치
0. Machine Learning pipelining (ML pipelining 필요성 및 동기에 대한 밑의 단락입니다 읽어보세용!) 기업에서 ML model을 서비스할 경우 정제되어 있는 데이터셋은 없으며, 주기적으로 라벨이 수정되거나 새로운 데이터가 끊임 없이 계속 쌓이거나 바뀌게 됩니다. 그때마다 새로 training dataeset을 구성해야 하며, validation set 또한 주기적으로 업데이트해야 할 것입니다. 또한, 좀 더 유저 경험을 고려한 새로운 evaluation metrics를 개발해야 하며 model serving이나 monitoring, data와 model의 버전 컨트롤까지 고려해야합니다. 그래서 data가 업데이트될 때마다, model이 변경될 때마다, error가 발생하..