테크매니아

서론Edge AI를 3년동안 하면서 느낀 점을 짧은 글로 정리 하려고 한다.내가 처음 Edge AI를 할 때에는 AI(특히 딥러닝) 기술은 많이 알려져 있는데에 비해 이것을 Edge Device에 포팅하는 것에 대해서는 정보가 많지 않다. 이 글에서는 그동안 Edge AI를 하면서 느낀 여러 점들에 대해서 작성하고자 한다.인공지능 분야는 최근 크게 발전 해 수학, 통계, 컴퓨터를 두루 알아야 기초적인 공부를 시작 할 수 있는 복잡한 기술이 되었다. 또, 딥러닝 신경망 그 자체에 대한 연구도 급속도로 진행되면서 딥러닝 모델링 기술까지 요구되고 있다.특히 Edge AI는 임베디드, 운영체제, 소프트웨어, 심지어 NPU에 대한 이해까지 요구하고 있어 어려움을 많이 느꼈다. Edge AI에 입문하고자 하는 동..

개요Pytorch는 딥러닝 모델 개발에 널리 사용되는 프레임워크 입니다.Pytorch에서 개발된 모델을 배포 할 때 배포되는 패키지에 딥러닝 개발 프레임워크인 Pytorch를 몽땅 포함해서 배포 하는게 바람직한 일이 아닙니다.개발된 모델을 onnx로 바꾸거나 CPU, GPU, DSP, NPU에서 제공되는 SDK가 있다면 그것을 이용해서 배포할 수도 있습니다.이 글에서는 libtorch에 대해서 알아보겠습니다.libtorch 설치libtorch를 설치하는 방법에 대해서 설명합니다.libtorch는 이미 빌드된 바이너리가 공개되어 있기 때문에 일반적인 환경에서 바로 압축파일을 다운을수 있습니다.링크를 통해 GPU에서 빌드된 버전의 바이너리나 소스코드를 직접 받아서 빌드할 수 있습니다.wget https://..

개요LSTM은 Long Short-Term Memory으로 시계열 데이터 처리에 사용되는 레이어이다.공부하면서 만든 자료를 정리하고 공유 하고자 한다.RNNRNN의 경우 기울기 소실(Gradient Vanishing) 또는 폭주(Exploding)때문에 이를 보완하기 위해 고안된 것으로 알려져 있다.RNN의 활성함수 tanh의 결과가 너무 작거나 큰 값이 시퀀스를 진행 하면서 누적 됐을 때 기울기 소실(Gradient Vanishing) 또는 폭주(Exploding)가 발생 할 수 있다.음성인식이나 언어모델같이 시계열 데이터에서 사용되는데 특히 자료들은 언어 모델을 샘플로 많이 쓰고 있다.LSTM은 시계열 데이터를 잘 처리하기 위한 방법일 뿐 특정 영역에 국한되어 사용되는게 아니다.언어모델에서 입력이루 ..

개요얼굴 데이터셋인 CelebA 데이터셋을 쓰기 위해서 torchvision.datasets.CelebA을 사용할 때 file is not a zip file 오류가 발생하는 경우가 있다.상황 및 원인import torchvision.datasets as dsetdataset = dset.CelebA(".", split="train", download=True)download=True옵션으로 구글 드라이브를 통해서 파일을 다운 받는데 트레픽 때문에 오류가 발생한다.정해진 path에 가보면 파일이 있긴 한데, 열어보면 제대로 된 파일이 아니다..솔루션구글 드러이브를 통해 다운받는 파일은 아래 6개 이다.각 파일을 열어 보고 제대로된 내용을 확인하지 못했다면 구글 드라이브 트래픽 이슈일 가능성이 있다.img..

개요우분투 서버에서 뭔가(쉘스크립트 같은걸) 부팅 할 때마다 자동 실행 해야 하는 일이 있다.이럴 때 사용 하는게 service인데, 이걸 등록/추가 하는건 구글에 검색하면 언제나 나오기 때문에 기억하려 하지 않고 똑같은 구글링을 반복한다.파이썬 애플리케이션을 자동 서비스 등록하는 것에 대해 정리했다.sudo vim /etc/systemd/system/service-name.service[Unit]Description=DescriptionAfter=multi-user.target[Service]ExecStart=/usr/local/bin/service-name.shUser=user-nameStartLimitInterval=10RestartSec=10[Install]WantedBy=multi-user.ta..

2021-11-03 09:53:14 사건 발생사건 당일 아침, 현대카드 앱에서 알람이 왔다. 평소 구독 서비스를 많이 쓰고 있어서 카드를 직접 긁지 않아도 가끔 알람이 오곤 한다.몇 천 원 짜리 구독 서비스인줄 알았는데 금액이 2,718,528원이 찍혔다.사용한 적 없는 말도 안되는 금액이 찍혔다. '나도 모르게 인스턴스를 사놓고 안썼나?' 하는 생각에 aws 콘솔에 들어갔다.이번 달 청구서를 확인해 봤는데, 3.65달러. 4,359원 밖에 안썼다.내가 개인적으로 쓰는 AWS는 평균적으로 3천원 정도가 나가는게 정상이다.개인 계정 이외에는 외부 활동을 하면서 만든 aws 계정이 여러개 있어 모두 확인 해 봤지만 내가 쓴 게 아니다.뭔가 잘못된거 같다....2021-11-03 10:24:00 현대카드 그린..