본문 바로가기

반응형

AI/Nvidia

(20)
[ NVIDIA ] python에서 cuda를 사용할 수 있는 지 확인하기 Jetson Orin Nano (Jetson 시리즈)는 NVIDIA GPU를 내장하고 있어서,Python에서 GPU가 제대로 인식되고 사용 가능한지 확인하는 방법은 몇 가지가 있습니다.아래는 상황별로 가장 정확하고 쉬운 방법들입니다.1. torch (PyTorch)로 GPU 사용 여부 확인Jetson은 NVIDIA의 CUDA 기반이라 PyTorch에서 확인하는 게 가장 간단합니다.import torchprint("CUDA 사용 가능 여부:", torch.cuda.is_available())if torch.cuda.is_available(): print("GPU 이름:", torch.cuda.get_device_name(0)) print("GPU 개수:", torch.cuda.device_cou..
[ NVIDIA ] DeepStream - 간단하게 동영상 파일 분석해 보기 DeepStream을 아주 간단하게 테스트해볼 수 있는 예제를 아래에 소개드립니다.이 예제는 Jetson Orin Nano 기준이며, DeepStream SDK가 설치된 환경에서 샘플 영상을 사용한 객체 감지 예제입니다.1. 목표DeepStream 기본 앱인 deepstream-test1을 실행해서 YOLO 또는 ResNet 기반 객체 인식이 동작하는지 확인2. 준비 사항DeepStream SDK 설치예: JetPack 6.0 이상 + DeepStream 6.4설치 경로는 보통 /opt/nvidia/deepstream/확인:dpkg -l | grep deepstream샘플 동영상 준비cp /opt/nvidia/deepstream/deepstream/samples/streams/sample_720p.h26..
[ NVIDIA ] DeepStream 일반적인 구조와 용도 NVIDIA DeepStream(정식명칭: NVIDIA DeepStream SDK)은 NVIDIA가 제공하는 실시간 영상 스트리밍 분석(Real-time Video Streaming Analytics) 플랫폼입니다.간단히 말해, 카메라나 동영상 스트림에서 객체 인식, 추적, 분석 등을 GPU 가속으로 처리하기 위한 SDK입니다.1. 핵심 목적DeepStream은 다음과 같은 목적을 위해 만들어졌습니다:영상 기반 AI 분석 파이프라인 구축CCTV, 드론, 차량 카메라, IoT 카메라 등에서 들어오는 영상을 실시간으로 분석합니다.예: 사람, 차량, 얼굴, 번호판 인식 등.멀티 카메라 스트리밍 처리여러 개의 카메라 스트림을 동시에 GPU에서 병렬 처리할 수 있습니다.Jetson Orin 시리즈나 A100, L..
[ NVIDIA ] DeepStream을 이용해야 하는 경우 알아 보기 PyTorch로 개발→ ONNX로 export→ TensorRT로 변환 (예: trtexec 또는 TensorRT Python API 이용)→ DeepStream에서 실행하거나,→ Pure TensorRT로 inference 실행 1. 결론: DeepStream은 선택 사항이며, 필수는 아닙니다TensorRT 엔진(.engine 파일)을 생성한 이후에는 다음 두 가지 방식 중 하나로 실행할 수 있습니다:1. DeepStream으로 실행.engine 파일을 DeepStream의 nvinfer 플러그인에 넣어 실행 가능예: deepstream-app, deepstream-python, deepstream-nvdsinfer 등장점:GStreamer 기반 영상 처리 전체 파이프라인 통합멀티 스트림, 멀티 모델 ..
[ NVIDIA ] DeepStream 이해하기 NVIDIA DeepStream(정식명칭: NVIDIA DeepStream SDK)은 NVIDIA가 제공하는 실시간 영상 스트리밍 분석(Real-time Video Streaming Analytics) 플랫폼입니다.간단히 말해, 카메라나 동영상 스트림에서 객체 인식, 추적, 분석 등을 GPU 가속으로 처리하기 위한 SDK입니다.🎯 핵심 목적DeepStream은 다음과 같은 목적을 위해 만들어졌습니다:영상 기반 AI 분석 파이프라인 구축CCTV, 드론, 차량 카메라, IoT 카메라 등에서 들어오는 영상을 실시간으로 분석합니다.예: 사람, 차량, 얼굴, 번호판 인식 등.멀티 카메라 스트리밍 처리여러 개의 카메라 스트림을 동시에 GPU에서 병렬 처리할 수 있습니다.Jetson Orin 시리즈나 A100, L..
[ NVIDIA ] Holoscan과 DeepStream의 차이는? Holoscan과 DeepStream은 둘 다 NVIDIA에서 개발한 AI 비전 파이프라인 프레임워크이지만, 목표, 사용자 대상, 기술 스택, 확장성 면에서 차이가 큽니다.✅ 1. 목적과 사용 대상항목 Holoscan vs DeepStream목표의료, 산업용 실시간 센서 데이터 처리 (multi-modal stream, ultrasound, microscopy 등)실시간 비디오 분석 (CCTV, 스마트시티, 차량 등)대상 사용자고급 연구자, 의료 AI, Edge AI 개발자산업용 CCTV 분석, 리테일 분석, 트래픽 모니터링 등지원 HWJetson, x86, Holoscan Dev KitsJetson, x86 (GPU 가속 기반)포커스스트리밍 데이터 분석 + 멀티모달 센서 처리카메라 영상 기반의 객체 탐..
[ NVIDIA ] 초 간단하게 ONNX > Tensorrt 테스트 해보기 TensorFlow나 PyTorch 없이 ONNX 모델을 만들고 TensorRT로 변환하여 실행하는 간단한 예제를 작성해 보겠습니다.이 예제에서는 onnx 모델을 수동으로 생성한 후, 이를 TensorRT로 변환하여 실행하는 과정입니다. 이 과정에서 필요한 주요 단계는 ONNX 모델 생성, TensorRT 변환, 그리고 모델 실행입니다. 1. NVIDIA Docker Image 사용하기 docker pull nvcr.io/nvidia/l4t-tensorrt:r10.3.0-develdocker run -it --name atlas5 --runtime nvidia nvcr.io/nvidia/l4t-tensorrt:r10.3.0-devel bash 2. ONNX 모델 생성간단한 수학적 연산을 수행하는 ONN..
[ NVIDIA ] YOLO + StrongSORT 조합으로 객체 인식하고 추적하기 YOLOv8 nano + StrongSORT 조합을 사용하여MP4 또는 웹캠 영상에서 객체 탐지각 객체에 고유 ID 부여 (추적)실시간으로각 객체의 현재 위치이동 방향(벡터)ID별 라벨을영상 위에 표시1. 설치해야 할 라이브러리pip install ultralytics opencv-python supervision lap cython bbox numpypip install git+https://github.com/mikel-brostrom/Yolov5_StrongSORT_OSORT.gitYolov5_StrongSORT_OSORT는 StrongSORT를 YOLO와 연동해주는 강력한 오픈소스입니다.2. 사전 준비▶ YOLOv8 nano 모델 다운로드Ultralytics의 경량 모델:from ultralyti..

반응형