Commit 7e33bebf authored by Quan's avatar Quan

Add report week1

parents
Pipeline #813 canceled with stages
# BÁO CÁO #1 - 23-27/8
Author: **quannm23**
NHIỆM VỤ
- Tìm hiểu cách vận hành board **QCS8250**.
-- Nạp ứng dụng Android lên board, benchmark cho model **Home** trên QCS8250.
-- Cài docker chạy các benchmark của Qualcomm trên QCS8250 thông qua Android Debug Bridge (**adb**)
-- Tìm hiểu **Hailo 8 Evaluation Board** (nhiệm vụ phụ)
# Nguyên lý hoạt động:
- Platform : **Android OS** (QCS8250) - **Linux** (Hailo 8)
- Về mặt bản chất, cách sử dụng của QCS8250 không khác biệt so với QCS605. Có thể kế thừa lại các tài liệu và các mô hình trước kia. QCS8250 có một khối **AIP** mới, khối này có thể dễ dàng được gọi bằng cách setRuntimeOrder("NeuralNetwork.Runtime.AIP") trong Qualcomm SDK.
- **Hailo 8** là một module AI acceleration chạy trên nền tảng Linux. Bản thân nó cũng có một SDK đầy đủ. Hailo compile model dưới dạng riêng (.hn) để chạy trên nền tảng của nó.
## Kết quả benchmark QCS8250 dùng model RetinaFace:
- Sử dụng Android Studio mô phỏng ứng dụng nhận diện khuôn mặt sử dụng model Retinaface tương tự như model Home thu được kết quả như sau:
- AIP : 15ms
- DSP : 13ms
- GPU16 :17ms
- GPU : 20ms
- CPU : > 100ms
- Note: Chưa tìm được thông số benchmark trên chip QCS605. Cần hỏi thêm
## Kết quả benchmark QCS8250 trên Inception V3 ( theo doc của Qualcomm).
- Đã cài thành công Docker và chạy các bài test tương tự như đội miền nam và theo doc của qualcomm:
- AIP : 100 (inferences /sec)
- DSP : 84 (inferences /sec)
- GPU: 13 (inferences /sec)
- CPU: 4.45(inferences /sec)
- Note: Kết quả thấp hơn đội miền nam chút -> Xin file benchmark.
## Hailo Dataflow Compiler
- Luồng từ training tới deploy của Hailo. Model sau khi train sẽ được HailoSDK chuyển thành binary file để chạy trên chip Hailo.
![Hailo dataflow Compiler](https://i.ibb.co/Jz8kZ33/hailosdk.png)
## Hailo Dataflow Compiler
- Model sẽ được parse sang Hailo format, quantize , allocate cho hardware resource. Hailo cũng cung cấp performance profiler và chip emulator.
![Hailo Dataflow Compiler](https://i.ibb.co/YypctwR/hailodatacompiler.png)
## Hailo SDK build process
![Hailo SDK build process ](https://i.ibb.co/g6tpLPF/hailosdkbuild.png)
## Hailo Profiler và Resource Allocator
- Cung cấp ccong cụ đánh giá performance và allocate tài nguyên cho các layer khác nhau
## Nguồn tham khảo
- snpe_1.52.0_partner_release_notes
- QCS8250 benchmark - tunglt46
- Hailo Documents.
\ No newline at end of file
Markdown is supported
0% or
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment