hailo-inference/Uebergabe.md

Übergabe Hailo

• Raphael Maehnle
• Thomas Hamböck

Agenda

1. CVAT: Login, Data Import, Labeling, Data export
   1. Create a new Project; Important: Labels eintragen, möglichst in konsistenter Reihenfolge (zu anderen Projekten)
      1. Früher gab es nur Tasks => da war Labels konsistent halten aufwändiger; Anm.: Projects funktionieren zZ noch nicht stabil
      2. Anm.: Früher gab es ein Speicherproblem; Bilder blieben im RAM => häufigeres Seite neu laden sinnvoll
   2. Jobs: Aufteilung von Bildern auf annotierende Leute (User Assignment)
   3. Bilder annotieren: Tastenkürzel ("n" > neue Bounding Box, ...): https://openvinotoolkit.github.io/cvat/docs/manual/advanced/shortcuts/
   4. "..." > export as dataset > Yolo1.1
2. hailo setup for development (training)
   1. prerequisite: nvidia-docker
   2. clone hailo model zoo: https://github.com/hailo-ai/hailo_model_zoo
   3. download & run docker container "Hailo Software Suite (for Ubuntu 20.04)"
      1. note: volume mount is missing in the setup guide => will be required for importing data
3. Retraining Yolov5m
   1. Tutorial for yolov5 training https://github.com/hailo-ai/hailo_model_zoo/blob/master/docs/RETRAIN_ON_CUSTOM_DATASET.md
   2. dataset meta setup: http://192.168.0.63:8930/raphael.maenle/hailo_inference/-/blob/main/dataset/dataset/dataset.yaml labels aus CVAT nochmal in die liste übertragen, nc == len(names)
   3. from readme: docker run -it --gpus all -ipc=host -v /path/to/dataset/:/dataset yolov5:v0 based on https://github.com/hailo-ai/hailo_model_zoo/blob/master/training/yolov5/Dockerfile
   4. https://github.com/hailo-ai/hailo_model_zoo/blob/master/docs/RETRAIN_ON_CUSTOM_DATASET.md?plain=1#L183 epochs 3 ist etwas wenig; ~100 wäre besser --data => auf dataset
   5. Export to ONNX: https://github.com/hailo-ai/hailo_model_zoo/blob/master/docs/RETRAIN_ON_CUSTOM_DATASET.md?plain=1#L192 For visualisation: ONNX viewer, e.g.: https://github.com/lutzroeder/Netron
4. Yolov5 hailo quantisation + compile
   1. hailo_sw_suite_docker_run.sh => add -v as DOCKER_ARGS for volume mount in script
   2. network config: yolov5m.yaml
   3. do compile => includes quantize .hef => network bitstream
5. hailo setup for deployment (inference)
   1. HailoRT => setup für runtime
6. Inference