Qwen2.5-Omni Fine-Tuning

[한윤지]

https://stingy-restaurant-40e.notion.site/Qwen2-5-Omini-Fine-tuning-3832480fddb180008641d145ac9f85fb?source=copy_link

Qwen2.5-Omini Fine-tuning | Notion

[신민서]

1. pc에서 훈련/추론 가능한지 확인
2. jetson에서 메모리 사용량 확인(훈련/추론시)
3. 마이크로 바로 연결이 되는지 확인
4. 모델 구조 파악 (블록도)

[한윤지]

1. jetson 보드를 jetpack 7.2로 업그레이드 후 파인튜닝 진행
2. jetson에서 추론
3. vLLM으로 경량화 후 추론 후 비교(경량화 전/후)