20250418-동적 배치를 이용한 모델 변환-심승빈

[bert13069598]

동적 배치를 이용한 모델 변환

1. 연구 일자

2025-04-18

2. 연구 참여자

• 심승빈

3. 연구 목표

• 다이나믹 배치를 통한 배치 입력 최적화

4. 연구 내용 및 수행 과정

• 기존에 정적 배치별로 변환하던 것을 동적 배치로 변환 후 입출력 확인

5. 결과 및 분석

input

name: images
tensor: float32[batch, 3, height, width]

output

name: output0
tensor: float32[
    batch,
    6,
    (H1 * W1) + (H2 * W2) + (H3 * W3)
]

3개의 피처맵(=head output) 을 모두 flatten해서 concat한 형태

H1 = floor(floor(floor(height / 2 - 0.5) / 2) / 2) + 1  # stride=8
W1 = floor(floor(floor(width  / 2 - 0.5) / 2) / 2) + 1

H2 = floor(floor(floor(floor(height / 2 - 0.5) / 2) / 2) / 2) + 1  # stride=16
W2 = floor(floor(floor(floor(width  / 2 - 0.5) / 2) / 2) / 2) + 1

H3 = floor(floor(floor(floor(floor(height / 2 - 0.5) / 2) / 2) / 2) / 2) + 1  # stride=32
W3 = floor(floor(floor(floor(floor(width  / 2 - 0.5) / 2) / 2) / 2) / 2) + 1

6. 향후 연구 계획

• 추론 코드에 적용하여 메모리, 속도 향상 확인

7. 첨부 파일/자료 링크