콘텐츠로 이동

모바일 하드웨어 AI 추론 성능 리서치

작성: mobile-hw-researcher 조사일: 2026-05-15 대상: 실시간 식물 병 진단 (카메라 라이브 프리뷰 + 온디바이스 이미지 분류) 타당성


결론: 조건부 가능. 2020년 이후 출시된 중급 이상 스마트폰은 MobileNetV3 / EfficientNet-Lite 급(2~16 MB) 식물 분류 모델을 30 fps 실시간 추론할 수 있는 충분한 NPU 성능을 갖추고 있다. 다만 (1) 20202021년 저가형 칩셋(Snapdragon 6xx, Helio G 시리즈)에서는 15 fps 이하로 떨어지고, (2) 카메라 라이브 프리뷰와 연속 추론을 510분 이상 동시 구동 시 thermal throttling이 발생하며, (3) iOS 4 GB RAM 기기에서는 **Jetsam per-process 한계(~2 GB)**가 모델 + 카메라 버퍼 동시 운용에 제약이 된다.

최소 권장 사양: iPhone XR/SE2 (A12 이상, 2018+) / Android Snapdragon 730G·Dimensity 720 이상 (2020+) 기기. 이를 기준으로 하면 2026년 5월 현재 약 80~85%의 활성 스마트폰에서 쾌적한 실시간 진단이 가능하다(추정).


칩셋출시 연도탑재 모델NE TOPSMobileNetV2 추론 (ms, 실측 추정)비고
A12 Bionic2018iPhone XS/XR, SE25 TOPS~25 ms8-core NE 첫 세대
A13 Bionic2019iPhone 116 TOPS~15 msNE + AMX 추가
A14 Bionic2020iPhone 1211 TOPS~7 ms16-core NE 도입
A15 Bionic2021iPhone 13 / SE315.8 TOPS~5 ms16-core NE 개선
A16 Bionic2022iPhone 14 Pro17 TOPS~4 ms4 nm
A17 Pro2023iPhone 15 Pro35 TOPS~2 ms3 nm, 2x 점프
A18 / A18 Pro2024iPhone 16 시리즈35 TOPS~1.7 msApple Intelligence 최적화 (~15% ↑)
A19 / A19 Pro2025iPhone 17 시리즈35+ TOPS~1.5 ms (추정)A19 Pro는 GPU에 Neural Accelerator 추가

출처: Apple Wiki/Fandom, Wikipedia (A17 Pro / A18), Notebookcheck (A19 Pro), MachineThink “Faster neural nets”. MobileNetV2 추론 시간은 freedomtan/glDelegateBenchmark 및 MachineThink 데이터에서 추출.

핵심 관찰:

  • A14 (iPhone 12) 이후 16-core NE 체제가 자리잡으며 MobileNet급은 300 FPS 이상 가능 — 30 fps 카메라 프리뷰 부담 거의 없음.
  • A12/A13(=iPhone XR/11)도 15~25 ms로 30 fps 충분.
  • **iPhone SE 2nd Gen (A13, 2020)**까지가 “쾌적 진단” 하한선으로 적합.
  • Core ML + Vision 프레임워크는 자동으로 NE/GPU/CPU에 디스패치하며, 개발자가 MLComputeUnits.cpuAndNeuralEngine만 지정하면 됨.
  • TFLite의 Core ML Delegate도 MobileNet/Inception V3에서 최대 14× 가속 보고 (TensorFlow Blog, 2020).
  • 카메라 라이브 피드 (AVCaptureSession 30 fps) + Vision 추론: A14 이상에서 frame drop 없음 (실제 앱 사례 다수).
기기총 RAM앱 Foreground 한계 (Jetsam)비고
iPhone XR/SE2 (4GB)4 GB1.82.0 GB4 GB 기기 다수 보고
iPhone 12/13 (6GB)6 GB3.03.3 GB
iPhone 14/15 Pro (6/8GB)6/8 GB3.55.5 GB
iPhone 16 Pro (8GB)8 GB~5.5 GB+Apple Intelligence 위해 8GB 의무화
Increased Memory Limit Entitlement+수백 MB 추가 가능iOS 15+ 신청 시

출처: Apple Developer Forums (iOS Memory Limits), home-assistant/iOS Issue #4475, machinelearning.apple.com.

식물 진단 앱 관점:

  • MobileNetV3 (2~5 MB) + EfficientNet-Lite (16 MB) 모두 한계 대비 매우 여유 있음.
  • 위험 요소는 모델보다 카메라 버퍼 + 텍스처 + UI의 누적 사용량. AVCaptureVideoDataOutput 픽셀 버퍼 풀 관리 필요.

SoC출시NPU TOPSMobileNetV2 INT8 추론 (ms, 추정)등급
Snapdragon 855 (Hexagon 690)2019~7 TOPS~20 ms (NNAPI)구 플래그십
Snapdragon 865 (Hexagon 698)202015 TOPS~10 ms플래그십
Snapdragon 888 (Hexagon 780)202126 TOPS~6 ms플래그십
Snapdragon 8 Gen 12022~27 TOPS~5 ms플래그십
Snapdragon 8 Gen 22023~52 TOPS~3 ms플래그십
Snapdragon 8 Gen 32024~73 TOPS~2 ms플래그십
Snapdragon 8 Elite (Gen 4)2024 Q4~80+ TOPS~1.5 ms최신 플래그십
Snapdragon 7 Gen 12022~12 TOPS (추정)~12 ms준플래그십
Snapdragon 6 Gen 12024~6 TOPS (추정)~20 ms미들레인지
Snapdragon 695 5G2022~3 TOPS (추정)3550 ms (CPU/GPU fallback)보급형
Snapdragon 4 Gen 22023NPU 없음 또는 매우 약함80120 ms (CPU only)저가형

출처: Qualcomm Hexagon Wikipedia, Notebookcheck, Embedl Hub, Tensorflow GitHub Issue #28283 (Snapdragon 660 실측: 70 ms CPU / 170 ms NNAPI — quantized MobileNetV1). Snapdragon 695의 NPU TOPS는 비공개; 6 Gen 1 동급으로 추정.

SoC출시NPU TOPS비고
Exynos 9902020~10 TOPSGalaxy S20/Note 20
Exynos 21002021~26 TOPSS21
Exynos 22002022~3 TOPS (실측 보고)S22, 발열 이슈
Exynos 24002024~17 TOPS (공식) / 14.7× Exynos 2200S24
Exynos 2500 (예상)2025~30 TOPS+

출처: Notebookcheck Exynos 2400, samfw.com, Beebom (Exynos 2400 vs Snapdragon 8 Gen 3). Exynos 2400 AI 점수는 AITuTu 등에서 Snapdragon 대비 매우 낮게 측정되는 경우가 있어 드라이버 성숙도에 차이 있음.

SoC출시APU TOPS등급
Dimensity 12002021~6 TOPS플래그십
Dimensity 90002022~17 TOPS플래그십
Dimensity 92002023~26 TOPS플래그십
Dimensity 9300 (APU 790)2023 Q43348 TOPS (생성 AI 8× 강화)플래그십
Dimensity 94002024~50+ TOPS플래그십
Dimensity 83002024~16 TOPS (추정)준플래그십
Dimensity 7050 / 6020202335 TOPS미들레인지
Helio G99 / G882022NPU 없음저가형

출처: Androidauthority “Dimensity 9300 explained”, Nanoreview/Cpu-monkey 벤치마크. APU 790은 INT8/FP16 양쪽 모두 두 배 처리량.

  • Dalvik per-app 하드 heap 한계는 디바이스 RAM 따라 128 MB ~ 512 MB가 일반적 (ActivityManager.getMemoryClass()).
  • android:largeHeap="true" 선언 시 **512 MB ~ 1 GB+**까지 확장 (디바이스별 상이).
  • Native(C/C++) 메모리는 Dalvik heap에 포함되지 않음 → TFLite/Mediapipe의 텐서는 native 영역 사용. 따라서 모델 자체로는 heap 압박 적음.
  • 카메라 프리뷰(YUV 1080p 6 MB/frame) + 분류 모델(16 MB) + UI = **앱 RSS 200400 MB** 수준이 보통.
  • Android 2024+ 미들레인지는 8 GB가 표준 → 충분. 2026년 RAM 공급난으로 일부 보급형이 4~6 GB로 회귀 가능성.

출처: Android Developers “Manage your app’s memory”, Nutrient blog.


3.1 카메라 + 추론 동시 처리 가능 여부

섹션 제목: “3.1 카메라 + 추론 동시 처리 가능 여부”
기기 등급30 fps 카메라 + 30 fps 추론비고
iPhone 12+ (A14+)가능 (frame drop 0)NE 부담 < 10%
iPhone XR/SE2 (A12)가능 (소수 frame drop)모델 크기 5 MB 이하 권장
Snapdragon 865+/Dimensity 9000+/Exynos 2100+가능NNAPI 또는 QNN/Hexagon delegate 사용 시
Snapdragon 7 Gen 1 / Dimensity 8200가능 (15~25 fps 추천)30 fps 시 thermal 위험
Snapdragon 6 Gen 1 / Dimensity 7050부분 가능 (10~15 fps)매 2~3 프레임마다 추론
Snapdragon 695 / 480어려움 (5~10 fps 한계)추론 별도 스레드 + 결과 캐싱 필요

실용 전략: 실시간 진단은 30 fps 카메라 + 5~10 fps 추론(매 3~6 프레임마다 분류) 조합이 일반적. 정확도 영향 없이 발열·배터리 50%+ 절감.

  • 공통 패턴: SoC가 수 초간 burst → 코어 클럭/주파수 강제 강하 (Xda-developers).
  • 연속 추론 임계:
    • 플래그십 기기: 카메라+추론 동시 약 8~12분 후 throttling 시작 (체감 30%~50% 추론 속도 감소).
    • 미들레인지: 3~5분 후 throttling.
    • 보급형: 1~2분 후 throttling 또는 카메라 자체가 해상도 강하.
  • 완화책: (1) INT8 양자화로 NPU 사용 → CPU/GPU 대비 발열 1/3, (2) 추론 인터벌 조절, (3) 사용자에게 진단 완료 시 카메라 일시 정지 안내.
시나리오1시간 배터리 소모 (4000 mAh, 추정)
화면만 켜기4~6%
카메라 라이브 프리뷰만12~18%
카메라 + 30 fps NE/NPU 추론18~28%
카메라 + 30 fps GPU 추론 (NNAPI 폴백)25~40%
카메라 + 30 fps CPU 추론35~60% (발열로 자동 throttle)

출처: AR/AI 백그라운드 처리 보고에 따르면 지속 AI 카메라 처리가 300~600 mW 연속 소모 (alibaba/insights). The Register (2017) ARKit “incredible battery hog” 보고. Apple Intelligence 활성화 시 iPhone 15 Pro 비활성 3~4시간에 17% 소모 (gadgethacks).

실용 함의: 식물 진단 앱은 1회 진단당 5~15초 사용으로 설계해야 배터리 부담 무시 가능. 10분 연속 진단 시 약 3~5%p 소모 — 사용자 체감 가능 수준이지만 일반적.


칩셋대표 기기식물 분류 적합성
Snapdragon 480/4 Gen 2갤럭시 A13/A15어려움 (CPU only, 80~120 ms)
Snapdragon 695갤럭시 A23, Redmi Note 11 Pro조건부 (GPU delegate 3550 ms, 510 fps)
Dimensity 700/810Redmi Note 10/11 5G조건부 (40~60 ms)
Helio G88/G99Redmi 10/12어려움 (NPU 없음)
Snapdragon 730G/750G갤럭시 A52, Pixel 5a양호 (15~25 ms)
Apple A12 / A13iPhone XR, SE2, iPhone 11양호 (15~25 ms)
Apple A14 / A15iPhone 12, SE3우수 (<10 ms)

4.2 지원 가능 기기 비율 추정 (2026년 5월 활성 기기 기준)

섹션 제목: “4.2 지원 가능 기기 비율 추정 (2026년 5월 활성 기기 기준)”
  • iOS: A12 이상 = iPhone XR/XS 이후 → 활성 iPhone의 ~95% 지원.
  • Android: 활성 기기 중 Snapdragon 730/Dimensity 720 이상 비율은 ~75% (StatCounter / IDC 2024~2025 자료 종합).
  • 전체 스마트폰 시장: Android 점유 ~78%, iOS 20% → 가중 평균 **약 8085%**에서 쾌적한 실시간 진단 가능.
  • 나머지 1520%(보급형 Android, NPU 없음)는 단발 진단 모드(사진 1장 → 1~3초 분석)로 폴백 권장.

5. 최소 지원 기기 요구사항 (권장)

섹션 제목: “5. 최소 지원 기기 요구사항 (권장)”

권장 최소 사양 (실시간 30 fps 진단)

섹션 제목: “권장 최소 사양 (실시간 30 fps 진단)”
  • iOS: iPhone XS / XR / SE 2nd Gen 이상 (A12 Bionic, 2018+), iOS 15+, 3 GB RAM 이상.
  • Android: Snapdragon 730G / Dimensity 720 / Exynos 990 이상 (2020+), Android 10+, 4 GB RAM 이상, NNAPI 지원.

절대 최소 사양 (사진 1장 단발 진단, 1~3초 추론)

섹션 제목: “절대 최소 사양 (사진 1장 단발 진단, 1~3초 추론)”
  • iOS: iPhone 7 이상 (A10 Fusion, 2016+), iOS 14+.
  • Android: Android 8.0+ (NNAPI 1.1+), 3 GB RAM 이상, ARM64.
  • 권장: 16 MB 이하 (EfficientNet-Lite0, MobileNetV3-Large).
  • 상한: 50 MB 이하 (앱 다운로드 크기 제약 고려).
  • INT8 양자화 필수: FP32 → INT8로 모델 크기 1/4, NPU 가속 활용 가능.

6. ml-framework-researcher에게 공유할 핵심 발견

섹션 제목: “6. ml-framework-researcher에게 공유할 핵심 발견”

메시지: NPU 가속을 실제로 사용하려면 프레임워크별로 다른 delegate 필요. iOS는 Core ML이 표준이며 NE 자동 활용. Android는 (1) TFLite + NNAPI (Android 8.1+, 호환성 최선이나 OEM 드라이버 편차 큼), (2) TFLite + Qualcomm QNN Delegate (Snapdragon NPU 직접 — Google LiteRT 2024 공식 지원), (3) TFLite + GPU Delegate (NPU 미지원 시 폴백). Mediapipe도 내부적으로 동일 delegate 사용. Exynos NPU는 NNAPI 드라이버 성숙도가 낮아 GPU 폴백 권장. 프레임워크 선정 시 각 NPU 백엔드 지원 여부가 결정적이므로 교차 확인 요망.


7. 불확실성 및 추가 검증 필요 항목

섹션 제목: “7. 불확실성 및 추가 검증 필요 항목”
  1. MobileNetV2 INT8 추론 ms 값: 공식 벤치마크 미공개 칩셋(Snapdragon 695, Dimensity 8300 등) 수치는 동급 칩셋 추정. → MLPerf Mobile 또는 직접 측정 필요.
  2. Exynos 2400 실제 NPU 활용도: 공식 17 TOPS와 AITuTu 점수 간 괴리. NNAPI 드라이버 영향으로 보이며 실제 식물 분류 모델 테스트 필요.
  3. 2026 RAM 회귀 시나리오: 6 GB 미들레인지 등장 시 일부 앱이 영향받을 수 있으나, 식물 분류 모델 자체는 안전 마진 내.
  4. 배터리 소모 정량값: 추정치이며 실제 앱 프로파일링 권장 (Xcode Instruments / Android Profiler).