모바일 하드웨어 AI 추론 성능 리서치
작성: mobile-hw-researcher 조사일: 2026-05-15 대상: 실시간 식물 병 진단 (카메라 라이브 프리뷰 + 온디바이스 이미지 분류) 타당성
요약 (TL;DR)
섹션 제목: “요약 (TL;DR)”결론: 조건부 가능. 2020년 이후 출시된 중급 이상 스마트폰은 MobileNetV3 / EfficientNet-Lite 급(2~16 MB) 식물 분류 모델을 30 fps 실시간 추론할 수 있는 충분한 NPU 성능을 갖추고 있다. 다만 (1) 20202021년 저가형 칩셋(Snapdragon 6xx, Helio G 시리즈)에서는 15 fps 이하로 떨어지고, (2) 카메라 라이브 프리뷰와 연속 추론을 510분 이상 동시 구동 시 thermal throttling이 발생하며, (3) iOS 4 GB RAM 기기에서는 **Jetsam per-process 한계(~2 GB)**가 모델 + 카메라 버퍼 동시 운용에 제약이 된다.
최소 권장 사양: iPhone XR/SE2 (A12 이상, 2018+) / Android Snapdragon 730G·Dimensity 720 이상 (2020+) 기기. 이를 기준으로 하면 2026년 5월 현재 약 80~85%의 활성 스마트폰에서 쾌적한 실시간 진단이 가능하다(추정).
1. iOS 기기 AI 성능
섹션 제목: “1. iOS 기기 AI 성능”1.1 Apple Neural Engine 세대별 성능
섹션 제목: “1.1 Apple Neural Engine 세대별 성능”| 칩셋 | 출시 연도 | 탑재 모델 | NE TOPS | MobileNetV2 추론 (ms, 실측 추정) | 비고 |
|---|---|---|---|---|---|
| A12 Bionic | 2018 | iPhone XS/XR, SE2 | 5 TOPS | ~25 ms | 8-core NE 첫 세대 |
| A13 Bionic | 2019 | iPhone 11 | 6 TOPS | ~15 ms | NE + AMX 추가 |
| A14 Bionic | 2020 | iPhone 12 | 11 TOPS | ~7 ms | 16-core NE 도입 |
| A15 Bionic | 2021 | iPhone 13 / SE3 | 15.8 TOPS | ~5 ms | 16-core NE 개선 |
| A16 Bionic | 2022 | iPhone 14 Pro | 17 TOPS | ~4 ms | 4 nm |
| A17 Pro | 2023 | iPhone 15 Pro | 35 TOPS | ~2 ms | 3 nm, 2x 점프 |
| A18 / A18 Pro | 2024 | iPhone 16 시리즈 | 35 TOPS | ~1.7 ms | Apple Intelligence 최적화 (~15% ↑) |
| A19 / A19 Pro | 2025 | iPhone 17 시리즈 | 35+ TOPS | ~1.5 ms (추정) | A19 Pro는 GPU에 Neural Accelerator 추가 |
출처: Apple Wiki/Fandom, Wikipedia (A17 Pro / A18), Notebookcheck (A19 Pro), MachineThink “Faster neural nets”. MobileNetV2 추론 시간은 freedomtan/glDelegateBenchmark 및 MachineThink 데이터에서 추출.
핵심 관찰:
- A14 (iPhone 12) 이후 16-core NE 체제가 자리잡으며 MobileNet급은 300 FPS 이상 가능 — 30 fps 카메라 프리뷰 부담 거의 없음.
- A12/A13(=iPhone XR/11)도 15~25 ms로 30 fps 충분.
- **iPhone SE 2nd Gen (A13, 2020)**까지가 “쾌적 진단” 하한선으로 적합.
1.2 Core ML과 카메라 통합
섹션 제목: “1.2 Core ML과 카메라 통합”- Core ML + Vision 프레임워크는 자동으로 NE/GPU/CPU에 디스패치하며, 개발자가
MLComputeUnits.cpuAndNeuralEngine만 지정하면 됨. - TFLite의 Core ML Delegate도 MobileNet/Inception V3에서 최대 14× 가속 보고 (TensorFlow Blog, 2020).
- 카메라 라이브 피드 (
AVCaptureSession30 fps) + Vision 추론: A14 이상에서 frame drop 없음 (실제 앱 사례 다수).
1.3 iOS 메모리·제약
섹션 제목: “1.3 iOS 메모리·제약”| 기기 | 총 RAM | 앱 Foreground 한계 (Jetsam) | 비고 |
|---|---|---|---|
| iPhone XR/SE2 (4GB) | 4 GB | 4 GB 기기 다수 보고 | |
| iPhone 12/13 (6GB) | 6 GB | ||
| iPhone 14/15 Pro (6/8GB) | 6/8 GB | ||
| iPhone 16 Pro (8GB) | 8 GB | ~5.5 GB+ | Apple Intelligence 위해 8GB 의무화 |
| Increased Memory Limit Entitlement | — | +수백 MB 추가 가능 | iOS 15+ 신청 시 |
출처: Apple Developer Forums (iOS Memory Limits), home-assistant/iOS Issue #4475, machinelearning.apple.com.
식물 진단 앱 관점:
- MobileNetV3 (2~5 MB) + EfficientNet-Lite (16 MB) 모두 한계 대비 매우 여유 있음.
- 위험 요소는 모델보다 카메라 버퍼 + 텍스처 + UI의 누적 사용량.
AVCaptureVideoDataOutput픽셀 버퍼 풀 관리 필요.
2. Android 기기 AI 성능
섹션 제목: “2. Android 기기 AI 성능”2.1 Qualcomm Snapdragon Hexagon NPU
섹션 제목: “2.1 Qualcomm Snapdragon Hexagon NPU”| SoC | 출시 | NPU TOPS | MobileNetV2 INT8 추론 (ms, 추정) | 등급 |
|---|---|---|---|---|
| Snapdragon 855 (Hexagon 690) | 2019 | ~7 TOPS | ~20 ms (NNAPI) | 구 플래그십 |
| Snapdragon 865 (Hexagon 698) | 2020 | 15 TOPS | ~10 ms | 플래그십 |
| Snapdragon 888 (Hexagon 780) | 2021 | 26 TOPS | ~6 ms | 플래그십 |
| Snapdragon 8 Gen 1 | 2022 | ~27 TOPS | ~5 ms | 플래그십 |
| Snapdragon 8 Gen 2 | 2023 | ~52 TOPS | ~3 ms | 플래그십 |
| Snapdragon 8 Gen 3 | 2024 | ~73 TOPS | ~2 ms | 플래그십 |
| Snapdragon 8 Elite (Gen 4) | 2024 Q4 | ~80+ TOPS | ~1.5 ms | 최신 플래그십 |
| Snapdragon 7 Gen 1 | 2022 | ~12 TOPS (추정) | ~12 ms | 준플래그십 |
| Snapdragon 6 Gen 1 | 2024 | ~6 TOPS (추정) | ~20 ms | 미들레인지 |
| Snapdragon 695 5G | 2022 | ~3 TOPS (추정) | 보급형 | |
| Snapdragon 4 Gen 2 | 2023 | NPU 없음 또는 매우 약함 | 저가형 |
출처: Qualcomm Hexagon Wikipedia, Notebookcheck, Embedl Hub, Tensorflow GitHub Issue #28283 (Snapdragon 660 실측: 70 ms CPU / 170 ms NNAPI — quantized MobileNetV1). Snapdragon 695의 NPU TOPS는 비공개; 6 Gen 1 동급으로 추정.
2.2 Samsung Exynos NPU
섹션 제목: “2.2 Samsung Exynos NPU”| SoC | 출시 | NPU TOPS | 비고 |
|---|---|---|---|
| Exynos 990 | 2020 | ~10 TOPS | Galaxy S20/Note 20 |
| Exynos 2100 | 2021 | ~26 TOPS | S21 |
| Exynos 2200 | 2022 | ~3 TOPS (실측 보고) | S22, 발열 이슈 |
| Exynos 2400 | 2024 | ~17 TOPS (공식) / 14.7× Exynos 2200 | S24 |
| Exynos 2500 (예상) | 2025 | ~30 TOPS+ |
출처: Notebookcheck Exynos 2400, samfw.com, Beebom (Exynos 2400 vs Snapdragon 8 Gen 3). Exynos 2400 AI 점수는 AITuTu 등에서 Snapdragon 대비 매우 낮게 측정되는 경우가 있어 드라이버 성숙도에 차이 있음.
2.3 MediaTek Dimensity APU
섹션 제목: “2.3 MediaTek Dimensity APU”| SoC | 출시 | APU TOPS | 등급 |
|---|---|---|---|
| Dimensity 1200 | 2021 | ~6 TOPS | 플래그십 |
| Dimensity 9000 | 2022 | ~17 TOPS | 플래그십 |
| Dimensity 9200 | 2023 | ~26 TOPS | 플래그십 |
| Dimensity 9300 (APU 790) | 2023 Q4 | 플래그십 | |
| Dimensity 9400 | 2024 | ~50+ TOPS | 플래그십 |
| Dimensity 8300 | 2024 | ~16 TOPS (추정) | 준플래그십 |
| Dimensity 7050 / 6020 | 2023 | 미들레인지 | |
| Helio G99 / G88 | 2022 | NPU 없음 | 저가형 |
출처: Androidauthority “Dimensity 9300 explained”, Nanoreview/Cpu-monkey 벤치마크. APU 790은 INT8/FP16 양쪽 모두 두 배 처리량.
2.4 Android RAM 및 메모리 제약
섹션 제목: “2.4 Android RAM 및 메모리 제약”- Dalvik per-app 하드 heap 한계는 디바이스 RAM 따라 128 MB ~ 512 MB가 일반적 (
ActivityManager.getMemoryClass()). android:largeHeap="true"선언 시 **512 MB ~ 1 GB+**까지 확장 (디바이스별 상이).- Native(C/C++) 메모리는 Dalvik heap에 포함되지 않음 → TFLite/Mediapipe의 텐서는 native 영역 사용. 따라서 모델 자체로는 heap 압박 적음.
- 카메라 프리뷰(YUV 1080p
6 MB/frame) + 분류 모델(16 MB) + UI = **앱 RSS 200400 MB** 수준이 보통. - Android 2024+ 미들레인지는 8 GB가 표준 → 충분. 2026년 RAM 공급난으로 일부 보급형이 4~6 GB로 회귀 가능성.
출처: Android Developers “Manage your app’s memory”, Nutrient blog.
3. 실시간 처리 분석
섹션 제목: “3. 실시간 처리 분석”3.1 카메라 + 추론 동시 처리 가능 여부
섹션 제목: “3.1 카메라 + 추론 동시 처리 가능 여부”| 기기 등급 | 30 fps 카메라 + 30 fps 추론 | 비고 |
|---|---|---|
| iPhone 12+ (A14+) | 가능 (frame drop 0) | NE 부담 < 10% |
| iPhone XR/SE2 (A12) | 가능 (소수 frame drop) | 모델 크기 5 MB 이하 권장 |
| Snapdragon 865+/Dimensity 9000+/Exynos 2100+ | 가능 | NNAPI 또는 QNN/Hexagon delegate 사용 시 |
| Snapdragon 7 Gen 1 / Dimensity 8200 | 가능 (15~25 fps 추천) | 30 fps 시 thermal 위험 |
| Snapdragon 6 Gen 1 / Dimensity 7050 | 부분 가능 (10~15 fps) | 매 2~3 프레임마다 추론 |
| Snapdragon 695 / 480 | 어려움 (5~10 fps 한계) | 추론 별도 스레드 + 결과 캐싱 필요 |
실용 전략: 실시간 진단은 30 fps 카메라 + 5~10 fps 추론(매 3~6 프레임마다 분류) 조합이 일반적. 정확도 영향 없이 발열·배터리 50%+ 절감.
3.2 Thermal Throttling
섹션 제목: “3.2 Thermal Throttling”- 공통 패턴: SoC가 수 초간 burst → 코어 클럭/주파수 강제 강하 (Xda-developers).
- 연속 추론 임계:
- 플래그십 기기: 카메라+추론 동시 약 8~12분 후 throttling 시작 (체감 30%~50% 추론 속도 감소).
- 미들레인지: 3~5분 후 throttling.
- 보급형: 1~2분 후 throttling 또는 카메라 자체가 해상도 강하.
- 완화책: (1) INT8 양자화로 NPU 사용 → CPU/GPU 대비 발열 1/3, (2) 추론 인터벌 조절, (3) 사용자에게 진단 완료 시 카메라 일시 정지 안내.
3.3 배터리 소모
섹션 제목: “3.3 배터리 소모”| 시나리오 | 1시간 배터리 소모 (4000 mAh, 추정) |
|---|---|
| 화면만 켜기 | 4~6% |
| 카메라 라이브 프리뷰만 | 12~18% |
| 카메라 + 30 fps NE/NPU 추론 | 18~28% |
| 카메라 + 30 fps GPU 추론 (NNAPI 폴백) | 25~40% |
| 카메라 + 30 fps CPU 추론 | 35~60% (발열로 자동 throttle) |
출처: AR/AI 백그라운드 처리 보고에 따르면 지속 AI 카메라 처리가 300~600 mW 연속 소모 (alibaba/insights). The Register (2017) ARKit “incredible battery hog” 보고. Apple Intelligence 활성화 시 iPhone 15 Pro 비활성 3~4시간에 17% 소모 (gadgethacks).
실용 함의: 식물 진단 앱은 1회 진단당 5~15초 사용으로 설계해야 배터리 부담 무시 가능. 10분 연속 진단 시 약 3~5%p 소모 — 사용자 체감 가능 수준이지만 일반적.
4. 보급형 기기 지원 가능성
섹션 제목: “4. 보급형 기기 지원 가능성”4.1 2020~2024년 보급형 칩셋 성능
섹션 제목: “4.1 2020~2024년 보급형 칩셋 성능”| 칩셋 | 대표 기기 | 식물 분류 적합성 |
|---|---|---|
| Snapdragon 480/4 Gen 2 | 갤럭시 A13/A15 | 어려움 (CPU only, 80~120 ms) |
| Snapdragon 695 | 갤럭시 A23, Redmi Note 11 Pro | 조건부 (GPU delegate 35 |
| Dimensity 700/810 | Redmi Note 10/11 5G | 조건부 (40~60 ms) |
| Helio G88/G99 | Redmi 10/12 | 어려움 (NPU 없음) |
| Snapdragon 730G/750G | 갤럭시 A52, Pixel 5a | 양호 (15~25 ms) |
| Apple A12 / A13 | iPhone XR, SE2, iPhone 11 | 양호 (15~25 ms) |
| Apple A14 / A15 | iPhone 12, SE3 | 우수 (<10 ms) |
4.2 지원 가능 기기 비율 추정 (2026년 5월 활성 기기 기준)
섹션 제목: “4.2 지원 가능 기기 비율 추정 (2026년 5월 활성 기기 기준)”- iOS: A12 이상 = iPhone XR/XS 이후 → 활성 iPhone의 ~95% 지원.
- Android: 활성 기기 중 Snapdragon 730/Dimensity 720 이상 비율은 ~75% (StatCounter / IDC 2024~2025 자료 종합).
- 전체 스마트폰 시장: Android 점유 ~78%, iOS
20% → 가중 평균 **약 8085%**에서 쾌적한 실시간 진단 가능. - 나머지
1520%(보급형 Android, NPU 없음)는 단발 진단 모드(사진 1장 → 1~3초 분석)로 폴백 권장.
5. 최소 지원 기기 요구사항 (권장)
섹션 제목: “5. 최소 지원 기기 요구사항 (권장)”권장 최소 사양 (실시간 30 fps 진단)
섹션 제목: “권장 최소 사양 (실시간 30 fps 진단)”- iOS: iPhone XS / XR / SE 2nd Gen 이상 (A12 Bionic, 2018+), iOS 15+, 3 GB RAM 이상.
- Android: Snapdragon 730G / Dimensity 720 / Exynos 990 이상 (2020+), Android 10+, 4 GB RAM 이상, NNAPI 지원.
절대 최소 사양 (사진 1장 단발 진단, 1~3초 추론)
섹션 제목: “절대 최소 사양 (사진 1장 단발 진단, 1~3초 추론)”- iOS: iPhone 7 이상 (A10 Fusion, 2016+), iOS 14+.
- Android: Android 8.0+ (NNAPI 1.1+), 3 GB RAM 이상, ARM64.
모델 크기 상한선
섹션 제목: “모델 크기 상한선”- 권장: 16 MB 이하 (EfficientNet-Lite0, MobileNetV3-Large).
- 상한: 50 MB 이하 (앱 다운로드 크기 제약 고려).
- INT8 양자화 필수: FP32 → INT8로 모델 크기 1/4, NPU 가속 활용 가능.
6. ml-framework-researcher에게 공유할 핵심 발견
섹션 제목: “6. ml-framework-researcher에게 공유할 핵심 발견”메시지: NPU 가속을 실제로 사용하려면 프레임워크별로 다른 delegate 필요. iOS는 Core ML이 표준이며 NE 자동 활용. Android는 (1) TFLite + NNAPI (Android 8.1+, 호환성 최선이나 OEM 드라이버 편차 큼), (2) TFLite + Qualcomm QNN Delegate (Snapdragon NPU 직접 — Google LiteRT 2024 공식 지원), (3) TFLite + GPU Delegate (NPU 미지원 시 폴백). Mediapipe도 내부적으로 동일 delegate 사용. Exynos NPU는 NNAPI 드라이버 성숙도가 낮아 GPU 폴백 권장. 프레임워크 선정 시 각 NPU 백엔드 지원 여부가 결정적이므로 교차 확인 요망.
7. 불확실성 및 추가 검증 필요 항목
섹션 제목: “7. 불확실성 및 추가 검증 필요 항목”- MobileNetV2 INT8 추론 ms 값: 공식 벤치마크 미공개 칩셋(Snapdragon 695, Dimensity 8300 등) 수치는 동급 칩셋 추정. → MLPerf Mobile 또는 직접 측정 필요.
- Exynos 2400 실제 NPU 활용도: 공식 17 TOPS와 AITuTu 점수 간 괴리. NNAPI 드라이버 영향으로 보이며 실제 식물 분류 모델 테스트 필요.
- 2026 RAM 회귀 시나리오: 6 GB 미들레인지 등장 시 일부 앱이 영향받을 수 있으나, 식물 분류 모델 자체는 안전 마진 내.
- 배터리 소모 정량값: 추정치이며 실제 앱 프로파일링 권장 (Xcode Instruments / Android Profiler).
- Apple Wiki Fandom - Neural Engine — 조사일 2026-05-15
- Apple A17 Pro - Wikipedia — 35 TOPS 공식 발표
- Apple A18 - Wikipedia — A18 NE 35 TOPS
- Apple A19 Pro - Notebookcheck
- Qualcomm Hexagon - Wikipedia — Snapdragon 855~8 Gen 3 NPU 정보
- Embedl Hub - Snapdragon 8 Elite
- Notebookcheck - Snapdragon 695
- Notebookcheck - Exynos 2400
- samfw.com - Exynos 2400 14.7× AI
- Beebom - Exynos 2400 vs Snapdragon 8 Gen 3
- Notebookcheck - Dimensity 9300
- AndroidAuthority - Dimensity 9300 explained
- AI-Benchmark Ranking
- TFLite Slower with NNAPI Snapdragon 660 - GitHub Issue #28283 — MobileNetV1 quantized 70 ms CPU / 170 ms NNAPI 실측
- glDelegateBenchmark - freedomtan — iOS TFLite GPU/CoreML 벤치마크
- TensorFlow Blog - Core ML Delegate — MobileNet 14x 가속
- MachineThink - Faster Neural Networks — MobileNet 240~600 FPS on NE
- Apple Developer Forums - iOS Memory Limits
- Apple Developer - Jetsam Event Reports
- Android Developers - Manage app memory
- Nutrient - Android Large Memory Requirements
- XDA Developers - Thermal Throttling
- The Register - ARKit Battery Hog (2017)
- Frontiers Plant Science - LDL-MobileNetV3S 6.17 MB
- Nature SciRep - Optimised MobileNet 1.46 MB
- arXiv 2508.10817 - Mobile-Friendly Plant Disease DL
- IDC - Smartphone Market Share 2024
- StatCounter - Mobile Vendor Market Share
- Google Developers - LiteRT Qualcomm NPU