0
0

如何将pytorch模型部署到安卓

如何将pytorch模型部署到安卓上

这篇文章演示如何将训练好的pytorch模型部署到安卓设备上。我也是刚开始学安卓，代码写的简单。

环境：

pytorch版本：1.10.0

模型转化

pytorch_android支持的模型是.pt模型，我们训练出来的模型是.pth。所以需要转化才可以用。先看官网上给的转化方式：

  1. import torch
  2. import torchvision
  3. from torch.utils.mobile_optimizer import optimize_for_mobile
  5. model = torchvision.models.mobilenet_v3_small(pretrained=True)
  6. model.eval()
  7. example = torch.rand(1,3,224,224)
  8. traced_script_module = torch.jit.trace(model, example)
  9. optimized_traced_model = optimize_for_mobile(traced_script_module)
  10. optimized_traced_model._save_for_lite_interpreter("app/src/main/assets/model.ptl")

这个模型在安卓对应的包：

  1. repositories {
  2.     jcenter()}
  4. dependencies {
  5.     implementation 'org.pytorch:pytorch_android_lite:1.9.0'
  6.     implementation 'org.pytorch:pytorch_android_torchvision:1.9.0'}

注:pytorch_android_lite版本和转化模型用的版本要一致，不一致就会报各种错误。

目前用这种方法有点问题，我采用的另一种方法。

转化代码如下：

  1. import torch
  2. import torch.utils.data.distributed
  4. # pytorch环境中
  5. model_pth = 'model_31_0.96.pth' #模型的参数文件
  6. mobile_pt ='model.pt' # 将模型保存为Android可以调用的文件
  8. model = torch.load(model_pth)
  9. model.eval() # 模型设为评估模式
  10. device = torch.device('cpu')
  11. model.to(device)
  12. # 1张3通道224*224的图片
  13. input_tensor = torch.rand(1, 3, 224, 224) # 设定输入数据格式
  15. mobile = torch.jit.trace(model, input_tensor) # 模型转化
  16. mobile.save(mobile_pt) # 保存文件

对应的包：

  1. //pytorch
  2. implementation 'org.pytorch:pytorch_android:1.10.0'
  3. implementation 'org.pytorch:pytorch_android_torchvision:1.10.0'

定义模型文件和转化后的文件路径。

load模型。这里要注意，如果保存模型

  1. torch.save(model,'models.pth')

加载模型则是

  1. model=torch.load('models.pth')

如果保存模型是

  1. torch.save(model.state_dict(),"models.pth")

加载模型则是

  1. model.load_state_dict(torch.load('models.pth'))

定义输入数据格式。

模型转化，然后再保存模型。

安卓部署

新建项目

新建安卓项目，选择Empy Activity,然后选择Next

image-20220210142047786

然后，填写项目信息，选择安卓版本，我用的4.4，点击完成

image-20220210142213719

导入包

导入pytorch_android的包

  1. //pytorch
  2. implementation 'org.pytorch:pytorch_android:1.10.0'
  3. implementation 'org.pytorch:pytorch_android_torchvision:1.10.0'

image-20220210142327206

如果有参数报错请参照我的完整的配置，代码如下：

  1. plugins {
  2.     id 'com.android.application'}
  4. android {
  5.     compileSdk 32
  7.     defaultConfig {
  8.         applicationId "com.example.myapplication"
  9.         minSdk 21
  10.         targetSdk 32
  11.         versionCode 1
  12.         versionName "1.0"
  14.         testInstrumentationRunner "androidx.test.runner.AndroidJUnitRunner"}
  16.     buildTypes {
  17.         release {
  18.             minifyEnabled false
  19.             proguardFiles getDefaultProguardFile('proguard-android-optimize.txt'),'proguard-rules.pro'}}
  20.     compileOptions {
  21.         sourceCompatibility JavaVersion.VERSION_1_8
  22.         targetCompatibility JavaVersion.VERSION_1_8
  23.     }}
  25. dependencies {
  27.     implementation 'androidx.appcompat:appcompat:1.3.0'
  28.     implementation 'com.google.android.material:material:1.4.0'
  29.     implementation 'androidx.constraintlayout:constraintlayout:2.0.4'
  30.     testImplementation 'junit:junit:4.13.2'
  31.     androidTestImplementation 'androidx.test.ext:junit:1.1.3'
  32.     androidTestImplementation 'androidx.test.espresso:espresso-core:3.4.0'//pytorch
  33.     implementation 'org.pytorch:pytorch_android:1.10.0'
  34.     implementation 'org.pytorch:pytorch_android_torchvision:1.10.0'}

页面文件

页面的配置如下：

  1. <?xml version="1.0" encoding="utf-8"?>
  2. <FrameLayout xmlns:android="http://schemas.android.com/apk/res/android"
  3.     xmlns:tools="http://schemas.android.com/tools"
  4.     android:layout_width="match_parent"
  5.     android:layout_height="match_parent"
  6.     tools:context=".MainActivity">
  8.     <ImageView
  9.         android:id="@+id/image"
  10.         android:layout_width="match_parent"
  11.         android:layout_height="match_parent"
  12.         android:scaleType="fitCenter" />
  14.     <TextView
  15.         android:id="@+id/text"
  16.         android:layout_width="match_parent"
  17.         android:layout_height="wrap_content"
  18.         android:layout_gravity="top"
  19.         android:textSize="24sp"
  20.         android:background="#80000000"
  21.         android:textColor="@android:color/holo_red_light" />
  23. </FrameLayout>

这个页面只有两个空间，一个展示图片，一个显示文字。

image-20220210142827091

模型推理

新增assets文件夹，然后将转化的模型和待测试的图片放进去。

image-20220210143351535

新增ImageNetClasses类，这个类存放类别名字。

image-20220210143105326

代码如下：

  1. package com.example.myapplication;
  3. public classImageNetClasses{
  4.     public static String[] IMAGENET_CLASSES = new String[]{"Black-grass","Charlock","Cleavers","Common Chickweed","Common wheat","Fat Hen","Loose Silky-bent","Maize","Scentless Mayweed","Shepherds Purse","Small-flowered Cranesbill","Sugar beet",};}

在MainActivity类中，增加模型推理的逻辑。完成代码如下：

  1. package com.example.myapplication;
  3. import android.content.Context;
  4. import android.graphics.Bitmap;
  5. import android.graphics.BitmapFactory;
  6. import android.os.Bundle;
  7. import android.util.Log;
  8. import android.widget.ImageView;
  9. import android.widget.TextView;
  11. import org.pytorch.IValue;
  13. import org.pytorch.Module;
  14. import org.pytorch.Tensor;
  15. import org.pytorch.torchvision.TensorImageUtils;
  16. import org.pytorch.MemoryFormat;
  17. import java.io.File;
  18. import java.io.FileOutputStream;
  19. import java.io.IOException;
  20. import java.io.InputStream;
  21. import java.io.OutputStream;
  23. import androidx.appcompat.app.AppCompatActivity;
  25. public class MainActivity extends AppCompatActivity {
  27.     @Override
  28.     protected void onCreate(Bundle savedInstanceState) {
  29.         super.onCreate(savedInstanceState);
  30.         setContentView(R.layout.activity_main);
  32.         Bitmap bitmap = null;
  33.         Module module = null;
  34.         try {
  35.             // creating bitmap from packaged into app android asset 'image.jpg',
  36.             // app/src/main/assets/image.jpg
  37.             bitmap = BitmapFactory.decodeStream(getAssets().open("1.png"));
  38.             // loading serialized torchscript module from packaged into app android asset model.pt,
  39.             // app/src/model/assets/model.pt
  40.             module = Module.load(assetFilePath(this, "models.pt"));
  41.         } catch (IOException e) {
  42.             Log.e("PytorchHelloWorld", "Error reading assets", e);
  43.             finish();
  44.         }
  46.         // showing image on UI
  47.         ImageView imageView = findViewById(R.id.image);
  48.         imageView.setImageBitmap(bitmap);
  50.         // preparing input tensor
  51.         final Tensor inputTensor = TensorImageUtils.bitmapToFloat32Tensor(bitmap,
  52.                 TensorImageUtils.TORCHVISION_NORM_MEAN_RGB, TensorImageUtils.TORCHVISION_NORM_STD_RGB, MemoryFormat.CHANNELS_LAST);
  54.         // running the model
  55.         final Tensor outputTensor = module.forward(IValue.from(inputTensor)).toTensor();
  57.         // getting tensor content as java array of floats
  58.         final float[] scores = outputTensor.getDataAsFloatArray();
  60.         // searching for the index with maximum score
  61.         float maxScore = -Float.MAX_VALUE;
  62.         int maxScoreIdx = -1;
  63.         for (int i = 0; i < scores.length; i++) {
  64.             if (scores[i] > maxScore) {
  65.                 maxScore = scores[i];
  66.                 maxScoreIdx = i;
  67.             }
  68.         }
  69.         System.out.println(maxScoreIdx);
  70.         String className = ImageNetClasses.IMAGENET_CLASSES[maxScoreIdx];
  72.         // showing className on UI
  73.         TextView textView = findViewById(R.id.text);
  74.         textView.setText(className);
  75.     }
  77.     /**
  78.      * Copies specified asset to the file in /files app directory and returns this file absolute path.
  79.      *
  80.      * @return absolute file path
  81.      */
  82.     public static String assetFilePath(Context context, String assetName) throws IOException {
  83.         File file = new File(context.getFilesDir(), assetName);
  84.         if (file.exists() && file.length() > 0) {
  85.             return file.getAbsolutePath();
  86.         }
  88.         try (InputStream is = context.getAssets().open(assetName)) {
  89.             try (OutputStream os = new FileOutputStream(file)) {
  90.                 byte[] buffer = new byte[4 * 1024];
  91.                 int read;
  92.                 while ((read = is.read(buffer)) != -1) {
  93.                     os.write(buffer, 0, read);
  94.                 }
  95.                 os.flush();
  96.             }
  97.             return file.getAbsolutePath();
  98.         }
  99.     }
  100. }

然后运行。

image-20220210143529635

标签： pytorch android 深度学习
本文转载自: https://blog.csdn.net/hhhhhhhhhhwwwwwwwwww/article/details/122860445
版权归原作者 AI浩 所有， 如有侵权，请联系我们删除。
登录后发布评论

“如何将pytorch模型部署到安卓”的评论:

还没有评论
关于作者
...
overfit同步小助手
文章同步
相关阅读

网络安全法-网络运行安全

使用selenium/drissionpage时如何阻止chrome自动跳转http到https

docker desktop 里部署的Open WebUI 管理员密码忘记了的处理方法

在ubuntu20.04中搭建onsite比赛运行环境

利用开源的低代码表单设计器FcDesigner高效管理和渲染复杂表单结构

Kafka学习笔记

【前端】浏览器输入url到页面呈现发生了什么？