设备发现和分配

在 Android 10 中,Neural Networks API (NNAPI) 引入了一些功能,可让机器学习框架库和应用获取有关可用设备的信息,并指定在哪些设备上执行模型。通过向应用提供有关可用设备的信息,应用可以获取设备上安装的驱动程序的确切版本,从而避免出现已知的不兼容性。通过让应用能够指定执行模型不同部分的设备,应用可以针对目标部署产品进行优化。

NN HAL 1.2 的实现必须支持设备发现和分配。

实现

如需支持 NNAPI 中的设备发现和分配功能,请在 IDevice.hal 中实现 getTypegetVersionString,以便框架可以获取设备类型和驱动程序版本信息。

对于每种设备,请将类型指定为以下任一类别(如 types.hal 内的 DeviceType 中所指定)。

  • OTHER:不属于任何其他类别的设备,它包括一个异构接口,该接口是一个管理多台设备(可能属于不同类型)的 IDevice 接口。具有异构接口的驱动程序还应公开与各设备对应的单独 IDevice 接口,以便应用可以从这些设备中进行选择。
  • CPU:单核或多核 CPU。
  • GPU:可以运行 NNAPI 模型以及加快图形 API(如 OpenGL ES 和 Vulkan)的速度的 GPU。
  • ACCELERATOR:专用的神经处理单元 (NPU)。

IDevice.hal 中实现 getVersionString 以获取设备实现的版本字符串。 此方法必须返回一个可读性良好的字符串。字符串的格式取决于供应商。驱动程序的每个新版本的版本字符串必须不同。

IDevice 接口的名称必须采用 {VENDOR}-{DEVICE_NAME} 格式。