在 Android 10 中,Neural Networks API (NNAPI) 引入了一些功能,可让机器学习框架库和应用获取有关可用设备的信息,并指定在哪些设备上执行模型。通过向应用提供有关可用设备的信息,应用可以获取设备上安装的驱动程序的确切版本,从而避免出现已知的不兼容性。通过让应用能够指定执行模型不同部分的设备,应用可以针对目标部署产品进行优化。
NN HAL 1.2 的实现必须支持设备发现和分配。
实现
如需支持 NNAPI 中的设备发现和分配功能,请在 IDevice.hal
中实现 getType
和 getVersionString
,以便框架可以获取设备类型和驱动程序版本信息。
对于每种设备,请将类型指定为以下任一类别(如 types.hal
内的 DeviceType
中所指定)。
OTHER
:不属于任何其他类别的设备,它包括一个异构接口,该接口是一个管理多台设备(可能属于不同类型)的IDevice
接口。具有异构接口的驱动程序还应公开与各设备对应的单独IDevice
接口,以便应用可以从这些设备中进行选择。CPU
:单核或多核 CPU。GPU
:可以运行 NNAPI 模型以及加快图形 API(如 OpenGL ES 和 Vulkan)的速度的 GPU。ACCELERATOR
:专用的神经处理单元 (NPU)。
在 IDevice.hal
中实现 getVersionString
以获取设备实现的版本字符串。
此方法必须返回一个可读性良好的字符串。字符串的格式取决于供应商。驱动程序的每个新版本的版本字符串必须不同。
IDevice
接口的名称必须采用 {VENDOR}-{DEVICE_NAME}
格式。