Aliran Kontrol

Mulai dari Android 11, NNAPI menyertakan dua operasi aliran kontrol, IF dan WHILE , yang mengambil model lain sebagai argumen dan menjalankannya secara kondisional ( IF ) atau berulang kali ( WHILE ). Ini memungkinkan untuk membangun model yang menjalankan operasi berbeda berdasarkan nilai input atau menjalankan operasi beberapa kali tanpa membuka gulungan. Ini penting untuk kasus penggunaan seperti RNN dinamis dan seq2seq.

Dalam NN HAL 1.3, model menggabungkan beberapa subgraf, termasuk subgraf utama yang digunakan untuk menentukan input dan output dari suatu eksekusi. Sebuah subgraf dapat mereferensikan subgraf lain menggunakan operan bertipe SUBGRAPH . Kerangka kerja dapat mengirim operasi aliran kontrol ke akselerator hanya jika akselerator mendukung semua operasi di semua subgraf yang dirujuk oleh operasi aliran kontrol tersebut.

antarmuka HAL

Dalam NN HAL 1.3, definisi yang terkait dengan aliran kontrol ada di types.hal .

• Jenis operasi IF dan WHILE
• Jenis operan SUBGRAPH dan masa pakai operan SUBGRAPH yang sesuai
• Struktur Model yang berisi subgraf utama dan daftar subgraf yang dirujuk
• Struktur Capabilities yang berisi ifPerformance dan whilePerformance

IDevice.hal berisi IDevice , yang metodenya getSupportedOperations_1_3() harus memperlakukan IF dan WHILE berbeda dari operasi lain.

IPreparedModel.hal berisi IPreparedModel , yang metodenya execute_1_3() , executeSynchronously_1_3() , dan executeFenced() mengambil argumen loopTimeoutDuration opsional.

Implementasi pengemudi

Untuk contoh implementasi operasi, lihat CpuExecutor::executeIfOperation dan CpuExecutor::executeWhileOperation . Untuk contoh logika validasi operasi, lihat validateIfOperation() dan validateWhileOperation() .

Perhatikan bahwa penting untuk mendukung operasi aritmatika dan perbandingan pada operan TENSOR_INT32 bentuk 1 , karena ini dapat digunakan sebagai penghitung loop. Demikian pula, operasi yang menghasilkan operan TENSOR_BOOL8 bentuk 1 harus digunakan dengan kondisi IF dan WHILE .

WAKTU waktu eksekusi loop habis

Untuk mencegah infinite loop, eksekusi harus dibatalkan jika loop WHILE membutuhkan waktu lebih lama dari nilai loopTimeoutDuration yang diteruskan ke panggilan IPreparedModel::execute_1_3() , IPreparedModel::executeSynchronously_1_3() , atau IPreparedModel::executeFenced() (atau nilai default jika dihilangkan).

Validasi

Tes aliran kontrol adalah bagian dari rangkaian tes CTS dan VTS. Untuk informasi lebih lanjut, lihat Validasi .