Sharding pengujian

Jika korpus pengujian besar atau waktu eksekusi menjadi lama, kami menawarkan kemungkinan untuk membagi pengujian di beberapa perangkat: sharding.

Sharding memiliki prasyarat agar runner pengujian mendukung sharding.

Sebagian besar runner pengujian utama sudah mendukung sharding sehingga tidak diperlukan pekerjaan tambahan. Solusi ini sudah mendukung sharding: uji instrumentasi, pengujian berbasis sisi host, GTest.

Ada dua jenis sharding yang kami dukung di Tradefed: lokal dan terdistribusi. Keduanya memiliki beberapa kesamaan, jadi halaman ini menjelaskan properti umum dan spesifikasinya masing-masing.

Properti umum

Kedua bentuk sharding mengasumsikan properti yang sama dari runner pengujian: Shard harus independen dan deterministik. Langkah pertama dari kedua sharding adalah mem-build daftar lengkap pengujian yang diurutkan, lalu membaginya menjadi grup/shard yang berbeda.

Perbedaan utama dari bentuk sharding adalah cara menjalankan pengujian. Detail selengkapnya ada di bagian di bawah.

Sharding lokal

Sharding lokal berarti semua perangkat yang terlibat dalam eksekusi pemanggilan yang di-sharding terhubung ke host fisik yang sama.

Eksekusi

Sharding lokal memanfaatkan semua perangkat yang terhubung ke host yang sama dengan membuat kumpulan pengujian yang perlu dijalankan dan meminta setiap pengujian polling perangkat saat gratis (yaitu, dilakukan dengan pengujian sebelumnya). Hal ini menghasilkan pemanfaatan perangkat yang dioptimalkan. Kami juga menyebutnya sharding dinamis.

Opsi

--shard-count XX

Sharding terdistribusi

Sharding terdistribusi berarti semua perangkat yang terlibat dalam eksekusi pemanggilan yang di-shard dapat berada di mana saja dan terhubung ke host fisik yang berbeda.

Eksekusi

Sharding terdistribusi terjadi setelah membuat daftar pengujian, dan konten setiap shard hanya mengeksekusi shard yang saat ini diminta. Jadi, semua shard terdistribusi membuat daftar yang sama pada awalnya, lalu menjalankan subset yang saling eksklusif, yang menghasilkan semua pengujian yang dijalankan.

Properti utama dari bentuk ini adalah shard yang sama sekali tidak mengetahui satu sama lain dan dapat gagal secara terpisah.

Kelemahan utamanya adalah panjang shard tidak selalu seimbang hanya karena kami tidak dapat memprediksi terlebih dahulu runtime setiap pengujian dalam setiap shard. Distribusi dibuat agar memiliki jumlah kasus pengujian yang kurang lebih sama di setiap shard.

Opsi

--shard-count XX --shard-index XX

Sharding token

Sharding token hanya dapat digunakan dengan sharding lokal. Flag ini tidak beroperasi dalam kasus penggunaan sharding non-lokal. Terkadang salah satu perangkat yang terlibat dalam sharding menyimpan resource khusus yang tidak dimiliki perangkat lain, seperti kartu SIM. Beberapa pengujian mungkin hanya berfungsi jika resource khusus tersebut tersedia dan akan gagal jika tidak.

Sharding token adalah solusi kami untuk kasus penggunaan tersebut. Modul pengujian dapat mendeklarasikan resource khusus yang diperlukan di AndroidTest.xml, dan Tradefed merutekan pengujian ke perangkat yang memiliki resource tersebut.

Konfigurasi XML

<option name="config-descriptor:metadata" key="token" value="SIM_CARD" />

value token cocok dengan TokenProperty Tradefed dan dikaitkan dengan pengendali di TokenProviderHelper.

Hal ini memungkinkan modul pengujian dijalankan pada perangkat yang dapat menjalankan pengujian dengan benar.

Bagaimana jika tidak ada perangkat yang dapat menjalankan pengujian?

Jika tidak ada perangkat yang tersedia yang memiliki resource yang cocok dengan modul pengujian, modul pengujian akan gagal dan dilewati karena tidak dapat dijalankan dengan benar.

Misalnya, jika modul pengujian meminta kartu SIM untuk dijalankan, tetapi tidak ada perangkat yang memiliki kartu SIM, modul pengujian akan gagal.

Implementasi

Teruskan tombol fitur ini ke command line utama Tradefed:

--enable-token-sharding