Menyiapkan suite

Suite di Tradefed mengacu pada penyiapan tempat beberapa pengujian berjalan di bawah runner pengujian umum yang mendorong eksekusi secara keseluruhan.

Di Tradefed, suite dijalankan melalui class ITestSuite, yang memungkinkan pengujian ditambahkan dan dihapus secara terpisah dari cara pengujian dijalankan.

Definisi

  • Suite: Kumpulan modul pengujian yang dikonfigurasi untuk berjalan di bawah penyiapan tingkat teratas yang serupa untuk melaporkan hasilnya dalam satu pemanggilan.
  • Penyiapan tingkat teratas: Penyiapan yang diterapkan ke perangkat sebelum menjalankan salah satu modul pengujian.
  • Konfigurasi utama: Konfigurasi XML Tradefed tingkat suite yang menjelaskan modul mana yang harus dijalankan dan penyiapan tingkat atas mana yang harus digunakan.
  • Penyiapan level modul: Penyiapan diterapkan ke perangkat tepat sebelum menjalankan modul. Hal ini juga dikenal sebagai penyiapan khusus modul.
  • Konfigurasi modul: Mengacu pada konfigurasi XML Tradefed AndroidTest.xml yang menjelaskan modul dan penyiapan level modul yang harus dilakukan.
  • Modul: Unit pengujian yang terdiri dari langkah penyiapan (penyiapan tingkat modul), langkah eksekusi pengujian, dan langkah pembongkaran.
  • Percobaan ulang intra-modul: Percobaan ulang otomatis yang dilakukan oleh harness di dalam modul.
  • Percobaan ulang suite: Jalankan ulang sepenuhnya pengujian suite yang sebelumnya gagal.

Struktur ITestSuite

ITestSuite di Tradefed mengacu pada class dasar umum yang mendorong eksekusi suite. API ini digunakan bersama oleh semua suite pengujian utama, khususnya Android Compatibility Test Suite (CTS) dan Android Vendor Test Suite (VTS), serta memastikan pengalaman eksekusi yang konsisten di semua suite.

Terkadang kita menyebut ITestSuite sebagai runner suite.

Runner suite mengikuti langkah-langkah berikut saat dieksekusi:

  1. Muat konfigurasi modul dan tentukan set mana yang harus dijalankan.

  2. Jalankan setiap modul:

    1. Menjalankan penyiapan tingkat modul.
    2. Menjalankan pengujian modul.
    3. Jalankan pemisahan tingkat modul.

  3. Laporkan hasilnya.

Penyiapan tingkat teratas

Dari sudut pandang Tradefed, ITestSuite hanyalah pengujian lain. Ini adalah pengujian yang kompleks, tetapi masih merupakan pengujian seperti IRemoteTest lainnya. Jadi, saat menentukan runner suite dalam konfigurasi Tradefed, Tradefed mengikuti pola konfigurasi yang biasa: menjalankan build_provider, target_preparer, pengujian (suite kita dalam hal ini), dan target_cleaner.

Urutan ini dalam konfigurasi Tradefed yang berisi ITestSuite adalah penyiapan tingkat atas.

Contoh:

<configuration description="Common config for Compatibility suites">

    <build_provider class="com.android.compatibility.common.tradefed.build.CompatibilityBuildProvider" />
    <!-- Setup applied before the suite: so everything running in the suite will
    have this setup beforehand -->
    <target_preparer class="com.android.tradefed.targetprep.RunCommandTargetPreparer">
        <option name="run-command" value="settings put global package_verifier_enable 0" />
        <option name="teardown-command" value="settings put global package_verifier_enable 1"/>
    </target_preparer>

    <!-- Our ITestSuite implementation -->
    <test class="com.android.compatibility.common.tradefed.testtype.suite.CompatibilityTestSuite" />

    <result_reporter class="com.android.compatibility.common.tradefed.result.ConsoleReporter" />
</configuration>

Metadata modul

Kita menyebut metadata modul sebagai informasi tambahan yang ditentukan dalam modul pengujian AndroidTest.xml. Metadata ini memungkinkan Anda menentukan informasi tambahan tentang modul, dan modul dapat difilter menggunakan metadata.

Contoh metadata:

<option name="config-descriptor:metadata" key="component" value="framework" />
<option name="config-descriptor:metadata" key="parameter" value="instant_app" />

Contoh filter pada metadata:

--module-metadata-include-filter component=framework

Kode di atas akan menjalankan semua modul dengan framework sebagai metadata komponen.

Contoh AndroidTest.xml lengkap:

<configuration description="Config for CTS Gesture test cases">
    <option name="test-suite-tag" value="cts" />
    <!-- Metadata -->
    <option name="config-descriptor:metadata" key="component" value="framework" />
    <option name="config-descriptor:metadata" key="parameter" value="instant_app" />
    <!-- End: metadata -->
    <target_preparer class="com.android.tradefed.targetprep.suite.SuiteApkInstaller">
        <option name="cleanup-apks" value="true" />
        <option name="test-file-name" value="CtsGestureTestCases.apk" />
    </target_preparer>
    <test class="com.android.tradefed.testtype.AndroidJUnitTest" >
        <option name="package" value="android.gesture.cts" />
        <option name="runtime-hint" value="10m50s" />
    </test>
</configuration>

Modul berparameter

Jenis metadata khusus adalah parameter.

<option name="config-descriptor:metadata" key="parameter" value="instant_app" />

Metadata ini menentukan bahwa modul harus dijalankan dalam mode yang berbeda, misalnya sebagai aplikasi instan, bukan mode aplikasi standar.

Semua kemungkinan mode atau parameter dijelaskan oleh ModuleParameters dan memiliki pengendali terkait di ModuleParametersHelper yang memungkinkan Anda mengubah penyiapan modul untuk dijalankan dalam mode tertentu.

Misalnya, mode aplikasi instan memaksa penginstalan APK sebagai mode instan.

Agar parameterisasi dapat terjadi, command line harus mengaktifkannya dengan:

--enable-parameterized-modules

Anda juga dapat menjalankan satu mode tertentu dengan:

--enable-parameterized-modules --module-parameter <Mode>

--enable-parameterized-modules --module-parameter INSTANT_APP

Saat versi berparameter dari modul berjalan, versi tersebut akan melaporkan hasilnya berdasarkan nama modul berparameter, misalnya CtsGestureTestCases[instant] versus CtsGestureTestCases dasar.