Configura le suite

Una suite in Tradefed si riferisce a una configurazione in cui vengono eseguiti diversi test in un esecuzione di test comune che gestisce l'esecuzione complessiva.

In Tradefed, le suite vengono gestite tramite la classe ITestSuite, che consente di aggiungere e rimuovere i test indipendentemente dal modo in cui vengono eseguiti.

Definizioni

  • Suite: insieme di moduli di test configurati per essere eseguiti in una configurazione di primo livello simile per generare report sui risultati in un'unica chiamata.
  • Configurazione di primo livello: la configurazione applicata ai dispositivi prima di eseguire uno dei moduli di test.
  • Configurazione principale: la configurazione XML di Tradefed a livello di suite che descrive i moduli da eseguire e la configurazione di primo livello da utilizzare.
  • Configurazione a livello di modulo: la configurazione viene applicata ai dispositivi appena prima dell'esecuzione del modulo. Sono note anche come configurazioni specifiche per i moduli.
  • Configurazione del modulo: fa riferimento alla configurazione XML Tradefed AndroidTest.xml che descrive i moduli e quale configurazione a livello di modulo deve essere eseguita.
  • Modulo: unità di test composta da un passaggio di configurazione (configurazione a livello di modulo), un passaggio di esecuzione del test e un passaggio di smantellamento.
  • Nuovo tentativo all'interno del modulo: nuovo tentativo automatico eseguito dal cablaggio all'interno del modulo.
  • Nuovo tentativo della suite: esecuzione completa di nuovo dei test della suite che non sono riusciti in precedenza.

Struttura di ITestSuite

ITestSuite in Tradefed fa riferimento alla classe di base comune che gestisce l'esecuzione di una suite. È condiviso da tutte le principali suite di test, in particolare la Android Compatibility Test Suite (CTS) e la Android Vendor Test Suite (VTS), e garantisce un'esperienza di esecuzione coerente in tutte le suite.

A volte ci riferiamo a ITestSuite come al runner della suite.

Il programma di esecuzione della suite segue questi passaggi durante l'esecuzione:

  1. Carica la configurazione del modulo e determina quale set deve essere eseguito.

  2. Esegui ciascun modulo:

    1. Esegui la configurazione a livello di modulo.
    2. Esegui i test dei moduli.
    3. Esegui l'eliminazione a livello di modulo.

  3. Segnala i risultati.

Configurazione di primo livello

Dal punto di vista di TradeFed, ITestSuite è solo un altro test. È complesso, ma è ancora solo un test come qualsiasi altro IRemoteTest. Pertanto, quando specifichi il runner della suite in una configurazione Tradefed, Tradefed segue il solito pattern della configurazione: esecuzione di build_provider, target_preparer, test (la nostra suite in questo caso) e target_cleaner.

Questa sequenza nella configurazione Tradefed contenente ITestSuite è la configurazione di primo livello.

Esempio:

<configuration description="Common config for Compatibility suites">

    <build_provider class="com.android.compatibility.common.tradefed.build.CompatibilityBuildProvider" />
    <!-- Setup applied before the suite: so everything running in the suite will
    have this setup beforehand -->
    <target_preparer class="com.android.tradefed.targetprep.RunCommandTargetPreparer">
        <option name="run-command" value="settings put global package_verifier_enable 0" />
        <option name="teardown-command" value="settings put global package_verifier_enable 1"/>
    </target_preparer>

    <!-- Our ITestSuite implementation -->
    <test class="com.android.compatibility.common.tradefed.testtype.suite.CompatibilityTestSuite" />

    <result_reporter class="com.android.compatibility.common.tradefed.result.ConsoleReporter" />
</configuration>

Metadati del modulo

Chiamiamo metadati del modulo le informazioni aggiuntive specificate nel modulo di testAndroidTest.xml. Questi metadati consentono di specificare ulteriori informazioni sul modulo e i moduli possono essere filtrati usando i metadati.

Metadati di esempio:

<option name="config-descriptor:metadata" key="component" value="framework" />
<option name="config-descriptor:metadata" key="parameter" value="instant_app" />

Esempio di filtro sui metadati:

--module-metadata-include-filter component=framework

In questo caso, tutti i moduli vengono eseguiti con un framework come metadati del componente.

Esempio completo di AndroidTest.xml:

<configuration description="Config for CTS Gesture test cases">
    <option name="test-suite-tag" value="cts" />
    <!-- Metadata -->
    <option name="config-descriptor:metadata" key="component" value="framework" />
    <option name="config-descriptor:metadata" key="parameter" value="instant_app" />
    <!-- End: metadata -->
    <target_preparer class="com.android.tradefed.targetprep.suite.SuiteApkInstaller">
        <option name="cleanup-apks" value="true" />
        <option name="test-file-name" value="CtsGestureTestCases.apk" />
    </target_preparer>
    <test class="com.android.tradefed.testtype.AndroidJUnitTest" >
        <option name="package" value="android.gesture.cts" />
        <option name="runtime-hint" value="10m50s" />
    </test>
</configuration>

Modulo con parametri

Un tipo di metadati speciale è parameter.

<option name="config-descriptor:metadata" key="parameter" value="instant_app" />

Questi metadati specificano che il modulo deve essere eseguito in una modalità diversa, ad esempio come app istantanea, anziché in modalità app standard.

Tutte le possibili modalità o i parametri sono descritti da ModuleParameters e hanno un gestore associato in ModuleParametersHelper che ti consente di modificare la configurazione del modulo in modo che venga eseguita nella modalità specifica.

Ad esempio, la modalità app istantanea impone l'installazione dell'APK come modalità istantanea.

Affinché la parametrizzazione venga eseguita, la riga di comando deve attivarla con:

--enable-parameterized-modules

È anche possibile eseguire una singola modalità con:

--enable-parameterized-modules --module-parameter <Mode>

--enable-parameterized-modules --module-parameter INSTANT_APP

Quando viene eseguita una versione con parametri di un modulo, i risultati vengono registrati con un nome del modulo con parametri, ad esempio CtsGestureTestCases[instant] rispetto a CtsGestureTestCases di base.