Interpretowanie wyników CTS

Wyniki testu CTS znajdują się w pliku:

CTS_ROOT/android-cts/results/start_time.zip

Jeśli korzystasz z narzędzia CTS samodzielnie, CTS_ROOT przypomina out/host/linux-x86/cts, ale różni się w zależności od platformy. Odzwierciedla to ścieżkę, w której udało Ci się zdekompresować gotowy oficjalny plik CTS pobrane z tej witryny.

Rzeczywiste wyniki znajdują się w pliku test_result.xml wewnątrz pliku ZIP.

Wyświetlanie wyników z Androida 10 i nowszych

W archiwum ZIP znajduje się plik test_result.html, możesz go otworzyć bezpośrednio w dowolnej przeglądarce zgodnej z HTML5

Wyświetlanie wyników dla wersji sprzed Androida 10

Otwórz plik test_result.xml w dowolnej przeglądarce zgodnej z HTML5, aby wyświetlić test wyniki

Jeśli w przeglądarce Chrome ten plik wyświetla pustą stronę, zmiana konfiguracji przeglądarki aby włączyć flagę wiersza poleceń --allow-file-access-from-files.

Odczytywanie wyników testu

Szczegóły wyników testu zależą od używanej wersji CTS:

  • CTS w wersji 1 na Androida 6.0 lub starszego
  • CTS wersja 2 na Androida 7.0 i nowsze
.

Informacje o urządzeniu

W CTS w wersji 1 lub starszej wybierz Informacje o urządzeniu (link nad podsumowaniem testu), aby wyświetlanie informacji o urządzeniu, oprogramowaniu (marka, model, kompilacja oprogramowania układowego, platforma) i sprzęt urządzenia (rozdzielczość ekranu, klawiaturę, typ ekranu). CTS w wersji 2: wyświetlanie informacji o urządzeniu.

Podsumowanie testu

Sekcja Podsumowanie testu zawiera szczegóły dotyczące wykonanego planu testów, takie jak CTS. nazwę planu oraz godziny rozpoczęcia i zakończenia wykonywania. Przedstawia również dane zbiorcze podsumowanie liczby testów zaliczonych, niezaliczonych, przekraczających limit czasu lub testów, których nie można było .

Podsumowanie przykładowego testu CTS Androida 10

Podsumowanie testu CTS Androida 10

Rysunek 1. Podsumowanie przykładowego testu CTS Androida 10

Podsumowanie przykładowego testu CTS w wersji 2

Podsumowanie testu CTS wersja 2

Rysunek 2. Podsumowanie testu CTS w wersji 2

Podsumowanie przykładowego testu CTS w wersji 1

Podsumowanie testu CTS w wersji 1

Rysunek 3. Podsumowanie testu CTS w wersji 1

Raport z testu

W następnej sekcji, w raporcie z testu CTS, znajdziesz podsumowanie testów zaliczonych pakietu SDK.

Widoczne są informacje o faktycznie przeprowadzonych testach. Raport zawiera informacje o pakiecie testowym, pakiecie testowym, przypadku testu i wykonanych testach. Pokazuje wynik wykonania testu – zaliczono, nie powiódł się, przekroczono limit czasu lub nie został wykonany; W informacji o niepowodzeniu testu, które ułatwiają zdiagnozowanie przyczyny.

Zrzut stosu błędu jest dostępny w pliku XML, ale nie jest uwzględniono w raporcie w celu zapewnienia jego zwięzłości. Można wyświetlić plik XML w edytorze tekstu. powinien zawierać szczegółowe informacje o niepowodzeniu testu (wyszukaj tag [Test]). odpowiadające nieudanemu testowi i poszukaj w nim tagu [StackTrace]).

Pokaż przykładowy raport z testu CTS w wersji 2

Raport z testu CTS v2

Rysunek 4. Przykładowy raport z testu CTS w wersji 2

Pokaż przykładowy raport z testu CTS w wersji 1

Raport z testu CTS v1

Rysunek 5. Przykładowy raport z testu CTS w wersji 1

Przejrzyj plik test_result.xml pod kątem niekompletnych modułów testowych

Aby określić liczbę niekompletnych modułów w danej sesji testowej, uruchom polecenie polecenie „list results” („lista wyników”). Liczba ukończonych modułów i łączna liczba modułów wynosi dla każdej poprzedniej sesji. Aby określić, które moduły są ukończone, a które niekompletne, otwórz plik test_result.xml i odczytaj wartość „gotowe”. dla każdego modułu w raporcie o wynikach. Moduły z wartością wykonaną = „false” nie zostały jeszcze uruchomione w całości.

Niepowodzenia testów sklasyfikowania

Skorzystaj z podanych niżej sugestii, aby klasyfikować nieudane testy.

  • Zweryfikuj Środowisko CTS jest prawidłowo skonfigurowany, jeśli test kończy się niepowodzeniem z powodu nieprawidłowych warunków wstępnych. Obejmuje to środowisko fizyczne, konfigurację komputera Konfiguracja urządzenia z Androidem.
  • sprawdzić stabilność urządzenia, konfigurację testową ani problemy ze środowiskiem; jeśli test wykazuje nadmierną niestabilną wartość.
  • Jeśli problem nie ustąpi, ponów test odizolowany.
  • Sprawdź, czy nie wystąpiły czynniki zewnętrzne powodujące błędy, takie jak:
    • Konfiguracja środowiskowa. Na przykład błędnie skonfigurowany komputer może być przyczyną błędów testów na wszystkich urządzeniach Testy (DUT) (w tym urządzenia referencyjne).
    • Zależności zewnętrzne. Jeśli np. test zakończy się niepowodzeniem na wszystkich urządzeniach w wiele witryn zaczyna się w określonym momencie, nieprawidłowy adres URL może wina leży po jego stronie.
    • Jeśli numer DUT nie obejmuje papieru wartościowego , oznacza to, że spodziewany jest błąd jej testu zabezpieczeń.
  • Zweryfikuj i przeanalizuj różnice między urządzeniami z certyfikatem pozytywnym a niedziałającymi.
  • Przeanalizuj asercję, dziennik, raport o błędach Źródło CTS. W przypadku HostTest asercja i log mogą być bardzo ogólne, oraz sprawdzić i dołączyć dziennik urządzenia.
  • Prześlij poprawkę usprawniającą działanie testów, aby ograniczyć liczbę błędów podczas testów.

Zapisz częściowe wyniki

Tradefed nie zapisuje częściowych wyników testów, gdy wywołanie testu się nie uda.

Jeśli Tradefed nie generuje żadnych wyników testów, oznacza to, że wystąpił poważny problem pojawiło się podczas testu, a jego wynik był niewiarygodny. Częściowy wynik jest uważany za nieprzydatny, ponieważ nie ma wartości, gdy podczas analizowania problemu z urządzeniem.