Менеджер TV Input Framework (TIF) работает с API маршрутизации аудио, чтобы поддерживать гибкие изменения аудиопути. Когда процессор (SoC) реализует аппаратно-зависимый уровень (HAL) телевизора, каждый вход телевизора (HDMI IN, тюнер и т. д.) предоставляет TvInputHardwareInfo, в котором указана информация AudioPort для типа и адреса аудио.
- Физические устройства ввода-вывода аудио имеют соответствующий AudioPort.
- Аудиовходные и аудиовыходные потоки программного обеспечения представлены как AudioMixPort (дочерний класс AudioPort).
Затем TIF использует информацию AudioPort для API маршрутизации аудио.
Рисунок 1. TV Input Framework (TIF)
Требования
Система на кристалле должна реализовывать HAL аудио с поддержкой следующих API маршрутизации аудио:
| Аудиопорты |
|
|---|---|
| Вход по умолчанию | AudioRecord (созданный с источником входного сигнала DEFAULT) должен захватить виртуальный нулевой источник входного сигнала для получения AUDIO_DEVICE_IN_DEFAULT на Android TV. |
| Обратная связь устройства | Требуется поддержка входа AUDIO_DEVICE_IN_LOOPBACK, который представляет собой полный микс всех аудиовыходов всех выходов телевизора (11 кГц, 16-битное моно или 48 кГц, 16-битное моно). Используется только для записи аудио. |
Аудиоустройства для телевизоров
Android поддерживает следующие аудиоустройства для ввода и вывода звука на телевизоре.
system/media/audio/include/system/audio.h
Примечание. В Android 5.1 и более ранних версий путь к этому файлу следующий: system/core/include/system/audio.h.
/* output devices */ AUDIO_DEVICE_OUT_AUX_DIGITAL = 0x400, AUDIO_DEVICE_OUT_HDMI = AUDIO_DEVICE_OUT_AUX_DIGITAL, /* HDMI Audio Return Channel */ AUDIO_DEVICE_OUT_HDMI_ARC = 0x40000, /* S/PDIF out */ AUDIO_DEVICE_OUT_SPDIF = 0x80000, /* input devices */ AUDIO_DEVICE_IN_AUX_DIGITAL = AUDIO_DEVICE_BIT_IN | 0x20, AUDIO_DEVICE_IN_HDMI = AUDIO_DEVICE_IN_AUX_DIGITAL, /* TV tuner input */ AUDIO_DEVICE_IN_TV_TUNER = AUDIO_DEVICE_BIT_IN | 0x4000, /* S/PDIF in */ AUDIO_DEVICE_IN_SPDIF = AUDIO_DEVICE_BIT_IN | 0x10000, AUDIO_DEVICE_IN_LOOPBACK = AUDIO_DEVICE_BIT_IN | 0x40000,
Расширение Audio HAL
Расширение Audio HAL для API маршрутизации аудио определяется следующим образом:
system/media/audio/include/system/audio.h
Примечание. В Android 5.1 и более ранних версий путь к этому файлу следующий: system/core/include/system/audio.h.
/* audio port configuration structure used to specify a particular configuration of an audio port */
struct audio_port_config {
audio_port_handle_t id; /* port unique ID */
audio_port_role_t role; /* sink or source */
audio_port_type_t type; /* device, mix ... */
unsigned int config_mask; /* e.g. AUDIO_PORT_CONFIG_ALL */
unsigned int sample_rate; /* sampling rate in Hz */
audio_channel_mask_t channel_mask; /* channel mask if applicable */
audio_format_t format; /* format if applicable */
struct audio_gain_config gain; /* gain to apply if applicable */
union {
struct audio_port_config_device_ext device; /* device specific info */
struct audio_port_config_mix_ext mix; /* mix specific info */
struct audio_port_config_session_ext session; /* session specific info */
} ext;
};
struct audio_port {
audio_port_handle_t id; /* port unique ID */
audio_port_role_t role; /* sink or source */
audio_port_type_t type; /* device, mix ... */
unsigned int num_sample_rates; /* number of sampling rates in following array */
unsigned int sample_rates[AUDIO_PORT_MAX_SAMPLING_RATES];
unsigned int num_channel_masks; /* number of channel masks in following array */
audio_channel_mask_t channel_masks[AUDIO_PORT_MAX_CHANNEL_MASKS];
unsigned int num_formats; /* number of formats in following array */
audio_format_t formats[AUDIO_PORT_MAX_FORMATS];
unsigned int num_gains; /* number of gains in following array */
struct audio_gain gains[AUDIO_PORT_MAX_GAINS];
struct audio_port_config active_config; /* current audio port configuration */
union {
struct audio_port_device_ext device;
struct audio_port_mix_ext mix;
struct audio_port_session_ext session;
} ext;
};
hardware/libhardware/include/hardware/audio.h
struct audio_hw_device {
:
/**
* Routing control
*/
/* Creates an audio patch between several source and sink ports.
* The handle is allocated by the HAL and should be unique for this
* audio HAL module. */
int (*create_audio_patch)(struct audio_hw_device *dev,
unsigned int num_sources,
const struct audio_port_config *sources,
unsigned int num_sinks,
const struct audio_port_config *sinks,
audio_patch_handle_t *handle);
/* Release an audio patch */
int (*release_audio_patch)(struct audio_hw_device *dev,
audio_patch_handle_t handle);
/* Fills the list of supported attributes for a given audio port.
* As input, "port" contains the information (type, role, address etc...)
* needed by the HAL to identify the port.
* As output, "port" contains possible attributes (sampling rates, formats,
* channel masks, gain controllers...) for this port.
*/
int (*get_audio_port)(struct audio_hw_device *dev,
struct audio_port *port);
/* Set audio port configuration */
int (*set_audio_port_config)(struct audio_hw_device *dev,
const struct audio_port_config *config);
Тестирование DEVICE_IN_LOOPBACK
Чтобы протестировать DEVICE_IN_LOOPBACK для отслеживания телевизоров, используйте следующий код. После тестирования записанный звук сохраняется в /sdcard/record_loopback.raw, где его можно прослушать с помощью FFmpeg.
<uses-permission android:name="android.permission.MODIFY_AUDIO_ROUTING" />
<uses-permission android:name="android.permission.WRITE_EXTERNAL_STORAGE" />
AudioRecord mRecorder;
Handler mHandler = new Handler();
int mMinBufferSize = AudioRecord.getMinBufferSize(RECORD_SAMPLING_RATE,
AudioFormat.CHANNEL_IN_MONO,
AudioFormat.ENCODING_PCM_16BIT);;
static final int RECORD_SAMPLING_RATE = 48000;
public void doCapture() {
mRecorder = new AudioRecord(MediaRecorder.AudioSource.DEFAULT, RECORD_SAMPLING_RATE,
AudioFormat.CHANNEL_IN_MONO, AudioFormat.ENCODING_PCM_16BIT, mMinBufferSize * 10);
AudioManager am = (AudioManager) getSystemService(Context.AUDIO_SERVICE);
ArrayList<AudioPort> audioPorts = new ArrayList<AudioPort>();
am.listAudioPorts(audioPorts);
AudioPortConfig srcPortConfig = null;
AudioPortConfig sinkPortConfig = null;
for (AudioPort audioPort : audioPorts) {
if (srcPortConfig == null
&& audioPort.role() == AudioPort.ROLE_SOURCE
&& audioPort instanceof AudioDevicePort) {
AudioDevicePort audioDevicePort = (AudioDevicePort) audioPort;
if (audioDevicePort.type() == AudioManager.DEVICE_IN_LOOPBACK) {
srcPortConfig = audioPort.buildConfig(48000, AudioFormat.CHANNEL_IN_DEFAULT,
AudioFormat.ENCODING_DEFAULT, null);
Log.d(LOG_TAG, "Found loopback audio source port : " + audioPort);
}
}
else if (sinkPortConfig == null
&& audioPort.role() == AudioPort.ROLE_SINK
&& audioPort instanceof AudioMixPort) {
sinkPortConfig = audioPort.buildConfig(48000, AudioFormat.CHANNEL_OUT_DEFAULT,
AudioFormat.ENCODING_DEFAULT, null);
Log.d(LOG_TAG, "Found recorder audio mix port : " + audioPort);
}
}
if (srcPortConfig != null && sinkPortConfig != null) {
AudioPatch[] patches = new AudioPatch[] { null };
int status = am.createAudioPatch(
patches,
new AudioPortConfig[] { srcPortConfig },
new AudioPortConfig[] { sinkPortConfig });
Log.d(LOG_TAG, "Result of createAudioPatch(): " + status);
}
mRecorder.startRecording();
processAudioData();
mRecorder.stop();
mRecorder.release();
}
private void processAudioData() {
OutputStream rawFileStream = null;
byte data[] = new byte[mMinBufferSize];
try {
rawFileStream = new BufferedOutputStream(
new FileOutputStream(new File("/sdcard/record_loopback.raw")));
} catch (FileNotFoundException e) {
Log.d(LOG_TAG, "Can't open file.", e);
}
long startTimeMs = System.currentTimeMillis();
while (System.currentTimeMillis() - startTimeMs < 5000) {
int nbytes = mRecorder.read(data, 0, mMinBufferSize);
if (nbytes <= 0) {
continue;
}
try {
rawFileStream.write(data);
} catch (IOException e) {
Log.e(LOG_TAG, "Error on writing raw file.", e);
}
}
try {
rawFileStream.close();
} catch (IOException e) {
}
Log.d(LOG_TAG, "Exit audio recording.");
}
Найдите записанный аудиофайл в папке /sdcard/record_loopback.raw и прослушайте его с помощью FFmpeg:
adb pull /sdcard/record_loopback.rawffmpeg -f s16le -ar 48k -ac 1 -i record_loopback.raw record_loopback.wavffplay record_loopback.wav
Примеры использования
В этом разделе приведены распространенные сценарии использования аудио с телевизора.
ТВ-тюнер с выходом на колонки
Когда ТВ-тюнер становится активным, API маршрутизации аудио создает аудиопатч между тюнером и выходом по умолчанию (например, динамиком). Выход тюнера не требует декодирования, но окончательный аудиовыход смешивается с выходным потоком программного обеспечения.
Рисунок 2. Аудиопатч для ТВ-тюнера с выходом на динамик.
HDMI OUT во время трансляции телепередач
Пользователь смотрит телепередачу, а затем переключается на аудиовыход HDMI (Intent.ACTION_HDMI_AUDIO_PLUG). Устройство вывода всех выходных потоков меняется на порт HDMI_OUT, а менеджер TIF меняет порт приемника существующего аудиопатча тюнера на порт HDMI_OUT.
Рисунок 3. Аудиопатч для HDMI OUT с онлайн-телевидения.