ios - 多路复用 Annex B MPEG-TS 时 SPS 和 PPS 的音频等效？什么是 "DecoderInfo"？

Question

我正在使用 Bento4库将 Annex B TS(MPEG-2 传输流)文件与分别从 VideoToolbox 和 AVFoundation 生成的 h264 视频和 AAC 音频流复用，作为 HLS(HTTP 直播流)流的源数据。这个问题不一定是特定于 Bento4 的:我正在尝试理解基本概念以便完成任务，最好是使用 Apple 库。

到目前为止，我已经弄清楚了如何通过从我的 CMVideoFormatDescriptionRef 中获取各种数据来创建 AP4_AvcSampleDescription，最重要的是通过生成 SPS 和 PPS分别使用 CMVideoFormatDescriptionGetH264ParameterSetAtIndex 的索引 0 和 1，我可以将其作为字节缓冲区粘贴到 Bento4 中。太好了，这就是我需要的所有 header 信息，这样我就可以让 Bento4 将视频混合到 ts 文件中!

现在我正在尝试将音频混合到同一个文件中。我正在使用我的 CMAudioFormatDescriptionRef 获取构建我的 AP4_MpegAudioSampleDescription 所需的信息，Bento4 使用它来制作必要的 QT 原子和 header 。但是，如果字段是“解码器信息”字节缓冲区，则没有解释它是什么，也没有代码从数据生成一个。我希望有一个 CMAudioFormatDescriptionGetDecoderInfo 或其他东西，但我找不到类似的东西。任何Apple库中都有这样的功能吗？或者是否有一个很好的规范，但我还没有找到关于如何生成这些数据的规范？

或者，我是不是走错了路？有没有更简单的方法从 Mac/iOS 代码库 mux ts 文件？

Answer 1

将音频混合到 MPEG-TS 中非常容易，并且不需要像视频流那样的复杂 header !在将其写入 PES 之前，它只需要在每个样本缓冲区之前有一个 7 字节的 ADTS header 。

Bento4 仅使用“DecoderInfo”缓冲区将其解析为 AP4_Mp4AudioDecoderConfig 实例，以便它可以提取 ADTS header 所需的信息。我没有在获取这些数据时如此迂回，而是复制粘贴了 AP4_Mpeg2TsAudioSampleStream::WriteSample 以写入 CMSampleBufferRef。它可以很容易地推广到其他音频框架，但我将按原样粘贴在这里以供引用:

// These two functions are copy-pasted from Ap4Mpeg2Ts.cpp
static unsigned int GetSamplingFrequencyIndex(unsigned int sampling_frequency) { ... }
static void
MakeAdtsHeader(unsigned char *bits,
               size_t  frame_size,
               unsigned int  sampling_frequency_index,
               unsigned int  channel_configuration) { ... }

static const size_t kAdtsHeaderLength = 7;

- (void)appendAudioSampleBuffer2:(CMSampleBufferRef)sampleBuffer
{
    // Get the actual audio data from the block buffer.
    CMBlockBufferRef blockBuffer = CMSampleBufferGetDataBuffer(sampleBuffer);
    size_t blockBufferLength = CMBlockBufferGetDataLength(blockBuffer);

    // Get the audio meta-data from its AudioFormatDescRef
    CMAudioFormatDescriptionRef audioFormat = CMSampleBufferGetFormatDescription(sampleBuffer);
    const AudioStreamBasicDescription *asbd = CMAudioFormatDescriptionGetStreamBasicDescription(audioFormat);

    // These are the values we will need to build our ADTS header
    unsigned int sample_rate = asbd->mSampleRate;
    unsigned int channel_count = asbd->mChannelsPerFrame;
    unsigned int sampling_frequency_index = GetSamplingFrequencyIndex(sample_rate);
    unsigned int channel_configuration = channel_count;

    // Create a byte buffer with first the header, and then the sample data.
    NSMutableData *buffer = [NSMutableData dataWithLength:kAdtsHeaderLength + blockBufferLength];
    MakeAdtsHeader((unsigned char*)[buffer mutableBytes], blockBufferLength, sampling_frequency_index, channel_configuration);
    CMBlockBufferCopyDataBytes(blockBuffer, 0, blockBufferLength, ((char*)[buffer mutableBytes])+kAdtsHeaderLength);

    // Calculate a timestamp int64 that Bento4 can use, by converting our CMTime into an Int64 in the timescale of the audio stream.
    CMTime presentationTime = CMSampleBufferGetPresentationTimeStamp(sampleBuffer);
    AP4_UI64 ts = CMTimeConvertScale(presentationTime, _audioStream->m_TimeScale, kCMTimeRoundingMethod_Default).value;

    _audioStream->WritePES(
        (const unsigned char*)[buffer bytes],
        (unsigned int)[buffer length],
        ts,
        false, // don't need a decode timestamp for audio
        ts,
        true, // do write a presentation timestamp so we can sync a/v
        *_output
    );
}