如何在 Android 中获取视频文件的关键帧（同步帧）时间戳列表？

Question

是否有任何 API 可以为我提供 Android 中给定视频文件的关键帧的时间戳列表？

Answer 1

对于一个优雅的解决方案，似乎你需要使用ffmpeg for android来实现这一目标。 有人试过这样： 如何从android中的视频文件中获取帧 ; 并建议使用ffmpeg。

我检查了参考手册，但是只能找到一种方法来使用MediaMetadataRetriever（）获取关键帧本身（没有时间戳）相对于给定位置的时间，如下所述： http ： //developer.android.com/reference/android /media/MediaMetadataRetriever.html#extractMetadata%28int%29

如果您不想使用ffmpeg，可以尝试以下方法：

private ArrayList<int> getKeyFrameTimestamps(String filename) {
  ArrayList<int> timeStamps = new ArrayList<int>();

  try {
    MediaMetadataRetriever mRetriever = new MediaMetadataRetriever();
    mRetriever.setDataSource(getDataSource(filename));
    mRetriever.getFrameAtTime(i, MediaMetadataRetriever.OPTION_CLOSEST_SYNC);

    Bitmap lastFame = mRetriever.getFrameAtTime(0, MediaMetadataRetriever.OPTION_NEXT_SYNC);
    result.add(0);

    for(int time=1; frame ; ++time) {
      Bitmap frame = mRetriever.getFrameAtTime(time, MediaMetadataRetriever.OPTION_PREVIOUS_SYNC);
      if (frame && !frame.sameAs(lastFrame)) {
        result.add(time);
        lastFrame = frame;
      }
    }
  } catch (Exception e) {  /* TODO: HANDLE THIS */ }

  return timeStamps;
}

这当然不是很优雅，但可能没有麻烦安装ffmpeg ...它可能也很慢（我不知道）。 但也许这正是你所需要的。

PS：可以在这里找到适合您的问题的ffmpeg教程： http ： //dranger.com/ffmpeg/tutorial07.html

Answer 2

我相信正确答案是http://code.google.com/p/mp4parser/

isoparser API可以读写MP4文件结构。 它是处理所谓的盒子的低级工具，但它也像处理轨道和电影这样的结构。

不错的API和方法比ffmpeg庞然大物快得多

Answer 3

4.1+ - 比mp4parser更快，因为在本机底层完成，代码更清晰

mp4parser你必须从getsyncsamples + getsampledurations计算时间戳，这也是烦人的，它们与ffprobe不匹配。 这得到了准确的结果

MediaExtractor extractor = new MediaExtractor();
extractor.setDataSource(getVideoPath());

int trackindex = MediaExtractorUtil.selectVideoTrack(extractor);
extractor.selectTrack(trackindex);

while (extractor.getSampleTime() != -1) {
    long sampleTime = extractor.getSampleTime();

    // check not really necessary but JIC
    if ((extractor.getSampleFlags() & MediaExtractor.SAMPLE_FLAG_SYNC) > 0) {
        mKeyframeTimestampsMS.add(sampleTime / 1000);
    }

    extractor.seekTo(sampleTime + 1, MediaExtractor.SEEK_TO_NEXT_SYNC);
}

Answer 4

基于@ryan gordon 的解决方案。 即使指定了SEEK_TO_NEXT_SYNC ， seekTo也可能会搜索到同一帧。 为避免这种情况，您可以在帧开始重复时终止。

例如：

    private fun getSyncFrameTimestamps(source: MediaExtractor): List<Long> {
        val result = mutableListOf<Long>()

        var lastSampleTime = -1L
        var sampleTime = source.sampleTime

        while (sampleTime >= 0L && sampleTime != lastSampleTime) {
            if (source.sampleFlags and MediaExtractor.SAMPLE_FLAG_SYNC != 0) {
                result.add(sampleTime)
            }
            source.seekTo(sampleTime + 1L, MediaExtractor.SEEK_TO_NEXT_SYNC)
            lastSampleTime = sampleTime
            sampleTime = source.sampleTime
        }

        return result
    }

请注意，在调用此之前， source应设置数据源，并选择视频轨道。

Answer 5

使用MediaExtractor ，您可以在任何所需的时间拥有所有关键（同步）帧时间和/或任何特定关键帧。 +一些更有用的数据。

然后通过MediaMetadataRetriever - > getFrameAtTime，您可以获得帧位图。

这是使用MediaExtractor的示例代码：

    mediaExtractor = new MediaExtractor() ;
    mediaExtractor.setDataSource(mediaPath);
    int numTracks = mediaExtractor.getTrackCount();
    for (int i = 0; i < numTracks; ++i) {
        MediaFormat format = mediaExtractor.getTrackFormat(i);
        String mime = format.getString(MediaFormat.KEY_MIME);
        if ( mime.startsWith("video") ) {
            mediaExtractor.selectTrack(i);
        }
        Log.i( "LOG_Extractor" , "track "+i+" "+mime );
    }

    currentTime = mediaPlayer.getCurrentPosition();
    mediaExtractor.seekTo( (long)currentTime*1000 , MediaExtractor.SEEK_TO_PREVIOUS_SYNC );
    previousKeyFrameTimeMilis = mediaExtractor.getSampleTime() /1000 ;