前面介绍利用NVIDIA公司提供的CUVID库进行视频硬解码,下面将介绍利用DXVA进行硬解码。
一、DXVA介绍
DXVA是微软公司专门定制的视频加速规范,是一种接口规范。DXVA规范制定硬件加速解码可分四级:VLD,控制BitStream;IDCT,反余弦变换;Mocomp,运动补偿,Pixel Prediction;PostProc,显示后处理。其中,VLD加速等级最高,所以其包含IDCT、MoCoopm和PostProc;IDCT加速次之,包含MoCoopm和PostProc;最后MoComp加速仅包含PostProc。一款显卡芯片在硬件支持DXVA规范,并不代表它就实现了DXVA所有功能。DXVA_Checker可用于检测硬件所支持的等级,DXVA_Checker运行示意图如下所示。
二、使用FFmpeg中DXVA技术硬解码
基本思路:
1.根据FFmpeg对编码器的描述,实现自定义的硬解码器。
2.通过REGISTER_ENCODEC(X,x)将自定义的视频编码器添加到视频编解码器。
3.在视频解码,根据编码器ID或编码器名称找到视频编解码器中自定义的视频解码器。
4.利用自定义的视频解码器,解码视频。
其关键步骤是:自定义解码器的实现,需要参考FFmpeg源码中,解码器的定义和接口设计。
基于DXVA的自定义解码器实现
1.熟悉FFmpeg中编解码的组织方式
下图是ffmpeg编解码组织的简单示意图。
由示意图可知,编解码器由全局链表组织,可根据编码器的名称或ID,获取编解码器。
编解码器的具体编解码的具体工作,由编解码器定义的函数指针完成。
自定义解码器时,需要按照AVCodec结构体,定义解码器的属性,然后注册到全局编解码器链表中。
2.基于DXVA解码器的定义实现
ff_h264_dxva2_decoder的定义如下:
1 AVCodec ff_h264_dxva2_decoder = { 2 .name = "h264_dxva2", 3 .type = AVMEDIA_TYPE_VIDEO, 4 .id = AV_CODEC_ID_H264, 5 .priv_data_size = sizeof(DXVA2_DecoderContext), 6 .init = h264_dxva2dec_init, 7 .close = h264_dxva2dec_close, 8 .decode = h264_dxva2dec_decode, 9 .capabilities = CODEC_CAP_DELAY,10 .flush = h264_dxva2dec_flush,11 .long_name = NULL_IF_CONFIG_SMALL("H.264 (DXVA2 acceleration)"),12 };
ff_h264_dxva2_decoder的函数指针对应的函数定义如下:
1 static int h264_dxva2dec_decode(AVCodecContext *avctx, void *data, int *got_frame, 2 AVPacket *avpkt) 3 { 4 return ff_dxva2dec_decode(avctx,data,got_frame,avpkt,&ff_h264_decoder); 5 } 6 7 static av_cold int h264_dxva2dec_close(AVCodecContext *avctx) 8 { 9 return ff_dxva2dec_close(avctx,&ff_h264_decoder);10 }11 12 static av_cold int h264_dxva2dec_init(AVCodecContext *avctx)13 {14 return ff_dxva2dec_init(avctx,&ff_h264_dxva2_decoder,&ff_h264_decoder);15 }16 17 static void h264_dxva2dec_flush(AVCodecContext *avctx)18 {19 ff_dxva2dec_flush(avctx,&ff_h264_decoder);20 }
上述代码,只是ff_dxva2dec_init(),ff_dxva2dec_flush(),ff_dxva2dec_decode(),ff_dxva2dec_close()的封装,具体解码的实现,由ff_dxva2dec_xxx相关函数完成,其代码实现如下:
1 static int get_buffer(struct AVCodecContext *avctx, AVFrame *pic) 2 { 3 int ret; 4 DXVA2_DecoderContext *ctx = (DXVA2_DecoderContext *)avctx->priv_data; 5 dxva2_context *dxva2_ctx = &ctx->dxva2_ctx; 6 avctx->pix_fmt = ctx->pix_fmt; 7 ff_init_buffer_info(avctx, pic); 8 if ((ret = ctx->get_buffer(avctx,pic)) < 0) { 9 av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n"); 10 return ret; 11 } 12 if (dxva2_ctx) { 13 if (av_get_dxva2_surface(dxva2_ctx, pic)) { 14 av_log(NULL, AV_LOG_ERROR, "VaGrabSurface failed"); 15 return -1; 16 } 17 return 0; 18 } else { 19 av_log(NULL, AV_LOG_ERROR, "No dxva2 context, get buffer failed"); 20 return -1; 21 } 22 } 23 24 static void release_buffer(struct AVCodecContext *avctx, AVFrame *pic) 25 { 26 DXVA2_DecoderContext *ctx = (DXVA2_DecoderContext *)avctx->priv_data; 27 dxva2_context *dxva2_ctx = &ctx->dxva2_ctx; 28 if (dxva2_ctx) { 29 av_release_dxva2_surface(dxva2_ctx, pic); 30 } 31 ctx->release_buffer(avctx,pic); 32 for (int i = 0; i < 4; i++) 33 pic->data[i] = NULL; 34 } 35 36 static enum PixelFormat get_format(AVCodecContext *p_context, 37 const enum PixelFormat *pi_fmt) 38 { 39 return AV_PIX_FMT_DXVA2_VLD; 40 } 41 static int check_format(AVCodecContext *avctx) 42 { 43 uint8_t *pout; 44 int psize; 45 int index; 46 H264Context *h; 47 int ret = -1; 48 AVCodecParserContext *parser = NULL; 49 /* check if support */ 50 switch (avctx->codec_id) { 51 case AV_CODEC_ID_H264: 52 /* init parser & parse file */ 53 parser = av_parser_init(avctx->codec->id); 54 if (!parser) { 55 av_log(avctx, AV_LOG_ERROR, "Failed to open parser.\n"); 56 break; 57 } 58 parser->flags = PARSER_FLAG_COMPLETE_FRAMES; 59 index = av_parser_parse2(parser, avctx, &pout, &psize, NULL, 0, 0, 0, 0); 60 if (index < 0) { 61 av_log(avctx, AV_LOG_ERROR, "Failed to parse this file.\n"); 62 av_parser_close(parser); 63 } 64 h = parser->priv_data; 65 if (8 == h->sps.bit_depth_luma) { 66 if (!CHROMA444 && !CHROMA422) { 67 // only this will decoder switch to hwaccel 68 av_parser_close(parser); 69 ret = 0; 70 break; 71 } 72 } else { 73 av_log(avctx, AV_LOG_ERROR, "Unsupported file.\n"); 74 av_parser_close(parser); 75 break; 76 } 77 break; 78 case AV_CODEC_ID_MPEG2VIDEO: 79 if (CHROMA_420 == get_mpeg2_video_format(avctx)) { 80 ret = 0; 81 break; 82 } else { 83 av_log(avctx, AV_LOG_ERROR, "Unsupported file.\n"); 84 break; 85 } 86 default: 87 ret = 0; 88 break; 89 } 90 return ret; 91 } 92 93 int ff_dxva2dec_decode(AVCodecContext *avctx, void *data, int *got_frame, 94 AVPacket *avpkt,AVCodec *codec) 95 { 96 DXVA2_DecoderContext *ctx = (DXVA2_DecoderContext *)avctx->priv_data; 97 AVFrame *pic = data; 98 int ret; 99 ret = codec->decode(avctx, data, got_frame, avpkt);100 if (*got_frame) {101 pic->format = ctx->pix_fmt;102 av_extract_dxva2(&(ctx->dxva2_ctx),pic);103 }104 avctx->pix_fmt = ctx->pix_fmt;105 return ret;106 }107 108 int ff_dxva2dec_close(AVCodecContext *avctx,AVCodec *codec)109 {110 DXVA2_DecoderContext *ctx = avctx->priv_data;111 /* release buffers and decoder */112 av_release_dxva2(&ctx->dxva2_ctx);113 /* close decoder */114 codec->close(avctx);115 return 0;116 }117 118 119 int ff_dxva2dec_init(AVCodecContext *avctx,AVCodec *hwcodec,AVCodec *codec)120 {121 DXVA2_DecoderContext *ctx = (DXVA2_DecoderContext *)avctx->priv_data;122 dxva2_context *dxva2_ctx = (dxva2_context *)(&ctx->dxva2_ctx);123 int ret;124 ctx->initialized = 0;125 /* init pix_fmts of codec */126 if (!(hwcodec->pix_fmts)) {127 hwcodec->pix_fmts = dxva2_pixfmts;128 }129 /* check if DXVA2 supports this file */130 if (check_format(avctx) < 0)131 goto failed;132 133 /* init vda */134 memset(dxva2_ctx, 0, sizeof(dxva2_context));135 ret = av_create_dxva2(avctx->codec_id,dxva2_ctx);136 if (ret < 0) {137 av_log(NULL,AV_LOG_ERROR,"create dxva2 error\n");138 return 0;139 }140 ctx->pix_fmt = avctx->get_format(avctx, avctx->codec->pix_fmts);141 ret = av_setup_dxva2(dxva2_ctx, &avctx->hwaccel_context, &avctx->pix_fmt, avctx->width, avctx->height);142 if (ret < 0) {143 av_log(NULL,AV_LOG_ERROR,"error DXVA setup %d\n", ret);144 goto failed;145 }146 /* changes callback functions */147 ctx->get_buffer = avctx->get_buffer;148 avctx->get_format = get_format;149 avctx->get_buffer = get_buffer;150 avctx->release_buffer = release_buffer;151 /* init decoder */152 ret = codec->init(avctx);153 if (ret < 0) {154 av_log(avctx, AV_LOG_ERROR, "Failed to open decoder.\n");155 goto failed;156 }157 ctx->initialized = 1;158 return 0;159 failed:160 ff_dxva2dec_close(avctx,codec);161 return -1;162 }163 164 void ff_dxva2dec_flush(AVCodecContext *avctx,AVCodec *codec)165 {166 return codec->flush(avctx);167 }
其中,在ff_dxva2dec_init()函数中,利用av_create_dxva2()函数创建dxva2_context,av_setup_dxva2()设置dxva2_context。
在ff_dxva2dec_close()函数中,利用av_release_dxva2()释放dxva2_context。
av_xxx_dxva2()相关函数,主要利用DXVA2的API接口,创建dxva2的上下文,并进行管理。
总体而言,经过四次封装,形成方便的硬解码接口。
DXVA2 API接口 ---> av_xxx_dxva2 ---> ff_dxva2dec_xxx ---> h264_dxva2dec_xxx ---> ff_h264_dxva2_decoder
参考资料: