図面 (/)

技術 画像復号装置および方法

出願人 ソニー株式会社
発明者 荒木祐一
出願日 2015年3月17日 (6年1ヶ月経過) 出願番号 2016-511513
公開日 2017年4月13日 (4年0ヶ月経過) 公開番号 WO2015-151791
状態 特許登録済
技術分野 TV信号の圧縮,符号化方式
主要キーワード ディスプレイエンジン フィルタ制御情報 アナログ入出力端子 ナルユニット デコードエンジン ビデオモジュール 組み込みプログラム ビデオパラメータ
関連する未来課題
重要な関連分野

この項目の情報は公開日時点(2017年4月13日)のものです。
また、この項目は機械的に抽出しているため、正しく解析できていない場合があります

図面 (20)

課題・解決手段

本開示は、復号処理負荷の増大を抑制することができるようにする画像復号装置および方法に関する。画像データが符号化された符号化データを再帰的に分割されたCU(Coding Unit)毎に復号することにより、復号画像データを生成する復号部と、前記符号化データのヘッダ情報に対応するデータ単位毎に設定された情報に応じて、前記復号部により生成された前記復号画像データに対してフィルタ処理を行うフィルタ処理部とを備えるようにする。本開示は、例えば、画像復号装置等に適用することができる。

概要

背景

動画像符号化効率の向上を目的として、HEVC(High Efficiency Video Coding)と呼ばれる符号化方式標準化が進められておりバージョン1(version 1)の策定は既に完了している(例えば、非特許文献1参照)。

概要

本開示は、復号処理負荷の増大を抑制することができるようにする画像復号装置および方法に関する。画像データが符号化された符号化データを再帰的に分割されたCU(Coding Unit)毎に復号することにより、復号画像データを生成する復号部と、前記符号化データのヘッダ情報に対応するデータ単位毎に設定された情報に応じて、前記復号部により生成された前記復号画像データに対してフィルタ処理を行うフィルタ処理部とを備えるようにする。本開示は、例えば、画像復号装置等に適用することができる。

目的

効果

実績

技術文献被引用数
0件
牽制数
0件

この技術が所属する分野

(分野番号表示ON)※整理標準化データをもとに当社作成

ライセンス契約や譲渡などの可能性がある特許掲載中! 開放特許随時追加・更新中 詳しくはこちら

請求項1

画像データが符号化された符号化データを再帰的に分割されたCU(Coding Unit)毎に復号することにより、復号画像データを生成する復号部と、前記符号化データのヘッダ情報に対応するデータ単位毎に設定された情報に応じて、前記復号部により生成された前記復号画像データに対してフィルタ処理を行うフィルタ処理部とを備える画像復号装置

請求項2

前記フィルタ処理部は、前記フィルタ処理を行う際に参照するCU単位毎に設定された情報に対する参照をスキップして、前記復号画像データに対して前記フィルタ処理を行う請求項1に記載の画像復号装置。

請求項3

前記フィルタ処理部は、前記ヘッダ情報の値に対する条件がCU単位毎に設定された情報を参照する必要がないことを示す場合、前記フィルタ処理を行う際に参照するCU単位毎に設定された情報に対する参照をスキップする請求項2に記載の画像復号装置。

請求項4

前記フィルタ処理部は、CTB(Coding Tree Block)単位で、前記復号画像データに対してフィルタ処理を行う請求項3に記載の画像復号装置。

請求項5

前記フィルタ処理部は、前記フィルタ処理として、デブロッキングフィルタ処理を行う請求項3に記載の画像復号装置。

請求項6

前記フィルタ処理部は、前記条件として以下の式を満たす場合に、前記フィルタ処理を行う際に参照するCU単位毎に設定された情報に対する参照をスキップする:pcm_loop_filter_disabled_flag == 0transquant_bypass_enabled_flag ==0cu_qp_delta_enabled_flag == 0請求項5に記載の画像復号装置。

請求項7

前記フィルタ処理部は、ピクチャが1つのスライスで構成される場合に、前記フィルタ処理を行う際に参照するCU単位毎に設定された情報に対する参照をスキップする請求項6に記載の画像復号装置。

請求項8

前記フィルタ処理部は、ピクチャが複数のスライスで構成される場合に、ピクチャ内の各スライスヘッダのslice_qp_deltaが同じ場合に、前記フィルタ処理を行う際に参照するCU単位毎に設定された情報に対する参照をスキップする請求項6に記載の画像復号装置。

請求項9

前記フィルタ処理部は、前記フィルタ処理として、サンプルアダプティオフセット処理を行う請求項3に記載の画像復号装置。

請求項10

前記フィルタ処理部は、前記条件として以下の式を満たす場合に、前記フィルタ処理を行う際に参照するCU単位毎に設定された情報に対する参照をスキップする:pcm_loop_filter_disabled_flag == 0transquant_bypass_enabled_flag ==0請求項9に記載の画像復号装置。

請求項11

画像データが符号化された符号化データを再帰的に分割されたCU(Coding Unit)毎に復号することにより、復号画像データを生成し、前記符号化データのヘッダ情報に対応するデータ単位毎に設定された情報に応じて、生成された前記復号画像データに対してフィルタ処理を行う画像復号方法

技術分野

0001

本開示は、画像復号装置および方法に関し、特に、復号処理負荷の増大を抑制することができるようにした画像復号装置および方法に関する。

背景技術

0002

動画像符号化効率の向上を目的として、HEVC(High Efficiency Video Coding)と呼ばれる符号化方式標準化が進められておりバージョン1(version 1)の策定は既に完了している(例えば、非特許文献1参照)。

先行技術

0003

Benjamin Bross, Gary J. Sullivan, Ye-Kui Wang, "Editors' proposed corrections toHEVC version 1", JCTVC-M0432_v3, 2013/4/25

発明が解決しようとする課題

0004

そのバージョン1では、8x8, 16x16, 32x32, 64x64のコーディングユニット(CU(Coding Unit))ごとにロスレスで符号化することが可能で、その場合は、デブロッキングフィルタ(Deblocking filter)やサンプルアダプティオフセット(SAO(Sample Adaptive Offset))等のループフィルタ(loop filter)処理によってピクセルの値を変えてはいけない。また、Coding Unit ごとに量子化パラメータ(Qp)を変えることが可能であり、コーディングユニット同士の境界エッジ(edge)に対してデブロッキングフィルタ処理を行う場合、各コーディングユニットの量子化パラメータ(Qp)の値を参照しなければならない。

0005

そのため、ループフィルタ処理においては 各コーディングユニットの情報を参照しなければならず、復号処理の負荷が増大するおそれがあった。

0006

本開示は、このような状況に鑑みてなされたものであり、復号処理の負荷の増大を抑制することができるようにするものである。

課題を解決するための手段

0007

本技術の一側面は、画像データが符号化された符号化データを再帰的に分割されたCU(Coding Unit)毎に復号することにより、復号画像データを生成する復号部と、前記符号化データのヘッダ情報に対応するデータ単位毎に設定された情報に応じて、前記復号部により生成された前記復号画像データに対してフィルタ処理を行うフィルタ処理部とを備える画像復号装置である。

0008

前記フィルタ処理部は、前記フィルタ処理を行う際に参照するCU単位毎に設定された情報に対する参照をスキップして、前記復号画像データに対して前記フィルタ処理を行うことができる。

0009

前記フィルタ処理部は、前記ヘッダ情報の値に対する条件がCU単位毎に設定された情報を参照する必要がないことを示す場合、前記フィルタ処理を行う際に参照するCU単位毎に設定された情報に対する参照をスキップすることができる。

0010

前記フィルタ処理部は、CTB(Coding Tree Block)単位で、前記復号画像データに対してフィルタ処理を行うことができる。

0011

前記フィルタ処理部は、前記フィルタ処理として、デブロッキングフィルタ処理を行うことができる。

0012

前記フィルタ処理部は、前記条件として以下の式を満たす場合に、前記フィルタ処理を行う際に参照するCU単位毎に設定された情報に対する参照をスキップすることができる。
pcm_loop_filter_disabled_flag == 0
transquant_bypass_enabled_flag ==0
cu_qp_delta_enabled_flag == 0

0013

前記フィルタ処理部は、ピクチャが1つのスライスで構成される場合に、前記フィルタ処理を行う際に参照するCU単位毎に設定された情報に対する参照をスキップすることができる。

0014

前記フィルタ処理部は、ピクチャが複数のスライスで構成される場合に、ピクチャ内の各スライスヘッダのslice_qp_deltaが同じ場合に、前記フィルタ処理を行う際に参照するCU単位毎に設定された情報に対する参照をスキップすることができる。

0015

前記フィルタ処理部は、前記フィルタ処理として、サンプルアダプティブオフセット処理を行うことができる。

0016

前記フィルタ処理部は、前記条件として以下の式を満たす場合に、前記フィルタ処理を行う際に参照するCU単位毎に設定された情報に対する参照をスキップすることができる。
pcm_loop_filter_disabled_flag == 0
transquant_bypass_enabled_flag ==0

0017

本技術の一側面は、また、画像データが符号化された符号化データを再帰的に分割されたCU(Coding Unit)毎に復号することにより、復号画像データを生成し、前記符号化データのヘッダ情報に対応するデータ単位毎に設定された情報に応じて、生成された前記復号画像データに対してフィルタ処理を行う画像復号方法である。

0018

本技術の一側面においては、画像データが符号化された符号化データが再帰的に分割されたCU(Coding Unit)毎に復号されることにより、復号画像データが生成され、符号化データのヘッダ情報に対応するデータ単位毎に設定された情報に応じて、生成された復号画像データに対してフィルタ処理が行われる。

発明の効果

0019

本開示によれば、画像データが符号化された符号化データを復号することができる。特に、復号処理の負荷の増大を抑制することができる。

図面の簡単な説明

0020

コーディングユニットの構成例を説明する図である。
コーディングユニット単位の情報の例を説明する図である。
コーディングユニット単位の情報の例を説明する図である。
画像復号装置の主な構成例を示すブロック図である。
シーケンスパラメータセットシンタクスの例を示す図である。
シーケンスパラメータセットのシンタクスの例を示す図である。
フィルタ制御部の主な構成例を示すブロック図である。
ピクチャパラメータセットのシンタクスの例を示す図である。
ピクチャパラメータセットのシンタクスの例を示す図である。
スライスヘッダのシンタクスの例を示す図である。
スライスヘッダのシンタクスの例を示す図である。
スライスヘッダのシンタクスの例を示す図である。
ループフィルタの主な構成例を示すブロック図である。
コーディングユニットのシンタクスの例を示す図である。
コーディングユニットのシンタクスの例を示す図である。
復号処理の流れの例を説明するフローチャートである。
フィルタ制御情報生成処理の流れの例を説明するフローチャートである。
デブロッキングフィルタ用制御情報生成処理の流れの例を説明するフローチャートである。
SAO用制御情報生成処理の流れの例を説明するフローチャートである。
ループフィルタ処理の流れの例を説明するフローチャートである。
デブロッキングフィルタ処理の流れの例を説明するフローチャートである。
CU単位デブロッキングフィルタ処理の流れの例を説明するフローチャートである。
CTB単位デブロッキングフィルタ処理の流れの例を説明するフローチャートである。
SAO処理の流れの例を説明するフローチャートである。
CU単位SAO処理の流れの例を説明するフローチャートである。
CTB単位SAO処理の流れの例を説明するフローチャートである。
多視点画像符号化方式の例を示す図である。
本技術を適用した多視点画像符号化装置の主な構成例を示す図である。
本技術を適用した多視点画像復号装置の主な構成例を示す図である。
階層画像符号化方式の例を示す図である。
本技術を適用した階層画像符号化装置の主な構成例を示す図である。
本技術を適用した階層画像復号装置の主な構成例を示す図である。
コンピュータの主な構成例を示すブロック図である。
テレビジョン装置の概略的な構成の一例を示すブロック図である。
携帯電話機の概略的な構成の一例を示すブロック図である。
記録再生装置の概略的な構成の一例を示すブロック図である。
撮像装置の概略的な構成の一例を示すブロック図である。
ビデオセットの概略的な構成の一例を示すブロック図である。
ビデオプロセッサの概略的な構成の一例を示すブロック図である。
ビデオプロセッサの概略的な構成の他の例を示すブロック図である。

実施例

0021

以下、本開示を実施するための形態(以下実施の形態とする)について説明する。なお、説明は以下の順序で行う。
1.第1の実施の形態(画像復号装置)
2.第2の実施の形態(多視点画像復号装置)
3.第3の実施の形態(階層画像復号装置)
4.第4の実施の形態(コンピュータ)
5.第5の実施の形態(応用例)
6.第6の実施の形態(セット・ユニットモジュールプロセッサ

0022

<1.第1の実施の形態>
<HEVC>
HEVCでは固定サイズ符号化単位としてコーディングツリーブロック(CTB(Coding tree block))が定義されている。1ピクチャの画像データは、そのCTBで分割されて符号化されており、デコーダにおいては、各CTBの符号化データが順に復号される。そのCTBはさらに8x8, 16x16, 32x32, 64x64のコーディングユニット(CU(Coding Unit))に分割することが可能である。

0023

図1は、CUの分割例である。図1の例の場合では、1CTBが19個のCUに分割されている。

0024

ところで、シーケンスパラメータセット(SPS(Sequence Parameter Set))において、PCMが存在するか否かを示すフラグ情報であるpcm_enabled_flagが「0」の場合、そのSPSに含まれる、PCMが有効のときループフィルタを無効にするか否かを示すフラグ情報であるpcm_loop_filter_disabled_flagの値は暗黙的に「0」となる。また、そのシーケンス内のCUに含まれる、そのCUにおいてpcm_sampleおよびtransform_treeのシンタクス構造が存在するか否かを示すフラグ情報であるpcm_flagの値も暗黙的に「0」となる。

0025

これに対して、pcm_enabled_flag = 1の場合、pcm_loop_filter_disabled_flagが存在し、CU毎にpcm_flagが存在する。

0026

同様に、ピクチャパラメータセット(PPS(Picture Parameter Set))において、transquant_bypass_enabled_flagの値が「1」の場合、CUごとに、そのCUにおいてスケーリング変換処理、ループフィルタをスキップするか否かを示すフラグ情報であるcu_transquant_bypass_flag が存在する。

0027

図2は、pcm_flag = 1やcu_transquant_bypass_flag = 1であるCUが存在する場合の、CTBの構成例を示す図である。図2の例の場合、CU4のpcm_flagが「1」であり、CU10のcu_transquant_bypass_flagが「1」である。

0028

pcm_loop_filter_disabled_flag = 1かつpcm_flag = 1のCU(すなわち、PCMデータのCU)や、cu_transquant_bypass_flag = 1のCU(ロスレスのCU)に対して、デブロッキングフィルタやサンプルアダプティブオフセット(SAO(Sample Adaptive Offset))の処理を行う場合、HEVCの規格としてそのCU内のピクセル値を変えてはいけない。すなわち、これらのCU内のピクセル値は、フィルタ処理がかけられた後、フィルタ処理を行う前の値に戻される。

0029

また、PPSにおいて、このPPSに、輝度信号符号化ツリーブロックサイズとcu_qp_delta_absとcu_qp_delta_sign_flagを含む最小の符号化ユニットサイズとの差分を示すdiff_cu_qp_delta_depthが存在するか否か、かつ、変換ユニット(TU(Transform Unit))に、カレント符号化ユニットの量子化パラメータとその予測値との差分値を示すcu_qp_delta_absが存在し得るか否かを示すフラグ情報であるcu_qp_delta_enabled_flagが「1」の場合、CU毎に、量子化パラメータQpYを変えることができる。

0030

図3は、CU毎にそのQpYの値が変わる例を示す図である。ここではCU4, CU9, CU10のQpYがそれぞれ10, 20, 15であり、デブロッキングフィルタの処理で計算されるqPL= ( ( QpQ + QpP + 1 ) >> 1 ) の値はCUの境界ごとに異なる値となる。

0031

図2図3のような場合においてデブロッキングフィルタ処理を行うときは、CU単位でpcm_flag, cu_transquant_bypass_flag, QpYを取得し、処理に利用する必要がある。また、図2図3のような場合においてSAO処理を行うときは、CU単位で pcm_flag, cu_transquant_bypass_flagを取得し、処理に利用する必要がある。

0032

図1に示されるように、CTBには、すなわち、ピクチャには、多数のCUを形成することができるので、このように各CUの情報を参照すると、フィルタ処理の負荷が増大するおそれがあった。

0033

換言するに、ピクチャ内の全CUについて、pcm_flag = 0, cu_transquant_bypass_flag = 0, QpY =固定値であれば、デブロッキングフィルタ処理やSAO処理において、これらのCU単位の情報を参照する必要は無く、フィルタ処理の負荷の増大を抑制することができる。

0034

<フィルタ制御>
そこで、符号化データのヘッダ情報に対応するデータ単位毎に設定された情報に応じて、画像データが符号化された符号化データを再帰的に分割されたCU(Coding Unit)毎に復号することにより生成された復号画像データに対してフィルタ処理を行うようにする。このようにすることにより、不要に小さなデータ単位の情報を用いることを抑制することができ、復号処理の負荷の増大を抑制することができる。

0035

ヘッダ情報とは、各階層(シーケンス/ピクチャ/スライス/タイル/最大符号化単位/符号化単位等)に対して、各階層に設定されたデータに先立ってパース(参照する)情報又は各階層に設定されたデータとは独立してパース(参照する)情報を意味する。例えば、ビデオパラメータセット(VPS(Video Parameter Set))、シーケンスパラメータセット(SPS(Sequence Parameter Set))、ピクチャパラメータセット(PPS(Picture Parameter Set))、スライスヘッダ(Slice Header)、ナルユニットタイプ(nal_unit_typ)、SEI(Supplemental Enhancement Information)等の情報がヘッダ情報に該当する。ヘッダ情報は、ビットストリームのシンタクスとして明示的に定義された情報だけではなく、各階層の先頭に位置する情報も含む。

0036

<画像復号装置>
図4は、本技術を適用した画像処理装置の一態様である画像復号装置の主な構成例を示すブロック図である。図4に示される画像復号装置100は、図示せぬ画像符号化装置が画像データをHEVC符号化方式により符号化して生成した符号化データを復号する。

0037

図4に示されるように画像復号装置100は、蓄積バッファ111、可逆復号部112、逆量子化部113、逆直交変換部114、演算部115、ループフィルタ116、および画面並替えバッファ117を有する。また、画像復号装置100は、フレームメモリ118、イントラ予測部119、インター予測部120、および予測画像選択部121を有する。さらに、画像復号装置100は、フィルタ制御部122を有する。

0038

蓄積バッファ111は、符号化側から伝送されてきた符号化データを受け取る受け取り部でもある。蓄積バッファ111は、その伝送されてきた符号化データを受け取って、蓄積し、所定のタイミングにおいてその符号化データを可逆復号部112に供給する。可逆復号部112は、蓄積バッファ111より供給された符号化データをHEVC方式で復号する。例えば、可逆復号部112は、その符号化データを再帰的に分割されたCU(Coding Unit)毎に復号する。可逆復号部112は、復号して得られた量子化された係数データを、逆量子化部113に供給する。

0039

また、可逆復号部112は、符号化データに付加された最適な予測モードに関する情報に基づいて、最適な予測モードとしてイントラ予測モードが選択されたかインター予測モードが選択されたかを判定し、その最適な予測モードに関する情報を、イントラ予測部119およびインター予測部120の内、選択されたと判定したモードの方に供給する。例えば符号化側において最適な予測モードとしてイントラ予測モードが選択された場合、その最適な予測モードに関する情報がイントラ予測部119に供給される。また、例えば符号化側において最適な予測モードとしてインター予測モードが選択された場合、その最適な予測モードに関する情報がインター予測部120に供給される。

0040

さらに、可逆復号部112は、例えば、量子化行列や量子化パラメータ等の、逆量子化に必要な情報を逆量子化部113に供給する。

0041

また、可逆復号部112は、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、スライスヘッダ等のヘッダ情報を、フィルタ制御部122に供給する。

0042

逆量子化部113は、可逆復号部112により復号されて得られた量子化された係数データを、符号化側の量子化方式に対応する方式で逆量子化する。逆量子化部113は、得られた係数データを逆直交変換部114に供給する。

0043

逆直交変換部114は、逆量子化部113から供給される直交変換係数を、符号化側の直交変換方式に対応する方式で逆直交変換する。逆直交変換部114は、この逆直交変換処理により、符号化側において直交変換される前の状態に対応する残差データを得る。逆直交変換されて得られた残差データは、演算部115に供給される。

0044

演算部115は、逆直交変換部114から残差データを取得する。また、演算部115は、予測画像選択部121を介して、イントラ予測部119若しくはインター予測部120から予測画像を取得する。演算部115は、差分画像と予測画像とを加算し、符号化側において予測画像が減算される前の画像に対応する再構成画像を得る。演算部115は、その再構成画像をループフィルタ116およびイントラ予測部119に供給する。

0045

ループフィルタ116は、供給された再構成画像に対して、デブロックフィルタ処理やSAO処理等を含むループフィルタ処理を適宜施して復号画像を生成する。例えば、ループフィルタ116は、再構成画像に対してデブロックフィルタ処理を行うことにより、ブロック歪を除去する。また、例えば、ループフィルタ116は、そのデブロックフィルタ処理結果(ブロック歪みの除去が行われた再構成画像)に対して、SAO処理を行うことにより、リンギングの低減や画素値ズレ補正等による画質改善を行う。

0046

なお、ループフィルタ116が行うフィルタ処理の種類は任意であり、上述した以外のフィルタ処理を行ってもよい。また、ループフィルタ116が、符号化側から供給されたフィルタ係数を用いてフィルタ処理を行うようにしてもよい。

0047

ループフィルタ116は、フィルタ処理結果である復号画像を画面並べ替えバッファ117およびフレームメモリ118に供給する。

0048

画面並べ替えバッファ117は、画像の並べ替えを行う。すなわち、符号化側において符号化の順番のために並べ替えられたフレームの順番が、元の表示の順番に並べ替えられる。画面並べ替えバッファ117は、フレームの順番を並べ替えた復号画像データを画像復号装置100の外部に出力する。

0049

フレームメモリ118は、供給される復号画像を記憶し、所定のタイミングにおいて、若しくは、インター予測部120等の外部の要求に基づいて、記憶している復号画像を参照画像として、インター予測部120に供給する。

0050

イントラ予測部119には、ヘッダ情報を復号して得られたイントラ予測モードを示す情報等が可逆復号部112から適宜供給される。イントラ予測部119は、符号化側において用いられたイントラ予測モードで、演算部115から供給される再構成画像を参照画像として用いてイントラ予測を行い、予測画像を生成する。イントラ予測部119は、生成した予測画像を予測画像選択部121に供給する。

0051

インター予測部120は、ヘッダ情報を復号して得られた情報(最適予測モード情報、参照画像情報等)を可逆復号部112から取得する。

0052

インター予測部120は、可逆復号部112から取得された最適予測モード情報が示すインター予測モードで、フレームメモリ118から取得した参照画像を用いてインター予測を行い、予測画像を生成する。

0053

予測画像選択部121は、イントラ予測部119からの予測画像またはインター予測部120からの予測画像を、演算部115に供給する。そして、演算部115においては、動きベクトルが用いられて生成された予測画像と逆直交変換部114から供給される残差データとが加算されて元の画像が復号される。すなわち、再構成画像が生成される。

0054

フィルタ制御部122は、例えば、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、スライスヘッダ等の、符号化側から伝送されたヘッダ情報を、可逆復号部112を介して取得する。フィルタ制御部122は、取得したヘッダ情報に基づいて、ループフィルタ116のフィルタ処理に用いられる情報のデータ単位を決定する。例えば、フィルタ制御部122は、CU単位の情報を用いるか否かを選択する。

0055

フィルタ制御部122は、その決定(選択)したデータ単位の情報を用いてループフィルタ処理を行うようにループフィルタ116の動作を制御するフィルタ制御情報を生成し、そのフィルタ制御情報をループフィルタ116に供給する。

0056

シーケンスパラメータセット(SPS)のシンタクスの例を図5および図6に示す。上述したように、図5の下から4行目に示されるpcm_enabled_flagが「1」の場合、図6の上から3行目に示されるように、pcm_loop_filter_disabled_flagが存在し、CU毎にpcm_flagが存在する。

0057

このような場合に、フィルタ制御部122は、SPSやPPS等、各種ヘッダ情報を参照し、その値に基づいて、フィルタ制御情報を生成する。

0058

<フィルタ制御部>
図7にそのフィルタ制御部122の主な構成例を示す。図7に示されるように、フィルタ制御部122は、デブロッキングフィルタ用制御情報生成部131とSAO用制御情報生成部132とを有する。

0059

デブロッキングフィルタ用制御情報生成部131は、可逆復号部112から供給されるSPS、PPS、スライスヘッダ等のヘッダ情報を参照して、デブロッキングフィルタ処理に用いられる情報のデータ単位を決定する。例えば、デブロッキングフィルタ用制御情報生成部131は、これらのヘッダ情報の値に対する条件がCU単位毎に設定された情報を参照する必要が無いことを示す場合、フィルタ処理を行う際に参照するCU単位毎に設定された情報に対する参照をスキップさせる。換言するに、例えば、デブロッキングフィルタ用制御情報生成部131は、これらのヘッダ情報の値に対する条件がCU単位毎に設定された情報を参照する必要があることを示す場合、フィルタ処理を行う際に参照するCU単位毎に設定された情報を参照させる。

0060

例えば、デブロッキングフィルタ用制御情報生成部131は、ヘッダ情報に基づいて、PCMデータに対するフィルタ処理が無効の場合、CU単位の情報を用いることを選択する。例えば、デブロッキングフィルタ用制御情報生成部131は、シーケンスパラメータセット(SPS)のpcm_loop_filter_disabled_flag(図6の上から3行目)を参照し、その値が真(「1」)の場合、CU単位の情報を用いることを選択する。

0061

また、例えば、デブロッキングフィルタ用制御情報生成部131は、ヘッダ情報に基づいて、CU単位でフィルタ処理をスキップする可能性がある場合、CU単位の情報を用いることを選択する。例えば、デブロッキングフィルタ用制御情報生成部131は、ピクチャパラメータセット(PPS)のtransquant_bypass_enabled_flagを参照し、その値が真(「1」)の場合、CU単位の情報を用いることを選択する。

0062

ピクチャパラメータセット(PPS)のシンタクスの例を図8および図9に示す。図8の上から22行目に示されるtransquant_bypass_enabled_flagが真(「1」)の場合、CU毎にcu_transquant_bypass_flagが存在する。そこで、この場合、デブロッキングフィルタ用制御情報生成部131は、デブロッキングフィルタ処理の際にCU単位の情報を用いることを選択する。

0063

さらに、例えば、デブロッキングフィルタ用制御情報生成部131は、ヘッダ情報に基づいて、CU単位で量子化パラメータが変化する可能性がある場合、CU単位の情報を用いることを選択する。例えば、デブロッキングフィルタ用制御情報生成部131は、ピクチャパラメータセット(PPS)のcu_qp_delta_enabled_flagを参照し、その値が真(「1」)の場合、CU単位の情報を用いることを選択する。

0064

図8の上から14行目に示されるcu_qp_delta_enabled_flagが真(「1」)の場合、CU毎に、diff_cu_qp_delta_depthおよびcu_qp_delta_absのうち、少なくともいずれか一方が存在し得る。つまり、CU単位で量子化パラメータが変化する可能性がある。そこで、この場合、デブロッキングフィルタ用制御情報生成部131は、デブロッキングフィルタ処理の際にCU単位の情報を用いることを選択する。

0065

また、例えば、デブロッキングフィルタ用制御情報生成部131は、処理対象であるカレントピクチャ内に複数のスライスが存在し、かつ、スライス毎に量子化パラメータが変化する可能性がある場合、CU単位の情報を用いることを選択する。例えば、デブロッキングフィルタ用制御情報生成部131は、スライスヘッダ(slice_segment_header)のslice_qp_deltaをスライス同士で比較し、互いに同一でない場合、CU単位の情報を用いることを選択する。

0066

スライスヘッダのシンタクスの例を図10図11、および図12に示す。図11の上から29行目に示されるslice_qp_deltaがスライス同士で共通でない場合、デブロッキングフィルタ用制御情報生成部131は、デブロッキングフィルタ処理の際にCU単位の情報を用いることを選択する。

0067

これに対して、pcm_loop_filter_disabled_flag, transquant_bypass_enabled_flag, cu_qp_delta_enabled_flagのいずれも値が(「0」)であり、かつ、スライス毎に量子化パラメータが変化する可能性がない場合(例えば、ピクチャが1つのスライスで構成される場合、または、ピクチャ内の各スライスヘッダのslice_qp_deltaが同じ場合)、デブロッキングフィルタ用制御情報生成部131は、デブロッキングフィルタ処理の際にCU単位の情報を用いないことを選択する。

0068

デブロッキングフィルタ用制御情報生成部131は、デブロッキングフィルタ用制御情報dbk_simple_flagを生成し、その値を、以上のような選択(決定)を反映させる値に決定する。例えば、デブロッキングフィルタ用制御情報生成部131は、デブロッキングフィルタ処理の際にCU単位の情報を用いない場合、dbk_simple_flag = 1をセットする。また、例えば、デブロッキングフィルタ用制御情報生成部131は、デブロッキングフィルタ処理の際にCU単位の情報を用いる場合、dbk_simple_flag = 0をセットする。

0069

デブロッキングフィルタ用制御情報生成部131は、このように生成したdbk_simple_flagを、ループフィルタ116に供給する。

0070

SAO用制御情報生成部132は、可逆復号部112から供給されるSPSやPPS等のヘッダ情報を参照して、SAO処理に用いられる情報のデータ単位を決定する。例えば、SAO用制御情報生成部132は、これらのヘッダ情報の値に対する条件がCU単位毎に設定された情報を参照する必要が無いことを示す場合、フィルタ処理を行う際に参照するCU単位毎に設定された情報に対する参照をスキップさせる。換言するに、例えば、SAO用制御情報生成部132は、これらのヘッダ情報の値に対する条件がCU単位毎に設定された情報を参照する必要があることを示す場合、フィルタ処理を行う際に参照するCU単位毎に設定された情報を参照させる。

0071

例えば、SAO用制御情報生成部132は、ヘッダ情報に基づいて、PCMデータに対するフィルタ処理が無効の場合、CU単位の情報を用いることを選択する。例えば、SAO用制御情報生成部132は、シーケンスパラメータセット(SPS)のpcm_loop_filter_disabled_flag(図6の上から3行目)を参照し、その値が真(「1」)の場合、CU単位の情報を用いることを選択する。

0072

また、例えば、SAO用制御情報生成部132は、ヘッダ情報に基づいて、CU単位でフィルタ処理をスキップする可能性がある場合、CU単位の情報を用いることを選択する。例えば、SAO用制御情報生成部132は、ピクチャパラメータセット(PPS)のtransquant_bypass_enabled_flag(図8の上から22行目)を参照し、その値が真(「1」)の場合、CU単位の情報を用いることを選択する。

0073

これに対して、pcm_loop_filter_disabled_flag, transquant_bypass_enabled_flagのいずれも値が偽(「0」)である場合、SAO用制御情報生成部132は、SAO処理の際にCU単位の情報を用いないことを選択する。

0074

SAO用制御情報生成部132は、SAO用制御情報sao_simple_flagを生成し、その値を、以上のような選択(決定)を反映させる値に決定する。例えば、SAO用制御情報生成部132は、SAO処理の際にCU単位の情報を用いない場合、sao_simple_flag = 1をセットする。また、例えば、SAO用制御情報生成部132は、SAO処理の際にCU単位の情報を用いる場合、sao_simple_flag = 0をセットする。

0075

SAO用制御情報生成部132は、このように生成したsao_simple_flagを、ループフィルタ116に供給する。

0076

<ループフィルタ>
図13は、ループフィルタ116の主な構成例を示すブロック図である。図13に示されるように、ループフィルタ116は、デブロッキングフィルタ処理部141およびSAO処理部142を有する。

0077

デブロッキングフィルタ処理部141は、演算部115から供給される再構成画像に対してデブロッキングフィルタ処理を行う。デブロッキングフィルタ処理部141は、その際、フィルタ制御部122から供給されるデブロッキングフィルタ用制御情報dbk_simple_flagを取得し、その値に基づいてデブロッキングフィルタ処理を行う。つまり、デブロッキングフィルタ処理部141は、ヘッダ情報に対応するデータ単位毎に設定された情報に応じて、デブロッキングフィルタ処理を行う。

0078

例えば、dbk_simple_flag == 0の場合、デブロッキングフィルタ処理部141は、CU単位の情報を用いてデブロッキングフィルタ処理を行う。つまり、デブロッキングフィルタ処理部141は、ヘッダ情報の値に対する条件がCU単位毎に設定された情報を参照する必要があることを示す場合、フィルタ処理を行う際に参照するCU単位毎に設定された情報を参照してデブロッキングフィルタ処理を行う。例えば、デブロッキングフィルタ処理部141は、CUのcu_transquant_bypass_flagやpcm_flagを参照し、その値を用いてデブロッキングフィルタ処理を行う。

0079

CUのシンタクスの例を図14および図15に示す。図14の例の場合、上から3行目にcu_transquant_bypass_flagが存在し、上から16行目にpcm_flagが存在する。デブロッキングフィルタ処理部141は、これらの値を用いてデブロッキングフィルタ処理を行う。

0080

また、例えば、dbk_simple_flag == 1の場合、デブロッキングフィルタ処理部141は、CU単位の情報を用いずにデブロッキングフィルタ処理を行う。つまり、デブロッキングフィルタ処理部141は、ヘッダ情報の値に対する条件がCU単位毎に設定された情報を参照する必要が無いことを示す場合、フィルタ処理を行う際に参照するCU単位毎に設定された情報に対する参照をスキップしてデブロッキングフィルタ処理を行う。デブロッキングフィルタ処理部141は、デブロッキングフィルタ処理を行った再構成画像をSAO処理部142に供給する。

0081

SAO処理部142は、デブロッキングフィルタ処理部141から供給されるデブロッキングフィルタ処理が行われた再構成画像に対してSAO処理を行う。SAO処理部142は、その際、フィルタ制御部122から供給されるSAO用制御情報sao_simple_flagを取得し、その値に基づいてSAO処理を行う。つまり、SAO処理部142は、ヘッダ情報に対応するデータ単位毎に設定された情報に応じて、SAO処理を行う。

0082

例えば、sao_simple_flag == 0の場合、SAO処理部142は、CU単位の情報を用いてSAO処理を行う。つまり、SAO処理部142は、ヘッダ情報の値に対する条件がCU単位毎に設定された情報を参照する必要があることを示す場合、フィルタ処理を行う際に参照するCU単位毎に設定された情報を参照してSAO処理を行う。例えば、SAO処理部142は、CUのcu_transquant_bypass_flag(図14の上から3行目)やpcm_flag(図14の上から16行目)を参照し、その値を用いてSAO処理を行う。

0083

また、例えば、sao_simple_flag == 1の場合、SAO処理部142は、CU単位の情報を用いずにSAO処理を行う。つまり、SAO処理部142は、ヘッダ情報の値に対する条件がCU単位毎に設定された情報を参照する必要が無いことを示す場合、フィルタ処理を行う際に参照するCU単位毎に設定された情報に対する参照をスキップしてSAO処理を行う。SAO処理部142は、SAO処理を行った再構成画像(すなわち、復号画像)を画面並べ替えバッファ117やフレームメモリ118に供給する。

0084

以上のようにヘッダ情報に対応するデータ単位毎に設定された情報に応じてループフィルタ処理を行うことにより、画像復号装置100は、不要に小さいデータ単位の情報を参照せずにループフィルタ処理を行うことができるので、復号処理の負荷の増大を抑制することができる。

0085

<復号処理の流れ>
次に、画像復号装置100により実行される各処理の流れの例を説明する。最初に、復号処理の流れの例を、図16のフローチャートを参照して説明する。

0086

復号処理が開始されると、ステップS101において、蓄積バッファ111は、伝送されてきたビットストリームを蓄積する。ステップS102において、可逆復号部112は、蓄積バッファ111から供給されるビットストリームを復号する。すなわち、符号化側により符号化されたIピクチャ、Pピクチャ、並びにBピクチャが復号される。このとき、ヘッダ情報などのビットストリームに含められた画像情報以外の各種情報も復号される。

0087

ステップS103において、フィルタ制御部122は、フィルタ制御情報を生成する。

0088

ステップS104において、逆量子化部113は、ステップS102の処理により得られた、量子化された係数を逆量子化する。

0089

ステップS105において、逆直交変換部114は、ステップS104の処理により得られた直交変換係数を逆直交変換する。この処理により、輝度成分の残差データと色差成分予測残差データが復元される。

0090

ステップS106において、イントラ予測部119若しくはインター予測部120は、予測処理を行い、予測画像を生成する。つまり、可逆復号部112において判定された、符号化の際に適用された予測モードで予測処理が行われる。より具体的には、例えば、符号化の際にイントラ予測が適用された場合、イントラ予測部119が、符号化の際に最適とされたイントラ予測モードで予測画像を生成する。また、例えば、符号化の際にインター予測が適用された場合、インター予測部120が、符号化の際に最適とされたインター予測モードで予測画像を生成する。

0091

ステップS107において、演算部115は、ステップS105の処理により復元された残差データに、ステップS106において生成された予測画像を加算する。これにより再構成画像が得られる。

0092

ステップS108において、ループフィルタ116は、ステップS107の処理により得られた再構成画像に対して、デブロックフィルタ処理やSAO処理等を含むループフィルタ処理を行う。

0093

ステップS109において、画面並べ替えバッファ117は、ステップS108の処理により得られた復号画像のフレームの並べ替えを行う。すなわち、符号化の際に並べ替えられたフレームの順序が、元の表示の順序に並べ替えられる。フレームが並べ替えられた復号画像は、画像復号装置100の外部に出力される。

0094

ステップS110において、フレームメモリ118は、ステップS108の処理により得られた復号画像を記憶する。

0095

ステップS110の処理が終了すると、復号処理が終了する。

0096

<フィルタ制御情報生成処理の流れ>
次に、このような復号処理のステップS103において実行されるフィルタ制御情報生成処理の流れの例を、図17のフローチャートを参照して説明する。

0097

フィルタ制御情報生成処理が開始されると、フィルタ制御部122のデブロッキングフィルタ用制御情報生成部131は、ステップS121において、デブロッキングフィルタ用制御情報生成処理を行う。

0098

ステップS122において、フィルタ制御部122のSAO用制御情報生成部132は、SAO用制御情報生成処理を行う。

0099

ステップS122の処理が終了すると、フィルタ制御情報生成処理が終了し、処理は図16に戻る。

0100

<デブロッキングフィルタ用制御情報生成処理の流れ>
次に、図18のフローチャートを参照して、図17のステップS121において実行されるデブロッキングフィルタ用制御情報生成処理の流れの例を説明する。

0101

デブロッキングフィルタ用制御情報生成処理が開始されると、デブロッキングフィルタ用制御情報生成部131は、ステップS131において、is_first_slice = 0を設定する。

0102

ステップS132において、デブロッキングフィルタ用制御情報生成部131は、pcm_loop_filter_disabled_flag == 0であるか否かを判定する。pcm_loop_filter_disabled_flag == 0であると判定された場合、処理はステップS133に進む。

0103

ステップS133において、デブロッキングフィルタ用制御情報生成部131は、transquant_bypass_enabled_flag == 0であるか否かを判定する。transquant_bypass_enabled_flag == 0であると判定された場合、処理はステップS134に進む。

0104

ステップS134において、デブロッキングフィルタ用制御情報生成部131は、cu_qp_delta_enabled_flag == 0であるか否かを判定する。cu_qp_delta_enabled_flag == 0であると判定された場合、処理はステップS135に進む。

0105

ステップS135において、デブロッキングフィルタ用制御情報生成部131は、処理対象であるカレントピクチャのスライスの数(slice segment数)が「1」であるか否かを判定する。デブロッキングフィルタ用制御情報生成部131は、ピクチャが複数のスライスで構成される場合に、フィルタ処理を行う際に参照するCU単位毎に設定された情報を参照させる。したがって、slice segment数が複数であると判定された場合、処理はステップS136に進む。

0106

ステップS136において、デブロッキングフィルタ用制御情報生成部131は、is_first_slice == 0であるか否か、すなわち、処理対象であるカレントスライスが、カレントピクチャの最初のスライスであるか否かを判定する。そして、カレントスライスがカレントピクチャの最初のスライスである(つまり、is_first_slice == 0)と判定された場合、処理は、ステップS137に進む。

0107

ステップS137において、デブロッキングフィルタ用制御情報生成部131は、is_first_slice = 1, first_slice_qp_delta = slice_qp_deltaを設定する。ステップS137の処理が終了すると、処理はステップS136に戻り、それ以降の処理を繰り返す。

0108

また、ステップS136において、is_first_slice == 1 である、すなわち、カレントスライスがカレントピクチャの最初のスライスでないと判定された場合、処理はステップS138に進む。

0109

ステップS138において、デブロッキングフィルタ用制御情報生成部131は、slice_qp_delta == first_slice_qp_deltaであるか否か、つまり、カレントスライスの量子化パラメータがカレントピクチャの最初のスライスの量子化パラメータと一致するか否かを判定する。slice_qp_delta == first_slice_qp_deltaである、つまり、カレントスライスの量子化パラメータがカレントピクチャの最初のスライスの量子化パラメータと一致すると判定された場合、処理は、ステップS139に進む。つまり、デブロッキングフィルタ用制御情報生成部131は、ピクチャが複数のスライスで構成される場合に、ピクチャ内の各スライスヘッダのslice_qp_deltaが同じであれば、フィルタ処理を行う際に参照するCU単位毎に設定された情報に対する参照をスキップさせる。

0110

ステップS139において、デブロッキングフィルタ用制御情報生成部131は、カレントスライスが、カレントピクチャに属する最後のスライス(slice segment)であるか否かを判定する。最後でないと判定された場合、処理はステップS136に戻り、それ以降の処理を繰り返す。

0111

また、ステップS139において、カレントスライスが、カレントピクチャに属する最後のスライス(slice segment)であると判定された場合、処理はステップS140に進む。

0112

また、ステップS135において、カレントピクチャのスライスの数(slice segment数)が「1」であると判定された場合、ステップS136乃至ステップS139の処理が省略され、処理はステップS140に進む。つまり、デブロッキングフィルタ用制御情報生成部131は、ピクチャが1つのスライスで構成される場合に、フィルタ処理を行う際に参照するCU単位毎に設定された情報に対する参照をスキップさせる。

0113

ステップS140において、デブロッキングフィルタ用制御情報生成部131は、デブロッキングフィルタ用制御情報dbk_simple_flagを生成し、その値を「1」にセットする。

0114

ステップS140の処理が終了すると、処理は図17に戻る。

0115

また、ステップS132において、pcm_loop_filter_disabled_flag == 1であると判定された場合、処理はステップS141に進む。

0116

さらに、ステップS133において、transquant_bypass_enabled_flag == 1であると判定された場合、処理はステップS141に進む。

0117

また、ステップS134において、cu_qp_delta_enabled_flag == 1であると判定された場合、処理はステップS141に進む。

0118

また、ステップS138において、slice_qp_delta == first_slice_qp_deltaでない、つまり、カレントスライスの量子化パラメータがカレントピクチャの最初のスライスの量子化パラメータと一致しないと判定された場合、処理は、ステップS141に進む。

0119

ステップS141において、デブロッキングフィルタ用制御情報生成部131は、デブロッキングフィルタ用制御情報dbk_simple_flagを生成し、その値を「0」にセットする。

0120

ステップS141の処理が終了すると、処理は図17に戻る。

0121

<SAO制御情報生成処理の流れ>
次に、図19のフローチャートを参照して、図17のステップS122において実行されるSAO用制御情報生成処理の流れの例を説明する。

0122

SAO用制御情報生成処理が開始されると、SAO用制御情報生成部132は、ステップS151において、pcm_loop_filter_disabled_flag == 0であるか否かを判定する。pcm_loop_filter_disabled_flag == 0であると判定された場合、処理はステップS152に進む。

0123

ステップS152において、SAO用制御情報生成部132は、transquant_bypass_enabled_flag == 0であるか否かを判定する。transquant_bypass_enabled_flag == 0であると判定された場合、処理はステップS153に進む。

0124

ステップS153において、SAO用制御情報生成部132は、SAO用制御情報sao_simple_flagを生成し、その値を「1」にセットする。ステップS153の処理が終了するとSAO用制御情報生成処理が終了し、処理は図17に戻る。

0125

ところで、ステップS151において、pcm_loop_filter_disabled_flag == 1であると判定された場合、処理はステップS154に進む。また、ステップS152において、transquant_bypass_enabled_flag == 1であると判定された場合、処理はステップS154に進む。

0126

ステップS154において、SAO用制御情報生成部132は、SAO用制御情報sao_simple_flagを生成し、その値を「0」にセットする。ステップS154の処理が終了するとSAO用制御情報生成処理が終了し、処理は図17に戻る。

0127

<ループフィルタ処理の流れ>
次に、図16のステップS108において実行されるループフィルタ処理の流れの例を、図20のフローチャートを参照して説明する。

0128

ループフィルタ処理が開始されると、ループフィルタ116のデブロッキングフィルタ処理部141は、ステップS161において、デブロッキングフィルタ処理を行う。

0129

ステップS162において、ループフィルタ116のSAO処理部142は、SAO処理を行う。

0130

ステップS162の処理が終了するとループフィルタ処理が終了し、処理は図16に戻る。

0131

<デブロッキングフィルタ処理の流れ>
次に、図21のフローチャートを参照して、図20のステップS161において実行されるデブロッキングフィルタ処理の流れの例を説明する。

0132

デブロッキングフィルタ処理が開始されると、デブロッキングフィルタ処理部141は、ステップS171において、フィルタ制御部122から供給されるデブロッキングフィルタ用制御情報dbk_simple_flagの値が「1」であるか否かを判定する。dbk_simple_flag == 1であると判定された場合、処理はステップS172に進む。

0133

ステップS172において、デブロッキングフィルタ処理部141は、CU単位の情報を利用しないCTB単位のデブロッキングフィルタ処理を行う。ステップS172の処理が終了すると、デブロッキングフィルタ処理が終了し、処理は、図20に戻る。

0134

また、ステップS171において、dbk_simple_flag == 0であると判定された場合、処理はステップS173に進む。

0135

ステップS173において、デブロッキングフィルタ処理部141は、CU単位の情報を利用するCU単位のデブロッキングフィルタ処理を行う。ステップS173の処理が終了すると、デブロッキングフィルタ処理が終了し、処理は、図20に戻る。

0136

<CU単位デブロッキングフィルタ処理の流れ>
次に、図22のフローチャートを参照して、図21のステップS173において実行されるCU単位デブロッキングフィルタ処理の流れの例を説明する。

0137

CU単位デブロッキングフィルタ処理が開始されると、デブロッキングフィルタ処理部141は、ステップS181において、ピクチャ内のエッジ(edge)に対して、境界強度を算出する。

0138

ステップS182において、デブロッキングフィルタ処理部141は、i = 0 を設定する。ステップS183において、デブロッキングフィルタ処理部141は、i番目のエッジの情報を取得する。

0139

ステップS184において、デブロッキングフィルタ処理部141は、処理対象であるカレントエッジに対してデブロッキングフィルタをかけるか否かを判定する。デブロッキングフィルタをかけると判定された場合、処理は、ステップS185に進む。

0140

ステップS185において、デブロッキングフィルタ処理部141は、そのカレントエッジに隣接するピクセルが属するCUの情報を取得する。

0141

ステップS186において、デブロッキングフィルタ処理部141は、CUの量子化パラメータQpYからqPLを算出し、デブロッキングフィルタ用のパラメータであるβとtcとを導出する。

0142

ステップS187において、デブロッキングフィルタ処理部141は、カレントエッジに対してデブロッキングフィルタをかける。

0143

ステップS188において、デブロッキングフィルタ処理部141は、そのカレントエッジに隣接するピクセルが属するCUにおいて、(pcm_flag == 1 and pcm_loop_filter_disabled_flag = 1) or (cu_transquant_bypass_flag = 1)であれば、デブロッキングフィルタをかけることによって値が変わったピクセルの値を、デブロッキングフィルタをかける前の値に戻す。

0144

ステップS188の処理が終了すると、処理は、ステップS189に進む。また、ステップS184において、デブロッキングフィルタをかけないと判定された場合、処理はステップS189に進む。

0145

ステップS189において、デブロッキングフィルタ処理部141は、カレントエッジがカレントピクチャの最後のエッジであるか否かを判定する。カレントエッジがカレントピクチャの最後のエッジでないと判定された場合、処理は、ステップS190に進む。

0146

ステップS190において、デブロッキングフィルタ処理部141は、i = i + 1を設定する。すなわち、処理対象を次のエッジに移す。ステップS190のの処理が終了すると、処理はステップS183に戻り、それ以降の処理を繰り返す。

0147

また、ステップS189において、カレントエッジがカレントピクチャの最後のエッジであると判定された場合、CU単位デブロッキングフィルタ処理が終了し、処理は図21に戻る。

0148

以上のように、CU単位の情報を利用するデブロッキングフィルタ処理は、各CUを参照しなければならず、処理の負荷が大きい。ヘッダ情報を確認せずにデブロッキングフィルタ処理を行う場合、このCU単位のデブロッキングフィルタ処理を行わなければならない。したがって、仮にCU単位の情報が不要であっても、CU単位の情報を参照しなければならず、不要にデブロッキングフィルタ処理の負荷が増大するおそれがあった。

0149

<CTB単位デブロッキングフィルタ処理の流れ>
次に、図23のフローチャートを参照して、図21のステップS172において実行されるCTB単位デブロッキングフィルタ処理の流れの例を説明する。

0150

CTB単位デブロッキングフィルタ処理が開始されると、デブロッキングフィルタ処理部141は、ステップS201において、ピクチャ内のエッジに対して境界強度を算出する。

0151

ステップS202において、デブロッキングフィルタ処理部141は、ピクチャで共通のβ、tcを導出する。

0152

ステップS203において、デブロッキングフィルタ処理部141は、i = 0を設定する。

0153

ステップS204において、デブロッキングフィルタ処理部141は、i番目のエッジの情報を取得する。

0154

ステップS205において、デブロッキングフィルタ処理部141は、デブロッキングフィルタをかけるか否かを判定する。デブロッキングフィルタをかけると判定された場合、処理はステップS206に進む。

0155

ステップS206において、デブロッキングフィルタ処理部141は、そのカレントエッジに対してデブロッキングフィルタをかける。ステップS206の処理が終了すると、処理はステップS207に進む。また、ステップS205において、デブロッキングフィルタ処理をかけないと判定されると、ステップS206の処理が省略され、処理はステップS207に進む。

0156

ステップS207において、デブロッキングフィルタ処理部141は、カレントエッジがカレントピクチャの最後のエッジであるか否かを判定する。カレントエッジがカレントピクチャの最後のエッジでないと判定された場合、処理は、ステップS208に進む。

0157

ステップS208において、デブロッキングフィルタ処理部141は、i = i + 1を設定する。ステップS208の処理が終了すると、処理はステップS204に戻り、それ以降の処理を繰り返す。

0158

また、ステップS207において、カレントエッジがカレントピクチャの最後のエッジであると判定された場合、CU単位デブロッキングフィルタ処理が終了し、処理は図21に戻る。

0159

以上のように、CTB単位の情報を利用するデブロッキングフィルタ処理は、各CUを参照せずにデブロッキングフィルタ処理を行うことができ、処理の負荷の増大を抑制することができる。つまり、デブロッキングフィルタ処理部141は、上述したように、ヘッダ情報を参照してCU単位の情報が不要であることを確認し、その必要・不要に応じて、CU単位のデブロッキングフィルタ処理とCTB単位のデブロッキングフィルタ処理とを適切に使い分ける。このようにすることにより、デブロッキングフィルタ処理部141は、デブロッキングフィルタ処理の負荷の不要な増大を抑制することができる。

0160

<SAO処理の流れ>
次に、図24のフローチャートを参照して、図20のステップS162において実行されるSAO処理の流れの例を説明する。

0161

SAO処理が開始されると、SAO処理部142は、ステップS211において、フィルタ制御部122から供給されるSAO用制御情報sao_simple_flagの値が「1」であるか否かを判定する。sao_simple_flag == 1であると判定された場合、処理はステップS212に進む。

0162

ステップS212において、SAO処理部142は、CU単位の情報を利用しないCTB単位のSAO処理を行う。ステップS212の処理が終了すると、デブロッキングフィルタ処理が終了し、処理は、図20に戻る。

0163

また、ステップS211において、sao_simple_flag == 0であると判定された場合、処理はステップS213に進む。

0164

ステップS213において、デブロッキングフィルタ処理部141は、CU単位の情報を利用するCU単位のSAO処理を行う。ステップS213の処理が終了すると、SAO処理が終了し、処理は、図20に戻る。

0165

<CU単位SAO処理の流れ>
次に、図25のフローチャートを参照して、図24のステップS213において実行されるCU単位SAO処理の流れの例を説明する。

0166

CU単位SAO処理が開始されると、SAO処理部142は、ステップS221において、i = 0を設定する。

0167

ステップS222において、SAO処理部142は、i番目のCTBの情報を取得する。

0168

ステップS223において、SAO処理部142は、SaoTypeIdx == 0であるか否かを判定する。SaoTypeIdx == 0でないと判定された場合、処理はステップS224に進む。

0169

ステップS224において、SAO処理部142は、SaoOffsetValを算出し、j = 0を設定する。

0170

ステップS225において、SAO処理部142は、j番目のCUの情報を取得する。

0171

ステップS226において、SAO処理部142は、(pcm_flag == 1 and pcm_loop_filter_disabled_flag =1) or (cu_transquant_bypass_flag == 1)であるか否かを判定する。(pcm_flag == 1 and pcm_loop_filter_disabled_flag =1) or (cu_transquant_bypass_flag == 1)でないと判定された場合、処理はステップS227に進む。

0172

ステップS227において、SAO処理部142は、CUに対するオフセットを加算する。ステップS227の処理が終了すると、処理はステップS228に進む。また、ステップS226において、(pcm_flag == 1 and pcm_loop_filter_disabled_flag =1) or (cu_transquant_bypass_flag == 1)であると判定された場合、処理はステップS228に進む。

0173

ステップS228において、SAO処理部142は、カレントCUが処理対象であるカレントCTBの最後のCUであるか否かを判定する。最後のCUでないと判定された場合、処理はステップS229に進む。

0174

ステップS229において、SAO処理部142は、j = j + 1を設定する。すなわち、処理対象を次のCUに移す。ステップS229の処理が終了すると、処理は、ステップS225に戻り、それ以降の処理を繰り返す。つまり、カレントCTB内の全てのCUについてステップS225乃至ステップS228の一連の処理が行われる。

0175

また、ステップS228において、最後のCUであると判定された場合、処理はステップS230に進む。また、ステップS223において、SaoTypeIdx == 0であると判定された場合、処理はステップS230に進む。

0176

ステップS230において、SAO処理部142は、カレントピクチャの最後のCTBであるか否かを判定する。最後のCTBではないと判定された場合、処理はステップS231に進む。

0177

ステップS231において、SAO処理部142は、i = i + 1 を設定する。すなわち、処理対象を次のCTBに移す。ステップS231の処理が終了すると、処理はステップS235に戻り、それ以降の処理を繰り返す。

0178

また、ステップS230において、最後のCTBであると判定された場合、CU単位SAO処理が終了し、処理は図24に戻る。

0179

以上のように、CU単位の情報を利用するSAO処理は、各CUを参照しなければならず、処理の負荷が大きい。ヘッダ情報を確認せずにSAO処理を行う場合、このCU単位のSAO処理を行わなければならない。したがって、仮にCU単位の情報が不要であっても、CU単位の情報を参照しなければならず、不要にSAO処理の負荷が増大するおそれがあった。

0180

<CTB単位SAO処理の流れ>
次に、図26のフローチャートを参照して、図24のステップS212において実行されCTB単位SAO処理の流れの例を説明する。

0181

CTB単位SAO処理が開始されると、SAO処理部142は、ステップS241において、i = 0を設定する。

0182

ステップS242において、SAO処理部142は、i番目のCTBの情報を取得する。

0183

ステップS243において、SAO処理部142は、SaoTypeIdx == 0であるか否かを判定する。SaoTypeIdx == 0でないと判定された場合、処理は、ステップS244に進む。

0184

ステップS244において、SAO処理部142は、SaoOffsetValを算出する。

0185

ステップS245において、SAO処理部142は、CTBに対するオフセットを加算する。ステップS245の処理が終了すると、処理は、ステップS246に進む。また、ステップS243において、SaoTypeIdx == 0であると判定される場合、処理は、ステップS246に進む。

0186

ステップS246において、SAO処理部142は、カレントピクチャの最後のCTBであるか否かを判定する。最後のCTBでないと判定された場合、処理はステップS247に進む。

0187

ステップS247において、SAO処理部142は、i = i + 1を設定する。つまり、処理対象を次のCTBに移す。ステップS247の処理が終了すると、処理は、ステップS242に戻り、それ以降の処理を繰り返す。

0188

また、ステップS246において、最後のCTBであると判定された場合、CTB単位SAO処理が終了し、処理は図24に戻る。

0189

以上のように、CTB単位の情報を利用するSAO処理は、各CUを参照せずにSAO処理を行うことができ、処理の負荷の増大を抑制することができる。つまり、SAO処理部142は、上述したように、ヘッダ情報を参照してCU単位の情報が不要であることを確認し、その必要・不要に応じて、CU単位のSAO処理とCTB単位のSAO処理とを適切に使い分ける。このようにすることにより、SAO処理部142は、SAO処理の負荷の不要な増大を抑制することができる。

0190

つまり、符号化されたビットストリーム内からデブロッキングフィルタ処理をCTB単位で行うことができるか否かをあらかじめ計算することで、CTB単位で行うことが可能な場合はデブロッキングフィルタ処理の負荷を削減することができる。

0191

同様に、符号化されたビットストリーム内からSAO処理をCTB単位で行うことができるかのフラグをあらかじめ計算することで、CTB単位で行うことが可能な場合はSAOの処理の負荷を削減することが可能になる。

0192

したがって、以上のように各処理を実行することにより、画像復号装置100は、フィルタ処理の際に、不要に小さい単位の情報を参照しなくてよいので、処理の負荷の増大を抑制することができる。

0193

本技術の適用範囲は、画像データが符号化された符号化データを復号可能な、復号の際にフィルタ処理を行うあらゆる画像復号装置に適用することができる。

0194

また、本技術は、例えば、MPEG、H.26x等の様に、離散コサイン変換等の直交変換と動き補償によって圧縮された画像情報(ビットストリーム)を、衛星放送ケーブルテレビジョンインターネット、または携帯電話機などのネットワークメディアを介して受信する際に用いられる画像復号装置に適用することができる。また、本技術は、光、磁気ディスク、およびフラッシュメモリのような記憶メディア上で処理する際に用いられる画像復号装置に適用することができる。

0195

<2.第2の実施の形態>
<多視点画像復号への適用>
上述した一連の処理は、多視点画像復号に適用することができる。図27は、多視点画像符号化方式の一例を示す。

0196

図27に示されるように、多視点画像は、複数の視点ビュー(view))の画像を含む。この多視点画像の複数のビューは、他のビューの情報を利用せずに自身のビューの画像のみを用いて符号化・復号を行うベースビューと、他のビューの情報を利用して符号化・復号を行うノンベースビューとによりなる。ノンベースビューの符号化・復号は、ベースビューの情報を利用するようにしても良いし、他のノンベースビューの情報を利用するようにしてもよい。

0197

図27の例のような多視点画像を符号化する場合、多視点画像は、視点毎に符号化される。そして、そのようにして得られた符号化データを復号する場合、各視点の符号化データは、それぞれ(すなわち視点毎に)復号される。このような各視点の復号に対して、第1の実施の形態において上述した方法を適用するようにしてもよい。このようにすることにより、各視点の画像について、復号処理の負荷の増大を抑制することができる。つまり、多視点画像の場合も同様に、復号処理の負荷の増大を抑制することができる。

0198

<多視点画像符号化装置>
図28は、上述した多視点画像符号化を行う多視点画像符号化装置を示す図である。図28に示されるように、多視点画像符号化装置600は、符号化部601、符号化部602、および多重化部603を有する。

0199

符号化部601は、ベースビュー画像を符号化し、ベースビュー画像符号化ストリームを生成する。符号化部602は、ノンベースビュー画像を符号化し、ノンベースビュー画像符号化ストリームを生成する。多重化部603は、符号化部601において生成されたベースビュー画像符号化ストリームと、符号化部602において生成されたノンベースビュー画像符号化ストリームとを多重化し、多視点画像符号化ストリームを生成する。

0200

<多視点画像復号装置>
図29は、上述した多視点画像復号を行う多視点画像復号装置を示す図である。図29に示されるように、多視点画像復号装置610は、逆多重化部611、復号部612、および復号部613を有する。

0201

逆多重化部611は、ベースビュー画像符号化ストリームとノンベースビュー画像符号化ストリームとが多重化された多視点画像符号化ストリームを逆多重化し、ベースビュー画像符号化ストリームと、ノンベースビュー画像符号化ストリームとを抽出する。復号部612は、逆多重化部611により抽出されたベースビュー画像符号化ストリームを復号し、ベースビュー画像を得る。復号部613は、逆多重化部611により抽出されたノンベースビュー画像符号化ストリームを復号し、ノンベースビュー画像を得る。

0202

例えば、このような多視点画像復号装置610の復号部612および復号部613として、上述した画像復号装置100を適用すればよい。このようにすることにより、多視点画像の符号化データの復号においても、第1の実施の形態において説明した方法を適用することができる。すなわち、多視点画像復号装置610は、多視点画像の符号化データの復号処理の負荷の増大を抑制することができる。

0203

<3.第3の実施の形態>
<階層画像復号への適用>
また、上述した一連の処理は、階層画像復号(スケーラブル復号)に適用することができる。図30は、階層画像符号化方式の一例を示す。

0204

階層画像符号化(スケーラブル符号化)は、画像データを、所定のパラメータについてスケーラビリティ(scalability)機能を有するように、画像を複数レイヤ化(階層化)し、レイヤ毎に符号化するものである。階層画像復号は、その階層画像符号化(スケーラブル復号)は、その階層画像符号化に対応する復号である。

0205

図30に示されるように、画像の階層化においては、スケーラビリティ機能を有する所定のパラメータを基準として1の画像が複数の画像(レイヤ)に分割される。つまり、階層化された画像(階層画像)は、その所定のパラメータの値が互いに異なる複数の階層(レイヤ)の画像を含む。この階層画像の複数のレイヤは、他のレイヤの画像を利用せずに自身のレイヤの画像のみを用いて符号化・復号を行うベースレイヤと、他のレイヤの画像を利用して符号化・復号を行うノンベースレイヤ(エンハンスメントレイヤとも称する)とによりなる。ノンベースレイヤは、ベースレイヤの画像を利用するようにしても良いし、他のノンベースレイヤの画像を利用するようにしてもよい。

0206

一般的に、ノンベースレイヤは、冗長性が低減されるように、自身の画像と、他のレイヤの画像との差分画像のデータ(差分データ)により構成される。例えば、1の画像をベースレイヤとノンベースレイヤ(エンハンスメントレイヤとも称する)に2階層化した場合、ベースレイヤのデータのみで元の画像よりも低品質な画像が得られ、ベースレイヤのデータとノンベースレイヤのデータを合成することで、元の画像(すなわち高品質な画像)が得られる。

0207

このように画像を階層化することにより、状況に応じて多様な品質の画像を容易に得ることができる。例えば携帯電話のような、処理能力の低い端末に対しては、ベースレイヤ(base layer)のみの画像圧縮情報を伝送し、空間時間解像度の低い、或いは、画質の良くない動画像再生し、テレビパーソナルコンピュータのような、処理能力の高い端末に対しては、ベースレイヤ(base layer)に加えて、エンハンスメントレイヤ(enhancement layer)の画像圧縮情報を伝送し、空間時間解像度の高い、或いは、画質の高い動画像を再生するといったように、トランスコード処理を行うことなく、端末やネットワーク能力に応じた画像圧縮情報を、サーバから送信することが可能となる。

0208

図30の例のような階層画像を符号化する場合、階層画像は、レイヤ毎に符号化される。そして、そのようにして得られた符号化データを復号する場合、各レイヤの符号化データは、それぞれ(すなわちレイヤ毎に)復号される。このような各レイヤの復号に対して、第1の実施の形態において上述した方法を適用するようにしてもよい。このようにすることにより、各レイヤの画像について、復号処理の負荷の増大を抑制することができる。つまり、階層画像の場合も同様に、復号処理の負荷の増大を抑制することができる。

0209

<階層画像符号化装置>
図31は、上述した階層画像符号化を行う階層画像符号化装置を示す図である。図31に示されるように、階層画像符号化装置620は、符号化部621、符号化部622、および多重化部623を有する。

0210

符号化部621は、ベースレイヤ画像を符号化し、ベースレイヤ画像符号化ストリームを生成する。符号化部622は、ノンベースレイヤ画像を符号化し、ノンベースレイヤ画像符号化ストリームを生成する。多重化部623は、符号化部621において生成されたベースレイヤ画像符号化ストリームと、符号化部622において生成されたノンベースレイヤ画像符号化ストリームとを多重化し、階層画像符号化ストリームを生成する。

0211

<階層画像復号装置>
図32は、上述した階層画像復号を行う階層画像復号装置を示す図である。図32に示されるように、階層画像復号装置630は、逆多重化部631、復号部632、および復号部633を有する。

0212

逆多重化部631は、ベースレイヤ画像符号化ストリームとノンベースレイヤ画像符号化ストリームとが多重化された階層画像符号化ストリームを逆多重化し、ベースレイヤ画像符号化ストリームと、ノンベースレイヤ画像符号化ストリームとを抽出する。復号部632は、逆多重化部631により抽出されたベースレイヤ画像符号化ストリームを復号し、ベースレイヤ画像を得る。復号部633は、逆多重化部631により抽出されたノンベースレイヤ画像符号化ストリームを復号し、ノンベースレイヤ画像を得る。

0213

例えば、このような階層画像復号装置630の復号部632および復号部633として、上述した画像復号装置100を適用すればよい。このようにすることにより、階層画像の符号化データの復号においても、第1の実施の形態において説明した方法を適用することができる。すなわち、階層画像復号装置630は、以上の各実施の形態において説明した各種方法で符号化された階層画像の符号化データを正しく復号することができる。したがって、階層画像復号装置630は、階層画像の符号化データの復号処理の負荷の増大を抑制することができる。

0214

<4.第4の実施の形態>
<コンピュータ>
上述した一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここでコンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータ等が含まれる。

0215

図33は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。

0216

図33に示されるコンピュータ800において、CPU(Central Processing Unit)801、ROM(Read Only Memory)802、RAM(Random Access Memory)803は、バス804を介して相互に接続されている。

0217

バス804にはまた、入出力インタフェース810も接続されている。入出力インタフェース810には、入力部811、出力部812、記憶部813、通信部814、およびドライブ815が接続されている。

0218

入力部811は、例えば、キーボードマウスマイクロホンタッチパネル入力端子などよりなる。出力部812は、例えば、ディスプレイスピーカ出力端子などよりなる。記憶部813は、例えば、ハードディスクRAMディスク不揮発性メモリなどよりなる。通信部814は、例えば、ネットワークインタフェースよりなる。ドライブ815は、磁気ディスク、光ディスク光磁気ディスク、または半導体メモリなどのリムーバブルメディア821を駆動する。

0219

以上のように構成されるコンピュータでは、CPU801が、例えば、記憶部813に記憶されているプログラムを、入出力インタフェース810およびバス804を介して、RAM803にロードして実行することにより、上述した一連の処理が行われる。RAM803にはまた、CPU801が各種の処理を実行する上において必要なデータなども適宜記憶される。

0220

コンピュータ(CPU801)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア821に記録して適用することができる。その場合、プログラムは、リムーバブルメディア821をドライブ815に装着することにより、入出力インタフェース810を介して、記憶部813にインストールすることができる。

0221

また、このプログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線伝送媒体を介して提供することもできる。その場合、プログラムは、通信部814で受信し、記憶部813にインストールすることができる。

0222

その他、このプログラムは、ROM802や記憶部813に、あらかじめインストールしておくこともできる。

0223

なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。

0224

また、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。

0225

また、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、全ての構成要素が同一筐体中にあるか否かは問わない。したがって、別個筐体収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。

0226

また、以上において、1つの装置(または処理部)として説明した構成を分割し、複数の装置(または処理部)として構成するようにしてもよい。逆に、以上において複数の装置(または処理部)として説明した構成をまとめて1つの装置(または処理部)として構成されるようにしてもよい。また、各装置(または各処理部)の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置(または処理部)の構成の一部を他の装置(または他の処理部)の構成に含めるようにしてもよい。

0227

以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。

0228

例えば、本技術は、1つの機能を、ネットワークを介して複数の装置で分担共同して処理するクラウドコンピューティングの構成をとることができる。

0229

また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。

0230

さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。

0231

上述した実施形態に係る画像復号装置は、例えば、衛星放送、ケーブルTVなどの有線放送、インターネット上での配信、及びセルラー通信による端末への配信などにおける送信機若しくは受信機、光ディスク、磁気ディスク及びフラッシュメモリなどの媒体に画像を記録する記録装置、又は、これら記憶媒体から画像を再生する再生装置などの様々な電子機器に応用され得る。以下、4つの応用例について説明する。

0232

<5.第5の実施の形態>
<第1の応用例:テレビジョン受像機
図34は、上述した実施形態を適用したテレビジョン装置の概略的な構成の一例を示している。テレビジョン装置900は、アンテナ901、チューナ902、デマルチプレクサ903、デコーダ904、映像信号処理部905、表示部906、音声信号処理部907、スピーカ908、外部インタフェース(I/F)部909、制御部910、ユーザインタフェース(I/F)部911、及びバス912を備える。

0233

チューナ902は、アンテナ901を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ902は、復調により得られた符号化ビットストリームをデマルチプレクサ903へ出力する。即ち、チューナ902は、画像が符号化されている符号化ストリームを受信する、テレビジョン装置900における伝送部としての役割を有する。

0234

デマルチプレクサ903は、符号化ビットストリームから視聴対象番組映像ストリーム及び音声ストリームを分離し、分離した各ストリームをデコーダ904へ出力する。また、デマルチプレクサ903は、符号化ビットストリームからEPG(Electronic Program Guide)などの補助的なデータを抽出し、抽出したデータを制御部910に供給する。なお、デマルチプレクサ903は、符号化ビットストリームがスクランブルされている場合には、デスクランブルを行ってもよい。

0235

デコーダ904は、デマルチプレクサ903から入力される映像ストリーム及び音声ストリームを復号する。そして、デコーダ904は、復号処理により生成される映像データを映像信号処理部905へ出力する。また、デコーダ904は、復号処理により生成される音声データを音声信号処理部907へ出力する。

0236

映像信号処理部905は、デコーダ904から入力される映像データを再生し、表示部906に映像を表示させる。また、映像信号処理部905は、ネットワークを介して供給されるアプリケーション画面を表示部906に表示させてもよい。また、映像信号処理部905は、映像データについて、設定に応じて、例えばノイズ除去などの追加的な処理を行ってもよい。さらに、映像信号処理部905は、例えばメニュー、ボタン又はカーソルなどのGUI(Graphical User Interface)の画像を生成し、生成した画像を出力画像重畳してもよい。

0237

表示部906は、映像信号処理部905から供給される駆動信号により駆動され、表示デバイス(例えば、液晶ディスプレイプラズマディスプレイ又はOELD(Organic ElectroLuminescence Display)(有機ELディスプレイ)など)の映像面上に映像又は画像を表示する。

0238

音声信号処理部907は、デコーダ904から入力される音声データについてD/A変換及び増幅などの再生処理を行い、スピーカ908から音声を出力させる。また、音声信号処理部907は、音声データについてノイズ除去などの追加的な処理を行ってもよい。

0239

外部インタフェース部909は、テレビジョン装置900と外部機器又はネットワークとを接続するためのインタフェースである。例えば、外部インタフェース部909を介して受信される映像ストリーム又は音声ストリームが、デコーダ904により復号されてもよい。即ち、外部インタフェース部909もまた、画像が符号化されている符号化ストリームを受信する、テレビジョン装置900における伝送部としての役割を有する。

0240

制御部910は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、プログラムデータ、EPGデータ、及びネットワークを介して取得されるデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、テレビジョン装置900の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース部911から入力される操作信号に応じて、テレビジョン装置900の動作を制御する。

0241

ユーザインタフェース部911は、制御部910と接続される。ユーザインタフェース部911は、例えば、ユーザがテレビジョン装置900を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース部911は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部910へ出力する。

0242

バス912は、チューナ902、デマルチプレクサ903、デコーダ904、映像信号処理部905、音声信号処理部907、外部インタフェース部909及び制御部910を相互に接続する。

0243

このように構成されたテレビジョン装置900において、デコーダ904が、画像復号装置100の機能を有するようにしてもよい。つまり、デコーダ904が、符号化データを第1の実施の形態において説明した方法で復号するようにしてもよい。このようにすることにより、テレビジョン装置900は、受信した符号化ビットストリームの復号処理の負荷の増大を抑制することができる。

0244

<第2の応用例:携帯電話機>
図35は、上述した実施形態を適用した携帯電話機の概略的な構成の一例を示している。携帯電話機920は、アンテナ921、通信部922、音声コーデック923、スピーカ924、マイクロホン925、カメラ部926、画像処理部927、多重分離部928、記録再生部929、表示部930、制御部931、操作部932、及びバス933を備える。

0245

アンテナ921は、通信部922に接続される。スピーカ924及びマイクロホン925は、音声コーデック923に接続される。操作部932は、制御部931に接続される。バス933は、通信部922、音声コーデック923、カメラ部926、画像処理部927、多重分離部928、記録再生部929、表示部930、及び制御部931を相互に接続する。

0246

携帯電話機920は、音声通話モードデータ通信モード撮影モード及びテレビ電話モードを含む様々な動作モードで、音声信号送受信電子メール又は画像データの送受信、画像の撮像、及びデータの記録などの動作を行う。

0247

音声通話モードにおいて、マイクロホン925により生成されるアナログ音声信号は、音声コーデック923に供給される。音声コーデック923は、アナログ音声信号を音声データへ変換し、変換された音声データをA/D変換し圧縮する。そして、音声コーデック923は、圧縮後の音声データを通信部922へ出力する。通信部922は、音声データを符号化及び変調し、送信信号を生成する。そして、通信部922は、生成した送信信号を、アンテナ921を介して基地局(図示せず)へ送信する。また、通信部922は、アンテナ921を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部922は、受信信号を復調及び復号して音声データを生成し、生成した音声データを音声コーデック923へ出力する。音声コーデック923は、音声データを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック923は、生成した音声信号をスピーカ924に供給して音声を出力させる。

0248

また、データ通信モードにおいて、例えば、制御部931は、操作部932を介するユーザによる操作に応じて、電子メールを構成する文字データを生成する。また、制御部931は、文字を表示部930に表示させる。また、制御部931は、操作部932を介するユーザからの送信指示に応じて電子メールデータを生成し、生成した電子メールデータを通信部922へ出力する。通信部922は、電子メールデータを符号化及び変調し、送信信号を生成する。そして、通信部922は、生成した送信信号を、アンテナ921を介して基地局(図示せず)へ送信する。また、通信部922は、アンテナ921を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部922は、受信信号を復調及び復号して電子メールデータを復元し、復元した電子メールデータを制御部931へ出力する。制御部931は、表示部930に電子メールの内容を表示させると共に、電子メールデータを記録再生部929に供給し、その記憶媒体に書き込ませる。

0249

記録再生部929は、読み書き可能な任意の記憶媒体を有する。例えば、記憶媒体は、RAM又はフラッシュメモリなどの内蔵型の記憶媒体であってもよく、ハードディスク、磁気ディスク、光磁気ディスク、光ディスク、USB(Universal Serial Bus)メモリ、又はメモリカードなどの外部装着型の記憶媒体であってもよい。

0250

また、撮影モードにおいて、例えば、カメラ部926は、被写体を撮像して画像データを生成し、生成した画像データを画像処理部927へ出力する。画像処理部927は、カメラ部926から入力される画像データを符号化し、符号化ストリームを記録再生部929に供給し、その記憶媒体に書き込ませる。

0251

さらに、画像表示モードにおいて、記録再生部929は、記憶媒体に記録されている符号化ストリームを読み出して画像処理部927へ出力する。画像処理部927は、記録再生部929から入力される符号化ストリームを復号し、画像データを表示部930に供給し、その画像を表示させる。

0252

また、テレビ電話モードにおいて、例えば、多重分離部928は、画像処理部927により符号化された映像ストリームと、音声コーデック923から入力される音声ストリームとを多重化し、多重化したストリームを通信部922へ出力する。通信部922は、ストリームを符号化及び変調し、送信信号を生成する。そして、通信部922は、生成した送信信号を、アンテナ921を介して基地局(図示せず)へ送信する。また、通信部922は、アンテナ921を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。これら送信信号及び受信信号には、符号化ビットストリームが含まれ得る。そして、通信部922は、受信信号を復調及び復号してストリームを復元し、復元したストリームを多重分離部928へ出力する。多重分離部928は、入力されるストリームから映像ストリーム及び音声ストリームを分離し、映像ストリームを画像処理部927、音声ストリームを音声コーデック923へ出力する。画像処理部927は、映像ストリームを復号し、映像データを生成する。映像データは、表示部930に供給され、表示部930により一連の画像が表示される。音声コーデック923は、音声ストリームを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック923は、生成した音声信号をスピーカ924に供給して音声を出力させる。

0253

このように構成された携帯電話機920において、例えば画像処理部927が、画像復号装置100の機能を有するようにしてもよい。つまり、画像処理部927が、符号化データを第1の実施の形態において説明した方法で復号するようにしてもよい。このようにすることにより、携帯電話機920は、符号化ストリーム(映像ストリーム)の復号処理の負荷の増大を抑制することができる。

0254

<第3の応用例:記録再生装置>
図36は、上述した実施形態を適用した記録再生装置の概略的な構成の一例を示している。記録再生装置940は、例えば、受信した放送番組の音声データ及び映像データを符号化して記録媒体に記録する。また、記録再生装置940は、例えば、他の装置から取得される音声データ及び映像データを符号化して記録媒体に記録してもよい。また、記録再生装置940は、例えば、ユーザの指示に応じて、記録媒体に記録されているデータをモニタ及びスピーカ上で再生する。このとき、記録再生装置940は、音声データおよび映像データを復号する。

0255

記録再生装置940は、チューナ941、外部インタフェース(I/F)部942、エンコーダ943、HDD(Hard Disk Drive)944、ディスクドライブ945、セレクタ946、デコーダ947、OSD(On-Screen Display)948、制御部949、およびユーザインタフェース(I/F)部950を備える。

0256

チューナ941は、アンテナ(図示せず)を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ941は、復調により得られた符号化ビットストリームをセレクタ946へ出力する。即ち、チューナ941は、記録再生装置940における伝送部としての役割を有する。

0257

外部インタフェース部942は、記録再生装置940と外部機器又はネットワークとを接続するためのインタフェースである。外部インタフェース部942は、例えば、IEEE(Institute of Electrical and Electronic Engineers)1394インタフェース、ネットワークインタフェース、USBインタフェース、又はフラッシュメモリインタフェースなどであってよい。例えば、外部インタフェース部942を介して受信される映像データおよび音声データは、エンコーダ943へ入力される。即ち、外部インタフェース部942は、記録再生装置940における伝送部としての役割を有する。

0258

エンコーダ943は、外部インタフェース部942から入力される映像データおよび音声データが符号化されていない場合に、映像データおよび音声データを符号化する。そして、エンコーダ943は、符号化ビットストリームをセレクタ946へ出力する。

0259

HDD944は、映像および音声などのコンテンツデータが圧縮された符号化ビットストリーム、各種プログラムおよびその他のデータを内部のハードディスクに記録する。また、HDD944は、映像および音声の再生時に、これらデータをハードディスクから読み出す。

0260

ディスクドライブ945は、装着されている記録媒体へのデータの記録および読み出しを行う。ディスクドライブ945に装着される記録媒体は、例えばDVD(Digital Versatile Disc)ディスク(DVD-Video、DVD-RAM(DVD - Random Access Memory)、DVD-R(DVD - Recordable)、DVD-RW(DVD - Rewritable)、DVD+R(DVD + Recordable)、DVD+RW(DVD + Rewritable)等)又はBlu-ray(登録商標)ディスクなどであってよい。

0261

セレクタ946は、映像および音声の記録時には、チューナ941又はエンコーダ943から入力される符号化ビットストリームを選択し、選択した符号化ビットストリームをHDD944又はディスクドライブ945へ出力する。また、セレクタ946は、映像及び音声の再生時には、HDD944又はディスクドライブ945から入力される符号化ビットストリームをデコーダ947へ出力する。

0262

デコーダ947は、符号化ビットストリームを復号し、映像データ及び音声データを生成する。そして、デコーダ947は、生成した映像データをOSD948へ出力する。また、デコーダ947は、生成した音声データを外部のスピーカへ出力する。

0263

OSD948は、デコーダ947から入力される映像データを再生し、映像を表示する。また、OSD948は、表示する映像に、例えばメニュー、ボタン又はカーソルなどのGUIの画像を重畳してもよい。

0264

制御部949は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、記録再生装置940の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース部950から入力される操作信号に応じて、記録再生装置940の動作を制御する。

0265

ユーザインタフェース部950は、制御部949と接続される。ユーザインタフェース部950は、例えば、ユーザが記録再生装置940を操作するためのボタンおよびスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース部950は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部949へ出力する。

0266

このように構成された記録再生装置940において、例えばデコーダ947が、画像復号装置100の機能を有するようにしてもよい。つまり、デコーダ947が、符号化データを第1の実施の形態において説明した方法で復号するようにしてもよい。このようにすることにより、記録再生装置940は、符号化ビットストリームの復号処理の負荷の増大を抑制することができる。

0267

<第4の応用例:撮像装置>
図37は、上述した実施形態を適用した撮像装置の概略的な構成の一例を示している。撮像装置960は、被写体を撮像して画像を生成し、画像データを符号化して記録媒体に記録する。

0268

撮像装置960は、光学ブロック961、撮像部962、信号処理部963、画像処理部964、表示部965、外部インタフェース(I/F)部966、メモリ部967、メディアドライブ968、OSD969、制御部970、ユーザインタフェース(I/F)部971、およびバス972を備える。

0269

光学ブロック961は、撮像部962に接続される。撮像部962は、信号処理部963に接続される。表示部965は、画像処理部964に接続される。ユーザインタフェース部971は、制御部970に接続される。バス972は、画像処理部964、外部インタフェース部966、メモリ部967、メディアドライブ968、OSD969、および制御部970を相互に接続する。

0270

光学ブロック961は、フォーカスレンズ及び絞り機構などを有する。光学ブロック961は、被写体の光学像を撮像部962の撮像面に結像させる。撮像部962は、CCD(Charge Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)などのイメージセンサを有し、撮像面に結像した光学像を光電変換によって電気信号としての画像信号に変換する。そして、撮像部962は、画像信号を信号処理部963へ出力する。

0271

信号処理部963は、撮像部962から入力される画像信号に対してニー補正ガンマ補正色補正などの種々のカメラ信号処理を行う。信号処理部963は、カメラ信号処理後の画像データを画像処理部964へ出力する。

0272

画像処理部964は、信号処理部963から入力される画像データを符号化し、符号化データを生成する。そして、画像処理部964は、生成した符号化データを外部インタフェース部966またはメディアドライブ968へ出力する。また、画像処理部964は、外部インタフェース部966またはメディアドライブ968から入力される符号化データを復号し、画像データを生成する。そして、画像処理部964は、生成した画像データを表示部965へ出力する。また、画像処理部964は、信号処理部963から入力される画像データを表示部965へ出力して画像を表示させてもよい。また、画像処理部964は、OSD969から取得される表示用データを、表示部965へ出力する画像に重畳してもよい。

0273

OSD969は、例えばメニュー、ボタン又はカーソルなどのGUIの画像を生成して、生成した画像を画像処理部964へ出力する。

0274

外部インタフェース部966は、例えばUSB入出力端子として構成される。外部インタフェース部966は、例えば、画像の印刷時に、撮像装置960とプリンタとを接続する。また、外部インタフェース部966には、必要に応じてドライブが接続される。ドライブには、例えば、磁気ディスク又は光ディスクなどのリムーバブルメディアが装着され、リムーバブルメディアから読み出されるプログラムが、撮像装置960にインストールされ得る。さらに、外部インタフェース部966は、LAN又はインターネットなどのネットワークに接続されるネットワークインタフェースとして構成されてもよい。即ち、外部インタフェース部966は、撮像装置960における伝送部としての役割を有する。

0275

メディアドライブ968に装着される記録媒体は、例えば、磁気ディスク、光磁気ディスク、光ディスク、又は半導体メモリなどの、読み書き可能な任意のリムーバブルメディアであってよい。また、メディアドライブ968に記録媒体が固定的に装着され、例えば、内蔵型ハードディスクドライブ又はSSD(Solid State Drive)のような非可搬性の記憶部が構成されてもよい。

0276

制御部970は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、撮像装置960の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース部971から入力される操作信号に応じて、撮像装置960の動作を制御する。

0277

ユーザインタフェース部971は、制御部970と接続される。ユーザインタフェース部971は、例えば、ユーザが撮像装置960を操作するためのボタン及びスイッチなどを有する。ユーザインタフェース部971は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部970へ出力する。

0278

このように構成された撮像装置960において、例えば画像処理部964が、画像復号装置100の機能を有するようにしてもよい。つまり、画像処理部964が、符号化データを第1の実施の形態において説明した方法で復号するようにしてもよい。このようにすることにより、撮像装置960は、符号化データの復号処理の負荷の増大を抑制することができる。

0279

なお、本技術は、予め用意された解像度等が互いに異なる複数の符号化データの中から適切なものをセグメント単位で選択して使用する、例えばMPEG DASH等のようなHTTPストリーミングにも適用することができる。つまり、このような複数の符号化データ間で、符号化や復号に関する情報を共有することもできる。

0280

<6.第6の実施の形態>
<実施のその他の例>
以上において本技術を適用する装置やシステム等の例を説明したが、本技術は、これに限らず、このような装置またはシステムを構成する装置に搭載するあらゆる構成、例えば、システムLSI(Large Scale Integration)等としてのプロセッサ、複数のプロセッサ等を用いるモジュール、複数のモジュール等を用いるユニット、ユニットにさらにその他の機能を付加したセット等(すなわち、装置の一部の構成)として実施することもできる。

0281

<ビデオセット>
本技術をセットとして実施する場合の例について、図38を参照して説明する。図38は、本技術を適用したビデオセットの概略的な構成の一例を示している。

0282

近年、電子機器の多機能化が進んでおり、その開発や製造において、その一部の構成を販売や提供等として実施する場合、1機能を有する構成として実施を行う場合だけでなく、関連する機能を有する複数の構成を組み合わせ、複数の機能を有する1セットとして実施を行う場合も多く見られるようになってきた。

0283

図38に示されるビデオセット1300は、このような多機能化された構成であり、画像の符号化や復号(いずれか一方でもよいし、両方でも良い)に関する機能を有するデバイスに、その機能に関連するその他の機能を有するデバイスを組み合わせたものである。

0284

図38に示されるように、ビデオセット1300は、ビデオモジュール1311、外部メモリ1312、パワーマネージメントモジュール1313、およびフロントエンドモジュール1314等のモジュール群と、コネクティビティ1321、カメラ1322、およびセンサ1323等の関連する機能を有するデバイスとを有する。

0285

モジュールは、互いに関連するいくつかの部品的機能をまとめ、まとまりのある機能を持った部品としたものである。具体的な物理的構成は任意であるが、例えば、それぞれ機能を有する複数のプロセッサ、抵抗コンデンサ等の電子回路素子、その他のデバイス等を配線基板等に配置して一体化したものが考えられる。また、モジュールに他のモジュールやプロセッサ等を組み合わせて新たなモジュールとすることも考えられる。

0286

図38の例の場合、ビデオモジュール1311は、画像処理に関する機能を有する構成を組み合わせたものであり、アプリケーションプロセッサ、ビデオプロセッサ、ブロードバンドモデム1333、およびRFモジュール1334を有する。

0287

プロセッサは、所定の機能を有する構成をSoC(System On a Chip)により半導体チップ集積したものであり、例えばシステムLSI(Large Scale Integration)等と称されるものもある。この所定の機能を有する構成は、論理回路ハードウエア構成)であってもよいし、CPU、ROM、RAM等と、それらを用いて実行されるプログラム(ソフトウエア構成)であってもよいし、その両方を組み合わせたものであってもよい。例えば、プロセッサが、論理回路とCPU、ROM、RAM等とを有し、機能の一部を論理回路(ハードウエア構成)により実現し、その他の機能をCPUにおいて実行されるプログラム(ソフトウエア構成)により実現するようにしてもよい。

0288

図38のアプリケーションプロセッサ1331は、画像処理に関するアプリケーションを実行するプロセッサである。このアプリケーションプロセッサ1331において実行されるアプリケーションは、所定の機能を実現するために、演算処理を行うだけでなく、例えばビデオプロセッサ1332等、ビデオモジュール1311内外の構成を必要に応じて制御することもできる。

0289

ビデオプロセッサ1332は、画像の符号化・復号(その一方若しくは両方)に関する機能を有するプロセッサである。

0290

ブロードバンドモデム1333は、インターネットや公衆電話回線網等の広帯域回線を介して行われる有線若しくは無線(またはその両方)の広帯域通信により送信するデータ(デジタル信号)をデジタル変調する等してアナログ信号に変換したり、その広帯域通信により受信したアナログ信号を復調してデータ(デジタル信号)に変換したりする。ブロードバンドモデム1333は、例えば、ビデオプロセッサ1332が処理する画像データ、画像データが符号化されたストリーム、アプリケーションプログラム設定データ等、任意の情報を処理する。

0291

RFモジュール1334は、アンテナを介して送受信されるRF(Radio Frequency)信号に対して、周波数変換、変復調、増幅、フィルタ処理等を行うモジュールである。例えば、RFモジュール1334は、ブロードバンドモデム1333により生成されたベースバンド信号に対して周波数変換等を行ってRF信号を生成する。また、例えば、RFモジュール1334は、フロントエンドモジュール1314を介して受信されたRF信号に対して周波数変換等を行ってベースバンド信号を生成する。

0292

なお、図38において点線1341に示されるように、アプリケーションプロセッサ1331とビデオプロセッサ1332を、一体化し、1つのプロセッサとして構成されるようにしてもよい。

0293

外部メモリ1312は、ビデオモジュール1311の外部に設けられた、ビデオモジュール1311により利用される記憶デバイスを有するモジュールである。この外部メモリ1312の記憶デバイスは、どのような物理構成により実現するようにしてもよいが、一般的にフレーム単位の画像データのような大容量のデータの格納に利用されることが多いので、例えばDRAM(Dynamic Random Access Memory)のような比較的安価で大容量の半導体メモリにより実現するのが望ましい。

0294

パワーマネージメントモジュール1313は、ビデオモジュール1311(ビデオモジュール1311内の各構成)への電力供給を管理し、制御する。

0295

フロントエンドモジュール1314は、RFモジュール1334に対してフロントエンド機能(アンテナ側送受信端回路)を提供するモジュールである。図38に示されるように、フロントエンドモジュール1314は、例えば、アンテナ部1351、フィルタ1352、および増幅部1353を有する。

0296

アンテナ部1351は、無線信号を送受信するアンテナおよびその周辺の構成を有する。アンテナ部1351は、増幅部1353から供給される信号を無線信号として送信し、受信した無線信号を電気信号(RF信号)としてフィルタ1352に供給する。フィルタ1352は、アンテナ部1351を介して受信されたRF信号に対してフィルタ処理等を行い、処理後のRF信号をRFモジュール1334に供給する。増幅部1353は、RFモジュール1334から供給されるRF信号を増幅し、アンテナ部1351に供給する。

0297

コネクティビティ1321は、外部との接続に関する機能を有するモジュールである。コネクティビティ1321の物理構成は、任意である。例えば、コネクティビティ1321は、ブロードバンドモデム1333が対応する通信規格以外の通信機能を有する構成や、外部入出力端子等を有する。

0298

例えば、コネクティビティ1321が、Bluetooth(登録商標)、IEEE 802.11(例えばWi-Fi(Wireless Fidelity、登録商標))、NFC(Near Field Communication)、IrDA(InfraRed Data Association)等の無線通信規格準拠する通信機能を有するモジュールや、その規格に準拠した信号を送受信するアンテナ等を有するようにしてもよい。また、例えば、コネクティビティ1321が、USB(Universal Serial Bus)、HDMI(登録商標)(High-Definition Multimedia Interface)等の有線通信規格に準拠する通信機能を有するモジュールや、その規格に準拠した端子を有するようにしてもよい。さらに、例えば、コネクティビティ1321が、アナログ入出力端子等のその他のデータ(信号)伝送機能等を有するようにしてもよい。

0299

なお、コネクティビティ1321が、データ(信号)の伝送先のデバイスを含むようにしてもよい。例えば、コネクティビティ1321が、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等の記録媒体に対してデータの読み出しや書き込みを行うドライブ(リムーバブルメディアのドライブだけでなく、ハードディスク、SSD(Solid State Drive)、NAS(Network Attached Storage)等も含む)を有するようにしてもよい。また、コネクティビティ1321が、画像や音声の出力デバイス(モニタやスピーカ等)を有するようにしてもよい。

0300

カメラ1322は、被写体を撮像し、被写体の画像データを得る機能を有するモジュールである。カメラ1322の撮像により得られた画像データは、例えば、ビデオプロセッサ1332に供給されて符号化される。

0301

センサ1323は、例えば、音声センサ超音波センサ光センサ照度センサ赤外線センサ、イメージセンサ、回転センサ角度センサ角速度センサ速度センサ加速度センサ傾斜センサ磁気識別センサ衝撃センサ温度センサ等、任意のセンサ機能を有するモジュールである。センサ1323により検出されたデータは、例えば、アプリケーションプロセッサ1331に供給されてアプリケーション等により利用される。

0302

以上においてモジュールとして説明した構成をプロセッサとして実現するようにしてもよいし、逆にプロセッサとして説明した構成をモジュールとして実現するようにしてもよい。

0303

以上のような構成のビデオセット1300において、後述するようにビデオプロセッサ1332に本技術を適用することができる。したがって、ビデオセット1300は、本技術を適用したセットとして実施することができる。

0304

<ビデオプロセッサの構成例>
図39は、本技術を適用したビデオプロセッサ1332(図38)の概略的な構成の一例を示している。

0305

図39の例の場合、ビデオプロセッサ1332は、ビデオ信号およびオーディオ信号の入力を受けてこれらを所定の方式で符号化する機能と、符号化されたビデオデータおよびオーディオデータを復号し、ビデオ信号およびオーディオ信号を再生出力する機能とを有する。

0306

図39に示されるように、ビデオプロセッサ1332は、ビデオ入力処理部1401、第1画像拡大縮小部1402、第2画像拡大縮小部1403、ビデオ出力処理部1404、フレームメモリ1405、およびメモリ制御部1406を有する。また、ビデオプロセッサ1332は、エンコードデコードエンジン1407、ビデオES(Elementary Stream)バッファ1408Aおよび1408B、並びに、オーディオESバッファ1409Aおよび1409Bを有する。さらに、ビデオプロセッサ1332は、オーディオエンコーダ1410、オーディオデコーダ1411、多重化部(MUX(Multiplexer))1412、逆多重化部(DMUX(Demultiplexer))1413、およびストリームバッファ1414を有する。

0307

ビデオ入力処理部1401は、例えばコネクティビティ1321(図38)等から入力されたビデオ信号を取得し、デジタル画像データに変換する。第1画像拡大縮小部1402は、画像データに対してフォーマット変換や画像の拡大縮小処理等を行う。第2画像拡大縮小部1403は、画像データに対して、ビデオ出力処理部1404を介して出力する先でのフォーマットに応じて画像の拡大縮小処理を行ったり、第1画像拡大縮小部1402と同様のフォーマット変換や画像の拡大縮小処理等を行ったりする。ビデオ出力処理部1404は、画像データに対して、フォーマット変換やアナログ信号への変換等を行って、再生されたビデオ信号として例えばコネクティビティ1321等に出力する。

0308

フレームメモリ1405は、ビデオ入力処理部1401、第1画像拡大縮小部1402、第2画像拡大縮小部1403、ビデオ出力処理部1404、およびエンコード・デコードエンジン1407によって共用される画像データ用のメモリである。フレームメモリ1405は、例えばDRAM等の半導体メモリとして実現される。

0309

メモリ制御部1406は、エンコード・デコードエンジン1407からの同期信号を受けて、アクセス管理テーブル1406Aに書き込まれたフレームメモリ1405へのアクセススケジュールに従ってフレームメモリ1405に対する書き込み・読み出しのアクセスを制御する。アクセス管理テーブル1406Aは、エンコード・デコードエンジン1407、第1画像拡大縮小部1402、第2画像拡大縮小部1403等で実行される処理に応じて、メモリ制御部1406により更新される。

0310

エンコード・デコードエンジン1407は、画像データのエンコード処理、並びに、画像データが符号化されたデータであるビデオストリームデコード処理を行う。例えば、エンコード・デコードエンジン1407は、フレームメモリ1405から読み出した画像データを符号化し、ビデオストリームとしてビデオESバッファ1408Aに順次書き込む。また、例えば、ビデオESバッファ1408Bからビデオストリームを順次読み出して復号し、画像データとしてフレームメモリ1405に順次書き込む。エンコード・デコードエンジン1407は、これらの符号化や復号において、フレームメモリ1405を作業領域として使用する。また、エンコード・デコードエンジン1407は、例えばマクロブロック毎の処理を開始するタイミングで、メモリ制御部1406に対して同期信号を出力する。

0311

ビデオESバッファ1408Aは、エンコード・デコードエンジン1407によって生成されたビデオストリームをバッファリングして、多重化部(MUX)1412に供給する。ビデオESバッファ1408Bは、逆多重化部(DMUX)1413から供給されたビデオストリームをバッファリングして、エンコード・デコードエンジン1407に供給する。

0312

オーディオESバッファ1409Aは、オーディオエンコーダ1410によって生成されたオーディオストリームをバッファリングして、多重化部(MUX)1412に供給する。オーディオESバッファ1409Bは、逆多重化部(DMUX)1413から供給されたオーディオストリームをバッファリングして、オーディオデコーダ1411に供給する。

0313

オーディオエンコーダ1410は、例えばコネクティビティ1321等から入力されたオーディオ信号を例えばデジタル変換し、例えばMPEGオーディオ方式やAC3(AudioCode number 3)方式等の所定の方式で符号化する。オーディオエンコーダ1410は、オーディオ信号が符号化されたデータであるオーディオストリームをオーディオESバッファ1409Aに順次書き込む。オーディオデコーダ1411は、オーディオESバッファ1409Bから供給されたオーディオストリームを復号し、例えばアナログ信号への変換等を行って、再生されたオーディオ信号として例えばコネクティビティ1321等に供給する。

0314

多重化部(MUX)1412は、ビデオストリームとオーディオストリームとを多重化する。この多重化の方法(すなわち、多重化により生成されるビットストリームのフォーマット)は任意である。また、この多重化の際に、多重化部(MUX)1412は、所定のヘッダ情報等をビットストリームに付加することもできる。つまり、多重化部(MUX)1412は、多重化によりストリームのフォーマットを変換することができる。例えば、多重化部(MUX)1412は、ビデオストリームとオーディオストリームとを多重化することにより、転送用のフォーマットのビットストリームであるトランスポートストリームに変換する。また、例えば、多重化部(MUX)1412は、ビデオストリームとオーディオストリームとを多重化することにより、記録用ファイルフォーマットのデータ(ファイルデータ)に変換する。

0315

逆多重化部(DMUX)1413は、多重化部(MUX)1412による多重化に対応する方法で、ビデオストリームとオーディオストリームとが多重化されたビットストリームを逆多重化する。つまり、逆多重化部(DMUX)1413は、ストリームバッファ1414から読み出されたビットストリームからビデオストリームとオーディオストリームとを抽出する(ビデオストリームとオーディオストリームとを分離する)。つまり、逆多重化部(DMUX)1413は、逆多重化によりストリームのフォーマットを変換(多重化部(MUX)1412による変換の逆変換)することができる。例えば、逆多重化部(DMUX)1413は、例えばコネクティビティ1321やブロードバンドモデム1333等から供給されたトランスポートストリームを、ストリームバッファ1414を介して取得し、逆多重化することにより、ビデオストリームとオーディオストリームとに変換することができる。また、例えば、逆多重化部(DMUX)1413は、例えばコネクティビティ1321により各種記録媒体から読み出されたファイルデータを、ストリームバッファ1414を介して取得し、逆多重化することにより、ビデオストリームとオーディオストリームとに変換することができる。

0316

ストリームバッファ1414は、ビットストリームをバッファリングする。例えば、ストリームバッファ1414は、多重化部(MUX)1412から供給されたトランスポートストリームをバッファリングし、所定のタイミングにおいて、若しくは外部からの要求等に基づいて、例えばコネクティビティ1321やブロードバンドモデム1333等に供給する。

0317

また、例えば、ストリームバッファ1414は、多重化部(MUX)1412から供給されたファイルデータをバッファリングし、所定のタイミングにおいて、若しくは外部からの要求等に基づいて、例えばコネクティビティ1321等に供給し、各種記録媒体に記録させる。

0318

さらに、ストリームバッファ1414は、例えばコネクティビティ1321やブロードバンドモデム1333等を介して取得したトランスポートストリームをバッファリングし、所定のタイミングにおいて、若しくは外部からの要求等に基づいて、逆多重化部(DMUX)1413に供給する。

0319

また、ストリームバッファ1414は、例えばコネクティビティ1321等において各種記録媒体から読み出されたファイルデータをバッファリングし、所定のタイミングにおいて、若しくは外部からの要求等に基づいて、逆多重化部(DMUX)1413に供給する。

0320

次に、このような構成のビデオプロセッサ1332の動作の例について説明する。例えば、コネクティビティ1321等からビデオプロセッサ1332に入力されたビデオ信号は、ビデオ入力処理部1401において4:2:2Y/Cb/Cr方式等の所定の方式のデジタル画像データに変換され、フレームメモリ1405に順次書き込まれる。このデジタル画像データは、第1画像拡大縮小部1402または第2画像拡大縮小部1403に読み出されて、4:2:0Y/Cb/Cr方式等の所定の方式へのフォーマット変換および拡大縮小処理が行われ、再びフレームメモリ1405に書き込まれる。この画像データは、エンコード・デコードエンジン1407によって符号化され、ビデオストリームとしてビデオESバッファ1408Aに書き込まれる。

0321

また、コネクティビティ1321等からビデオプロセッサ1332に入力されたオーディオ信号は、オーディオエンコーダ1410によって符号化され、オーディオストリームとして、オーディオESバッファ1409Aに書き込まれる。

0322

ビデオESバッファ1408Aのビデオストリームと、オーディオESバッファ1409Aのオーディオストリームは、多重化部(MUX)1412に読み出されて多重化され、トランスポートストリーム若しくはファイルデータ等に変換される。多重化部(MUX)1412により生成されたトランスポートストリームは、ストリームバッファ1414にバッファされた後、例えばコネクティビティ1321やブロードバンドモデム1333等を介して外部ネットワークに出力される。また、多重化部(MUX)1412により生成されたファイルデータは、ストリームバッファ1414にバッファされた後、例えばコネクティビティ1321等に出力され、各種記録媒体に記録される。

0323

また、例えばコネクティビティ1321やブロードバンドモデム1333等を介して外部ネットワークからビデオプロセッサ1332に入力されたトランスポートストリームは、ストリームバッファ1414にバッファされた後、逆多重化部(DMUX)1413により逆多重化される。また、例えばコネクティビティ1321等において各種記録媒体から読み出され、ビデオプロセッサ1332に入力されたファイルデータは、ストリームバッファ1414にバッファされた後、逆多重化部(DMUX)1413により逆多重化される。つまり、ビデオプロセッサ1332に入力されたトランスポートストリームまたはファイルデータは、逆多重化部(DMUX)1413によりビデオストリームとオーディオストリームとに分離される。

0324

オーディオストリームは、オーディオESバッファ1409Bを介してオーディオデコーダ1411に供給され、復号されてオーディオ信号が再生される。また、ビデオストリームは、ビデオESバッファ1408Bに書き込まれた後、エンコード・デコードエンジン1407により順次読み出されて復号されてフレームメモリ1405に書き込まれる。復号された画像データは、第2画像拡大縮小部1403によって拡大縮小処理されて、フレームメモリ1405に書き込まれる。そして、復号された画像データは、ビデオ出力処理部1404に読み出されて、4:2:2Y/Cb/Cr方式等の所定の方式にフォーマット変換され、さらにアナログ信号に変換されて、ビデオ信号が再生出力される。

0325

このように構成されるビデオプロセッサ1332に本技術を適用する場合、エンコード・デコードエンジン1407に、上述した各実施形態に係る本技術を適用すればよい。つまり、例えば、エンコード・デコードエンジン1407が、上述した画像復号装置100の機能を有するようにすればよい。このようにすることにより、ビデオプロセッサ1332は、図1乃至図26を参照して上述した効果と同様の効果を得ることができる。

0326

なお、エンコード・デコードエンジン1407において、本技術(すなわち、画像復号装置100の機能)は、論理回路等のハードウエアにより実現するようにしてもよいし、組み込みプログラム等のソフトウエアにより実現するようにしてもよいし、それらの両方により実現するようにしてもよい。

0327

<ビデオプロセッサの他の構成例>
図40は、本技術を適用したビデオプロセッサ1332の概略的な構成の他の例を示している。図40の例の場合、ビデオプロセッサ1332は、ビデオデータを所定の方式で符号化・復号する機能を有する。

0328

より具体的には、図40に示されるように、ビデオプロセッサ1332は、制御部1511、ディスプレイインタフェース1512、ディスプレイエンジン1513、画像処理エンジン1514、および内部メモリ1515を有する。また、ビデオプロセッサ1332は、コーデックエンジン1516、メモリインタフェース1517、多重化・逆多重化部(MUXDMUX)1518、ネットワークインタフェース1519、およびビデオインタフェース1520を有する。

0329

制御部1511は、ディスプレイインタフェース1512、ディスプレイエンジン1513、画像処理エンジン1514、およびコーデックエンジン1516等、ビデオプロセッサ1332内の各処理部の動作を制御する。

0330

図40に示されるように、制御部1511は、例えば、メインCPU1531、サブCPU1532、およびシステムコントローラ1533を有する。メインCPU1531は、ビデオプロセッサ1332内の各処理部の動作を制御するためのプログラム等を実行する。メインCPU1531は、そのプログラム等に従って制御信号を生成し、各処理部に供給する(つまり、各処理部の動作を制御する)。サブCPU1532は、メインCPU1531の補助的な役割を果たす。例えば、サブCPU1532は、メインCPU1531が実行するプログラム等の子プロセスサブルーチン等を実行する。システムコントローラ1533は、メインCPU1531およびサブCPU1532が実行するプログラムを指定する等、メインCPU1531およびサブCPU1532の動作を制御する。

0331

ディスプレイインタフェース1512は、制御部1511の制御の下、画像データを例えばコネクティビティ1321等に出力する。例えば、ディスプレイインタフェース1512は、デジタルデータの画像データをアナログ信号に変換し、再生されたビデオ信号として、またはデジタルデータの画像データのまま、コネクティビティ1321のモニタ装置等に出力する。

0332

ディスプレイエンジン1513は、制御部1511の制御の下、画像データに対して、その画像を表示させるモニタ装置等のハードウエアスペックに合わせるように、フォーマット変換、サイズ変換色域変換等の各種変換処理を行う。

0333

画像処理エンジン1514は、制御部1511の制御の下、画像データに対して、例えば画質改善のためのフィルタ処理等、所定の画像処理を施す。

0334

内部メモリ1515は、ディスプレイエンジン1513、画像処理エンジン1514、およびコーデックエンジン1516により共用される、ビデオプロセッサ1332の内部に設けられたメモリである。内部メモリ1515は、例えば、ディスプレイエンジン1513、画像処理エンジン1514、およびコーデックエンジン1516の間で行われるデータの授受に利用される。例えば、内部メモリ1515は、ディスプレイエンジン1513、画像処理エンジン1514、またはコーデックエンジン1516から供給されるデータを格納し、必要に応じて(例えば、要求に応じて)、そのデータを、ディスプレイエンジン1513、画像処理エンジン1514、またはコーデックエンジン1516に供給する。この内部メモリ1515は、どのような記憶デバイスにより実現するようにしてもよいが、一般的にブロック単位の画像データやパラメータ等といった小容量のデータの格納に利用することが多いので、例えばSRAM(Static Random Access Memory)のような比較的(例えば外部メモリ1312と比較して)小容量だが応答速度が高速な半導体メモリにより実現するのが望ましい。

0335

コーデックエンジン1516は、画像データの符号化や復号に関する処理を行う。このコーデックエンジン1516が対応する符号化・復号の方式は任意であり、その数は1つであってもよいし、複数であってもよい。例えば、コーデックエンジン1516は、複数の符号化・復号方式コーデック機能を備え、その中から選択されたもので画像データの符号化若しくは符号化データの復号を行うようにしてもよい。

0336

図40に示される例において、コーデックエンジン1516は、コーデックに関する処理の機能ブロックとして、例えば、MPEG-2 Video1541、AVC/H.2641542、HEVC/H.2651543、HEVC/H.265(Scalable)1544、HEVC/H.265(Multi-view)1545、およびMPEG-DASH1551を有する。

0337

MPEG-2 Video1541は、画像データをMPEG-2方式で符号化したり復号したりする機能ブロックである。AVC/H.2641542は、画像データをAVC方式で符号化したり復号したりする機能ブロックである。HEVC/H.2651543は、画像データをHEVC方式で符号化したり復号したりする機能ブロックである。HEVC/H.265(Scalable)1544は、画像データをHEVC方式でスケーラブル符号化したりスケーラブル復号したりする機能ブロックである。HEVC/H.265(Multi-view)1545は、画像データをHEVC方式で多視点符号化したり多視点復号したりする機能ブロックである。

0338

MPEG-DASH1551は、画像データをMPEG-DASH(MPEG-Dynamic Adaptive Streaming overHTTP)方式で送受信する機能ブロックである。MPEG-DASHは、HTTP(HyperText Transfer Protocol)を使ってビデオのストリーミングを行う技術であり、予め用意された解像度等が互いに異なる複数の符号化データの中から適切なものをセグメント単位で選択し伝送することを特徴の1つとする。MPEG-DASH1551は、規格に準拠するストリームの生成やそのストリームの伝送制御等を行い、画像データの符号化・復号については、上述したMPEG-2 Video1541乃至HEVC/H.265(Multi-view)1545を利用する。

0339

メモリインタフェース1517は、外部メモリ1312用のインタフェースである。画像処理エンジン1514やコーデックエンジン1516から供給されるデータは、メモリインタフェース1517を介して外部メモリ1312に供給される。また、外部メモリ1312から読み出されたデータは、メモリインタフェース1517を介してビデオプロセッサ1332(画像処理エンジン1514若しくはコーデックエンジン1516)に供給される。

0340

多重化・逆多重化部(MUXDMUX)1518は、符号化データのビットストリーム、画像データ、ビデオ信号等、画像に関する各種データの多重化や逆多重化を行う。この多重化・逆多重化の方法は任意である。例えば、多重化の際に、多重化・逆多重化部(MUX DMUX)1518は、複数のデータを1つにまとめるだけでなく、所定のヘッダ情報等をそのデータに付加することもできる。また、逆多重化の際に、多重化・逆多重化部(MUX DMUX)1518は、1つのデータを複数に分割するだけでなく、分割した各データに所定のヘッダ情報等を付加することもできる。つまり、多重化・逆多重化部(MUX DMUX)1518は、多重化・逆多重化によりデータのフォーマットを変換することができる。例えば、多重化・逆多重化部(MUX DMUX)1518は、ビットストリームを多重化することにより、転送用のフォーマットのビットストリームであるトランスポートストリームや、記録用のファイルフォーマットのデータ(ファイルデータ)に変換することができる。もちろん、逆多重化によりその逆変換も可能である。

0341

ネットワークインタフェース1519は、例えばブロードバンドモデム1333やコネクティビティ1321等向けのインタフェースである。ビデオインタフェース1520は、例えばコネクティビティ1321やカメラ1322等向けのインタフェースである。

0342

次に、このようなビデオプロセッサ1332の動作の例について説明する。例えば、コネクティビティ1321やブロードバンドモデム1333等を介して外部ネットワークからトランスポートストリームを受信すると、そのトランスポートストリームは、ネットワークインタフェース1519を介して多重化・逆多重化部(MUXDMUX)1518に供給されて逆多重化され、コーデックエンジン1516により復号される。コーデックエンジン1516の復号により得られた画像データは、例えば、画像処理エンジン1514により所定の画像処理が施され、ディスプレイエンジン1513により所定の変換が行われ、ディスプレイインタフェース1512を介して例えばコネクティビティ1321等に供給され、その画像がモニタに表示される。また、例えば、コーデックエンジン1516の復号により得られた画像データは、コーデックエンジン1516により再符号化され、多重化・逆多重化部(MUX DMUX)1518により多重化されてファイルデータに変換され、ビデオインタフェース1520を介して例えばコネクティビティ1321等に出力され、各種記録媒体に記録される。

ページトップへ

この技術を出願した法人

この技術を発明した人物

ページトップへ

関連する挑戦したい社会課題

関連する公募課題

該当するデータがありません

ページトップへ

技術視点だけで見ていませんか?

この技術の活用可能性がある分野

分野別動向を把握したい方- 事業化視点で見る -

(分野番号表示ON)※整理標準化データをもとに当社作成

ページトップへ

おススメ サービス

おススメ astavisionコンテンツ

新着 最近 公開された関連が強い技術

この 技術と関連性が強い人物

関連性が強い人物一覧

この 技術と関連する社会課題

関連する挑戦したい社会課題一覧

この 技術と関連する公募課題

該当するデータがありません

astavision 新着記事

サイト情報について

本サービスは、国が公開している情報(公開特許公報、特許整理標準化データ等)を元に構成されています。出典元のデータには一部間違いやノイズがあり、情報の正確さについては保証致しかねます。また一時的に、各データの収録範囲や更新周期によって、一部の情報が正しく表示されないことがございます。当サイトの情報を元にした諸問題、不利益等について当方は何ら責任を負いかねることを予めご承知おきのほど宜しくお願い申し上げます。

主たる情報の出典

特許情報…特許整理標準化データ(XML編)、公開特許公報、特許公報、審決公報、Patent Map Guidance System データ