図面 (/)

技術 高次アンビソニックス信号表現を圧縮又は圧縮解除するための方法又は装置

出願人 ドルビー・インターナショナル・アーベー
発明者 クルーガー,アレクサンダーコルドン,スヴェンベーム,ヨーハネスバトケ,ヨハン−マルクス
出願日 2017年9月12日 (2年0ヶ月経過) 出願番号 2017-174629
公開日 2018年2月15日 (1年7ヶ月経過) 公開番号 2018-025808
状態 特許登録済
技術分野 音声の分析・合成
主要キーワード 加算成分 方向性信号 割り当て関数 ルジャンドル多項式 最適アルゴリズム ユークリッド幾何学 スカラ積 連方向
関連する未来課題
重要な関連分野

この項目の情報は公開日時点(2018年2月15日)のものです。
また、この項目は機械的に抽出しているため、正しく解析できていない場合があります

図面 (4)

課題

高次アンビソニックス(HOA)は、拡声器の設定とは独立して、スイートスポット近辺の完全なサウンドフィールド表現する。空間解像度が高い場合、多数のHOA係数を必要とする。

解決手段

支配的なサウンド方向が推定され、HOA信号表現は、時間ドメインにおける支配的方向信号及び関連方向情報と、HOAドメインにおけるアンビエント成分とに分解され、その後に低次数化によりアンビエント成分を圧縮する処理が続く。低次数化されたアンビエント成分は空間ドメインに変換され、方向信号とともに知覚的エンコードされる。受信機の側では、エンコードされた方向信号及び低次数化されエンコードされたアンビエント成分は、低次数化されたHOAドメイン表現に変換され、その後に次数拡張処理が続く。方向信号、対応する方向情報、及びオリジナルの次数のアンビエントHOA成分から、完全なHOA表現が再構成される。

概要

背景

高次アンビソニックス(Higher Order Ambisonics:HOA)は、3次元空間内の特定の場所(「スイートスポット」と呼ばれる場所)の近辺における完全な音場を取得できる利点をもたらす。そのようなHOA表現は、具体的なスピーカーの設定とは無関係であり、この点、ステレオ又はサラウンド等のようなチャネル方式の技術と異なる。このような柔軟性は、デコードプロセスが特定のスピーカーの設定の場合におけるHOA表現を再生しなければならないことを代償とする。

HOAは、所望のリスナーの位置の近辺の場所xにおける個々の角波数kに関する空気圧複素振幅表現に基づいており、一般性を失うことなく、リスナーの位置は球面座標系原点であると仮定してよく、HOAは打ち切られた球面調和(Spherical Harmonics:SH)展開を用いて表現される。この表現の空間分解能は、展開の最大次数Nを増やすことにより改善される。不都合なことに、展開係数個数O(オー)は、次数Nに関して二次関数的に増え、具体的には、O=(N+1)2である。例えば、次数N=4を利用する典型的なHOA表現は、O=25個の係数を必要とする。所望のサンプリングレートがfsでありサンプル当たりのビット数がNbである場合、HOA信号表現の送信のための全体的なビットレートは、O・fs・Nbにより決定され、次数N=4であり、サンプリングレートがfs=48kHzであり、サンプル当たりのビット数がNb=16である場合のHOA信号表現の送信は、19.2MBit/sのビットレートにもなってしまう。従って、HOA信号表現の圧縮が極めて望まれている。

既存の空間オーディオ圧縮方式概要は、特許文献1或いは非特許文献1等に記載されている。

以下の技術は本発明の背景技術相応しい。

Bフォーマット信号は一次のアンビソニックス表現と等価であり、Bフォーマット信号は非特許文献2に記載されているように方向オーディオ符号化(Directional Audio Coding:DirAC)を用いて圧縮されることが可能である。

テレビ会議アプリケーションに提案されている一形態では、Bフォーマット信号が、1つの無指向性信号及びサイド情報に、1つの方向と周波数バンド毎分散パラメータとの形式コード化される。しかしながら、データレートの顕著な減少効果は、再生時に僅かな信号品質が取得されることを代償としている。更に、DirACは一次のアンビソニックス表現の圧縮に限られ、空間解像度が非常に低いという不利益被る

N>1の場合のHOA表現を圧縮する既存の方法はほとんど知られていない。1つの方法は、知覚アドバンストオーディオコーディング(AAC)コーデックを利用して個々のHOA係数シーケンスについての直接的なエンコーディングを実行するものであり、この点については例えば非特許文献3に記載されている。しかしながら、そのような方法に関する本質的な問題は、決して聞こえることがない信号の知覚符号化を行うことである。再構築される再生信号は、通常、HOA係数シーケンスの重み付け加算により取得される。圧縮解除されるHOA表現が特定のスピーカーの配置に関して表現される場合、知覚符号化ノイズ露呈する高い確率が存在する。より正確に言えば、知覚符号化ノイズの特定に伴う主な問題は、個々のHOA係数シーケンス同士の間の相互相関が高いことである。個々のHOA係数シーケンスにおける符号化雑音信号は、通常、互いの相関は無い又は低いので、知覚符号化ノイズの建設的な重ね合わせが生じるのと同時に、ノイズの無いHOA係数シーケンスは重ね合わせによりキャンセルされる。別の問題は、上記の相互相関が、知覚符号化の効率の低下を招いてしまうことである。

そのような影響の程度を最小化するため、特許文献1においては、知覚符号化の前に、HOA表現を空間領域の等価な表現に変換することが提案されている。空間領域信号は、従来の方向性信号に対応することに加えて、(複数の)スピーカーが空間領域変換で仮定されているのと完全に同じ方向に配置されていた場合にはスピーカー信号に対応することになる。

空間領域への変換は、個々の空間領域信号同士の相互相関を減らす。しかしながら、相互相関は完全には排除されない。比較的高い相互相関をもたらす方向性信号の具体例は、方向性信号の方向が(複数の)空間領域信号によりカバーされる隣接する方向の間にある場合である。特許文献1及び非特許文献3の別の欠点は、知覚符号化信号の個数が(N+1)2であることであり、ここでNはHOA表現の次数である。従って圧縮されるHOA表現のデータレートはアンビソニックスの次数に関して二次関数的に増える。

後述するように本発明による圧縮処理は、HOA音場表現を、方向性成分(directional component)とアンビエント成分(ambient component)とに分解する処理を実行する。特に、方向性音場成分の計算に関し、複数の支配的なサウンド方向を推定する新たな処理が、本明細書で説明される。

アンビソニックスに基づく既存の方向推定方法に関し、上記の非特許文献2に記載されている方法は、Bフォーマット音場表現に基づく方向推定のためのDirAC符号化に関連する。方向は、音場エネルギが流れる方向を指し示す平均強度ベクトルから取得される。Bフォーマットに基づく代替例については例えば非特許文献4に記載されている。方向推定は、特定の方向に仕向けられるビームフォーマ出力信号最大パワーをもたらす方向を探索することにより、反復的に実行される。

しかしながら、何れの方法も方向推定のBフォーマットによる制約を受け、比較的小さな空間解像度による不利益を被ってしまう。別の欠点は、そのような推定が、単独の支配的な方向に限られてしまうことである。

HOA表現は、改善された空間解像度をもたらし、複数の支配的な方向に関する改善された推定を可能にする。HOA音場表現に基づいて複数の方向の推定を実行する既存の方法はほとんど知られていない。圧縮検出に基づく方法が非特許文献5及び非特許文献6において提案されている。主な考え方は、空間的にまばらな音場を推定すること、すなわち少数の方向性信号のみを構成することである。球面上に多数の検査方向を設定した後に最適アルゴリズムが実行され、対応する方向性信号に関して可能な限り少ない検査信号発見し、所与のHOA表現により検査方向が十分に記述されるようにする。この方法は、所定のHOA表現により実際に提供される空間解像度と比較して改善された空間解像度をもたらし、その理由は、所定のHOA表現の限られた次数に起因する空間分散を回避するからである。しかしながら、アルゴリズムパフォーマンスは、まばらであるという条件(sparsity assumption)が満たされているか否かに強く依存する。特に、この方法が不都合になるのは、音場が何らかのマイナーな追加的なアンビエント成分を含んでいる場合や、HOA表現が、マルチチャネル記録により算出される際に生じるノイズの影響を受けるような場合である。

更に、直感的な方法は、非特許文献7に記載されているように、所与のHOA表現を空間領域に変換し、その後に方向性パワー最大値を探索することである。この方法の欠点は、アンビエント成分の存在が、方向性パワー分布不明瞭化させること、及び、如何なるアンビエント成分も存在しない場合と比較して方向性パワーの最大を変位させること等を招いてしまうことである。

概要

高次アンビソニックス(HOA)は、拡声器の設定とは独立して、スイートスポット近辺の完全なサウンドフィールドを表現する。空間解像度が高い場合、多数のHOA係数を必要とする。支配的なサウンド方向が推定され、HOA信号表現は、時間ドメインにおける支配的方向信号及び関連方向情報と、HOAドメインにおけるアンビエント成分とに分解され、その後に低次数化によりアンビエント成分を圧縮する処理が続く。低次数化されたアンビエント成分は空間ドメインに変換され、方向信号とともに知覚的エンコードされる。受信機の側では、エンコードされた方向信号及び低次数化されエンコードされたアンビエント成分は、低次数化されたHOAドメイン表現に変換され、その後に次数拡張処理が続く。方向信号、対応する方向情報、及びオリジナルの次数のアンビエントHOA成分から、完全なHOA表現が再構成される。

目的

主な考え方は、空間的にまばらな音場を推定すること、すなわち少数の方向性信号のみを構成することである

効果

実績

技術文献被引用数
0件
牽制数
0件

この技術が所属する分野

(分野番号表示ON)※整理標準化データをもとに当社作成

ライセンス契約や譲渡などの可能性がある特許掲載中! 開放特許随時追加・更新中 詳しくはこちら

請求項1

高次アンビソニックス(HOA信号表現圧縮解除する方法であって、符号化された方向性信号と符号化されたアンビエント信号を受信することと、前記符号化された方向性信号と前記符号化されたアンビエント信号とを知覚復号化し、復号化された方向性信号と復号化されたアンビエント信号をそれぞれ生成することと、前記方向性信号に関連するサイド情報を取得することと、前記復号化されたアンビエント信号を空間領域から前記アンビエント信号のHOA領域表現に変換することと、前記アンビエント信号の前記HOA領域表現と前記復号化された方向性信号とから高次アンビソニックス(HOA)信号を再構成することと、を含み、前記サイド情報は、均一に間隔が空けられた向きの組から選択された前記方向性信号の向きを含む、方法。

請求項2

前記高次アンビソニックス(HOA)信号表現が1を超える次数を有する、請求項1に記載の方法。

請求項3

前記復号化されたアンビエント信号の次数が、前記高次アンビソニックス(HOA)信号表現の前記次数より小さい、請求項2に記載の方法。

請求項4

前記符号化された方向性信号、前記符号化されたアンビエント信号、及び前記サイド情報は、ビットストリーム中で受信され、前記ビットストリームは、前記変換及び前記再構成の前に方向性信号又はアンビエント信号に再割り当てされる各複数のトランスポートチャネルを有する複数のトランスポートチャネルに知覚的に復号化される、請求項1に記載の方法。

請求項5

高次アンビソニックス(HOA)信号表現を圧縮解除する装置であって、符号化された方向性信号と符号化されたアンビエント信号を受信する入力インタフェースと、前記符号化された方向性信号と前記符号化されたアンビエント信号とを知覚復号化し、復号化された方向性信号と復号化されたアンビエント信号をそれぞれ生成するオーディオデコーダと、前記方向性信号に関連するサイド情報を取得する抽出器と、前記復号化されたアンビエント信号を空間領域から前記アンビエント信号のHOA領域表現に変換するインバース変換器と、前記アンビエント信号の前記HOA領域表現と前記復号化された方向性信号とから高次アンビソニックス(HOA)信号を再構成する合成器と、を含み、前記サイド情報は、均一に間隔が空けられた向きの組から選択された前記方向性信号の向きを含む、装置。

請求項6

前記高次アンビソニックス(HOA)信号表現が1を超える次数を有する、請求項5に記載の装置。

請求項7

前記復号化されたアンビエント信号の次数が、前記高次アンビソニックス(HOA)信号表現の前記次数より小さい、請求項6に記載の装置。

請求項8

前記符号化された方向性信号、前記符号化されたアンビエント信号、及び前記サイド情報は、ビットストリーム中で受信され、前記ビットストリームは、前記変換及び前記再構成の前に方向性信号又はアンビエント信号に再割り当てされる各複数のトランスポートチャネルを有する複数のトランスポートチャネルに知覚的に復号化される、請求項5に記載の装置。

請求項9

プロセッサによって実行されたときに請求項1に記載の方法を実行する命令を含む非一時的コンピュータ読み取り能記媒体

技術分野

0001

本発明は高次アンビソニックス表現圧縮及び圧縮解除するための方法及び装置等に関連し、この場合において、方向性成分及びアンビエント成分が異なる形式で処理される。

背景技術

0002

高次アンビソニックス(Higher Order Ambisonics:HOA)は、3次元空間内の特定の場所(「スイートスポット」と呼ばれる場所)の近辺における完全な音場を取得できる利点をもたらす。そのようなHOA表現は、具体的なスピーカーの設定とは無関係であり、この点、ステレオ又はサラウンド等のようなチャネル方式の技術と異なる。このような柔軟性は、デコードプロセスが特定のスピーカーの設定の場合におけるHOA表現を再生しなければならないことを代償とする。

0003

HOAは、所望のリスナーの位置の近辺の場所xにおける個々の角波数kに関する空気圧複素振幅表現に基づいており、一般性を失うことなく、リスナーの位置は球面座標系原点であると仮定してよく、HOAは打ち切られた球面調和(Spherical Harmonics:SH)展開を用いて表現される。この表現の空間分解能は、展開の最大次数Nを増やすことにより改善される。不都合なことに、展開係数個数O(オー)は、次数Nに関して二次関数的に増え、具体的には、O=(N+1)2である。例えば、次数N=4を利用する典型的なHOA表現は、O=25個の係数を必要とする。所望のサンプリングレートがfsでありサンプル当たりのビット数がNbである場合、HOA信号表現の送信のための全体的なビットレートは、O・fs・Nbにより決定され、次数N=4であり、サンプリングレートがfs=48kHzであり、サンプル当たりのビット数がNb=16である場合のHOA信号表現の送信は、19.2MBit/sのビットレートにもなってしまう。従って、HOA信号表現の圧縮が極めて望まれている。

0004

既存の空間オーディオ圧縮方式概要は、特許文献1或いは非特許文献1等に記載されている。

0005

以下の技術は本発明の背景技術相応しい。

0006

Bフォーマット信号は一次のアンビソニックス表現と等価であり、Bフォーマット信号は非特許文献2に記載されているように方向オーディオ符号化(Directional Audio Coding:DirAC)を用いて圧縮されることが可能である。

0007

テレビ会議アプリケーションに提案されている一形態では、Bフォーマット信号が、1つの無指向性信号及びサイド情報に、1つの方向と周波数バンド毎分散パラメータとの形式でコード化される。しかしながら、データレートの顕著な減少効果は、再生時に僅かな信号品質が取得されることを代償としている。更に、DirACは一次のアンビソニックス表現の圧縮に限られ、空間解像度が非常に低いという不利益被る

0008

N>1の場合のHOA表現を圧縮する既存の方法はほとんど知られていない。1つの方法は、知覚アドバンストオーディオコーディング(AAC)コーデックを利用して個々のHOA係数シーケンスについての直接的なエンコーディングを実行するものであり、この点については例えば非特許文献3に記載されている。しかしながら、そのような方法に関する本質的な問題は、決して聞こえることがない信号の知覚符号化を行うことである。再構築される再生信号は、通常、HOA係数シーケンスの重み付け加算により取得される。圧縮解除されるHOA表現が特定のスピーカーの配置に関して表現される場合、知覚符号化ノイズ露呈する高い確率が存在する。より正確に言えば、知覚符号化ノイズの特定に伴う主な問題は、個々のHOA係数シーケンス同士の間の相互相関が高いことである。個々のHOA係数シーケンスにおける符号化雑音信号は、通常、互いの相関は無い又は低いので、知覚符号化ノイズの建設的な重ね合わせが生じるのと同時に、ノイズの無いHOA係数シーケンスは重ね合わせによりキャンセルされる。別の問題は、上記の相互相関が、知覚符号化の効率の低下を招いてしまうことである。

0009

そのような影響の程度を最小化するため、特許文献1においては、知覚符号化の前に、HOA表現を空間領域の等価な表現に変換することが提案されている。空間領域信号は、従来の方向性信号に対応することに加えて、(複数の)スピーカーが空間領域変換で仮定されているのと完全に同じ方向に配置されていた場合にはスピーカー信号に対応することになる。

0010

空間領域への変換は、個々の空間領域信号同士の相互相関を減らす。しかしながら、相互相関は完全には排除されない。比較的高い相互相関をもたらす方向性信号の具体例は、方向性信号の方向が(複数の)空間領域信号によりカバーされる隣接する方向の間にある場合である。特許文献1及び非特許文献3の別の欠点は、知覚符号化信号の個数が(N+1)2であることであり、ここでNはHOA表現の次数である。従って圧縮されるHOA表現のデータレートはアンビソニックスの次数に関して二次関数的に増える。

0011

後述するように本発明による圧縮処理は、HOA音場表現を、方向性成分(directional component)とアンビエント成分(ambient component)とに分解する処理を実行する。特に、方向性音場成分の計算に関し、複数の支配的なサウンド方向を推定する新たな処理が、本明細書で説明される。

0012

アンビソニックスに基づく既存の方向推定方法に関し、上記の非特許文献2に記載されている方法は、Bフォーマット音場表現に基づく方向推定のためのDirAC符号化に関連する。方向は、音場エネルギが流れる方向を指し示す平均強度ベクトルから取得される。Bフォーマットに基づく代替例については例えば非特許文献4に記載されている。方向推定は、特定の方向に仕向けられるビームフォーマ出力信号最大パワーをもたらす方向を探索することにより、反復的に実行される。

0013

しかしながら、何れの方法も方向推定のBフォーマットによる制約を受け、比較的小さな空間解像度による不利益を被ってしまう。別の欠点は、そのような推定が、単独の支配的な方向に限られてしまうことである。

0014

HOA表現は、改善された空間解像度をもたらし、複数の支配的な方向に関する改善された推定を可能にする。HOA音場表現に基づいて複数の方向の推定を実行する既存の方法はほとんど知られていない。圧縮検出に基づく方法が非特許文献5及び非特許文献6において提案されている。主な考え方は、空間的にまばらな音場を推定すること、すなわち少数の方向性信号のみを構成することである。球面上に多数の検査方向を設定した後に最適アルゴリズムが実行され、対応する方向性信号に関して可能な限り少ない検査信号発見し、所与のHOA表現により検査方向が十分に記述されるようにする。この方法は、所定のHOA表現により実際に提供される空間解像度と比較して改善された空間解像度をもたらし、その理由は、所定のHOA表現の限られた次数に起因する空間分散を回避するからである。しかしながら、アルゴリズムパフォーマンスは、まばらであるという条件(sparsity assumption)が満たされているか否かに強く依存する。特に、この方法が不都合になるのは、音場が何らかのマイナーな追加的なアンビエント成分を含んでいる場合や、HOA表現が、マルチチャネル記録により算出される際に生じるノイズの影響を受けるような場合である。

0015

更に、直感的な方法は、非特許文献7に記載されているように、所与のHOA表現を空間領域に変換し、その後に方向性パワー最大値を探索することである。この方法の欠点は、アンビエント成分の存在が、方向性パワー分布不明瞭化させること、及び、如何なるアンビエント成分も存在しない場合と比較して方向性パワーの最大を変位させること等を招いてしまうことである。

0016

欧州特許出願公開第10306472.1号明細書

先行技術

0017

I. Elfitri, B.Gunel, A.M. Kondoz,“Multichannel Audio Coding Based on Analysis by Synthesis”, Proceedings of theIEEE, vol.99, no.4, pp.657-670, April 2011
V. Pulkki,“Spatial Sound Reproduction with Directional Audio Coding”, Journal of Audio Eng. Society, vol.55(6), pp.503-5 16, 2007
E. Hellerud, I. Burnett, A. Solvang, U. PeterSvensson, “Encoding Higher Order Ambisonics with AAC”, 124thAES Conven tion, Amsterdam, 2008
D. Levin, S. Gannot, E.A.P. Habets, “Direction-of-Arrival Estimation using Acoustic Vector Sensors, in the Presence of Noise”, IEEE Proc. of theICASSP, pp.105-108, 2011
N. Epain, C. Jin, A. van Schaik, “The Application of Compressive Sampling to the Analysis and Synthesis of Spatial Sound Fields”, 127th Convention of the Audio Eng. Soc, New York, 2009,
A. Wabnitz, N. Epain, A. van Schaik, C Jin,“Time Domain Reconstruction of Spatial Sound Fields Using Compressed Sensing”, IEEE Proc. of the ICASSP, pp.465-468, 2011
B. Rafaely,“Plane-wave decomposition of the sound field on a sphere by spherical convolution”, J. Acoust. Soc. Am., vol.4, no.116, pp .2149-2157, October 2004

0018

実施の形態により解決される課題は、HOA信号表現の高い空間分解能を維持しつつHOA信号を圧縮することである。この課題は特許請求の範囲に記載されている方法により解決される。本願はそのような方法を利用する装置も開示する。

0019

本発明は、音場の高次アンビソニックスHOA表現を圧縮することに関連する。本願において、「HOA」は高次アンビソニックス表現だけでなく関連するエンコードされる又は表現されるオーディオ信号にも関連する。支配的なサウンド方向が推定され、HOA信号表現は、時間領域における複数の支配的な方向性信号及び関連する方向情報と、HOA領域におけるアンビエント成分とに分解され、その後にアンビエント成分は次数を減らすために圧縮される。その分解の後、低次数化されたアンビエント成分は、空間領域に変換され、方向性信号とともに知覚符号化の処理に委ねられる。

0020

受信機又はデコーダの側において、エンコードされた方向性信号及び低次数化されエンコードされたアンビエント成分は、知覚圧縮解除の処理に委ねられる。知覚圧縮解除されたアンビエント信号は、低次数化されたHOA領域表現に変換され、その後に次数拡張処理に委ねられる。方向性信号及び対応する方向情報、並びに、元々の次数のアンビエントHOA成分から、完全な又は最終的なHOA表現が再構築される。

0021

有利なことに、アンビエント音場成分は、元々の次数より低いHOA表現により十分な精度で表現されることが可能であり、支配的な方向性信号の抽出は、圧縮及び圧縮解除の後に、高い空間分解能が達成されることを保証する。

0022

原理的には、本発明の方法は、高次アンビソニックス(HOA)信号表現を圧縮するのに適した方法であって、
支配的な方向を推定するステップであって、前記支配的な方向は、エネルギ的に支配的なHOA信号成分の方向性パワー分布に依存する、ステップと、 前記HOA信号成分を、時間領域における複数の支配的な方向性信号及び関連する方向情報と、HOA領域における残留アンビエント成分とに分解または復号化するステップであって、前記残留アンビエント成分は、前記HOA信号表現と前記支配的な方向性信号の表現との間の差分を表す、ステップと、
前記残留アンビエント成分の次数を元の次数より低減することにより、前記残留アンビエント成分を圧縮するステップと、
低次数化された前記残留アンビエント成分を、空間領域に変換するステップと、
変換された前記残留アンビエント成分と前記支配的な方向性信号とを知覚符号化するステップと、
を有する方法である。

0023

原理的には、本発明の方法は、圧縮された高次アンビソニックス(HOA)信号表現を圧縮解除するのに適した方法であって、上記圧縮は、
支配的な方向を推定するステップであって、前記支配的な方向は、エネルギ的に支配的なHOA信号成分の方向性パワー分布に依存する、ステップと、
前記HOA信号成分を、時間領域における複数の支配的な方向性信号及び関連する方向情報と、HOA領域における残留アンビエント成分とに分解または復号化するステップであって、前記残留アンビエント成分は、前記HOA信号表現と前記支配的な方向性信号の表現との間の差分を表す、ステップと、
前記残留アンビエント成分の次数を元の次数より低減することにより、前記残留アンビエント成分を圧縮するステップと、
低次数化された前記残留アンビエント成分を、空間領域に変換するステップと、
変換された前記残留アンビエント成分と前記支配的な方向性信号とを知覚符号化するステップとを有し、本方法は、
知覚符号化された支配的な方向性信号と、知覚符号化された変換された残留アンビエント成分とを、知覚復号化するステップと、
知覚復号化された変換された残留アンビエント成分を逆変換し、HOA領域の表現を取得するステップと、
逆変換された残留アンビエント成分について次数拡張の処理を実行し、元の次数のアンビエントHOA成分を取得するステップと、
知覚復号化された支配的な方向性信号と、前記方向情報と、前記元の次数のアンビエントHOA成分とを合成し、HOA信号表現を取得するステップと、
を有する方法である。

0024

原理的には、本発明の装置は、高次アンビソニックス(HOA)信号表現を圧縮するのに適した装置であって、
支配的な方向を推定するように適合された手段であって、前記支配的な方向は、エネルギ的に支配的なHOA信号成分の方向性パワー分布に依存する、手段と、
前記HOA信号成分を、時間領域における複数の支配的な方向性信号及び関連する方向情報と、HOA領域における残留アンビエント成分とに分解または復号化するように適合された手段であって、前記残留アンビエント成分は、前記HOA信号表現と前記支配的な方向性信号の表現との間の差分を表す、手段と、
前記残留アンビエント成分の次数を元の次数より低減することにより、前記残留アンビエント成分を圧縮するように適合された手段と、
低次数化された前記残留アンビエント成分を、空間領域に変換するように適合された手段と、
変換された前記残留アンビエント成分と前記支配的な方向性信号とを知覚符号化するように適合された手段と、を有する装置である。

0025

原理的には、本発明の装置は、圧縮された高次アンビソニックス(HOA)信号表現を圧縮解除するのに適した装置であって、上記圧縮は、
支配的な方向を推定するステップであって、前記支配的な方向は、エネルギ的に支配的なHOA信号成分の方向性パワー分布に依存する、ステップと、
前記HOA信号成分を、時間領域における複数の支配的な方向性信号及び関連する方向情報と、HOA領域における残留アンビエント成分とに分解または復号化するステップであって、前記残留アンビエント成分は、前記HOA信号表現と前記支配的な方向性信号の表現との間の差分を表す、ステップと、
前記残留アンビエント成分の次数を元の次数より低減することにより、前記残留アンビエント成分を圧縮するステップと、
低次数化された前記残留アンビエント成分を、空間領域に変換するステップと、
変換された前記残留アンビエント成分と前記支配的な方向性信号とを知覚符号化するように形成されたステップとを有し、本装置は、
知覚符号化された支配的な方向性信号と、知覚符号化された変換された残留アンビエント成分とを、知覚復号化するように形成された手段と、
知覚復号化された変換された残留アンビエント成分を逆変換し、HOA領域の表現を取得するように形成された手段と、
逆変換された残留アンビエント成分について次数拡張の処理を実行し、元の次数のアンビエントHOA成分を取得するように形成された手段と、
知覚復号化された支配的な方向性信号と、前記方向情報と、前記元の次数のアンビエントHOA成分とを合成し、HOA信号表現を取得するように形成された手段と、を有する装置である。

図面の簡単な説明

0026

様々なアンビソニックス次数N及び角度Θ∈[0,π]に関する正規化された分散関数を示す図。
本発明による圧縮処理に関するブロック図。
本発明による圧縮解除処理に関するブロック図。

実施例

0027

<実施の形態の詳細な説明>
アンビソニックス信号は、球面調和(SH)展開を利用して音源のない領域の音場を記述する。この理論の実現可能性は、音圧の時間及び空間的な振る舞いが本質的には波動方程式により決定されるという物理的性質に起因する。

0028

<波動方程式及び球面調和展開>
アンビソニックスに関する詳細な説明を行うため、以下においては球面座標系又は極座標系が仮定され、空間内の点x=(r,θ,φ)Tは、半径r>0(すなわち、座標系の原点に至るまでの距離)と、原線又は極軸であるz軸に対してなす傾斜角θ∈[0,π]と、xy平面内でx軸から図った方位角φ∈[0,2π]とにより表現される。この球面座標系において、結合された音源のない領域(connected source-free area)における音圧p(t,x)の波動方程式は以下のように与えられる。



ここで、Csは音の速度(音速)を示す。上記の数式については、例えば、Earl G. Williams, “Fourier Acoustics”, vol.93 of Applied Mathematical Sciences, Academic Press,1999 に示されている。

0029

時間に対する音圧のフーリエ変換次式で表される。



ここでiは虚数単位を示す。上記のウィリアムス(Williams)の書籍によれば、SHの級数に展開可能である。



この展開は、結合された音源のない領域内の全ての点xについて有効であり、すなわち級数が収束する領域に対応することに、留意すべきである。

0030

数式(4)において、kは次式により規定される角波数を示す。



また、pnm(kr)はSH級数係数を示し、krという積のみに依存する。

0031

更に、Ynm(θ,φ)は次数(order)がnであり位数(degree)がmであるSH関数である。



ここで、Pnm(cosθ)はルジャドル陪関数であり、(・)!は階乗を示す。

0032

非負の位数mに関するルジャンドル陪関数は、ルジャンドル多項式Pnm(x)により規定される。

0033

負の位数(すなわち、m<0)の場合には、ルジャンドル陪関数は次のように規定される。

0034

また、ルジャンドル多項式Pn(x)(n≧0)はロドリゲスの公式(Rodirigues’Formula)を用いて規定されてもよい。



当該技術分野においては、例えば、Poletti,“Unified Description of Ambisonics using Real and Complex Spherical Harmonics”, Proceedings of the Ambisonics Symposium 2009, 25-27 June 2009, Graz, Austriaに示されているように、負の位数mに関して因子が数式(6)と(-1)mだけ異なるSH関数の定義も存在する。

0035

或いは、時間に関する音波のフーリエ変換は、実数のSH関数Snm(θ,φ)を用いて表現されてもよい。実数のSH関数は、実SH関数、リアルSH関数等と言及されてもよい。

0036

様々な文献において、(例えば、上記のPolettiの文献のように)実数のSH関数に関して異なる定義が存在する。本願において適用される定義の1つは、次のようなものである。



ここで、(・)*は複素共役を示す。数式(6)を数式(11)に代入することにより、次のような別の表現が得られる。

0037

実数のSH関数はその定義から実数値をとるが、対応する展開係数qnm(kr)について一般的に成り立つわけではない。

0038

複素SH関数は実数のSH関数と次のような関係を有する。

0039

方向ベクトルΩ:=(θ,φ)Tとともに複素SH関数Ynm(θ,φ)及び実数のSH関数Snm(θ,φ)は、3次元空間内の単位球面S2上における自乗可積分複素数関数(squared integrable complex valued function)のための直交基底をなす。



ここで、δはクロネッカーデルタ関数を示す。2番目の表現は数式(11)の実球面調和関数の定義及び数式(15)から導出される。

0040

<内部問題及びアンビソニックス係数>
アンビソニックスの目的は、座標系の原点付近の音場を表現することである。一般性を失うことなく、対象の領域は、座標系の中心から半径Rの球又はボールであると仮定され、数学的には{x|0≦r≦R}という集合により指定される。この表現に関する重要な仮定は、このボールが如何なる音源も含んでいないと仮定されることである。このボールの中の音場の表現を見出す問題は、「内部問題」と言及される(例えば、上記のウィリアムスの書籍)。

0041

内部問題に関し、SH関数展開係数Pnm(kr)は、次式のように表現できることが理解される。



ここで、jn(・)は一次の球ベッセル関数を示す。数式(17)によれば、音場に関する完全な情報は、アンビソニックス係数として言及される係数anm(k)に含まれている。
同様に、実数SH関数の展開係数qnm(kr)は、次式のように因子分解できる(積の形式で表現できる)。



ここで、bnm(k)は、実数SH関数を用いる展開に関するアンビソニックス係数として言及される。これらはanm(k)と次のような関係を有する。

0042

平面波分解>
座標系の原点を中心とする音源の無いボールの中の音場は、全ての可能な方向からボールに入射する様々な角波数kの平面波の無限個の重ね合わせとして表現できる(この点については、例えば、上記のウィリアムスの書籍における「Plane-wave decomposition...」等を参照されたい)。Ω0の方向からの角波数kの平面波の複素振幅は、D(k,Ω0)により与えられると仮定すると、数式(11)及び数式(19)を用いて行った導出法と同様に、次数SH関数展開に関する対応するアンビソニックス係数は、次式のように与えられる。

0043

従って、角波数kの無限個の平面波の重ね合わせにより得られる音場に関するアンビソニックス係数は、数式(20)の全ての可能な方向Ω0∈S2に関する積分から得られる。

0044

関数D(k,Ω)は、「振幅密度(amplitude density)」と言及され、単位球面S2において自乗可積分可能であると仮定される。これは次式のように実数SH関数の級数に展開されることが可能である。



ここで、展開係数cnm(k)は数式(22)に登場する積分の部分に等しく、すなわち、次のように書ける。

0045

数式(24)を数式(22)に代入することにより、アンビソニックス係数bnm(k)は展開係数cnm(k)のスケールを変えたバージョンであることが分かる。すなわち、次式のように書ける。
bnm(k)=4πincnm(k) (25)

0046

スケール変更されたアンビソニックス係数cnm(k)及び振幅密度関数D(k,Ω)に、時間に関する逆フーリエ変換を適用すると、対応する時間領域の表現として次式が得られる。



そして、時間領域において、数式(24)は次のように変形できる。

0047

時間領域の方向性信号d(t,Ω)は、次式に従って実数SH関数展開により表現されてもよい。

0048

SH関数Snm(Ω)は実数値をとるという知識を利用すると、d(t,Ω)の複素共役は次のように表現できる。



時間領域信号d(t,Ω)が実数であると仮定すると、すなわちd(t,Ω)=d*(t,Ω)であると仮定すると、数式(29)及び数式(30)により、その場合の係数c~nm*(t)は実数となり、c~nm(t)=c~nm*(t)となる。

0049

以下、c~nm(t)はスケーリングされた時間領域アンビソニックス係数と言及される場合がある。また、以下の説明において、音場表現はこれらの係数により記述されることが仮定され、圧縮に関する以下の項目において詳細に説明される。

0050

本発明による処理に使用される係数c~nmによる時間領域は、対応する周波数領域のHOA表現cnm(k)と等価であることに、留意を要する。従って、説明される圧縮及び圧縮解除は、数式の若干の修正により周波数領域で等価的に実現できる。

0051

有限次数の空間分解能>
実際には、座標系の原点付近の音場は、n≦Nである次数の有限個のアンビソニックス係数cnm(k)のみを利用して記述される。次式に従って打ち切られたSH関数の級数から振幅密度関数を計算することは、真の振幅密度関数D(k,Ω)に対して或る種の空間分散成分(spatial dispersion)を導入する(例えば、上記の文献の「Plane-wave decompression...」を参照されたい)。



これは数式(31)を利用して方向Ω0からの単独の平面波に関する振幅密度関数を計算することにより実現可能である。



ここで、Θは、方向がΩを向いているベクトルと方向がΩ0を向いているベクトルとの間のなす角度を示し、次式を満たす。
cosΘ=cosθcosθ0+cos(φ-φ0)sinθsinθ0 (39)

0052

数式(34)において、数式(20)の平面波に関するアンビソニックス係数が使用され、数式(35)及び数式(36)においていくつかの数学的理論が使用されている(例えば、上記の文献の「Plane-wave decompression...」を参照されたい)。数式(33)の性質は数式(14)を利用して示すことが可能である。

0053

数式(37)と真の振幅密度関数とを比較すると、次式が得られる。



ここで、δ(・)はディラックのデルタ関数を示し、空間分散は、分散関数νN(Θ)をスケーリングされたディラックのデルタ関数で置換することから得られ、図1には、様々なアンビソニックス次数N及び角度Θ∈[0,π]に関し、最大値で正規化された分散関数が示されている。

0054

νN(Θ)の最初のゼロになる点はN≧4の場合には近似的にπ/Nの位置にあり(例えば、上記の文献の「Plane-wave decompression...」を参照されたい)、アンビソニックス次数Nが増えるにつれて分散の影響は減っている(及び空間分解能も改善する)。

0055

N→∞とすると、分散関数νN(Θ)はスケーリングされたディラックのデルタ関数に収束する。これは、数式(35)とともにルジャンドル多項式(数式(41))の完全性関係を利用して、N→∞の場合のνN(Θ)の極限を表現することにより理解される。

0056

次式によりn≦Nの次数の実数SH関数のベクトルを規定すると、



(ただし、O=(N+1)2であり、(・)Tは転置を示す)、数式(37)と数式(33)との比較により、分散関数が、次式のように2つの実数SHベクトルのスカラ積により表現可能であることが示される:
νN(Θ)=ST(Ω)S(Ω0) (47)

0057

分散は時間領域では次のように等価的に表現可能である

0058

サンプリング
或るアプリケーションの場合、有限数J個の離散的な方向Ωjにおける時間領域の振幅密度関数のサンプルから、スケーリングされた時間領域のアンビソニックス係数C~nm(t)を決定することが望ましい。数式(28)における積分は、次のようにB. Rafaely, "Analysis and Design of Spherical Microphone Arrays",IEEE Transactions on Speech and Audio Processing, vol.13, no.1, pp.135-143, January 2005による有限個の総和により近似される。



ここで、gjは近似的に選択されたサンプリング重み係数を示す。上記の書籍の「Analysis and Design...」とは異なり、近似式(50)は、複素SH関数を用いる周波数領域表現ではなく、実数SH関数を用いる時間領域表現に関連している。近似式(50)が正確であるために必要な条件は、振幅密度が有限の調和次数Nを有することであり、すなわち、n>Nに関し、
c~nm(t)=0 (51)
成立することである。

0059

この条件を満たさない場合、数式(50)は空間的なエイリアシングエラーの影響を被ってしまう。この点については、例えば、B. Rafaely, "Spatial Aliasing in Spherical Microphone Arrays",IEEE Transactions on Signal Processing, vol.55, no.3, pp.1003-1010, March 2007に記載されている。

0060

次に必要な条件は、サンプリング点Ωj及び対応する重み係数が、上記の書籍の「Analysis and Design...」に記載されているような条件を満たすことを要求する。

0061

条件(51)及び(52)は正確なサンプリングに関して十分である。

0062

サンプリング条件(52)は一群線形方程式をなし、次式のように1つの行列方程式を用いてコンパクトに表現できる。
ΨGΨH=I (53)
ここで、Ψは次式により規定されるモード行列を示す。



また、Gは対角要素が重み係数になっている行列を示す。すなわち、
G:=diag(g1,,gJ) (55)

0063

数式(53)によれば、数式(52)が成立するのに必要な条件は、サンプリング点の数JがJ≧Oを満たすことであることが、分かる。J個のサンプリング点における時間領域の振幅密度の値を次のようにベクトル形式にまとめ、



スケーリングされた時間領域アンビソニックス係数のベクトルを次式により規定すると、



何れのベクトルもSH関数展開(29)により関連していることが分かる。この関係は次の線形方程式系をもたらす。
w(t)=ΨHc(t) (58)

0064

導入されたベクトル表記を利用すると、時間領域の振幅密度関数サンプルの値から、スケーリングされた時間領域のアンビソニックス係数を計算することは、次のように表現できる。
c(t)≒ΨGw(t) (59)

0065

所定の固定されたアンビソニックス次数Nの場合、サンプリング条件の数式(52)が成り立つように、サンプリング点Ωjの個数J≧O及び対応する重み係数を計算することは、しばしば可能ではない。しかしながら、サンプリング条件が十分に近似されるようにサンプリング点が選択される場合、モード行列ΨのランクはOになり、条件の数は少なくなる。その場合、モード行列Ψの擬似的な逆行列であるΨ+が存在し、
Ψ+:=(ΨΨH)-1ΨΨH (60)
時間領域の振幅密度関数サンプルのベクトルから、スケーリングされた時間領域のアンビソニックス係数ベクトルc(t)の妥当な近似は、
c(t)≒Ψ+w(t) (61)
により与えられる。

0066

J=Oでありかつモード行列のランクがOであった場合、擬似的な逆行列は、次式が成立するので、その逆行列に一致する。
Ψ+=(ΨΨH)-1Ψ=Ψ-HΨ-1Ψ=Ψ-H (62)

0067

更に、サンプリング条件の数式(52)が満たされる場合、
Ψ-H=ΨG (63)
が成立し、近似的な数式(59)及び(61)は等価であり一致する。

0068

ベクトルw(t)は、空間に関する時間領域信号のベクトルとして解釈できる。HOA領域から空間領域への変換は、例えば数式(58)により実行可能である。この種の変換は、本願において「球面調和変換(SHT)」と言及され、低次数化されたアンビエントHOA成分が空間領域に変換される場合に使用される。SHTに関する空間サンプリング点Ωjはgj≒4π/O(j=1,...,J)と共に数式(52)のサンプリング条件を近似的に満たしていること及びJ=Oであることが、黙示的に仮定されている。これらの仮定の下で、SHT行列は、ΨH≒(4π/O)Ψ-1の関係を満たす。SHTに関する絶対値のスケーリングが重要でない場合、(4π/O)は無視されてもよい。

0069

<圧縮>
本発明は、所与のHOA信号表現の圧縮に関連する。上述したように、HOA信号表現は、時間領域における所定数の支配的方向性信号とHOA領域におけるアンビエント成分とに分解され、その後に低次数化によりアンビエント成分のHOA表現を圧縮する処理が続く。この処理は、テスト監視することを前提とし、周辺の音場成分は、低次のHOA表現で十分に正確に表現可能であるという仮定を活用する。支配的な方向性信号を抽出することで、圧縮及びそれに対応する圧縮解除の処理の後に、高い空間分解能を維持することを保証できる。

0070

圧縮解除の後、低次数化されたアンビエントHOA成分は空間領域に変換され、特許文献1に示されているような方向性信号と共に知覚符号化される。

0071

圧縮処理は図2に示すような2つの連続的なステップを含む。個々の信号の正確な定義は、圧縮に関する以下の説明で詳細に説明される。

0072

図2(a)の最初のステップ又はステージ又は段階では、支配的方向推定部22において、支配的な方向が推定され、アンビソニックス信号C(l)を、方向性成分及びアンビエント成分に分解する処理が実行され、ここで「l(エル)」はフレームインデックスを示す。方向性成分は、方向性信号算出ステップ又はステージ23において算出され、これにより、アンビソニックス表現は、一群のD個の通常の方向性信号X(l)と対応する方向

とにより表現される時間領域信号に変換される。残留アンビエント成分は、アンビエントHOA成分算出ステップ又はステージ24において算出され、HOA領域係数CA(l)により表現される。

0073

図2(b)に示す第2のステップにおいて、方向性信号X(l)及びアンビエントHOA成分に対する知覚符号化の処理が、次のように実行される:
_通常の時間領域方向性信号X(l)は、何らかの既知の知覚圧縮技術を利用して、知覚符号化器27において個別的に圧縮されることが可能である。
_アンビエントHOA領域成分CA(l)の圧縮は、2つのサブステップ又はステージにおいて実行される。

0074

第1のサブステップ又はステージ25は、元々のアンビソニックス次数NをNREDに(例えば、NRED=2)に低減する処理を実行し、アンビエントHOA成分CA,RED(l)を取得する。周囲の音場の成分は、低い次数のHOAにより十分正確に表現可能であるということが仮定されている。第2のサブステップ又はステージ26は、特許文献1に記載されているような圧縮に基づく。周囲の音場の成分に関するORED:=(NRED+1)2個のHOA信号CA,RED(l)は、サブステップ/ステージ25において算出されており、これらの信号は、球面調和変換を適用することによって空間領域におけるORED個の等価な信号WA,RED(l)に変換され、並列的な知覚符号化器27のバンクに入力されることが可能な通常の時間領域信号となる。何らかの既存の知覚符号化又は圧縮技術が適用可能である。符号化された方向性信号

及び低次数化された符号化された空間領域信号

が出力され、変換又は保存されることが可能である。

0075

有利なことに、全ての時間領域信号X(l)及びWA,RED(l)の知覚圧縮は、知覚符号化器27において一緒に実行可能であり、潜在的に残存するチャネル間の相関(inter- channel correlation)を利用することにより全体的な符号化効率を改善する。

0076

<圧縮解除>
図3には、受信又は再生される信号についての圧縮解除処理が示されている。圧縮処理の場合と同様に、2つのステップが含まれている。

0077

図3(a)に示される第1のステップ又はステージでは、知覚復号化部31において、符号化された方向性信号

及び低次数化された符号化された空間領域信号

についての知覚復号化又は圧縮解除が実行され、

は方向性成分を表現し、

はアンビエントHOA成分を表現する。知覚復号化された又は非圧縮化された空間領域信号

は、逆球面調和変換部32において、逆球面調和変換又は逆SH変換により、次数がNREDであるHOA領域表現

に変換される。その後、次数伸張ステップ又はステージ33において、次数がNである適切なHOA表現

が、次数伸張により

から推定される。

0078

図3(b)に示される第2のステップ又はステージにおいて、HOA信号構築部34により、方向性信号

及び対応する方向情報

に加えて元々の次数のアンビエントHOA成分

から、完全なHOA表現

が再構築される。

0079

所要データレートの達成可能な低減効果
本発明の実施形態により解決される課題は、HOA表現に対する既存の圧縮方法と比較してデータレートの顕著な減少を図ることである。以下、圧縮されていないHOA表現に対する達成可能な圧縮率議論する。圧縮率は、次数がNである非圧縮HOA信号C(l)を伝送するのに必要なデータレートと、圧縮された信号表現を伝送するのに必要なデータレートとの比率から得られ、圧縮された信号表現は、D個の知覚符号化された方向性信号X(l)及び対応する方向情報

とアンビエントHOA成分を表現するNRED個の知覚符号化された空間領域信号WA,RED(l)とを
有する。

0080

非圧縮HOA信号C(l)を伝送する場合には、O・fs・Nbのデータレートが必要になる。これに対して、D個の符号化された方向性信号X(l)を伝送するには、D・fb,CODのデータレートを必要とし、fb,CODは知覚符号化される信号のビットレートを示す。同様に、NRED個の知覚符号化される空間領域信号WA,RED(l)信号の伝送は、ORED・fb,CODのビットレートを必要とする。方向

は、サンプリングレートfbよりもかなり遅いレートで算出されることが仮定されており、例えば、B個のサンプルで形成される信号フレーム持続時間に固定されていてもよく、一例としてfs=48kHzのサンプリングレートの場合にB=1200であり、圧縮されたHOA信号の全体的なデータレートの計算の際に、対応するデータレートの分担量(share)は無視されてもよい。

0081

従って、圧縮された表現の伝送は、近似的に(D+ORED)・fb,CODのデータレートを必要とする。従って、圧縮率rCOMPRは、次式のように表現できる。

0082

例えば、次数がN=4であり、サンプリングレートがfs=48kHzであり、サンプル当たりNb=16ビットであり、支配的な方向の数はD=3であり、低減されたHOA次数はNRED=2であり、ビットレートが64kbits/sである場合のHOA表現の圧縮率は、rCOMPR≒25という圧縮率になる。圧縮された表現の伝送は、近似的に768kbits/sのデータレートを必要とする。

0083

マスキングされない符号化ノイズの出現確率の低減>
背景技術で説明したように、特許文献1で説明されている空間領域信号の知覚圧縮は、信号同士の間の残存する相互相関の影響を被り、知覚符号化ノイズの露呈(unmasking)を招いてしまうことが懸念される。本発明によれば、支配的な方向の信号が、先ず、知覚符号化される前にHOA音場表現から取り出される。これは、HOA表現を構築する場合に、知覚復号化の後に、符号化ノイズが、その方向性信号と厳密に一致する空間的な指向性を有することを意味する。特に、符号化ノイズだけでなく指向性信号の任意の方向に対する影響が、有限次数の空間分解能の箇所で説明したように空間分散関数により決定論的に記述される。言い換えれば、任意の時点において、符号化ノイズを表現するHOA係数ベクトルは、方向性信号を表現するHOA係数ベクトルを正確に何倍かしたものである。このため、ノイズを含むHOA係数の任意の重み付け加算は、知覚符号化ノイズの如何なる露呈も招かなくなる。

0084

更に、低次数化されたアンビエント成分が特許文献1においても記載されているが、定義により、アンビエント成分の空間領域信号は互いに低い相関しか示さないので、知覚ノイズが露呈してしまう蓋然性は低くなる。

0085

<改善された方向推定>
本発明による方向推定は、エネルギ的に支配的なHOA成分の方向性パワー分布に依存している。方向性パワー分布(directional power distribution)は、HOA表現に関するランクが削減された相関行列から計算され、これはHOA表現の相関行列の固有値分解から得られる。

0086

上記の書籍の「Plane-wave decomposition...」で使用されている方向推定と比較すると、本実施形態は高精度である利点をもたらすが、その理由は、方向推定に関して全てのHOA表現を利用するのではなく、エネルギの観点から支配的なHOA成分に着目することにより、方向性パワー分布の空間的な不明瞭化を減らすことができるからである。

0087

上記の文献"The Application of Compressive Sampling to the Analysis and Synthesis of Spatial Sound Fields" 及び "Time Domain Reconstruction of Spatial Sound Fields Using Compressed Sensing"で提案されている方向推定と比較すると、本発明はロバスト性に優れた利点をもたらす。なぜなら、HOA表現を方向性成分及びアンビエント成分に分解することは、完全に達成されることは滅多になく、僅かな量のアンビエント成分が方向性成分中に残っている(それでも適切に方向推定を継続できる)。上記の2つの文献のような圧縮サンプリング方法は、アンビエント信号の存在に非常に敏感であることに起因して、妥当な方向推定結果を提供することに失敗してしまうことが懸念される。

0088

有利なことに、本発明による方向推定はそのような問題による懸念を被らない。

0089

<HOA表現を分解する代替例>
HOA表現を、複数の方向性信号及び関連する方向情報とHOA領域のアンビエント成分とに分解する技術は、Pulkkiの文献の「Spatial Sound Reproduction with Directional Audio Coding」に示されている方法に従って、HOA表現の信号適応DirACライクレンダリング(signal-adaptive DirAC like rendering)に使用可能である。

0090

2つの成分の物理的性質は異なるので、HOA成分の各々は別々にレンダリングされることが可能である。例えば、方向性信号は、ベクトル振幅パニング(Vector Based Amplitude Panning:VBAP)のような信号パニング技術を用いてスピーカーにレンダリングされることが可能であり、VBAPについては、例えば、次の文献に記載されている:Pulkki, "Virtual Sound Source Positioning Using Vector Base Amplitude Panning", Journal of Audio Eng. Society, vol.45, no.6, pp.456- 466, 1997。アンビエントHOA成分は、既存の標準的なHOAレンダリング技術を用いて処理されることが可能である。

0091

そのようなレンダリングは、次数が「1」であるアンビソニックス表現に限定されず、次数がN>1であるHOA表現に対するDirACライクレンダリングの拡張として理解できる。

0092

HOA信号表現に基づく複数の方向の推定は、関連する任意の音場分析に使用可能である。

0093

以下、信号処理ステップを更に詳細に説明する。

0094

<圧縮>
入力フォーマットの決定>
入力として、数式(26)で決定されたスケーリングされた時間領域HOA係数

が、レートfs=1/Tsでサンプリングされると仮定する。ベクトルc(j)は、サンプリング時間tがt=jTs、j∈Zに属する全ての係数により形成されるように定義される:

0095

フレーム化
スケーリングされたHOA係数の到来ベクトルc(j)は、フレーム化ステップ又はステージ21において、次式のように長さがBのオーバーラップ(又は重複)しないフレーム群にフレーム化される:



サンプリングレートがfs=48kHzであり、適切なフレーム長がB=1200サンプルであるとすると、フレームの持続時間は25msに対応する。

0096

<支配的な方向の推定>
支配的な方向を推定するため、次のような相関行列が算出される:



現在のサンプルl及びL-1個の過去のフレームにわたる総和(l’=0〜L-1)は、方向分析が、L・B個のサンプルによる長いオーバーラップするフレーム群に基づくことを示し、すなわち、現在のフレーム各々に関し、隣接するフレームの内容が考慮される。これは、2つの理由から、方向分析の安定性に寄与し、それら2つは:(1)より長いフレームは、より多数の観測の結果をもたらすこと、及び(2)方向推定はオーバーラップするフレームに起因してスムージングされることである。

0097

fs=48kHz及びB=1200であるとすると、適切なLの値は例えば4であり、これは100msのフレーム持続時間全体に対応する。

0098

次に、相関行列B(l)の固有値分解が、
B(l)=V(l)Λ(l)VT(l) (68)
に従って実行され、ここで、行列V(l)は次式のように固有値ベクトルvi(l)(1≦i≦O)により形成される:



行列Λ(l)は次式のように対応する固有値λi(1≦i≦O)による対角行列である:



固有値には、昇順ではない順序(降順)でインデックスが付与されるものとする:
λ1(l)≧λ2(l)≧・・・≧λO(l) (71)

0099

そして、支配的な固有値のインデックス群{1,...,I^(l)}が求められる。これを行う可能な方法の1つは、ブロードバンドの方向性パワーとアンビエントパワーとの比率の所望の最小値DARMINを計算し、次式に従ってI^(l)を決定することである:

0100

適切なDARMINの値として15dBが選択されてもよい。高々D個の支配的な方向に集中するように、支配的な固有値の個数はDを超えないように制限される。これは、インデックス群{1,...,I^(l)}を{1,...,I(l)}で置換することにより達成され、この場合において、I(l):=max(I^(l),D)である(73)。

0101

次に、B(l)のI(l)ランク近似が行われる:



この行列はB(l)に対する支配的な方向性成分の寄与を含むはずである。

0102

そして、次式のようなベクトルが算出される:



ここで、Ξは近似的に均等に分散した多数のテスト方向Ωqに対するモード行列を示し、Ωq:=(θq,φq)、1≦q≦Qであり、θq∈[0,π[は極方向軸(z軸)に対してなす傾斜角
示し、φq∈[-π,π]はxy平面内でx軸に対してなす方位角を示す。

0103

モード行列Ξは次のように定義される:

0104

σ2(l)の要素であるσ2q(l)は、Ωqの方向から到来する支配的な方向の信号に対応する平面波のパワーを近似的に表現する。この点についての理論的説明については、<方向探索アルゴリズムについての説明>の箇所で説明される。

0105

方向性信号成分を決定するために、σ2(l)により、

個の支配的な方向

が算出される。支配的な方向の数は、一定のデータレートを保証するために、

を満たすように制限される。しかしながら、可変のデータレートが許容される場合、支配的な方向の数を現在の音の状況に適合させることが可能である。

0106

個の支配的な方向を算出する方法の1つは、第1の支配的な方向を、最大パワーの方向に設定することであり、すなわち、ΩCURRDOM,1(l)=Ωq1であり、q1:=argmaxq∈M1σ2q(l)及びM1:={1,2,...,Q}である。最大パワー値は支配的な方向の信号により生じると仮定し、有限次数NのHOA表現は方向性信号の空間的な分散を招くことを考慮すると(上記書籍の「Plane-wave decomposition ...」参照)、ΩCURRDOM,1(l)の方向の近辺において、同じ方向の信号に属するパワー成分が生じるはずである。空間的な信号の分散は、関数vN(Θq,q1)により表現されることが可能であるので(数式(38)参照)(ここで、Θq,q1:=∠(Ωq,Ωq1)はΩqとΩCURRDOM,1(l)との間の角度を示す)、方向性信号に属するパワーは関数vN(Θq,q1)に従って減少する。従って、別の支配的な方向を探す場合には、Ωq1(Θq,1≦ΘMIN)の方向近辺の全ての方向Ωqを排除することが合理的である。距離ΘMINは関数vN(x)が最初にゼロになる点として選択されることが可能であり、これはN≧4の場合にπ/Nにより近似的に与えられる。2番目に支配的な方向は、残りの方向Ωq∈M2(M2:={q∈M1|Θq,1>ΘMIN})の中で最大パワーをもたらすものに設定される。残りの支配的な方向は、同様な方法で決定される。

0107

個の支配的な方向は、個々の支配的な方向Ωqd~に指定されるパワーσ2qd~(l)を考慮し、比率σ2q1(l)/σ2qd~(l)が所望の方向性パワー対アンビエントパワー比DARMINの値を超えるものを探索することにより、決定することが可能である。これは、

が次式を満たすことを意味する:

0108

全ての支配的な方向に対する計算の全体的な処理は、次のような「球面上のパワー分布により支配的な方向を探索するアルゴリズム1」により実行可能である:

0109

次に、現在のフレームに関して取得された方向

が、先行する複数のフレームによる方向とともにスムージングされ、スムージングされた方向(スムージング方向)

(1≦d≦D)が得られる。この処理は2つの連続する部分(a)及び(b)に分割できる:

0110

(a)現在の支配的な方向

は、先行するフレームにより、スムージング方向

(1≦d≦D)に割り当てられる。割り当て関数

は、次式のように、割り当てられた方向同士の間の角度の合計が最小化されるように決定される:



そのような割り当ての問題は、既存のハンガリアンアルゴリズム(Hungarian Algorithm)を用いて解くことが可能である、この点については例えば次の文献を参照されたい:H.W. Kuhn, "The Hungarian method for the assignment problem", Naval research logistics quarterly 2, no.1-2, pp.83-97, 1955。現在の方向

と先行するフレームからのインアクティブな方向

との間の角度が、2ΘMINに設定される(「インアクティブな方向(inactive direction)」については後述する)。これは、先行するアクティブな方向

に対して2ΘMINより近い現在の方向

が、スムージング方向に割り当てられるようにするという作用をもたらす。距離が2ΘMINを超える場合、対応する現在の方向は新たな信号に属するように仮定され、これは、先行するインアクティブな方向

に割り当てられることが好ましいことを示す。

0111

留意点圧縮アルゴリズム全体について更に長い時間をかけてよい場合、一連の方向推定の割り振りは更に強いロバスト性をもたらすように実行されてもよい。例えば、突然の方向変化は、推定誤差に起因する異常値であるとして、それを考慮しないように適切に判断されてもよい。

0112

(b)スムージング方向

(1≦d≦D)はステップ(a)を用いて算出される。スムージング又はスムージングは、ユークリッド幾何学よりもむしろ球面幾何学に基づく。現在の支配的な方向

の各々に関し、スムージングは、球面上の2点を通る大円の部分的な円弧に沿って実行され、それらは

及び

により指定される。具体的には、スムージング因子αΩと共に指数的に重み付けされる移動平均を計算することにより、方位角及び傾斜角は独立にスムージングされる。傾斜角に関し、これは次のようなスムージング処理を行うことになる:

0113

方位角に関し、π-εから-πへの遷移(ε>0)及び逆向きの遷移における適切なスムージングを達成するために、スムージングは修正される必要がある。これは次のような処理を行うことにより考慮に入れることができる。まず最初に、次式のようにモジュロ2πによる角度差が計算され(モジュロ2πは2πを法とする演算である):



これは、次式により[-π,π[の区間に変換される:

0114

スムージングされた支配的な方位角(モジュロ2π)は次のように決定され:



また、最終的に、次式により[-π,π[の区間に変換される:

0115

である場合、指定された現在の支配的な方向を向いていない方向

が先行するフレーム内に存在する。対応するインデックス群は次式のように指定される:



次式に示すように、各々の方向は最後のフレームからコピーされる:



所定数LIA個のフレームに割り振られていない方向は、「インアクティブ(inactive)」又は「インアクティブ方向」等と言及される。

0116

以後、MACT(l)により示されるアクティブ方向のインデックス群が算出される。その要点は、DACT(l):=|MACT(l)|により表現される。

0117

全てのスムージングされた方向は、1つの方向行列に連結される:

0118

<方向性信号の計算>
方向性信号の計算は、モードマッチング(mode matching)に基づく。特に、方向性信号を探す探索が行われ、その方向性信号のHOA表現は所与のHOA信号の最良の近似をもたらすものである。連続するフレームの間の方向の変化は、方向性信号の不連続性を招く場合があるので、オーバーラップするフレームの方向性信号の推定計算を実行した後に、適切なウィンドウ関数を利用して、連続するオーバーラップするフレームの結果をスムージングする。しかしながら、スムージングは、1フレームの遅延を招く。

0119

以下、方向性信号の詳細な推定方法を説明する。

0120

先ず、スムージングされたアクティブ方向に基づくモード行列が、次式に従って算出される:



ここで、dACT,j(1≦j≦DACT(l))は、アクティブ方向のインデックスを示す。

0121

次に、(l-1)番目及び(l)番目のフレームに対する全ての方向性信号のスムージングされていない推定結果を含む行列XINST(l)が算出される:

0122

これは2つのステップで実行される。第1のステップでは、インアクティブ方向に対応する行に属する方向性信号サンプルが、次式に示すように、ゼロに設定される:

0123

第2のステップでは、アクティブ方向に対応する方向性信号サンプルが、次式に従って行列を配列することにより得られる



この行列は、次に、例えば、
ΞACT(l)XINST,ACT(l)-[C(l-1) C(l)] (97)
のような誤差ユークリッドノルムを最小化するように算出される。その解は次式により与えられる:

0124

方向性信号の推定結果xINST,d(l,j)(1≦d≦D)は、適切なウィンドウ関数w(j)により整形される:
xINST,WIN,d(l,j):=xINST,d(l,j)・w(j), 1≦j≦2B (99)

0125

ウィンドウ関数の具体例は、次式に示すような周期的なハミングウィンドウにより与えられる:



ここで、Kwはシフトされたウィンドウの合計が「1」に等しくなるように決定されるスケーリング因子を示す。(l-1)番目のフレームに関するスムージングされた方向性信号は、次式に従って、ウィンドウ処理されたスムージングされてない推定結果を適切に重ね合わせることにより算出される:
xd((l-1)B+j)=xINST,WIN,d(l-1,B+j)+xINST,WIN,d(l,j) (101)

0126

(l-1)番目のフレームに対する全てのスムージングされた方向性信号のサンプルは、次式のように、行列X(l-1)に配置される:

0127

<アンビエントHOA成分の計算>
アンビエントHOA成分CA(l-1)は、次式のように、全体のHOA表現C(l-1)から、全体の方向性HOA成分CDIR(l-1)を減算することにより得られる:



ここで、CDIR(l-1)は次式のようにして決定される:



ここで、ΞDOM(l)は、次式のようにして決定される全てのスムージングされた方向に基づくモード行列を示す:



全体の方向性HOA成分の計算は、オーバーラップする一連の瞬時的な全体の方向性HOA成分の空間的なスムージングに基づいているので、アンビエントHOA成分は、1フレームの遅延と共に得られる。

0128

<アンビエントHOA成分の低次数化>
CA(l-1)は成分で表現すると次式のようになり、



その低次数化は、全てのHOA係数cmn,A(j)(n>NRED)の次数を下げることにより達成される:

0129

<アンビエントHOA成分の球面調和変換> 球面調和変換は、低次数化されたアンビエントHOA成分CA,RED(l)にモード行列の逆行列を乗算することで実行される:



この場合において、OREDは一様に分散した方向ΩA,dであり(1≦d≦ORED)、
WA,RED(l)=(ΞA)-1CA,RED(l) (111)
である。

0130

<圧縮解除>
<逆球面調和変換>
知覚圧縮解除が施された空間領域信号

は、次式のように、逆球面調和変換により、次数がNREDであるHOA領域表現

に変換される:

0131

<次数拡大>
HOA表現

のアンビソニックス次数は、次式に従って0(ゼロ)を付加することにより、Nに拡大される:



ここで、Om×nはm行n列ゼロ行列を示す。

0132

<HOA係数構築>
最終的な圧縮解除されたHOA係数は、次式のように、指向性成分及びアンビエントHOA成分の加算により算出される:



この段階において、1フレーム分の遅延が導入され、方向性HOA成分が空間的スムージングに基づいて算出されることが許容される。これを行うことにより、連続するフレーム間の方向変化に起因する音場の方向性成分の望まれない不要な不連続性を、回避することができる。

0133

スムージングされた方向性HOA成分を計算するために、次式に従って、個々の全ての方向性信号の推定結果を含む2つの連続するフレームが、1つの長いフレームに連結される:

0134

この長いフレームに含まれている個々の信号各々には、数式(100)のようなウィンドウ関数が乗算される。



により、長いフレーム

の成分又は要素を表現する場合、ウィンドウ処理は、ウィンドウ信号

を次式によって計算することにより行われる:

0135

なお、全体の方向性HOA成分CDIR(l-1)は、ウィンドウ処理された方向性信号の全てを適切な方向にエンコードし、それらをオーバーラップする形式で重ね合わせることにより得られる:

0136

<方向探索アルゴリズムについての説明>
以下、<支配的な方向の推定>の説明箇所で言及した方向探索アルゴリズムに関する事項を説明する。先ず、これは幾つかの仮定に基づいている。

0137

<仮定>
HOA係数ベクトルc(j)は、一般に、次式のように時間領域の振幅密度関数d(j,Ω)に関連しており、



HOA係数ベクトルc(j)は、次式のモデルに従うことが仮定される:

0138

このモデルは、HOA係数ベクトルc(j)が、l番目のフレームにおいて方向Ωxi(l)から到来するI個の支配的な指向性ソース信号xi(j)(1≦i≦I)により形成されることを示す。特に、方向は、1つのフレームの持続時間の間、不変であるように仮定されている。支配的なソース信号の個数Iは、HOA係数の総数Oよりも明らかに小さいことが仮定されている。更に、フレーム長BはOよりも明らかに大きいことが仮定されている。また、ベクトルc(j)は、理想的な等方性周辺音場を表現することが可能な残留成分cA(j)を含む。

0139

個々のHOA係数ベクトル成分は、以下の性質を有するように仮定されている。
・支配的なソース信号(群)は平均的にはゼロであるように仮定されている:



また、支配的なソース信号(群)は互いに相関を有していないように仮定されている:



ここで、

はl番目のフレームについてのi番目の信号の平均パワーを示す。
・支配的なソース信号(群)は、HOA係数ベクトルのアンビエント成分と相関を有しないように仮定されている:



・アンビエントHOA成分ベクトルは、平均的にはゼロであり、共分散行列(covariance matrix)を有するように仮定されている:






という数式により定義される各フレームの方向性パワー対アンビエントパワー比DAR(l)は、所定の所望値DARMINより大きいことが仮定されており、すなわち、
DAR(l)≧DARMIN (126)
である。

0140

<方向探索に関する補足説明
説明の便宜上、相関行列B(l)(数式(67))が、L-1個の先行するフレームのサンプルを考慮することなく、l番目のフレームのサンプルのみに基づいて算出される状況を考察する。この処理は、Lを1に設定すること(L=1)に相当する。従って、相関行列は次式のように表現できる:

0141

数式(120)で仮定したモデルを数式(128)に代入し、数式(122)、(123)及び定義(124)を利用することにより、相関行列B(l)は、次のように近似できる:

0142

数式(131)によれば、近似的にB(l)は、方向性成分に帰属する加算成分とアンビエント成分に帰属する加算成分との2つの加算成分から成ることが分かる。I(l)ランク近似BI(l)は指向性HOA成分の近似を提供し、すなわち、次式のように書ける:



これは、方向性パワー対周辺パワー比に関する数式(126)から得られる。

0143

しかしながら、1番目の項の

及び2番目の項のΣA(l)の行列の列が張る部分空間は、互いに直交していないので、ΣA(l)のいくらかの部分は不可避的にBI(l)に洩れ込むことに留意すべきである。数式(132)によれば、数式(77)のベクトルσ2(l)は、支配的な方向の探索に使用され、次のように表現できる:

0144

数式(135)において、数式(47)で言及した球面調和関数の性質が使用されている:

0145

数式(136)は、σ2(l)の要素σ2q(l)が、テスト方向Ωq(1≦q≦Q)から到来する信号のパワーを近似していることを示す。

ページトップへ

この技術を出願した法人

この技術を発明した人物

ページトップへ

関連する挑戦したい社会課題

該当するデータがありません

関連する公募課題

該当するデータがありません

ページトップへ

技術視点だけで見ていませんか?

この技術の活用可能性がある分野

分野別動向を把握したい方- 事業化視点で見る -

(分野番号表示ON)※整理標準化データをもとに当社作成

ページトップへ

おススメ サービス

おススメ astavisionコンテンツ

新着 最近 公開された関連が強い技術

この 技術と関連性が強い技術

関連性が強い 技術一覧

この 技術と関連性が強い人物

関連性が強い人物一覧

この 技術と関連する社会課題

該当するデータがありません

この 技術と関連する公募課題

該当するデータがありません

astavision 新着記事

サイト情報について

本サービスは、国が公開している情報(公開特許公報、特許整理標準化データ等)を元に構成されています。出典元のデータには一部間違いやノイズがあり、情報の正確さについては保証致しかねます。また一時的に、各データの収録範囲や更新周期によって、一部の情報が正しく表示されないことがございます。当サイトの情報を元にした諸問題、不利益等について当方は何ら責任を負いかねることを予めご承知おきのほど宜しくお願い申し上げます。

主たる情報の出典

特許情報…特許整理標準化データ(XML編)、公開特許公報、特許公報、審決公報、Patent Map Guidance System データ