図面 (/)

技術 音声処理装置、音声処理方法及び音声処理プログラム

出願人 パナソニックIPマネジメント株式会社
発明者 野村和也
出願日 2016年3月1日 (4年8ヶ月経過) 出願番号 2016-038911
公開日 2016年9月23日 (4年1ヶ月経過) 公開番号 2016-170405
状態 特許登録済
技術分野 音声の分析・合成
主要キーワード 会話量 サンプル記憶 外来音 時報信号 抑圧音 聴覚補助装置 周囲音声 ラジオ放送受信機
関連する未来課題
重要な関連分野

この項目の情報は公開日時点(2016年9月23日)のものです。
また、この項目は機械的に抽出しているため、正しく解析できていない場合があります

図面 (12)

課題

ユーザの周囲の音声の中から、ユーザに提供する音声を出力することができる音声処理装置音声処理方法及び音声処理プログラムを提供する。

解決手段

音声抽出部12は、ユーザの周囲の音声を示す周囲音声信号を取得し、抑圧音判別部152は、音声抽出部12によって取得された周囲音声信号から、ユーザに提供する音声を示す提供音声信号を抽出し、信号加算部17は、主音声を示す第1の音声信号及び提供音声信号を出力する。

概要

背景

補聴器の一つの基本機能は、会話する相手の声をいかに聴きやすくするかである。この機能を実現するため、会話する相手の声を強調する手段として、適応指向性収音処理、雑音抑圧処理及び音源分離処理等が用いられる。これにより、会話する相手の声以外の音を抑圧することができる。

また、携帯音楽プレーヤ又は携帯ラジオなどは、周囲の音を入力する手段を持たず、専ら機器蓄積された内容を再生したり、受信した放送の内容を出力したりする。

さらに、一部のヘッドホンは、周囲の音を入力する手段を備え、内部処理で周囲の音を打ち消す信号を生成し、生成した信号を再生音に混合して出力することにより、周囲の音を抑圧する。この技術により、再生のための電子機器のユーザの周囲にある騒音遮断しつつ、ユーザが所望する再生音を得ることができる。

例えば、特許文献1における聴覚補助装置(補聴器)は、マイクで集音した外来音を常時リングバッファに書き込んでおり、リングバッファが記憶する外来音データから一定期間分の外来音データを読み出し分析し、声の有無を判定し、直前の判定結果が声無しの場合、リングバッファに書き込み直後の外来音データを読み出して、環境音用の増幅率増幅してスピーカから出力し、直前の判定結果が声無しであったが今回の判定結果が声有りの場合、声有りと判定した一定期間分の外来音データをリングバッファから読み出して、時間圧縮しながら声用の増幅率で増幅してスピーカから出力する。

また、特許文献2における話速変換装置は、入力音声信号有声区間無音無声区間に分離し、有声区間を無音・無声区間へ時間的に伸長させる信号処理を施すことにより話速を変換させた信号を出力し、入力音声信号から予報音信号と正報音信号とで構成された時報信号中の予報音信号を検出し、予報音信号を検出した場合に、信号処理後の有声区間から時報信号を削除し、予報音信号を検出した場合に、予報音信号と正報音信号とで構成された新たな時報信号を生成し、生成した新たな時報信号を、その時報信号の正報音の出力タイミングが入力音声信号の時報信号中の正報音が出力されると仮定した場合の出力タイミングと一致するように、出力信号に対して合成する。

また、特許文献3における両耳補聴器システムは、使用者の第一の中又はそばに配置するように構成された、第一入力信号を提供する第一マイクロホンシステム、及び使用者の第二耳の中又はそばに配置するように構成された、第二入力信号を提供する第二マイクロホンシステムを備え、全方向性(OMNI)マイクロホンモード指向性(DIR)マイクロホンモードとを自動的に切換えている。

概要

ユーザの周囲の音声の中から、ユーザに提供する音声を出力することができる音声処理装置音声処理方法及び音声処理プログラムを提供する。音声抽出部12は、ユーザの周囲の音声を示す周囲音声信号を取得し、抑圧音判別部152は、音声抽出部12によって取得された周囲音声信号から、ユーザに提供する音声を示す提供音声信号を抽出し、信号加算部17は、主音声を示す第1の音声信号及び提供音声信号を出力する。

目的

また、特許文献3における両耳補聴器システムは、使用者の第一耳の中又はそばに配置するように構成された、第一入力信号を提供する

効果

実績

技術文献被引用数
0件
牽制数
0件

この技術が所属する分野

(分野番号表示ON)※整理標準化データをもとに当社作成

ライセンス契約や譲渡などの可能性がある特許掲載中! 開放特許随時追加・更新中 詳しくはこちら

請求項1

ユーザの周囲の音声を示す周囲音声信号を取得する周囲音声取得部と、前記周囲音声取得部によって取得された前記周囲音声信号から、ユーザに提供する音声を示す提供音声信号を抽出する音声抽出部と、主音声を示す第1の音声信号及び前記提供音声信号を出力する出力部と、を備える音声処理装置

請求項2

前記周囲音声取得部によって取得された前記周囲音声信号を、前記第1の音声信号と、前記主音声とは異なる音声を示す第2の音声信号とに分離する音声分離部をさらに備え、前記音声抽出部は、前記音声分離部によって分離された前記第2の音声信号から前記提供音声信号を抽出し、前記出力部は、前記音声分離部によって分離された前記第1の音声信号を出力するとともに、前記音声抽出部によって抽出された前記提供音声信号を出力する、請求項1記載の音声処理装置。

請求項3

前記主音声は、会話に参加している人が発話した音声を含む、請求項2記載の音声処理装置。

請求項4

前記第1の音声信号を予め記憶する音声信号記憶部をさらに備え、前記出力部は、前記音声信号記憶部から読み出した前記第1の音声信号を出力するとともに、前記音声抽出部によって抽出された前記提供音声信号を出力する、請求項1記載の音声処理装置。

請求項5

前記主音声は、音楽データを含む、請求項4記載の音声処理装置。

請求項6

前記提供音声信号に関するサンプル音声信号を記憶するサンプル音声記憶部をさらに備え、前記音声抽出部は、前記周囲音声信号の特徴量と、前記サンプル音声記憶部に記録されている前記サンプル音声信号の特徴量とを比較し、前記サンプル音声信号の特徴量に類似する特徴量を有する音声信号を前記提供音声信号として抽出する、請求項1〜5のいずれか1項に記載の音声処理装置。

請求項7

前記提供音声信号を遅延させずに前記第1の音声信号とともに出力する第1の出力パターンと、前記第1の音声信号のみを出力した後、前記提供音声信号を遅延させて出力する第2の出力パターンと、前記周囲音声信号から前記提供音声出力が抽出されない場合、前記第1の音声信号のみを出力する第3の出力パターンとのうちいずれかの出力パターンを選択する選択部と、前記第1の出力パターンが選択された場合、前記提供音声信号を遅延させずに前記第1の音声信号とともに出力し、前記第2の出力パターンが選択された場合、前記第1の音声信号のみを出力した後、前記提供音声信号を遅延させて出力し、前記第3の出力パターンが選択された場合、前記第1の音声信号のみを出力する音声出力部と、をさらに備える請求項1〜6のいずれか1項に記載の音声処理装置。

請求項8

前記第1の音声信号の出力が終了してから次の第1の音声信号が入力されるまでの無声区間を検出する無声区間検出部をさらに備え、前記音声出力部は、前記第2の出力パターンが選択された場合、前記無声区間検出部によって前記無声区間が検出されたか否かを判断し、前記無声区間が検出されたと判断された場合、前記第3の音声信号を前記無声区間に出力する、請求項7記載の音声処理装置。

請求項9

前記第1の音声信号における話速を検出する話速検出部をさらに備え、前記音声出力部は、前記第2の出力パターンが選択された場合、前記話速検出部によって検出された前記話速が所定の速度より遅いか否かを判断し、前記話速が所定の速度より遅いと判断された場合、前記第3の音声信号を出力する、請求項7記載の音声処理装置。

請求項10

前記第1の音声信号の出力が終了してから次の第1の音声信号が入力されるまでの無声区間を検出する無声区間検出部をさらに備え、前記音声出力部は、前記第2の出力パターンが選択された場合、前記無声区間検出部によって検出される前記無声区間が所定の長さ以上であるか否かを判断し、前記無声区間が所定の長さ以上であると判断された場合、前記第3の音声信号を前記無声区間に出力する、請求項7記載の音声処理装置。

請求項11

ユーザの周囲の音声を示す周囲音声信号を取得する周囲音声取得ステップと、前記周囲音声取得ステップにおいて取得された前記周囲音声信号から、ユーザに提供する音声を示す提供音声信号を抽出する音声抽出ステップと、主音声を示す第1の音声信号及び前記提供音声信号を出力する出力ステップと、を含む音声処理方法

請求項12

ユーザの周囲の音声を示す周囲音声信号を取得する周囲音声取得部と、前記周囲音声取得部によって取得された前記周囲音声信号から、ユーザに提供する音声を示す提供音声信号を抽出する音声抽出部と、主音声を示す第1の音声信号及び前記提供音声信号を出力する出力部としてコンピュータを機能させる、音声処理プログラム

技術分野

0001

本開示は、ユーザの周囲の音声を示す音声信号を取得し、取得した音声信号に対して所定の処理を施す音声処理装置音声処理方法及び音声処理プログラムに関するものである。

背景技術

0002

補聴器の一つの基本機能は、会話する相手の声をいかに聴きやすくするかである。この機能を実現するため、会話する相手の声を強調する手段として、適応指向性収音処理、雑音抑圧処理及び音源分離処理等が用いられる。これにより、会話する相手の声以外の音を抑圧することができる。

0003

また、携帯音楽プレーヤ又は携帯ラジオなどは、周囲の音を入力する手段を持たず、専ら機器蓄積された内容を再生したり、受信した放送の内容を出力したりする。

0004

さらに、一部のヘッドホンは、周囲の音を入力する手段を備え、内部処理で周囲の音を打ち消す信号を生成し、生成した信号を再生音に混合して出力することにより、周囲の音を抑圧する。この技術により、再生のための電子機器のユーザの周囲にある騒音遮断しつつ、ユーザが所望する再生音を得ることができる。

0005

例えば、特許文献1における聴覚補助装置(補聴器)は、マイクで集音した外来音を常時リングバッファに書き込んでおり、リングバッファが記憶する外来音データから一定期間分の外来音データを読み出し分析し、声の有無を判定し、直前の判定結果が声無しの場合、リングバッファに書き込み直後の外来音データを読み出して、環境音用の増幅率増幅してスピーカから出力し、直前の判定結果が声無しであったが今回の判定結果が声有りの場合、声有りと判定した一定期間分の外来音データをリングバッファから読み出して、時間圧縮しながら声用の増幅率で増幅してスピーカから出力する。

0006

また、特許文献2における話速変換装置は、入力音声信号有声区間無音無声区間に分離し、有声区間を無音・無声区間へ時間的に伸長させる信号処理を施すことにより話速を変換させた信号を出力し、入力音声信号から予報音信号と正報音信号とで構成された時報信号中の予報音信号を検出し、予報音信号を検出した場合に、信号処理後の有声区間から時報信号を削除し、予報音信号を検出した場合に、予報音信号と正報音信号とで構成された新たな時報信号を生成し、生成した新たな時報信号を、その時報信号の正報音の出力タイミングが入力音声信号の時報信号中の正報音が出力されると仮定した場合の出力タイミングと一致するように、出力信号に対して合成する。

0007

また、特許文献3における両耳補聴器システムは、使用者の第一の中又はそばに配置するように構成された、第一入力信号を提供する第一マイクロホンシステム、及び使用者の第二耳の中又はそばに配置するように構成された、第二入力信号を提供する第二マイクロホンシステムを備え、全方向性(OMNI)マイクロホンモード指向性(DIR)マイクロホンモードとを自動的に切換えている。

先行技術

0008

特開2005−64744号公報
特開2005−148434号公報
特表2009−528802号公報

発明が解決しようとする課題

0009

上記従来の技術では、更なる改善が必要とされていた。

課題を解決するための手段

0010

本開示の一局面に係る音声処理装置は、ユーザの周囲の音声を示す周囲音声信号を取得する周囲音声取得部と、前記周囲音声取得部によって取得された前記周囲音声信号から、ユーザに提供する音声を示す提供音声信号を抽出する音声抽出部と、主音声を示す第1の音声信号及び前記提供音声信号を出力する出力部と、を備える。

発明の効果

0011

本開示によれば、ユーザの周囲の音声の中から、ユーザに提供する音声を出力することができる。

0012

なお、本開示の更なる効果及び利点は、本明細書及び図面の開示内容から明らかとなるであろう。上記更なる効果及び利点は、本明細書及び図面に開示されている様々な実施の形態及び特徴によって個別に提供されてもよく、必ずしもすべての効果及び利点が提供される必要はない。

図面の簡単な説明

0013

実施の形態1における音声処理装置の構成を示す図である。
実施の形態1における出力パターンの一例を示す図である。
実施の形態1における音声処理装置の動作の一例を説明するためのフローチャートである。
ユーザに提供する抑圧音声信号を遅延して出力するタイミングの第1の変形例について説明するための模式図である。
ユーザに提供する抑圧音声信号を遅延して出力するタイミングの第2の変形例について説明するための模式図である。
実施の形態2における音声処理装置の構成を示す図である。
実施の形態2における音声処理装置の動作の一例を説明するためのフローチャートである。
実施の形態3における音声処理装置の構成を示す図である。
実施の形態3における音声処理装置の動作の一例を説明するためのフローチャートである。
実施の形態4における音声処理装置の構成を示す図である。
実施の形態4における音声処理装置の動作の一例を説明するためのフローチャートである。

実施例

0014

(本開示の基礎となった知見)
従来技術によれば、会話する相手の声以外の音を抑圧するため、例えば電話着信音などを含むユーザの周囲の音を、ユーザは全く聞くことができなくなる。このため、ユーザは、電話の着信音が鳴ったとしても聞こえず、電話の着信に気づかないということが起こる。

0015

また、特許文献1では、声の有無が判定され、声有りと判定している場合には声無しと判定しているときよりも増幅率が高く設定されるので、騒音が大きい環境下で会話している場合は、騒音も大音量で出力されるため、会話が聞き取りにくくなるおそれがある。

0016

また、特許文献2では、入力音声信号に対して話速変換を行った場合においても、時報については同時に又はほとんど遅延を生じさせることなく音声出力させているが、声及び時報以外の環境音については抑圧されておらず、会話が聞き取りにくくなるおそれがある。

0017

また、特許文献3では、音声を取得するマイクロホンの全方向性マイクロホンモードと指向性マイクロホンモードとを自動的に切換えることについて開示しているが、取得した音声から、ユーザにとって不要な音声を抑圧するとともに、ユーザにとって必要な音声を抽出することについては開示されていない。

0018

以上の考察に基づき、本発明者らは本開示の各態様を想到するに至った。

0019

本開示の一局面に係る音声処理装置は、ユーザの周囲の音声を示す周囲音声信号を取得する周囲音声取得部と、前記周囲音声取得部によって取得された前記周囲音声信号から、ユーザに提供する音声を示す提供音声信号を抽出する音声抽出部と、主音声を示す第1の音声信号及び前記提供音声信号を出力する出力部と、を備える。

0020

この構成によれば、ユーザの周囲の音声を示す周囲音声信号が取得され、取得された周囲音声信号から、ユーザに提供する音声を示す提供音声信号が抽出され、主音声を示す第1の音声信号及び提供音声信号が出力される。

0021

したがって、ユーザの周囲の音声の中から、ユーザに提供する音声を出力することができる。

0022

また、上記の音声処理装置において、前記周囲音声取得部によって取得された前記周囲音声信号を、前記第1の音声信号と、前記主音声とは異なる音声を示す第2の音声信号とに分離する音声分離部をさらに備え、前記音声抽出部は、前記音声分離部によって分離された前記第2の音声信号から前記提供音声信号を抽出し、前記出力部は、前記音声分離部によって分離された前記第1の音声信号を出力するとともに、前記音声抽出部によって抽出された前記提供音声信号を出力してもよい。

0023

この構成によれば、取得された周囲音声信号が、第1の音声信号と、主音声とは異なる音声を示す第2の音声信号とに分離される。分離された第2の音声信号から提供音声信号が抽出される。分離された第1の音声信号が出力されるとともに、抽出された提供音声信号が出力される。

0024

したがって、ユーザの周囲の音声の中から、主音声と、主音声とは異なる音声とが分離されるので、主音声とは異なる音声を抑圧することにより、ユーザは主音声をより明確に聞き取ることができる。

0025

また、上記の音声処理装置において、前記主音声は、会話に参加している人が発話した音声を含んでもよい。

0026

この構成によれば、会話に参加している人が発話した音声とは異なる音声を抑圧することにより、ユーザは、会話に参加している人が発話した音声をより明確に聞き取ることができる。

0027

また、上記の音声処理装置において、前記第1の音声信号を予め記憶する音声信号記憶部をさらに備え、前記出力部は、前記音声信号記憶部から読み出した前記第1の音声信号を出力するとともに、前記音声抽出部によって抽出された前記提供音声信号を出力してもよい。

0028

この構成によれば、第1の音声信号が音声信号記憶部に予め記憶され、音声信号記憶部から読み出した第1の音声信号が出力されるとともに、抽出された提供音声信号が出力されるので、ユーザの周囲の音声から主音声を分離するのではなく、予め記憶されている主音声を出力することができる。

0029

また、上記の音声処理装置において、前記主音声は、音楽データを含んでもよい。この構成によれば、音楽データを出力することができる。

0030

また、上記の音声処理装置において、前記提供音声信号に関するサンプル音声信号を記憶するサンプル音声記憶部をさらに備え、前記音声抽出部は、前記周囲音声信号の特徴量と、前記サンプル音声記憶部に記録されている前記サンプル音声信号の特徴量とを比較し、前記サンプル音声信号の特徴量に類似する特徴量を有する音声信号を前記提供音声信号として抽出してもよい。

0031

この構成によれば、提供音声信号に関するサンプル音声信号がサンプル音声記憶部に記憶されている。周囲音声信号の特徴量と、サンプル音声記憶部に記録されているサンプル音声信号の特徴量とが比較され、サンプル音声信号の特徴量に類似する特徴量を有する音声信号が提供音声信号として抽出される。

0032

したがって、周囲音声信号の特徴量と、サンプル音声記憶部に記録されているサンプル音声信号の特徴量とを比較することにより、提供音声信号を簡単に抽出することができる。

0033

また、上記の音声処理装置において、前記提供音声信号を遅延させずに前記第1の音声信号とともに出力する第1の出力パターンと、前記第1の音声信号のみを出力した後、前記提供音声信号を遅延させて出力する第2の出力パターンと、前記周囲音声信号から前記提供音声出力が抽出されない場合、前記第1の音声信号のみを出力する第3の出力パターンとのうちいずれかの出力パターンを選択する選択部と、前記第1の出力パターンが選択された場合、前記提供音声信号を遅延させずに前記第1の音声信号とともに出力し、前記第2の出力パターンが選択された場合、前記第1の音声信号のみを出力した後、前記提供音声信号を遅延させて出力し、前記第3の出力パターンが選択された場合、前記第1の音声信号のみを出力する音声出力部と、をさらに備えてもよい。

0034

この構成によれば、提供音声信号を遅延させずに第1の音声信号とともに出力する第1の出力パターンと、第1の音声信号のみを出力した後、提供音声信号を遅延させて出力する第2の出力パターンと、周囲音声信号から提供音声出力が抽出されない場合、第1の音声信号のみを出力する第3の出力パターンとのうちいずれかの出力パターンが選択される。第1の出力パターンが選択された場合、提供音声信号が遅延させずに第1の音声信号とともに出力される。第2の出力パターンが選択された場合、第1の音声信号のみが出力された後、提供音声信号が遅延させて出力される。第3の出力パターンが選択された場合、第1の音声信号のみが出力される。

0035

したがって、提供音声信号の優先度に応じて提供音声信号を出力するタイミングを決定することができ、より緊急度の高い提供音声信号については、第1の音声信号とともに出力することができ、緊急度の低い提供音声信号については、第1の音声信号が出力された後に出力することができ、特にユーザに提供する必要がない周囲音声信号については、出力せずに抑圧することができる。

0036

また、上記の音声処理装置において、前記第1の音声信号の出力が終了してから次の第1の音声信号が入力されるまでの無声区間を検出する無声区間検出部をさらに備え、前記音声出力部は、前記第2の出力パターンが選択された場合、前記無声区間検出部によって前記無声区間が検出されたか否かを判断し、前記無声区間が検出されたと判断された場合、前記第3の音声信号を前記無声区間に出力してもよい。

0037

この構成によれば、第1の音声信号の出力が終了してから次の第1の音声信号が入力されるまでの無声区間が検出される。第2の出力パターンが選択された場合、無声区間検出部によって無声区間が検出されたか否かが判断され、無声区間が検出されたと判断された場合、第3の音声信号が無声区間に出力される。

0038

したがって、人の発話がない無声区間に第3の音声信号が出力されるので、ユーザは、第3の音声信号をより明確に聞き取ることができる。

0039

また、上記の音声処理装置において、前記第1の音声信号における話速を検出する話速検出部をさらに備え、前記音声出力部は、前記第2の出力パターンが選択された場合、前記話速検出部によって検出された前記話速が所定の速度より遅いか否かを判断し、前記話速が所定の速度より遅いと判断された場合、前記第3の音声信号を出力してもよい。

0040

この構成によれば、第1の音声信号における話速が検出される。第2の出力パターンが選択された場合、検出された話速が所定の速度より遅いか否かが判断され、話速が所定の速度より遅いと判断された場合、第3の音声信号が出力される。

0041

したがって、話速が所定の速度より遅くなった場合に、第3の音声信号が出力されるので、ユーザは、第3の音声信号をより明確に聞き取ることができる。

0042

また、上記の音声処理装置において、前記第1の音声信号の出力が終了してから次の第1の音声信号が入力されるまでの無声区間を検出する無声区間検出部をさらに備え、前記音声出力部は、前記第2の出力パターンが選択された場合、前記無声区間検出部によって検出される前記無声区間が所定の長さ以上であるか否かを判断し、前記無声区間が所定の長さ以上であると判断された場合、前記第3の音声信号を前記無声区間に出力してもよい。

0043

この構成によれば、第1の音声信号の出力が終了してから次の第1の音声信号が入力されるまでの無声区間が検出される。第2の出力パターンが選択された場合、検出される無
声区間が所定の長さ以上であるか否かが判断され、無声区間が所定の長さ以上であると判断された場合、第3の音声信号が無声区間に出力される。

0044

したがって、発話が途切れた場合に、第3の音声信号が出力されるので、ユーザは、第3の音声信号をより明確に聞き取ることができる。

0045

本開示の他の局面に係る音声処理方法は、ユーザの周囲の音声を示す周囲音声信号を取得する周囲音声取得ステップと、前記周囲音声取得ステップにおいて取得された前記周囲音声信号から、ユーザに提供する音声を示す提供音声信号を抽出する音声抽出ステップと、主音声を示す第1の音声信号及び前記提供音声信号を出力する出力ステップと、を含む。

0046

この構成によれば、ユーザの周囲の音声を示す周囲音声信号が取得され、取得された周囲音声信号から、ユーザに提供する音声を示す提供音声信号が抽出され、主音声を示す第1の音声信号及び提供音声信号が出力される。

0047

したがって、ユーザの周囲の音声の中から、ユーザに提供する音声を出力することができる。

0048

本開示の他の局面に係る音声処理プログラムは、ユーザの周囲の音声を示す周囲音声信号を取得する周囲音声取得部と、前記周囲音声取得部によって取得された前記周囲音声信号から、ユーザに提供する音声を示す提供音声信号を抽出する音声抽出部と、主音声を示す第1の音声信号及び前記提供音声信号を出力する出力部としてコンピュータを機能させる。

0049

この構成によれば、ユーザの周囲の音声を示す周囲音声信号が取得され、取得された周囲音声信号から、ユーザに提供する音声を示す提供音声信号が抽出され、主音声を示す第1の音声信号及び提供音声信号が出力される。

0050

したがって、ユーザの周囲の音声の中から、ユーザに提供する音声を出力することができる。

0051

なお、これらの包括的または具体的な態様は、システム、方法、集積回路コンピュータプログラム、または、記録媒体で実現されてもよく、システム、装置、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。

0052

以下添付図面を参照しながら、本開示の実施の形態について説明する。なお、以下の実施の形態は、本開示を具体化した一例であって、本開示の技術的範囲を限定するものではない。

0053

(実施の形態1)
図1は、実施の形態1における音声処理装置の構成を示す図である。音声処理装置1は、例えば、補聴器である。

0054

図1に示す音声処理装置1は、マイクアレイ11、音声抽出部12、会話評価部13、抑圧音格納部14、優先度評価部15、抑圧音出力部16、信号加算部17、音声強調部18及びスピーカ19を備える。

0055

マイクアレイ11は、複数のマイクロホンで構成される。複数のマイクロホンのそれぞれは、周囲の音声を収音し、収音した音声を音声信号に変換する。

0056

音声抽出部12は、音源毎に音声信号を抽出する。音声抽出部12は、ユーザの周囲の音声を示す周囲音声信号を取得する。音声抽出部12は、マイクアレイ11によって取得された複数の音声信号に基づいて、音源が異なる複数の音声信号を抽出する。音声抽出部12は、指向性合成部121及び音源分離部122を備える。

0057

指向性合成部121は、マイクアレイ11から出力された複数の音声信号から、同一音源から出力された複数の音声信号を抽出する。

0058

音源分離部122は、例えば、ブラインド音源分離処理により、入力された複数の音声信号を、人間が発話した音声であり、主音声を示す発話音声信号と、発話以外の音声であり、主音声とは異なる抑圧されるべき音声を示す抑圧音声信号とに分離する。主音声は、会話に参加している人が発話した音声を含む。音源分離部122は、音源毎に音声信号を分離する。例えば、複数の話者が発話する場合、音源分離部122は、複数の話者毎に音声信号を分離する。音源分離部122は、分離した発話音声信号を会話評価部13へ出力し、分離した抑圧音声信号を抑圧音格納部14へ出力する。

0059

会話評価部13は、音源分離部122から入力された複数の発話音声信号を評価する。具体的に、会話評価部13は、複数の発話音声信号のそれぞれの話者を特定する。例えば、会話評価部13は、話者と、話者を識別するために用いられる音響パラメタとを対応付けて記憶する。会話評価部13は、入力された発話音声信号と、記憶されている音響パラメタとを比較することにより、発話音声信号に対応する話者を特定する。なお、会話評価部13は、入力された発話音声信号の大きさ(レベル)に基づいて話者を識別してもよい。すなわち、音声処理装置1を使用するユーザの音声は、会話する相手の音声よりも大きくなる。そこで、会話評価部13は、入力された発話音声信号のレベルが所定値以上である場合、当該発話音声信号がユーザ自身の発話であると判断し、入力された発話音声信号のレベルが所定値より小さい場合、当該発話音声信号がユーザ以外の人物の発話であると判断してもよい。また、会話評価部13は、レベルが2番目に大きい発話音声信号を、ユーザが会話している相手の音声を示す発話音声信号であると判断してもよい。

0060

また、会話評価部13は、複数の発話音声信号のそれぞれの発話区間を特定する。また、会話評価部13は、発話音声信号の出力が終了してから次の発話音声信号が入力されるまでの無声区間を検出してもよい。なお、無声区間は、会話がない区間を表す。そのため、会話評価部13は、会話以外の音声があった場合は無声区間として検出しない。

0061

また、会話評価部13は、複数の発話音声信号の話速(発話速度)を算出してもよい。例えば、会話評価部13は、所定の時間内に発話された文字数を所定の時間で除算した値を話速として算出してもよい。

0062

抑圧音格納部14は、音源分離部122から入力された複数の抑圧音声信号を格納する。また、会話評価部13は、ユーザ自身が発話した音声を示す発話音声信号と、ユーザが会話している相手以外の人物が発話した音声を示す発話音声信号とを抑圧音格納部14へ出力してもよい。抑圧音格納部14は、ユーザ自身が発話した音声を示す発話音声信号と、ユーザが会話している相手以外の人物が発話した音声を示す発話音声信号とを格納してもよい。

0063

優先度評価部15は、複数の抑圧音声信号の優先度を評価する。優先度評価部15は、抑圧音サンプル記憶部151、抑圧音判別部152及び抑圧音出力制御部153を備える。

0064

抑圧音サンプル記憶部151は、ユーザに提供する抑圧音声信号の特徴量を示す音響パラメタを抑圧音声信号毎に記憶する。また、抑圧音サンプル記憶部151は、音響パラメタに対応付けて優先度を記憶してもよい。重要度(緊急度)が高い音声には、高い優先度が付与され、重要度(緊急度)が低い音声には、低い優先度が付与される。例えば、ユーザが会話中であっても、即座にユーザに通知した方がよい音声には、第1の優先度が付与され、会話が終了した後でユーザに通知してもよい音声には、第1の優先度より低い第2の優先度が付与される。また、ユーザに通知する必要がない音声については、第2の優先度より低い第3の優先度が付与されてもよい。なお、抑圧音サンプル記憶部151は、ユーザに通知する必要がない音声の音響パラメタを記憶しなくてもよい。

0065

ここで、ユーザに提供する音声とは、例えば、電話機の着信音、メールの着信音、ドアホンの音、車のエンジン音(車が接近する音)、車のクラクションの音、又は洗濯完了を通知する通知音などの家電機器から通知される通知音などである。このユーザに提供する音声の中には、ユーザが直ちに対応する必要がある音声と、ユーザが直ちに対応する必要はないが、後から対応する必要がある音声とが含まれる。

0066

抑圧音判別部152は、抑圧音格納部14に格納されている複数の抑圧音声信号のうち、ユーザに提供する音声を示す抑圧音声信号(提供音声信号)を判別する。抑圧音判別部152は、取得された周囲音声信号(抑圧音声信号)から、ユーザに提供する音声を示す抑圧音声信号を抽出する。抑圧音判別部152は、抑圧音格納部14に格納されている複数の抑圧音声信号の音響パラメタと、抑圧音サンプル記憶部151に記憶されている音響パラメタとを比較し、抑圧音サンプル記憶部151に記憶されている音響パラメタに類似する音響パラメタを有する抑圧音声信号を抑圧音格納部14から抽出する。

0067

抑圧音出力制御部153は、抑圧音判別部152によってユーザに提供する音声を示す抑圧音声信号であると判別された抑圧音声信号に対応付けられている優先度に応じて、当該抑圧音声信号を出力するか否かを判断するとともに、抑圧音声信号を出力するタイミングを判断する。抑圧音出力制御部153は、抑圧音声信号を遅延させずに発話音声信号とともに出力する第1の出力パターンと、発話音声信号のみを出力した後、抑圧音声信号を遅延させて出力する第2の出力パターンと、抑圧音声信号が抽出されない場合、発話音声信号のみを出力する第3の出力パターンとのうちいずれかの出力パターンを選択する。

0068

図2は、実施の形態1における出力パターンの一例を示す図である。抑圧音出力制御部153は、抑圧音声信号に第1の優先度が対応付けられている場合、抑圧音声信号を遅延させずに発話音声信号とともに出力する第1の出力パターンを選択する。また、抑圧音出力制御部153は、抑圧音声信号に第1の優先度より低い第2の優先度が対応付けられている場合、発話音声信号のみを出力した後、抑圧音声信号を遅延させて出力する第2の出力パターンを選択する。また、抑圧音出力制御部153は、ユーザに提供する抑圧音声信号が抽出されない場合、発話音声信号のみを出力する第3の出力パターンを選択する。

0069

また、抑圧音出力制御部153は、第1の出力パターンが選択された場合、抑圧音声信号を出力するように抑圧音出力部16に指示する。また、抑圧音出力制御部153は、第2の出力パターンが選択された場合、会話評価部13によって無声区間が検出されたか否かを判断し、無声区間が検出されたと判断された場合、抑圧音声信号を出力するように抑圧音出力部16に指示する。また、抑圧音出力制御部153は、第3の出力パターンが選択された場合、抑圧音声信号を出力しないように抑圧音出力部16に指示する。

0070

なお、抑圧音出力制御部153は、ユーザに提供する抑圧音声信号が発話音声信号に対して時間的に重なって入力されたか否かを判断してもよい。ユーザに提供する抑圧音声信号が発話音声信号に対して時間的に重なって入力されたと判断された場合、抑圧音出力制御部153は、第1から第3の出力パターンのいずれかを選択し、ユーザに提供する抑圧音声信号が発話音声信号に対して時間的に重なって入力されていないと判断された場合、当該抑圧音声信号を出力してもよい。

0071

また、抑圧音出力制御部153は、第2の出力パターンが選択された場合、会話評価部13によって検出される無声区間が所定の長さ以上であるか否かを判断し、無声区間が所定の長さ以上であると判断された場合、抑圧音声信号を出力するように抑圧音出力部16に指示してもよい。

0072

さらに、抑圧音出力制御部153は、第2の出力パターンが選択された場合、会話評価部13によって検出された話速が所定の速度より遅いか否かを判断し、話速が所定の速度より遅いと判断された場合、抑圧音声信号を出力するように抑圧音出力部16に指示してもよい。

0073

抑圧音出力部16は、抑圧音出力制御部153からの指示に応じて抑圧音声信号を出力する。

0074

信号加算部17は、主音声を示す発話音声信号(第1の音声信号)及びユーザに提供する抑圧音声信号(提供音声信号)を出力する。信号加算部17は、会話評価部13から出力された分離された発話音声信号と、抑圧音出力部16によって出力された抑圧音声信号とを合成(加算)して出力する。信号加算部17は、第1の出力パターンが選択された場合、抑圧音声信号を遅延させずに発話音声信号とともに出力する。信号加算部17は、第2の出力パターンが選択された場合、発話音声信号のみを出力した後、抑圧音声信号を遅延させて出力する。信号加算部17は、第3の出力パターンが選択された場合、発話音声信号のみを出力する。

0075

音声強調部18は、信号加算部17によって出力された発話音声信号及び/又は抑圧音声信号を強調する。音声強調部18は、使用者の聴覚特性に合わせるため、例えば、音声信号を増幅したり、周波数帯ごとに音声信号の増幅度を調整したりすることなどにより音声信号を強調する。発話音声信号及び/又は抑圧音声信号を強調することにより、難聴者は、発話音声及び/又は抑圧音声を聞き取りやすくなる。

0076

スピーカ19は、音声強調部18によって強調された発話音声信号及び/又は抑圧音声信号を発話音声及び/又は抑圧音声に変換し、変換した発話音声及び/又は抑圧音声を出力する。なお、スピーカ19は、例えばイヤホンである。

0077

なお、本実施の形態1における音声処理装置1は、マイクアレイ11、音声強調部18及びスピーカ19を備えていなくてもよい。例えば、ユーザが装着する補聴器が、マイクアレイ11、音声強調部18及びスピーカ19を備えており、補聴器が、音声処理装置1とネットワークを介して通信可能に接続されてもよい。

0078

図3は、実施の形態1における音声処理装置の動作の一例を説明するためのフローチャートである。

0079

まず、ステップS1において、指向性合成部121は、マイクアレイ11によって変換された音声信号を取得する。

0080

次に、ステップS2において、音源分離部122は、取得した音声信号を音源毎に分離する。特に、音源分離部122は、音源毎に分離した音声信号のうち、人が発話した音声信号を示す発話音声信号を会話評価部13へ出力し、発話音声信号以外の抑圧すべき音声信号を示す抑圧音声信号を抑圧音格納部14へ出力する。

0081

次に、ステップS3において、音源分離部122は、分離した抑圧音声信号を抑圧音格納部14に格納する。

0082

次に、ステップS4において、抑圧音判別部152は、抑圧音格納部14に、ユーザに提供する抑圧音声信号があるか否かを判断する。抑圧音判別部152は、抽出した抑圧音声信号の特徴量と、抑圧音サンプル記憶部151に記憶されている抑圧音声信号のサンプルの特徴量とを比較する。抑圧音判別部152は、抑圧音サンプル記憶部151に記憶されている抑圧音声信号のサンプルの特徴量に類似する特徴量を有する抑圧音声信号が存在する場合、抑圧音格納部14に、ユーザに提供する抑圧音声信号があると判断する。

0083

ここで、抑圧音格納部14に、ユーザに提供する抑圧音声信号がないと判断された場合(ステップS4でNO)、ステップS5において、信号加算部17は、会話評価部13から出力された発話音声信号のみを出力する。音声強調部18は、信号加算部17によって出力された発話音声信号を強調する。そして、スピーカ19は、音声強調部18によって強調された発話音声信号を発話音声に変換し、変換した発話音声を出力する。この場合、発話以外の音声は、抑圧されるため、出力されない。発話音声が出力された後、処理は、ステップS1の処理に戻る。

0084

一方、抑圧音格納部14に、ユーザに提供する抑圧音声信号があると判断された場合(ステップS4でYES)、ステップS6において、抑圧音判別部152は、ユーザに提供する抑圧音声信号を抑圧音格納部14から抽出する。

0085

次に、ステップS7において、抑圧音出力制御部153は、抑圧音判別部152によって抽出されたユーザに提供する抑圧音声信号に対応付けられている優先度に応じて、当該抑圧音声信号を遅延させるか否かを判断する。例えば、抑圧音出力制御部153は、ユーザに提供する抑圧音声信号であると判別された抑圧音声信号に対応付けられている優先度が、所定の値以上である場合、ユーザに提供する抑圧音声信号を遅延させないと判断する。また、抑圧音出力制御部153は、ユーザに提供する抑圧音声信号であると判別された抑圧音声信号に対応付けられている優先度が、所定の値より小さい場合、ユーザに提供する抑圧音声信号を遅延させると判断する。

0086

ユーザに提供する抑圧音声信号を遅延させないと判断された場合、抑圧音出力制御部153は、ステップS6で抽出されたユーザに提供する抑圧音声信号を出力するように抑圧音出力部16に指示する。抑圧音出力部16は、抑圧音出力制御部153からの指示に応じてユーザに提供する抑圧音声信号を出力する。

0087

ここで、ユーザに提供する抑圧音声信号を遅延させないと判断された場合(ステップS7でNO)、ステップS8において、信号加算部17は、会話評価部13から出力された発話音声信号と、抑圧音出力部16によって出力されたユーザに提供する抑圧音声信号とを出力する。音声強調部18は、信号加算部17によって出力された発話音声信号及び抑圧音声信号を強調する。そして、スピーカ19は、音声強調部18によって強調された発話音声信号及び抑圧音声信号を発話音声及び抑圧音声に変換し、変換した発話音声及び抑圧音声を出力する。この場合、発話以外の音声は、発話に重畳して出力される。発話音声及び抑圧音声が出力された後、処理は、ステップS1の処理に戻る。

0088

一方、ユーザに提供する抑圧音声信号を遅延させると判断された場合(ステップS7でYES)、ステップS9において、信号加算部17は、会話評価部13から出力された発話音声信号のみを出力する。音声強調部18は、信号加算部17によって出力された発話音声信号を強調する。そして、スピーカ19は、音声強調部18によって強調された発話音声信号を発話音声に変換し、変換した発話音声を出力する。

0089

次に、ステップS10において、抑圧音出力制御部153は、ユーザの会話が検出されない無声区間が検出されたか否かを判断する。会話評価部13は、発話音声信号の出力が終了してから次の発話音声信号が入力されるまでの無声区間を検出する。会話評価部13は、無声区間が検出された場合、抑圧音出力制御部153へ通知する。抑圧音出力制御部153は、会話評価部13から無声区間が検出されたことが通知された場合、無声区間が検出されたと判断する。無声区間が検出されたと判断された場合、抑圧音出力制御部153は、ステップS6で抽出されたユーザに提供する抑圧音声信号を無声区間に出力するように抑圧音出力部16に指示する。抑圧音出力部16は、抑圧音出力制御部153からの指示に応じてユーザに提供する抑圧音声信号を出力する。ここで、無声区間が検出されていないと判断された場合(ステップS10でNO)、無声区間が検出されるまで、ステップS10の処理が行われる。

0090

一方、無声区間が検出されたと判断された場合(ステップS10でYES)、ステップS11において、信号加算部17は、抑圧音出力部16によって出力されたユーザに提供する抑圧音声信号を出力する。音声強調部18は、信号加算部17によって出力された抑圧音声信号を強調する。そして、スピーカ19は、音声強調部18によって強調された抑圧音声信号を抑圧音声に変換し、変換した抑圧音声を出力する。抑圧音声が出力された後、処理は、ステップS1の処理に戻る。

0091

ここで、ユーザに提供する抑圧音声信号を遅延して出力するタイミングの変形例について説明する。

0092

図4は、ユーザに提供する抑圧音声信号を遅延して出力するタイミングの第1の変形例について説明するための模式図である。

0093

ユーザ自身は、発話をコントロールすることができるので、ユーザ自身の発話に重なって抑圧音声が出力されたとしても問題ない。そこで、抑圧音出力制御部153は、ユーザ自身の発話である発話音声信号が出力されるタイミングを予測し、予測したタイミングでユーザに提供する抑圧音声を出力するように指示してもよい。

0094

図4に示すように、相手の発話と、ユーザ自身の発話とが交互に入力される場合、相手の発話の後、無声区間が検出された場合、次に入力されるのはユーザ自身の発話であると予測することができる。そのため、会話評価部13は、入力された発話音声信号の話者を識別し、抑圧音出力制御部153へ通知する。抑圧音出力制御部153は、相手の発話である発話音声信号に重なってユーザに提供する抑圧音声である抑圧音声信号が入力された後、ユーザ自身の発話である発話音声信号と、相手の発話である発話音声信号とが交互に入力され、相手の発話である発話音声信号の後に無声区間が検出された場合、ユーザに提供する抑圧音声を出力するように指示する。

0095

これにより、ユーザ自身が発話するタイミングでユーザに提供する抑圧音声が出力されるので、ユーザに提供する抑圧音声をユーザはより確実に聞くことができる。

0096

また、抑圧音出力制御部153は、相手の発話である発話音声信号に重なってユーザに提供する抑圧音声である抑圧音声信号が入力された後、ユーザ自身の発話である発話音声信号が入力された場合、ユーザに提供する抑圧音声を出力するように指示してもよい。

0097

また、抑圧音出力制御部153は、会話量が減少し、発話と発話との間隔が大きくなった場合に、ユーザに提供する抑圧音声を出力するように指示してもよい。

0098

図5は、ユーザに提供する抑圧音声信号を遅延して出力するタイミングの第2の変形例について説明するための模式図である。

0099

会話量が減少し、発話と発話との間隔が大きくなった場合、無声区間にユーザに提供する抑圧音声を出力したとしても、ユーザに提供する抑圧音声が、発話と重ならない可能性が高い。そこで、抑圧音出力制御部153は、会話評価部13によって検出された無声区間を記憶し、検出された無声区間が、前回検出された無声区間よりも長くなっている回数が、所定回数連続した場合、ユーザに提供する抑圧音声を出力するように指示してもよい。

0100

図5に示すように、発話と発話との間の無声区間が、徐々に長くなってくると、会話量が減少してきたと判断することができる。そのため、会話評価部13は、発話音声信号の出力が終了してから次の発話音声信号が入力されるまでの無声区間を検出する。抑圧音出力制御部153は、会話評価部13によって検出された無声区間の長さを記憶する。そして、抑圧音出力制御部153は、検出された無声区間が、前回検出された無声区間よりも長くなっている回数が、所定回数連続した場合、ユーザに提供する抑圧音声を出力するように指示する。図5の例では、抑圧音出力制御部153は、検出された無声区間が、前回検出された無声区間よりも長くなっている回数が、3回数連続した場合、ユーザに提供する抑圧音声を出力するように指示している。

0101

これにより、会話量が少なくなったタイミングでユーザに提供する抑圧音声が出力されるので、ユーザに提供する抑圧音声をユーザはより確実に聞くことができる。

0102

また、音声処理装置1は、抑圧音出力制御部153によってユーザに提供する抑圧音声信号の優先度が最も高い優先度であると判断された場合、すなわち、ユーザに提供する抑圧音声信号がユーザに緊急に通知すべき音声である場合、音源分離部122によって分離された発話音声信号を記憶する発話音声記憶部をさらに備えてもよい。抑圧音出力制御部153は、ユーザに提供する抑圧音声信号の優先度が最も高い優先度であると判断した場合、抑圧音声信号を出力するように抑圧音出力部16に指示するとともに、音源分離部122によって分離された発話音声信号を記憶するように発話音声記憶部に指示する。信号加算部17は、抑圧音声信号の出力が完了した後、発話音声記憶部に記憶されている発話音声信号を読み出して出力する。

0103

これにより、例えば緊急に通知すべき抑圧音声信号が出力された後、抑圧音声信号が出力された間に入力された発話音声信号を出力することができるので、ユーザは、ユーザに提供する抑圧音声を確実に聞くことができるとともに、会話も確実に聞くことができる。

0104

また、抑圧音出力部16は、抑圧音声信号の周波数を変更して出力してもよい。また、抑圧音出力部16は、抑圧音声信号の位相を連続的に変化させて出力してもよい。さらに、音声処理装置1は、スピーカ19から抑圧音声が出力される場合、スピーカ19を有するイヤホンを振動させる振動部を備えてもよい。

0105

(実施の形態2)
続いて、実施の形態2における音声処理装置について説明する。実施の形態1では、ユーザに提供する抑圧音声を直接出力しているが、実施の形態2では、ユーザに提供する抑圧音声を直接出力するのではなく、ユーザに提供する抑圧音声が存在することを報知する報知音声を出力する。

0106

図6は、実施の形態2における音声処理装置の構成を示す図である。音声処理装置2は、例えば、補聴器である。

0107

図6に示す音声処理装置2は、マイクアレイ11、音声抽出部12、会話評価部13、抑圧音格納部14、信号加算部17、音声強調部18、スピーカ19、報知音声記憶部20、報知音声出力部21及び優先度評価部22を備える。なお、以下の説明では、実施の形態1と同じ構成については、同じ符号を付して説明を省略し、実施の形態1とは異なる構成についてのみ説明する。

0108

優先度評価部22は、抑圧音サンプル記憶部151、抑圧音判別部152及び報知音声出力制御部154を備える。

0109

報知音声出力制御部154は、抑圧音判別部152によってユーザに提供する音声を示す抑圧音声信号であると判別された抑圧音声信号に対応付けられている優先度に応じて、当該抑圧音声信号に対応付けられている報知音声信号を出力するか否かを判断するとともに、報知音声信号を出力するタイミングを判断する。報知音声出力制御部154における報知音声信号の出力制御処理は、実施の形態1における抑圧音出力制御部153における抑圧音声信号の出力制御処理と同じであるので、詳細な説明は省略する。

0110

報知音声記憶部20は、ユーザに提供する抑圧音声信号に対応付けて報知音声信号を記憶する。報知音声信号は、ユーザに提供する抑圧音声信号が入力されたことを報知するための音声である。例えば、電話機の着信音を示す抑圧音声信号には、「電話が鳴っています」という報知音声信号が対応付けられており、車のエンジン音を示す抑圧音声信号には、「車が接近しています」という報知音声信号が対応付けられている。

0111

報知音声出力部21は、報知音声出力制御部154からの指示に応じて、ユーザに提供する抑圧音声信号に対応付けられている報知音声信号を報知音声記憶部20から読み出し、読み出した報知音声信号を信号加算部17へ出力する。実施の形態2における報知音声信号を出力するタイミングは、実施の形態1における抑圧音声信号を出力するタイミングと同じである。

0112

図7は、実施の形態2における音声処理装置の動作の一例を説明するためのフローチャートである。

0113

なお、図7に示すステップS21〜ステップS27の処理は、図3に示すステップS1〜ステップS7の処理と同じであるので、説明を省略する。

0114

ユーザに提供する抑圧音声信号を遅延させないと判断された場合、報知音声出力制御部154は、ステップS26で抽出されたユーザに提供する抑圧音声信号に対応付けられている報知音声信号を出力するように報知音声出力部21に指示する。

0115

ユーザに提供する抑圧音声信号を遅延させないと判断された場合(ステップS27でNO)、ステップS28において、報知音声出力部21は、ステップS26で抽出されたユーザに提供する抑圧音声信号に対応付けられている報知音声信号を報知音声記憶部20から読み出す。報知音声出力部21は、読み出した報知音声信号を信号加算部17へ出力する。

0116

次に、ステップS29において、信号加算部17は、会話評価部13から出力された発話音声信号と、報知音声出力部21によって出力された報知音声信号とを出力する。音声強調部18は、信号加算部17によって出力された発話音声信号及び報知音声信号を強調する。そして、スピーカ19は、音声強調部18によって強調された発話音声信号及び報知音声信号を発話音声及び報知音声に変換し、変換した発話音声及び報知音声を出力する。発話音声及び報知音声が出力された後、処理は、ステップS21の処理に戻る。

0117

一方、ユーザに提供する抑圧音声信号を遅延させると判断された場合(ステップS27でYES)、ステップS30において、信号加算部17は、会話評価部13から出力された発話音声信号のみを出力する。音声強調部18は、信号加算部17によって出力された発話音声信号を強調する。そして、スピーカ19は、音声強調部18によって強調された発話音声信号を発話音声に変換し、変換した発話音声を出力する。

0118

次に、ステップS31において、報知音声出力制御部154は、ユーザの会話が検出されない無声区間が検出されたか否かを判断する。会話評価部13は、発話音声信号の出力が終了してから次の発話音声信号が入力されるまでの無声区間を検出する。会話評価部13は、無声区間が検出された場合、報知音声出力制御部154へ通知する。報知音声出力制御部154は、会話評価部13から無声区間が検出されたことが通知された場合、無声区間が検出されたと判断する。無声区間が検出されたと判断された場合、報知音声出力制御部154は、ステップS26で抽出されたユーザに提供する抑圧音声信号に対応付けられている報知音声信号を出力するように報知音声出力部21に指示する。ここで、無声区間が検出されていないと判断された場合(ステップS31でNO)、無声区間が検出されるまで、ステップS31の処理が行われる。

0119

一方、無声区間が検出されたと判断された場合(ステップS31でYES)、ステップS32において、報知音声出力部21は、ステップS26で抽出されたユーザに提供する抑圧音声信号に対応付けられている報知音声信号を報知音声記憶部20から読み出す。報知音声出力部21は、読み出した報知音声信号を信号加算部17へ出力する。

0120

次に、ステップS33において、信号加算部17は、報知音声出力部21によって出力された報知音声信号を出力する。音声強調部18は、信号加算部17によって出力された報知音声信号を強調する。そして、スピーカ19は、音声強調部18によって強調された報知音声信号を報知音声に変換し、変換した報知音声を出力する。報知音声が出力された後、処理は、ステップS21の処理に戻る。

0121

以上のように、ユーザに提供する抑圧音声が直接出力されるのではなく、ユーザに提供する抑圧音声が入力されたことを報知する報知音声が出力されるので、ユーザに通知すべき周囲の状況を報知することができる。

0122

なお、本実施の形態2では、分離された抑圧音声信号のうち、ユーザに提供する抑圧音声信号が存在する場合、ユーザに提供する抑圧音声が存在することを報知する報知音声を出力しているが、本開示は特にこれに限定されず、分離された抑圧音声信号のうち、ユーザに提供する抑圧音声信号が存在する場合、ユーザに提供する抑圧音声が存在することを報知する報知画像を表示してもよい。

0123

この場合、音声処理装置2は、実施の形態2の報知音声出力制御部154、報知音声記憶部20及び報知音声出力部21に替えて、報知画像出力制御部、報知画像記憶部、報知画像出力部及び表示部を備える。

0124

報知画像出力制御部は、抑圧音判別部152によってユーザに提供する音声を示す抑圧音声信号であると判別された抑圧音声信号に対応付けられている優先度に応じて、当該抑圧音声信号に対応付けられている報知画像を出力するか否かを判断するとともに、報知画像を出力するタイミングを判断する。

0125

報知画像記憶部は、ユーザに提供する抑圧音声信号に対応付けて報知画像を記憶する。報知画像は、ユーザに提供する抑圧音声信号が入力されたことを報知するための画像である。例えば、電話機の着信音を示す抑圧音声信号には、「電話が鳴っています」という報知画像が対応付けられており、車のエンジン音を示す抑圧音声信号には、「車が接近しています」という報知画像が対応付けられている。

0126

報知画像出力部は、報知画像出力制御部からの指示に応じて、ユーザに提供する抑圧音声信号に対応付けられている報知画像を報知画像記憶部から読み出し、読み出した報知画像を表示部へ出力する。表示部は、報知画像出力部によって出力された報知画像を表示する。

0127

また、本実施の形態では、報知音声は、ユーザに提供する抑圧音声の内容を示す文章で表されるが、本開示はこれに限定されず、ユーザに提供する抑圧音声の内容に対応する音で表してもよい。すなわち、報知音声記憶部20は、ユーザに提供する抑圧音声信号毎に音を予め対応付けて記憶し、報知音声出力部21は、ユーザに提供する抑圧音声信号に対応付けられている音を報知音声記憶部20から読み出して出力してもよい。

0128

(実施の形態3)
続いて、実施の形態3における音声処理装置について説明する。実施の形態1,2では、ユーザの周囲の音声を示す周囲音声信号を、人の発話した音声を示す発話音声信号と、発話した音声とは異なり抑圧される音声を示す抑圧音声信号とに分離しているが、実施の形態3では、音源から再生した再生音声信号を出力するとともに、ユーザの周囲の音声を示す周囲音声信号からユーザに提供する周囲音声信号を抽出して出力する。

0129

図8は、実施の形態3における音声処理装置の構成を示す図である。音声処理装置3は、例えば、携帯型音楽プレーヤ又はラジオ放送受信機である。

0130

図8に示す音声処理装置3は、マイクアレイ11、音源部30、再生部31、音声抽出部32、周囲音格納部33、優先度評価部34、周囲音出力部35、信号加算部36及びスピーカ19を備える。なお、以下の説明では、実施の形態1と同じ構成については、同じ符号を付して説明を省略し、実施の形態1とは異なる構成についてのみ説明する。

0131

音源部30は、例えばメモリで構成され、主音声を示す音声信号を記憶する。なお、主音声は、例えば音楽データである。また、音源部30は、例えばラジオ放送受信機で構成されてもよく、ラジオ放送を受信し、受信したラジオ放送を音声信号に変換してもよい。また、音源部30は、例えばテレビ放送受信機で構成されてもよく、テレビ放送を受信し、受信したテレビ放送を音声信号に変換してもよい。また、音源部30は、例えば光ディスクドライブで構成されてもよく、光ディスクに記録された音声信号を読み出してもよい。

0132

再生部31は、音源部30から音声信号を再生し、再生した再生音声信号を出力する。

0133

音声抽出部32は、指向性合成部321及び音源分離部322を備える。指向性合成部321は、マイクアレイ11から出力された複数の周囲音声信号から、同一音源から出力された複数の周囲音声信号を抽出する。

0134

音源分離部322は、例えば、ブラインド音源分離処理により、入力された複数の周囲音声信号を音源毎に分離する。

0135

周囲音格納部33は、音源分離部322から入力された複数の周囲音声信号を格納する。

0136

優先度評価部34は、周囲音サンプル記憶部341、周囲音判別部342及び周囲音出力制御部343を備える。

0137

周囲音サンプル記憶部341は、ユーザに提供する周囲音声信号の特徴量を示す音響パラメタを周囲音声信号毎に記憶する。また、周囲音サンプル記憶部341は、音響パラメタに対応付けて優先度を記憶してもよい。重要度(緊急度)が高い音声には、高い優先度が付与され、重要度(緊急度)が低い音声には、低い優先度が付与される。例えば、ユーザが再生した音声を聞いている場合であっても、即座にユーザに通知した方がよい音声には、第1の優先度が付与され、音声の再生が終了した後でユーザに通知してもよい音声には、第1の優先度より低い第2の優先度が付与される。また、ユーザに通知する必要がない音声については、第2の優先度より低い第3の優先度が付与されてもよい。なお、抑圧音サンプル記憶部151は、ユーザに通知する必要がない音声の音響パラメタを記憶しなくてもよい。

0138

周囲音判別部342は、周囲音格納部33に格納されている複数の周囲音声信号のうち、ユーザに提供する音声を示す周囲音声信号を判別する。周囲音判別部342は、取得された周囲音声信号から、ユーザに提供する音声を示す周囲音声信号を抽出する。周囲音判別部342は、周囲音格納部33に格納されている複数の周囲音声信号の音響パラメタと、周囲音サンプル記憶部341に記憶されている音響パラメタとを比較し、周囲音サンプル記憶部341に記憶されている音響パラメタに類似する音響パラメタを有する周囲音声信号を周囲音格納部33から抽出する。

0139

周囲音出力制御部343は、周囲音判別部342によってユーザに提供する音声を示す周囲音声信号であると判別された周囲音声信号に対応付けられている優先度に応じて、当該周囲音声信号を出力するか否かを判断するとともに、周囲音声信号を出力するタイミングを判断する。周囲音出力制御部343は、周囲音声信号を遅延させずに再生音声信号とともに出力する第1の出力パターンと、再生音声信号のみを出力した後、周囲音声信号を遅延させて出力する第2の出力パターンと、周囲音声信号が抽出されない場合、再生音声信号のみを出力する第3の出力パターンとのうちいずれかの出力パターンを選択する。

0140

また、周囲音出力制御部343は、第1の出力パターンが選択された場合、周囲音声信号を出力するように周囲音出力部35に指示する。また、周囲音出力制御部343は、第2の出力パターンが選択された場合、再生部31による音声信号の再生が終了したか否かを判断し、音声信号の再生が終了したと判断された場合、周囲音声信号を出力するように周囲音出力部35に指示する。また、周囲音出力制御部343は、第3の出力パターンが選択された場合、周囲音声信号を出力しないように周囲音出力部35に指示する。

0141

周囲音出力部35は、周囲音出力制御部343からの指示に応じて周囲音声信号を出力する。

0142

信号加算部36は、音源部30から読み出した再生音声信号(第1の音声信号)を出力するとともに、抑圧音判別部152によって抽出されたユーザに提供する周囲音声信号(提供音声信号)を出力する。信号加算部36は、再生部31から出力された再生音声信号と、周囲音出力部35によって出力された周囲音声信号とを合成(加算)して出力する。信号加算部36は、第1の出力パターンが選択された場合、周囲音声信号を遅延させずに再生音声信号とともに出力する。信号加算部36は、第2の出力パターンが選択された場合、再生音声信号のみを出力した後、周囲音声信号を遅延させて出力する。信号加算部36は、第3の出力パターンが選択された場合、再生音声信号のみを出力する。

0143

図9は、実施の形態3における音声処理装置の動作の一例を説明するためのフローチャートである。

0144

まず、ステップS41において、指向性合成部121は、マイクアレイ11によって変換された周囲音声信号を取得する。周囲音声信号は、ユーザ(音声処理装置)の周囲の音声を示す。

0145

次に、ステップS42において、音源分離部322は、取得した周囲音声信号を音源毎に分離する。

0146

次に、ステップS43において、音源分離部322は、分離した周囲音声信号を周囲音格納部33に格納する。

0147

次に、ステップS44において、周囲音判別部342は、周囲音格納部33に、ユーザに提供する抑圧音声信号があるか否かを判断する。周囲音判別部342は、抽出した抑圧音声信号の特徴量と、周囲音サンプル記憶部341に記憶されている抑圧音声信号のサンプルの特徴量とを比較する。周囲音判別部342は、周囲音サンプル記憶部341に記憶されている周囲音声信号のサンプルの特徴量に類似する特徴量を有する周囲音声信号が存在する場合、周囲音格納部33に、ユーザに提供する周囲音声信号があると判断する。

0148

ここで、周囲音格納部33に、ユーザに提供する周囲音声信号がないと判断された場合(ステップS44でNO)、ステップS45において、信号加算部36は、再生部31から出力された再生音声信号のみを出力する。そして、スピーカ19は、信号加算部36によって出力された再生音声信号を再生音声に変換し、変換した再生音声を出力する。再生音声が出力された後、処理は、ステップS41の処理に戻る。

0149

一方、周囲音格納部33に、ユーザに提供する周囲音声信号があると判断された場合(ステップS44でYES)、ステップS46において、周囲音判別部342は、ユーザに提供する周囲音声信号を周囲音格納部33から抽出する。

0150

次に、ステップS47において、周囲音出力制御部343は、周囲音判別部342によって抽出されたユーザに提供する周囲音声信号に対応付けられている優先度に応じて、当該周囲音声信号を遅延させるか否かを判断する。例えば、周囲音出力制御部343は、ユーザに提供する周囲音声信号であると判別された周囲音声信号に対応付けられている優先度が、所定の値以上である場合、ユーザに提供する周囲音声信号を遅延させないと判断する。また、周囲音出力制御部343は、ユーザに提供する周囲音声信号であると判別された周囲音声信号に対応付けられている優先度が、所定の値より小さい場合、ユーザに提供する周囲音声信号を遅延させると判断する。

0151

ユーザに提供する周囲音声信号を遅延させないと判断された場合、周囲音出力制御部343は、ステップS46で抽出されたユーザに提供する周囲音声信号を出力するように周囲音出力部35に指示する。周囲音出力部35は、周囲音出力制御部343からの指示に応じてユーザに提供する周囲音声信号を出力する。

0152

ここで、ユーザに提供する周囲音声信号を遅延させないと判断された場合(ステップS47でNO)、ステップS48において、信号加算部36は、再生部31から出力された再生音声信号と、周囲音出力部35によって出力されたユーザに提供する周囲音声信号とを出力する。そして、スピーカ19は、信号加算部36によって出力された再生音声信号及び周囲音声信号を再生音声及び周囲音声に変換し、変換した再生音声及び周囲音声を出力する。再生音声及び周囲音声が出力された後、処理は、ステップS41の処理に戻る。

0153

一方、ユーザに提供する周囲音声信号を遅延させると判断された場合(ステップS47でYES)、ステップS49において、信号加算部36は、再生部31から出力された再生音声信号のみを出力する。そして、スピーカ19は、信号加算部36によって出力された再生音声信号を再生音声に変換し、変換した再生音声を出力する。

0154

次に、ステップS50において、周囲音出力制御部343は、再生部31による再生音声信号の再生が終了したか否かを判断する。再生部31は、再生音声信号の再生が終了した場合、周囲音出力制御部343へ通知する。周囲音出力制御部343は、再生部31から再生音声信号の再生が終了したことが通知された場合、再生音声信号の再生が終了したと判断する。再生音声信号の再生が終了したと判断された場合、周囲音出力制御部343は、ステップS46で抽出されたユーザに提供する周囲音声信号を出力するように周囲音出力部35に指示する。周囲音出力部35は、周囲音出力制御部343からの指示に応じてユーザに提供する周囲音声信号を出力する。ここで、再生音声信号の再生が終了していないと判断された場合(ステップS50でNO)、再生音声信号の再生が終了するまで、ステップS50の処理が行われる。

0155

一方、再生音声信号の再生が終了したと判断された場合(ステップS50でYES)、ステップS51において、信号加算部36は、周囲音出力部35によって出力されたユーザに提供する周囲音声信号を出力する。そして、スピーカ19は、信号加算部36によって出力された周囲音声信号を周囲音声に変換し、変換した周囲音声を出力する。周囲音声が出力された後、処理は、ステップS41の処理に戻る。

0156

なお、実施の形態3における周囲音声を出力するタイミングは、実施の形態1における抑圧音声を出力するタイミングと同じであってもよい。

0157

(実施の形態4)
続いて、実施の形態4における音声処理装置について説明する。実施の形態3では、ユーザに提供する周囲音声を直接出力しているが、実施の形態4では、ユーザに提供する周囲音声を直接出力するのではなく、ユーザに提供する周囲音声が存在することを報知する報知音声を出力する。

0158

図10は、実施の形態4における音声処理装置の構成を示す図である。音声処理装置4は、例えば、携帯型音楽プレーヤ又はラジオ放送受信機である。

0159

図10に示す音声処理装置4は、マイクアレイ11、スピーカ19、音源部30、再生部31、音声抽出部32、周囲音格納部33、信号加算部36、優先度評価部37、報知音声記憶部38及び報知音声出力部39を備える。なお、以下の説明では、実施の形態3と同じ構成については、同じ符号を付して説明を省略し、実施の形態3とは異なる構成についてのみ説明する。

0160

優先度評価部37は、周囲音サンプル記憶部341、周囲音判別部342及び報知音声出力制御部344を備える。

0161

報知音声出力制御部344は、周囲音判別部342によってユーザに提供する音声を示す周囲音声信号であると判別された周囲音声信号に対応付けられている優先度に応じて、当該周囲音声信号に対応付けられている報知音声信号を出力するか否かを判断するとともに、報知音声信号を出力するタイミングを判断する。報知音声出力制御部344における報知音声信号の出力制御処理は、実施の形態3における周囲音出力制御部343における周囲音声信号の出力制御処理と同じであるので、詳細な説明は省略する。

0162

報知音声記憶部38は、ユーザに提供する周囲音声信号に対応付けて報知音声信号を記憶する。報知音声信号は、ユーザに提供する周囲音声信号が入力されたことを報知するための音声である。例えば、電話機の着信音を示す周囲音声信号には、「電話が鳴っています」という報知音声信号が対応付けられており、車のエンジン音を示す周囲音声信号には、「車が接近しています」という報知音声信号が対応付けられている。

0163

報知音声出力部39は、報知音声出力制御部344からの指示に応じて、ユーザに提供する周囲音声信号に対応付けられている報知音声信号を報知音声記憶部38から読み出し、読み出した報知音声信号を信号加算部36へ出力する。実施の形態4における報知音声信号を出力するタイミングは、実施の形態3における抑圧音声信号を出力するタイミングと同じである。

0164

図11は、実施の形態4における音声処理装置の動作の一例を説明するためのフローチャートである。

0165

なお、図11に示すステップS61〜ステップS67の処理は、図9に示すステップS41〜ステップS47の処理と同じであるので、説明を省略する。

0166

ユーザに提供する周囲音声信号を遅延させないと判断された場合、報知音声出力制御部344は、ステップS66で抽出されたユーザに提供する周囲音声信号に対応付けられている報知音声信号を出力するように報知音声出力部39に指示する。

0167

ユーザに提供する周囲音声信号を遅延させないと判断された場合(ステップS67でNO)、ステップS68において、報知音声出力部39は、ステップS66で抽出されたユーザに提供する周囲音声信号に対応付けられている報知音声信号を報知音声記憶部38から読み出す。報知音声出力部39は、読み出した報知音声信号を信号加算部36へ出力する。

0168

次に、ステップS69において、信号加算部36は、再生部31から出力された再生音声信号と、報知音声出力部39によって出力された報知音声信号とを出力する。そして、スピーカ19は、信号加算部36によって出力された再生音声信号及び報知音声信号を再生音声及び報知音声に変換し、変換した再生音声及び報知音声を出力する。再生音声及び報知音声が出力された後、処理は、ステップS61の処理に戻る。

0169

一方、ユーザに提供する周囲音声信号を遅延させると判断された場合(ステップS67でYES)、ステップS70において、信号加算部36は、再生部31から出力された再生音声信号のみを出力する。そして、スピーカ19は、信号加算部36によって出力された再生音声信号を再生音声に変換し、変換した再生音声を出力する。

0170

次に、ステップS71において、報知音声出力制御部344は、再生部31による再生音声信号の再生が終了したか否かを判断する。再生部31は、再生音声信号の再生が終了した場合、報知音声出力制御部344へ通知する。報知音声出力制御部344は、再生部31から再生音声信号の再生が終了したことが通知された場合、再生音声信号の再生が終了したと判断する。再生音声信号の再生が終了したと判断された場合、報知音声出力制御部344は、ステップS66で抽出されたユーザに提供する周囲音声信号に対応付けられている報知音声信号を出力するように報知音声出力部39に指示する。ここで、再生音声信号の再生が終了していないと判断された場合(ステップS71でNO)、再生音声信号の再生が終了するまで、ステップS71の処理が行われる。

0171

一方、再生音声信号の再生が終了したと判断された場合(ステップS71でYES)、ステップS72において、報知音声出力部39は、ステップS66で抽出されたユーザに提供する周囲音声信号に対応付けられている報知音声信号を報知音声記憶部38から読み出す。報知音声出力部39は、読み出した報知音声信号を信号加算部36へ出力する。

0172

次に、ステップS73において、信号加算部36は、報知音声出力部39によって出力された報知音声信号を出力する。そして、スピーカ19は、信号加算部36によって出力された報知音声信号を報知音声に変換し、変換した報知音声を出力する。報知音声が出力された後、処理は、ステップS61の処理に戻る。

0173

以上のように、ユーザに提供する周囲音声が直接出力されるのではなく、ユーザに提供する周囲音声が入力されたことを報知する報知音声が出力されるので、ユーザに通知すべき周囲の状況を報知することができる。

0174

本開示に係る音声処理装置、音声処理方法及び音声処理プログラムは、ユーザの周囲の音声の中から、ユーザに提供する音声を出力することができ、ユーザの周囲の音声を示す音声信号を取得し、取得した音声信号に対して所定の処理を施す音声処理装置、音声処理方法及び音声処理プログラムとして有用である。

0175

1,2,3,4音声処理装置
11マイクアレイ
12音声抽出部
13会話評価部
14抑圧音格納部
15優先度評価部
16 抑圧音出力部
17信号加算部
18音声強調部
19スピーカ
20報知音声記憶部
21 報知音声出力部
22 優先度評価部
30音源部
31再生部
32 音声抽出部
33周囲音格納部
34 優先度評価部
35 周囲音出力部
36 信号加算部
37 優先度評価部
38 報知音声記憶部
39 報知音声出力部
121指向性合成部
122音源分離部
151 抑圧音サンプル記憶部
152 抑圧音判別部
153 抑圧音出力制御部
154 報知音声出力制御部
321 指向性合成部
322 音源分離部
341周囲音サンプル記憶部
342 周囲音判別部
343 周囲音出力制御部
344 報知音声出力制御部

ページトップへ

この技術を出願した法人

この技術を発明した人物

ページトップへ

関連する挑戦したい社会課題

該当するデータがありません

関連する公募課題

該当するデータがありません

ページトップへ

技術視点だけで見ていませんか?

この技術の活用可能性がある分野

分野別動向を把握したい方- 事業化視点で見る -

(分野番号表示ON)※整理標準化データをもとに当社作成

ページトップへ

おススメ サービス

おススメ astavisionコンテンツ

新着 最近 公開された関連が強い技術

  • ソニー株式会社の「 情報処理装置および電子機器」が 公開されました。( 2020/09/24)

    【課題・解決手段】本技術は、どのユーザに対して応答するべきかを正しく判断することができるようにする情報処理装置および電子機器に関する。発話者特定部は、ユーザが存在する環境の画像と音声に基づいて、所定の... 詳細

  • グーグルエルエルシーの「 オーディオベースのコンピュータプログラム出力の修正」が 公開されました。( 2020/09/24)

    【課題・解決手段】音声または非テキスト入力アクティブ化環境においてコンピュータプログラム出力を修正することが提供される。システムは、デバイスのマイクロフォンによって検出されるオーディオ信号を受信するこ... 詳細

  • グーグルエルエルシーの「 ホットワード認識音声合成」が 公開されました。( 2020/09/24)

    【課題・解決手段】方法(400)は、合成音声(160)に変換するためのテキスト入力データ(302)を受信することと、ユーザデバイス(110)に割り当てられているホットワード(130)の存在を検出するよ... 詳細

この 技術と関連性が強い人物

関連性が強い人物一覧

この 技術と関連する社会課題

該当するデータがありません

この 技術と関連する公募課題

該当するデータがありません

astavision 新着記事

サイト情報について

本サービスは、国が公開している情報(公開特許公報、特許整理標準化データ等)を元に構成されています。出典元のデータには一部間違いやノイズがあり、情報の正確さについては保証致しかねます。また一時的に、各データの収録範囲や更新周期によって、一部の情報が正しく表示されないことがございます。当サイトの情報を元にした諸問題、不利益等について当方は何ら責任を負いかねることを予めご承知おきのほど宜しくお願い申し上げます。

主たる情報の出典

特許情報…特許整理標準化データ(XML編)、公開特許公報、特許公報、審決公報、Patent Map Guidance System データ