図面 (/)

技術 動線分析システム、カメラ装置及び動線分析方法

出願人 パナソニックIPマネジメント株式会社
発明者 小口隆恵高橋秀明田山哲生萩巣晋平
出願日 2015年7月30日 (3年11ヶ月経過) 出願番号 2015-151075
公開日 2017年2月9日 (2年5ヶ月経過) 公開番号 2017-033184
状態 特許登録済
技術分野 イメージ分析 閉回路テレビジョンシステム 特定用途計算機
主要キーワード 床配置図 滞留情報 滞留位置 クラウドコンピュータ 滞留状況 利用物 ヌル情報 レジ付近
関連する未来課題
重要な関連分野

この項目の情報は公開日時点(2017年2月9日)のものです。
また、この項目は機械的に抽出しているため、正しく解析できていない場合があります

図面 (14)

課題

来客者従業員が混在する店舗において、プライバシーの保護を図りながらも、来客者の行動軌跡を把握する。

解決手段

カメラ装置100は、店舗のフロア撮像して、フロアの撮像画像背景画像を繰り返し生成し、またBL受信端末160で受信された来客者152の位置情報に基づき、撮像画像に含まれる来客者152のフロアにおける滞留位置又は通過位置に関する動線情報を取得する。カメラ装置100は、所定の送信周期毎に、生成した背景画像と、取得した来客者152の動線情報とをサーバ装置300に送信する。サーバ装置300は、カメラ装置100から送信された背景画像と、来客者152の動線情報とを受信し、来客者152の動線情報を行動軌跡として、背景画像に重畳した動線分析画像175を生成し、生成した動線分析画像175をモニタ450に表示させる。

概要

背景

カメラ装置が設置された撮影現場における時間毎人物活動量ベルヒートマップ画像として表示する先行技術として、例えば特許文献1が知られている。

特許文献1では、ネットワークを介して接続されたセキュリティカメラが設置された撮影現場における人物の動線分析して活動量レベルを算出し、撮影現場の床配置図センサの検出結果を重畳したヒートマップ画像を生成し、セキュリティカメラに対応したブラウザ画面上にヒートマップ画像を表示することが開示されている。これにより、ブラウザの画面上に表示されたヒートマップ画像を閲覧することにより、撮影現場における人物の活動量レベルが把握可能となる。

また、特許文献1に示す床配置図とは異なり、カメラ装置が撮像した画像上に、人物の動線密度人数検出結果を重畳したヒートマップ画像を生成して表示する技術も提案されている(例えば非特許文献1参照)。

ここで、特許文献1における床配置図にセンサの検出結果を重畳させる場合、床配置図とセキュリティカメラの撮影現場における画像とが正確にマッチング(一致)していることが必要となるが、特許文献1では床配置図は変更されず不変であるため、ヒートマップ画像の元となる床配置図を作成した時点から、撮影現場の配置が変更ない場合に限り、画像と床配置図とはマッチングする。

概要

来客者従業員が混在する店舗において、プライバシーの保護をりながらも、来客者の行動軌跡を把握する。カメラ装置100は、店舗のフロアを撮像して、フロアの撮像画像背景画像を繰り返し生成し、またBL受信端末160で受信された来客者152の位置情報に基づき、撮像画像に含まれる来客者152のフロアにおける滞留位置又は通過位置に関する動線情報を取得する。カメラ装置100は、所定の送信周期毎に、生成した背景画像と、取得した来客者152の動線情報とをサーバ装置300に送信する。サーバ装置300は、カメラ装置100から送信された背景画像と、来客者152の動線情報とを受信し、来客者152の動線情報を行動軌跡として、背景画像に重畳した動線分析画像175を生成し、生成した動線分析画像175をモニタ450に表示させる。

目的

本発明は、上述した従来の課題を解決するために、来客者と従業員が混在する店舗において、プライバシーの保護を図りながらも、レイアウト変更があっても来客者の行動軌跡を正確に把握する動線分析システム、カメラ装置及び動線分析方法を提供する

効果

実績

技術文献被引用数
0件
牽制数
0件

この技術が所属する分野

ライセンス契約や譲渡などの可能性がある特許掲載中! 開放特許随時追加・更新中 詳しくはこちら

請求項1

カメラ装置サーバ装置とが相互に接続された動線分析システムであって、前記カメラ装置は、撮像エリア撮像する撮像部と、前記撮像部により撮像された前記撮像エリアの撮像画像に対応する背景画像を繰り返し生成する背景画像生成部と、所定の送信周期毎に、前記撮像部により撮像された前記撮像エリアの撮像画像と、前記背景画像生成部により生成された前記背景画像とを前記サーバ装置に送信する送信部と、を備え、前記サーバ装置は、前記カメラ装置から送信された前記撮像エリアの撮像画像と前記背景画像とを受信する受信部と、前記撮像エリアの撮像画像を基に、来客者により所持され、又は前記来客者の利用物に装着される来客者識別情報の前記撮像エリアにおける滞留位置又は通過位置に関する来客者動線情報を抽出する来客者動線抽出部と、前記来客者動線抽出部により抽出された前記来客者動線情報を前記来客者の行動軌跡として、前記背景画像に重畳した第1の動線分析画像を生成する画像生成部と、前記画像生成部により生成された前記第1の動線分析画像を表示部に表示させる表示制御部と、を備える、動線分析システム。

請求項2

請求項1に記載の動線分析システムであって、前記カメラ装置は、前記撮像部により撮像された前記撮像エリアの撮像画像に含まれる前記来客者を含む移動体の前記撮像エリアにおける滞留位置又は通過位置に関する移動体動線情報を抽出する移動体動線抽出部と、を更に備え、前記送信部は、前記移動体動線抽出部により抽出された前記移動体動線情報を前記サーバ装置に送信し、前記画像生成部は、前記カメラ装置から送信された前記移動体動線情報と前記来客者動線情報とを前記背景画像に重畳した第2の動線分析画像を生成し、前記表示制御部は、前記画像生成部により生成された前記第2の動線分析画像を表示部に表示させる、動線分析システム。

請求項3

請求項1に記載の動線分析システムであって、前記来客者識別情報は、複数のカラーパターンを用いて前記来客者を識別可能カラーバーコードである、動線分析システム。

請求項4

請求項1に記載の動線分析システムであって、前記表示制御部は、前記来客者又は前記来客者の利用物を示すアイコンを更に前記表示部に表示させる、動線分析システム。

請求項5

サーバ装置と接続され、動線分析システムで用いられるカメラ装置であって、撮像エリアを撮像する撮像部と、前記撮像部により撮像された前記撮像エリアの撮像画像に対応する背景画像を繰り返し生成する背景画像生成部と、前記撮像エリアの撮像画像を基に、来客者により所持され、又は前記来客者の利用物に装着される来客者識別情報の前記撮像エリアにおける滞留位置又は通過位置に関する来客者動線情報を抽出する来客者動線抽出部と、所定の送信周期毎に、前記来客者動線抽出部により抽出された前記来客者動線情報を前記来客者の行動軌跡として、前記背景画像生成部により生成された前記背景画像に重畳した動線分析画像を生成する画像生成部と、所定の送信周期毎に、前記画像生成部により生成された前記動線分析画像を、前記動線分析画像を表示する前記サーバ装置に送信する送信部と、を備える、カメラ装置。

請求項6

カメラ装置とサーバ装置とが相互に接続された動線分析システムにおける動線分析方法であって、前記カメラ装置において、撮像エリアを撮像し、前記撮像エリアの撮像画像に対応する背景画像を繰り返し生成し、所定の送信周期毎に、前記撮像エリアの撮像画像と前記背景画像とを前記サーバ装置に送信し、前記サーバ装置において、前記カメラ装置から送信された前記撮像エリアの撮像画像と前記背景画像とを受信し、前記撮像エリアの撮像画像を基に、来客者により所持され、又は前記来客者の利用物に装着される来客者識別情報の前記撮像エリアにおける滞留位置又は通過位置に関する来客者動線情報を抽出し、前記来客者動線情報を前記来客者の行動軌跡として、前記背景画像に重畳した第1の動線分析画像を生成し、前記第1の動線分析画像を表示部に表示させる、動線分析方法。

技術分野

0001

本発明は、カメラ装置撮像により得られた画像に、人物滞留情報又は通過情報重畳した動線分析画像を生成する動線分析システム、カメラ装置及び動線分析方法に関する。

背景技術

0002

カメラ装置が設置された撮影現場における時間毎の人物の活動量ベルヒートマップ画像として表示する先行技術として、例えば特許文献1が知られている。

0003

特許文献1では、ネットワークを介して接続されたセキュリティカメラが設置された撮影現場における人物の動線を分析して活動量レベルを算出し、撮影現場の床配置図センサの検出結果を重畳したヒートマップ画像を生成し、セキュリティカメラに対応したブラウザ画面上にヒートマップ画像を表示することが開示されている。これにより、ブラウザの画面上に表示されたヒートマップ画像を閲覧することにより、撮影現場における人物の活動量レベルが把握可能となる。

0004

また、特許文献1に示す床配置図とは異なり、カメラ装置が撮像した画像上に、人物の動線密度人数検出結果を重畳したヒートマップ画像を生成して表示する技術も提案されている(例えば非特許文献1参照)。

0005

ここで、特許文献1における床配置図にセンサの検出結果を重畳させる場合、床配置図とセキュリティカメラの撮影現場における画像とが正確にマッチング(一致)していることが必要となるが、特許文献1では床配置図は変更されず不変であるため、ヒートマップ画像の元となる床配置図を作成した時点から、撮影現場の配置が変更ない場合に限り、画像と床配置図とはマッチングする。

0006

特開2009−134688号公報

先行技術

0007

今までなかった360°をたった一台で監視できる!革新監視カメラMOBOTIX Q24”,[online],株式会社オーピーエヌ,2014,[retrieved on 2014−06−16],Retrieved from the Internet:<URL:http://www.opn−web.com/mobotix/index.htm>.

発明が解決しようとする課題

0008

ところで、特許文献1のシステム構成店舗にて使用することを想定すると、店舗マップ(つまり、撮影現場の床配置図に相当)上に人物の行動軌跡を表示することは可能であるが、店舗内の陳列等のレイアウト変更が行われた場合、レイアウト変更後レイアウトと人物の行動軌跡との相関を俯瞰することができない。即ち、品物の配置を変えても店舗マップは変わらないが、人物(例えば来客者従業員)の動きは変わってしまうため、これらの相関の俯瞰が困難となる。そこで、非特許文献1に記載の技術のように、店舗マップに代えてカメラ装置が撮像した画像上に人物の行動軌跡を表示することで、レイアウト変更があってもカメラ装置が変更後のレイアウトを撮像するので、レイアウトと人物の行動軌跡との相関を俯瞰することが可能である。

0009

しかしながら、カメラ装置が撮像した画像を使用することで、カメラ装置の撮像領域に存在する全ての人物が映ってしまうため、プライバシー保護を図ることができなくなる。また、来客者と従業員の両方の行動軌跡を記録してしまうと、マーケティング情報の把握という点で正確性に欠けてしまう。

0010

本発明は、上述した従来の課題を解決するために、来客者と従業員が混在する店舗において、プライバシーの保護を図りながらも、レイアウト変更があっても来客者の行動軌跡を正確に把握する動線分析システム、カメラ装置及び動線分析方法を提供することを目的とする。

課題を解決するための手段

0011

本発明は、カメラ装置とサーバ装置とが相互に接続された動線分析システムであって、前記カメラ装置は、撮像エリアを撮像する撮像部と、前記撮像部により撮像された前記撮像エリアの撮像画像に対応する背景画像を繰り返し生成する背景画像生成部と、所定の送信周期毎に、前記撮像部により撮像された前記撮像エリアの撮像画像と、前記背景画像生成部により生成された前記背景画像とを前記サーバ装置に送信する送信部と、を備え、前記サーバ装置は、前記カメラ装置から送信された前記撮像エリアの撮像画像と前記背景画像とを受信する受信部と、前記撮像エリアの撮像画像を基に、来客者により所持され、又は前記来客者の利用物に装着される来客者識別情報の前記撮像エリアにおける滞留位置又は通過位置に関する来客者動線情報を抽出する来客者動線抽出部と、前記来客者動線抽出部により抽出された前記来客者動線情報を前記来客者の行動軌跡として、前記背景画像に重畳した第1の動線分析画像を生成する画像生成部と、前記画像生成部により生成された前記第1の動線分析画像を表示部に表示させる表示制御部と、を備える、動線分析システムを提供する。

0012

また、本発明は、サーバ装置と接続され、動線分析システムで用いられるカメラ装置であって、撮像エリアを撮像する撮像部と、前記撮像部により撮像された前記撮像エリアの撮像画像に対応する背景画像を繰り返し生成する背景画像生成部と、前記撮像エリアの撮像画像を基に、来客者により所持され、又は前記来客者の利用物に装着される来客者識別情報の前記撮像エリアにおける滞留位置又は通過位置に関する来客者動線情報を抽出する来客者動線抽出部と、所定の送信周期毎に、前記来客者動線抽出部により抽出された前記来客者動線情報を前記来客者の行動軌跡として、前記背景画像生成部により生成された前記背景画像に重畳した動線分析画像を生成する画像生成部と、所定の送信周期毎に、前記画像生成部により生成された前記動線分析画像を、前記動線分析画像を表示する前記サーバ装置に送信する送信部と、を備える、カメラ装置を提供する。

0013

また、本発明は、カメラ装置とサーバ装置とが相互に接続された動線分析システムにおける動線分析方法であって、前記カメラ装置において、撮像エリアを撮像し、前記撮像エリアの撮像画像に対応する背景画像を繰り返し生成し、所定の送信周期毎に、前記撮像エリアの撮像画像と前記背景画像とを前記サーバ装置に送信し、前記サーバ装置において、前記カメラ装置から送信された前記撮像エリアの撮像画像と前記背景画像とを受信し、前記撮像エリアの撮像画像を基に、来客者により所持され、又は前記来客者の利用物に装着される来客者識別情報の前記撮像エリアにおける滞留位置又は通過位置に関する来客者動線情報を抽出し、前記来客者動線情報を前記来客者の行動軌跡として、前記背景画像に重畳した第1の動線分析画像を生成し、前記第1の動線分析画像を表示部に表示させる、動線分析方法を提供する。

発明の効果

0014

本発明によれば、来客者と従業員が混在する店舗において、プライバシーの保護を図りながらも、レイアウト変更があっても来客者の行動軌跡を正確に把握することができる。

図面の簡単な説明

0015

本実施形態の販売管理システム概略構成を示すブロック図
本実施形態の販売管理システムの複数のカメラ装置、BL受信端末及びBLE送信端末概要を示す図
本実施形態の販売管理システムのカメラ装置及びサーバ装置のそれぞれの機能的な内部構成を詳細に示すブロック図
本実施形態の販売管理システムのカメラ装置の画像入力、背景画像生成、動線情報分析の各処理の動作タイミングを説明するタイムチャート
本実施形態の販売管理システムのカメラ装置の画像入力部に入力された撮像画像の一例と背景画像生成部により生成された背景画像の一例を示す図
本実施形態の販売管理システムのサーバ装置において生成される動線分析画像の一例を示す図
本実施形態の販売管理システムのサーバ装置において、来客者の位置情報を把握し、該来客者の行動軌跡を背景画像に重畳させるまでの処理を説明するためのフローチャート
本実施形態の販売管理システムのサーバ装置において、来客者の行動軌跡を背景画像に重畳させるためのトランザクションIDの生成/終了処理を説明するためのフローチャート
本実施形態の販売管理システムのサーバ装置において、トランザクションIDの生成/終了処理の説明を補助するための図
本実施形態の変形例のカメラ装置の機能的な内部構成を詳細に示すブロック図
図3に示すカメラ装置及びサーバ装置の変形例におけるそれぞれの機能的な内部構成を詳細に示すブロック図
図11に示すカメラ装置及びサーバ装置において、来客者動線情報を抽出し、来客者動線情報を行動軌跡として背景画像に重畳させるまでの処理を説明するためのフローチャート
図10に示すカメラ装置の変形例における機能的な内部構成を詳細に示すブロック図

実施例

0016

以下、適宜図面を参照しながら、本発明に係る動線分析システム、カメラ装置及び動線分析方法を具体的に開示した実施形態(以下、「本実施形態」という)を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。

0017

図1は、本実施形態の販売管理システム1000の概略構成を示すブロック図である。同図において、本実施形態の販売管理システム1000は、複数の店舗A,B,C,…に設置された動線分析システム500A,500B,500C,…と、運営本部のサーバ装置600と、スマートフォン700と、クラウドコンピュータ800と、設定端末装置900とを有する。複数の店舗A,B,C,…に設置された動線分析システム500A,500B,500C,…は、ネットワークNWを介してサーバ装置600、スマートフォン700、クラウドコンピュータ800及び設定端末装置900と相互に接続されている。

0018

ネットワークNWは、無線ネットワーク又は有線ネットワークである。無線ネットワークは、例えば無線LAN(Local Area Network)、無線WAN(Wide Area Network)、3G、LTE(Long Term Evolution)又はWiGig(Wireless Gigabit)である。有線ネットワークは、例えばイントラネット又はインターネットである。

0019

店舗Aに設置された動線分析システム500Aは、店舗Aのフロア1に設置された複数のカメラ装置100,100A,…,100Nと、レコーダ200と、サーバ装置300と、入力デバイス400と、モニタ450とを有する。店舗Aのフロア1に設置されたカメラ装置100,100A,…,100N、レコーダ200及びサーバ装置300は、ネットワークNWに接続される。なお、店舗Aのフロア2にもフロア1と同様に複数のカメラ装置100,100A,…,100Nが設置され、フロア2内のカメラ装置の図示を省略している。また、それぞれのカメラ装置100,100A,…100Nの内部構成は同様であり、その詳細については図3を参照して後述する。

0020

店舗Aに設置された動線分析システム500Aは、さらに、店舗Aに来店するお客(以下、“来客者”という)に所持させる複数(1−n、nは整数)のBLE送信端末(位置情報送信装置)150と、店舗A内に設置される複数(1−m、mは整数)のBLE受信端末(位置情報受信装置)160とを有する。これらの端末は、近距離無線通信(NFC)機能を有する携帯端末に機能として設けることも可能である。BLE受信端末160はフロア毎に複数設置される。BLE送信端末150及びBLE受信端末160は近距離無線通信規格(Bluetooth(登録商標) Low Energy)に準拠した端末である。BLE送信端末150は、来客者の利用物(買物カゴカート、携帯端末等)に装着することができるように小型・薄型化するのが望ましい。BLE送信端末150は、これを所持(間接的に所持又は直接所持)した来客者の位置情報を送信し、BLE受信端末160は、BLE送信端末150から送信された来客者の位置情報を受信する。なお、フロア毎に設置されるBLE受信端末160の個数は店舗の規模に応じて予め決められるが、BLE送信端末150の個数は来客者数に応じて変動する。

0021

店舗A内に設置される全てのBLE受信端末160は、ネットワークNWに接続される。他の店舗B,C,…においても来客者がBLE送信端末150を所持し、フロア毎に複数のBLE受信端末160が設置される。図2は、例えば店舗Aのフロア1に設置されたカメラ装置100,100A,…及びBLE受信端末160と、店舗Aのフロア1にいる来客者152が所持しているBLE送信端末150の概要を示す図である。同図に示すように、複数のカメラ装置100,100A,…及び複数のBLE受信端末160のそれぞれがネットワークNWに接続される。また、各カメラ装置100,100A,…は、店舗Aのフロア1(所定の撮像領域)を撮像する。フロア1には、複数の従業員151と複数の来客者152が存在し、各カメラ装置100,100A,…にて撮像される。

0022

図1戻り、レコーダ200は、例えば半導体メモリ又はハードディスク装置を用いて構成され、店舗A内に設置された各カメラ装置100,100A,…,100Nの撮像により得られた画像(以下、カメラ装置の撮像により得られた画像を「撮像画像」という)を記憶する。レコーダ200に記憶された撮像画像は、例えば防犯等の監視業務に供される。なお、各カメラ装置100,100A,…,100Nの撮像により得られた撮像画像をレコーダ200に記憶する際には、日時と各カメラ装置100,100A,…,100Nに付与された識別番号も一緒に記憶される。

0023

サーバ装置300は、例えばPC(Personal Computer)を用いて構成され、入力デバイス400を操作するユーザ(例えば動線分析システムのユーザであって、店舗Aの店長を含む従業員151を指す、以下同様)の入力操作に応じて、所定のイベント(例えば店舗Aのフロア1の売場のレイアウトの変更)が発生したことをカメラ装置100に通知する。また、詳細は後述するが、サーバ装置300は、店舗A内での来客者152の動線情報を行動軌跡として、撮像画像の背景画像に重畳した動線分析画像を生成してモニタ450に表示させる。なお、サーバ装置300の内部構成の詳細については図3を参照して後述する。

0024

入力デバイス400は、例えばマウスキーボードタッチパネル又はタッチパッドを用いて構成され、ユーザの入力操作に応じた信号をカメラ装置100又はサーバ装置300に出力する。なお、図1では、図面を簡単にするために、入力デバイス400とカメラ装置100との間にだけ矢印が図示されているが、入力デバイス400と他のカメラ装置(例えばカメラ装置100A、100N)との間に矢印が図示されても良い。モニタ450は、例えばLCD(Liquid Crystal Display)又は有機EL(Electrolumines-cence)を用いて構成され、サーバ装置300により生成された動線分析画像を表示する。なお、モニタ450は、サーバ装置300とは異なる外部装置として設けられるが、サーバ装置300の内部に含まれた構成としても良い。

0025

運営本部のサーバ装置600は、このサーバ装置600を操作する運営本部の従業員(例えば役員)の入力操作に応じて、各店舗A,B,C,…内に設置された動線分析システム500A,500B,500C,…において生成された動線分析画像を取得して表示するための閲覧用装置である。スマートフォン700は、このスマートフォン700を操作する運営本部の従業員(例えば営業担当者)の入力操作に応じて、各店舗A,B,C,…内に設置された動線分析システム500A,500B,500C,…において生成された動線分析画像を取得して表示するための閲覧用装置である。クラウドコンピュータ800は、各店舗A,B,C,…内に設置された動線分析システム500A,500B,500C,…において生成された動線分析画像を記憶するオンラインストレージである。

0026

設定端末装置900は、例えばPCを用いて構成され、各店舗A,B,C,…内に設置された動線分析システム500A,500B,500C,…のカメラ装置の設定画面を表示する専用のブラウザソフトウェアを実行可能である。設定端末装置900は、これを操作する運営本部の従業員(例えば販売管理システム1000のシステム管理者)の入力操作に応じて、カメラ装置の設定画面(例えばCGI(Common Gateway Interface))をブラウザソフトウェアにおいて表示し、カメラ装置の設定情報編集修正、追加、削除)して設定する。

0027

(カメラ装置)
図3は、本実施形態のカメラ装置100及びサーバ装置300のそれぞれの機能的な内部構成を詳細に示すブロック図である。なお、図1に示す販売管理システム1000において、店舗A,B,C,…に設置されるそれぞれのカメラ装置は同様な構成であるため、図3ではカメラ装置100を例示して説明する。

0028

図3において、カメラ装置100は、撮像部10と、画像入力部20と、背景画像生成部30と、動線情報分析部40と、スケジュール管理部50と、送信部60と、イベント情報受領部70と、背景画像蓄積部80と、通過/滞留分析情報蓄積部90と、来客者情報取得部170と、来客者の通過/滞留分析情報蓄積部171とを有する。

0029

撮像部10は、不図示のレンズイメージセンサとを少なくとも有する。レンズは、カメラ装置100の外部から入射する光(光線)を集光し、イメージセンサの所定の撮像面に結像させる。レンズには、魚眼レンズ、又は例えば140度以上の画角が得られる広角レンズが用いられる。イメージセンサは、例えばCCD(Charged-Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)の固体撮像素子であり、撮像面に結像した光学像電気信号に変換する。

0030

画像入力部20は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)又はDSP(Digital Signal Processor)を用いて構成され、撮像部10からの電気信号を用いて所定の信号処理を行うことで、人間が認識可能なRGB(Red Green Blue)又はYUV(輝度色差)等により規定される撮像画像(フレーム)を生成して背景画像生成部30及び動線情報分析部40に出力する。

0031

背景画像生成部30は、入力画像学習部31と、移動体分離部32と、背景画像抽出部33とを有し、撮像領域の撮像画像の背景画像を繰り返し生成する。背景画像生成部30は、例えばCPU、MPU又はDSPを用いて構成され、所定のフレームレート(例えば30fps(frame per second))で、画像入力部20から出力された撮像画像(フレーム)毎に、撮像画像に含まれる移動体(人物であり、主に従業員151と来客者152)を排除した背景画像を生成して背景画像蓄積部80に保存する。背景画像生成部30における背景画像の生成処理は、例えば下記の参考特許文献に開示されている方法を用いることができるが、この参考特許文献に開示されている方法に限定されない。

0032

(参考特許文献)特開2012−203680号公報

0033

ここで、背景画像生成部30の動作概要について、図4及び図5を参照して簡単に説明する。図4は、本実施形態のカメラ装置100の背景画像生成部30の動作概要の説明図である。図5の(a)は、画像入力部20に入力された撮像画像の一例を示す図である。図5の(b)は、背景画像生成部30により生成された背景画像の一例を示す図である。

0034

図4では、紙面の上側から下側に向かう時間軸に直交する紙面の左側から右側に向かって、入力画像学習部31、移動体分離部32、背景画像抽出部33の生成結果が模式的に示され、店舗の来店客が飲料の入った4つの段ボールのうち1つの段ボールを持ち運ぶ様子が示されている。

0035

入力画像学習部31は、画像入力部20から出力された複数の撮像画像のフレーム(例えば図4に示す各フレームFM1〜FM5)において、画素毎に、画素の輝度及び色差の値の分布状況を分析する。移動体分離部32は、入力画像学習部31の学習結果(即ち、複数のフレーム間(例えば図4に示す時間軸方向)の同一画素毎の輝度及び色差の分布状況の分析結果)を用いて、撮像画像の各フレームFM1〜FM5において、移動体の情報(例えばフレームFM1a〜FM5a参照)と移動体以外(例えば、背景)の情報(例えばフレームFM1b〜FM5b参照)とに分離する。なお、移動体である人物が段ボールを持ち運ぶ様子を示す撮像画像のフレームFM3,FM4では、人物が持ち運ぶ段ボールの画素に対応する輝度及び色差の値は時間軸方向(例えば図4参照)に沿って変化するので、移動体分離部32は、人物が持ち運ぶ段ボールを移動体とみなす

0036

背景画像抽出部33は、移動体分離部32が分離した情報のうち、移動体以外の情報が映るフレームFM1b〜FM5bを、画像入力部20から出力された撮像画像のフレームFM1〜FM5の背景画像のフレームFM1c〜FM5cとして抽出して背景画像蓄積部80に保存する。

0037

図5の(a)に示す撮像画像のフレームFM10aでは、例えば食堂の中で料理を提供している人、料理をトレーで受け取る人がそれぞれ移動体として示されている。図5の(a)に示す撮像画像のフレームFM10aに対して、背景画像生成部30が生成した背景画像のフレームFM10c(図5の(b)参照)では、移動体としての同じ食堂の中で料理を提供している人も料理を受け取る人も映らないように排除されている。以上が背景画像生成部30の動作概要である。

0038

図3に戻り、動線情報分析部40は、対象検出部41と、動線情報取得部42と、通過/滞留状況分析部43とを有する。動線情報分析部40は、例えばCPU、MPU又はDSPを用いて構成され、所定のフレームレート(例えば10fps)で、画像入力部20から出力された撮像画像(フレーム)毎に、該撮像画像に含まれる移動体の滞留位置又は通過位置に関する動線情報を抽出して通過/滞留分析情報蓄積部90に保存する。撮像画像に含まれる移動体は、主に従業員151と来客者152である。

0039

対象検出部41は、画像入力部20から出力された撮像画像のフレームに対して所定の画像処理(例えば人物検出処理顔検出処理)を行うことで、撮像画像のフレームに含まれる移動体の有無を検出する。対象検出部41は、撮像画像のフレームに含まれる移動体を検出した場合には、撮像画像のフレームに対する移動体の検出領域に関する情報(例えばフレームの座標情報)を動線情報取得部42に出力する。なお、対象検出部41は、撮像画像のフレームに含まれる移動体を検出しなかった場合には、移動体の検出領域に関する情報(例えば所定のヌル情報)を動線情報取得部42に出力する。

0040

動線情報取得部42は、対象検出部41から出力された移動体の検出領域に関する情報を基に、画像入力部20から出力された撮像画像の情報と、過去の移動体の検出領域に関する情報(例えば、撮像画像情報や座標情報)を用いて、現在と過去の検出領域に関する情報の紐付けを行い、動線情報(例えば移動体の検出領域の座標情報の変化量)として通過/滞留状況分析部43に出力する。

0041

通過/滞留状況分析部43は、複数の撮像画像に対して動線情報取得部42から出力された動線情報を基に、撮像画像のフレームにおける移動体の滞留位置又は通過位置に関する動線情報(例えば、「対象位置情報」と「動線情報」と「通過状況又は滞留状況に関する情報」)を抽出して生成する。また、通過/滞留状況分析部43は、移動体の滞留位置又は通過位置に関する動線情報の抽出結果を用いて、サーバ装置300の表示画像生成部350において生成される動線分析画像のカラー部分可視化画像を生成しても良い。通過/滞留状況分析部43は、複数の撮像画像のフレームに対する動線情報を用いることで、画像入力部20から出力された撮像画像のフレームの中で、移動体が滞留した位置又は通過した位置に関する正確な動線情報を抽出して生成することができる。

0042

来客者情報取得部170は、例えばCPU、MPU又はDSPを用いて構成され、BLE受信端末160の出力に基づき、撮像領域の撮像画像に含まれる来客者の撮像領域における滞留位置又は通過位置に関する動線情報を検出して来客者の通過/滞留分析情報蓄積部171に保存する。スケジュール管理部50は、例えばCPU、MPU又はDSPを用いて構成され、背景画像蓄積部80に保存された背景画像と、通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果と、来客者の通過/滞留分析情報蓄積部171に保存された来客者の動線情報とをサーバ装置300に定期的に送信するための所定の送信周期を送信部60に指示する。所定の送信周期は、例えば15分、1時間、12時間、24時間等であるが、これらの時間間隔に限定されない。

0043

送信部60は、スケジュール管理部50又はイベント情報受領部70からの指示に応じて、背景画像蓄積部80に保存された背景画像と、通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果と、来客者の通過/滞留分析情報蓄積部171に保存された来客者の動線情報とを取得してサーバ装置300に送信する。

0044

イベント情報受領部70は、サーバ装置300又は入力デバイス400から所定のイベント(例えば店舗Aのフロア1の売場のレイアウトの変更)の検出の通知を受領(取得)し、所定のイベントの検出の通知を受領したことで、背景画像蓄積部80に保存された背景画像と、通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果と、来客者の通過/滞留分析情報蓄積部171に保存された来客者の動線情報とのサーバ装置300への送信指示を送信部60に出力する。

0045

背景画像蓄積部80は、例えばSDメモリカード等の半導体メモリ又はハードディスク装置を用いて構成され、背景画像生成部30により生成された背景画像(フレーム)を記憶する。通過/滞留分析情報蓄積部90は、例えば半導体メモリ又はハードディスク装置を用いて構成され、動線情報分析部40により生成された移動体の滞留位置又は通過位置に関する動線情報の抽出結果(例えば、「対象位置情報」と「動線情報」と「通過状況又は滞留状況に関する情報」)を記憶する。来客者の通過/滞留分析情報蓄積部171は、例えば半導体メモリ又はハードディスク装置を用いて構成され、来客者情報取得部170で取得された来客者の撮像領域における滞留位置又は通過位置に関する動線情報を記憶する。

0046

なお、図3に示すカメラ装置100は、イベント情報受領部70の代わりに、シーン識別部SDを設けても良い。画像変化検出部の一例としてのシーン識別部SDは、画像入力部20から出力された撮像画像の変化(例えば店舗Aのフロア1の売場のレイアウトが変更したというイベント)の有無を検出する。シーン識別部SDは、撮像画像の変化を検出した場合には、背景画像蓄積部80に保存された背景画像と、通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果と、来客者の通過/滞留分析情報蓄積部171に保存された来客者の撮像領域における滞留位置又は通過位置に関する動線情報とのサーバ装置300への送信指示を送信部60に出力する。

0047

また、図3に示すカメラ装置100は、人数カウント部CTを更に設けても良い。移動体検出部の一例としての人数カウント部CTは、画像入力部20から出力された撮像画像に対して所定の画像処理(例えば人物検出処理)を行うことで、撮像画像に含まれる移動体の検出数カウントする。人数カウント部CTは、撮像画像に含まれる移動体の検出数に関する情報を送信部60に出力する。

0048

(サーバ装置)
図3に示すサーバ装置300は、イベント情報受領部310と、通知部320と、受信部330と、受信情報蓄積部340と、表示画像生成部350と、レポート生成出力部360とを含む構成である。イベント情報受領部310は、該当するカメラ装置(例えばカメラ装置100)毎に、所定のイベント(例えば店舗Aのフロア1の売場のレイアウトの変更)が発生したことを示す情報が入力デバイス400から入力された場合には、所定のイベントの検出の通知を受領する。イベント情報受領部310は、所定のイベントの検出の通知を受領したことを通知部320に出力する。なお、所定のイベントが発生したことを示す情報には、所定のイベントが発生した場所を撮像領域として撮像するカメラ装置の識別番号が含まれる。

0049

通知部320は、イベント情報受領部310から出力された所定のイベントの検出の通知を該当するカメラ装置(例えばカメラ装置100)に送信する。受信部330は、カメラ装置100の送信部60から送信されたデータ(即ち、背景画像蓄積部80に保存された背景画像、通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果、及び来客者の通過/滞留分析情報蓄積部171に保存された来客者の撮像領域における滞留位置又は通過位置に関する動線情報を受信して受信情報蓄積部340及び表示画像生成部350に出力する。

0050

受信情報蓄積部340は、例えば半導体メモリ又はハードディスク装置を用いて構成され、受信部330が受信したデータ(即ち、背景画像蓄積部80に保存された背景画像、通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果、及び来客者の通過/滞留分析情報蓄積部171に保存された来客者の撮像領域における滞留位置又は通過位置に関する動線情報)を記憶する。受信情報蓄積部340には、当該各データの記憶において、日時や各カメラ装置100,100A,…,100Nの設置位置に対する撮像場所等の撮像画像を特定できる情報も併せて記憶される。

0051

表示画像生成部350は、例えばCPU、MPU又はDSPを用いて構成され、受信部330又は受信情報蓄積部340から取得した撮像画像の背景画像、移動体の動線情報及び来客者の動線情報のうち、撮像画像の背景画像と来客者の動線情報を用いて動線分析画像を生成する。即ち、表示画像生成部350は、来客者の動線情報を行動軌跡として、撮像画像の背景画像に重畳した動線分析画像を生成する。そして、生成した動線分析画像をモニタ450に表示させる。さらに、表示画像生成部350は、生成した動線分析画像に加えて、来客者の動線情報を示すアイコンをモニタ450に表示させる。ここでのアイコンとは、例えば“買物カゴ”、“カート”、“携帯端末”のアイコンや、“来客者”のアイコンなどである。なお、表示画像生成部350は、画像生成部と表示制御部に対応する。

0052

動線分析画像は、カメラ装置100が撮像した撮像画像の中で移動体である従業員151や来客者152が映らないように排除された背景画像に、撮像画像に対応する撮像領域において来客者152が何処によく滞留したか、又は何処を通過したかを視覚的に示す動線情報がヒートマップのように定量的に可視化された画像である。また、表示画像生成部350は、生成した動線分析画像をモニタ450に表示させる。

0053

レポート生成出力部360は、例えばCPU、MPU又はDSPを用いて構成され、動線分析レポート生成指示が入力デバイス400から入力された場合には、動線分析レポートを生成する。レポート生成出力部360は、生成した動線分析レポートをモニタ450に表示させる。

0054

図6は、来客者の行動パターンを示した動線分析画像の一例を示す図である。同図に示す動線分析画像175は、背景画像176に、買物カゴのアイコン180と、来客者152のアイコン181と、買物カゴが通った軌跡185と、来客者152が通った軌跡186とが重畳されたものである。買物カゴには、BLE送信端末150が取り付けられているので、該買物カゴはアイコン180として表示される。来客者152がその買物カゴを手にとって移動を開始すると、その移動に伴って軌跡185が表示される。一方、来客者152がBLE送信端末150そのものを所持するか、あるいはBLE送信端末150の機能を有する携帯端末を所持している場合、来客者を示すアイコン181が表示される。来客者152が移動を開始すると、それに伴って軌跡186が表示される。また、その来客者152の詳細を知りたい場合は、軌跡186を指定して所定の操作を行うことで(例えば、マウスでクリックすることで)、詳細な情報が表示される。例えば、該当日時の録画映像再生され、またアイコン181にその来客者152の顔写真が現れる。図6は、来客者152の顔写真が現れた状態を示している。再生映像を見ることで、その来客者152の性別推定年齢を確認することができる。

0055

動線分析画像175を一見するだけで、従業員151と来客者152が混在する店舗においても、来客者152のみの行動軌跡を把握することができる。そして、来客者152のみの行動軌跡を把握できることから、マーケティング情報の把握も容易に行える。また、カメラ装置100で撮像して得られた撮像画像から人物を取り除いた背景画像を用いることで、プライバシー保護が図れる。また、店舗内で陳列などレイアウト変更があっても、レイアウト変更と来客者152の行動軌跡の相関を鳥瞰することができる。

0056

サーバ装置300は、アイコン表示軌跡表示等を行うための3つの機能を有している。以下、その3つの機能を列記する。
機能(1):行動パターン表示機能時間帯
・指定された時間帯の行動パターンを描画する。
・何の行動パターンかを示すアイコンを描画する。
アイコンは、上述したように、“来客者”や“買物カゴ”等である。

0057

機能(2):行動軌跡の表示機能(時間帯)
トランザクション
・予め開始位置と終了位置を設定し、該当箇所に例えば買物カゴが移動した場合に開始位置・終了位置を保存することで1トランザクションを認識・記録する。・指定された時間帯の1トランザクションのみを描画することで、特定の来客者の行動軌跡のみを正確に描画することができる。

0058

機能(3):再生連携
・行動軌跡をクリックすると、該当箇所を撮像しているカメラ装置の該当日時の録画映像を再生させることができる。再生映像により、該当行動の詳細把握や該当来客者の顔画像確認による性別や推定年齢の確認をすることができる。録画映像はレコーダ200に記録されており、サーバ装置300は録画映像を再生する際に、レコーダ200にアクセスする。

0059

図7は、来客者152の位置情報を把握し、該来客者152の行動軌跡を背景画像に重畳させるまでの処理を説明するためのフローチャートである。同図において、まずカメラ装置(例えばカメラ装置100とする)が、定期的に繰り返し生成した背景画像(撮像画像から人物を消した画像)を、定期時間帯(例えば15分間隔)にカメラ装置100内の背景画像蓄積部80に一時保持する(ステップS1)。

0060

カメラ装置100は、背景画像を生成して一時保持した後、該背景画像をサーバ装置300へ送信する。また、カメラ装置100は、来客者152の位置情報を取得してサーバ装置300へ送信する。サーバ装置300は、カメラ装置100から送信された背景画像を取得するとともに、来客者152の位置情報を取得して受信情報蓄積部340に保存する(ステップS2及びステップS3)。

0061

サーバ装置300が背景画像と来客者152の位置情報を受信情報蓄積部340に保存した後、ユーザが動線分析したい日時を指定する(ステップS4)。この指定により、サーバ装置300の表示画像生成部350が受信情報蓄積部340を参照し、ユーザにて指定された日時の背景画像と来客者152の位置情報を取得する(ステップS5)。表示画像生成部350は、ユーザにて指定された日時の背景画像と来客者152の位置情報を取得した後、背景画像に来客者152の動線情報を重畳した動線分析画像を生成する。また、表示画像生成部350は、予め設定された来客者152に紐付けされたアイコンのオーバーレイ表示を行うための表示情報を生成する(ステップS6)。そして、生成した動線分析画像とアイコンをモニタ450に表示させる(ステップS7)。

0062

図8は、来客者152の行動軌跡を背景画像に重畳させるためのトランザクションIDの生成/終了処理を説明するためのフローチャートである。また、図9は、トランザクションIDの生成/終了処理の説明を補助するための図である。なお、このトランザクションIDの生成/終了処理は、サーバ装置300の表示画像生成部350で行われる。同図において、表示画像生成部350は、モニタ450に店舗画像を表示する(ステップS10)。次いで、トランザクションの開始位置のエリアを設定し、それを背景画像上に表示する(ステップS11)。即ち、図9に示すように、背景画像の店舗の入り口付近に開始位置のエリア182を表示する。トランザクションの開始位置のエリアの設定は、入力デバイス400によって行われる。なお、トランザクションの開始位置のエリアは複数設定可能である。また、トランザクションの開始位置のエリアには、図示のように開始位置であることを示す“開始位置”が表示されるようにするとよい。

0063

トランザクションの開始位置のエリア182を設定して、背景画像上への表示を行った後、表示画像生成部350は、トランザクションの終了位置のエリアを設定し、それを背景画像上に表示する(ステップS12)。即ち、図9に示すように、背景画像のレジ付近に終了位置のエリア183を表示する。なお、トランザクションの終了位置のエリアは複数設定可能である。また、トランザクションの終了位置のエリアには、図示のように終了位置であることを示す“終了位置”が表示されるようにするとよい。

0064

表示画像生成部350が、トランザクションの終了位置のエリア183を設定して、背景画像上への表示を行った後、BLE送信端末150が付けられた買物カゴ、カート又は携帯端末をトランザクションの開始位置のエリア182に配置する。来客者152が買物カゴ、カート又は携帯端末を手にとり、トランザクションの開始位置のエリア182を出て店内に進むと、表示画像生成部350は、新規のトランザクション発生とみなしてトランザクションIDを付与する(ステップS13)。その後、BLE送信端末150が付けられた買物カゴ、カート又は携帯端末がトランザクションの終了位置のエリア183に入った場合、表示画像生成部350は、トランザクション終了とみなして、トランザクションIDをリセットし、アイドル状態となる(ステップS14)。ステップS13とステップS14の処理は、店舗の営業時間が終了するまで繰り返し行われる。

0065

以上により、本実施形態の動線分析システム500Aでは、BLE送信端末150を来客者152に所持させ、BLE受信端末160を店舗内の各所に設置して、BLE送信端末150から送信された来客者152の位置情報をBLE受信端末160で受信させる。カメラ装置100は、店舗のフロアを撮像して、該フロアの撮像画像の背景画像を繰り返し生成し、またBLE受信端末160で受信された来客者152の位置情報に基づき、撮像画像に含まれる来客者152のフロアにおける滞留位置又は通過位置に関する動線情報を取得する。そして、所定の送信周期毎に、生成した背景画像と、取得した来客者152の動線情報とをサーバ装置300に送信する。サーバ装置300は、カメラ装置100から送信された背景画像と、来客者152の動線情報とを受信し、来客者152の動線情報を行動の軌跡として、背景画像に重畳した動線分析画像175を生成し、生成した動線分析画像175をモニタ450に表示させる。

0066

これにより、動線分析画像175を一見するだけで、従業員151と来客者152が混在する店舗においても、来客者152のみの行動軌跡を把握することができる。そして、来客者152のみの行動軌跡を把握できることから、マーケティング情報の把握も容易に行える。また、カメラ装置100で撮像して得られた撮像画像から人物を取り除いた背景画像を用いることで、プライバシー保護が図れる。また、店舗内で陳列などレイアウト変更があっても、レイアウト変更と来客者152の行動軌跡の相関を鳥瞰することができる。

0067

(本実施形態の変形例)
なお、上述した本実施形態では、動線分析画像の生成処理はサーバ装置300において実行されているが、動線分析画像の生成処理までをカメラ装置100が実行しても良い。図10は、本実施形態の変形例のカメラ装置100Sの機能的な内部構成を詳細に示すブロック図である。図10に示すカメラ装置100Sは、撮像部10と、画像入力部20と、背景画像生成部30と、動線情報分析部40と、スケジュール管理部50と、送信部60Sと、イベント情報受領部70と、背景画像蓄積部80と、通過/滞留分析情報蓄積部90と、表示画像生成部350Sと、来客者情報取得部170と、来客者の通過/滞留分析情報蓄積部171とを有する。図10に示すカメラ装置100Sの各部の説明において、図3に示すカメラ装置100と同一の構成及び動作のものには同一の符号を付して説明を省略し、異なる内容について説明する。

0068

表示画像生成部350Sは、スケジュール管理部50又はイベント情報受領部70からの指示に応じて、背景画像蓄積部80に保存された背景画像と、来客者の通過/滞留分析情報蓄積部171に保存された来客者の撮像領域における滞留位置又は通過位置に関する動線情報とを用いて動線分析画像を生成して送信部60Sに出力する。即ち、表示画像生成部350Sは、来客者の動線情報を行動軌跡として、撮像画像の背景画像に重畳した動線分析画像を生成して送信部60Sに出力する。また、表示画像生成部350Sは、生成した動線分析画像に加えて、来客者の動線情報のアイコン(買物カゴ、カート、携帯端末、来客者等のアイコン)を送信部60Sに出力する。送信部60Sは、表示画像生成部350Sにより生成された動線分析画像及びアイコンをサーバ装置300に送信する。

0069

以上により、本実施形態の変形例では、カメラ装置100Sは、所定の撮像領域の撮像画像の背景画像を生成するとともに、BLE受信端末160の出力に基づき、撮像画像に含まれる来客者の撮像領域における滞留位置又は通過位置に関する動線情報を取得し、背景画像と来客者の動線情報とを用いて、来客者の動線情報を行動軌跡として、撮像画像の背景画像に重畳した動線分析画像を生成する。

0070

これにより、カメラ装置100Sにおいて、従業員151と来客者152が混在する店舗においても、来客者152のみの行動軌跡を把握することができる。そして、来客者152のみの行動軌跡を把握できることから、マーケティング情報の把握も容易に行える。また、カメラ装置100Sで撮像して得られた撮像画像から人物を取り除いた背景画像を用いることで、プライバシー保護が図れる。また、店舗内で陳列などレイアウト変更があっても、レイアウト変更と来客者152の行動軌跡の相関を鳥瞰することができる。

0071

また、カメラ装置100Sは、動線分析画像の生成処理まで実行して生成結果である動線分析画像をサーバ装置300に送信するので、例えばサーバ装置300の処理負荷が相当に高い状態では、動線分析画像の生成処理をサーバ装置300に実行させなくて済むため、サーバ装置300の処理負荷の増大を抑制することができる。

0072

なお、上述した本実施形態及び本実施形態の変形例では、プライバシーを考慮して、カメラ装置で撮像して得られた撮像画像から人物を消去した背景画像を用いていたが、プライバシーを考慮しない撮像画像、即ち、人物を消去しない撮像画像を背景画像として用いてもよい。

0073

(カメラ装置及びサーバ装置の他の構成例)
次に、来客者152が所定の来客者識別情報を所持している場合、又は来客者152が店舗内において利用する利用物(例えば買物かご、カート)に所定の来客者識別情報を装着している場合に、動線分析システムを構成するサーバ装置が、来客者識別情報を抽出し、この抽出結果を、動線分析システムを構成するカメラ装置により生成された背景画像に重畳して動線分析画像を生成する例について、図11図13を参照して説明する。言い換えると、以下の説明では、動線分析システムにおいて来客者152はBLE送信端末150を所持したり、自己の利用物に装着したりする必要がなくなる。つまり、来客者152は、単に来客者識別情報(例えば後述するカラーバーコード)を所持したり、店舗内において利用する利用物に装着したりすればよいので、BLE送信端末150がなくても良い分、来客者152の店舗利用時の利便性は改善する。

0074

図11は、図3に示すカメラ装置100及びサーバ装置300の変形例におけるそれぞれの機能的な内部構成を詳細に示すブロック図である。図11に示すカメラ装置100V及びサーバ装置300Vの説明では、図3に示すカメラ装置100及びサーバ装置300と同一の構成については同一の符号を付して説明を簡略化又は省略し、異なる内容について説明する。

0075

映像送信部60Vは、画像入力部20から出力された撮像画像のデータ(例えば、カメラ装置100Vが撮像した店舗内のフロアの映像データ)をサーバ装置300Vに送信する。なお、映像送信部60Vは、カメラ装置100Vにおいて送信部60とは別に構成されているが、映像送信部60Vは送信部60と一体に構成されてもよい。言い換えると、送信部60は、画像入力部20から出力された撮像画像のデータをサーバ装置300Vに送信してもよい。

0076

映像受信部330Vは、映像送信部60Vから送信された撮像画像のデータを受信して来客者動線情報生成処理部370に出力する。なお、映像受信部330Vは、サーバ装置300Vにおいて受信部330とは別に構成されているが、映像受信部330Vは受信部330と一体に構成されてもよい。言い換えると、受信部330は、映像送信部60Vから送信された撮像画像のデータを受信して来客者動線情報生成処理部370に出力してもよい。

0077

来客者動線情報生成処理部370は、映像受信部330Vから出力された撮像画像のデータを基に、撮像画像のデータのフレーム毎に画像処理を行い、来客者152により所持され、又は来客者152の利用物に装着される来客者識別情報を検出して抽出する。来客者動線抽出部の一例としての来客者動線情報生成処理部370は、映像受信部330Vから出力された撮像画像のデータのフレーム数にわたり、フレーム毎に抽出した来客者識別情報を時間的に繋ぎ合わせることで、来客者152の店舗内のフロアにおける滞留位置又は通過位置に関する動線情報(以下、「来客者動線情報」という)を生成して抽出する。来客者動線情報生成処理部370は、来客者動線情報を受信情報蓄積部340に保存する。

0078

表示画像生成部350は、受信情報蓄積部340から背景画像のデータと来客者152の来客者動線情報とを読み出し、背景画像のデータに来客者152の来客者動線情報を重畳した動線分析画像を生成する。表示画像生成部350は、例えば不図示のサーバ装置300V内のメモリに予め保持されている、設定済みの来客者152に対応するアイコンを動線分析画像にオーバーレイ表示した表示情報(例えば図6参照)を生成する。また、表示制御部の一例としての表示画像生成部350は、動線分析画像と来客者152を示すアイコンとを対応付けるようにモニタ450に表示させる。

0079

ここで、来客者識別情報について、図3に示す動線分析システムと図11に示す動線分析システムとを比較しながら説明する。

0080

図3に示す動線分析システムでは、BLE送信端末150が来客者152により所持され、又は来客者152の店舗利用時における利用物(例えば買物かご、カート)に装着されており、更に、BLE送信端末150から送信される信号(つまり、来客者152の店舗内のフロアの位置情報)を受信するためのBLE受信端末160が備えられていた。即ち、図3に示す動線分析システムでは、カメラ装置100が来客者152の店舗内のフロアの位置情報を取得するために、特別な送信機及び受信機(つまり、BLE送信端末150及びBLE受信端末160)が必要であった。

0081

一方、図11に示す動線分析システムでは、BLE送信端末150及びBLE受信端末160のような特別な送信機及び受信機は不要となる。具体的には、例えばカラーバーコードに代表される来店客識別情報を来客者152により所持され、又は来客者152の店舗利用時の利用物に装着される。サーバ装置300Vは、カメラ装置100Vから送信された撮像画像のデータのフレームから来店客識別情報(例えばカラーバーコード)を画像処理によって検出して抽出し、フレーム数に応じた抽出結果を時間的に繋ぎ合わせることで来客者152の動線情報を生成して抽出する。

0082

カラーバーコードは、例えばシアンマゼンダイエローブラック(CMYK)の各種の色を用いた複数のカラーパターンにより構成された識別可能な情報である。来客者動線情報生成処理部370は、撮像画像のデータのフレーム毎にカラーバーコードを検出すると、複数のフレームにより構成される撮像画像のデータ中のカラーバーコードの検出位置を、カラーバーコードに対応した来客者152の滞留位置又は通過位置に関する来店客動線情報として生成する。カラーバーコードを来店客動線情報として使用することで、サーバ装置300Vは、BLE送信端末150やBLE受信端末160のような特別な送信機及び受信機を必要とせずに、カメラ装置100Vから送信された撮像画像のデータを画像処理することで、来客者152の店舗内のフロアの滞留位置又は通過位置に関する来店客動線情報を正確に生成して抽出することができる。

0083

次に、図11に示すカメラ装置100V及びサーバ装置300において、サーバ装置300Vが来客者動線情報を抽出し、来客者動線情報を行動軌跡として背景画像に重畳させるまでの処理について、図12を参照して説明する。図12は、図11に示すカメラ装置100V及びサーバ装置300Vにおいて、来客者動線情報を抽出し、来客者動線情報を行動軌跡として背景画像に重畳させるまでの処理を説明するためのフローチャートである。図12では、ステップS21〜ステップS23の各処理と、ステップS24〜ステップS26の各処理とは時間的に並列に行われる。言い換えると、ステップS21〜ステップS23の各処理の前又は後にステップS24〜ステップS26の各処理が行われるのではない。

0084

図12において、カメラ装置100Vは、撮像エリア(例えば店舗のフロア)の撮像画像に対応する背景画像(つまり、撮像画像から画角内に現れる人物を消した画像)を、定期的に繰り返して生成する。カメラ装置100Vは、この生成した背景画像のデータを、定期時間帯(例えば15分間隔)にカメラ装置100内の背景画像蓄積部80に一時保持する(ステップS21)。

0085

カメラ装置100Vは、撮像エリア(例えば店舗のフロア)の撮像画像のデータのフレーム毎に、撮像画像のフレームにおける来客者152を含む移動体の動線情報を抽出して生成する。カメラ装置100Vは、この生成した移動体の動線情報のデータを、定期時間帯(例えば15分間隔)にカメラ装置100内の通過/滞留分析情報蓄積部90に一時保持する(ステップS22)。カメラ装置100Vは、ステップS21及びステップS22においてそれぞれ一時保存した背景画像のデータと移動体の動線情報とをサーバ装置300Vに送信する。

0086

サーバ装置300Vは、カメラ装置100Vから送信された背景画像のデータ及び移動体の動線情報を受信して受信情報蓄積部340に保存する(ステップS23)。

0087

また、カメラ装置100Vは、撮像エリア(例えば店舗のフロア)を撮像し、撮像画像のデータ(つまり、撮像エリアの映像)をサーバ装置300Vに送信する(ステップS24)。

0088

サーバ装置300Vは、カメラ装置100Vから送信された撮像画像のデータを基に、撮像画像のデータのフレーム毎に画像処理を行い、来客者152により所持され、又は来客者152の利用物に装着される来客者識別情報(例えばカラーバーコード)を検出して抽出する。サーバ装置300Vは、撮像画像のデータのフレーム数にわたり、フレーム毎に抽出した来客者識別情報を時間的に繋ぎ合わせることで、来客者152の店舗内のフロアにおける滞留位置又は通過位置に関する動線情報(来客者動線情報)を生成して抽出する(ステップS25)。

0089

サーバ装置300Vは、この生成した来客者動線情報を受信情報蓄積部340に保存する(ステップS26)。

0090

サーバ装置300Vが背景画像のデータと来客者152の来客者動線情報と移動体の動線情報とを受信情報蓄積部340に保存した後、ユーザの入力デバイス400を用いた操作により、ユーザが動線分析したい日時が指定される(ステップS27)。なお、図3図11では、図面の複雑化を回避するために、入力デバイス400と表示画像生成部350との間の矢印の図示を省略している。

0091

ステップS27の指定により、サーバ装置300の表示画像生成部350は、受信情報蓄積部340を参照し、ユーザにて指定された日時の背景画像のデータと来客者152の来客者動線情報とを取得する(ステップS28)。

0092

表示画像生成部350は、ユーザにて指定された日時の背景画像のデータと来客者152の来客者動線情報とを取得した後、背景画像に来客者152の来客者動線情報を重畳した動線分析画像を生成する。また、表示画像生成部350は、予め設定された来客者152に紐付けされたアイコンのオーバーレイ表示を行うための表示情報を生成する(ステップS29)。そして、表示画像生成部350は、この生成した動線分析画像とアイコンとを対応付けるようにモニタ450に表示させる(ステップS30)。

0093

図13は、図10に示すカメラ装置100Sの変形例における機能的な内部構成を詳細に示すブロック図である。図13の説明において、図10に示すカメラ装置100Sの各部と同一の構成については同一の符号を付与して説明を省略し、異なる内容について説明する。

0094

来客者動線情報生成処理部370SVは、画像入力部20から出力された撮像画像のデータを基に、撮像画像のデータのフレーム毎に画像処理を行い、来客者152により所持され、又は来客者152の利用物に装着される来客者識別情報を検出して抽出する。来客者動線抽出部の一例としての来客者動線情報生成処理部370SVは、画像入力部20から出力された撮像画像のデータのフレーム数にわたり、フレーム毎に抽出した来客者識別情報を時間的に繋ぎ合わせることで、来客者152の店舗内のフロアにおける滞留位置又は通過位置に関する動線情報(来客者動線情報)を生成して抽出する。来客者動線情報生成処理部370SVは、来客者動線情報を来客者の通過/滞留分析情報蓄積部171SVに保存する。

0095

来客者の通過/滞留分析情報蓄積部171SVは、例えばフラッシュメモリ又はハードディスクを用いて構成され、来客者動線情報生成処理部370SVにより生成された来客者152の来客者動線情報を保存する。また、図3図10に示す来客者の通過/滞留分析情報蓄積部171も同様にフラッシュメモリ又はハードディスクを用いて構成される。

0096

表示画像生成部350SVは、来客者の通過/滞留分析情報蓄積部171SVから来客者152の来客者動線情報を読み出し、更に、背景画像蓄積部80から背景画像のデータを読み出す。表示画像生成部350SVは、背景画像に来客者152の来客者動線情報を重畳した動線分析画像を生成する。また、表示画像生成部350SVは、例えば不図示のカメラ装置100SV内のメモリに予め保持されている、設定済みの来客者152に対応するアイコンを動線分析画像にオーバーレイ表示した表示情報(例えば図6参照)を生成する。

0097

送信部60SVは、表示画像生成部350SVにより生成された動線分析画像、又は来客者152を示すアイコンが重畳された動線分析画像のデータをサーバ装置300に送信する。

0098

以上により、図11に示すカメラ装置100V及びサーバ装置300Vを含む動線分析システムの例では、サーバ装置300Vは、カメラ装置100Vから送信された撮像画像のデータを基に、来客者152により所持され、又は来客者152の利用物に装着される来客者識別情報(例えばカラーバーコード)を検出して抽出する。サーバ装置300Vは、撮像画像のデータのフレーム数にわたり、抽出された来店客識別情報を時間的に繋ぎ合わせることで、来客者152の来客者動線情報を生成し、この来客者動線情報を背景画像に重畳した動線分析画像を生成してモニタ450に表示させる。

0099

これにより、図11に示すカメラ装置100V及びサーバ装置300Vを含む動線分析システムは、来客者152と従業員151とが混在する店舗において、来客者152のプライバシーの保護を図りながらも、来客者152の行動軌跡を正確に把握することができ、レイアウト変更等によって所定のタイミングで更新された背景画像に人物(例えば来客者152)の滞留情報又は通過情報を重畳した正確な動線分析画像を生成することができる。

0100

また、カメラ装置100V及びサーバ装置300Vを含む動線分析システムでは、カメラ装置100Vは、撮像エリアである店舗のフロアの撮像画像に含まれる来客者152を含む移動体の移動体動線情報を抽出してサーバ装置300Vに送信する。サーバ装置300Vは、カメラ装置100Vから送信された移動体の移動体動線情報とサーバ装置300Vにより抽出された来客者152の来客者動線情報とを背景画像に重畳した動線分析画像を生成する。これにより、サーバ装置300Vは、店舗のフロアに現れる移動体(従業員151、来客者152の両方を含む)の動線情報と来客者152の動線情報とを背景画像上で確認可能な動線分析画像を生成でき、ユーザのマーケティングに資する証拠画像データを得ることができる。

0101

また、カメラ装置100V及びサーバ装置300Vを含む動線分析システムでは、カラーバーコードを来店客動線情報として使用することで、サーバ装置300Vは、図2に示すBLE送信端末150やBLE受信端末160のような特別な送信機及び受信機を必要とせずに、カメラ装置100Vから送信された撮像画像のデータを画像処理することで、来客者152の店舗内のフロアの滞留位置又は通過位置に関する来店客動線情報を正確に生成して抽出することができる。

0102

また、カメラ装置100V及びサーバ装置300Vを含む動線分析システムでは、サーバ装置300Vは、来客者152又は来客者152の利用物を示すアイコンを背景画像に重畳した動線分析画像を生成する。これにより、サーバ装置300Vは、特定の注目する対象となる来客者152(例えばお得意様等の重要顧客)について、店舗のフロア内の動線状況を、ユーザに対して正確に把握させることができる。

0103

また、図13に示すカメラ装置100SVを含む動線分析システムでは、カメラ装置100SVは、撮像エリアの撮像画像の背景画像を生成するとともに、撮像画像に含まれる来客者152の来客者識別情報を検出して抽出する。カメラ装置100SVは、滞留位置又は通過位置に関する動線情報を取得し、背景画像と来客者の動線情報とを用いて、来客者の動線情報を行動軌跡として、撮像画像の背景画像に重畳した動線分析画像を生成し、動線分析画像をモニタ450に表示させるサーバ装置(例えば図3に示すサーバ装置300)に送信する。

0104

これにより、カメラ装置100SVは、従業員151と来客者152が混在する店舗においても、来客者152のみの行動軌跡を把握可能な動線分析画像を生成することができる。また、来客者152のみの行動軌跡を把握できることから、マーケティング情報の把握も容易に行える。また、カメラ装置100SVは、撮像により得られた撮像画像から人物を取り除いた背景画像を用いることで、撮像エリアに現れた人物のプライバシー保護を図ることができる。また、店舗内で陳列などレイアウト変更があっても、レイアウト変更と来客者152の行動軌跡の相関を俯瞰することができる。

0105

また、カメラ装置100SVは、動線分析画像の生成処理まで実行して生成結果である動線分析画像をサーバ装置300に送信するので、例えばサーバ装置300の処理負荷が相当に高い状態では、動線分析画像の生成処理をサーバ装置300に実行させなくて済むため、サーバ装置300の処理負荷の増大を抑制することができる。

0106

以上、図面を参照しながら各種の実施形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。

0107

本発明は、来客者と従業員が混在する店舗において、プライバシーの保護を図りながらも、来客者の行動軌跡を把握することができるといった効果を有し、所定のタイミングで更新された背景画像に人物の滞留情報又は通過情報を重畳した正確な動線分析画像を生成する動線分析システム、カメラ装置及び動線分析方法として有用である。

0108

10撮像部
20画像入力部
30背景画像生成部
31入力画像学習部
32 移動体分離部
33 背景画像抽出部
40動線情報分析部
41 対象検出部
42 動線情報取得部
43 通過/滞留状況分析部
50スケジュール管理部
60、60SV送信部
60V映像送信部
70イベント情報受領部
80 背景画像蓄積部
90 通過/滞留分析情報蓄積部
100、100A、100N、100S、100V、100SVカメラ装置
150BLE送信端末
151従業員
152来客者
160 BLE受信端末
170 来客者情報取得部
171、171SV 来客者の通過/滞留分析情報蓄積部
200レコーダ
300、300V、600サーバ装置
310 イベント情報受領部
320通知部
330 受信部
330V映像受信部
340受信情報蓄積部
350、350V、350SV表示画像生成部
360レポート生成出力部
370、370SV 来客者動線情報生成処理部
400入力デバイス
450モニタ
500A、500B、500C動線分析システム
700スマートフォン
800クラウドコンピュータ
900設定端末装置
1000販売管理システム
CT人数カウント部
SDシーン識別部

ページトップへ

この技術を出願した法人

この技術を発明した人物

ページトップへ

関連する挑戦したい社会課題

関連する公募課題

ページトップへ

技術視点だけで見ていませんか?

この技術の活用可能性がある分野

分野別動向を把握したい方- 事業化視点で見る -

ページトップへ

おススメ サービス

おススメ astavisionコンテンツ

新着 最近 公開された関連が強い技術

この 技術と関連性が強い人物

関連性が強い人物一覧

この 技術と関連する社会課題

関連する挑戦したい社会課題一覧

この 技術と関連する公募課題

関連する公募課題一覧

astavision 新着記事

サイト情報について

本サービスは、国が公開している情報(公開特許公報、特許整理標準化データ等)を元に構成されています。出典元のデータには一部間違いやノイズがあり、情報の正確さについては保証致しかねます。また一時的に、各データの収録範囲や更新周期によって、一部の情報が正しく表示されないことがございます。当サイトの情報を元にした諸問題、不利益等について当方は何ら責任を負いかねることを予めご承知おきのほど宜しくお願い申し上げます。

主たる情報の出典

特許情報…特許整理標準化データ(XML編)、公開特許公報、特許公報、審決公報、Patent Map Guidance System データ