図面 (/)

技術 動線分析システム及び動線分析方法

出願人 パナソニックIPマネジメント株式会社
発明者 中野純子神田麻理恵山本裕之杉下嘉宏
出願日 2016年1月6日 (4年1ヶ月経過) 出願番号 2016-001332
公開日 2017年7月13日 (2年7ヶ月経過) 公開番号 2017-123025
状態 特許登録済
技術分野 閉回路テレビジョンシステム イメージ分析
主要キーワード 表示感度 床配置図 統計期間 滞留情報 滞留位置 クラウドコンピュータ 滞留状況 データ比較結果
関連する未来課題
重要な関連分野

この項目の情報は公開日時点(2017年7月13日)のものです。
また、この項目は機械的に抽出しているため、正しく解析できていない場合があります

図面 (20)

課題

撮像した場所又は時間等の撮像条件に応じて、移動体滞留情報又は通過情報を容易に把握可能な適切な動線分析画像を生成する。

解決手段

動線分析システムは、カメラ装置サーバ装置とが相互に接続される。カメラ装置は、対象領域を撮像し、対象領域の撮像画像に含まれる移動体の滞留位置又は通過位置に関する動線情報を抽出し、所定の送信周期毎に、撮像画像と動線情報とをサーバ装置に送信する。サーバ装置は、カメラ装置から送信された撮像画像と動線情報とを取得し、動線情報を表示する際の感度を撮像画像の撮像条件によって設定し、感度に応じた移動体の動線情報を、撮像画像に重畳した動線分析画像を生成し、サーバ装置に接続されるモニタに動線分析画像を表示する。

概要

背景

カメラ装置が設置された撮影現場における時間毎人物活動量ベルヒートマップ画像として表示する先行技術として、例えば特許文献1が知られている。

特許文献1では、ネットワークを介して接続されたセキュリティカメラが設置された撮影現場における人物の動線分析して活動量レベルを算出し、撮影現場の床配置図センサの検出結果を重畳したヒートマップ画像を生成し、セキュリティカメラに対応したブラウザ画面上にヒートマップ画像を表示することが開示されている。これにより、ブラウザの画面上に表示されたヒートマップ画像を閲覧することにより、撮影現場における人物の活動量レベルが把握可能となる。

概要

撮像した場所又は時間等の撮像条件に応じて、移動体滞留情報又は通過情報を容易に把握可能な適切な動線分析画像を生成する。動線分析システムは、カメラ装置とサーバ装置とが相互に接続される。カメラ装置は、対象領域を撮像し、対象領域の撮像画像に含まれる移動体の滞留位置又は通過位置に関する動線情報を抽出し、所定の送信周期毎に、撮像画像と動線情報とをサーバ装置に送信する。サーバ装置は、カメラ装置から送信された撮像画像と動線情報とを取得し、動線情報を表示する際の感度を撮像画像の撮像条件によって設定し、感度に応じた移動体の動線情報を、撮像画像に重畳した動線分析画像を生成し、サーバ装置に接続されるモニタに動線分析画像を表示する。

目的

本発明は、上述した従来の課題を解決するために、撮像した場所又は時間等の撮像条件に応じて、移動体の滞留情報又は通過情報を容易に把握可能な適切な動線分析画像を生成することができる動線分析システム及び動線分析方法を提供する

効果

実績

技術文献被引用数
0件
牽制数
0件

この技術が所属する分野

ライセンス契約や譲渡などの可能性がある特許掲載中! 開放特許随時追加・更新中 詳しくはこちら

請求項1

カメラ装置サーバ装置とが相互に接続された動線分析システムであって、前記カメラ装置は、対象領域を撮像し、前記対象領域の撮像画像に含まれる移動体滞留位置又は通過位置に関する動線情報を抽出し、所定の送信周期毎に、前記撮像画像と前記動線情報とを前記サーバ装置に送信し、前記サーバ装置は、前記カメラ装置から送信された前記撮像画像と前記動線情報とを取得し、前記動線情報を表示する際の感度を前記撮像画像の撮像条件によって設定し、前記感度に応じた移動体の動線情報を、前記撮像画像に重畳した動線分析画像を生成し、前記サーバ装置に接続されるモニタに前記動線分析画像を表示する、動線分析システム。

請求項2

請求項1に記載の動線分析システムであって、前記サーバ装置は、複数の異なる前記カメラ装置毎に前記動線情報を表示する際の感度を設定し、前記動線分析画像を生成する、動線分析システム。

請求項3

請求項1に記載の動線分析システムであって、前記サーバ装置は、前記撮像画像が撮像された時間毎に前記動線情報を表示する際の感度を設定し、前記動線分析画像を生成する、動線分析システム。

請求項4

請求項1から3のいずれか一項に記載の動線分析システムであって、前記サーバ装置は、前記動線情報を表示する際の感度を、前記取得した動線情報に基づいて算出して設定する、動線分析システム。

請求項5

請求項1から3のいずれか一項に記載の動線分析システムであって、前記サーバ装置は、前記動線情報を表示する際の感度を、固定値を取得して設定する、動線分析システム。

請求項6

請求項1から5のいずれか一項に記載の動線分析システムであって、前記サーバ装置は、前記サーバ装置に接続される入力デバイスからの操作入力を取得し、前記動線情報を表示する際の感度を前記操作入力に対応して設定する、動線分析システム。

請求項7

カメラ装置とサーバ装置とが相互に接続された動線分析システムにおける動線分析方法であって、前記カメラ装置において、対象領域を撮像し、前記対象領域の撮像画像に含まれる移動体の滞留位置又は通過位置に関する動線情報を抽出し、所定の送信周期毎に、前記撮像画像と前記動線情報とを前記サーバ装置に送信し、前記サーバ装置において、前記カメラ装置から送信された前記撮像画像と前記動線情報とを取得し、前記動線情報を表示する際の感度を前記撮像画像の撮像条件によって設定し、前記感度に応じた移動体の動線情報を、前記撮像画像に重畳した動線分析画像を生成し、前記サーバ装置に接続されるモニタに前記動線分析画像を表示する、動線分析方法。

技術分野

0001

本発明は、カメラ装置撮像により得られた画像に、人物等の移動体滞留情報又は通過情報重畳した動線分析画像を生成する動線分析システム及び動線分析方法に関する。

背景技術

0002

カメラ装置が設置された撮影現場における時間毎の人物の活動量ベルヒートマップ画像として表示する先行技術として、例えば特許文献1が知られている。

0003

特許文献1では、ネットワークを介して接続されたセキュリティカメラが設置された撮影現場における人物の動線を分析して活動量レベルを算出し、撮影現場の床配置図センサの検出結果を重畳したヒートマップ画像を生成し、セキュリティカメラに対応したブラウザ画面上にヒートマップ画像を表示することが開示されている。これにより、ブラウザの画面上に表示されたヒートマップ画像を閲覧することにより、撮影現場における人物の活動量レベルが把握可能となる。

先行技術

0004

特開2009−134688号公報

発明が解決しようとする課題

0005

ここで、カメラ装置が所定の撮像領域(例えば店舗内の予め決められた位置)を撮像し、それぞれの撮像領域における人物等の移動体の滞留情報又は通過情報を重畳した動線分析画像を生成、表示する場合を考える。

0006

カメラ装置の撮像により得られた撮像画像に、移動体の滞留情報又は通過情報を重畳した動線分析画像(ヒートマップ画像)を生成する際、撮像した場所又は時間等の撮像条件によって、滞留又は通過する移動体の数が大きく異なる場合がある。例えば、店舗においては、セール品の売場食料品の売場などは多くの人が集まり、また、セール期間などの時間帯によって営業時間内でも来店人数が大きく変化する。このため、繁忙時の場所及び時間と閑散時の場所及び時間とでは、取得される移動体の滞留情報又は通過情報における移動体数の範囲が異なってくる。このような状況では、生成しようとする動線分析画像における表示移動体数の設定値に対して、検出された移動体数が大きく異なり、両者に差がある場合、適切な動線分析画像の生成、表示ができない場合が生じ得る。

0007

本発明は、上述した従来の課題を解決するために、撮像した場所又は時間等の撮像条件に応じて、移動体の滞留情報又は通過情報を容易に把握可能な適切な動線分析画像を生成することができる動線分析システム及び動線分析方法を提供することを目的とする。

課題を解決するための手段

0008

本発明は、カメラ装置とサーバ装置とが相互に接続された動線分析システムであって、前記カメラ装置は、対象領域を撮像し、前記対象領域の撮像画像に含まれる移動体の滞留位置又は通過位置に関する動線情報を抽出し、所定の送信周期毎に、前記撮像画像と前記動線情報とを前記サーバ装置に送信し、前記サーバ装置は、前記カメラ装置から送信された前記撮像画像と前記動線情報とを取得し、前記動線情報を表示する際の感度を前記撮像画像の撮像条件によって設定し、前記感度に応じた移動体の動線情報を、前記撮像画像に重畳した動線分析画像を生成し、前記サーバ装置に接続されるモニタに前記動線分析画像を表示する、動線分析システムを提供する。

0009

また、本発明は、カメラ装置とサーバ装置とが相互に接続された動線分析システムにおける動線分析方法であって、前記カメラ装置において、対象領域を撮像し、前記対象領域の撮像画像に含まれる移動体の滞留位置又は通過位置に関する動線情報を抽出し、所定の送信周期毎に、前記撮像画像と前記動線情報とを前記サーバ装置に送信し、前記サーバ装置において、前記カメラ装置から送信された前記撮像画像と前記動線情報とを取得し、前記動線情報を表示する際の感度を前記撮像画像の撮像条件によって設定し、前記感度に応じた移動体の動線情報を、前記撮像画像に重畳した動線分析画像を生成し、前記サーバ装置に接続されるモニタに前記動線分析画像を表示する、動線分析方法を提供する。

発明の効果

0010

本発明によれば、撮像した場所又は時間等の撮像条件に応じて、移動体の滞留情報又は通過情報を容易に把握可能な適切な動線分析画像を生成することができる。

図面の簡単な説明

0011

本実施形態の動線分析システムを含む販売管理システムシステム構成を詳細に示すシステム構成図
本実施形態のカメラ装置及びサーバ装置のそれぞれの機能的な内部構成を詳細に示すブロック図
本実施形態のカメラ装置の背景画像生成部の動作概要の説明図
(A)画像入力部に入力された撮像画像の一例を示す図、(B)背景画像生成部により生成された背景画像の一例を示す図
本実施形態のカメラ装置の画像入力、背景画像生成、動線情報分析の各処理の動作タイミングを説明するタイムチャート
本実施形態のカメラ装置が定期的に送信処理を行う場合のタイムチャート
本実施形態のカメラ装置がイベントの検出に応じて送信処理の動作タイミングを変更する場合のタイムチャート
本実施形態のカメラ装置がイベントの検出前後では送信処理を省略する場合のタイムチャート
本実施形態のカメラ装置が複数個設置された食料品売場のレイアウトの一例を示す図
本実施形態のサーバ装置の表示画像生成部により生成された店舗Aの動線分析画像を含む運用画面の一例を示す図
本実施形態のサーバ装置の表示画像生成部により生成された店舗Aの動線分析画像を含む運用画面の他の一例を示す図
本実施形態のサーバ装置のレポート生成出力部により生成された2014年5月度の店舗Aの食料品売場における月例報告書の運用画面の一例を示す図
本実施形態の変形例のカメラ装置の機能的な内部構成を詳細に示すブロック図
本実施形態のサーバ装置の表示画像生成部により生成された店舗Aの動線分析画像を含む運用画面の第3例を示す図
タイムラインバーの説明図
図14に示す運用画面に含まれるタイムラインバーに対して指定された変更後の時間範囲に対応する店舗Aの動線分析画像を含む運用画面の一例を示す図
図14に示すジャンプボタンのうち、+1日ボタン、−1日ボタンの押下に応じた動線分析画像の切り替え表示例を示す説明図
本実施形態のサーバ装置の表示画像生成部により生成された店舗Aの動線分析画像の他の例として、ヒートマップ表示の感度を3人に設定した動線分析画像の例を示す図
本実施形態のサーバ装置の表示画像生成部により生成された店舗Aの動線分析画像の他の例として、ヒートマップ表示の感度を30人に設定した動線分析画像の例を示す図
本実施形態のサーバ装置の表示画像生成部により生成された店舗Aの動線分析画像の他の例として、ヒートマップ表示の感度を300人に設定した動線分析画像の例を示す図
動線情報を表示する際のヒートマップ表示の感度を設定するための運用画面の一例を示す図
ヒートマップ表示の第1例として、カメラ装置毎(撮像した場所毎)の感度設定に応じた感度でヒートマップ画像を生成し表示する際の手順を示すフローチャート
ヒートマップ表示の第2例として、撮像した時間毎の感度設定に応じた感度でヒートマップ画像を生成し表示する際の手順を示すフローチャート

実施例

0012

以下、適宜図面を参照しながら、本発明に係る動線分析システム及び動線分析方法を具体的に開示した実施形態(以下、「本実施形態」という)を詳細に説明する。なお、本発明は、カメラ装置が動線分析画像(後述参照)を生成する動作(ステップ)を含む動線分析画像生成方法として規定してもよい。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。

0013

また、以下の本実施形態では、図1に示すように、例えば本発明に係る動線分析システム500A,500B,500C,…が複数の店舗(店舗A,店舗B,店舗C,…)毎に設置され、複数の動線分析システム500A,500B,500C,…がネットワークNWを介して接続された販売管理システム1000の使用形態を想定して説明する。但し、本発明に係る動線分析システム、カメラ装置及び動線分析方法の実施形態は、後述する本実施形態の内容に限定されない。

0014

図1は、本実施形態の動線分析システム500A,500B,500C,…を含む販売管理システム1000のシステム構成を詳細に示すシステム構成図である。図1に示す販売管理システム1000は、複数の店舗A,B,C,…に個々に設置された動線分析システム500A,500B,500C,…と、運営本部のサーバ装置600と、スマートフォン700と、クラウドコンピュータ800と、設定端末装置900とを含む構成である。

0015

それぞれの動線分析システム500A,500B,500C,…と、運営本部のサーバ装置600と、スマートフォン700と、クラウドコンピュータ800と、設定端末装置900とは、ネットワークNWを介して相互に接続されている。ネットワークNWは、無線ネットワーク又は有線ネットワークである。無線ネットワークは、例えば無線LAN(Local Area Network)、無線WAN(Wide Area Network)、3G、LTE(Long Term Evolution)又はWiGig(Wireless Gigabit)である。有線ネットワークは、例えばイントラネット又はインターネットである。

0016

図1に示す店舗Aに設置された動線分析システム500Aは、フロア1に設置された複数のカメラ装置100,100A,…,100Nと、レコーダ200と、サーバ装置300と、入力デバイス400と、モニタ450とを含む構成である。なお、フロア2にもフロア1と同様に複数のカメラ装置が設置され、フロア2内のカメラ装置の図示を省略している。それぞれのカメラ装置100,100A,…100Nの内部構成は同様であり、その詳細については図2を参照して後述する。

0017

レコーダ200は、例えば半導体メモリ又はハードディスク装置を用いて構成され、店舗A内に設置された各カメラ装置の撮像により得られた画像(以下、カメラ装置の撮像により得られた画像を「撮像画像」という)のデータを記憶する。レコーダ200に記憶された撮像画像のデータは、例えば防犯等の監視業務に供される。

0018

サーバ装置300は、例えばPC(Personal Computer)を用いて構成され、入力デバイス400を操作するユーザ(例えば動線分析システムのユーザであって、店舗Aの店員店長を指す。以下同様。)の入力操作に応じて、所定のイベント(例えば店舗Aのフロア1の売場のレイアウトの変更)が発生したことをカメラ装置100に通知する。

0019

また、サーバ装置300は、カメラ装置(例えばカメラ装置100)から送信されたデータ(後述参照)を用いて、カメラ装置(例えばカメラ装置100)の撮像領域における移動体(例えば店員、店長、来店客等の人物。以下同様。)の滞留位置又は通過位置に関する動線情報をカメラ装置(例えばカメラ装置100)の撮像画像に重畳した動線分析画像を生成してモニタ450に表示させる。

0020

更に、サーバ装置300は、入力デバイス400を操作するユーザの入力操作に応じて、所定の処理(例えば後述する動線分析レポート生成処理)を行い、動線分析レポートをモニタ450に表示させる。サーバ装置300の内部構成の詳細については図2を参照して後述する。

0021

入力デバイス400は、例えばマウスキーボードタッチパネル又はタッチパッドを用いて構成され、ユーザの入力操作に応じた信号をカメラ装置100又はサーバ装置300に出力する。なお、図1では、図面を簡単にするために、入力デバイス400とカメラ装置100との間にだけ矢印が図示されているが、入力デバイス400と他のカメラ装置(例えばカメラ装置100A、100N)との間に矢印が図示されてもよい。

0022

モニタ450は、例えばLCD(Liquid Crystal Display)又は有機EL(Electroluminescence)を用いて構成され、サーバ装置300により生成された動線分析画像又は動線分析レポートのデータを表示する。なお、モニタ450は、サーバ装置300とは異なる外部装置として設けられるが、サーバ装置300の内部に含まれた構成としてもよい。

0023

運営本部のサーバ装置600は、運営本部のサーバ装置600を操作する運営本部の従業員(例えば役員)の入力操作に応じて、各店舗A,B,C,…内に設置された動線分析システム500A,500B,500C,…において生成された動線分析画像又は動線分析レポートを取得して表示するための閲覧用装置である。また、運営本部のサーバ装置600は、動線分析レポート(図12参照)を生成するために必要となる各種情報(例えば売上情報来店者数情報、イベント日程情報、最高気温情報、最低気温情報)を保持する。なお、これらの各種情報は、店舗A,B,C,…毎に設けられたサーバ装置において保持されてもよい。なお、運営本部のサーバ装置600は、各店舗A,B,C,…内に設置されたサーバ装置(例えば店舗Aであればサーバ装置300)における各処理を実行してもよい。これにより、運営本部のサーバ装置600は、各店舗A,B,C,…のデータを集約して動線分析レポート(例えば後述する図12参照)を生成することができ、運営本部のサーバ装置600に対する入力操作によって選択された一つの店舗の詳細データ(例えば図12に示す動線分析レポート等)を取得することができ、又は複数の店舗間における特定の売場(例えば肉売場)のデータ比較結果の表示を行うことが可能になる。

0024

スマートフォン700は、スマートフォン700を操作する運営本部の従業員(例えば営業担当者)の入力操作に応じて、各店舗A,B,C,…内に設置された動線分析システム500A,500B,500C,…において生成された動線分析画像又は動線分析レポートを取得して表示するための閲覧用装置である。

0025

クラウドコンピュータ800は、各店舗A,B,C,…内に設置された動線分析システム500A,500B,500C,…において生成された動線分析画像又は動線分析レポートのデータを記憶するオンラインストレージであり、スマートフォン700を操作する運営本部の従業員(例えば営業担当者)の入力操作に応じて、所定の処理(例えばX月Y日の動線分析レポートの検索及び抽出)を行い、処理結果をスマートフォン700に送信する。

0026

設定端末装置900は、例えばPCを用いて構成され、各店舗A,B,C,…内に設置された動線分析システム500A,500B,500C,…のカメラ装置の設定画面を表示する専用のブラウザソフトウェアを実行可能である。設定端末装置900は、設定端末装置900を操作する運営本部の従業員(例えば販売管理システム1000のシステム管理者)の入力操作に応じて、カメラ装置の設定画面(例えばCGI(Common Gateway Interface))をブラウザソフトウェアにおいて表示し、カメラ装置の設定情報編集修正、追加、削除)して設定する。

0027

(カメラ装置)
図2は、本実施形態のカメラ装置100及びサーバ装置300のそれぞれの機能的な内部構成を詳細に示すブロック図である。図1に示す販売管理システム1000において、店舗A,B,C,…に設置されるそれぞれのカメラ装置は同様な構成であるため、図2ではカメラ装置100を例示して説明する。

0028

図2に示すカメラ装置100は、撮像部10と、画像入力部20と、背景画像生成部30と、動線情報分析部40と、スケジュール管理部50と、送信部60と、イベント情報受領部70と、背景画像蓄積部80と、通過/滞留分析情報蓄積部90とを含む構成である。背景画像生成部30は、入力画像学習部31と、移動体分離部32と、背景画像抽出部33とを含む構成である。動線情報分析部40は、対象検出部41と、動線情報取得部42と、通過/滞留状況分析部43とを含む構成である。

0029

撮像部10は、レンズイメージセンサとを少なくとも有する。レンズは、カメラ装置100の外部から入射する光(光線)を集光し、イメージセンサの所定の撮像面に結像させる。レンズには、魚眼レンズ、又は例えば140度以上の画角が得られる広角レンズが用いられる。イメージセンサは、例えばCCD(Charged-Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)の固体撮像素子であり、撮像面に結像した光学像電気信号に変換する。

0030

画像入力部20は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)又はDSP(Digital Signal Processor)を用いて構成され、撮像部10からの電気信号を用いて所定の信号処理を行うことで、人間が認識可能なRGB(Red Green Blue)又はYUV(輝度色差)等により規定される撮像画像のデータ(フレーム)を生成して背景画像生成部30及び動線情報分析部40に出力する。

0031

背景画像生成部30は、例えばCPU、MPU又はDSPを用いて構成され、所定のフレームレート(例えば30fps(frame per second))で、画像入力部20から出力された撮像画像のデータ(フレーム)毎に、撮像画像に含まれる移動体(例えば人物)を排除した背景画像を生成して背景画像蓄積部80に保存する。背景画像生成部30における背景画像の生成処理は、例えば下記の参考特許文献に開示されている方法を用いることができるが、この参考特許文献に開示されている方法に限定されない。

0032

(参考特許文献)特開2012−203680号公報

0033

ここで、背景画像生成部30の動作概要について、図3及び図4を参照して簡単に説明する。図3は、本実施形態のカメラ装置100の背景画像生成部30の動作概要の説明図である。図4(A)は、画像入力部20に入力された撮像画像の一例を示す図である。図4(B)は、背景画像生成部30により生成された背景画像の一例を示す図である。

0034

図3では、紙面の上側から下側に向かう時間軸に直交する紙面の左側から右側に向かって、入力画像学習部31、移動体分離部32、背景画像抽出部33の生成結果が模式的に示され、店舗の来店客が飲料の入った4つの段ボールのうち1つの段ボールを持ち運ぶ様子が示されている。

0035

入力画像学習部31は、画像入力部20から出力された複数の撮像画像のフレーム(例えば図3に示す各フレームFM1〜FM5)において、画素毎に、画素の輝度及び色差の値の分布状況を分析する。

0036

移動体分離部32は、入力画像学習部31の学習結果(即ち、複数のフレーム間(例えば図3に示す時間軸方向)の同一画素毎の輝度及び色差の分布状況の分析結果)を用いて、撮像画像の各フレームFM1〜FM5において、移動体(例えば人物)の情報(例えばフレームFM1a〜FM5a参照)と移動体以外(例えば背景)の情報(例えばフレームFM1b〜FM5b参照)とに分離する。なお、移動体である人物が段ボールを持ち運ぶ様子を示す撮像画像のフレームFM3,FM4では、人物が持ち運ぶ段ボールの画素に対応する輝度及び色差の値は時間軸方向(例えば図3参照)に沿って変化するので、移動体分離部32は、人物が持ち運ぶ段ボールを移動体とみなす

0037

背景画像抽出部33は、移動体分離部32が分離した情報のうち、移動体以外の情報が映るフレームFM1b〜FM5bを、画像入力部20から出力された撮像画像のフレームFM1〜FM5の背景画像のフレームFM1c〜FM5cとして抽出して背景画像蓄積部80に保存する。

0038

図4(A)に示す撮像画像のフレームFM10aでは、例えば食堂の中で料理を提供している人、料理をトレーで受け取る人がそれぞれ移動体として示されている。図4(A)に示す撮像画像のフレームFM10aに対して、背景画像生成部30が生成した背景画像のフレームFM10c(図4(B)参照)では、移動体としての同じ食堂の中で料理を提供している人も料理を受け取る人も映らないように排除されている。

0039

動線情報分析部40は、例えばCPU、MPU又はDSPを用いて構成され、所定のフレームレート(例えば10fps)で、画像入力部20から出力された撮像画像のデータ(フレーム)毎に、撮像画像に含まれる移動体(例えば人物)の滞留位置又は通過位置に関する動線情報を検出して通過/滞留分析情報蓄積部90に保存する。

0040

対象検出部41は、画像入力部20から出力された撮像画像のフレームに対して所定の画像処理(例えば人物検出処理顔検出処理)を行うことで、撮像画像のフレームに含まれる移動体(例えば人物)の有無を検出する。対象検出部41は、撮像画像のフレームに含まれる移動体を検出した場合には、撮像画像のフレームに対する移動体の検出領域に関する情報(例えばフレームの座標情報)を動線情報取得部42に出力する。なお、対象検出部41は、撮像画像のフレームに含まれる移動体を検出しなかった場合には、移動体の検出領域に関する情報(例えば所定のヌル情報)を動線情報取得部42に出力する。

0041

動線情報取得部42は、対象検出部41から出力された移動体の検出領域に関する情報を基に、画像入力部20から出力された撮像画像の情報と、過去の移動体の検出領域に関する情報(例えば、撮像画像情報や座標情報)を用いて、現在と過去の検出領域に関する情報の紐付けを行い、動線情報(例えば移動体の検出領域の座標情報の変化量)として通過/滞留状況分析部43に出力する。

0042

通過/滞留状況分析部43は、複数の撮像画像に対して動線情報取得部42から出力された動線情報を基に、撮像画像のフレームにおける移動体(例えば人物)の滞留位置又は通過位置に関する動線情報(例えば、「対象位置情報」と「動線情報」と「通過状況又は滞留状況に関する情報」)を抽出して生成する。また、通過/滞留状況分析部43は、移動体(例えば人物)の滞留位置又は通過位置に関する動線情報の抽出結果を用いて、サーバ装置300の表示画像生成部350において生成される動線分析画像(ヒートマップ画像)のカラー部分可視化画像を生成してもよい。

0043

通過/滞留状況分析部43は、複数の撮像画像のフレームに対する動線情報を用いることで、画像入力部20から出力された撮像画像のフレームの中で、移動体(例えば人物)が滞留した位置又は通過した位置に関する正確な動線情報を抽出して生成することができる。

0044

スケジュール管理部50は、例えばCPU、MPU又はDSPを用いて構成され、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとをサーバ装置300に定期的に送信するための所定の送信周期を送信部60に指示する。所定の送信周期は、例えば15分、1時間、12時間、24時間等であるが、これらの時間間隔に限定されない。

0045

送信部60は、スケジュール管理部50又はイベント情報受領部70からの指示に応じて、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300に送信する。送信部60における送信タイミングについては、図5図6図7及び図8を参照して後述する。

0046

イベント情報取得部の一例としてのイベント情報受領部70は、サーバ装置300又は入力デバイス400から所定のイベント(例えば店舗Aのフロア1の売場のレイアウトの変更)の検出の通知を受領(取得)し、所定のイベントの検出の通知を受領したことで、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信指示を送信部60に出力する。

0047

背景画像蓄積部80は、例えば半導体メモリ又はハードディスク装置を用いて構成され、背景画像生成部30により生成された背景画像のデータ(フレーム)を記憶する。

0048

通過/滞留分析情報蓄積部90は、例えば半導体メモリ又はハードディスク装置を用いて構成され、動線情報分析部40により生成された移動体(例えば人物)の滞留位置又は通過位置に関する動線情報の抽出結果(例えば、「対象位置情報」と「動線情報」と「通過状況又は滞留状況に関する情報」)のデータを記憶する。

0049

なお、図2に示すカメラ装置100は、イベント情報受領部70の代わりに、シーン識別部SDを設けてもよく、以下同様である(例えば図13参照)。画像変化検出部の一例としてのシーン識別部SDは、画像入力部20から出力された撮像画像の変化(例えば店舗Aのフロア1の売場のレイアウトが変更したというイベント)の有無を検出する。シーン識別部SDは、撮像画像の変化を検出した場合には、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信指示を送信部60に出力する。

0050

また、図2に示すカメラ装置100は、人数カウント部CTを更に設けてもよく、以下同様である(例えば図13参照)。移動体検出部の一例としての人数カウント部CTは、画像入力部20から出力された撮像画像に対して所定の画像処理(例えば人物検出処理)を行うことで、撮像画像に含まれる移動体の検出数カウントする。人数カウント部CTは、撮像画像に含まれる移動体の検出数に関する情報を送信部60に出力する。

0051

(サーバ装置)
図2に示すサーバ装置300は、イベント情報受領部310と、通知部320と、受信部330と、受信情報蓄積部340と、表示画像生成部350と、レポート生成出力部360とを含む構成である。

0052

イベント情報受領部310は、該当するカメラ装置(例えばカメラ装置100)毎に、所定のイベント(例えば店舗Aのフロア1の売場のレイアウトの変更)が発生したことを示す情報が入力デバイス400から入力された場合には、所定のイベントの検出の通知を受領する。イベント情報受領部310は、所定のイベントの検出の通知を受領したことを通知部320に出力する。なお、所定のイベントが発生したことを示す情報には、所定のイベントが発生した場所を撮像領域として撮像するカメラ装置の識別番号(例えば後述するC1,C2,…)が含まれる。

0053

通知部320は、イベント情報受領部310から出力された所定のイベントの検出の通知を該当するカメラ装置(例えばカメラ装置100)に送信する。

0054

受信部330は、カメラ装置100の送信部60から送信されたデータ(即ち、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータ)を受信して受信情報蓄積部340及び表示画像生成部350に出力する。

0055

受信情報蓄積部340は、例えば半導体メモリ又はハードディスク装置を用いて構成され、受信部330が受信したデータ(即ち、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータ)を記憶する。

0056

画像生成部の一例としての表示画像生成部350は、例えばCPU、MPU又はDSPを用いて構成される。表示画像生成部350は、表示用の動線分析画像の生成指示が入力デバイス400から入力された場合に、背景画像に移動体の滞留位置又は通過位置に関する動線情報を重畳した動線分析画像を生成する。表示画像生成部350は、動線分析画像を生成する際に、受信部330又は受信情報蓄積部340から取得したデータ(即ち、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータ)を用いて画像を生成する。

0057

動線分析画像は、カメラ装置100が撮像した撮像画像の中で移動体(例えば人物)が映らないように排除された背景画像に、撮像画像に対応する撮像領域において移動体がどこによく滞留したか、又はどこを通過したかを視覚的に示す動線情報がヒートマップのように所定のレンジ(例えば0〜255の値)の範囲内に定量的に可視化された画像である。また、表示制御部の一例としての表示画像生成部350は、生成した動線分析画像をモニタ450に表示させる。

0058

レポート生成部の一例としてのレポート生成出力部360は、例えばCPU、MPU又はDSPを用いて構成され、動線分析レポートの生成指示が入力デバイス400から入力された場合には、後述する動線分析レポート(例えば図12参照)を生成する。また、表示制御部の一例としてのレポート生成出力部360は、生成した動線分析レポートをモニタ450に表示させる。

0059

(カメラ装置からサーバ装置へのデータ送信処理
次に、カメラ装置100からサーバ装置300へのデータの送信処理について、図5図6図7及び図8を参照して説明する。図5は、本実施形態のカメラ装置100の送信処理の動作タイミングを説明するタイムチャートである。図6は、本実施形態のカメラ装置100が定期的に送信処理を行う場合のタイムチャートである。図7は、本実施形態のカメラ装置100がイベントの検出に応じて送信処理の動作タイミングを変更する場合のタイムチャートである。図8は、本実施形態のカメラ装置100がイベントの検出前後では送信処理を省略する場合のタイムチャートである。

0060

図5において、カメラ装置100では、画像入力部20から撮像画像が出力されると(画像入力)、背景画像生成部30は画像入力部20から出力された撮像画像の背景画像を生成して背景画像蓄積部80に保存し(背景画像生成)、動線情報分析部40は画像入力部20から出力された撮像画像に含まれる移動体(例えば人物)の滞留位置又は通過位置に関する動線情報を抽出する(動線情報分析)。これらの画像入力、背景画像生成、動線情報分析の各処理は定期的に繰り返して実行される。但し、これらの画像入力、背景画像生成、動線情報分析の各処理は繰り返して実行されるのであれば、各処理の間隔は同一でなくてもよい。

0061

例えば図5に示す第1回目の画像入力、背景画像生成、動線情報分析の各処理の後、送信部60は、例えば図7に示すように、スケジュール管理部50から指示された送信周期の満了時点になると、例えばスケジュール管理部50からタイマー割込を受けて、前回送信時刻t0から今回の送信時刻t1までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300に送信する(時刻t1)。なお、上述したように送信部60における定期的な送信間隔(送信周期)は、15分、1時間、12時間、24時間等であり予めスケジュール管理部50から指示されている。また、送信部60により送信される背景画像のデータは1枚分のデータでもよいし、複数枚(例えば5分毎に得られた複数の背景画像)分のデータでもよい。

0062

次に、図5に示す第2回目以降の画像入力、背景画像生成、動線情報分析の各処理の度に、送信部60は、例えば図7に示すように、スケジュール管理部50から指示された送信周期の満了時点になると、例えばスケジュール管理部50からタイマー割込を受けて、前回の送信時刻t1から今回の送信時刻t2までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300に送信する(時刻t2)。

0063

また、送信部60は、例えば図7に示すように、所定のイベント(例えば店舗Aのフロア1の売場のレイアウトの変更)の検出の通知をイベント情報受領部70から受けると(時刻t3)、例えばイベント情報受領部70からイベント割込を受けて、前回の送信時刻t2から今回の送信時刻t3までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300に送信する(時刻t3)。なお、送信部60における送信処理については、図7に示す方法以外に、図6又は図8のうちいずれかの方法に従ってもよい。

0064

図6図7及び図8では、図5の送信処理と同一の内容についての説明は簡略化又は省略し、異なる内容について説明する。具体的には、図6では、送信部60は、時刻t3においてイベント情報受領部70からイベント割込を受けても、前回の送信時刻t2から今回の送信時刻t3までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信を省略する(時刻t3)。

0065

しかし、図6の送信処理では、時刻t2から時刻t3までに所定のイベントが発生した場合、撮像画像の内容が更新されているので、イベントの検出前後で異なる背景画像が混在して使用されることになり、動線分析画像の内容が正確ではない可能性がある。

0066

そこで、図7では、送信部60は、所定のイベント(例えば店舗Aのフロア1の売場のレイアウトの変更)の検出の通知をイベント情報受領部70から受けると(時刻t3)、例えばイベント情報受領部70からイベント割込を受けて、前回の送信時刻t2からイベント割込を受けた時刻t3までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300に送信する(時刻t3)。更に、送信部60は、スケジュール管理部50から指示された送信周期の満了時点になると、例えばスケジュール管理部50からタイマー割込を受けて、イベント割込を受けた時刻t3から今回の送信時刻t4までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300に送信する(時刻t4)。

0067

また図8では、送信部60は、時刻t3においてイベント情報受領部70からイベント割込を受けても、前回の送信時刻t2からイベント割込を受けた時刻t3までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信を省略する(時刻t3)。更に、送信部60は、スケジュール管理部50から指示された送信周期の満了時点になると、例えばスケジュール管理部50からタイマー割込を受けて、イベント割込を受けた時刻t3から時刻t4までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信を省略する(時刻t4)。

0068

言い換えると、送信部60は、時刻t3においてイベント情報受領部70からイベント割込を受けた場合、前回の送信時刻t2からイベント割込を受けた次の送信周期の開始時点図8では時刻t4)までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信を省略する(時刻t2〜時刻t4)。

0069

更に、図8では、送信部60は、例えばスケジュール管理部50からタイマー割込を受けると(時刻t4)、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信を再開する。具体的には、送信部60は、図8では図示されていないが、時刻t4以降にスケジュール管理部50から指示された送信周期の満了時点になると、例えばスケジュール管理部50からタイマー割込を受け、時刻t4から今回の送信時刻までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータを取得してサーバ装置300に送信する。

0070

図9は、本実施形態のカメラ装置100が複数個設置された食料品売場のレイアウトの一例を示す図である。図9では、例えば店舗Aのフロア1(1F)の食料品売場において、複数(例えば8個)のカメラ装置がフロア1の天井面等に設置されている様子が示されている。具体的には、入口カメラC1A,C1B、レジカメラC2A,C2B、特売品カメラC3、肉売場カメラC4、売場カメラC5、野菜売場カメラC6の計8個のカメラ装置(例えば全方位カメラ装置)が設定されている。なお、カメラ装置の種類は、全方位カメラ装置に限定されず、固定の画角が設定された固定カメラ装置、又は、パン方向チルト方向並びにズーム機能を有するPTZ(Pan Tilt Zoom)カメラ装置でもよい。

0071

図10は、本実施形態のサーバ装置300の表示画像生成部350により生成された店舗Aの動線分析画像を含む運用画面の一例を示す図である。図11は、本実施形態のサーバ装置300の表示画像生成部350により生成された店舗Aの動線分析画像を含む運用画面の他の一例を示す図である。図10及び図11に示す運用画面は、表示画像生成部350によってモニタ450に表示される。

0072

図10に示す運用画面では、左側の表示領域L1には、店舗内に設置されたカメラ装置の選択画面の一覧が階層的に表示されている。例えば、フロア1(1F)の食料品売場(識別番号:G1)では、北入口カメラC1A(識別番号:C1)、北入口カメラC1B(識別番号:C2)、レジ前カメラC2A(識別番号:C3),レジ前カメラC2B(識別番号:C4)、野菜売場カメラC6(識別番号:C5)、魚売場カメラC5(識別番号:C6)、肉売場カメラC4(識別番号:C7)、特売品カメラC3(識別番号:C8)が階層的に示されている。フロア2(2F)の衣料品売場その他の売場において同様であるため、説明を省略する。

0073

また、図10に示す運用画面では、右側の表示領域R1には、メイン(例えば現在)の動線分析情報の表示領域MA1とサブ(例えば比較用)の動線分析情報の表示領域CE1とが表示されている。

0074

動線分析情報の表示領域MA1には、サーバ装置300が閲覧対象の動線分析画像を生成した指定時刻年月日を含む)と、例えば半日単位、1日単位、1週間単位又は1箇月単位を示す統計期間と、表示領域L1において選択された売場毎のカメラ装置の選択画面とを含む指定条件表示領域MA1aと、動線分析画像の映像表示種別と、グラフ表示種別と、グラフ表示G(グループ)と、売場毎の来店者数の表示領域CT1とを含む動線分析結果表示領域MA1bとが表示される。

0075

動線分析画像の映像表示種別には、図10に示す移動体(例えば人物)の滞留情報が示された滞留マップと、図11に示す移動体(例えば人物)の通過情報が示されたカウントマップと、撮像画像そのものとが含まれる。売場毎の来店者数の表示領域CT1には、時系列(例えば図10及び図11では1時間毎)に人数カウント部CTにより検出された移動体(例えば人物)の検出数が示される。例えばユーザの入力操作により、入力デバイス400が売場毎の来店者数の表示領域CT1に表示された選択バーKRを時間軸方向にシフトすると、表示画像生成部350は、選択バーKRが示す時刻に生成した動線分析画像を順に表示する。

0076

なお、図11に示すように、動線分析情報の表示領域MA1の売場毎のカメラ装置の選択画面の代わりに、図9に示す複数個のカメラ装置が売場毎に設置されたレイアウトMP1の一例が表示されてもよい。

0077

また同様に、サブの動線分析情報の表示領域CE1には、メインの動線分析情報の表示領域MA1の比較対象としてサーバ装置300が閲覧対象の動線分析画像を生成した指定時刻(年月日を含む)と、例えば半日単位、1日単位、1週間単位又は1箇月単位を示す統計期間と、メインの動線分析情報の表示領域MA1において選択された売場毎のカメラ装置の選択画面とを含む指定条件表示領域CE1aと、動線分析画像の映像表示種別と、グラフ表示種別と、グラフ表示G(グループ)と、売場毎の来店者数の表示領域CT2とを含む動線分析結果表示領域CE1bとが表示される。なお、サブの動線分析情報の表示領域CE1を用いる場合には、例えば店舗内のレイアウトの変更の前後の比較以外に、割引シール商品貼付した前後の比較、タイムセールの前後の比較、今日と一年前の同日との比較、店舗間(例えば店舗Aの肉売場と店舗Bの肉売場との比較)等の用途が含まれてもよい。

0078

売場毎の来店者数の表示領域CT2には、時系列(例えば図10及び図11では1時間毎)に人数カウント部CTにより検出された移動体(例えば人物)の検出数が示される。例えばユーザの入力操作により、入力デバイス400が売場毎の来店者数の表示領域CT2に表示された選択バーKRを時間軸方向にシフトすると、表示画像生成部350は、選択バーKRが示す時刻に生成した動線分析画像を順に再生して表示する。

0079

また、メイン(例えば現在)の動線分析情報の表示領域MA1の売場毎の来店者数の表示領域CT1とサブ(例えば比較例)の動線分析情報の表示領域CE1の売場毎の来店者数の表示領域CT2とにおいて、入力デバイス400は、ユーザの入力操作により、時間軸上の特定の時間帯を指定してコメント(例えばタイムセール、3Fイベント、TV放映、隣のドーム試合等)を入力することができる。

0080

図11では映像表示種別がカウントマップとなっており、その他の事項は図10の説明と同様であるため、詳細な説明は省略する。図11でも、図10と同様に、例えばユーザの入力操作により、入力デバイス400が売場毎の来店者数の表示領域CT3,CT4に表示された選択バーKRを時間軸方向にシフトすると、表示画像生成部350は、選択バーKRが示す時刻に生成した動線分析画像を順に再生して表示する。

0081

図12は、本実施形態のサーバ装置300のレポート生成出力部360により生成された2014年5月度の店舗Aの食料品売場における月例報告書の運用画面RPTの一例を示す図である。本実施形態の動線分析レポートの一例としての月例報告書(図12参照)は、図10又は図11に示す運用画面の左側の表示領域L1の下部に設けられたレポート出力ボタンOPTが入力デバイス400により押下されると、レポート生成出力部360が生成してモニタ450に表示した画面である。なお、サーバ装置300のレポート生成出力部360は、図12に示す月例報告書又はその一部の情報(例えば食料品売場のうちの肉売場における月例報告書)を、店舗Aに設置されたプリンタ(不図示)に出力してもよい。これにより、店舗Aの店員は、来店客が映っていない動線分析画像が出力された内容で、例えば食料品売場全体又はその一部の肉売場における月例報告書のプリントアウト配布を受けることができる。

0082

図12に示す月例報告書(動線分析レポート)の運用画面RPTでは、月例報告書のタイトルに関する各種情報と、気温に関する情報と、売上情報に関する表示領域SR1と、店舗(例えば店舗A)の来店者数等の統計情報に関する表示領域CR1と、所定のイベントの一例として売場のレイアウトの変更の発生前後において表示画像生成部350が生成したそれぞれの動線分析画像HM5,HM6の表示領域と、売場毎の来店者数の表示領域CT5,CT6とが示されている。なお、月例報告書のタイトルに関する各種情報と、気温に関する情報と、売上情報、イベント情報、来店者構成に関する情報等は、例えば運営本部のサーバ装置600から該当する店舗(例えば店舗A)内のサーバ装置(例えばサーバ装置300)に送信される。なお、月例報告書のタイトルに関する各種情報と、気温に関する情報と、売上情報、イベント情報、来店者構成に関する情報等は、店舗内のサーバ装置300又は記憶部(不図示)に予め記憶されてもよい。

0083

図12に示す月例報告書の運用画面RPTでも、図10又は図11と同様に、例えばユーザの入力操作により、入力デバイス400が売場毎の来店者数の表示領域CT5,CT6に表示された選択バーKRを時間軸方向にシフトすると、表示画像生成部350は、選択バーKRが示す時刻に生成した動線分析画像を順に表示する。

0084

以上により、本実施形態の動線分析システム500Aでは、カメラ装置100は、所定の撮像領域の撮像画像の背景画像を生成し、撮像画像に含まれる移動体(例えば人物)の撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、撮像画像の背景画像と移動体の動線情報とを所定の送信周期毎にサーバ装置300に送信する。サーバ装置300は、撮像画像の背景画像に、移動体の動線情報を重畳した動線分析画像を生成し、この動線分析画像をモニタ450に表示させる。

0085

これにより、動線分析システム500Aは、動線分析画像の元になる背景画像を移動体(例えば人物)が映らないように排除して生成するので、動線分析画像を生成する際に、撮像領域に映る移動体(人物)のプライバシーを適切に保護することができる。また、動線分析システム500Aは、所定のタイミング(例えば定期的な送信周期の到来時)の時点において既に更新された背景画像に移動体(人物)の撮像領域における滞留位置又は通過位置に関する動線情報を重畳するので、予め決められた送信周期毎に、撮像画像の中から移動体を排除した状態で、移動体の撮像領域における滞留位置又は通過位置に関する正確な動線情報を適切に示す動線分析画像をユーザに対して視覚的に表示することができる。

0086

また、動線分析システム500Aは、背景画像と移動体の動線情報とを送信するための所定の送信周期をカメラ装置のスケジュール管理部50において指示するので、予め指示された送信周期に従って、背景画像と移動体の動線情報とを定期的にサーバ装置300に送信することができる。

0087

また、動線分析システム500Aは、所定のイベント(例えば店舗内の売場のレイアウト変更のイベント)の検出の通知をイベント情報受領部70において取得すると、背景画像と移動体の動線情報とをサーバ装置300に送信するので、特定のイベントが検出された時点の前後の撮像領域における移動体の滞留位置又は通過位置に関する動線情報を正確に反映させた動線分析画像をサーバ装置300において生成することができる。

0088

また、動線分析システム500Aは、撮像画像の変化(例えば店舗内の売場のレイアウト変更)をシーン識別部SDにおいて検出すると、背景画像と移動体の動線情報とをサーバ装置300に送信するので、撮像画像の変化が検出された時点の前後の撮像領域における移動体の滞留位置又は通過位置に関する動線情報を正確に反映させた動線分析画像をサーバ装置300において生成することができる。

0089

また、動線分析システム500Aは、撮像画像に含まれる移動体の検出数を人数カウント部CTにおいてカウントし、検出数に関する情報を送信部60に出力するので、撮像領域における移動体の滞留位置又は通過位置に関する情報を含む動線分析画像と移動体の検出数とを含む表示画面(運用画面)をモニタ450に表示させることができる。

0090

また、動線分析システム500Aは、イベント情報受領部70が所定のイベントの検出の通知を取得した時点を含む送信周期では背景画像と移動体の動線情報との送信を省略するので、サーバ装置300において動線分析画像を生成する際に、所定のイベント(例えば店舗内の売場のレイアウト変更)の検出前後の撮像領域における移動体の滞留位置又は通過位置に関する動線情報を混在して使用することを回避することができる。

0091

また、動線分析システム500Aは、所定のイベント(例えば店舗内の売場のレイアウト変更)の検出前に生成された動線分析画像と、同所定のイベントの検出後に生成された動線分析画像とを含む動線分析レポートをレポート生成出力部360において生成するので、所定のイベントにより撮像領域における移動体の滞留位置又は通過位置に関する動線情報がどのような変更があったかを対比的に分かり易く示すことができる。

0092

また、動線分析システム500Aは、所定の入力操作(例えばユーザのレポート出力ボタンの押下操作)により、生成した動線分析レポートをモニタ450に表示させるので、動線分析レポートをユーザに対して視覚的に表示することができる。

0093

更に、動線分析システム500Aは、撮像画像の背景画像の生成と撮像画像に含まれる移動体の滞留位置又は通過位置に関する動線情報の抽出とを各カメラ装置100,100A,…,100Nにおいて実行させてから、サーバ装置300において動線分析画像を生成して表示するので、撮像画像の背景画像の生成と撮像画像に含まれる移動体の滞留位置又は通過位置に関する動線情報の抽出をサーバ装置300に実行させる場合に比べて、サーバ装置300の処理負荷を軽減することができるので、1つのサーバ装置300に接続可能なカメラ装置の台数の制限を緩和することができる。

0094

(本実施形態の変形例)
なお、上述した本実施形態では、動線分析画像の生成処理はサーバ装置300において実行されているが、動線分析画像の生成処理までをカメラ装置100が実行してもよい(図13参照)。図13は、本実施形態の変形例のカメラ装置100Sの機能的な内部構成を詳細に示すブロック図である。図13に示すカメラ装置100Sは、撮像部10と、画像入力部20と、背景画像生成部30と、動線情報分析部40と、スケジュール管理部50と、送信部60Sと、イベント情報受領部70と、背景画像蓄積部80と、通過/滞留分析情報蓄積部90と、表示画像生成部350Sとを含む構成である。図13に示すカメラ装置100Sの各部の説明において、図2に示すカメラ装置100と同一の構成及び動作のものには同一の符号を付して説明を省略し、異なる内容について説明する。

0095

画像生成部の一例としての表示画像生成部350Sは、スケジュール管理部50又はイベント情報受領部70からの指示に応じて、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータを用いて、背景画像に移動体の滞留位置又は通過位置に関する動線情報を重畳した動線分析画像を生成して送信部60に出力する。

0096

送信部60Sは、表示画像生成部350Sにより生成された動線分析画像のデータをサーバ装置300に送信する。

0097

以上により、本実施形態の変形例では、カメラ装置100Sは、所定の撮像領域の撮像画像の背景画像を生成し、撮像画像に含まれる移動体(例えば人物)の撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、撮像画像の背景画像と移動体の動線情報とを用いて、撮像画像の背景画像に、移動体の動線情報を重畳した動線分析画像を生成する。

0098

これにより、カメラ装置100Sは、動線分析画像の元になる背景画像を移動体(例えば人物)が映らないように排除して生成するので、動線分析画像を生成する際に、撮像領域に映る移動体(人物)のプライバシーを適切に保護することができる。また、カメラ装置100Sは、リアルタイムに得られた撮像画像に移動体(人物)の撮像領域における滞留位置又は通過位置に関する動線情報を重畳するので、撮像画像の中から移動体を排除した状態で、移動体の撮像領域における滞留位置又は通過位置に関する最新の動線情報を適切に示す動線分析画像を生成することができる。

0099

また、カメラ装置100Sは、動線分析画像の生成処理まで実行して生成結果である動線分析画像のデータをサーバ装置300に送信するので、例えばサーバ装置300の処理負荷が相当に高い状態では、動線分析画像の生成処理をサーバ装置300に実行させないでよいため、サーバ装置300の処理負荷の増大を抑制することができる。

0100

ここで、上述した本発明の実施形態に係る動線分析システム、カメラ装置及び動線分析方法の構成、作用、効果をそれぞれ説明する。

0101

本発明の一実施形態は、カメラ装置とサーバ装置とが相互に接続された動線分析システムであって、前記カメラ装置は、所定の撮像領域を撮像する撮像部と、前記撮像領域の撮像画像の背景画像を生成する背景画像生成部と、前記撮像画像に含まれる移動体の前記撮像領域における滞留位置又は通過位置に関する動線情報を抽出する動線情報分析部と、所定の送信周期毎に、前記背景画像生成部により生成された前記背景画像と、前記動線情報分析部により抽出された前記移動体の動線情報とを前記サーバ装置に送信する送信部と、を備え、前記サーバ装置は、前記撮像画像の背景画像に、前記移動体の動線情報を重畳した動線分析画像を生成する画像生成部と、前記画像生成部により生成された前記動線分析画像を表示部に表示させる表示制御部と、を備える、動線分析システムである。

0102

この構成では、カメラ装置は、所定の撮像領域の撮像画像の背景画像を生成し、撮像画像に含まれる移動体(例えば人物)の撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、撮像画像の背景画像と移動体の動線情報とを所定の送信周期毎にサーバ装置に送信する。サーバ装置は、撮像画像の背景画像に、移動体の動線情報を重畳した動線分析画像を生成し、この動線分析画像を表示部に表示させる。

0103

これにより、動線分析システムは、動線分析画像の元になる背景画像には移動体(例えば人物)が映らないように排除されるので、動線分析画像を生成する際に、撮像領域に映る移動体(人物)のプライバシーを適切に保護することができる。また、動線分析システムは、所定のタイミング(例えば定期的な送信周期の到来時)の時点において既に更新された背景画像に移動体(人物)の撮像領域における滞留位置又は通過位置に関する動線情報を重畳するので、予め決められた送信周期毎に、撮像画像の中から移動体を排除した状態で、移動体の撮像領域における滞留位置又は通過位置に関する正確な動線情報を適切に示す動線分析画像をユーザに対して視覚的に表示することができる。

0104

また、本発明の一実施形態は、前記カメラ装置は、前記背景画像と前記移動体の動線情報とを送信するための前記所定の送信周期を前記送信部に指示するスケジュール管理部、を更に備える、動線分析システムである。

0105

この構成によれば、動線分析システムは、背景画像と移動体の動線情報とを送信するための所定の送信周期をカメラ装置のスケジュール管理部において指示するので、予め指示された送信周期に従って、背景画像と移動体の動線情報とを定期的にサーバ装置に送信することができる。

0106

また、本発明の一実施形態は、前記カメラ装置は、所定のイベントの検出の通知を取得するイベント情報取得部、を更に備え、前記イベント情報取得部は、前記所定のイベントの検出の通知を取得した後、前記背景画像と前記移動体の動線情報との送信タイミングを前記送信部に指示する、動線分析システムである。

0107

この構成によれば、動線分析システムは、所定のイベント(例えば店舗内の売場のレイアウト変更のイベント)の検出の通知をイベント情報取得部において取得すると、背景画像と移動体の動線情報とをサーバ装置に送信するので、特定のイベントが検出された時点の前後の撮像領域における移動体の滞留位置又は通過位置に関する動線情報を正確に反映させた動線分析画像をサーバ装置において生成することができる。

0108

また、本発明の一実施形態は、前記カメラ装置は、前記撮像画像の変化を検出する画像変化検出部、を更に備え、前記画像変化検出部は、前記撮像画像の変化を検出した後、前記背景画像と前記移動体の動線情報との送信タイミングを前記送信部に指示する、動線分析システムである。

0109

この構成によれば、動線分析システムは、撮像画像の変化(例えば店舗内の売場のレイアウト変更)を画像変化検出部において検出すると、背景画像と移動体の動線情報とをサーバ装置に送信するので、撮像画像の変化が検出された時点の前後の撮像領域における移動体の滞留位置又は通過位置に関する動線情報を正確に反映させた動線分析画像をサーバ装置において生成することができる。

0110

また、本発明の一実施形態は、前記カメラ装置は、前記撮像画像に含まれる移動体の検出数をカウントする移動体検出部、を更に備え、前記移動体検出部は、前記撮像画像に含まれる移動体の検出数に関する情報を前記送信部に出力する、動線分析システムである。

0111

この構成によれば、動線分析システムは、撮像画像に含まれる移動体の検出数を移動体検出部においてカウントし、検出数に関する情報を送信部に出力するので、撮像領域における移動体の滞留位置又は通過位置に関する情報を含む動線分析画像と移動体の検出数とを含む表示画面(運用画面)を表示部において表示させることができる。

0112

また、本発明の一実施形態は、前記送信部は、前記イベント情報取得部が前記所定のイベントの検出の通知を取得した時点を含む前記所定の送信周期では、前記背景画像と前記移動体の動線情報との送信を省略する、動線分析システムである。

0113

この構成によれば、動線分析システムは、イベント情報取得部が所定のイベントの検出の通知を取得した時点を含む送信周期では背景画像と移動体の動線情報との送信を省略するので、サーバ装置において動線分析画像を生成する際に、所定のイベント(例えば店舗内の売場のレイアウト変更)の検出前後の撮像領域における移動体の滞留位置又は通過位置に関する動線情報を混在して使用することを回避することができる。

0114

また、本発明の一実施形態は、前記サーバ装置は、前記所定のイベントの検出前に前記画像生成部により生成された前記動線分析画像と、前記所定のイベントの検出後に前記画像生成部により生成された前記動線分析画像とを含む動線分析レポートを生成するレポート生成部、を更に備える、動線分析システムである。

0115

この構成によれば、動線分析システムは、所定のイベント(例えば店舗内の売場のレイアウト変更)の検出前に生成された動線分析画像と、同所定のイベントの検出後に生成された動線分析画像とを含む動線分析レポートをレポート生成部において生成するので、所定のイベントにより撮像領域における移動体の滞留位置又は通過位置に関する動線情報がどのような変更があったかを対比的に分かり易く示すことができる。

0116

また、本発明の一実施形態は、前記レポート生成部は、所定の入力操作に応じて、前記動線分析レポートを前記表示部に表示させる、動線分析システムである。

0117

この構成によれば、動線分析システムは、所定の入力操作(例えばユーザのレポート出力ボタンの押下操作)により、生成した動線分析レポートを表示部に表示させるので、動線分析レポートをユーザに対して視覚的に表示することができる。

0118

また、本発明の一実施形態は、所定の撮像領域を撮像する撮像部と、前記撮像領域の撮像画像の背景画像を生成する背景画像生成部と、前記撮像画像に含まれる移動体の前記撮像領域における滞留位置又は通過位置に関する動線情報を抽出する動線情報分析部と、前記背景画像生成部により生成された前記背景画像と、前記動線情報分析部により抽出された前記移動体の動線情報とを用いて、前記撮像画像の背景画像に、前記移動体の動線情報を重畳した動線分析画像を生成する画像生成部と、を備える、カメラ装置である。

0119

この構成では、カメラ装置は、所定の撮像領域の撮像画像の背景画像を生成し、撮像画像に含まれる移動体(例えば人物)の撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、撮像画像の背景画像と移動体の動線情報とを用いて、撮像画像の背景画像に、移動体の動線情報を重畳した動線分析画像を生成する。

0120

これにより、カメラ装置は、動線分析画像の元になる背景画像を移動体(例えば人物)が映らないように排除して生成するので、動線分析画像を生成する際に、撮像領域に映る移動体(人物)のプライバシーを適切に保護することができる。また、カメラ装置は、所定のタイミング(例えば定期的な送信周期の到来時)の時点において既に更新された背景画像に移動体(人物)の撮像領域における滞留位置又は通過位置に関する動線情報を重畳するので、撮像画像の中から移動体を排除した状態で、移動体の撮像領域における滞留位置又は通過位置に関する正確な動線情報を適切に示す動線分析画像を生成することができる。

0121

また、本発明の一実施形態は、カメラ装置とサーバ装置とが相互に接続された動線分析システムにおける動線分析方法であって、前記カメラ装置において、所定の撮像領域を撮像するステップと、前記撮像領域の撮像画像の背景画像を生成するステップと、前記撮像画像に含まれる移動体の前記撮像領域における滞留位置又は通過位置に関する動線情報を抽出するステップと、所定の送信周期毎に、生成された前記背景画像と、抽出された前記移動体の動線情報とを前記サーバ装置に送信するステップと、前記サーバ装置において、前記撮像画像の背景画像に、前記移動体の動線情報を重畳した動線分析画像を生成するステップと、生成された前記動線分析画像を表示部に表示させるステップと、を有する、動線分析方法である。

0122

この方法では、カメラ装置は、所定の撮像領域の撮像画像の背景画像を生成し、撮像画像に含まれる移動体(例えば人物)の撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、撮像画像の背景画像と移動体の動線情報とを所定の送信周期毎にサーバ装置に送信する。サーバ装置は、撮像画像の背景画像に、移動体の動線情報を重畳した動線分析画像を生成し、この動線分析画像を表示部に表示させる。

0123

これにより、動線分析システムは、動線分析画像の元になる背景画像には移動体(例えば人物)が映らないように排除されるので、動線分析画像を生成する際に、撮像領域に映る移動体(人物)のプライバシーを適切に保護することができる。また、動線分析システムは、所定のタイミング(例えば定期的な送信周期の到来時)の辞典において既に更新された背景画像に移動体(人物)の撮像領域における滞留位置又は通過位置に関する動線情報を重畳するので、予め決められた送信周期毎に、撮像画像の中から移動体を排除した状態で、移動体の撮像領域における滞留位置又は通過位置に関する正確な動線情報を適切に示す動線分析画像をユーザに対して視覚的に表示することができる。

0124

(動線分析画像を含む運用画面の他の表示例)
本実施形態のサーバ装置300は、生成した動線分析画像を含む運用画面をモニタ450に表示させる際に、図10図11に示す運用画面の他に、例えば図14に示す運用画面WD1を表示させてもよい。図14は、本実施形態のサーバ装置300の表示画像生成部350により生成された店舗Aの動線分析画像を含む運用画面の第3例を示す図である。

0125

図14に示す運用画面WD1では、動線分析画像の生成に必要なデータ(即ち、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータであり、以下「カメラ送信データ」という)の指定条件の入力欄データ取得欄)と、動線分析画像の表示に関する設定項目の入力欄(表示設定欄)と、動線分析画像HM1と、タイムラインバーTLBと、複数のボタンからなるジャンプボタンJMPと、スケール変更ボタンSCL1とが表示されている。

0126

データ取得欄では、上記したカメラ送信データの送信元となるカメラ装置の識別番号と、カメラ送信データの要求対象となる期間(つまり、背景画像のデータと移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとが生成された期間)の開始日及び終了日とが指定される。ダウンロードボタンが押下されると、サーバ装置300は、データ取得欄において指定された条件に合致するカメラ送信データを該当するカメラ装置(例えばカメラ装置100)から受信して取得するか、又はサーバ装置300にて既に受信して蓄積していたデータを取得する。

0127

表示設定欄では、動線分析画像として表示される種別が通過マップ(つまり、撮像領域の特定の場所を通過した人物の数をヒートマップのように視覚的に示す画像)又は滞留マップ(つまり、人物が特定の場所に滞留した時間をヒートマップのように視覚的に示す画像)のいずれかが選択される。必要に応じて、表示画像生成部350により生成された撮像領域の動線分析画像のうち、表示される領域が選択されてもよい。

0128

タイムラインバーTLBでは、例えばデータ取得欄において「2015年4月9日」の1日分が指定された場合に、カメラ装置からのカメラ送信データの有無が時間帯(以下、「スケール」という)毎に示される。つまり、「2015年4月9日」の24時間分のカメラ装置からのカメラ送信データの有無が、タイムラインバーTLBの一つ一つの升目セル)の計24個の色又は模様パターンの有無によって視覚的に判別可能となる。より具体的に言うと、時間範囲DIV1(つまり、2015年4月9日の午前0時から午前9時までの時間範囲)では、カメラ装置からのカメラ送信データが無いことが示されており、時間範囲DIV2(つまり、2015年4月9日の午前9時から午前0時までの時間範囲)では、カメラ装置からのカメラ送信データがあることが示されている。図14では、スケールに対応する時間帯(つまり、1つのセル)は1時間を示す。

0129

スケールに対応する時間帯(つまり、1つのセル)は、スケール変更ボタンSCL1の左右方向のスライド操作によって容易に変更可能である。例えばスケールに対応する時間帯(つまり、1つのセル)が1時間を示す場合に、ユーザがマウス等の入力デバイス400を操作してスケール変更ボタンSCL1を右方向にスライドすると、表示画像生成部350は、例えばスケールに対応する時間帯(つまり、1つのセル)を1時間より大きい1日に変更してタイムラインバーTLBを再度表示させる。1時間より大きい時間帯として1日に限定されず、例えば2時間でもよく任意に変更可能である。この変更は、例えば図14に示す運用画面WD1の設定タブが選択された画面においてユーザの操作に応じて設定可能となる。

0130

同様に、例えばスケールに対応する時間帯(つまり、1つのセル)が1時間を示す場合に、ユーザがマウス等の入力デバイス400を操作してスケール変更ボタンSCL1を左方向にスライドすると、表示画像生成部350は、例えばスケールに対応する時間帯(つまり、1つのセル)を1時間より小さい15分に変更してタイムラインバーTLBを再度表示させる。1時間より小さい時間帯として15分に限定されず、例えば30分でもよく任意に変更可能である。この変更は、例えば図14に示す運用画面WD1の設定タブが選択された画面においてユーザの操作に応じて設定可能となる。

0131

ジャンプボタンJMPには、−1週ボタンJMP1、−1日ボタンJMP2、前区間ボタンJMP3、後区間ボタンJMP4、+1日ボタンJMP5、+1週ボタンJMP6が設けられている。但し、ジャンプボタンJMPは、これらの6種類のボタンに限定されない。例えばボタンの名称数字が含まれる「−1週ボタンJMP1,−1日ボタンJMP2,+1日ボタンJMP5,+1週ボタンJMP6」の数字部分は、不図示の設定画面(例えば図14に示す運用画面WD1の設定タブが選択された画面)においてユーザの操作に応じて任意に変更可能である。

0132

例えば現時点から1週間前に遡った時点までのカメラ装置からのカメラ送信データが取得されている場合に、−1週ボタンJMP1がユーザの操作によって押下されると、表示画像生成部350は、押下された時点において表示された動線分析画像HM1を、その動線分析画像よりも1週間前に生成された動線分析画像に切り替えてモニタ450に表示させる。

0133

例えば現時点から1日前に遡った時点までのカメラ装置からのカメラ送信データが取得されている場合に、−1日ボタンJMP2がユーザの操作によって押下されると、表示画像生成部350は、押下された時点において表示された動線分析画像HM1を、その動線分析画像よりも1日前に生成された動線分析画像に切り替えてモニタ450に表示させる(図17参照)。

0134

例えば現時点から1日経過した時点までのカメラ装置からのカメラ送信データが取得されている場合に、+1日ボタンJMP5がユーザの操作によって押下されると、表示画像生成部350は、押下された時点において表示された動線分析画像HM1を、その動線分析画像よりも1日後に生成された動線分析画像に切り替えてモニタ450に表示させる(図17参照)。

0135

例えば現時点から1週間経過した時点までのカメラ装置からのカメラ送信データが取得されている場合に、+1週ボタンJMP6がユーザの操作によって押下されると、表示画像生成部350は、押下された時点において表示された動線分析画像HM1を、その動線分析画像よりも1週間後に生成された動線分析画像に切り替えてモニタ450に表示させる。

0136

また、ジャンプボタンJMPが押下された場合の動線分析画像の元になるカメラ送信データの生成時点(言い換えると、ジャンプの起点となる時刻又は時間帯)は、例えば図14に示す運用画面WD1の設定タブが選択された画面においてユーザの操作に応じて設定可能である。

0137

前区間ボタンJMP3及び後区間ボタンJMP4を説明する前に、1区間について図15を参照して説明する。図15は、タイムラインバーの説明図である。図15では、説明の都合上、図14に示す運用画面WD1に含まれるタイムラインバーTLBとは異なるタイムラインバーTLBbが示されている。

0138

図15において、スケールに対応する時間帯(つまり、1つのセル)は、図14と同様に1時間としている。ユーザは、タイムラインバーTLBbに表示された色又は模様パターンによって、カメラ装置からのカメラ送信データの有無を視覚的に判別可能である。また、ユーザは、サーバ装置300又は入力デバイス400に対する操作によって、どの時間帯の動線分析画像をモニタ450に表示させるかを、タイムラインバーTLBb上において簡易に指定することができる。

0139

例えばユーザは、マウス等の入力デバイス400を操作してカーソルCSRを指定対象の時間帯RNG1の開始時刻のセル上において指定(例えば左クリック)し、かつ時間帯RNG1の終了時刻までカーソルCSRをドラッグし、ドラッグ終了位置においてマウス等の入力デバイス400のボタンを離す(つまりドラッグを終了する)。ドラッグ終了位置においてマウス等の入力デバイス400のボタンを押すユーザの指が離されると、表示画像生成部350は、時間帯RNG1の開始時刻及び終了時刻を確定する。これにより、表示画像生成部350は、ユーザの操作により指定された時間帯RNG1の色又は模様パターンを、カメラ装置からのカメラ送信データがあることを示す色又は模様パターンとは異なる色又は模様パターンに変更して表示する(図15参照)。

0140

例えば図15に示すタイムラインバーTLBbでは、時間帯RNG1は4月2日の午前5時〜午前9時までの時間帯であり、この時間帯RNG1に対応する色又は模様パターンは、カメラ装置からのカメラ送信データがある4月2日の午前0時〜午前11時及び午後2時以降の時間帯の色又は模様パターンとは異なっている。なお、図15に示すタイムラインバーTLBbが図14に示す運用画面WD1に含むように表示された場合であって、この運用画面における動線分析画像が例えば3日分のカメラ送信データを用いて生成されており、かつスケールに対応する時間帯(つまり、1つのセル)が例えば1時間であるとする。この場合、タイムラインバーTLBbは、全長で3日分の長さ(つまり、24時間×3日=72個)のセルとなるが、運用画面に全てのセルが表示不可の場合には、表示画像生成部35は、タイムラインバーTLBbを左右方向にスクロール可能に表示させる。従って、ユーザは、一見タイムラインバーTBLb上で表示されていない日時にカメラ送信データがあるか否かを確認したい場合に、タイムラインバーTLBbをスクロール操作することで容易にチェックできる。

0141

表示画像生成部350は、例えば図15を参照して説明した時間帯RNG1を1区間として扱い、図14に示すジャンプボタンJMPのうちユーザの操作によって前区間ボタンJMP3が押下されると、押下された時点において表示された動線分析画像HM1を、その動線分析画像HM1よりも1区間(例えば時間帯RNG1に対応する4時間)前に生成された動線分析画像に切り替えてモニタ450に表示させる。

0142

一方、表示画像生成部350は、例えば図15を参照して説明した時間帯RNG1を1区間として扱い、図14に示すジャンプボタンJMPのうちユーザの操作によって後区間ボタンJMP4が押下されると、押下された時点において表示された動線分析画像HM1を、その動線分析画像HM1よりも1区間(例えば時間帯RNG1に対応する4時間)後に生成された動線分析画像に切り替えてモニタ450に表示させる。

0143

図16は、図14に示す運用画面WD1に含まれるタイムラインバーTLBに対して指定された変更後の時間範囲に対応する店舗Aの動線分析画像を含む運用画面WD2の一例を示す図である。図16では、タイムラインバーTLBにおいてユーザにより指定された時間範囲が変更されたことで、図14に示す動線分析画像HM1から、変更後の時間範囲に対応する動線分析画像HM2が表示画像生成部350により生成されてモニタ450に表示されたことが示されている。

0144

また、タイムラインバーTLB上に対するユーザの指定操作によって1区間に相当する時間帯TBLK(図15に示す時間帯RNG1参照)が確定した後、ユーザが、確定済みの時間帯TBLKに対してマウス等の入力デバイス400の操作(例えば右クリック)を行うことによってその時間帯TBLKを一時的に固定させた状態(言い換えると、確定済みの時間帯TBLKをタイムラインバーTLB上で掴んだ状態)でタイムラインバーTLB上を移動させてもよい。この移動操作によって、表示画像生成部350は、移動操作後の時間帯に対応した動線分析画像を生成してモニタ450に表示させることができる。

0145

例えば移動操作前の時間帯が午前9時〜午後1時で、移動操作後の時間帯が午後4時〜午後8時(時間帯は4時間で同一)であった場合、表示画像生成部350は、午前9時〜午後1時に対応する動線分析画像を含む運用画面WD2を、午後4時〜午後8時に対応する動線分析画像を含む他の運用画面に切り替えてモニタ450に表示させることができる。

0146

図17は、図14に示すジャンプボタンJMPのうち、+1日ボタンJMP5、−1日ボタンJMP2の押下に応じた動線分析画像の切り替え表示例を示す説明図である。図17では、データ取得欄の開始日が2015年4月8日、終了日が2015年4月10日となっており、これらの3日間におけるカメラ装置からの送信データがサーバ装置300において取得されているとし、現時点を2015年4月9日とする。

0147

例えば現時点(2015年4月9日)から1日前に遡った時点(2015年4月8日)までのカメラ装置からの送信データが取得されている場合に、−1日ボタンJMP2が押下されると、表示画像生成部350は、押下された時点において表示された動線分析画像HM3を、その動線分析画像HM3よりも1日前に生成された動線分析画像HM3mに切り替えて、その動線分析画像HM3mを含む運用画面をモニタ450に表示させる。

0148

また、例えば現時点(2015年4月9日)から1日経過した時点(2015年4月10日)までのカメラ装置からの送信データが取得されている場合に、+1日ボタンJMP5が押下されると、表示画像生成部350は、押下された時点において表示された動線分析画像HM3を、その動線分析画像HM3よりも1日後に生成された動線分析画像HM3pに切り替えて、その動線分析画像HM3pを含む運用画面をモニタ450に表示させる(図17参照)。

0149

これにより、本実施形態のサーバ装置300は、動線分析画像を生成する際に、撮像領域に映る移動体(人物)のプライバシーを適切に保護しながら撮像画像の中から移動体を排除した状態で、移動体の撮像領域における滞留位置又は通過位置に関する正確な動線情報を適切に示す動線分析画像をユーザに対して視覚的に表示でき、更に、ユーザの簡易な操作(ジャンプボタンJMPのうちいずれかのボタンの押下)によって、異なるタイミングにおいて生成された動線分析画像に切り替えて表示でき、ユーザの利便性(例えば動線分析画像の推移の確認の便利さ)を向上できる。

0150

(動線分析画像における動線情報の表示感度を変更した表示例)
本実施形態のサーバ装置300は、生成した動線分析画像を含む運用画面をモニタ450に表示させる際に、例えば図18図20に示す動線情報の表示感度を変更した動線分析画像HM4a、HM4b、HM4cを表示させてもよい。図18図20は、本実施形態のサーバ装置300の表示画像生成部350により生成された店舗Aの動線分析画像の他の例を示す図である。

0151

サーバ装置300の表示画像生成部350は、動線分析画像としてヒートマップ画像を生成する場合、動線情報を表示する際の感度(動線情報の表示感度)として、動線情報のヒートマップ表示の閾値となる感度を撮像画像の撮像条件によって設定し、感度に応じた色彩表現を持つヒートマップ画像を生成する。このとき、カメラ装置100では、動線情報分析部40において、撮像画像に基づき生成する動線情報として、撮像画像内の各地点における移動体の通過/滞留数を示すヒートマップデータを生成する。そして、カメラ装置100は、送信部60によりヒートマップデータをサーバ装置300に送信する。サーバ装置300では、受信部330によりヒートマップデータを受信し、表示画像生成部350において、ヒートマップデータを用いて各地点における移動体の通過/滞留数の分布を示すヒートマップ画像を生成する。

0152

サーバ装置300の表示画像生成部350は、動線分析画像として、例えば、撮像画像において人物等の移動体の映像消去した背景画像を用いて、背景画像に動線情報を重畳した画像を生成する。なお、表示画像生成部350により生成される動線分析画像(ヒートマップ画像)は、例えば1台のカメラ装置の画角内の撮像画像に基づく背景画像上にその画角内の移動体の動線情報が重畳されたものでもよいし、複数台のカメラ装置の画角内の背景画像上にそれぞれの画角内の移動体の動線情報が重畳されたものでもよい。また、動線分析画像は、背景画像及び動線情報の代わりに、撮像画像中の人物等の特定が困難となるように、人物等の映像の中身などのプライバシー情報を除去した輪郭又はシルエットのみの移動体を含む輪郭画像及び動線情報を用いてもよいし、人物等の移動体が撮影された撮像画像及び動線情報を用いてもよい。撮像画像から輪郭画像を生成するための技術は、公知技術であり、例えば特開2015−149557号公報、特開2015−149558号公報、特開2015−149559号公報に記載されている。なお、サーバ装置300が撮像画像に動線情報を重畳して動線分析画像を生成する場合、カメラ装置100は、背景画像生成部30及び背景画像蓄積部80を設けなくともよい。

0153

表示画像生成部350により生成されたヒートマップ画像は、移動体の通過/滞留数が多い部分は高頻度を示す色彩(例えば赤色)にて表示され、移動体の通過/滞留数が少ない部分は低頻度を示す色彩(例えば青色)にて表示される。以降では、店舗内における人の通過/滞留人数に基づいて生成するヒートマップ画像の例を説明する。

0154

表示画像生成部350は、ヒートマップ画像を生成する際に、画像内の各画素について、設定した感度に応じて、通過/滞留人数が感度の閾値以上の場合は高頻度を示す色彩(例えば赤色)とし、通過/滞留人数が感度の閾値未満の場合は低頻度を示す色彩(例えば青色)とする。なお、通過/滞留人数が感度の閾値未満の場合に、通過/滞留人数に応じて、赤色〜緑色〜青色のグラデーションなど、数が多いものから少ないものにかけて、順に色が変化するようなヒートマップ画像を生成してもよい。

0155

図18は、ヒートマップ表示の感度を3人に設定した動線分析画像HM4aの例を示す図である。この場合、通過/滞留人数が3人以上の箇所が赤色で表示され、図示例では、店舗内の通路の多くが赤色になっている。図19は、ヒートマップ表示の感度を30人に設定した動線分析画像HM4bの例を示す図である。この場合、通過/滞留人数が30人以上の箇所が赤色で表示される。通過/滞留人数が感度未満の場合、図示例では、10〜29人の箇所が緑色で表示され、9人以下の箇所が青色で表示される。図20は、ヒートマップ表示の感度を300人に設定した動線分析画像HM4cの例を示す図である。この場合、通過/滞留人数が300人以上の箇所が赤色で表示されるが、図示例では、通過/滞留人数が感度未満であるので、店舗内の通路の全てが青色になっている。

0156

このようにヒートマップ表示の感度を変更可能に設定する場合、表示対象の領域又は時間において、取得された通過/滞留人数に対して感度を小さい値に設定した場合、多くの地点が高頻度を示す色彩(例えば赤色)となる。一方、取得された通過/滞留人数に対して感度を大きい値に設定した場合、多くの地点が低頻度を示す色彩(例えば青色)となる。このため、例えば、通過/滞留人数が数人〜50人程度の場合、ヒートマップ表示の感度を30人に設定することで、適切なヒートマップ画像を生成、表示することができる。ヒートマップ表示の感度は、取得したヒートマップデータの通過/滞留人数に関して、平均値最大値最小値標準偏差等のうちの少なくとも一つに基づき、適切な値を設定すればよい。

0157

図21は、動線情報を表示する際のヒートマップ表示の感度を設定するための運用画面WD6の一例を示す図である。感度設定用の運用画面WD6では、動線分析画像HM4とともに、表示設定欄として、カメラ選択指定エリアCA1、感度設定モードエリアCA2、タイムラインバーTLB、感度値設定バーSVB、設定ボタンCBが表示されている。サーバ装置300は、運用画面WD6に対応して操作される動線分析画像の閲覧者による入力デバイス400からの操作入力を取得し、ヒートマップ表示の感度の設定を実行する。動線分析画像の閲覧者は、(1)カメラ選択指定エリアCA1にて表示対象のカメラを指定し、(2)感度設定モードエリアCA2にて、ヒートマップ表示の感度設定の動作モードとして、自動調整又は固定の感度設定方法を指定し、(3)タイムラインバーTLBにて表示対象の時間(曜日)を指定する。また、動線分析画像の閲覧者は、固定値の感度を設定する場合、(4)感度値設定バーSVBにてバー上のノブを上下にスライドさせることによって所望の感度値を設定する。なお、感度設定は、時間や曜日によって、固定と自動調整とに切り替えて設定し、ある時間帯は所定値の固定感度、別のある時間帯は自動調整の感度など、状況に応じて適宜設定してもよい。そして、動線分析画像の閲覧者は、(5)設定ボタンCBをタッチすることにより、ヒートマップ表示の感度の設定を完了する。

0158

図21の運用画面WD6において、表示画像生成部350は、感度値設定バーSVBによって設定した感度に対応するヒートマップ画像を生成して、感度の設定値に応じた動線分析画像HM4を表示する。この際、感度の設定値を変更する度に、表示画像生成部350は、設定値に応じた動線分析画像HM4を生成して再描画する。これにより、動線分析画像の閲覧者は、現在の感度設定による動線分析画像HM4を見ながら容易に適切な感度値を設定可能である。

0159

次に、ヒートマップ表示の感度設定を行う場合のカメラ装置100及びサーバ装置300の動作について説明する。図22は、ヒートマップ表示の第1例として、カメラ装置毎(撮像した場所毎)の感度設定に応じた感度でヒートマップ画像を生成し表示する際の手順を示すフローチャートである。カメラ装置毎に設置場所が異なり、撮像画像を取得した場所によって移動体数の範囲などの状況が異なるので、撮像場所によって撮像画像の撮像条件が異なることがある。第1例では、カメラ装置毎に感度設定を行う例を示す。

0160

複数のカメラ装置A,B,C,…のそれぞれにおいて、カメラ装置100の動線情報分析部40は、撮像画像に基づき生成する動線情報として、撮像画像内の各地点における移動体の通過/滞留数を示すヒートマップデータを生成する(ステップS101)。そして、それぞれのカメラ装置A,B,C,…の送信部60は、生成したヒートマップデータをサーバ装置300に送信する(ステップS102)。各カメラ装置100からのヒートマップデータの送信タイミングは、サーバ装置300によって制御する。

0161

サーバ装置300の受信部330は、カメラ装置100からのカメラ装置毎のヒートマップデータを受信する(ステップS201)。そして、サーバ装置300の表示画像生成部350は、受信したヒートマップデータを解析し(ステップS202)、カメラ装置毎(各カメラにて取得した撮像画像毎)に適切な感度を算出する(ステップS203)。続いて、表示画像生成部350は、算出した感度に応じたヒートマップ画像を生成し(ステップS204)、モニタ450にヒートマップ画像を出力して動線分析画像として表示させる(ステップS205)。表示画像生成部350は、全てのカメラ装置に関して感度設定が完了したがどうかを判定し(ステップS206)、完了していない場合は、感度設定していない他のカメラ装置を指定する(ステップS207)。これにより、指定した他のカメラ装置からのヒートマップデータの送信を受け付け、受信部330にてのヒートマップデータを受信する。サーバ装置300は、カメラ毎のヒートマップ表示の感度設定が全て完了するまで、ステップS201〜S207の処理を繰り返し、全てのカメラ装置に関して感度設定が完了すると、本処理を終了する。

0162

ここで、3つのカメラ装置A,B,Cに対して、それぞれのカメラ装置にて取得した撮像画像毎に適切な感度を設定する場合を例示する。例えば、カメラ装置Aにて取得したヒートマップデータは、通過/滞留人数が少なく10人以下であり、カメラ装置Bにて取得したヒートマップデータは、通過/滞留人数が中程度で10人〜50人であり、カメラ装置Cにて取得したヒートマップデータは、通過/滞留人数が多くて100人〜400人であるとする。この場合、ステップS203において、カメラ装置Aは感度3人を設定し、カメラ装置Bは感度30人を設定し、カメラ装置Cは感度300人を設定する。そして、ステップS204において、カメラ装置Aについて感度3人としたヒートマップ画像を生成し、カメラ装置Bについて感度30人としたヒートマップ画像を生成し、カメラ装置Cについて感度300人としたヒートマップ画像を生成する。

0163

カメラ装置を設置した場所毎に、人通りが多い場所/少ない場所、人が集まりやすい場所/閑散とした場所など、取得されるヒートマップデータの通過/滞留人数の状況は異なる。このため、カメラ装置毎にヒートマップ表示の感度を設定することによって、撮像場所に応じて人の動きを容易に把握できる適切なヒートマップ画像を生成可能となる。

0164

図23は、ヒートマップ表示の第2例として、撮像した時間毎の感度設定に応じた感度でヒートマップ画像を生成し表示する際の手順を示すフローチャートである。撮像画像を取得した時間によって移動体数の範囲などの状況が異なり、撮像時間によって撮像画像の撮像条件が異なることがある。第2例では、撮像した時間毎に感度設定を行う例を示す。カメラ装置100の動線情報分析部40は、撮像画像内の各地点における移動体の通過/滞留数を示すヒートマップデータを生成し(ステップS151)、送信部60は、生成したヒートマップデータをサーバ装置300に送信する(ステップS152)。

0165

サーバ装置300の受信部330は、カメラ装置100からの時間毎のヒートマップデータを受信する(ステップS251)。そして、サーバ装置300の表示画像生成部350は、該当時刻の感度設定が自動か固定かを判定する(ステップS252)。該当時刻の感度設定が自動調整である場合、表示画像生成部350は、ヒートマップデータを解析し(ステップS253)、該当時刻における適切な感度を算出する(ステップS254)。一方、該当時刻の感度設定が固定である場合、表示画像生成部350は、該当時刻において適切値として設定されている固定感度を取得する(ステップS255)。次に、表示画像生成部350は、算出又は取得した感度に応じたヒートマップ画像を生成し(ステップS256)、モニタ450にヒートマップ画像を出力して動線分析画像として表示させる(ステップS257)。

0166

一つのカメラ装置(同じ撮像場所)においても、時間毎の通過/滞留人数の状況は異なる。例えば、セール時間や来客ピーク時間など、通過/滞留人数が多い時間帯では、他の時間帯に比べて通過/滞留人数の差が大きい場合がある。そこで、例えば、通過/滞留人数が多い時刻は感度設定を固定として感度300人などの大きな値を設定し、その他の時刻は感度設定を自動調整として、ヒートマップデータの通過/滞留人数に応じて、例えば平均値に基づいて適切な値を設定する。このように、時間毎にヒートマップ表示の感度を設定することによって、撮像時間に応じて人の動きを容易に把握できる適切なヒートマップ画像を生成可能となる。

0167

また、ヒートマップ表示の感度設定は、カメラ装置毎、時間毎などによって、予め自動調整又は固定値の設定を行っておくことにより、動線分析画像の閲覧者がその都度感度を設定することなく、撮像時間又は撮像場所に応じて適切な感度が設定され、好ましいヒートマップ画像の生成、表示が可能となる。

0168

なお、上述した例では、カメラ装置100において動線情報としてのヒートマップデータを生成し、サーバ装置300において動線分析画像としてのヒートマップ画像を生成する構成を示したが、これに限定されない。例えば、カメラ装置100において撮像画像からヒートマップデータ及びヒートマップ画像を生成し、サーバ装置300にヒートマップ画像を転送して表示する構成であってもよい。また、ヒートマップ画像は、一つの運用画面に任意の一つのヒートマップ画像を表示してもよいし、一つの運用画面に撮像時間又は撮像場所が異なる複数のヒートマップ画像を表示してもよい。また、同一の撮像時間及び撮像場所のヒートマップ画像について、感度設定が異なる複数のヒートマップ画像を生成して表示してもよい。

0169

本実施形態の動線分析システム500Aでは、カメラ装置100は、監視の対象領域を撮像し、対象領域の撮像画像に含まれる移動体の滞留位置又は通過位置に関する動線情報を抽出し、所定の送信周期毎に、撮像画像と動線情報とをサーバ装置300に送信する。サーバ装置300は、カメラ装置100から送信された撮像画像と動線情報とを取得し、動線情報を表示する際の感度を撮像画像の撮像条件によって設定し、感度に応じた移動体の動線情報を、撮像画像に重畳した動線分析画像を生成し、モニタ450に動線分析画像を表示する。

0170

これにより、動線分析システム500Aは、撮像画像の撮像条件によって、例えば撮像した場所又は時間によって異なる感度を設定し、感度に応じた移動体の動線情報を撮像画像に重畳した動線分析画像を生成できる。例えば、店舗に動線分析システム500Aを設置する場合、特売売場、食料品売場、衣料品売場など、撮像場所によって来客数、滞留数などの移動体数の状況が異なる。また、同一の場所であっても、午前、午後、夕方、夜など、撮像時間によって移動体数の状況が異なる。このような撮像条件の差異に対して、本実施形態の動線分析システム500Aによれば、撮像した場所又は時間に応じて、人物等の移動体の滞留情報又は通過情報を容易に把握可能な適切な動線分析画像を得ることができる。

0171

また、動線分析システム500Aでは、サーバ装置300は、複数の異なるカメラ装置毎に動線情報を表示する際の感度を設定し、動線分析画像を生成する。これにより、動線分析システム500Aにおいて、カメラ装置が設置された撮影場所によって異なる撮像条件に応じて、適切な動線分析画像を生成でき、動線分析画像の閲覧者は人物等の移動体の滞留情報又は通過情報を容易に把握することができる。例えば、店舗の店員(例えばマネージャ)は、店舗内のどこの位置に購買客がどの程度の時間だけ滞留し、又はどのくらいの購買客がどこの位置を通過したのかを場所毎に詳細に把握、比較することができる。

0172

また、動線分析システム500Aでは、サーバ装置300は、撮像画像が撮像された時間毎に動線情報を表示する際の感度を設定し、動線分析画像を生成する。これにより、動線分析システム500Aにおいて、撮像画像の撮像時間によって異なる撮像条件に応じて、適切な動線分析画像を生成でき、動線分析画像の閲覧者は人物等の移動体の滞留情報又は通過情報を容易に把握することができる。例えば、店舗の店員(例えばマネージャ)は、店舗内のどこの位置に購買客がどの程度の時間だけ滞留し、又はどのくらいの購買客がどこの位置を通過したのかを時間毎に詳細に把握、比較することができる。

0173

また、動線分析システム500Aでは、サーバ装置300は、動線情報を表示する際の感度を、取得した動線情報に基づいて算出して設定する。これにより、動線分析システム500Aにおいて、撮像画像から取得した動線情報に基づき、例えば移動体数の最大値、最小値、平均値、レンジ(移動体数が分布する範囲)に応じて、自動的に適切な感度を設定でき、人物等の移動体の滞留情報又は通過情報を容易に把握可能な適切な動線分析画像を生成することができる。

0174

また、動線分析システム500Aでは、サーバ装置300は、動線情報を表示する際の感度を、固定値を取得して設定する。これにより、動線分析システム500Aにおいて、撮像場所、撮像時間等の撮像条件によって適切な固定値の感度を設定し、人物等の移動体の滞留情報又は通過情報を容易に把握可能な適切な動線分析画像を生成することができる。

0175

また、動線分析システム500Aでは、サーバ装置300は、入力デバイス400からの操作入力を取得し、動線情報を表示する際の感度を操作入力に対応して設定する。これにより、動線分析システム500Aにおいて、動線分析画像の閲覧者などのユーザの操作指示に従って、撮像場所、撮像時間等の撮像条件によって適切な感度を設定することができ、人物等の移動体の滞留情報又は通過情報を容易に把握可能な適切な動線分析画像を得ることができる。

0176

以上、図面を参照しながら各種の実施形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。

0177

なお、上述した各実施形態では、移動体の例として店舗内を移動する人物(例えば購買客)を挙げたが、人物に限定されない。例えば車両やロボットが移動体でもよい。移動体が人物である場合には、店舗で購買客(来店客)や店員の動線情報が解析される。移動体が車両である場合には、例えば駐車場道路において車両の動線情報が解析され、渋滞等の混雑状況が動線分析画像として示されてもよい。移動体がロボットである場合には、店舗内を巡回して商品の陳列棚の状況を監視して店舗側サーバに通知するためのロボットが近年知られているが、このようなロボットの巡回状況が動線分析画像として示されてもよい。

0178

本発明は、撮像した場所又は時間等の撮像条件に応じて、移動体の滞留情報又は通過情報を容易に把握可能な適切な動線分析画像を生成する動線分析システム及び動線分析方法として有用である。

0179

10撮像部
20画像入力部
30背景画像生成部
31入力画像学習部
32 移動体分離部
33 背景画像抽出部
40動線情報分析部
41 対象検出部
42 動線情報取得部
43 通過/滞留状況分析部
50スケジュール管理部
60 送信部
70イベント情報受領部
80 背景画像蓄積部
90 通過/滞留分析情報蓄積部
100、100A、100N、100Sカメラ装置
200レコーダ
300、600サーバ装置
310 イベント情報受領部
320通知部
330 受信部
340受信情報蓄積部
350表示画像生成部
360レポート生成出力部
400入力デバイス
450モニタ
500A、500B、500C動線分析システム
700スマートフォン
800クラウドコンピュータ
900設定端末装置
1000販売管理システム
CT人数カウント部
SDシーン識別部

ページトップへ

この技術を出願した法人

この技術を発明した人物

ページトップへ

関連する挑戦したい社会課題

関連する公募課題

ページトップへ

おススメ サービス

おススメ astavisionコンテンツ

新着 最近 公開された関連が強い技術

この 技術と関連性が強い技術

関連性が強い 技術一覧

この 技術と関連性が強い人物

関連性が強い人物一覧

この 技術と関連する社会課題

関連する挑戦したい社会課題一覧

この 技術と関連する公募課題

関連する公募課題一覧

astavision 新着記事

サイト情報について

本サービスは、国が公開している情報(公開特許公報、特許整理標準化データ等)を元に構成されています。出典元のデータには一部間違いやノイズがあり、情報の正確さについては保証致しかねます。また一時的に、各データの収録範囲や更新周期によって、一部の情報が正しく表示されないことがございます。当サイトの情報を元にした諸問題、不利益等について当方は何ら責任を負いかねることを予めご承知おきのほど宜しくお願い申し上げます。

主たる情報の出典

特許情報…特許整理標準化データ(XML編)、公開特許公報、特許公報、審決公報、Patent Map Guidance System データ