図面 (/)

技術 入力装置、入力装置の制御方法、入力装置の制御プログラム、コンピュータ読取可能な記録媒体、および情報端末装置

出願人 シャープ株式会社
発明者 石田一宏
出願日 2008年12月22日 (9年11ヶ月経過) 出願番号 2008-326274
公開日 2010年7月1日 (8年5ヶ月経過) 公開番号 2010-146506
状態 拒絶査定
技術分野 表示による位置入力 位置入力装置 電話機の回路等 電話機の機能
主要キーワード 設定面積 拡がり具合 中心点付近 重畳判定 略上方向 像検知装置 パイプ軸 裏表両面
関連する未来課題
重要な関連分野

この項目の情報は公開日時点(2010年7月1日)のものです。
また、この項目は機械的に抽出しているため、正しく解析できていない場合があります

図面 (20)

課題

ユーザにとって利便性及び操作性の高い入力装置を提供する。

解決手段

第1表示/光センサ部300A、及び第2表示/光センサ部300Bが、共に指の像を検知したか否かを判定する検知判定部810と、検知判定部810が、第1表示/光センサ部300A、及び第2表示/光センサ部300Bが共に指の像を検知したと判定した場合に、第1表示/光センサ部300A、及び第2表示/光センサ部300Bがそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出部830と、を備える。これにより、ユーザは、様々な指の像の動きを第1表示/光センサ部300A、及び第2表示/光センサ部300Bに検出させることによって、従来の入力装置では実現できなかった多彩立体的な操作を経験でき、また、そのような操作によって、優れた利便性及び操作性が提供される。

概要

背景

近年、タッチパネル式入力装置が、携帯電話機、PDAなどに代表されるモバイル機器携帯端末)において広く普及している。その一例として、入力面に対して、指が接触していない状態から、接触している状態に変化したときに、接触した指の位置に応じた入力が行われる入力装置が知られている(例えば、特許文献1)。

また、単にタッチパネル式で入力を受け付けるのみならず、用途に応じて、より便利な入力が可能な入力装置が提案されている。例えば、携帯用端末機器において、ユーザは、表示画面上のアイコンに指を接触させて、次にアイコンを移動させたい方向にその指を動かすことにより、そのアイコンを表示画面中の好みの位置に移動させることができる。さらに、表示画面上のフォルダを指でダブルクリックすることにより、そのフォルダを開けることもできる(例えば、特許文献2)。
特開2008−141519号公報(平成20年6月19日公開
特開平11−39093号公報(平成11年2月12日公開)

概要

ユーザにとって利便性及び操作性の高い入力装置を提供する。第1表示/光センサ部300A、及び第2表示/光センサ部300Bが、共に指の像を検知したか否かを判定する検知判定部810と、検知判定部810が、第1表示/光センサ部300A、及び第2表示/光センサ部300Bが共に指の像を検知したと判定した場合に、第1表示/光センサ部300A、及び第2表示/光センサ部300Bがそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出部830と、を備える。これにより、ユーザは、様々な指の像の動きを第1表示/光センサ部300A、及び第2表示/光センサ部300Bに検出させることによって、従来の入力装置では実現できなかった多彩立体的な操作を経験でき、また、そのような操作によって、優れた利便性及び操作性が提供される。

目的

本発明は、上記の問題点に鑑みてなされたものであり、その目的は、ユーザにとって利便性及び操作性の高い入力装置、入力装置の制御方法、入力装置の制御プログラムコンピュータ読取可能な記録媒体、および情報端末装置を提供することにある。

効果

実績

技術文献被引用数
8件
牽制数
10件

この技術が所属する分野

ライセンス契約や譲渡などの可能性がある特許掲載中! 開放特許随時追加・更新中 詳しくはこちら

請求項1

近傍の像を検知する面状部材が、表裏両面にそれぞれ配設された板状の入力装置であって、前記表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定手段と、前記検知判定手段が、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出手段と、を備えることを特徴とする入力装置。

請求項2

記入力信号と、動作実行装置に所定の動作を実行させる命令とが対応付けられた、指−命令対応情報に基づいて、前記入力信号に対応する命令を、前記動作実行装置に送信する動作制御手段を備えることを特徴とする請求項1に記載の入力装置。

請求項3

前記入力検出手段は、前記表裏両面の面状部材が、該表裏両面の面状部材上の所定の領域において指の像を検知した場合に、前記入力信号を生成することを特徴とする請求項1又は2に記載の入力装置。

請求項4

前記表裏両面の面状部材において、前記所定の領域に画像を表示させる画像表示制御手段を備え、前記入力検出手段は、前記画像に対応付けられた前記入力信号を生成することを特徴とする請求項3に記載の入力装置。

請求項5

前記画像表示制御手段は、前記動作実行装置が実行した前記所定の動作の結果に基づく画像を、前記面状部材に表示させることを特徴とする請求項4に記載の入力装置。

請求項6

近傍の像を検知する面状部材が、表裏両面にそれぞれ配設された板状の入力装置の制御方法であって、前記表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定ステップと、前記検知判定ステップによって、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出ステップと、を含むことを特徴とする入力装置の制御方法。

請求項7

近傍の像を検知する面状部材が、表裏両面にそれぞれ配設された板状の入力装置の制御プログラムであって、前記表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定ステップと、前記検知判定ステップによって、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出ステップと、をコンピュータに実行させるための入力装置の制御プログラム。

請求項8

請求項7に記載の入力装置の制御プログラムを記録したコンピュータ読取可能な記録媒体

請求項9

請求項1から5のいずれか1項に記載の入力装置を備えた情報端末装置

技術分野

0001

本発明は、二つの入力面から入力する入力装置、入力装置の制御方法、入力装置の制御プログラムコンピュータ読取可能な記録媒体、および情報端末装置に関する。

背景技術

0002

近年、タッチパネル式の入力装置が、携帯電話機、PDAなどに代表されるモバイル機器携帯端末)において広く普及している。その一例として、入力面に対して、指が接触していない状態から、接触している状態に変化したときに、接触した指の位置に応じた入力が行われる入力装置が知られている(例えば、特許文献1)。

0003

また、単にタッチパネル式で入力を受け付けるのみならず、用途に応じて、より便利な入力が可能な入力装置が提案されている。例えば、携帯用端末機器において、ユーザは、表示画面上のアイコンに指を接触させて、次にアイコンを移動させたい方向にその指を動かすことにより、そのアイコンを表示画面中の好みの位置に移動させることができる。さらに、表示画面上のフォルダを指でダブルクリックすることにより、そのフォルダを開けることもできる(例えば、特許文献2)。
特開2008−141519号公報(平成20年6月19日公開
特開平11−39093号公報(平成11年2月12日公開)

発明が解決しようとする課題

0004

しかしながら、上記従来の入力装置は、何れも一つの入力面から入力する方式(以下、一面入力式とする)であって、裏表両面に配設された二つの入力面から入力する方式(以下、両面入力式とする)の入力装置は、そもそも存在しなかった。

0005

従って、ユーザは、両面入力式の入力装置によって実現される多彩立体的な操作と、その優れた利便性及び操作性を、従来の一面入力式の入力装置では経験することができなかった。

0006

さらに、従来の入力装置には次のような問題があった。つまり、一面入力式の入力装置では、ユーザが気付かないうちに意図しない操作が行われる可能性を排除できない。具体的には、ユーザの指がタッチパネル上のアイコンに無意識のうちに接触し、アイコンを表示画面上のどこか別の場所にドラッグしてしまうことがある。そのドラッグした先がゴミ箱フォルダであった場合には、そのアイコンは、ユーザの知らない間に消去されてしまうという事態に陥る。このように、従来の入力装置には、一つの入力面から入力を行うことによって生じる固有の問題もあった。

0007

本発明は、上記の問題点に鑑みてなされたものであり、その目的は、ユーザにとって利便性及び操作性の高い入力装置、入力装置の制御方法、入力装置の制御プログラム、コンピュータ読取可能な記録媒体、および情報端末装置を提供することにある。

課題を解決するための手段

0008

本発明の入力装置は、前記課題を解決するために、近傍の像を検知する面状部材が、表裏両面にそれぞれ配設された板状の入力装置であって、前記表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定手段と、前記検知判定手段が、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出手段と、を備えることを特徴としている。

0009

また、本発明の入力装置の制御方法は、近傍の像を検知する面状部材が、表裏両面にそれぞれ配設された板状の入力装置の制御方法であって、前記表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定ステップと、前記検知判定ステップによって、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出ステップと、を含むことを特徴としている。

0010

これにより、本発明に係る入力装置および入力装置の制御方法では、表裏両面にそれぞれ配設された近傍の像を検知する面状部材が共に指の像を検知した場合に、指の像の動きに対応付けられた入力信号が入力検出手段によって生成される。そして、その入力信号は、表裏両面の面状部材が検知した指の像の動きに対応付けられた信号である。

0011

従って、表裏両面の面状部材が様々な指の像の動きを検出することによって、従来の入力装置では実現できなかった多彩で立体的な操作が行われ、また、そのような操作によって、優れた利便性及び操作性がユーザに提供される。しかも板状の入力装置の裏表両面から画面を指で挟持するように操作するため、ユーザは、極めて容易に当該装置を使用することができる。

0012

加えて、表裏両面の面状部材のうち何れか一方の面状部材が指の像を検知しただけでは、その指の像の動きに対応付けられた入力信号が生成されることはない。そのため、例えばユーザの指がタッチパネル上のアイコンに無意識のうちに接触しても、その指の像が検知されて入力信号が生成され、何らかの処理が実行されてしまうという事態を回避することができる。それゆえ、入力面に誤って触って、意図せず操作してしまうリスクが軽減される。

0013

このように、本発明に係る入力装置および入力装置の制御方法は、優れた操作性及び利便性をユーザに提供することができる。

0014

さらに、本発明に係る入力装置では、前記の構成において、前記入力信号と、動作実行装置に所定の動作を実行させる命令とが対応付けられた、指−命令対応情報に基づいて、前記入力信号に対応する命令を、前記動作実行装置に送信する動作制御手段を備える構成としてもよい。

0015

前記の構成によれば、本発明に係る入力装置では、入力検出手段が、表裏両面の面状部材が共に指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する。そして、前記入力信号と、動作実行装置に所定の動作を実行させる命令とが対応付けられた、指−命令対応情報に基づいて、入力信号に対応付けられた命令が動作実行装置に送信され、動作実行装置がその命令に従って所定の動作を実行する。

0016

従って、表裏両面の面状部材が様々な指の像の動きを検出することによって、動作実行装置は、ユーザが所望する動作を実行することができる。

0017

なお、動作実行装置は、1つであっても複数であってもよく、また入力装置と一体に構成されていてもよく、さらに入力装置から物理的に離れた位置に存在していてもよい。

0018

さらに、本発明に係る入力装置では、前記の構成において、前記入力検出手段は、前記表裏両面の面状部材が、該表裏両面の面状部材上の所定の領域において指の像を検知した場合に、前記入力信号を生成する構成としてもよい。

0019

前記の構成によれば、本発明に係る入力装置では、入力検出手段が、表裏両面の面状部材上の所定の領域において指の像を検知した場合に入力信号を生成し、表裏両面の面状部材上の前記所定の領域とは異なる他の領域に指がタッチした場合には入力信号を生成しない。このようにして、入力検出手段は、表裏両面の面状部材上の操作領域を制限することができる。

0020

従って、ユーザは、表裏両面の面状部材上の前記所定の領域とは異なる他の領域に指をタッチしても、入力信号が生成されて入力面に誤って操作してしまう事態を回避することができる。また、ユーザにとって操作しやすい領域に前記所定の領域が設定されることにより、本発明に係る入力装置は、さらに優れた操作性及び利便性をユーザに提供することができる。

0021

さらに、本発明に係る入力装置では、前記表裏両面の面状部材において、前記所定の領域に画像を表示させる画像表示制御手段を備え、前記入力検出手段は、前記画像に対応付けられた前記入力信号を生成する構成としてもよい。

0022

前記の構成によれば、本発明に係る入力装置では、画像表示制御手段が所定の領域に画像を表示する。また、入力検出手段は、所定の領域において指の像が検知された場合に、当該画像に対応付けられた入力信号を生成する。

0023

つまり、画像表示制御手段が画像を表示することによって操作可能な範囲(操作対象)がユーザに明示され、ユーザは、当該画像を裏表両面から指で挟持することにより、前記動作実行装置に所定の動作を実行させることができる。

0024

それとは逆に、入力検出手段は、表裏両面の面状部材上の画像が表示された領域とは異なる他の領域に指がタッチした場合であっても、入力信号を生成することはない。それゆえ、当該画像が表示されている所定の領域とは異なる領域を誤って触って、意図せず操作してしまうという事態を回避できる。

0025

さらに、本発明に係る入力装置では、前記の構成において、前記画像表示制御手段は、前記動作実行装置が実行した前記所定の動作の結果に基づく画像を、前記面状部材に表示させる構成としてもよい。

0026

前記の構成によれば、本発明に係る入力装置では、画像表示制御手段は、前記動作実行装置が実行した前記所定の動作の結果に基づく画像を前記面状部材に表示させる。

0027

従って、画像表示制御手段は、ユーザの指の動きに対応付けられて実行された動作の結果を画面上に表示して、その結果をユーザに確認させることができる。

0028

なお、その動作後の画像に対してさらに何らかの動作を与えたいときは、前記表裏両面の面状部材に対して所望の指の像の動きを検出させればよい。つまり、ユーザは、動作の結果を画面上で確認することにより、次の動作を連続的に行うことができる。

0029

なお、前記入力装置は、コンピュータによって実現してもよく、この場合には、コンピュータを前記各手段として動作させることにより前記入力装置をコンピュータにて実現させる入力装置の制御プログラム、およびそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。また、前記の入力装置を備えた情報端末装置も、本発明の範疇に入る。

発明の効果

0030

本発明に係る入力装置は、以上のように、表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定手段と、前記検知判定手段が、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出手段と、を備える構成である。

0031

また、本発明に係る入力装置の制御方法は、以上のように、前記表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定ステップと、前記検知判定ステップによって、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出ステップと、を含む構成である。

0032

それゆえ、二つの入力面から入力する、操作性及び利便性に優れた入力装置および入力装置の制御方法をユーザに提供することができる。

発明を実施するための最良の形態

0033

本実施の形態について図1図27に基づいて説明すると以下の通りである。

0034

本実施の形態に係るデータ表示センサ装置100(入力装置)は、概略的に言えば、近傍の像を検知する第1表示/光センサ部300A、及び第2表示/光センサ部300B(表裏両面の面状部材)が表裏両面にそれぞれ配設されており、第1表示/光センサ部300A、及び第2表示/光センサ部300Bが、共に指の像を検知したか否かを判定する検知判定部810(検知判定手段)と、検知判定部810が、第1表示/光センサ部300A、及び第2表示/光センサ部300Bが共に指の像を検知したと判定した場合に、第1表示/光センサ部300A、及び第2表示/光センサ部300Bがそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出部830(入力検出手段)と、を備える装置である。

0035

そこで、まず、データ表示/センサ装置100が備えるセンサ内蔵液晶パネル301の概要について説明する。

0036

(センサ内蔵液晶パネルの概要)
前記データ表示/センサ装置100が備えるセンサ内蔵液晶パネル301は、データの表示に加え、対象物画像検出が可能な液晶パネルである。ここで、対象物の画像検出とは、例えば、ユーザが指やペンなどでポインティング(タッチ)した位置の検出や、印刷物等の画像の読み取りスキャン)である。なお、表示に用いるデバイスは、液晶パネルに限定されるものではなく、有機EL(Electro Luminescence)パネルなどであってもよい。

0037

図2を参照しながら、センサ内蔵液晶パネル301の構造について説明する。図2は、センサ内蔵液晶パネル301の断面を模式的に示す図である。なお、ここで説明するセンサ内蔵液晶パネル301は一例であり、表示面と読取面とが共用されているものであれば、任意の構造のものが利用できる。

0038

図示のとおり、センサ内蔵液晶パネル301は、背面側に配置されるアクティブマトリクス基板51Aと、表面側に配置される対向基板51Bとを備え、これら基板の間液晶層52を挟持した構造を有している。アクティブマトリクス基板51Aには、画素電極56、データ信号線57、光センサ回路32(図示せず)、配向膜58、偏光板59などが設けられる。対向基板51Bには、カラーフィルタ53r(赤)、53g(緑)、53b(青)、遮光膜54、対向電極55、配向膜58、偏光板59などが設けられる。また、センサ内蔵液晶パネル301の背面には、バックライト307が設けられている。

0039

なお、光センサ回路32に含まれるフォトダイオード6は、青のカラーフィルタ53bを設けた画素電極56の近傍に設けられているが、この構成に限定されるものではない。赤のカラーフィルタ53rを設けた画素電極56の近傍に設けてもよいし、緑のカラーフィルタ53gを設けた画素電極56の近傍に設けてもよい。

0040

次に、図3(a)および図3(b)を参照しながら、ユーザが、指やペンで、センサ内蔵液晶パネル301上をタッチした位置を検出する2種類の方法について説明する。

0041

図3(a)は、反射像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。バックライト307から光63が出射されると、フォトダイオード6を含む光センサ回路32は、指などの対象物64により反射された光63を検知する。これにより、対象物64の反射像を検知することができる。このように、センサ内蔵液晶パネル301は、反射像を検知することにより、タッチした位置を検出することができる。

0042

また、図3(b)は、影像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。図3(b)に示すように、フォトダイオード6を含む光センサ回路32は、対向基板51Bなどを透過した外光61を検知する。しかしながら、ペンなどの対象物62がある場合は、外光61の入射が妨げられるので、光センサ回路32が検知する光量が減る。これにより、対象物62の影像を検知することができる。このように、センサ内蔵液晶パネル301は、影像を検知することにより、タッチした位置を検出することもできる。

0043

上述のように、フォトダイオード6は、バックライト307より出射された光の反射光(影像)を検知してもよいし、外光による影像を検知してもよい。また、前記2種類の検知方法を併用して、影像と反射像とを両方を同時に検知するようにしてもよい。

0044

(データ表示/センサ装置の要部構成)
次に、図4を参照しながら、前記データ表示/センサ装置100の要部構成について説明する。図4は、データ表示/センサ装置100の要部構成を示すブロック図である。図示のように、データ表示/センサ装置100は、1または複数の表示/光センサ部300、回路制御部600、データ処理部700、主制御部800、記憶部901、一次記憶部902、操作部903、外部通信部907、音声出力部908、および音声入力部909を備えている。ここでは、データ表示/センサ装置100は、表示/光センサ部300を2つ(第1表示/光センサ部300Aおよび第2表示/光センサ部300B)備えているものとして説明する。なお、第1表示/光センサ部300Aおよび第2表示/光センサ部300Bを区別しないときは、表示/光センサ部300と表記する。

0045

表示/光センサ部300は、いわゆる光センサ内蔵液晶表示装置でdfある。表示/光センサ部300は、センサ内蔵液晶パネル301、バックライト307、それらを駆動するための周辺回路309を含んで構成される。

0046

センサ内蔵液晶パネル301は、マトリクス状に配置された複数の画素回路31および光センサ回路32を含んで構成される。センサ内蔵液晶パネル301の詳細な構成については後述する。

0047

周辺回路309は、液晶パネル駆動回路304、光センサ駆動回路305、信号変換回路306、バックライト駆動回路308を含む。

0048

液晶パネル駆動回路304は、回路制御部600の表示制御部601からのタイミング制御信号(TC1)およびデータ信号(D)に従って、制御信号(G)およびデータ信号(S)を出力し、画素回路31を駆動する回路である。画素回路31の駆動方法の詳細については後述する。

0049

光センサ駆動回路305は、回路制御部600のセンサ制御部602からのタイミング制御信号(TC2)に従って、信号線(R)に電圧印加し、光センサ回路32を駆動する回路である。光センサ回路32の駆動方法の詳細については後述する。

0050

信号変換回路306は、光センサ回路32から出力されるセンサ出力信号SS)をデジタル信号(DS)に変換し、該変換後の信号をセンサ制御部602に送信する回路である。

0051

バックライト307は、複数の白色LED(Light Emitting Diode)を含んでおり、センサ内蔵液晶パネル301の背面に配置される。そして、バックライト駆動回路308から電源電圧が印加されると、バックライト307は点灯し、センサ内蔵液晶パネル301に光を照射する。なお、バックライト307は、白色LEDに限らず、他の色のLEDを含んでいてもよい。また、バックライト307は、LEDに代えて、例えば、冷陰極管CCFL:Cold Cathode Fluorescent Lamp)を含むものであってもよい。

0052

バックライト駆動回路308は、回路制御部600のバックライト制御部603からの制御信号(BK)がハイレベルであるときは、バックライト307に電源電圧を印加し、逆に、バックライト制御部603からの制御信号がローレベルであるときは、バックライト307に電源電圧を印加しない。

0053

次に、回路制御部600について説明する。回路制御部600は、表示/光センサ部300の周辺回路309を制御するデバイスドライバとしての機能を備えるものである。回路制御部600は、表示制御部601、センサ制御部602、バックライト制御部603、および表示データ記憶部604を備えている。

0054

表示制御部601は、データ処理部700の表示データ処理部701から表示データを受信するとともに、表示データ処理部701からの指示に従って、表示/光センサ部300の液晶パネル駆動回路304に、タイミング制御信号(TC1)およびデータ信号(D)を送信し、前記受信した表示データをセンサ内蔵液晶パネル301に表示させる。

0055

なお、表示制御部601は、表示データ処理部701から受信した表示データを、表示データ記憶部604に一次記憶させる。そして、当該一次記憶させた表示データに基づいて、データ信号(D)を生成する。表示データ記憶部604は、例えば、VRAM(video random access memory)などである。

0056

センサ制御部602は、データ処理部700のセンサデータ処理部703からの指示に従って、表示/光センサ部300の光センサ駆動回路305に、タイミング制御信号(TC2)を送信し、センサ内蔵液晶パネル301にてスキャンを実行させる。

0057

また、センサ制御部602は、信号変換回路306からデジタル信号(DS)を受信する。そして、センサ内蔵液晶パネル301に含まれる全ての光センサ回路32から出力されたセンサ出力信号(SS)に対応するデジタル信号(DS)に基づいて、画像データを生成する。つまり、センサ内蔵液晶パネル301の読み取り領域全体で読み取った画像データを生成する。そして、該生成した画像データをセンサデータ処理部703に送信する。

0058

バックライト制御部603は、表示データ処理部701およびセンサデータ処理部703からの指示に従って、表示/光センサ部300のバックライト駆動回路308に制御信号(BK)を送信し、バックライト307を駆動させる。

0059

なお、データ表示/センサ装置100が、複数の表示/光センサ部300を備える場合、表示制御部601は、データ処理部700から、どの表示/光センサ部300にて表示データを表示するかの指示を受けたとき、当該指示に応じた表示/光センサ部300の液晶パネル駆動回路304を制御する。また、センサ制御部602は、データ処理部700から、どの表示/光センサ部300にて対象物のスキャンを行なうかの指示を受けたとき、当該指示に応じた表示/光センサ部300の光センサ駆動回路305を制御するとともに、当該指示に応じた表示/光センサ部300の信号変換回路306からデジタル信号(DS)を受信する。

0060

次に、データ処理部700について説明する。データ処理部700は、主制御部800から受信する「コマンド」に基づいて、回路制御部600に指示を与えるミドルウェアとしての機能を備えるものである。なお、コマンドの詳細については後述する。

0061

データ処理部700は、表示データ処理部701およびセンサデータ処理部703を備えている。そして、データ処理部700が、主制御部800からコマンドを受信すると、該受信したコマンドに含まれる各フィールド(後述する)の値に応じて、表示データ処理部701およびセンサデータ処理部703の少なくとも一方が動作する。

0062

表示データ処理部701は、主制御部800から表示データを受信するとともに、データ処理部700が受信したコマンドに従って、表示制御部601およびバックライト制御部603に指示を与え、前記受信した表示データをセンサ内蔵液晶パネル301に表示させる。なお、コマンドに応じた、表示データ処理部701の動作については、後述する。

0063

センサデータ処理部703は、データ処理部700が受信したコマンドに従って、センサ制御部602およびバックライト制御部603に指示を与える。

0064

また、センサデータ処理部703は、センサ制御部602から画像データを受信し、当該画像データをそのまま画像データバッファ704に格納する。そして、センサデータ処理部703は、データ処理部700が受信したコマンドに従って、画像データバッファ704に記憶されている画像データに基づいて、「全体画像データ」、「部分画像データ部分画像座標データを含む)」、および「座標データ」の少なくともいずれか1つを、主制御部800に送信する。なお、全体画像データ、部分画像データ、および座標データについては、後述する。また、コマンドに応じた、センサデータ処理部703の動作については、後述する。

0065

次に、主制御部800は、アプリケーションプログラムを実行するものである。主制御部800は、記憶部901に格納されているプログラムを、例えばRAM(Random Access Memory)等で構成される一次記憶部902に読み出して実行する。

0066

主制御部800で実行されるアプリケーションプログラムは、センサ内蔵液晶パネル301に表示データを表示させたり、センサ内蔵液晶パネル301にて対象物のスキャンを行わせるために、データ処理部700に対して、コマンドおよび表示データを送信する。また、コマンドに「データ種別」を指定した場合は、当該コマンドの応答として、全体画像データ、部分画像データ、および座標データの少なくともいずれか1つを、データ処理部700から受信する。

0067

なお、回路制御部600、データ処理部700、および主制御部800は、それぞれ、CPU(Central Processing Unit)およびメモリ等で構成することができる。また、データ処理部700は、ASIC(application specific integrate circuit)などの回路で構成されていてもよい。

0068

次に、記憶部901は、図示のように、主制御部800が実行するプログラムおよびデータを格納するものである。なお、主制御部800が実行するプログラムは、アプリケーション固有のプログラムと、各アプリケーションが共用可能な汎用プログラムとに分離されていてもよい。

0069

次に、操作部903は、データ表示/センサ装置100のユーザの入力操作を受けつけるものである。操作部903は、例えば、スイッチ、リモコンマウスキーボードなどの入力デバイスで構成される。そして、操作部903は、データ表示/センサ装置100のユーザの入力操作に応じた制御信号を生成し、該生成した制御信号を主制御部800へ送信する。

0070

なお、前記スイッチの例としては、電源オンオフとを切り替える電源スイッチ905、予め所定の機能が割り当てられているユーザスイッチ906などのハードウェアスイッチを想定している。

0071

その他、データ表示/センサ装置100は、無線有線通信によって外部装置通信を行なうための外部通信部907、音声を出力するためのスピーカ等の音声出力部908、音声信号を入力するためのマイク等の音声入力部909などを適宜備えていてもよい。

0072

(コマンドの詳細)
次に、図5および図6を参照しながら、主制御部800からデータ処理部700に送信されるコマンドの詳細について説明する。図5は、コマンドのフレーム構造の一例を模式的に示す図である。また、図6は、コマンドに含まれる各フィールドに指定可能な値の一例、および、その概要を説明する図である。

0073

図5に示すように、コマンドは、「ヘッダ」、「データ取得タイミング」、「データ種別」、「スキャン方式」、「スキャン画像階調」、「スキャン解像度」、「スキャンパネル」、「表示パネル」、および「予備」の各フィールドを含んでいる。そして、各フィールドには、例えば、図6に示す値が指定可能である。

0074

「ヘッダ」フィールドは、フレームの開始を示すフィールドである。「ヘッダ」フィールドであることが識別可能であれば、「ヘッダ」フィールドの値は、どのような値であってもよい。

0075

次に、「データ取得タイミング」フィールドは、データを主制御部800へ送信すべきタイミングを指定するフィールドである。「データ取得タイミング」フィールドには、例えば、“00”(センス)、“01”(イベント)、および“10”(オール)という値が指定可能である。

0076

ここで、“センス”は、最新のデータを直ちに送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“センス”であるコマンドを受信すると、「データ種別」フィールドにて指定されている最新のデータを、直ちに、主制御部800に送信する。

0077

また、“イベント”は、センサ制御部602から受信する画像データに変化が生じたタイミングで送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“イベント”であるコマンドを受信すると、「データ種別」フィールドにて指定されているデータを、センサ制御部602から受信する画像データに、所定の閾値より大きい変化が生じたタイミングで、主制御部800に送信する。

0078

また、“オール”は、所定周期でデータを送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“オール”であるコマンドを受信すると、「データ種別」フィールドにて指定されているデータを、所定周期で、主制御部800に送信する。なお、前記所定周期は、光センサ回路32にてスキャンを行なう周期と一致する。

0079

次に、「データ種別」フィールドは、センサデータ処理部703から取得するデータの種別を指定するフィールドである。なお、「データ種別」フィールドには、例えば、“001”(座標)、“010”(部分画像)、および“100”(全体画像)という値が指定可能である。さらに、これらの値を加算することによって、“座標”と、“部分画像”/“全体画像”とを、同時に指定可能である。例えば、“座標”と“部分画像”とを同時に指定する場合、“011”と指定することができる。

0080

センサデータ処理部703は、「データ種別」フィールドの値が“全体画像”であるコマンドを受信すると、画像データバッファ704に記憶している画像データそのものを主制御部800に送信する。画像データバッファ704に記憶している画像データそのものを、「全体画像データ」と称する。

0081

また、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるコマンドを受信すると、センサ制御部602から受信する画像データから、所定の閾値より大きい変化が生じた部分を含む領域を抽出し、該抽出した領域の画像データを主制御部800に送信する。ここで、当該画像データを、「部分画像データ」と称する。なお、前記部分画像データが複数抽出された場合、センサデータ処理部703は、該抽出されたそれぞれの部分画像データを主制御部800に送信する。

0082

さらに、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるコマンドを受信したとき、部分画像データにおける代表座標を検出し、当該代表座標の部分画像データにおける位置を示す座標データを主制御部800に送信する。なお、前記代表座標とは、例えば、前記部分画像データの中心の座標、前記部分画像データの重心の座標などが挙げられる。

0083

次に、センサデータ処理部703は、「データ種別」フィールドの値が“座標”であるコマンドを受信すると、前記代表座標の全体画像データにおける位置を示す座標データを主制御部800に送信する。なお、前記部分画像データが複数抽出された場合、センサデータ処理部703は、該抽出された、それぞれの部分画像データの、全体画像データにおける代表座標を検出し、当該代表座標を示す座標データのそれぞれを主制御部800に送信する(多点検出)。

0084

なお、全体画像データ、部分画像データ、および座標データの具体例については、模式図を参照しながら後述する。

0085

次に、「スキャン方式」フィールドは、スキャン実行時に、バックライト307を点灯するか否かを指定するフィールドである。「スキャン方式」フィールドには、例えば、“00”(反射)、“01”(透過)、および“10”(反射/透過)という値が指定可能である。

0086

“反射”は、バックライト307を点灯した状態でスキャンを行なうことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“反射”であるコマンドを受信すると、光センサ駆動回路305とバックライト駆動回路308とが同期して動作するように、センサ制御部602とバックライト制御部603とに指示を与える。

0087

また、“透過”は、バックライト307を消灯した状態でスキャンを行なうことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“透過”であるコマンドを受信すると、光センサ駆動回路305を動作させ、バックライト駆動回路308と動作させないようにセンサ制御部602とバックライト制御部603とに指示を与える。なお、“反射/透過”は、“反射”と“透過”とを併用してスキャンを行なうことを指定するものである。

0088

次に、「スキャン画像階調」フィールドは、部分画像データおよび全体画像データの階調を指定するフィールドである。「スキャン画像階調」フィールドには、例えば、“00”(2値)、および“01”(多値)という値が指定可能である。

0089

ここで、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“2値”であるコマンドを受信すると、部分画像データおよび全体画像データをモノクロデータとして、主制御部800に送信する。

0090

また、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“多値”であるコマンドを受信すると、部分画像データおよび全体画像データを多階調データとして、主制御部800に送信する。

0091

次に、「スキャン解像度」フィールドは、部分画像データおよび全体画像データの解像度を指定するフィールドである。「解像度」フィールドには、例えば、“0”(高)および“1”(低)という値が指定可能である。

0092

ここで、“高”は、高解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“高”であるコマンドを受信すると、部分画像データおよび全体画像データを高解像度で主制御部800に送信する。例えば、画像認識などの画像処理を行なう対象の画像データ(指紋などの画像データ)には、“高”を指定することが望ましい。

0093

また、“低”は、低解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“低”であるコマンドを受信すると、部分画像データおよび全体画像データを低解像度で主制御部800に送信する。例えば、タッチした位置等が分かる程度でよい画像データ(タッチした指や手の画像データなど)には、“低”を指定することが望ましい。

0094

次に、「スキャンパネル」フィールドは、どの表示/光センサ部300にて対象物のスキャンを行なうかを指定するフィールドである。「スキャンパネル」フィールドには、例えば、“001”(第1表示/光センサ部300A)、“010”(第2表示/光センサ部300B)という値が指定可能である。なお、これらの値を加算することによって、複数の表示/光センサ部300を同時に指定可能である。例えば、“第1表示/光センサ部300A”と“第2表示/光センサ部300B”とを同時に指定する場合、“011”と指定することができる。

0095

ここで、センサデータ処理部703は、「スキャンパネル」フィールドの値が“第1表示/光センサ部300A”であるコマンドを受信すると、第1表示/光センサ部300Aの光センサ駆動回路305およびバックライト駆動回路308を制御するように、センサ制御部602およびバックライト制御部603に指示を与える。

0096

次に、「表示パネル」フィールドは、どの表示/光センサ部300にて表示データを表示させるかを指定するフィールドである。「表示パネル」フィールドには、例えば、“001”(第1表示/光センサ部300A)、“010”(第2表示/光センサ部300B)という値が指定可能である。なお、これらの値を加算することによって、複数の表示/光センサ部300を同時に指定可能である。例えば、“第1表示/光センサ部300A”と“第2表示/光センサ部300B”とを同時に指定する場合、“011”と指定することができる。

0097

ここで、表示データ処理部701は、例えば、「表示パネル」フィールドの値が“第1表示/光センサ部300A”であるコマンドを受信すると、第1表示/光センサ部300Aに表示データを表示させるために、第1表示/光センサ部300Aの液晶パネル駆動回路304およびバックライト駆動回路308を制御するように、表示制御部601およびバックライト制御部603に指示を与える。

0098

次に、「予備」フィールドは、上述したフィールドにて指定可能な情報以外の情報をさらに指定する必要がある場合に、適宜指定されるフィールドである。

0099

なお、主制御部800にて実行されるアプリケーションは、コマンドを送信するにあたり、上述したフィールドを全て使用する必要はなく、使用しないフィールドには無効値(NULL値など)を設定しておけばよい。

0100

また、ユーザが指やペンなどでタッチした位置の座標データを取得したいときは、「データ種別」フィールドに“座標”を指定したコマンドをデータ処理部700に送信することとなるが、指やペンなどは動きがあるため、さらに、当該コマンドの「データ取得タイミング」フィールドに“オール”を指定し、座標データを取得するようにすることが望ましい。また、タッチした位置の座標データが取得できればよいため、スキャンの精度は高くなくてもよい。したがって、前記コマンドの「解像度」フィールドの値は“低”を指定しておけばよい。

0101

また、コマンドの「データ種別」フィールドに“座標”を指定した場合において、例えば、ユーザが、複数の指やペンなどでセンサ内蔵液晶パネル301を同時にタッチした場合は、該タッチした位置の座標データのそれぞれを取得することができる(多点検出)。

0102

また、原稿などの対象物の画像データを取得する場合、「データ種別」フィールドに“全体画像”を指定したコマンドをデータ処理部700に送信することとなるが、原稿などの対象物は、通常、静止させた状態でスキャンを実行することが一般的であるため、周期的にスキャンを実行する必要はない。従って、この場合は、「データ取得タイミング」フィールドに“センス”または“イベント”を指定することが望ましい。なお、原稿などの対象物をスキャンするときは、ユーザが文字を読みやすいように、スキャン精度は高い方が望ましい。したがって、「解像度」フィールドには“高”を指定することが望ましい。

0103

(全体画像データ/部分画像データ/座標データ)
次に、図7を参照しながら、全体画像データ、部分画像データ、および座標データについて、例を挙げて説明する。図7(a)に示す画像データは、対象物がセンサ内蔵液晶パネル301上に置かれていないときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。また、図7(b)に示す画像データは、ユーザが指でセンサ内蔵液晶パネル301をタッチしているときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。

0104

ユーザが指でセンサ内蔵液晶パネル301をタッチしたとき、当該タッチした近傍の光センサ回路32が受光する光量が変化するため、当該光センサ回路32が出力する電圧に変化が生じ、その結果として、センサ制御部602が生成する画像データのうち、ユーザがタッチした部分の画素値明度に変化が生じることとなる。

0105

図7(b)に示す画像データでは、図7(a)に示す画像データと比べると、ユーザの指に該当する部分の画素値の明度が高くなっている。そして、図7(b)に示す画像データにおいて、明度が所定の閾値より大きく変化している画素値を全て含む最小の矩形領域(領域PP)が、“部分画像データ”である。

0106

なお、領域APで示される画像データが、“全体画像データ”である。

0107

また、部分画像データ(領域PP)の代表座標Zの、全体画像データ(領域AP)における座標データは(Xa,Ya)であり、部分画像データ(領域PP)における座標データは(Xp,Yp)である。

0108

(センサ内蔵液晶パネルの構成)
次に、図8を参照しながら、センサ内蔵液晶パネル301の構成、および、センサ内蔵液晶パネル301の周辺回路309の構成について説明する。図8は、表示/光センサ部300の要部、特に、センサ内蔵液晶パネル301の構成および周辺回路309の構成を示すブロック図である。

0109

センサ内蔵液晶パネル301は、光透過率輝度)を設定するための画素回路31、および、自身が受光した光の強度に応じた電圧を出力する光センサ回路32を備えている。なお、画素回路31は、赤色、緑色、青色のカラーフィルタのそれぞれに対応するR画素回路31r、G画素回路31g、B画素回路31bの総称して用いる。

0110

画素回路31は、センサ内蔵液晶パネル301上の列方向(縦方向)にm個行方向(横方向)に3n個配置される。そして、R画素回路31r、G画素回路31g、およびB画素回路31bの組が、行方向(横方向)に連続して配置される。この組が1つの画素を形成する。

0111

画素回路31の光透過率を設定するには、まず、画素回路31に含まれるTFT(Thin Film Transistor)33のゲート端子に接続される走査信号線Giにハイレベル電圧(TFT33をオン状態にする電圧)を印加する。その後、R画素回路31rのTFT33のソース端子に接続されているデータ信号線SRjに、所定の電圧を印加する。同様に、G画素回路31gおよびB画素回路31bについても、光透過率を設定する。そして、これらの光透過率を設定することにより、センサ内蔵液晶パネル301上に画像が表示される。

0112

次に、光センサ回路32は、一画素毎に配置される。なお、R画素回路31r、G画素回路31g、およびB画素回路31bのそれぞれの近傍に1つずつ配置されてもよい。

0113

光センサ回路32にて光の強度に応じた電圧を出力させるためには、まず、コンデンサ35の一方の電極に接続されているセンサ読み出し線RWiと、フォトダイオード36のアノード端子に接続されているセンサリセット線RSiとに所定の電圧を印加する。この状態において、フォトダイオード36に光が入射されると、入射した光量に応じた電流がフォトダイオード36に流れる。そして、当該電流に応じて、コンデンサ35の他方の電極とフォトダイオード36のカソード端子との接続点(以下、接続ノードV)の電圧が低下する。そして、センサプリアンプ37のドレイン端子に接続される電圧印加線SDjに電源電圧VDDを印加すると、接続ノードVの電圧は増幅され、センサプリアンプ37のソース端子からセンシングデータ出力線SPjに出力される。そして、当該出力された電圧に基づいて、光センサ回路32が受光した光量を算出することができる。

0114

次に、センサ内蔵液晶パネル301の周辺回路である、液晶パネル駆動回路304、光センサ駆動回路305、およびセンサ出力アンプ44について説明する。

0115

液晶パネル駆動回路304は、画素回路31を駆動するための回路であり、走査信号線駆動回路3041およびデータ信号線駆動回路3042を含んでいる。

0116

走査信号線駆動回路3041は、表示制御部601から受信したタイミング制御信号TC1に基づいて、1ライン時間毎に、走査信号線G1〜Gmの中から1本の走査信号線を順次選択し、該選択した走査信号線にハイレベル電圧を印加するとともに、その他の走査信号線にローレベル電圧を印加する。

0117

データ信号線駆動回路3042は、表示制御部601から受信した表示データD(DR、DG、およびDB)に基づいて、1ライン時間毎に、1行分の表示データに対応する所定の電圧を、データ信号線SR1〜SRn、SG1〜SGn、SB1〜SBnに印加する(線順次方式)。なお、データ信号線駆動回路3042は、点順次方式で駆動するものであってもよい。

0118

光センサ駆動回路305は、光センサ回路32を駆動するための回路である。光センサ駆動回路305は、センサ制御部602から受信したタイミング制御信号TC2に基づいて、センサ読み出し信号線RW1〜RWmの中から、1ライン時間毎に1本ずつ選択したセンサ読み出し信号線に所定の読み出し用電圧を印加するとともに、その他のセンサ読み出し信号線には、所定の読み出し用電圧以外の電圧を印加する。また、同様に、タイミング制御信号TC2に基づいて、センサリセット信号線RS1〜RSmの中から、1ライン時間毎に1本ずつ選択したセンサリセット信号線に所定のリセット用電圧を印加するとともに、その他のセンサリセット信号線には、所定のリセット用電圧以外の電圧を印加する。

0119

センシングデータ出力信号線SP1〜SPnはp個(pは1以上n以下の整数)のグループにまとめられ、各グループに属するセンシングデータ出力信号線は、時分割で順次オン状態になるスイッチ47を介して、センサ出力アンプ44に接続される。センサ出力アンプ44は、スイッチ47により接続されたセンシングデータ出力信号線のグループからの電圧を増幅し、センサ出力信号SS(SS1〜SSp)として、信号変換回路306へ出力する。
〔実施の形態1〕
本発明の主な特徴は、データ表示/センサ装置100では、近傍の像を検知する第1表示/光センサ部300A、及び第2表示/光センサ部300Bが表裏両面にそれぞれ配設されており、第1表示/光センサ部300A、及び第2表示/光センサ部300Bが、共に指の像を検知したか否かを判定する検知判定部810と、検知判定部810が第1表示/光センサ部300A、及び第2表示/光センサ部300Bが共に指の像を検知したと判定した場合に、第1表示/光センサ部300A、及び第2表示/光センサ部300Bがそれぞれ検知した指の像の動きを検出して入力信号を生成する入力検出部830と、を備える点にある。

0120

これにより、データ表示/センサ装置100では、表裏両面に配設された第1表示/光センサ部300A、及び第2表示/光センサ部300Bが共に指の像を検知した場合に、入力検出部830が入力信号を生成する。

0121

従って、第1表示/光センサ部300A、あるいは第2表示/光センサ部300Bの一方のみが指の像を検出しても、それにより入力信号が生成されることはない。それゆえ、データ表示/センサ装置100は、第1表示/光センサ部300A、及び第2表示/光センサ部300Bが様々な指の像の動きを検出することにより、従来の入力装置では実現できなかった多彩で立体的な操作を可能とする。また、データ表示/センサ装置100は、そのような操作によって優れた利便性及び操作性をユーザに提供する。

0122

さらに、データ表示/センサ装置100では、ユーザの指がタッチパネル上のアイコンに無意識のうちに接触して、アイコンを表示画面上のどこか別の場所にドラッグしてしまうといった事態を避けることができる。従って、第1表示/光センサ部300A、及び第2表示/光センサ部300Bという二つの入力面からの入力により入力信号が生成されるため、第1表示/光センサ部300A、及び第2表示/光センサ部300Bに対して誤って操作してしまうリスクが軽減される。
(データ表示/センサ装置の動作説明)
実施の形態1に係るデータ表示/センサ装置100について、図1図9図18図28図30を参照して説明する。

0123

なお、まず最初に、データ表示/センサ装置100が実行する種々の動作の具体例を図9図18を参照して説明する。次に、データ表示/センサ装置100の構成を図1を参照して説明する。そして、種々の動作を実現する処理の流れを図20を参照して説明する。

0124

ここで、データ表示/センサ装置100は、第1表示/光センサ部300A、あるいは第2表示/光センサ部300Bの何れに画像を表示させてもよいが、本実施の形態では、第1表示/光センサ部300Aに画像を表示するものとして説明する。なお、第1表示/光センサ部300Aは、図9図18において図面手前側に位置する。

0125

また、ユーザは、右手あるいは左手の何れでもデータ表示/センサ装置100を操作することができるが、本実施の形態では、右手で操作するものとして説明する。
表示画像に対して実行される動作)
以下、図9図18の概要を説明する。

0126

図9(a)は、第1表示/光センサ部300Aに矩形の画像25aが表示され、かつ、ユーザが、矩形の画像25aを上面から親指20でタッチすると共に、第2表示/光センサ部300Bに矩形の画像25aの裏面が表示されているとしたならば、その矩形の画像25aの裏面が表示されているであろう領域を人差し指21でタッチしている。

0127

なお、第1表示/光センサ部300Aに表示された矩形の画像25aが、実際に下面から人差し指21でタッチされることはないものの、説明の便宜上、本実施の形態に係る以降の説明では、この状態を「上面から親指20で、下面から人差し指21で、それぞれタッチする」と表現する。このことは、図10図19を参照して説明する記載においても同様である。

0128

図9(b)は、親指20と人差し指21をそれぞれ反対方向(図面横方向において、親指20を右方向、人差し指21を左方向)へ移動させて、複数の矩形の画像25aが扇状に拡がった状態で第1表示/光センサ部300Aに表示された様子を示す図である。つまり、図9(a)では、複数の矩形の画像25aはあたかも短冊が束になって閉じた状態にあり、図9(b)では、それら複数の矩形の画像25aが扇状に拡がった状態にある。

0129

図10(a)は、第1表示/光センサ部300Aに円形の画像26aを表示し、かつ、円形の画像26aを、上面から親指20で、下面から人差し指21で、それぞれタッチしている様子を示す図である。図10(b)は、親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させて、第1表示/光センサ部300Aに、より大きな寸法の円形の画像26bを表示させた図である。

0130

図11(a)は、第1表示/光センサ部300Aに略正方形の画像27aを表示し、かつ、略正方形の画像27aを、上面から親指20で、下面から人差し指21で、それぞれタッチしている様子を示す図である。図11(b)は、親指20と人差し指21をそれぞれ同じ方向(図面横方向において、右方向)へ移動させて、略正方形の画像27aを第1表示/光センサ部300Aの画面の外側へ移動させつつある状態を示す図である。

0131

図12(a)は、図面横方向をパイプ軸管長)方向とするパイプ形状の画像28aを第1表示/光センサ部300Aに表示し、かつ、パイプ形状の画像28aを、上面から親指20で、下面から人差し指21で、それぞれタッチしている様子を示す図である。図12(b)は、親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させて、パイプ軸に直交する方向にパイプ形状の画像28aを回転させている様子を示す図である。

0132

図13(a)は、第1表示/光センサ部300Aの画面上端付近に矩形の画像29a〜29dを図面横方向に一列に並べて表示し、かつ、そのうちの一つの矩形の画像29cを、上面から親指20で、下面から人差し指21で、それぞれタッチしている様子を示す図である。図13(b)は、親指20と人差し指21をそれぞれ同じ方向(図面下方向)へ移動させて、矩形の画像29cを下側に引き出す動作により、矩形の画像29cが図面縦方向に引き伸ばされて、帯状の画像29c’となった様子を示す図である。

0133

図14(a)は、第1表示/光センサ部300Aに矩形の画像30aを表示し、かつ、第1表示/光センサ部300Aの表示画面を、上面から親指20で、下面から人差し指21で、それぞれタッチしている様子を示す図である。図14(b)は、矩形の画像30aを分断するように親指20と人差し指21をそれぞれ同じ方向(図面下方向)へ移動させて、矩形の画像30aを左右2つの矩形の画像30bに分割した様子を示す図である。

0134

図15(a)は、第1表示/光センサ部300Aに複数の矩形の画像31aを円周状に配置して表示し、かつ、円の中心点付近を上面から親指20で、画像31aを下面から人差し指21で、それぞれタッチしている様子を示す図である。図15(b)は、親指20を動かさずに、人差し指21を図面下側へ移動させて、複数の矩形の画像31aを前記円の円周に沿って反時計回りに回転させている様子を示す図である。

0135

図16(a)は、第1表示/光センサ部300Aに、円形の画像32aと矩形の画像32bとが結合してなる画像32cを表示し、かつ、円形の画像32aの中心点付近を上面から親指20で、矩形の画像32bを下面から人差し指21で、それぞれタッチしている様子を示す図である。図16(b)は、親指20を動かさずに、人差し指21を図面左側へ移動させて、あたかも円形の画像32aの中心点付近を支点とした振り子のように、矩形の画像32bを左側へ移動させた様子を示す図である。

0136

図17(a)は、第1表示/光センサ部300Aのほぼ画面全体に亘って矩形の画像33aを表示し、かつ、矩形の画像33aを、上面から親指20で、下面から人差し指21で、それぞれタッチしている様子を示す図である。図17(b)は、親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させて、図面下側から矩形の画像33bを出現させ、画像33aと画像33bとを図面縦方向に並べて表示した様子を示す。図17(c)は、さらに親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させて、画面に表示される画像が、画像33aから画像33bに切り替えられた様子を示す図である。

0137

図18(a)は、第1表示/光センサ部300Aに略正方形の画像34aを表示した様子を示す。図18(b)は、略正方形の画像34aを、上面から人差し指21で、下面から中指22で、それぞれタッチして、略正方形の画像34aが「選択」状態となった様子を示す図である。
(表示画像に対して実行される動作の具体的説明)
次に、図9図18を参照して説明した上記各動作をより具体的に説明する。

0138

図9(a)に示すように、第1表示/光センサ部300Aには矩形の画像25aが表示されている。そして、ユーザは、その矩形の画像25aを、上面側(第1表示/光センサ部300Aが配設された側)から親指20で、下面側(第2表示/光センサ部300Bが配設された側)から人差し指21で、それぞれタッチする。

0139

なお、上記説明したとおり、第1表示/光センサ部300Aに表示された矩形の画像25aは、上面から親指20でタッチされることはあっても、下面から人差し指21で実際にタッチされることはない。しかしながら、本実施の形態に係る以降の説明では、説明の便宜上、このような状態のことを、「上面から親指20で、下面から人差し指21で、それぞれタッチする」と表現している。このことは、図10図18を参照して説明する記載においても同様である。

0140

また、親指20及び人差し指21が表裏両面から矩形の画像25aをタッチするものとして説明しているが、どの指を使用してもよい。つまり、何れかの指を使って、表裏両面から矩形の画像25aを挟持すればよく、そのことが、矩形の画像25aに対して所定の動作を実行する前提となる。それゆえ、上面あるいは下面の何れか一方のみから矩形の画像25aをタッチしても、それだけでは矩形の画像25aに対して所定の動作を実行することはできない。また、画像(あるいは画面)を指でタッチするものとして説明しているが、実際に画像をタッチしている必要はなく、表示/光センサ部300がその指の像を検知すればよい。

0141

また、図中の星印は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが、指の像を検知しているおおよその場所を示す。なお、以降の説明では、説明の便宜のため、上面側から親指20で、下面側から人差し指21で、画像25aをタッチするものとして説明する。このことは、図10図18についても同様である。

0142

さらに、画像25aは矩形であるとして説明しているが、画像25aは正方形であってもよく、任意の形状とすることができる。但し、本実施の形態では、画像25aは矩形であるとして説明する。同様に、図10図18において、各画像の形状を円形、正方形、あるいはパイプ形状等として説明しているが、それらの形状はあくまで例示であり、記載した形状に限られない。

0143

また、親指20と人差し指21の指の動きの速度については特に言及しないが、その指の像の動きに対応付けられた動作は、指の動きの速度に応じて実行される。

0144

次に、図9(b)に示すように、ユーザは、親指20と人差し指21を反対方向(図面横方向において、親指20を右方向、人差し指21を左方向)へ移動させる。この指の動きによって、複数の矩形の画像25aが扇状に拡がった状態で第1表示/光センサ部300Aに表示される。つまり、図9(a)では、複数の矩形の画像25aはあたかも短冊が束になって閉じた状態にあり、図9(b)では、それら複数の矩形の画像25aが扇状に拡がった状態にある。

0145

なお、上述した扇状の拡がり具合は、親指20及び人差し指21の移動距離に応じて決まる。従って、図9(b)では、親指20及び人差し指21が表示画面の端部付近まで移動しているため、扇状の拡がりは表示画面の全体に及んでいる。

0146

また、次のような方法によって、上述したのとは逆の動き、つまり、扇状に拡がった複数の矩形の画像25aを、短冊が束になって閉じたように表示することができる。

0147

まず、ユーザは、扇状に広がった複数の矩形の画像25aを、上面側から親指20で、下面側から人差し指21で、それぞれタッチする。このとき、親指20及び人差し指21がタッチする位置は、図9(b)に示すように、それぞれ異なる位置である。つまり、親指20は最外部付近(図面左側)に位置する画像25aをタッチし、人差し指21は他方の最外部付近(図面右側)に位置する画像25aをタッチする。次に、親指20と人差し指21を反対方向(図面横方向において、親指20を左方向、人差し指21を右方向)へ移動させる。つまり、図9(a)から図9(b)へ至る指の動きと逆の動きをする。これにより、扇状に拡がった複数の矩形の画像25aが短冊が束になって閉じたように表示される。このようにして、データ表示/センサ装置100は、図9(a)及び図9(b)によって示される多彩で立体的な動作を、容易かつ迅速に実現することができる。

0148

ここで、矩形の画像25aは、図9(a)の図面縦方向にその長手方向が配置され、扇状の拡がりは、図9(b)の図面横方向に向かって記載されている。しかしながら、矩形の画像25aが、図9(a)の図面横方向にその長手方向が配置され、扇状の画像25aが、図9(b)の図面縦方向に拡がるように表示されることも可能である。また、矩形の画像25aの配置方向は、図9(a)の縦・横方向に限らず、任意の方向で配置してよく、図9(a)はあくまで一例である。

0149

図9(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば、複数の矩形の画像25aがそれぞれ「ニュース」、「ブログ」、「ショッピング」等のアドレスを示す画像(オブジェクト)として割り当てられているとする。そして、上述した親指20、及び人差し指21の動作により、短冊が束になって閉じたように表示されていた複数の矩形の画像25aが扇状に拡がって表示される。これにより、ユーザは、扇状に拡がったオブジェクトの中から、所望のアドレスを容易に、かつ迅速に画面上から探し出すことができる。しかも、アドレス先を示すオブジェクトが扇状に拡がることで、デザイン性に優れた動作を実現でき、データ表示/センサ装置100は、高い満足度をユーザに提供することができる。なお、扇状に拡がった幾つかのオブジェクトの中から、所望のオブジェクトを選択する方法は、例えば図18を参照して説明する方法によって実現される。

0150

次に、図10について説明する。図10(a)に示すように、第1表示/光センサ部300Aには円形の画像26aが表示されている。そして、ユーザは、その円形の画像26aを、上面側から親指20で、下面側から人差し指21で、それぞれタッチする。

0151

次に、図10(b)に示すように、ユーザは、親指20と人差し指21を反対方向(図面縦方向において、親指20を略上方向、人差し指21を略下方向)へ移動させる。この指の動作によって、円形の画像26aは、より大きな寸法の円形の画像26bとなって第1表示/光センサ部300Aに表示される。

0152

なお、寸法が拡大される程度は、親指20及び人差し指21の移動距離に応じて決まる。従って、図10(b)では、ユーザは、親指20及び人差し指21を大きく移動させたため、画像26bは、一部が画面からはみ出して表示されている。

0153

また、次のような方法によって、第1表示/光センサ部300Aに、円形の画像26bよりもサイズが小さくなった円形の画像26aを表示させることができる。

0154

まず、ユーザは、円形の画像26bを、上面側から親指20で、下面側から人差し指21で、それぞれタッチする。このとき、親指20及び人差し指21が画像26bをタッチする位置は、図10(b)に示すように、それぞれ異なる位置である。なお、図10(b)で示す例では、親指20は画像26bの上端部付近を、人差し指21は画像26bの下端部付近を、それぞれタッチしている。

0155

次に、親指20と人差し指21を反対方向(図面縦方向において、親指20を略下方向、人差し指21を略下上方向)へ移動させる。この指の動作によって、円形の画像26bは、より小さな寸法の円形の画像26aとなって第1表示/光センサ部300Aに表示される。つまり、図10(a)から図10(b)へ至る指の動きと逆の動きをすることにより、円形の画像26bは、より小さな寸法の円形の画像26aとなって第1表示/光センサ部300Aに表示される。このようにして、ユーザは、画像の拡大・縮小を容易に、かつ迅速に実行できる。

0156

なお、親指20と人差し指21を互いに反対方向に動かす場合に、その方向は、前記説明した図面垂直方向に限らず、どの方向であってもよい。ここで挙げた例はあくまで一例である。

0157

図10(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば円形の画像26aが写真画像である場合、ユーザは、拡大した状態でその画像を鑑賞したい場合がある。そのような場合に、上述した親指20、及び人差し指21の動作により、その写真画像を拡大して表示することができ、データ表示/センサ装置100は、拡大した画像を鑑賞したいというユーザの要求に応えることができる。

0158

次に、図11について説明する。図11(a)では、第1表示/光センサ部300Aに正方形の画像27aが表示され、その正方形の画像27aが、上面から親指20で、下面から人差し指21で、それぞれタッチされている。そして、図11(b)に示すように、ユーザは、親指20と人差し指21を同一方向(図面横方向において、右方向)へ移動させて、画面の外部へ正方形の画像27aを移動させている。つまり、ユーザは、この指の動きにより、その指の動く距離に応じて正方形の画像27aを移動させることができる。そして、表示画面の外部まで正方形の画像27aを移動させた場合に正方形の画像27aのファイルが削除される、という動作を予め割り当てておけば、正方形の画像27aのファイルは容易に削除される。このようにして、ユーザは、画像の移動、削除をより簡単に、かつ迅速に実行することができる。

0159

なお、図11(a)・(b)では、図面横方向において、親指20及び人差し指21を共に右側に移動させるものとして説明した。しかしながら、親指20及び人差し指21を移動させる方向はこれに限らず、いかなる方向であってもよい。従って、ユーザは、任意の場所に画像を移動させることができる。

0160

図11(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば、ユーザが、画面に表示された任意のファイル(あるいはフォルダ)を移動したい場合に、そのファイルを表裏両面から挟持して、所望の移動先まで親指及び人差し指を移動することにより、その位置にファイルを移動させることができる。また、画面に表示されたファイルを削除したい場合には、そのファイルを表裏両面から挟持して、画面の外側へ移動させればよい。このようにして、データ表示/センサ装置100は、ファイルを削除・移動したいというユーザの要求に応えることができる。

0161

次に、図12について説明する。図12(a)に示すように、図面横方向をパイプ軸(管長)方向とするパイプ形状の画像28aが第1表示/光センサ部300Aに表示されている。そして、ユーザは、そのパイプ形状の画像28aを、上面から親指20で、下面から人差し指21で、それぞれタッチしている。そして、図10(b)に示すように、親指20と人差し指21を反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させることにより、第1表示/光センサ部300Aには、パイプ軸に直交する方向(図面下から上方向)にパイプ形状の画像28aが回転する様子が表示される。

0162

なお、親指20と人差し指21を前記とはそれぞれ逆の方向(図面縦方向において、親指20を下方向、人差し指21を上方向)に移動させことにより、パイプ形状の画像28aは、前記とは逆の方向、つまり、図面上から下方向に回転する。このように、親指20と人差し指21の移動方向によって、パイプ形状の画像28aの回転方向が任意に選択され、データ表示/センサ装置100は、図12(a)及び図12(b)によって示される多彩で立体的な動作を、容易かつ迅速に実現することができる。

0163

図12(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。図12(a)では、パイプ形状の画像28aは、図面横方向に延びる複数の矩形の画像28bによって形成されている。そこで、各矩形の画像28bが、例えば「ニュース」、「ブログ」、「ショッピング」等のアドレスを示す画像(オブジェクト)であり、パイプ形状の画像28aを回転させて、ユーザから見て正面に位置するオブジェクト(画面に対して正面に表示されるオブジェクト)が「選択されるオブジェクト」と設定しておく。そして、ユーザが、上述した親指20、及び人差し指21の動作によってパイプ形状の画像28aを回転させ、さらに、選択したいオブジェクトを画面に対して正面(選択位置P)に移動させることで、所望のオブジェクトが容易に、かつ迅速に選択される。しかも、アドレス先を示すオブジェクトが回転することにより、データ表示/センサ装置100は、デザイン性に優れた動作を実現でき、高い満足度をユーザに提供することができる。

0164

次に、図13について説明する。図13(a)では、第1表示/光センサ部300Aの画面上端付近に、矩形の画像29a〜29dが図面横方向に一列に並べて表示されている。そして、矩形の画像29cは、上面から親指20で、下面から人差し指21で、それぞれ挟持されている。そして、図13(b)では、親指20と人差し指21がそれぞれ同じ方向(図面下方向)に移動して、それにより矩形の画像29cは、図面縦方向に引き伸ばされて、帯状の画像29c’となって表示されている。

0165

なお、帯状となった画像29c’の図面縦方向の長さは、親指20及び人差し指21の移動距離に応じて決まる。つまり、帯状となった画像29c’の図面縦方向の長さは、親指20及び人差し指21の移動距離に応じて異なる。

0166

また、帯状の画像29c’が表示された状態において、ユーザが、上面から親指20で、下面から人差し指21で、それぞれ帯状の画像29c’の図面下側の位置を挟持して、親指20と人差し指21をそれぞれ同じ方向(図面上方向)へ移動させる。この動作により、帯状の画像29c’は、引き延ばされる前の画像である矩形の画像29cに戻る。その結果、第1表示/光センサ部300Aの画面上端付近に矩形の画像29cが表示される。このように、親指20及び人差し指21が図面縦方向に上下することにより、第1表示/光センサ部300Aには、矩形の画像29cと帯状の画像29c’とが切り替わって表示される。

0167

なお、図13(a)では、第1表示/光センサ部300Aの画面上端付近に画像29a〜29dを表示しているが、この位置に限らず、第1表示/光センサ部300Aの画面下端、右端、左端付近に画像29a〜29dを表示してもよい。

0168

図13(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。ユーザによっては、画面に表示されるオブジェクトをできるだけ少なくしておきたいという要望を持つことがある。そのような場合に、画面の上端、下端、右端、あるいは左端付近にオブジェクトを寄せておき、必要な時にのみ、上述した親指20、及び人差し指21の動作により帯状の画像29c’を引き出すことができれば、画面内のスペースを有効に活用することができ、また、画面に表示されるオブジェクトをできるだけ少なくしておきたいというユーザの要望にも応えることができる。

0169

次に、図14について説明する。図14(a)では、第1表示/光センサ部300Aに矩形の画像30aが表示され、かつ、ユーザは、上面から親指20で、下面から人差し指21で、それぞれ表示/光センサ部300をタッチしている。そして、図14(b)に示すように、矩形の画像30aを分断するように親指20と人差し指21をそれぞれ同じ方向(図面下方向)へ移動させることにより、矩形の画像30aは、左右2つの画像30bに分割される。なお、後述する指−命令対応情報テーブルに予め設定しておくことにより、親指20と人差し指21の移動方向に応じて、矩形の画像30aは上下、あるいは斜め方向に分割される。

0170

図14(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば、矩形の画像30aを2つに分割した場合に当該画像30aのファイルが削除される、という動作を予め割り当てておけば、上述した指の動きにより、矩形の画像30aのファイルを容易に削除することができる。

0171

次に、図15について説明する。図15(a)では、第1表示/光センサ部300Aに複数の画像31aが円周状に配置して表示され、かつ、ユーザは、その円の中心点付近を上面から親指20で、画像31aを下面から人差し指21で、それぞれタッチしている。そして、図15(b)に示すように、親指20を動かさずに、人差し指21を図面下側へ移動させることにより、複数の画像31aが、前記円の円周に沿って反時計回りに回転している。なお、図示していないが、人差し指21を図面上側へ移動することにより、複数の画像31aは、円の円周に沿って時計回りに回転する。

0172

このようにして、複数の画像31aは、第1表示/光センサ部300Aに回転した状態で表示される。また、ユーザは、指の動きを停止して、その回転を停止させることができる。従って、回転を止めたときに、画面上の所定の場所に位置する画像(オブジェクト)を「選択されるオブジェクト」と設定しておくことにより、従来にはない斬新な方法によってオブジェクトが選択される。しかも人差し指の動きの速度に応じて複数の画像が回転するように設定することにより、所望のオブジェクトは、容易に、かつ迅速に第1表示/光センサ部300Aに表示され、さらに選択される。そして、データ表示/センサ装置100は、デザイン性にも優れた動作を実現できるため、高い満足度をユーザに提供することができる。

0173

次に、図16について説明する。図16(a)では、第1表示/光センサ部300Aに、円形の画像32aと矩形の画像32bとが結合してなる画像32cが表示され、かつ、ユーザが、画像32aの中心付近を上面から親指20で、画像32bを下面から人差し指21で、それぞれタッチしている。

0174

次に、図16(b)に示すように、親指20を動かさずに、人差し指21が図面左側へ移動することにより、あたかも画像32aの中心点付近を支点とした振り子のように、画像32bが左側に移動する。

0175

なお、上述した画像32bの移動は、人差し指21の移動距離に応じて決まる。また、人差し指21の移動方向を逆方向(図面右方向)へ移動させることにより、画像32bは、人差し指21の移動距離に応じて、画像32aの中心点付近を支点として移動する。

0176

このようにして、データ表示/センサ装置100は、図16(a)及び図16(b)によって示される多彩で立体的な動作を、容易かつ迅速に実現することができる。

0177

なお、図16では、画像32bは画像32aの図面上側に表示されているが、その位置は任意に選択される。また、図16では、画像32a、32bは1つのみ表示されているが、これらが複数表示されてよい。

0178

図16(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば、ユーザが、データ表示/センサ装置100から出力される音量を画面上の簡単な操作によって調節したいという要望を持つ場合がある。このような場合に、例えば人差し指21が図面左右方向に動き、画像32bがそれに伴い左右に移動し、その移動量に伴って音量がリニアに調節される、という動作を予め割り当てておけば、例えば画像32bを左側に移動させて、これによりデータ表示/センサ装置100から出力される音量を下がることが可能となる。あるいは、画像32bを右側に移動させて、これによりデータ表示/センサ装置100から出力される音量を上げることができる。

0179

次に、図17について説明する。図17(a)では、第1表示/光センサ部300Aのほぼ画面全体に亘って矩形の画像33aが表示され、かつ、ユーザが、上面から親指20で、下面から人差し指21でその画像33aをタッチしている。

0180

そして、図17(b)に示すように、親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させることにより、図面下側から矩形の画像33bが出現し、矩形の画像33aと矩形の画像33bとが図面縦方向に並んで表示される。そして、図17(c)に示すように、さらに親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させることにより、画面に表示される画像が、画像33aから画像33bに切り替わる。

0181

つまり、上述した親指20及び人差し指21の動きにより、画面に表示される画像が、画像33aから画像33bに切り替わる。しかも、その切り替えが完全に行われる前に指の動きを停止することにより、矩形の画像33a及び画像33bが図面縦方向に並んで表示される。また、指の動きの速度に応じて、矩形の画像33aから画像33bへの切り替えが所望の速度で行われる。さらに、親指20及び人差し指21の動きを前記とは逆の方向にすることにより、画像33bから矩形の画像33aの方向に画像の切り替えが行われる。

0182

図17(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば、ユーザが、電子アルバム化された複数の写真を順次鑑賞したい場合を考える。そのような場合に、画面に表示された写真(画像33a)から、次の写真(画像33b)に移りたいときに、上述した親指20、及び人差し指21の動作により、ユーザは、画像33aから画像33bへの切り替えを容易に、かつ迅速に行うことができる。このように、データ表示/センサ装置100は、画像を切り替えて次の画像を見たいというユーザの要求に確実に応えることができる。

0183

なお、図17では、画像の切り替えを図面縦方向に行っているが、図面横方向に行うことも可能である。

0184

次に、図18について説明する。図18(a)では、第1表示/光センサ部300Aに略正方形の画像34が表示されている。そして、図18(b)に示すように、親指20と人差し指21が表裏両面からほぼ同時に略正方形の画像34にタッチして、略正方形の画像34が選択された状態となる。

0185

つまり、ユーザは、親指20と人差し指21を表裏両面からほぼ同時に略正方形の画像34をタッチすることにより、略正方形の画像34を選択することができる。従って、親指20あるいは人差し指21の動きのみでは略正方形の画像34は選択されず、また、第1表示/光センサ部300Aが親指20の像を検知して暫く時間が経ってから第2表示/光センサ部300Bが人差し指21の像を検知したとしても、略正方形の画像34は選択されない。

0186

従って、ユーザは、親指20及び人差し指21を表裏両面からほぼ同時に略正方形の画像34にタッチしない限り、所望のオブジェクトを選択することができず、その分だけ、誤入力のリスクは軽減される。

0187

なお、第1表示/光センサ部300Aが親指20の像を検知してから第2表示/光センサ部300Bが人差し指21の像を検知する(あるいは、第2表示/光センサ部300Bが人差し指21の像を検知してから第1表示/光センサ部300Aが親指20の像を検知する)までの経過時間は適宜設定してよい。但し、経過時間を「0」としたのでは、容易にオブジェクトの選択をすることができず、ユーザは不便を感じることが多い。また、経過時間が長すぎたのでは、誤入力となってしまう可能性もある。そこで、経過時間を適宜設定しうる構成とすることにより、ユーザは、不便を感じることなく、かつ、誤入力のリスクを軽減することができる。

0188

一方、経過時間を設定せず、親指20及び人差し指21が表裏両面から略正方形の画像34にタッチすることで、略正方形の画像34が選択された状態とすることも可能である。これにより、ユーザは、経過時間を気にしながら表裏両面から略正方形の画像34をタッチする必要がなくなる。

0189

なお、経過時間の設定は、ユーザが外部から入力し、その入力値を記憶部901に記憶させておけばよい。そして、入力検出部830がその入力値を記憶部901から読み出して、自身が測定した実測値と比較することにより、経過時間が経過したかどうかの判定が行われる。なお、経過時間の実測値が入力値を超える場合は、入力検出部830が入力信号を生成しない構成とすることも可能である。なお、入力検出部830、及び記憶部901の詳細は後ほど説明する。

0190

また、後述する指−命令対応情報テーブルに予め登録しておくことにより、親指20と人差し指21が略正方形の画像34を表裏両面からダブルクリックした場合に、その画像34が選択される構成とすることも可能である。この場合、上記の経過時間は、最初のクリックから2回目のクリックまでの時間とすることもできる。

0191

以上、図9図18を参照して、指の像の動きに対応して実行される種々の動作の具体例を説明した。なお、前記説明では、親指20と人差し指21の移動方向と実行される動作とを対応付けて説明したが、実行される動作は、前記の各動作に限定されない。つまり、指の像の動きと実行される動作とを対応付けて後述する指−命令対応情報テーブルに予め登録しておけば、同じ指の動きであっても、異なる動作を実行することが可能となる。

0192

例えば、図11を参照して説明した正方形の画像27aを移動する動作は、親指20と人差し指21をそれぞれ同じ方向へ移動させることにより実行される。しかしながら、親指20と人差し指21をそれぞれ同じ方向へ移動する動きを、画像を拡大(縮小)する動作に対応付けておくことにより、同じ指の動きであっても、異なる動作を実行することができる。あるいは、親指20と人差し指21をそれぞれ同じ方向へ移動させることにより、円形の画像の場合には画像の拡大という動作を割り当て、矩形の画像の場合には移動という動作を割り当てておくことにより、同じ指の動きであっても、画像の形状に応じて、異なる動作を実行することができる。

0193

ここで、数え切れないほど多く存在する指の像の動きの変化の中から、ある特定の指の像の動きを認識し、その指の像の動きに対応付けられた所定の動作を実行するためには、次のような方法が考えられる。

0194

第1の方法は、第1表示/光センサ部300Aが検知した指の像の動きと、第2表示/光センサ部300Bが検知した指の像の動きとの関係から、特定の指の動きを認識する方法である。この方法は、例えば、表裏両面における指の像が、同一方向に移動すればオブジェクトが移動、反対方向に移動すればオブジェクトが拡大、近づく方向に移動すればオブジェクトが縮小、といった動きを予め対応付けておくことにより、数多く存在する指の像の動きの変化の中から、ある特定の指の像の動きを認識するというものである。

0195

第2の方法は、上述した第1の方法に加えて、データ表示/センサ装置100との位置関係を考慮するものであり、データ表示/センサ装置100に対する指の像の動きの角度から、特定の指の動きを認識する方法である。この方法は、データ表示/センサ装置100の基準座標(X・Y軸)を定めておき、表裏両面の像が、X軸の反対方向に移動すればオブジェクトが拡大、Y軸の反対方向に移動すればオブジェクトが回転、といった動きを予め対応付けておくことにより、数多く存在する指の像の動きの変化の中から、ある特定の指の像の動きを認識するというものである。

0196

第3の方法は、アプリケーション、モード等の動作する状態(場面)に応じて、特定の指の動きを認識する方法である。この方法は、あるアプリケーションの場合は、表裏両面の指の像を反対方向に移動させればオブジェクトが扇状に展開、他のアプリケーションの場合は、表裏面の指の像を反対方向に移動させればオブジェクトが拡大、さらに他のアプリケーションの場合は、表裏面の指の像を同一方向に移動させればオブジェクトが拡大、といった動きを予め対応付けておくことにより、数多く存在する指の像の動きの変化の中から、ある特定の指の像の動きを認識するというものである。

0197

そして、どの方法を採用するかを予め設定しておけば、数え切れないほど多く存在する指の像の動きの変化の中から、ある特定の指の像の動きが認識されて、その指の像の動きに対応付けられた所定の動作が実行される。

0198

また、前記3つの方法に限らず、それらを組み合わせてもよく、あるいは、前記以外の方法により、数え切れないほど多く存在する指の像の動きの変化の中から、ある特定の指の像の動きを認識し、その指の像の動きに対応付けられた所定の動作を実行してもよい。

0199

このようにして、特定の指の像の動きに対応付けられた所定の動作が実行される。そして、その所定の動作とは、図9図18を参照して説明した、画像(オブジェクト)の選択、拡大、縮小、回転、扇状への展開、他の画像への切り替え、移動、削除、引き伸ばし、あるいは分割などが挙げられる。そして、第1表示/光センサ部300Aには、上記動作結果が表示される。

0200

なお、実行される所定の動作は、上述した各動作に限らず、種々の動作が可能である。また、図9図18を参照して説明した各動作を適宜組み合わせて得られる動作も実行可能である。

0201

ここで、他の動作の一例を図11(a)・(b)を参照して説明する。図11(a)・(b)では、上面から親指20で、下面から人差し指21で、それぞれ略正方形の画像27aをタッチして、さらに親指20と人差し指21をそれぞれ同じ方向(図面横方向において、右方向)へ移動させている。この指の動きにより、略正方形の画像27aが第1表示/光センサ部300Aの画面の外側へと移動する。

0202

このとき、第1表示/光センサ部300Aの画面の外側へ略正方形の画像27aが移動し終わる前に親指20及び/又は人差し指21が略正方形の画像27aから離れた場合、画像が最初の位置(状態)に戻るようデータ表示/センサ装置が構成されていたとする。この場合、ユーザは、当該装置を使用することにより、親指20及び/又は人差し指21を略正方形の画像27aから離すことで略正方形の画像27aを最初の位置(状態)に戻すことができる。つまり、ユーザは、指を離す動作によって所定の動作(画像の移動)をキャンセルすることができる。

0203

つまり、データ表示/センサ装置が上記のように構成されていれば、画像を最初の状態に戻すための他の動作を必要とせず、ユーザの負担が軽減される。そして、所定の動作をキャンセルする操作は、図9等を参照して説明した他の実施例にも適用することが可能である。

0204

このように、指の動きと所定の動作とを種々のパターンで関連付けることができる。そして、実行される所定の動作は、上述した各動作に限らず、種々の動作が可能である。

0205

(データ表示/センサ装置の要部説明)
次に、図1を参照しながら、データ表示/センサ装置100のより詳細な構成について説明する。なお、ここでは、説明を分かりやすくするために、主制御部800と表示/光センサ部300との間に位置するデータ処理部700および回路制御部600の動作については説明を省略する。ただし、正確には、画像の表示および画像の検知を行うにあたり、主制御部800の入力インターフェース制御部805が、データ処理部700にコマンドを送信し、データ処理部700がコマンドに基づいて回路制御部600を制御し、回路制御部600が表示/光センサ部300に対して信号を送信する。また、主制御部800は、データ処理部700に対して送信したコマンドに対する応答として、データ処理部700から、全体画像データ、部分画像データ、および座標データを取得する。

0206

図1は、データ表示/センサ装置100の要部構成を表すブロック図である。図示のように、主制御部800は、入力インターフェース制御部805と、アプリケーション実行部850(動作実行装置)と、を備える。また、入力インターフェース制御部805は、検知判定部810と、重畳判定部820と、入力検出部830と、動作制御部840(動作制御手段)と、画像表示制御部860(画像表示制御手段)と、を備える。

0207

検知判定部810は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが、共に指の像を検知したかどうかを判定する。より具体的に説明すると、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したとき、座標データ、全体画像データ、部分画像データがデータ制御部700から検知判定部810に送信される。従って、検知判定部810は、第1表示/光センサ部300A及び第2表示/光センサ部300Bの両方から座標データ、全体画像データ、部分画像データを受信した場合に、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定することができる。なお、検知判定部810は、座標データ、全体画像データ、部分画像データのうち少なくとも何れか1つを受信することで、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定することもできる。

0208

ここで、図1では、データ処理部700から検知判定部810(及び、重畳判定部820、入力検出部830)へ送信される座標データ、全体画像データ、部分画像データが実線及び破線で記載されている。これは、検知判定部810が、第1表示/光センサ部300A及び第2表示/光センサ部300Bの両方から座標データ、全体画像データ、部分画像データを取得するためであり、第1表示/光センサ部300Aから検知判定部810(及び、重畳判定部820、入力検出部830)へ送信される座標データ、全体画像データ、部分画像データを実線で、第2表示/光センサ部300Bから検知判定部810(及び、重畳判定部820、入力検出部830)へ送信される座標データ、全体画像データ、部分画像データを破線で、それぞれ記載している。

0209

次に、検知判定部810は、「第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知した」ことを示す判定結果を入力検出部830に出力する。従って、第1表示/光センサ部300Aのみ、あるいは第2表示/光センサ部300Bのみが指の像を検知した場合、若しくは第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知しなかった場合には、検知判定部810は、「第1表示/光センサ部300A及び第2表示/光センサ部300Bは、共に指の像を検知しなかった」ことを示す判定結果を入力検出部830に出力する。若しくは、検知判定部810は、入力検出部830に対して何も出力しない。

0210

重畳判定部820は、第1表示/光センサ部300Aに表示された画像の領域である表示画像領域と、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の領域である像領域とが重畳するか否かを判定する。なお、表示/光センサ部300のうち、第1表示/光センサ部300Aに画像が表示され、第2表示/光センサ部300Bには画像が表示されていないものとして説明する。

0211

より具体的に説明すると、重畳判定部820は、データ制御部700から座標データ、全体画像データ、部分画像データを取得し、それら座標データ、全体画像データ、部分画像データから像領域を特定する。また、重畳判定部820は、第1表示/光センサ部300Aに表示された画像に係る画像情報を記憶部901から読み出す。その画像情報には、当該画像に係る表示画像領域が座標により特定されているため、重畳判定部820は、記憶部901から画像情報を読み出すことにより表示画像領域を特定することができる。

0212

一例として、図28、及び図29を参照して画像情報について説明する。図28は、図10に係る円形の画像26a、26bについての画像情報を説明するための図である。また、図29は、図11に係る矩形の画像27aについての画像情報を説明するための図である。

0213

図28(a)に示すように、円形の画像26aは、座標(A、B)を中心点として、直径φT1で示される円である。また、図10を参照して説明した方法によって得られた、図28(b)におけるより大きな寸法に拡大した円形の画像26bは、座標(A、B)を中心点として、直径φT2で示される円である。なお、ここでは円形の画像26a・26bに係る表示画像領域は、座標(A、B)、及び直径φT1、φT2によって特定されているが、円形の画像26a・26bの各円周の座標によって特定する態様であっても構わない。何れの態様であれ、円形の画像26a・26bに係る表示画像領域が特定されるためである。

0214

また、図29(a)に示すように、矩形の画像27aは、(A、B1)という位置を画像の中心として、一辺が長さCで表される正方形の画像である。また、図11を参照して説明した方法によって得られた、図29(b)における図面右側に移動した画像27aは、(A、B2)を画像の中心として、一辺が長さCで表される正方形の画像である。なお、ここでは正方形の画像27aは、座標(A、B1)、(A、B2)、及び長さCで特定されるが、正方形の画像27aの4辺を示す座標によって特定する態様であっても構わない。何れの態様であれ、正方形の画像27aに係る表示画像領域が特定されるためである。

0215

このように、図28で言えば座標(A、B)及びφT1、φT2という情報を、また図29で言えば座標(A、B1)、(A、B2)、及びCという情報を、それぞれ画像情報として扱うことにより、重畳判定部820は、記憶部901からその画像情報を読み出すことによって表示画像領域を特定することができる。

0216

上記の方法により、重畳判定部820は、像領域および表示画像領域を特定することができ、従って、像領域と表示画像領域との間に重畳する重畳領域が存在するか否かを判定することができる。そして、重畳判定部820は、その判定結果を入力検出部830に出力する。なお、前記の重畳領域が存在しないと判定した場合に、重畳判定部820がその判定結果を入力検出部830に出力せず、そのことにより重畳領域が存在しないことの判定結果とすることもできる。

0217

また、前記の説明では、重畳判定部820はデータ制御部700から座標データ、全体画像データ、部分画像データを取得するものとして説明した。しかしながら、重畳判定部820は、検知判定部810を介して、データ制御部700から座標データ、全体画像データ、部分画像データを取得してもよい。

0218

なお、重畳領域が存在するか否かの判定では、重畳判定部820は、第1表示/光センサ部300Aに表示された画像の領域である表示画像領域と、第1表示/光センサ部300Aあるいは第2表示/光センサ部300Bのうち、何れか一方が検知した指の像の領域である像領域とが重畳するか否かを判定してもよい。これにより、第1表示/光センサ部300A及び第2表示/光センサ部300Bの両方の像領域と表示画像領域とが重畳するか否かを判定する場合よりも、「重畳領域が存在する」と判定される条件を緩和することができる。

0219

ここで、具体例を用いて、重畳判定の条件を緩和することが好ましい理由を説明する。図9(a)では、ユーザは、第1表示/光センサ部300Aに表示された矩形の画像25aに対応する第2表示/光センサ部300B上の領域を人差し指21でタッチしている。つまり、第2表示/光センサ部300Bに矩形の画像25aが表示されているとしたならば、その矩形の画像25aが表示されているであろう領域を、人差し指21がタッチする。

0220

このとき、第2表示/光センサ部300Bは矩形の画像25aを画面上に表示していないため、ユーザは、第1表示/光センサ部300Aに表示された矩形の画像25aに対応する第2表示/光センサ部300B上の領域を感覚的に認識して、その上で、その領域をタッチしている。つまり、人差し指21による当該領域へのタッチは、感覚的に行われるものであり、常に正確に行われるものではない。

0221

従って、少なくとも第1表示/光センサ部300Aあるいは第2表示/光センサ部300Bのうち、何れか一方が検知した指の像の領域である像領域が表示画像領域と重畳することにより「重畳領域が存在する」と判定されるのであれば、データ表示/センサ装置100は、より優れた操作性及び利便性をユーザに提供することができる。

0222

入力検出部830は、検知判定部810が、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定し、かつ、重畳判定部820が重畳領域が存在すると判定した場合には、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の動きを検出して、その指の像の動きに対応付けられた入力信号を生成し、その入力信号を動作制御部840に出力する。

0223

このとき、入力検出部830は、さらにアプリケーション、モード等の動作する状態(場面)、あるいは画像の属性にも対応付けて入力信号を生成する。これにより、後述するアプリケーション実行部850は、第1表示/光センサ部300Aに表示された画像に対して所定の動作を実行することができる。なお、入力検出部830は、記憶部901から直接、もしくは重畳判定部820を介して当該画像等に係る画像情報を取得することができる。これにより、入力検出部830は、第1表示/光センサ部300Aに表示された画像に対応付けされた入力信号を生成することができる。

0224

ここで、入力検出部830が生成する入力信号について、図9の動作を例に具体的に説明する。

0225

第1表示/光センサ部300A及び第2表示/光センサ部300Bは、反対方向へ移動する親指20の像と人差し指21の像を検知する。このとき、入力検出部830は、データ制御部700から親指20の像と人差し指21の像の移動前後における全体画像データ、部分画像データ、及び座標データを取得する。そして、入力検出部830は、それらのデータから、それぞれの指の像の移動量、及び移動方向を算出する。

0226

より具体的に説明すると、部分画像データ(領域PP)の代表座標Zの、全体画像データ(領域AP)における座標データは(Xa,Ya)で表され、部分画像データ(領域PP)における座標データは(Xp,Yp)として表される。従って、入力検出部830は、親指20の像及び人差し指21の像の移動前後における上記座標データをそれぞれ取得して、その座標データの差分を計算することにより、それぞれの指の像の移動量、及び移動方向を算出することができる。

0227

このようにして、入力検出部830は、第1表示/光センサ部300A及び第2表示/光センサ部300Bがそれぞれ検知した指の像の動きを検出して、各指の座標移動量座標移動方向(単独ベクトル)を算出する。そして、入力検出部830は、各指の単独ベクトルから、各指が互いにどの方向に、どの程度移動したかを示す相対ベクトルを算出する。これにより、入力検出部830は、単独ベクトル、及び相対ベクトルを算出し、かつ、単独ベクトル、及び相対ベクトルに対応付けられた入力信号を生成する。

0228

さらに、入力検出部830は、以下の種々の項目に対応付けられた入力信号、つまり、記憶部901から読み出した画像情報に基づいて、アプリケーション、モード等の動作する状態(場面)ごとに対応付けされた入力信号、図19を参照して後述する「経過時間」に対応付けられた入力信号、あるいは指の動きの速度に対応付けられた入力信号、を生成する。なお、入力信号は、ここで挙げた項目すべてに対応付けて生成される必要はなく、これらのうち一部に対応付けられて生成されてもよい。

0229

このように、入力検出部830は、上記種々の項目に対応付けられた入力信号を生成し、その入力信号を動作制御部840に出力する。

0230

動作制御部840は、入力検出部830が生成した入力信号を受信して、その入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とに対応付けられた指−命令対応情報に基づいて、アプリケーション実行部850に動作実行命令を送信する。

0231

より具体的に説明すると、動作制御部840は、入力検出部830が生成した入力信号を受信する。そして、動作制御部840は、その入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とに対応付けられた指−命令対応情報を記憶部901から読み出し、その指−命令対応情報に基づいて、当該入力信号に対応する動作実行命令をアプリケーション実行部850に送信する。

0232

ここで、指−命令対応情報についてより具体的に説明する。指−命令対応情報とは、入力検出部830が生成する入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とに対応付けられた情報である。例えば、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像が同じ方向に移動すると、選択した画像を同じ方向に移動させる、あるいは、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像が互いに反対方向に移動すると、選択した画像を拡大する(縮小する)、というように、指−命令対応情報は、入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とに対応付けられている(図30参照)。さらに、これに加え、入力検出部830は、単独ベクトル、相対ベクトル、アプリケーション・モード等の動作する状態(場面)、経過時間、あるいは指の動きの速度といった種々の項目に対応付けられた入力信号を生成する。従って、指−命令対応情報は、上記種々の項目、及び実行すべき所定の動作とが関連付けてなるものである。

0233

なお、図30は、図9図19を参照して説明する、画像の形状、指の動き、及び得られる動作を関連付けた指−命令対応情報の一例を示すテーブルである。従って、ここで示す各項目はあくまで一例であって、これに限られるものではない。

0234

アプリケーション実行部850は、動作制御部840から動作実行命令を受信して、その命令によって示される動作を実行する。そして、アプリケーション実行部850は、その動作が行われたことを示す動作結果情報を画像表示制御部860に送信する。

0235

例えば、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像が同じ方向に移動した場合(仮にA点からB点へ移動したとする)であって、その指の像の動きに対応付けられた動作が、「表示画像をA点からB点へ移動させる」という動作である場合、アプリケーション実行部850は、当該表示画像の表示位置をA点からB点に移動する処理を行う。そして、アプリケーション実行部850は、「表示画像をA点からB点へ移動する処理を行った」ことを示す動作結果情報を画像表示制御部860に送信する。

0236

このように、アプリケーション実行部850は、動作制御部840から動作実行命令を受信して、その命令によって示される動作を実行し、さらに、その動作が行われたことを示す動作結果情報を画像表示制御部860に送信する。

0237

なお、図1において、アプリケーション実行部850は主制御部800に含まれる構成である。しかしながら、主制御部800の外部にアプリケーション実行部850を設けて、外部通信部907を介して、所定の動作を実行する構成としてもよい。また、アプリケーション実行部850は、1または複数のアプリケーションを有してよい。

0238

画像表示制御部860は、アプリケーション実行部850から動作結果情報を受信すると、データ処理部700に表示データを送信する。その表示データは、アプリケーション実行部850によって実行された動作結果を第1表示/光センサ部300Aに表示するようデータ処理部700に促すものである。

0239

従って、「表示画像をA点からB点へ移動させる」という動作がアプリケーション実行部850によって実行された場合、画像表示制御部860は、データ処理部700にそのことを示す表示データを送信して、その結果、第1表示/光センサ部300Aに動作結果が表示される。つまり、表示画像がA点からB点へ移動する様子が第1表示/光センサ部300Aに表示される。

0240

また、図1では、記憶部901は、主制御部800の外部に設けられているが、主制御部800の内部に設けられる構成であってもよい。

0241

また、検知判定部810、重畳判定部820、及び入力検出部830は、第1表示/光センサ部300A及び第2表示/光センサ部300Bごとに、指の像の全体画像データ、部分画像データ、及び座標データを送信するようデータ処理部700に要求している。これは、主制御部800で実行されるアプリケーションプログラムが、指の像の全体画像データ、部分画像データ、及び座標データを第1表示/光センサ部300A及び第2表示/光センサ部300Bごとに送信するようデータ処理部700を制御することにより行われる。

0242

フローチャート説明)
次に、図9図18、及び図20を参照しながら、データ表示/センサ装置100の処理の流れ、及び、入力インターフェース制御部805からデータ処理部700に送信されるコマンドの詳細について説明する。

0243

図20は、データ表示/センサ装置100の処理の流れを表すフローチャートである。

0244

まず、データ表示/センサ装置100の電源がオフの状態にあるとき、ユーザが電源スイッチ905を押下することにより、データ表示/センサ装置100は電源オンとなる(S11)。

0245

そして、ステップS13では、ユーザが電源スイッチ905を押下することにより、表示/光センサ部300に画像が表示される。なお、ここでは、第1表示/光センサ部300Aに画像が表示されるものとする。この状態で、データ表示/センサ装置100は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが指の像を検出するまで待機する。

0246

ここで、第1表示/光センサ部300Aに画像を表示させる場合は、「表示パネル」フィールドの値として上画面(“001”)を指定したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。なお、第2表示/光センサ部300Bに画像を表示させる場合は、「表示パネル」フィールドの値として下画面(“010”)を指定したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。ここでは、第1表示/光センサ部300Aに画像を表示させるため、「表示パネル」フィールドの値として両画面(“001”)を指定したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。

0247

また、この段階では、表示/光センサ部300は近傍の像を検知可能な状態にあるものとする。前記検知を行うために、「データ取得タイミング」フィールドに、“イベント”を指定し、「データ種別」フィールドに“座標”および“全体画像”の両方を指定(“101”を指定)したコマンドが入力インターフェース制御部805からデータ処理部700に出力される。なお、“座標”または“全体画像”のみを指定したコマンドが入力インターフェース制御部805からデータ処理部700に出力されてもよい。

0248

さらに、第1表示/光センサ部300A及び第2表示/光センサ部300Bにおいて前記検知を行うために、「スキャンパネル」フィールドに両方の表示/光センサ部300を指定(“011”)したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。

0249

これにより、センサ内蔵液晶パネル301が近傍の像を検知した場合に、検知判定部810、重畳判定部820、及び入力検出部830は、データ処理部700から座標データ、全体画像データ、部分画像データを取得することができる。

0250

つまり、第1表示/光センサ部300A及び第2表示/光センサ部300Bにユーザの指がタッチしたとき、光センサ回路32が、タッチした指の影像および反射像の少なくとも何れかを検知する。その結果、データ処理部700がセンサ制御部602から取得する画像データに変化が生じる。

0251

このようにして、検知判定部810は、前記画像データに変化が生じた際にデータ処理部700から出力されてくる、座標データ、全体画像データ、部分画像データを取得することにより、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したことを認識できる。

0252

そして、ステップS15では、検知判定部810が、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したかどうかを判定する。つまり、表示/光センサ部300ごとの座標データ、全体画像データ、部分画像データがデータ処理部700から検知判定部810に入力されることにより、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定される。なお、図20では、便宜のため、第1表示/光センサ部300Aを「A」と称し、第2表示/光センサ部300Bを「B」と称している。

0253

第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知した場合(ステップS15でYes)、ステップS17に進む。ステップS17では、重畳判定部820が、第1表示/光センサ部300Aに表示された画像の領域である表示画像領域と、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の領域である像領域とが重畳するか否かを判定する。つまり、データ処理部700から表示/光センサ部300ごとの座標データ、全体画像データ、部分画像データを取得することにより、重畳判定部820は、座標データ、全体画像データ、及び部分画像データと、第1表示/光センサ部300Aに表示された画像の領域である表示画像領域とを比較して、重畳する領域(重畳領域)が存在するかどうかを判定する。なお、重畳判定部820は、第1表示/光センサ部300Aに表示された画像に係る画像情報を記憶部901から読み出している。

0254

重畳領域が存在すると判定された場合(ステップS17でYes)、ステップS19に進む。ステップS19では、入力検出部830が、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の動きを検出して、その指の像の動きに対応付けられた入力信号を生成し、その入力信号を動作制御部840に出力する。

0255

続いて、ステップS21では、動作制御部840が、その入力信号を入力検出部830から受信して、その入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とが対応付けられた指−命令対応情報を記憶部901から読み出す。

0256

動作制御部840は、記憶部901から指−命令対応情報を読み出して、その指−命令対応情報に基づいて、アプリケーション実行部850に動作実行命令を送信する。

0257

続いて、ステップS23では、アプリケーション実行部850が、動作制御部840から動作実行命令を受信して、その命令によって示される動作を実行する。そして、アプリケーション実行部850は、その動作が行われたことを示す動作結果情報を画像表示制御部860に送信する。

0258

そして、ステップS25では、画像表示制御部860が、アプリケーション実行部850から動作結果情報を受信して、データ処理部700に表示データを送信する。その表示データは、アプリケーション実行部850によって実行された動作結果を第1表示/光センサ部300Aに表示するようデータ処理部700に促すものである。その結果、第1表示/光センサ部300Aには、アプリケーション実行部850が動作制御部840から受信した動作実行命令に基づいて実行した動作結果が表示される。

0259

このとき、第1表示/光センサ部300Aに画像を表示させる場合は、「表示パネル」フィールドの値として上画面(“001”)を指定したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。なお、第2表示/光センサ部300Bに画像を表示させる場合は、「表示パネル」フィールドの値として下画面(“010”)を指定したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。ここでは、第1表示/光センサ部300Aに画像を表示させるため、「表示パネル」フィールドの値として両画面(“001”)を指定したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。

0260

一方、ステップS15、及びステップS17で「No」に進む場合は、再びステップS15に戻る。なお、ステップS15の次にステップS17の処理を行う順序で説明したが、同時に行っても、あるいは逆の順序で行ってもよい。

0261

なお、後述の図23を参照して説明する例では、第1表示/光センサ部300Aに画像が表示されていない場合であっても、所望の動作を実行することができる。従って、この場合には、重畳領域が存在するか否か(ステップS17)の判定を経ることなく、入力検出部830が入力信号を生成するステップ(ステップS19)に進む。

0262

ここで、前記各ステップ(ステップS11〜ステップS25)の処理の流れを図9を参照して説明する。

0263

図9(a)では、第1表示/光センサ部300Aに矩形の画像25aが表示されている。これは、「表示パネル」フィールドの値として上画面(“001”)を指定したコマンドが入力インターフェース制御部805からデータ処理部700に出力された結果、第1表示/光センサ部300Aに画像25aが表示されたものである。

0264

なお、既にこの段階で、「データ取得タイミング」フィールドに、“イベント”を指定し、「データ種別」フィールドに“座標”および“全体画像”の両方を指定(“101”を指定)したコマンドが入力インターフェース制御部805からデータ処理部700に出力され、表示/光センサ部300は近傍の像を検知可能な状態にあるものとする。なお、“座標”または“全体画像”のみを指定したコマンドが入力インターフェース制御部805からデータ処理部700に出力されてもよい。

0265

また、第1表示/光センサ部300A及び第2表示/光センサ部300Bにおいて前記検知を行うために、「スキャンパネル」フィールドに両方の表示/光センサ部300を指定(“011”)したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。

0266

このような状態において、ユーザが、上面(第1表示/光センサ部300Aが配設された側)から親指20で、下面(第2表示/光センサ部300Bが配設された側)から人差し指21で、それぞれその矩形の画像25aをタッチする。そして、第1表示/光センサ部300A及び第2表示/光センサ部300Bは共に指の像を検知することができる状態にあるため、検知判定部810は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが、共に指の像を検知していると判定し、その判定結果を入力検出部830に出力する。

0267

また、図9(a)に示すように、第1表示/光センサ部300Aに表示された画像25aの領域を示す表示画像領域と、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した親指20、人差し指21の指の像の領域である像領域とは重畳している。従って、重畳判定部820は、表示画像領域と像領域とが重畳する重畳領域が存在すると判定し、その判定結果を入力検出部830に出力する。

0268

なお、重畳判定部820は、データ制御部700から指の像の座標データ、全体画像データ、部分画像データを取得し、それらのデータから前記の像領域を特定する。また、重畳判定部820は、第1表示/光センサ部300Aに表示された画像に係る画像情報を記憶部901から読み出すことにより、画像25aの表示画像領域を特定している。このようにして、重畳判定部820は、像領域および表示画像領域を特定することができるため、像領域と表示画像領域との間に重畳する重畳領域が存在するか否かを判定することができる。

0269

入力検出部830は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと検知判定部810が判定し、かつ、重畳判定部820が重畳領域が存在すると判定したことにより、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の動きを検出する。

0270

ここで、図9(b)では、親指20と人差し指21をそれぞれ反対方向(図面横方向において、親指20を右方向、人差し指21を左方向)へ移動しているため、入力検出部830は、その指の像の動きを検出し、その指の像の動きに対応付けられた入力信号を生成する。また、入力検出部830は、記憶部901から直接、もしくは重畳判定部820を介して矩形の画像25aに係る画像情報を取得しており、入力信号は、矩形の画像25aに対応付けて生成されている。そして、入力検出部830はその入力信号を動作制御部840に出力する。

0271

動作制御部840は、入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とが対応付けられた指−命令対応情報を記憶部901から読み出し、次に、動作実行命令をアプリケーション実行部850に送信する。ここで、第1表示/光センサ部300Aに表示された画像が矩形の画像25aであって、データ表示/センサ装置100の表裏両面で検出された指の像の動きがそれぞれ反対方向へ移動する場合には、指−命令対応情報は、矩形の画像25aを扇状の画像25aに変化させる動作に対応付けられている。

0272

従って、アプリケーション実行部850は、矩形の画像25aを扇状の画像25aに拡げる処理を行い、その上で、「矩形の画像25aを扇状の画像25aに拡げる処理を行った」ことを示す動作結果情報を画像表示制御部860に送信する。

0273

画像表示制御部860は、アプリケーション実行部850から前記の動作結果情報を受信すると、データ処理部700に表示データを送信する。その表示データとは、矩形の画像25aを扇状の画像25aに拡げて表示することを指示するデータである。そして、データ処理部700は、画像表示制御部860から送信された表示データに基づいて、第1表示/光センサ部300Aに表示された矩形の画像25aを扇状の画像25aへ展開した画像を表示させる。

0274

なお、扇状の画像25aの表示は、「表示パネル」フィールドの値として上画面(“001”)を指定したコマンドが入力インターフェース制御部805からデータ処理部700に出力された結果、第1表示/光センサ部300Aに扇状の画像25aが表示されたものである。

0275

このようにして、図9(a)・(b)を参照して説明した動作が実行され、その実行結果が第1表示/光センサ部300Aに表示される。

0276

これと同様の処理の流れによって、図10図18を参照して説明した種々の動作が実行され、その実行結果が第1表示/光センサ部300Aに表示される。

0277

なお、ここでは、右手について説明しているが、左手についても、入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とが対応付けられた指−命令対応情報を記憶部901に記憶させておけば、第1表示/光センサ部300Aに表示された表示画像に対して、所望の動作を実行させることができる。

0278

また、ここでは第1表示/光センサ部300Aに表示画像を表示するものとして説明したが、第2表示/光センサ部300Bに画像を表示させてもよい。

0279

さらに、第1表示/光センサ部300A及び第2表示/光センサ部300Bによる検知の対象として親指20及び人差し指21を用いることとして説明したが、検知の対象とする指の種類は、これらの指に限定されず、中指、薬指小指であってもよい。指の種類ではなく、検知した指の像の動きに基づいて、第1表示/光センサ部300Aに表示された画像に対して所定の動作を実行させるためである。

0280

データ表示/センサ装置100の前記処理によって得られる効果を説明すると以下の通りである。

0281

データ表示/センサ装置100は、前記構成を備えることにより、表裏両面にそれぞれ配設された近傍の像を検知する第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知した場合に、指の像の動きに対応付けられた入力信号が入力検出部830によって生成される。つまり、第1表示/光センサ部300A、第2表示/光センサ部300Bのうち何れか一方の表示/光センサ部300が指の像を検知しただけでは、その指の像の動きに対応付けられた入力信号が生成されることはない。

0282

このように、データ表示/センサ装置100では、表裏両面の表示/光センサ部300という二つの入力面からの入力によって入力信号が生成される。そして、その入力信号は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の動きに対応付けられた信号である。従って、ユーザは、様々な指の像の動きを第1表示/光センサ部300A及び第2表示/光センサ部300Bに検出させることによって、従来の入力装置では実現できなかった多彩で立体的な操作を行うことができ、また、そのような操作によって、優れた利便性及び操作性がもたらされる。しかも板状のデータ表示/センサ装置100の裏表両面から画面を指で挟持するように操作するため、ユーザは、極めて容易に当該装置を使用することができる。

0283

そして、二つの入力面からの入力によって入力信号が生成されるため、例えばユーザの指がタッチパネル上のアイコンに無意識のうちに接触しても、その指の像が検知されて入力信号が生成され、何らかの処理が実行されてしまうという事態を回避することができる。その結果、入力面に誤って操作してしまうリスクが軽減される。

0284

このように、データ表示/センサ装置100では、優れた操作性及び利便性をユーザに提供することができる。

0285

さらに、データ表示/センサ装置100では、前記の構成において、入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とが対応付けられた、指−命令対応情報に基づいて、入力信号に対応する命令を、アプリケーション実行部850に送信する動作制御部840を備える構成である。

0286

従って、表裏両面の表示/光センサ部300が指の像の動きを検出して、該指の像の動きに対応付けられた入力信号が入力検出部830によって生成される。そして、その入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とが対応付けられた、指−命令対応情報に基づいて、入力信号に対応付けられた命令がアプリケーション実行部850に送信され、アプリケーション実行部850は、入力信号に対応する命令を実行する。

0287

従って、データ表示/センサ装置100のユーザは、様々な指の像の動きを表裏両面の表示/光センサ部300に検出させることによって、アプリケーション実行部850に所望の動作を実行させることができる。

0288

さらに、データ表示/センサ装置100では、前記の構成において、入力検出部830は、表裏両面の表示/光センサ部300が、表裏両面の表示/光センサ部300上の所定の領域において指の像を検知した場合に、前記入力信号を生成する構成とすることができる。そして、表裏両面の表示/光センサ部300において、所定の領域に画像を表示させる画像表示制御部860を備え、入力検出部830は、当該画像に対応付けられた前記入力信号を生成する構成とすることができる。

ページトップへ

この技術を出願した法人

この技術を発明した人物

ページトップへ

関連する挑戦したい社会課題

関連する公募課題

ページトップへ

新着 最近 公開された関連が強い 技術

この 技術と関連性が強い 技術

関連性が強い 技術一覧

この 技術と関連性が強い人物

関連性が強い人物一覧

この 技術と関連する挑戦したい社会課題

関連する挑戦したい社会課題一覧

この 技術と関連する公募課題

関連する公募課題一覧

astavision 新着記事

サイト情報について

本サービスは、国が公開している情報(公開特許公報、特許整理標準化データ等)を元に構成されています。出典元のデータには一部間違いやノイズがあり、情報の正確さについては保証致しかねます。また一時的に、各データの収録範囲や更新周期によって、一部の情報が正しく表示されないことがございます。当サイトの情報を元にした諸問題、不利益等について当方は何ら責任を負いかねることを予めご承知おきのほど宜しくお願い申し上げます。

主たる情報の出典

特許情報…特許整理標準化データ(XML編)、公開特許公報、特許公報、審決公報、Patent Map Guidance System データ