図面 (/)

技術 固体撮像装置および電子機器

出願人 ソニーセミコンダクタソリューションズ株式会社
発明者 浴良仁
出願日 2019年7月31日 (11ヶ月経過) 出願番号 2019-140824
公開日 2020年2月13日 (4ヶ月経過) 公開番号 2020-025268
状態 特許登録済
技術分野 光信号から電気信号への変換 スタジオ装置 学習型計算機
主要キーワード 疲労度合 ポーズ検出 集中度合い パーソナルモビリティ デジタル回路用 電気信号ケーブル 移動体制御システム 統合制御ユニット
関連する未来課題
重要な関連分野

この項目の情報は公開日時点(2020年2月13日)のものです。
また、この項目は機械的に抽出しているため、正しく解析できていない場合があります

図面 (15)

課題

イメージセンサチップ内でより複雑な処理を実行することを課題とする。

解決手段

固体撮像装置は、画像データを取得する撮像部と、画像データを取得する撮像部と、前記撮像部から取得される画像データに基づくデータに対してニューラルネットワーク計算モデルに基づく処理を実行する処理部と、第1の処理を第1のフレームレートで実行する第1の処理モードと、前記第1の処理の結果に基づき、第2の処理を第2のフレームレートで実行する第2の処理モードとを切替える制御部とを有する。

概要

背景

デジタルカメラなどに代表される機器には、CMOS(Complementary Metal Oxide Semiconductor)やDSP(Digital Signal Processor)を有するイメージセンサが搭載される。イメージセンサでは、撮像された画像がDSPに供給され、DSPにおいて様々な処理がなされて、アプリケーションプロセッサなどの外部装置に出力される。

概要

イメージセンサのチップ内でより複雑な処理を実行することを課題とする。固体撮像装置は、画像データを取得する撮像部と、画像データを取得する撮像部と、前記撮像部から取得される画像データに基づくデータに対してニューラルネットワーク計算モデルに基づく処理を実行する処理部と、第1の処理を第1のフレームレートで実行する第1の処理モードと、前記第1の処理の結果に基づき、第2の処理を第2のフレームレートで実行する第2の処理モードとを切替える制御部とを有する。

目的

このため、アプリケーションに応じたDSPの設計や処理ごとにアプリケーションをインストールするなど、開発者やユーザの作業負担が多いことなどもあり、イメージセンサのチップ内でより複雑な処理を実行することが望まれている

効果

実績

技術文献被引用数
0件
牽制数
0件

この技術が所属する分野

ライセンス契約や譲渡などの可能性がある特許掲載中! 開放特許随時追加・更新中 詳しくはこちら

請求項1

画像データを取得する撮像部と、前記撮像部から取得される画像データに基づくデータに対してニューラルネットワーク計算モデルに基づく処理を実行する処理部と、第1の処理を第1のフレームレートで実行する第1の処理モードと、前記第1の処理の結果に基づき、第2の処理を第2のフレームレートで実行する第2の処理モードとを切替える制御部と、を有する固体撮像装置

請求項2

前記処理部は、前記画像データに基づくデータに対して、特定の検出対象を検出する演算処理を実行する、請求項1に記載の固体撮像装置。

請求項3

前記演算処理は、学習済み学習モデルを用いた処理である請求項2に記載の固体撮像装置。

請求項4

前記第2の処理は、前記撮像部から取得される画像データに基づくデータに対してニューラルネットワーク計算モデルに基づく処理を実行しない処理である、請求項1に記載の固体撮像装置。

請求項5

前記第2の処理は、前記第1の処理モードにおいて特定の検出対象が検出された場合に、前記撮像部から取得される画像データに基づくデータに対してニューラルネットワーク計算モデルに基づく処理を実行せずに、前記第1のフレームレートより大きい前記第2のフレームレートで前記画像データを読み出す処理である、請求項4に記載の固体撮像装置。

請求項6

前記第2の処理は、前記撮像部から画像データを読み出す処理と、前記撮像部から取得される画像データに基づくデータに対してニューラルネットワーク計算モデルに基づく処理を実行する処理とが時間的に重複する処理である、請求項1に記載の固体撮像装置。

請求項7

前記第2の処理は、前記第1の処理モードにおいて特定の検出対象が検出された場合に、前記撮像部から取得される画像データに基づくデータに対してニューラルネットワーク計算モデルに基づく処理を前記第1のフレームレートと同じフレームレートである前記第2のフレームレートで実行する処理である、請求項6に記載の固体撮像装置。

請求項8

前記第2の処理は、前記第1の処理モードにおいて特定の検出対象が検出された場合に、前記撮像部から取得される画像データに基づくデータに対してニューラルネットワーク計算モデルに基づく処理を前記第1のフレームレートよりも高い前記第2のフレームレートで実行する処理である、請求項7に記載の固体撮像装置。

請求項9

前記制御部は、前記第1の処理モードが選択された状態で、前記撮像部からの前記画像データの読み出しが完了した後、前記演算処理による前記画像データに基づくデータに対して前記ニューラルネットワーク計算モデルに基づく処理を開始する請求項2に記載の固体撮像装置。

請求項10

前記制御部は、前記第1の処理モードが選択された状態で、前記演算処理が完了した後、前記撮像部からの前記画像データの読み出しを開始する請求項2に記載の固体撮像装置。

請求項11

画像データを取得する撮像部と、前記撮像部から取得される画像データに基づくデータに対してニューラルネットワーク計算モデルに基づく処理を実行する処理部と、第1の処理を第1のフレームレートで実行する第1の処理モードと、前記第1の処理の結果に基づき、第2の処理を第2のフレームレートで実行する第2の処理モードとを切替える制御部とを有する固体撮像装置と、前記固体撮像装置から出力された前記画像データに対してアプリケーションによる処理を実行する制御装置とを有する電子機器

技術分野

0001

本開示は、固体撮像装置および電子機器に関する。詳しくは、フレームレートの動的な制御に関する。

背景技術

0002

デジタルカメラなどに代表される機器には、CMOS(Complementary Metal Oxide Semiconductor)やDSP(Digital Signal Processor)を有するイメージセンサが搭載される。イメージセンサでは、撮像された画像がDSPに供給され、DSPにおいて様々な処理がなされて、アプリケーションプロセッサなどの外部装置に出力される。

先行技術

0003

国際公開第2018/051809号

発明が解決しようとする課題

0004

しかしながら、上記の従来技術では、イメージセンサ内のDSPにおいて、ノイズ除去などの簡単な画像処理が実行され、画像データを用いた顔認証などの複雑な処理はアプリケーションプロセッサなどで実行されるのが一般的である。このため、アプリケーションに応じたDSPの設計や処理ごとにアプリケーションをインストールするなど、開発者やユーザの作業負担が多いことなどもあり、イメージセンサのチップ内でより複雑な処理を実行することが望まれている。

0005

そこで、本開示では、イメージセンサのチップ内でより複雑な処理を実行することができる固体撮像装置および電子機器を提案する。

課題を解決するための手段

0006

上記の課題を解決するために、本開示に係る一形態の固体撮像装置は、画像データを取得する撮像部と、前記撮像部から取得される画像データに基づくデータに対してニューラルネットワーク計算モデルに基づく処理を実行する処理部と、第1の処理を第1のフレームレートで実行する第1の処理モードと、前記第1の処理の結果に基づき、第2の処理を第2のフレームレートで実行する第2の処理モードとを切替える制御部とを有する。

0007

また、本開示によれば、固体撮像装置は、チップ内にDNN(Deep Neural Network)を実行するDSPを搭載し、DSPによるDSP処理の実行有無に応じてフレームレートを動的に切り替え、チップ内で複雑な処理の実行を実現する。

発明の効果

0008

本開示によれば、イメージセンサのチップ内でより複雑な処理を実行することができる。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。

図面の簡単な説明

0009

第1の実施形態に係る電子機器としての撮像装置概略構成例を示すブロック図である。
第1の実施形態に係る第1の処理モードを説明する図である。
第1の実施形態に係る第2の処理モードを説明する図である。
第1の実施形態に係る処理モード選択処理の流れを示すフローチャートである。
第1の実施形態に係る第1の処理モードの流れを示すフローチャートである。
第1の実施形態の変形例を説明する図である。
第1の実施形態の変形例を説明する図である。
本実施形態に係るイメージセンサのチップ構成例を示す模式図である。
本実施形態に係るレイアウト例を説明するための図である。
本実施形態に係るレイアウト例を説明するための図である。
車両制御システムの概略的な構成の一例を示すブロック図である。
車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
内視鏡手術システムの概略的な構成の一例を示す図である。
カメラヘッド及びCCU機能構成の一例を示すブロック図である。

実施例

0010

以下に、本開示の実施形態について図面に基づいて詳細に説明する。なお、以下の各実施形態において、同一の部位には同一の符号を付することにより重複する説明を省略する。

0011

また、以下に示す項目順序に従って本開示を説明する。
1.第1の実施形態
2.第1の実施形態の変形例(1)
3.第1の実施形態の変形例(2)
4.イメージセンサのチップ構成
5.レイアウト例
6.その他の実施形態
7.移動体への応用例
8.内視鏡手術システムへの応用例

0012

(1.第1の実施形態)
[1−1.第1の実施形態に係る画像処理システムの構成]
図1は、第1の実施形態に係る電子機器としての撮像装置の概略構成例を示すブロック図である。図1に示すように、撮像装置1は、クラウドサーバ30と通信可能に接続される。なお、撮像装置1とクラウドサーバ30とは、有線無線を問わず、各種ネットワークやUSB(Universal Serial Bus)ケーブルなどを介して、通信可能に接続される。

0013

クラウドサーバ30は、撮像装置1から送信された静止画動画などの画像データを記憶するサーバ装置の一例である。例えば、クラウドサーバ30は、ユーザごと、日付ごと、撮像場所ごとなど任意の単位で画像データを記憶し、画像データを用いたアルバム作成など様々なサービスを提供することもできる。

0014

撮像装置1は、イメージセンサ10とアプリケーションプロセッサ20を有する電子機器の一例であり、例えばデジタルカメラ、デジタルビデオカメラタブレット端末スマートフォンなどである。なお、以降の実施形態では、画像を撮像する例を用いて説明するが、これに限定されるものではなく、動画などであっても同様に処理することができる。

0015

イメージセンサ10は、例えば1チップで構成されるCMOS(Complementary Metal Oxide Semiconductor)イメージセンサであり、入射光受光し、光電変換を行って、入射光の受光量に対応する画像データをアプリケーションプロセッサ20に出力する。

0016

アプリケーションプロセッサ20は、各種アプリケーションを実行するCPU(Central Processing Unit)などのプロセッサの一例である。アプリケーションプロセッサ20は、イメージセンサ10から入力された画像データをディスプレイに表示する表示処理、画像データを用いた生体認証処理、画像データをクラウドサーバ30に送信する送信処理などアプリケーションに対応する各種処理を実行する。

0017

このような撮像装置1のイメージセンサ10は、チップ内にDNNを実行するDSPを搭載することで、チップ内で複雑な処理の実行を実現する。しかし、イメージセンサ10内にDNNを搭載すると、撮像された画像の読み出し処理と複雑な処理を実行するDSP処理とが並列に実行されることがある。画像の読み出し処理に対してDSP処理が並列に実行されると、読み出される画像データにDSP処理に起因したノイズ入り込み、画像の品質が低下してしまう場合が存在する。そこで、第1の実施形態にかかるイメージセンサ10では、画像読み出し処理の実行期間に対するDSP処理の実行期間を制御することで、画像の品質低下を抑制する。

0018

[1−2.第1の実施形態に係る撮像装置の構成]
図1に示すように、撮像装置1は、固体撮像装置であるイメージセンサ10と、アプリケーションプロセッサ20とを備える。イメージセンサ10は、撮像部11、コントロール部(制御部ともいう)12、信号処理部13、DSP(処理部ともいう)14、メモリ15、セレクタ16を有する。

0019

撮像部11は、例えば、ズームレンズフォーカスレンズ絞り等を備える光学系104と、フォトダイオードなどの受光素子を含む単位画素が2次元マトリクス状に配列した構成を備える画素アレイ部101とを備える。外部から入射した光は、光学系104を介することで、画素アレイ部101における受光素子が配列した受光面に結像される。画素アレイ部101の各単位画素は、その受光素子に入射した光を電変換することで、入射光の光量に応じた電荷読出可能に蓄積する。

0020

また、撮像部11には、変換器(Analog to Digital Converter:以下、ADCという)17(例えば、図2参照)が含まれている。ADC17は、撮像部11から読み出された単位画素毎アナログ画素信号デジタル値に変換することで、デジタルの画像データを生成し、生成した画像データを信号処理部13へ出力する。なお、ADC17には、電源電圧等から撮像部11を駆動するための駆動電圧を生成する電圧生成回路等が含まれてもよい。

0021

撮像部11が出力する画像データのサイズは、例えば、12M(3968×2976)ピクセルや、VGA(Video Graphics Array)サイズ(640×480ピクセルZ)等の複数のサイズの中から選択することができる。また、撮像部11が出力する画像データについては、例えば、RGB(赤、緑、青)のカラー画像とするか、又は、輝度のみの白黒画像とするかを選択することができる。これらの選択は、撮影モードの設定の一種として行うことができる。

0022

コントロール部12は、例えば、ユーザの操作や設定された動作モードに従い、イメージセンサ10内の各部を制御する。

0023

例えば、コントロール部12は、後述する撮像部11から画像信号を読み出す画像読み出し処理を監視し、画像読み出し処理が完了すると、DSP14にDSP処理の開始を通知する。具体的には、コントロール部12は、内部クロックカウントしてイネーブル信号を切替えることで、撮像部11からの画像データの読み出し処理(以下、単に画像読み出し処理という)に対してDSP処理をオーバラップさせるか否かを制御する。

0024

例えば、コントロール部12は、撮像部11からの画像読み出し処理が実行されている間は、LOWのイネーブル信号(すなわちオフ信号)をDSP14に出力する。そして、コントロール部12は、撮像部11からの画像読み出し処理が完了すると、HIGHのイネーブル信号(すなわちオン信号)をDSP14に出力する。その後、コントロール部12は、DSP14によるDSP処理が完了すると、LOWのイネーブル信号(すなわちオフ信号)をDSP14に出力する。

0025

信号処理部13は、撮像部11から読み出されたデジタルの画像データ又はメモリ15から読み出されたデジタルの画像データ(以下、処理対象の画像データという)に対して種々の信号処理を実行する。例えば、処理対象の画像データがカラー画像である場合、信号処理部13は、この画像データをYUVの画像データやRGBの画像データなどにフォーマット変換する。また、信号処理部13は、例えば、処理対象の画像データに対し、ノイズ除去やホワイトバランス調整等の処理を必要に応じて実行する。その他、信号処理部13は、処理対象の画像データに対し、DSP14がその画像データを処理するのに必要となる種々の信号処理(前処理ともいう)を実行する。

0026

DSP14は、例えば、メモリ15に格納されているプログラムを実行することで、ディープニューラルネットワーク(DNN)を利用した機械学習によって作成された学習済みモデルを用いて各種処理を実行する処理部として機能する。例えば、DSP14は、メモリ15に記憶されている学習済みモデルに基づいた演算処理を実行することで、メモリ15に記憶されている辞書係数と画像データとを掛け合わせる処理を実行する。このような演算処理により得られた結果(演算結果)は、メモリ15及び/又はセレクタ16へ出力される。なお、演算結果には、学習済みモデルを用いた演算処理を実行することで得られた画像データや、その画像データから得られる各種情報メタデータ)が含まれ得る。また、DSP14には、メモリ15へのアクセスを制御するメモリコントローラが組み込まれていてもよい。

0027

より具体的には、DSP14は、コントロール部12から出力されるイネーブル信号がLOW(オフ)からHIGH(オン)に変化すると、メモリ15から画像データを読み出してDSP処理を実行する。すなわち、DSP14は、イネーブル信号がオンの期間にDSP処理を実行する。

0028

なお、DSP14が処理対象とする画像データは、画素アレイ部101から通常に読み出された画像データであってもよいし、この通常に読み出された画像データの画素間引くことでデータサイズが縮小された画像データであってもよい。若しくは、画素アレイ部101に対して画素を間引いた読み出しを実行することで通常よりも小さいデータサイズで読み出された画像データであってもよい。なお、ここでの通常の読み出しとは、画素を間引かずに読み出すことであってよい。

0029

演算処理には、例えば、ニューラルネットワーク計算モデルの一例である学習済み学習モデルを利用したものが存在する。学習済みの学習モデルには、例えば、学習データを用いて、人物動物の特定、明るさ補正顔抽出画像補正などを学習したDNNやサポートベクタマシンなどが含まれる。DSP処理は、例えば学習済みの学習モデルを用いて、撮影画像から人物を特定したり、撮影画像の明るさやノイズを補正したり、撮影画像から顔を抽出したりする。なお、DSP14は、学習データを用いて学習モデル内の各種パラメータ重み付けを変更することで学習モデルを学習したり、複数の学習モデルを用意しておき演算処理の内容に応じて使用する学習モデルを変更したり、外部の装置から学習済みの学習モデルを取得したりして、上記演算処理を実行することができる。

0030

メモリ15は、撮像部11から出力された画像データ、信号処理部13で信号処理された画像データ、DSP14で得られた演算結果等を必要に応じて記憶する。また、メモリ15は、DSP14が実行する学習済みの学習モデルのアルゴリズムをプログラム及び辞書係数として記憶する。

0031

また、メモリ15は、信号処理部13から出力された画像データやDSP14から出力された演算処理済みの画像データ(以下、処理済み画像データという)に加え、ISO(International Organization for Standardization)感度露光時間、フレームレート、フォーカス、撮影モード、切出し範囲等を記憶してもよい。すなわち、メモリ15は、ユーザにより設定される各種撮像情報を記憶し得る。

0032

セレクタ16は、例えばコントロール部12からの選択制御信号に従うことで、信号処理部13から出力された画像データやメモリ15に記憶されている画像データや演算結果を選択的に出力する。メモリ15に格納されている処理済み画像データやメタデータ等の演算結果とのいずれかを、ユーザの設定等により選択して、アプリケーションプロセッサ20に出力する。

0033

より詳細には、セレクタ16は、第1の処理モードが選択されている場合は、DSP14が生成した演算結果をメモリ15から読み出して、アプリケーションプロセッサ20へ出力する。一方、セレクタ16は、第2の処理モードが選択されている場合は、信号処理部13から入力される画像データをアプリケーションプロセッサ20へ出力する。なお、セレクタ16は、第1の処理モードが選択されている場合、DSP14から出力された演算結果を直接アプリケーションプロセッサ20へ出力してもよい。

0034

以上のようにしてセレクタ16から出力された画像データや演算結果は、表示やユーザインタフェースなどを処理するアプリケーションプロセッサ20に入力される。アプリケーションプロセッサ20は、例えば、CPU等を用いて構成され、オペレーティングシステムや各種アプリケーションソフトウエア等を実行する。このアプリケーションプロセッサ20には、GPU(Graphics Processing Unit)やベースバンドプロセッサなどの機能が搭載されていてもよい。アプリケーションプロセッサ20は、入力された画像データや演算結果に対し、必要に応じた種々処理を実行したり、ユーザへの表示を実行したり、所定のネットワーク40を介して外部のクラウドサーバ30へ送信したりする。

0035

なお、所定のネットワーク40には、例えば、インターネットや、有線LAN(Local Area Network)又は無線LANや、移動体通信網や、Bluetooth(登録商標)など、種々のネットワークを適用することができる。また、画像データや演算結果の送信先は、クラウドサーバ30に限定されず、単一で動作するサーバや、各種データを保管するファイルサーバや、携帯電話機等の通信端末など、通信機能を有する種々の情報処理装置(システム)であってよい。

0036

[1−3.第1の実施形態に係る各処理モードの説明]
次に、第1の実施形態に係る各処理モードを説明する。図2Aは、第1の実施形態に係る第1の処理モードを説明する図であり、図2Bは、第1の実施形態に係る第2の処理モードを説明する図である。なお、図2Aは、第1のフレームレートで処理される第1の処理モードを示し、図2Bは、第1のフレームレートよりも高い第2のフレームレートで処理される第2の処理モードを示す。例えば、図2Aの第1の処理モードを1フレームレート(fps)で処理し、図2Bの第2の処理モードを30フレームレートで処理する。

0037

図2Aに示すように、第1の処理モードが選択されている場合、コントロール部12は、撮像部11からの画像読み出し処理が実行されている間はイネーブル信号をLOWに維持し、画像読み出し処理が終了するとイネーブル信号をHIGHに変更する。DSP14は、イネーブル信号がHIGHに変更されたことを検出すると、DSP処理を開始する。その後、コントロール部12は、DSP処理が完了すると、イネーブル信号をLOWに変更する。この結果、撮像部11に対して、次の画像読み出し処理が実行される。

0038

また、図2Bに示すように、第2の処理モードが選択されている間、イネーブル信号が常にLOWに維持されるので、フレームレートに従って、撮像部11からの画像読み出し処理が順次実行される。

0039

例えば、上記図2Aおよび図2Bで説明した処理モードの切替は、監視カメラなどに適用することができる。具体的には、イネーブル信号がHIGHに設定され、図2Aに示す第1の処理モードが選択されている間、コントロール部12は、撮像部11から画像を読み出し、DSP14は、読み出された画像から人の検出を行う。そして、コントロール部12は、DSP14によって人が検出されると、イネーブル信号をLOWに設定し、撮像部11からの画像を読み出して出力する処理のみを実行する。このようにすることで、不審者などが検出されるまでは、画像読み出し処理とDSP14による人検出を行い、不審者が検出されると、ニューラルネットワーク計算モデルに基づく演算処理を省略して、画像読み出し処理のみを優先させることができる。したがって、アプリケーションプロセッサ20は、不審者の早期検出を実現するとともに、検出後の不審者の動きを把握することができ、不審者の監視を実現することができる。なお、人が検出されなくなると、第1の処理モードに戻る。

0040

また、上記図2Aおよび図2Bで説明した処理モードの切替は、各種スポーツ競技者を撮影するカメラなどに適用することができる。具体的には、イネーブル信号がHIGHに設定され、図2Aに示す第1の処理モードが選択されている間、コントロール部12は、撮像部11からテニス選手の画像を読み出し、DSP14は、読み出された画像からテニス選手がラケット構えた状態の検出を行う。そして、コントロール部12は、DSP14によって当該状態が検出されると、イネーブル信号をLOWに設定し、撮像部11からの画像を読み出して出力する処理のみを実行する。このようにすることで、テニス選手がボールをラケットで打つまでは、画像読み出し処理とDSP14による人検出を行い、ボールを打つタイミングが検出されると、画像読み出し処理のみを優先させることができる。したがって、アプリケーションプロセッサ20は、ボールを打つ動きの開始から終了までを早期に特定し、ユーザ等に出力することができる。なお、ラケットを振り終わった状態が終了すると、第1の処理モードに戻る。

0041

上述したように、第2の処理モードでは、第1の処理モードにおいてDSP14のDSP処理により人物などの特定の検出対象が検出された場合に、DSP14によるDSP処理を実行せずに、第1の処理モード時の第1のフレームレートより大きい第2のフレームレートで、コントロール部12による画像データの読み出し処理を実行するので、第1の処理モードにおけるDSP処理の完了を待つ待機時間が不要である。したがって、第2の処理モードは、第1の処理モードの第1のフレームレートに比べて、高いフレームレート(例えば、2倍)の第2のフレームレートで画像読み出し処理を実行することができる。

0042

[1−4.第1の実施形態に係る処理の流れ]
図3は、第1の実施形態に係る処理モード選択処理の流れを示すフローチャートである。図3に示すように、コントロール部12は、ディスプレイ等により処理モードの選択画面を表示して、処理モードの選択を受け付ける(S101)。

0043

そして、コントロール部12は、第1の処理モードが選択された場合(S102:Yes)、フレームレートを第1のフレームレートに設定する(S103)。その後、第1の処理モードによる画像読み出し処理が実行される(S104)。

0044

一方、コントロール部12は、第2の処理モードが選択された場合(S102:No)、フレームレートを第1のフレームレートよりも高い第2のフレームレートに設定する(S105)。その後、第2の処理モードによる画像読み出し処理が実行される(S106)。

0045

そして、撮像処理終了操作電源オフなどにより、処理が終了すると(S107:Yes)、設定のリセットなどが実行される。一方、処理が継続する場合(S107:No)、S101以降が繰り返される。すなわち、ユーザにより処理モードが変更されるまでは、前回の処理モードを維持され、処理モードが変更されると、図3にしたがってフレームレートが変更される。

0046

図4は、第1の実施形態に係る第1の処理モードの流れを示すフローチャートである。なお、図4の処理は、図2のS104で実行される。

0047

図4に示すように、コントロール部12は、第1の処理モードで撮像が開始されると、撮像部11から画像データを読み出す画像読み出し処理を開始する(S201)。そして、コントロール部12は、撮像部11からの画像読み出し処理が完了すると(S202:Yes)、イネーブル信号をアクティブ(オン)に変更する(S203)。

0048

その後、DSP14は、DSP処理を実行する(S204)。そして、DSP処理が完了すると(S205:Yes)、コントロール部12は、イネーブル信号をインアクティブ(オフ)に変更する(S206)。その後、撮像を継続する場合(S207:No)、S201へリターンする一方、撮像を終了する操作などが受け付けられた場合(S207:Yes)、処理を終了する。なお、図4の処理中であっても、処理モードの変更操作が発生した場合には、図3の処理が実行される。

0049

[1−5.作用・効果]
上述したように、イメージセンサ10は、チップ内でDSP14によるDNNを実行することで、DSP14をソフトウェア的に動作させることができ、DNNを用いたDSP処理によって複雑な処理を、1チップ内で実行することができる。また、イメージセンサ10は、処理モードに応じたDSP処理の実行有無によってフレームレートを動的に変更することができ、処理の高速化を実現し、ユーザの利便性を向上させることもできる。また、イメージセンサ10は、イネーブル信号によってDSP処理の開始を制御できるので、撮像部11に対する画像の読み出し処理とDSP処理とを並列に実行するか否かを抑制でき、それにより、ノイズの発生を抑制し、イメージセンサの画質劣化を抑制することができる。

0050

(2.第1の実施形態の変形例(1))
上記第1の実施形態では、イネーブル信号によってDSP14によるDSP処理の実行期間を制御することで、ノイズの発生抑制やノイズの低減を実行する例を説明したが、これに限定されるものではない。例えば、明るい場所での撮像など、ある程度のノイズを許容できる場合、画像読み出し処理とDSP処理とを並列に実行することもできる。そこで、ここでは、画像読み出し処理とDSP処理とを並列に実行する例を説明する。

0051

図5は、第1の実施形態の変形例を説明する図である。図5に示すように、画像読み出し処理とDSP処理とを実行する第1の処理モードが選択されている状態で、ある程度のノイズを許容できる場合には、画像読み出し処理とDSP処理とを並列に実行することができる。

0052

例えば、コントロール部12は、所定の条件が満たされている場合、イネーブル信号をアクティブにする期間を変更する。具体的には、コントロール部12は、図5に示すように、画像読み出し処理が開始された後、画像読み出し処理が実行中に、イネーブル信号をアクティブに変更して、画像読み出し処理とDSP処理とを並列に実行させる。なお、所定の条件が満たされている場合とは、例えば、予め設定しておいた閾値以上の光量を得られる場合など、ある程度のノイズを許容できる場合であってよい。

0053

図5に示した第2の処理モードは、コントロール部12による画像データの読み出し処理と、画像データに基づくデータに対するDSP14のDSP処理とを時間的に重複させることができるので、例えば、乳幼児高齢者などを見守る見守りカメラなどに適用することができる。具体的には、図2Aに示す第1の処理モードが選択されている間、コントロール部12は、撮像部11から画像を読み出し、DSP14は、読み出された画像からに人の検出を行う。そして、コントロール部12は、DSP14によって人が検出されると、イネーブル信号のアクティブ期間を設定して、第1の処理モードよりもフレームレートを上げる。この結果、コントロール部12による画像の読み出しと並行して、DSP14は、画像から、画像に写っている人の体勢検出を行うことができる。つまり、処理負荷が小さい画像読み出し処理と、処理負荷が大きい体勢検出とを並行して実行する。このようにすることで、監視対象者が検出されるまでは、画像読み出し処理とDSP14による人検出を行い、監視対象者が検出されると、より高度な監視対象者の体勢検出を行うことができる。したがって、アプリケーションプロセッサ20は、監視対象者の早期検出と、検出後の監視対象者の動き検出とを両立することができる。なお、人が検出されなくなると、第1の処理モードに戻る。

0054

このように、図5に示した第2の処理モードは、第1の処理モードにおいてDSP14のDSP処理により特定の検出対象が検出された場合に、DSP14のDSP処理を第1の処理モード時の第1のフレームレートと同じフレームレートである第2のフレームレートで実行することができる。したがって、ある程度のノイズを許容できる場合には、画像読み出し処理の完了を待たずにDSP処理を開始することが可能となるため、DSP処理の計算量が多く長い処理時間を要する場合でも、フレームレートの低下を回避することができるか、フレームレートを下げる場合でもその低下量を低減することが可能となる。

0055

(3.第1の実施形態の変形例(2))
上記実施形態では、第1の処理モードにおいて、画像読み出し処理とDSP処理とが別々のタイムスロットで実行される場合を例示したが、これに限定されるものではない。例えば、DSP処理が軽く処理時間が短い場合には、第1の処理モードは、第1のフレームレートの通常モード(図2A)と、第1のフレームレートよりもフレームレートが高い速度優先モードとを含むこともできる。

0056

図6は、第1の実施形態の変形例を説明する図である。図6に示すように、速度優先モードの場合は、画像読み出し処理とDSP処理とを並列に実行し、DSP処理が完了すると、次の画像読み出しを遅滞なく実行する。すなわち、図6に示す第2の処理モードは、第1の処理モードにおいてDSP処理により特定の検出対象が検出された場合に、DSP処理を第1の処理モード時の第1のフレームレートよりも高い第2のフレームレートで実行する。

0057

例えば、コントロール部12は、速度優先モードがユーザ等により予め設定されている場合、画像読み出し処理が実行中にイネーブル信号をアクティブしてDSP処理を並列に実行させる。その後、コントロール部12は、DSP処理が完了すると、すぐにイネーブル信号をインアクティブにして、次の画像読み出し処理を実行させる。

0058

図6に示した処理モードは、家庭用ゲームやインターネットゲームなどの画像処理に適用することができる。具体的には、図2Aに示す第1の処理モードが選択されている間、コントロール部12は、ユーザの操作を反映させたゲーム画像を撮像部11から読み出し、DSP14は、読み出されたゲーム画像に特定にポーズの検出を行う。そして、コントロール部12は、DSP14によって特定のポーズが検出されると、図6に示す速度優先モードを設定して、フレームレートを上げる。この結果、コントロール部12によるゲーム画像の読み出しと、DSP14によるポーズ検出とを同時に実行することができる。したがって、アプリケーションプロセッサ20は、ゲーム内ジェスチャーを使った必殺技を出すときに、ポーズ検出を高速に行い、必殺技に必要なモーションを高速で判断することができる。なお、特定のモーションが検出されなくなると、第1の処理モードに戻る。

0059

このようにすることで、第1の処理モード(図2A)と同様にDSP処理を実行する場合でも、第2の処理モード(図2B)と同様のフレームレートで処理することができるので、処理の高速化を実現することができる。

0060

(4.イメージセンサのチップ構成)
次に、図1に示すイメージセンサ10のチップ構成の例について、以下に図面を参照して詳細に説明する。

0061

図7は、本実施形態に係るイメージセンサのチップ構成例を示す模式図である。図7に示すように、イメージセンサ10は、四角形平板状の第1基板(ダイ)100と、同じく四角形の平板状の第2基板(ダイ)120とが貼り合わされた積層構造を有している。

0062

第1基板100と第2基板とのサイズは、例えば、同じであってよい。また、第1基板100と第2基板120とは、それぞれシリコン基板などの半導体基板であってよい。

0063

第1基板100には、図1に示すイメージセンサ10の構成において、撮像部11の画素アレイ部101が配置される。また、第1基板100には、光学系104の一部又は全部がオンチップで設けられていてもよい。

0064

第2基板120には、図1に示すイメージセンサ10の構成において、ADC17と、コントロール部12と、信号処理部13と、DSP14と、メモリ15と、セレクタ16とが配置されている。なお、第2基板120には、不図示のインタフェース回路ドライバ回路などが配置されていてもよい。

0065

第1基板100と第2基板120との貼り合わせは、第1基板100及び第2基板120をそれぞれチップに個片化した後、これら個片化された第1基板100及び第2基板120を貼り合わせる、いわゆるCoC(Chip on Chip)方式であってもよいし、第1基板100と第2基板120とのうち一方(例えば、第1基板100)をチップに個片化した後、この個片化された第1基板100を個片化前(すなわち、ウエハ状態)の第2基板120に貼り合わせる、いわゆるCoW(Chip on Wafer)方式であってもよいし、第1基板100と第2基板120とを共にウエハの状態で貼り合わせる、いわゆるWoW(Wafer on Wafer)方式であってもよい。

0066

第1基板100と第2基板120との接合方法には、例えば、プラズマ接合等を使用することができる。ただし、これに限定されず、種々の接合方法が用いられてよい。

0067

(5.レイアウト例)
図8及び図9は、本実施形態に係るレイアウト例を説明するための図である。なお、図8は、第1基板100のレイアウト例を示し、図9は、第2基板120のレイアウト例を示す。

0068

[5−1.第1基板のレイアウト例]
図8に示すように、第1基板100には、図1に示すイメージセンサ10の構成において、撮像部11の画素アレイ部101が配置されている。なお、第1基板100に光学系104の一部又は全部を搭載する場合には、画素アレイ部101と対応する位置に設けられる。

0069

画素アレイ部101は、第1基板100の4つの辺L101〜L104のうち、1つの辺L101側に片寄って配置される。言い換えれば、画素アレイ部101は、その中心部O101が第1基板100の中心部O100よりも辺L101に近接するように、配置されている。なお、第1基板100における画素アレイ部101が設けられた面が長方形である場合、辺L101は、例えば、短い方の辺であってもよい。ただし、これに限定されず、長い方の辺に、画素アレイ部101が片寄って配置されてもよい。

0070

画素アレイ部101の4つの辺のうちの辺L101に近接する領域、言い換えれば、辺L101と画素アレイ部101との間の領域には、画素アレイ部101中の各単位画素101aを第2基板120に配置されたADC17に電気的に接続させるための配線として、第1基板100を貫通する複数の貫通配線(Through Silicon Via:以下、TSVという)が配列するTSVアレイ102が設けられている。このように、TSVアレイ102を画素アレイ部101が近接する辺L101に近接させることで、第2基板120において、ADC17等の各部を配置スペースを確保し易くすることができる。

0071

なお、TSVアレイ102は、辺L101と交わる2つの辺L103及びL104のうち一方の辺L104(ただし、辺L103であってもい)に近接する領域、言い換えれば、辺L104(又は、辺L103)と画素アレイ部101との間の領域にも設けられていてよい。

0072

第1基板100の4つの辺L101〜L104のうち、画素アレイ部101が片寄って配置されていない辺L102〜L103それぞれには、直線状に配列された複数のパッドよりなるパッドアレイ103が設けられている。パッドアレイ103に含まれるパッドには、例えば、画素アレイ部101やADC17などのアナログ回路用の電源電圧が印加されるパッド(電源ピンともいう)や、信号処理部13やDSP14やメモリ15やセレクタ16やコントロール部12等のデジタル回路用の電源電圧が印加されるパッド(電源ピンともいう)や、MIPI(Mobile Industry Processor Interface)やSPI(Serial Peripheral Interface)などのインタフェース用のパッド(信号ピンともいう)や、クロックやデータの入出力のためのパッド(信号ピンともいう)などが含まれている。各パッドは、例えば、外部の電源回路やインタフェース回路とワイヤを介して電気的に接続される。各パッドアレイ103とTSVアレイ102とは、パッドアレイ103中の各パッドに接続されたワイヤからの信号の反射の影響を無視できる程度に十分に離れていることが好ましい。

0073

[5−2.第2基板のレイアウト例]
一方、図9に示すように、第2基板120には、図1に示すイメージセンサ10の構成において、ADC17と、コントロール部12と、信号処理部13と、DSP14と、メモリ15とが配置されている。なお、第1のレイアウト例では、メモリ15がメモリ15Aとメモリ15Bとの2つの領域に分かれている。同様に、ADC17がADC17AととDAC(Digital−to−Analog Converter)17Bとの2つの領域に分かれている。DAC17Bは、ADC17AへAD変換用の参照電圧を供給する構成であり、広い意味でADC17の一部に含まれる構成である。また、図8には図示されていないが、セレクタ16も第2基板120に配置されている。

0074

さらに、第2基板120には、第1基板100を貫通するTSVアレイ102中の各TSV(以下、単にTSVアレイ102とする)と接触することで電気的に接続された配線122と、第1基板100のパッドアレイ103における各パッドと電気的に接続される複数のパッドが直線状に配列されてなるパッドアレイ123とが設けられている。

0075

TSVアレイ102と配線122との接続には、例えば、第1基板100に設けられたTSVと第1基板100から第2基板120にかけて設けられたTSVとの2つのTSVをチップ外表で接続する、いわゆるツインTSV方式や、第1基板100から第2基板120にかけて設けられた共通のTSVで接続する、いわゆるシェアードTSV方式などを採用することができる。ただし、これらに限定されず、例えば、第1基板100の接合面と第2基板120の接合面とにそれぞれ露出させた銅(Cu)同士を接合する、いわゆるCu−Cuボンディング方式など、種々の接続形態を採用することが可能である。

0076

第1基板100のパッドアレイ103における各パッドと、第2基板120のパッドアレイ123における各パッドとの接続形態は、例えば、ワイヤボンディングである。ただし、これに限定されず、スルーホールキャスタレーション等の接続形態であってもよい。

0077

第2基板120のレイアウト例では、例えば、TSVアレイ102と接続される配線122の近傍を上流側とし、画素アレイ部101から読み出された信号の流れに沿って、上流から順に、ADC17Aと、信号処理部13と、DSP14とが配置されている。すなわち、画素アレイ部101から読み出された画素信号が最初に入力されるADC17Aが最も上流側である配線122の近傍に配置され、次いで、信号処理部13が配置され、配線122から最も遠い領域にDSP14が配置されている。このように、ADC17からDSP14までを信号の流れに沿って上流側から配置したレイアウトとすることで、各部を接続する配線を短縮することが可能となる。それにより、信号遅延の低減や信号の伝搬損失の低減やS/N比の向上や消費電力の低減が可能となる。

0078

また、コントロール部12は、例えば、上流側である配線122の近傍に配置される。図8では、ADC17Aと信号処理部13との間にコントロール部12が配置されている。このようなレイアウトとすることで、コントロール部12が画素アレイ部101を制御する際の信号遅延の低減や信号の伝搬損失の低減やS/N比の向上や消費電力の低減が可能となる。また、アナログ回路用の信号ピンや電源ピンをアナログ回路の近傍(例えば、図8中の下側)にまとめて配置し、残りのデジタル回路用の信号ピンや電源ピンをデジタル回路の近傍(例えば、図8中の上側)にまとめて配置したり、アナログ回路用の電源ピンとデジタル回路用の電源ピンとを十分に離して配置したりなどが可能となるというメリットも存在する。

0079

また、図8に示すレイアウトでは、DSP14が最も下流側であるADC17Aとは反対側に配置されている。このようなレイアウトとすることで、言い換えれば、第1基板100と第2基板120との積層方向(以下、単に上下方向という)において、画素アレイ部101と重畳しない領域に、DSP14を配置することが可能となる。

0080

このように、上下方向において画素アレイ部101とDSP14とが重畳しない構成とすることで、DSP14が信号処理を実行することで発生したノイズが画素アレイ部101に入り込むことを低減することが可能となる。その結果、DSP14を学習済みモデルに基づいた演算を実行する処理部として動作させた場合でも、画素アレイ部101へのDSP14の信号処理に起因したノイズの入り込みを低減することが可能となるため、品質の劣化が低減された画像を取得することが可能となる。

0081

なお、DSP14と信号処理部13とは、DSP14の一部又は信号線で構成された接続部14aによって接続される。また、セレクタ16は、例えば、DSP14の近傍に配置される。接続部14aをDSP14の一部とした場合、上下方向において一部のDSP14が画素アレイ部101と重なることとなるが、このような場合でも、全てのDSP14が上下方向において画素アレイ部101と重畳する場合と比較して、画素アレイ部101へのノイズの入り込みを低減することが可能である。

0082

メモリ15A及び15Bは、例えば、DSP14を3方向から囲むように配置される。このように、DSP14を囲むようにメモリ15A及び15Bを配置することで、メモリ15における各メモリ素子とDSP14との配線上の距離を平均化しつつ全体的に短くすることが可能となる。それにより、DSP14がメモリ15へアクセスする際の信号遅延や信号の伝搬損失や消費電力を低減することが可能となる。

0083

パッドアレイ123は、例えば、第1基板100のパッドアレイ103と上下方向において対応する第2基板120上の位置に配置される。ここで、パッドアレイ123に含まれるパッドのうち、ADC17Aの近傍に位置するパッドは、アナログ回路(主にADC17A)用の電源電圧やアナログ信号伝搬に使用される。一方、コントロール部12や信号処理部13やDSP14やメモリ15A及び15Bの近傍に位置するパッドは、デジタル回路(主に、コントロール部12、信号処理部13、DSP14、メモリ15A及び15B)用の電源電圧やデジタル信号の伝搬に使用される。このようなパッドレイアウトとすることで、各パッドと各部とを接続する配線上の距離を短くすることが可能となる。それにより、信号遅延の低減や信号や電源電圧の伝搬損失の低減やS/N比の向上や消費電力の低減が可能となる。

0084

(6.その他の実施形態)
上述した各実施形態に係る処理は、上記各実施形態以外にも種々の異なる形態にて実施されてよい。

0085

上記各実施形態で説明したフレームレートや所定時間などの数値は、あくまで一例であり、任意に変更することもできる。また、各実施形態で説明したDSP処理の内容等も例示であり、学習モデルを用いた様々な処理を採用することができる。また、イネーブル信号がインアクティブ(オフ)のときにDSP処理を実行し、イネーブル信号がアクティブ(オン)のときに画像読み出し処理を実行することもできる。

0086

上記実施形態では、DNNで学習した学習モデルを例示したが、DNN以外にも、RNN(Recurrent Neural Networks)やCNN(Convolutional Neural Network)など様々なニューラルネットワークを用いることができる。また、DNNなどを用いた学習モデルに限らず、決定木やサポートベクタマシンなどの他の様々な機械学習で学習した学習モデルを用いることもできる。

0087

記文書中や図面中で示した処理手順制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。また、実施例で説明した具体例、分布、数値などは、あくまで一例であり、任意に変更することができる。

0088

また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、図1に示したコントロール部12と信号処理部13は統合されてもよい。

0089

(7.移動体への応用例)
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車電気自動車ハイブリッド電気自動車自動二輪車自転車パーソナルモビリティ飛行機ドローン船舶ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。

0090

図10は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。

0091

車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図10に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(Interface)12053が図示されている。

0092

駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。

0093

ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステムスマートキーシステムパワーウィンドウ装置、あるいは、ヘッドランプバックランプブレーキランプウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。

0094

車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。

0095

撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。

0096

車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。

0097

マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和車間距離に基づく追従走行車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。

0098

また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。

0099

また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。

0100

音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置音声及び画像のうちの少なくとも一方の出力信号を送信する。図10の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。

0101

図11は、撮像部12031の設置位置の例を示す図である。

0102

図11では、撮像部12031として、撮像部12101、12102、12103、12104、12105を有する。

0103

撮像部12101、12102、12103、12104、12105は、例えば、車両12100のフロントノーズサイドミラーリアバンパバックドア及び車室内フロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102、12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部12105は、主として先行車両又は、歩行者、障害物、信号機交通標識又は車線等の検出に用いられる。

0104

なお、図11には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。

0105

撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。

0106

例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。

0107

例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバ視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速回避操舵を行うことで、衝突回避のための運転支援を行うことができる。

0108

撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。

0109

以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部12031等に適用され得る。撮像部12031等に本開示に係る技術を適用することにより、撮像部12031等を小型化することが可能となるため、車両12100のインテリアエクステリアの設計が容易となる。また、撮像部12031等に本開示に係る技術を適用することにより、ノイズの低減されたクリアな画像を取得することが可能となるため、より見やすい撮影画像をドライバに提供することができる。それにより、ドライバの疲労を軽減することが可能になる。

0110

(8.内視鏡手術システムへの応用例)
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。

0111

図12は、本開示に係る技術(本技術)が適用され得る内視鏡手術システムの概略的な構成の一例を示す図である。

0112

図12では、術者医師)11131が、内視鏡手術システム11000を用いて、患者ベッド11133上の患者11132に手術を行っている様子が図示されている。図示するように、内視鏡手術システム11000は、内視鏡11100と、気腹チューブ11111やエネルギー処置具11112等の、その他の術具11110と、内視鏡11100を支持する支持アーム装置11120と、内視鏡下手術のための各種の装置が搭載されたカート11200と、から構成される。

0113

内視鏡11100は、先端から所定の長さの領域が患者11132の体腔内に挿入される鏡筒11101と、鏡筒11101の基端に接続されるカメラヘッド11102と、から構成される。図示する例では、硬性の鏡筒11101を有するいわゆる硬性鏡として構成される内視鏡11100を図示しているが、内視鏡11100は、軟性の鏡筒を有するいわゆる軟性鏡として構成されてもよい。

0114

鏡筒11101の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡11100には光源装置11203が接続されており、当該光源装置11203によって生成された光が、鏡筒11101の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者11132の体腔内の観察対象に向かって照射される。なお、内視鏡11100は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。

0115

カメラヘッド11102の内部には光学系及び撮像素子が設けられており、観察対象からの反射光観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU: Camera Control Unit)11201に送信される。

0116

CCU11201は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡11100及び表示装置11202の動作を統括的に制御する。さらに、CCU11201は、カメラヘッド11102から画像信号を受け取り、その画像信号に対して、例えば現像処理デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。

0117

表示装置11202は、CCU11201からの制御により、当該CCU11201によって画像処理が施された画像信号に基づく画像を表示する。

0118

光源装置11203は、例えばLED(light emitting diode)等の光源から構成され、術部等を撮影する際の照射光を内視鏡11100に供給する。

0119

入力装置11204は、内視鏡手術システム11000に対する入力インタフェースである。ユーザは、入力装置11204を介して、内視鏡手術システム11000に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、内視鏡11100による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示等を入力する。

0120

処置具制御装置11205は、組織焼灼切開又は血管の封止等のためのエネルギー処置具11112の駆動を制御する。気腹装置11206は、内視鏡11100による視野の確保及び術者の作業空間の確保の目的で、患者11132の体腔を膨らめるために、気腹チューブ11111を介して当該体腔内にガス送り込むレコーダ11207は、手術に関する各種の情報を記録可能な装置である。プリンタ11208は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式印刷可能な装置である。

0121

なお、内視鏡11100に術部を撮影する際の照射光を供給する光源装置11203は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成することができる。RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置11203において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド11102の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。

0122

また、光源装置11203は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド11102の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。

0123

また、光源装置11203は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察すること(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得ること等を行うことができる。光源装置11203は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。

0124

図13は、図12に示すカメラヘッド11102及びCCU11201の機能構成の一例を示すブロック図である。

0125

カメラヘッド11102は、レンズユニット11401と、撮像部11402と、駆動部11403と、通信部11404と、カメラヘッド制御部11405と、を有する。CCU11201は、通信部11411と、画像処理部11412と、制御部11413と、を有する。カメラヘッド11102とCCU11201とは、伝送ケーブル11400によって互いに通信可能に接続されている。

0126

レンズユニット11401は、鏡筒11101との接続部に設けられる光学系である。鏡筒11101の先端から取り込まれた観察光は、カメラヘッド11102まで導光され、当該レンズユニット11401に入射する。レンズユニット11401は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。

0127

撮像部11402を構成する撮像素子は、1つ(いわゆる単板式)であってもよいし、複数(いわゆる多板式)であってもよい。撮像部11402が多板式で構成される場合には、例えば各撮像素子によってRGBそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、撮像部11402は、3D(dimensional)表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成されてもよい。3D表示が行われることにより、術者11131は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部11402が多板式で構成される場合には、各撮像素子に対応して、レンズユニット11401も複数系統設けられ得る。

0128

また、撮像部11402は、必ずしもカメラヘッド11102に設けられなくてもよい。例えば、撮像部11402は、鏡筒11101の内部に、対物レンズの直後に設けられてもよい。

0129

駆動部11403は、アクチュエータによって構成され、カメラヘッド制御部11405からの制御により、レンズユニット11401のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部11402による撮像画像の倍率及び焦点が適宜調整され得る。

0130

通信部11404は、CCU11201との間で各種の情報を送受信するための通信装置によって構成される。通信部11404は、撮像部11402から得た画像信号をRAWデータとして伝送ケーブル11400を介してCCU11201に送信する。

0131

また、通信部11404は、CCU11201から、カメラヘッド11102の駆動を制御するための制御信号を受信し、カメラヘッド制御部11405に供給する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。

0132

なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、ユーザによって適宜指定されてもよいし、取得された画像信号に基づいてCCU11201の制御部11413によって自動的に設定されてもよい。後者の場合には、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡11100に搭載されていることになる。

0133

カメラヘッド制御部11405は、通信部11404を介して受信したCCU11201からの制御信号に基づいて、カメラヘッド11102の駆動を制御する。

0134

通信部11411は、カメラヘッド11102との間で各種の情報を送受信するための通信装置によって構成される。通信部11411は、カメラヘッド11102から、伝送ケーブル11400を介して送信される画像信号を受信する。

0135

また、通信部11411は、カメラヘッド11102に対して、カメラヘッド11102の駆動を制御するための制御信号を送信する。画像信号や制御信号は、電気通信光通信等によって送信することができる。

0136

画像処理部11412は、カメラヘッド11102から送信されたRAWデータである画像信号に対して各種の画像処理を施す。

0137

制御部11413は、内視鏡11100による術部等の撮像、及び、術部等の撮像により得られる撮像画像の表示に関する各種の制御を行う。例えば、制御部11413は、カメラヘッド11102の駆動を制御するための制御信号を生成する。

0138

また、制御部11413は、画像処理部11412によって画像処理が施された画像信号に基づいて、術部等が映った撮像画像を表示装置11202に表示させる。この際、制御部11413は、各種の画像認識技術を用いて撮像画像内における各種の物体を認識してもよい。例えば、制御部11413は、撮像画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位出血、エネルギー処置具11112の使用時のミスト等を認識することができる。制御部11413は、表示装置11202に撮像画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させてもよい。手術支援情報が重畳表示され、術者11131に提示されることにより、術者11131の負担を軽減することや、術者11131が確実に手術を進めることが可能になる。

0139

カメラヘッド11102及びCCU11201を接続する伝送ケーブル11400は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。

0140

ここで、図示する例では、伝送ケーブル11400を用いて有線で通信が行われていたが、カメラヘッド11102とCCU11201との間の通信は無線で行われてもよい。

0141

以上、本開示に係る技術が適用され得る内視鏡手術システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、カメラヘッド11102の撮像部11402等に適用され得る。カメラヘッド11102に本開示に係る技術を適用することにより、カメラヘッド11102等を小型化することが可能となるため、内視鏡手術システム11000をコンパクト化が可能となる。また、カメラヘッド11102等に本開示に係る技術を適用することにより、ノイズの低減されたクリアな画像を取得することが可能となるため、より見やすい撮影画像を術者に提供することができる。それにより、術者の疲労を軽減することが可能になる。

0142

なお、ここでは、一例として内視鏡手術システムについて説明したが、本開示に係る技術は、その他、例えば、顕微鏡手術システム等に適用されてもよい。

0143

また、上述してきた各実施形態及び変形例は、処理内容矛盾させない範囲で適宜組み合わせることが可能である。

0144

また、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。

0145

なお、本技術は以下のような構成も取ることができる。
(1)
画像データを取得する撮像部と、
前記撮像部から取得される画像データに基づくデータに対してニューラルネットワーク計算モデルに基づく処理を実行する処理部と、
第1の処理を第1のフレームレートで実行する第1の処理モードと、前記第1の処理の結果に基づき、第2の処理を第2のフレームレートで実行する第2の処理モードとを切替える制御部と、
を有する固体撮像装置。
(2)
前記処理部は、前記画像データに基づくデータに対して、特定の検出対象を検出する演算処理を実行する、
前記(1)に記載の固体撮像装置。
(3)
前記演算処理は、学習済みの学習モデルを用いた処理である
前記(2)に記載の固体撮像装置。
(4)
前記第2の処理は、前記撮像部から取得される画像データに基づくデータに対してニューラルネットワーク計算モデルに基づく処理を実行しない処理である、
前記(1)から(3)に記載の固体撮像装置。
(5)
前記第2の処理は、前記第1の処理モードにおいて特定の検出対象が検出された場合に、前記撮像部から取得される画像データに基づくデータに対してニューラルネットワーク計算モデルに基づく処理を実行せずに、前記第1のフレームレートより大きい前記第2のフレームレートで前記画像データを読み出す処理である、
前記(4)に記載の固体撮像装置。
(6)
前記第2の処理は、前記撮像部から画像データを読み出す処理と、前記撮像部から取得される画像データに基づくデータに対してニューラルネットワーク計算モデルに基づく処理を実行する処理とが時間的に重複する処理である、
前記(1)から(3)のいずれかに記載の固体撮像装置。
(7)
前記第2の処理は、前記第1の処理モードにおいて特定の検出対象が検出された場合に、前記撮像部から取得される画像データに基づくデータに対してニューラルネットワーク計算モデルに基づく処理を前記第1のフレームレートと同じフレームレートである前記第2のフレームレートで実行する処理である、
前記(6)に記載の固体撮像装置。
(8)
前記第2の処理は、前記第1の処理モードにおいて特定の検出対象が検出された場合に、前記撮像部から取得される画像データに基づくデータに対してニューラルネットワーク計算モデルに基づく処理を前記第1のフレームレートよりも高い前記第2のフレームレートで実行する処理である、
前記(7)に記載の固体撮像装置。
(9)
前記制御部は、前記第1の処理モードが選択された状態で、前記撮像部からの前記画像データの読み出しが完了した後、前記演算処理による前記画像データに基づくデータに対して前記ニューラルネットワークに基づく処理を開始する
前記(2)から(8)のいずれかに記載の固体撮像装置。
(10)
前記制御部は、前記第1の処理モードが選択された状態で、前記演算処理が完了した後、前記撮像部からの前記画像データの読み出しを開始する
前記(2)から(9)のいずれかに記載の固体撮像装置。
(11)
画像データを取得する撮像部と、前記撮像部から取得される画像データに基づくデータに対してニューラルネットワーク計算モデルに基づく処理を実行する処理部と、第1の処理を第1のフレームレートで実行する第1の処理モードと、前記第1の処理の結果に基づき、第2の処理を第2のフレームレートで実行する第2の処理モードとを切替える制御部とを有する固体撮像装置と、
前記固体撮像装置から出力された前記画像データに対してアプリケーションによる処理を実行する制御装置と
を有する電子機器。

0146

1撮像装置
10イメージセンサ
11撮像部
12コントロール部
13信号処理部
14 DSP(処理部)
15メモリ
16セレクタ
20アプリケーションプロセッサ
30 クラウドサーバ

ページトップへ

この技術を出願した法人

この技術を発明した人物

ページトップへ

関連する挑戦したい社会課題

関連する公募課題

ページトップへ

おススメ サービス

おススメ astavisionコンテンツ

新着 最近 公開された関連が強い技術

この 技術と関連性が強い技術

関連性が強い 技術一覧

この 技術と関連性が強い人物

関連性が強い人物一覧

この 技術と関連する社会課題

関連する挑戦したい社会課題一覧

この 技術と関連する公募課題

関連する公募課題一覧

astavision 新着記事

サイト情報について

本サービスは、国が公開している情報(公開特許公報、特許整理標準化データ等)を元に構成されています。出典元のデータには一部間違いやノイズがあり、情報の正確さについては保証致しかねます。また一時的に、各データの収録範囲や更新周期によって、一部の情報が正しく表示されないことがございます。当サイトの情報を元にした諸問題、不利益等について当方は何ら責任を負いかねることを予めご承知おきのほど宜しくお願い申し上げます。

主たる情報の出典

特許情報…特許整理標準化データ(XML編)、公開特許公報、特許公報、審決公報、Patent Map Guidance System データ