図面 (/)

技術 画像処理装置、移動体機器制御システム及び画像処理用プログラム

出願人 株式会社リコー
発明者 笠原亮介
出願日 2015年1月13日 (5年11ヶ月経過) 出願番号 2015-004282
公開日 2015年10月29日 (5年2ヶ月経過) 公開番号 2015-187832
状態 特許登録済
技術分野 光学的手段による材料の調査、分析 イメージ分析
主要キーワード 回転連結機構 外乱変動 後段フィルタ 合計輝度値 固有値方程式 右テール 乾湿状態 同車載機
関連する未来課題
重要な関連分野

この項目の情報は公開日時点(2015年10月29日)のものです。
また、この項目は機械的に抽出しているため、正しく解析できていない場合があります

図面 (20)

課題

温度等の外乱要因の変動に起因した検出対象物の誤検出を抑制することを課題とする。

解決手段

照明手段202によって照明される照明範囲撮像手段206により撮像して得られる撮像画像に基づいて該照明範囲内に存在する雨滴等の検出対象物を検出するための画像処理を実行する画像処理装置において、前記撮像画像を区分けして得られる複数の区分xごとの画素値情報y(x,t)と温度等の所定の外乱要因の大きさを示す外乱要因値との相関値情報z(x)を記憶する記憶手段と、前記複数の区分ごとの画素値情報と相関値情報とから外乱要因値Sを演算し、該外乱要因値に基づいて所定の外乱変動成分S×z(x)を除外した後の画素値情報y’(x,t)を用いて前記画像処理を実行する処理実行手段とを有する。

概要

背景

車両、船舶航空機等の移動体に用いられるガラス或いは一般建造物窓ガラス等の光透過性部材上の付着物検出対象物)を検出する付着物検出装置が知られている。例えば、特許文献1には、車両のフロントガラスに付着した異物(付着物)を検出する異物検出装置(付着物検出装置)が開示されている。この異物検出装置は、フロントガラスの内壁面側に配置される発光部(照明手段)からの照明光によって映し出されるフロントガラス外壁面上の雨滴等の異物(付着物)をカメラによって撮影する。発光部からの照明光は、雨滴が付着していない箇所では、フロントガラス外壁面で正反射した正反射光がカメラに受光される一方、雨滴が付着している箇所ではフロントガラス外壁面を透過してカメラに受光されない。これにより、撮像画像輝度が低い箇所には雨滴が付着していると判別できる。

概要

温度等の外乱要因の変動に起因した検出対象物の誤検出を抑制することを課題とする。照明手段202によって照明される照明範囲撮像手段206により撮像して得られる撮像画像に基づいて該照明範囲内に存在する雨滴等の検出対象物を検出するための画像処理を実行する画像処理装置において、前記撮像画像を区分けして得られる複数の区分xごとの画素値情報y(x,t)と温度等の所定の外乱要因の大きさを示す外乱要因値との相関値情報z(x)を記憶する記憶手段と、前記複数の区分ごとの画素値情報と相関値情報とから外乱要因値Sを演算し、該外乱要因値に基づいて所定の外乱変動成分S×z(x)を除外した後の画素値情報y’(x,t)を用いて前記画像処理を実行する処理実行手段とを有する。

目的

本発明は、以上の背景に鑑みなされたものであり、その目的とするところは、外乱要因の変動に起因した検出対象物の誤検出を抑制できる画像処理装置、移動体機器制御システム及び画像処理用プログラムを提供する

効果

実績

技術文献被引用数
0件
牽制数
0件

この技術が所属する分野

(分野番号表示ON)※整理標準化データをもとに当社作成

ライセンス契約や譲渡などの可能性がある特許掲載中! 開放特許随時追加・更新中 詳しくはこちら

請求項1

照明手段によって照明される照明範囲撮像手段により撮像して得られる撮像画像に基づいて該照明範囲内に存在する検出対象物を検出するための画像処理を実行する画像処理装置において、前記撮像画像を区分けして得られる複数の区分ごとの画素値情報と所定の外乱要因の大きさを示す外乱要因値との相関値情報を記憶する記憶手段と、前記複数の区分ごとの画素値情報と前記相値情報とから外乱要因値を演算し、該外乱要因値に基づいて所定の外乱変動成分を除外した後の画素値情報を用いて、前記画像処理を実行する処理実行手段とを有することを特徴とする画像処理装置。

請求項2

請求項1の画像処理装置において、前記処理実行手段が前記画像処理に用いる画素値情報は、前記複数の区分ごとの画素値情報と前記相関値情報とから演算した外乱要因値と該相関値情報とを用いて該複数の区分ごとの画素値情報に含まれる外乱変動成分を算出し、該複数の区分ごとの画素値情報から該外乱変動成分を除外した後の画素値情報であることを特徴とする画像処理装置。

請求項3

請求項1又は2の画像処理装置において、前記相関値情報は、前記外乱要因値が規定変動幅以上に変動する状況下で前記複数の区分ごとに取得した規定量以上の画素値情報を主成分分析して得られる主成分負荷量であることを特徴とする画像処理装置。

請求項4

請求項3の画像処理装置において、前記相関値情報は、前記主成分分析して得られる第1主成分負荷量を含むことを特徴とする画像処理装置。

請求項5

請求項1乃至4のいずれか1項に記載の画像処理装置において、前記所定の外乱要因は温度であることを特徴とする画像処理装置。

請求項6

請求項1乃至5のいずれか1項に記載の画像処理装置において、前記画素値情報は、前記複数の区分ごとの画素値の総和又は平均値を示す情報である画像処理装置。

請求項7

請求項1乃至6のいずれか1項に記載の画像処理装置において、前記記憶手段は前記撮像手段に設けられていることを特徴とする画像処理装置。

請求項8

請求項1乃至7のいずれか1項に記載の画像処理装置において、前記照明範囲全域にわたって前記照明手段からの照明光が前記光透過性部材を経由して前記画像センサ受光される状況下、かつ、前記外乱要因値が規定変動幅以上に変動する状況下で前記複数の区分ごとに取得した規定量以上の画素値情報に基づいて、前記相関値情報を生成して前記記憶手段に記憶させる相関値情報生成記憶処理手段を有することを特徴とする画像処理装置。

請求項9

請求項8の画像処理装置において、前記外乱要因値が規定変動幅以上に変動することを検知する検知手段を有することを特徴とする画像処理装置。

請求項10

照明手段によって照明される照明範囲を撮像手段により撮像して得られる撮像画像に基づいて該照明範囲内に存在する検出対象物を検出するための画像処理を実行する画像処理手段と、前記画像処理手段による前記検出対象物の検出結果に基づいて、移動体に搭載された所定の機器を制御する移動体機器制御手段とを備えた移動体機器制御システムにおいて、前記画像処理手段として、請求項1乃至9のいずれか1項に記載の画像処理装置を用いたことを特徴とする移動体機器制御システム。

請求項11

照明手段によって照明される照明範囲を撮像手段により撮像して得られる撮像画像に基づいて該照明範囲内に存在する検出対象物を検出するための画像処理を実行し、前記撮像画像を区分けして得られる複数の区分ごとの画素値情報と所定の外乱要因の大きさを示す外乱要因値との相関値情報を記憶する記憶手段を備えた画像処理装置のコンピュータに実行させるための画像処理用プログラムであって、前記複数の区分ごとの画素値情報と前記相関値情報とから外乱要因値を演算し、該外乱要因値に基づいて所定の外乱変動成分を除外した後の画素値情報を用いて前記画像処理を実行する処理実行手段として、前記コンピュータを機能させることを特徴とする画像処理用プログラム。

技術分野

0001

本発明は、1又は2以上の撮像手段によって撮像した撮像画像に基づいて撮像領域内に存在する検出対象物を検出するための画像処理を実行する画像処理装置移動体機器制御システム及び画像処理用プログラムに関する。

背景技術

0002

車両、船舶航空機等の移動体に用いられるガラス或いは一般建造物窓ガラス等の光透過性部材上の付着物(検出対象物)を検出する付着物検出装置が知られている。例えば、特許文献1には、車両のフロントガラスに付着した異物(付着物)を検出する異物検出装置(付着物検出装置)が開示されている。この異物検出装置は、フロントガラスの内壁面側に配置される発光部(照明手段)からの照明光によって映し出されるフロントガラス外壁面上の雨滴等の異物(付着物)をカメラによって撮影する。発光部からの照明光は、雨滴が付着していない箇所では、フロントガラス外壁面で正反射した正反射光がカメラに受光される一方、雨滴が付着している箇所ではフロントガラス外壁面を透過してカメラに受光されない。これにより、撮像画像の輝度が低い箇所には雨滴が付着していると判別できる。

発明が解決しようとする課題

0003

前記特許文献1に記載の付着物検出装置においては、発光部としてLED(Light Emitting Diode)を用いている。一般に、LEDは、温度変化によってその発光出力が変化するものであり、温度が上昇すると発光部の発光出力が低下する。また、LEDは経年劣化によっても発光量が低下していく。このように発光部の発光量が変化すると、例えば、実際には雨滴が付着していないのに雨滴が付着していると認識されてしまったり、逆に実際には雨滴が付着しているのに雨滴が付着していないと認識されてしまったりする誤検出の問題が生じる。この問題は、照明手段がLEDで構成されている場合に限らず、射出される光量が温度に依存して変化する照明手段であれば、同様に生じ得る問題である。

0004

また、発光部から射出された光がカメラの画像センサに受光されるまでの光路上には、種々の光学部材が存在する。これらの光学部材は温度変化によって形状変化性質変化が生じ、その光学特性を変化させる。そのため、温度変化が生じると、光学部材の光学特性に変化が生じて、画像センサに受光される受光量に変動が生じ、雨滴の誤検出という問題を引き起こす。

0005

温度変化によって生じる雨滴誤検出の問題は、温度センサの検知結果をフィードバックして補正するという一般的なフィードバック制御では解決することが困難である。温度変化の影響を受ける照明手段や光学部材等の設置場所の違いによってそれぞれの温度環境が異なり、また、照明手段や光学部材等の個々の温度をそれぞれ精度良く検知することが困難だからである。また、温度変化の影響を受ける照明手段や光学部材等に個体差があるため、温度変化によって生じる雨滴誤検出の程度が付着物検出装置ごとにバラバラであることも、一般的なフィードバック制御での対処が困難な理由である。更には、雨滴誤検出を引き起こす要因は、温度変化以外の外乱要因未知な要因を含む。)も合わせて複合的に影響していることから、個々の要因をそれぞれ突き止めて要因ごと誤差をそれぞれ補正するというような処理はきわめて困難である。

0006

以上の説明は、雨滴検出処理を例に挙げているが、照明手段によって照明される照明範囲を撮像し、その撮像画像に基づいて当該照明範囲内に存在する検出対象物を検出するための画像処理を実行する画像処理装置であれば、検出対象物の誤検出という同様の問題が生じる。
また、以上の説明は、温度という外乱要因の変動によって雨滴誤検出が生じる例であるが、例えば湿度等の他の外乱要因の変動によって雨滴誤検出が生じる場合にも、同様の問題が発生する。

0007

本発明は、以上の背景に鑑みなされたものであり、その目的とするところは、外乱要因の変動に起因した検出対象物の誤検出を抑制できる画像処理装置、移動体機器制御システム及び画像処理用プログラムを提供することである。

課題を解決するための手段

0008

前記目的を達成するために、本発明は、照明手段によって照明される照明範囲を撮像手段により撮像して得られる撮像画像に基づいて該照明範囲内に存在する検出対象物を検出するための画像処理を実行する画像処理装置において、前記撮像画像を区分けして得られる複数の区分ごとの画素値情報と所定の外乱要因の大きさを示す外乱要因値との相関値情報を記憶する記憶手段と、前記複数の区分ごとの画素値情報と前記相値情報とから外乱要因値を演算し、該外乱要因値に基づいて所定の外乱変動成分を除外した後の画素値情報を用いて、前記画像処理を実行する処理実行手段とを有することを特徴とする。

発明の効果

0009

本発明によれば、外乱要因の変動に起因した検出対象物の誤検出を抑制できるという優れた効果が奏される。

図面の簡単な説明

0010

実施形態における車載機器制御システム概略構成を示す模式図である。
同車載機器制御システムにおける撮像ユニットを備えた付着物検出装置の概略構成を示す模式図である。
同撮像ユニットの光学系を説明するための説明図である。
同撮像ユニットの概略構成を模式的に示した斜視図である。
(a)は、水平面に対するフロントガラスの傾斜角度が22°である車両に取り付けた状態の撮像ユニットを示す側面図である。(b)は、同図(a)の状態において雨滴が付着していない場合の撮像ユニットの光学系を示す説明図である。(c)は、同図(a)の状態において雨滴が付着している場合の撮像ユニットの光学系を示す説明図である。
同撮像ユニットの反射偏向プリズムを示す斜視図である。
雨滴検出用撮像画像データに適用可能なカットフィルタフィルタ特性を示すグラフである。
雨滴検出用の撮像画像データに適用可能なバンドパスフィルタのフィルタ特性を示すグラフである。
同撮像部の光学フィルタに設けられる前段フィルタの正面図である。
同撮像部の撮像画像データの画像例を示す説明図である。
同撮像部の光学フィルタと画像センサとを光透過方向に対して直交する方向から見たときの模式拡大図である。
同光学フィルタの偏光フィルタ層分光フィルタ層領域分割パターンを示す説明図である。
実施形態における光学フィルタの層構成を模式的に示す断面図である。
同光学フィルタの車両検出フィルタ部を透過して画像センサ上の各フォトダイオードで受光される受光量に対応した情報(各撮像画素の情報)の内容を示す説明図である。
(a)は、図14に示す符号A−Aで切断した光学フィルタの車両検出用フィルタ部及び画像センサを模式的に表した断面図である。(b)は、図14に示す符号B−Bで切断した光学フィルタの車両検出用フィルタ部及び画像センサを模式的に表した断面図である。
同光学フィルタの雨滴検出用フィルタ部を透過して画像センサ上の各フォトダイオードで受光される受光量に対応した情報(各撮像画素の情報)の内容を示す説明図である。
(a)は、図16に示す符号A−Aで切断した光学フィルタの雨滴検出用フィルタ部及び画像センサを模式的に表した断面図である。(b)は、図16に示す符号B−Bで切断した光学フィルタの雨滴検出用フィルタ部及び画像センサを模式的に表した断面図である。
同撮像部を用いて、雨の日にヘッドランプからの直接光とヘッドランプの雨路面で反射光照り返し光)とを撮像し、それぞれの差分偏光度を算出したときのヒストグラムである。
雨路面上を自車両が走行しているときにその進行方向前方のほぼ同一距離に先行車両対向車両の両方が存在する状況を同撮像部で撮像した場合の一例を示す模式図である。
実施形態における車両検出処理の流れを示すフローチャートである。
(a)は、雨天時において白線を含む撮像領域を撮像したモノクロ輝度画像(非分光・非偏光)と非分光の差分偏光度画像とを示す画像例である。(b)は、雨天時において同じ撮像領域を撮像した非分光の差分偏光度画像を示す画像例である。
実施形態における雨滴検出処理の説明図である。
撮像動作例1における撮像部の撮像動作を簡易的に示したタイミングチャートである。
撮像動作例2における撮像部の撮像動作を簡易的に示したタイミングチャートである。
実施形態における雨滴量検出処理モデル化した検出モデルである。
実施形態における温度変化に起因した雨滴量検出誤差補正処理の流れを示すフローチャートである。
一定の照明光で照明した撮像環境下において0℃〜60℃まで温度を上昇させたときの雨滴検出用画像領域の各区分の合計輝度値を検出した実験結果を示すグラフである。
変形例における雨滴検出に関わる各種光線についての説明図である。

実施例

0011

以下、本発明に係る画像処理装置を、移動体である自動車等の車両に搭載される対象機器を制御する移動体機器制御システムとしての車載機器制御システムに用いる一実施形態について説明する。
本発明に係る画像処理装置は、車載機器制御システムに限らず、例えば、照明手段によって照明される照明範囲内の検出対象物を検出する物体検出装置を利用するその他のシステムにも適用できる。

0012

図1は、本実施形態における車載機器制御システムの概略構成を示す模式図である。
本車載機器制御システムは、移動体である自動車などの自車両100に搭載された撮像部により、自車両周囲(特に進行方向前方領域)を撮像領域として撮像した撮像画像データを利用して、ヘッドランプの配光制御ワイパー駆動制御、その他の車載機器の制御を行うものである。

0013

本実施形態の車載機器制御システムに設けられる撮像部は、撮像ユニット101に設けられており、走行する自車両100の進行方向前方領域を撮像領域として撮像するものであり、例えば、自車両100のフロントガラス105のルームミラー(図示せず)付近に設置される。撮像ユニット101の撮像部で撮像された撮像画像データは、画像解析ユニット102に入力される。画像解析ユニット102は、処理実行手段としてのCPUやRAM等により構成され、撮像部から送信されてくる撮像画像データを解析し、撮像画像データに自車両100の前方に存在する他車両の位置(方角や距離)を算出したり、フロントガラス105に付着する雨滴や異物などの付着物を検出したり、撮像領域内に存在する路面上の白線(区画線)等の検出対象物を検出したりする。他車両の検出では、他車両のテールランプ識別することで自車両100と同じ進行方向へ進行する先行車両を検出し、他車両のヘッドランプを識別することで自車両100とは反対方向へ進行する対向車両を検出する。

0014

画像解析ユニット102の算出結果は、ヘッドランプ制御ユニット103に送られる。ヘッドランプ制御ユニット103は、例えば、画像解析ユニット102が算出した他車両の位置データから、自車両100の車載機器であるヘッドランプ104を制御する制御信号を生成する。具体的には、例えば、先行車両や対向車両の運転者の目に自車両100のヘッドランプの強い光が入射するのを避けて他車両の運転者の幻惑防止を行いつつ、自車両100の運転者の視界確保を実現できるように、ヘッドランプ104のハイビームおよびロービーム切り替えを制御したり、ヘッドランプ104の部分的な遮光制御を行ったりする。

0015

画像解析ユニット102の算出結果は、ワイパー制御ユニット106にも送られる。ワイパー制御ユニット106は、ワイパー107を制御して、自車両100のフロントガラス105に付着した雨滴や異物などの付着物を除去する。ワイパー制御ユニット106は、画像解析ユニット102が検出した付着物検出結果を受けて、ワイパー107を制御する制御信号を生成する。ワイパー制御ユニット106により生成された制御信号がワイパー107に送られると、自車両100の運転者の視界を確保するべく、ワイパー107を稼動させる。

0016

また、画像解析ユニット102の算出結果は、車両走行制御ユニット108にも送られる。車両走行制御ユニット108は、画像解析ユニット102が検出した白線検出結果に基づいて、白線によって区画されている車線領域から自車両100が外れている場合等に、自車両100の運転者へ警告を報知したり、自車両のハンドルブレーキを制御するなどの走行支援制御を行ったりする。また、車両走行制御ユニット108は、画像解析ユニット102が検出した他車両の位置データに基づいて、先行車両との距離が近接した場合等に、自車両100の運転者へ警告を報知したり、自車両のハンドルやブレーキを制御するなどの走行支援制御を行ったりする。

0017

図2は、撮像ユニット101に設けられる撮像部200を含む付着物検出装置の概略構成を示す説明図である。
撮像部200は、主に、撮像レンズ204と、光学フィルタ205と、受光素子が2次元配置された画像センサ206を含んだセンサ基板207と、センサ基板207から出力されるアナログ電気信号(画像センサ206上の各受光素子が受光した受光量)をデジタル電気信号に変換した撮像画像データを生成して出力する信号処理部208と、内部メモリ209とから構成されている。また、本実施形態においては、センサ基板207上に照明手段としての光源部202が実装されている。この光源部202は、フロントガラス105の内壁面(一方の面)側に配置され、外壁面(他方の面)に付着した付着物(以下、検出対象物が主に雨滴である場合を例に挙げて説明する。)を検出するためのものである。

0018

本実施形態では、撮像レンズ204の光軸が水平方向に一致するように撮像ユニット101を配置するが、これに限定されることはなく、水平方向(図2中のX方向)を基準とした特定方向に向けるような例であってもよい。撮像レンズ204は、例えば、複数のレンズで構成され、焦点がフロントガラス105の位置よりも遠方に設定されるものを用いる。撮像レンズ204の焦点位置は、例えば、無限遠又は無限遠とフロントガラス105との間に設定することができる。

0019

画像センサ206は、センサ面を保護するカバーガラスを透過した光を受光する2次元配置された複数の受光素子で構成され、受光素子(撮像画素)ごとに入射光光電変換する機能を有する。後述の図等では画像センサ206の各画素を簡略化して描いているが、実際には画像センサ206は2次元配置された数十万個程度の画素で構成されている。画像センサ206としては、例えば、全撮像画素を同時露光グローバルシャッター)して各撮像画素の信号を読み出すCCD(Charge Coupled Device)や、ライン露光ローリングシャッター)で露光された各撮像画素の信号を読み出すCMOS(Complementary Metal Oxide Semiconductor)などを用いたイメージセンサであり、その受光素子にはフォトダイオードを用いることができる。

0020

信号処理部208は、画像センサ206で光電変換され、センサ基板207から出力されるアナログ電気信号(画像センサ206の各受光素子への入射光量)をデジタル電気信号に変換した撮像画像データを生成して出力する機能を有する。信号処理部208は、画像解析ユニット102と電気的に接続されている。信号処理部208は、センサ基板207を経由して画像センサ206から電気信号アナログ信号)が入力されると、入力された電気信号から、画像センサ206上における各撮像画素の明るさ(輝度)を示すデジタル信号(撮像画像データ)を生成する。そして、この撮像画像データを、画像の水平・垂直同期信号とともに、後段の画像解析ユニット102へ出力する。

0021

本実施形態の画像センサ206は、後述するダーク補正ブラックレベルコントロールBLC)を行うための複数のオプティカルブラック(光が入射しないように構成された受光素子)を、有効撮像画素の領域外に備えている。オプティカルブラックの出力信号は、信号処理部208に送られ、暗電流ノイズ量の測定に使用される。詳しくは、信号処理部208は、ゼロ基準設定手段として機能し、例えばオプティカルブラックからの出力信号の平均レベルに所定のマージン分を上乗せした信号レベルを、撮像画像データのゼロ基準(画素値ゼロ)に設定する。これにより、センサ基板207から出力されるアナログ電気信号のうち、ゼロ基準に対応する信号レベル以下のものはゼロ値とされる。

0022

また、ゼロ基準に対応する信号レベルを超えるアナログ電気信号は、当該ゼロ基準の信号レベルと最大信号レベルとの間を所定の階調数で分割したデジタル値のデジタル電気信号に変換される。これにより、画像センサ206の受光素子を流れる暗電流が原因で、全く光を受光していない受光素子が光を受光しているものと誤検知してしまう事態を回避することができる。

0023

また、画像解析ユニット102は、撮像ユニット101の撮像動作を制御する機能や、撮像ユニット101から送信される撮像画像データを解析する機能を有する。画像解析ユニット102は、撮像ユニット101から送信された撮像画像データから、画像センサ206の撮像対象自車両前方領域に存在する他車両等の物体や、フロントガラス105上に付着している雨滴、凍結曇り等)ごとの最適な露光量を算出し、画像センサ206の撮像対象ごとに最適な露光量(本実施形態では露光時間)を設定する機能を有する。また、画像解析ユニット102は、露光量調整連動しながら、光源部202の発光タイミングを調整する機能も有する。また、画像解析ユニット102は、撮像ユニット101から送信されてくる撮像画像データから、路面状態道路標識などに関する情報を検出する機能を有する。また、画像解析ユニット102は、検出処理部102Aによって、フロントガラス105の状態(雨滴の付着、凍結、曇りなど)を検出する機能を有する。また、画像解析ユニット102は、撮像ユニット101から送信されてくる撮像画像データから、自車両の前方に存在する他車両の位置や方角、距離等を算出する機能を有する。また、画像解析ユニット102は、光量調整部102Bによって、光源部202が照射する光の量を調整する機能を有する。

0024

図3は、本実施形態における撮像ユニット101の光学系を説明するための説明図である。
本実施形態の光源部202は、フロントガラス105上に付着した付着物(雨滴、凍結、曇り等)を検出するための照明光を照射するものである。本実施形態の光源部202は、その光源としてのLEDを複数備えた構成となっている。このように光源を複数具備することにより、光源が1つである場合と比較して、フロントガラス105上の付着物を検出するための検出領域が広がり、フロントガラス105の付着物の検出精度が向上する。

0025

本実施形態では、LEDを画像センサ206と同じセンサ基板207上に実装しているので、これらを別々の基板上に実装する場合よりも基板枚数を減らすことができ、低コストを実現できる。また、LEDの配置方法は、図3中のY方向に沿って1列又は複数列に配置することで、後述するとおり、車両前方領域の画像が映し出される画像領域の下側に映し出されるフロントガラス画像を撮像するための照明を均一化することが可能となる。本実施形態では、光源部202を、画像センサ206と同じセンサ基板207上に実装しているが、画像センサ206とは別基板上に実装してもよい。

0026

光源部202は、光源部202が照射する光の光軸方向と撮像レンズ204の光軸方向とが予め所定の角度を有するように、センサ基板207上に配置されている。また、光源部202は、光源部202が照射する光によって照明されるフロントガラス105上において、その照明範囲が撮像レンズ204の画角範囲内(視野角の範囲内)となるように、配置されている。光源部202の発光波長としては、対向車の運転者や歩行者眩惑しないように、可視光を避けることが好ましく、例えば、可視光よりも波長が長く、画像センサ206の受光感度が及ぶ波長範囲(例えば800〜1000nm程度の赤外光波長範囲)を用いる。光源部202の発光タイミングなどの駆動制御は、信号処理部208からの画像信号の取得と連動しながら、画像解析ユニット102を通じて行われる。

0027

本実施形態の撮像ユニット101には、図3に示すように、光源部202からの光を反射させてフロントガラス105へ導く反射面231を備えた光学部材としての反射偏向プリズム230が設けられている。反射偏向プリズム230は、光源部202からの光を適切にフロントガラス105の内部に導くために、その一面がフロントガラス105の内壁面に密着するように配置されている。具体的には、反射偏向プリズム230に入射する光源部202からの光の入射角所定範囲内で変化しても、光源部202から照射されて反射偏向プリズム230の反射面231で正反射した光のうち、フロントガラス105の外壁面上における雨滴(検出対象物)が付着していない非付着箇所で正反射した正反射光が、画像センサ206に受光される関係が維持されるように、反射偏向プリズム230がフロントガラス105の内壁面に取り付けられる。

0028

反射偏向プリズム230をフロントガラス105の内壁面に取り付ける際、これらの間に、透光性材料からなるジェルシール材などの充填材を介在させて密着性を高めるのが好ましい。これにより、反射偏向プリズム230とフロントガラス105との間に空気層気泡などが介在しないようにでき、これらの間で曇りが生じにくいようにしている。また、充填材の屈折率は、反射偏向プリズム230とフロントガラス105の中間屈折率であることが好ましい。これにより、充填材と反射偏向プリズム230との間、及び、充填材とフロントガラス105との間でのフレネル反射ロスを軽減できるからである。ここでいうフレネル反射とは、屈折率の異なる材料間で発生する反射のことである。

0029

反射偏向プリズム230は、図3に示すように、光源部202からの入射光を反射面231で一回だけ正反射して、これをフロントガラス105の内壁面に向けて折り返す。折り返した光は、フロントガラス105の外壁面に対して入射角θ(θ≧約42°)となるように構成されている。この適切な入射角θは、空気とフロントガラス105の外壁面との間の屈折率差に起因して、フロントガラス105の内部においてその外壁面で全反射を起こす臨界角である。したがって、本実施形態では、フロントガラス105の外壁面に雨滴等の付着物が付着していない場合には、反射偏向プリズム230の反射面で折り返された光は、フロントガラス105の外壁面を透過することなく、すべて反射される。

0030

一方、フロントガラス105の外壁面上に空気(屈折率1)とは異なる雨滴(屈折率1.38)などの付着物が付着すると、この全反射条件崩れ、雨滴が付着している箇所では光がフロントガラス105の外壁面を透過する。したがって、フロントガラス105の外壁面に雨滴が付着していない非付着箇所については、その反射光が画像センサ206に受光されて高輝度画像部分となる一方、雨滴が付着している付着箇所については、その反射光の光量が減り、画像センサ206に受光される光量が少なくなるので、低輝度な画像部分となる。したがって、撮像画像上においては、雨滴付着箇所と非雨滴付着箇所とのコントラストが得られる。

0031

図4は、本実施形態の撮像ユニット101の概略構成を模式的に示した斜視図である。
本実施形態の撮像ユニット101は、反射偏向プリズム230を固定支持し、フロントガラス105の内壁面に固定配置される第一支持部材としての第一モジュール101Aと、画像センサ206及びLED211が実装されたセンサ基板207、導光体215、撮像レンズ204を固定支持する第二支持部材としての第二モジュール101Bとから構成されている。

0032

これらのモジュール101A,101Bは、回転連結機構240によって回動可能に連結されている。この回転連結機構240は、フロントガラス105の傾斜方向及び鉛直方向のいずれにも直交する方向(図3中紙面前後方向)に延びる回転軸241を有し、この回転軸241を中心にして、第一モジュール101Aと第二モジュール101Bとを相対回転させることができる。このように回動可能な構成としているのは、傾斜角度が異なるフロントガラス105に対して第一モジュール101Aが固定配置される場合でも、第二モジュール101Bの撮像部200の撮像方向を目標とする特定方向(本実施形態では水平方向)に向けることができるようにするためである。

0033

図5(a)は、水平面に対するフロントガラス105の傾斜角度θgが22°である車両に取り付けた状態の撮像ユニット101を示す側面図である。図5(b)は、図5(a)の状態において雨滴が付着していない場合の撮像ユニット101の光学系を示す説明図である。図5(c)は、図5(a)の状態において雨滴が付着している場合の撮像ユニット101の光学系を示す説明図である。

0034

光源部202からの光L1は、反射偏向プリズム230の反射面231で正反射され、その反射光L2はフロントガラス105の内壁面を透過する。フロントガラス105の外壁面に雨滴が付着していない場合は、その反射光L2は外壁面では全反射し、この反射光L3はフロントガラス105の内壁面を透過して撮像レンズ204に向けて光は進む。一方、フロントガラス105の外壁面に雨滴203が付着している場合、反射偏向プリズム230の反射面231で正反射した反射光L2は、その外壁面を透過する。このような系において、フロントガラス105の角度θgが変わると、第二モジュール101Bの姿勢を維持したまま(撮像方向を水平方向に固定したまま)、フロントガラス105の内壁面に固定される第二モジュール101Bの姿勢が変化し、反射偏向プリズム230がフロントガラス105と一体になって図中Y軸回りに回転することになる。

0035

ここで、本実施形態における反射偏向プリズム230の反射面231とフロントガラス105の外壁面との配置関係は、回転連結機構240の回転調整範囲内において、常に、フロントガラス105の外壁面での全反射光L3が、フロントガラス状態変化検出用の画像センサ206の受光領域(以下「付着物検出用受光領域」という。)に受光される関係となっている。したがって、フロントガラス105の角度θgが変わっても、フロントガラス105の外壁面での全反射光L3が画像センサ206の付着物検出用受光領域に受光され、適切な雨滴検出を実現できる。

0036

特に、本実施形態における配置関係は、回転連結機構240の回転調整範囲内において実質的にコーナーキューブ原理成立するような関係となっている。そのため、フロントガラス105の角度θgが変わっても、フロントガラス105の外壁面での全反射光L3の光軸方向と水平面とのなす角度θは実質的に一定である。よって、画像センサ206の付着物検出用受光領域内におけるフロントガラス105の外壁面での全反射光L3の光軸が通過する箇所の変動を小さく抑えることができ、より適切な雨滴検出を実現できる。

0037

反射偏向プリズム230の反射面231とフロントガラス105の外壁面との配置関係が互いに垂直な関係であればコーナーキューブの原理が成立するが、回転連結機構240の回転調整範囲内において実質的にコーナーキューブの原理が成立するのであれば、反射偏向プリズム230の反射面231とフロントガラス105の外壁面との配置関係は互いに垂直な関係である場合に限られない。反射偏向プリズム230の反射面231とフロントガラス105の外壁面との配置関係が互いに垂直な関係でなくても、反射偏向プリズム230の他の面(被入射面や出射面)の角度を調整することにより、フロントガラス105の傾斜角度θgが変わっても、撮像レンズへ向かう全反射光L3の光軸の角度θを略一定に保持することが可能である。

0038

図6は、本実施形態の反射偏向プリズム230を示す斜視図である。
反射偏向プリズム230は、光源部202からの光が入射する被入射面233と、被入射面233から入射した光L1を反射させる反射面231と、フロントガラス105の内壁面と密着する密着面232と、フロントガラス105の外壁面で反射した反射光L3を撮像部200に向けて出射する出射面234とを備えている。本実施形態では、被入射面233と出射面234とは互いに平行な面となるように構成されているが、両者を非平行な面としてもよい。

0039

反射偏向プリズム230の材料は、少なくとも光源部202からの光を透過させる材料であればよく、ガラスやプラスチックなどを用いることができる。本実施形態の光源部202からの光は赤外光であるため、反射偏向プリズム230の材料としては、可視光を吸収するような黒色系の材料を用いてもよい。可視光を吸収する材料を用いることにより、反射偏向プリズム230にLEDからの光(赤外光)以外の光(車外からの可視光など)が入射するのを抑制できる。

0040

また、反射偏向プリズム230は、回転連結機構240の回転調整範囲内において、その反射面231で光源部202からの光を全反射させる全反射条件が満たされるように形成される。また、回転連結機構240の回転調整範囲内において反射面231で全反射させる条件を満たすことが難しい場合には、反射偏向プリズム230の反射面231に、アルミニウムなどの膜を蒸着させるなどして、反射ミラーを形成してもよい。

0041

また、本実施形態では、反射面231が平面であるが、反射面を凹面としたものでもよい。このような凹面状の反射面225を用いることで、反射面225に入射してくる拡散光束平行化することができる。このことにより、フロントガラス105上での照度低下を抑制することが可能となる。

0042

ここで、フロントガラス105の外壁面で反射した光源部202からの赤外波長光を撮像部200で撮像する際、撮像部200の画像センサ206では、光源部202からの赤外波長光のほか、例えば太陽光などの赤外波長光を含む大光量の外乱光も受光される。よって、光源部202からの赤外波長光をこのような大光量の外乱光と区別するためには、光源部202の発光量を外乱光よりも十分に大きくする必要があるが、このような大発光量の光源部202を用いることは困難である場合が多い。

0043

そこで、本実施形態においては、例えば、図7に示すように光源部202の発光波長よりも短い波長の光をカットするようなカットフィルタか、もしくは、図8に示すように透過率ピークが光源部202の発光波長とほぼ一致したバンドパスフィルタを介して、光源部202からの光を画像センサ206で受光するように構成する。これにより、光源部202の発光波長以外の光を除去して受光できるので、画像センサ206で受光される光源部202からの光量は、外乱光に対して相対的に大きくなる。その結果、大発光量の光源部202でなくても、光源部202からの光を外乱光と区別することが可能となる。

0044

ただし、本実施形態においては、撮像画像データから、フロントガラス105上の雨滴203を検出するだけでなく、先行車両や対向車両の検出や白線の検出も行う。そのため、撮像画像全体について光源部202が照射する赤外波長光以外の波長帯を除去してしまうと、先行車両や対向車両の検出や白線の検出に必要な波長帯の光を画像センサ206で受光できず、これらの検出に支障をきたす。そこで、本実施形態では、撮像画像データの画像領域を、フロントガラス105上の雨滴203を検出するための雨滴検出用画像領域と、先行車両や対向車両の検出や白線の検出を行うための車両検出用画像領域とに区分し、雨滴検出用画像領域に対応する部分についてのみ光源部202が照射する赤外波長光以外の波長帯を除去するフィルタを、光学フィルタ205に配置している。

0045

図9は、光学フィルタ205に設けられる前段フィルタ210の正面図である。
図10は、撮像画像データの画像例を示す説明図である。
本実施形態の光学フィルタ205は、前段フィルタ210と後段フィルタ220とを光透過方向に重ね合わせた構造となっている。前段フィルタ210は、図9に示すように、車両検出用画像領域213である撮像画像上部2/3に対応する箇所に配置される赤外光カットフィルタ領域211と、雨滴検出用画像領域214である撮像画像下部1/3に対応する箇所に配置される赤外光透過フィルタ領域212とに、領域分割されている。赤外光透過フィルタ領域212には、図7に示したカットフィルタや図8に示したバンドパスフィルタを用いる。

0046

対向車両のヘッドランプ及び先行車両のテールランプ並びに白線の画像は、主に撮像画像中央部から上部に存在することが多く、撮像画像下部には自車両前方の直近路面の画像が存在するのが通常である。よって、対向車両のヘッドランプ及び先行車両のテールランプ並びに白線の識別に必要な情報は撮像画像上部に集中しており、その識別において撮像画像下部の情報はあまり重要でない。よって、単一の撮像画像データから、対向車両や先行車両あるいは白線の検出と雨滴の検出とを両立して行う場合には、図10に示すように、撮像画像下部を雨滴検出用画像領域214とし、残りの撮像画像上部を車両検出用画像領域213とし、これに対応して前段フィルタ210を領域分割するのが好適である。

0047

なお、本実施形態では、撮像画像中における車両検出用画像領域213の下部に雨滴検出用画像領域214を設けた例であるが、車両検出用画像領域213の上部に雨滴検出用画像領域214を設けたり、車両検出用画像領域213の上部と下部の両方に雨滴検出用画像領域214を設けたりしてもよい。

0048

撮像部200の撮像方向を下方へ傾けていくと、撮像領域内の下部に自車両のボンネット入り込んでくる場合がある。この場合、自車両のボンネットで反射した太陽光や先行車両のテールランプなどが外乱光となり、これが撮像画像データに含まれることで対向車両のヘッドランプ及び先行車両のテールランプ並びに白線の誤識別の原因となる。このような場合でも、本実施形態では、撮像画像下部に対応する箇所に図7に示したカットフィルタや図8に示したバンドパスフィルタが配置されているので、ボンネットで反射した太陽光や先行車両のテールランプなどの外乱光が除去される。よって、対向車両のヘッドランプ及び先行車両のテールランプ並びに白線の識別精度が向上する。

0049

なお、本実施形態では、撮像レンズ204の特性により、撮像領域内の光景と画像センサ206上の像とでは天地が逆になる。よって、撮像画像下部を雨滴検出用画像領域214とする場合には、光学フィルタ205の前段フィルタ210の上部を図7に示したカットフィルタや図8に示したバンドパスフィルタで構成することになる。

0050

ここで、先行車両を検出する際には、撮像画像上のテールランプを識別することで先行車両の検出を行うが、テールランプは対向車両のヘッドランプと比較して光量が少なく、また街灯などの外乱光も多く存在するため、単なる輝度データのみからテールランプを高精度に検出するのは困難である。そのため、テールランプの識別には分光情報を利用し、赤色光の受光量に基づいてテールランプを識別することが必要となる。そこで、本実施形態では、後述するように、光学フィルタ205の後段フィルタ220に、テールランプの色に合わせた赤色フィルタあるいはシアンフィルタ(テールランプの色の波長帯のみを透過させるフィルタ)を配置し、赤色光の受光量を検知できるようにしている。

0051

ただし、本実施形態の画像センサ206を構成する各受光素子は、赤外波長帯の光に対しても感度を有するので、赤外波長帯を含んだ光を画像センサ206で受光すると、得られる撮像画像は全体的に赤みを帯びたものとなってしまう。その結果、テールランプに対応する赤色の画像部分を識別することが困難となる場合がある。そこで、本実施形態では、光学フィルタ205の前段フィルタ210において、車両検出用画像領域213に対応する箇所を赤外光カットフィルタ領域211としている。これにより、テールランプの識別に用いる撮像画像データ部分から赤外波長帯が除外されるので、テールランプの識別精度が向上する。

0052

図11は、光学フィルタ205と画像センサ206とを光透過方向に対して直交する方向から見たときの模式拡大図である。
画像センサ206は、上述したようにCCDやCMOSなどを用いたイメージセンサであり、その受光素子にはフォトダイオード206Aを用いている。フォトダイオード206Aは、画素ごとに2次元的にアレイ配置されており、フォトダイオード206Aの集光効率を上げるために、各フォトダイオード206Aの入射側にはマイクロレンズ206Bが設けられている。この画像センサ206がワイヤボンディングなどの手法によりPWB(printed wiring board)に接合されてセンサ基板207が形成されている。

0053

画像センサ206のマイクロレンズ206B側の面には、光学フィルタ205が近接配置されている。光学フィルタ205の後段フィルタ220は、図11に示すように、透明なフィルタ基板221上に偏光フィルタ層222と分光フィルタ層223を順次形成して積層構造としたものである。偏光フィルタ層222と分光フィルタ層223は、いずれも、画像センサ206上における1つのフォトダイオード206Aに対応するように領域分割されている。

0054

光学フィルタ205と画像センサ206との間に空隙がある構成としてもよいが、光学フィルタ205を画像センサ206に密着させる構成とした方が、光学フィルタ205の偏光フィルタ層222と分光フィルタ層223の各領域の境界と画像センサ206上のフォトダイオード206A間の境界とを一致させやすくなる。光学フィルタ205と画像センサ206は、例えば、UV接着剤で接合してもよいし、撮像に用いる有効画素範囲外でスペーサにより支持した状態で有効画素外の四辺領域をUV接着熱圧着してもよい。

0055

図12は、本実施形態に係る光学フィルタ205の偏光フィルタ層222と分光フィルタ層223の領域分割パターンを示す説明図である。
偏光フィルタ層222と分光フィルタ層223は、それぞれ、第1領域及び第2領域という2種類の領域が、画像センサ206上の1つのフォトダイオード206Aに対応して配置されたものである。これにより、画像センサ206上の各フォトダイオード206Aによって受光される受光量は、受光する光が透過した偏光フィルタ層222と分光フィルタ層223の領域の種類に応じて、偏光情報や分光情報等として取得することができる。

0056

なお、本実施形態では、画像センサ206はモノクロ画像用撮像素子前提にして説明するが、画像センサ206をカラー用撮像素子で構成してもよい。カラー用撮像素子で構成する場合、カラー用撮像素子の各撮像画素に付属するカラーフィルタの特性に応じて、偏光フィルタ層222と分光フィルタ層223の各領域の光透過特性を調整してやればよい。

0057

ここで、本実施形態における光学フィルタ205の一例について説明する。
図13は、本実施形態における光学フィルタ205の層構成を模式的に示す断面図である。
本実施形態における光学フィルタ205の後段フィルタ220は、車両検出用画像領域213に対応する車両検出用フィルタ部220Aと、雨滴検出用画像領域214に対応する雨滴検出用フィルタ部220Bとで、その層構成が異なっている。具体的には、車両検出用フィルタ部220Aは分光フィルタ層223を備えているのに対し、雨滴検出用フィルタ部220Bは分光フィルタ層223を備えていない。また、車両検出用フィルタ部220Aと雨滴検出用フィルタ部220Bとでは、その偏光フィルタ層222,225の構成が異なっている。

0058

図14は、本実施形態における光学フィルタ205の車両検出用フィルタ部220Aを透過して画像センサ206上の各フォトダイオード206Aで受光される受光量に対応した情報(各撮像画素の情報)の内容を示す説明図である。
図15(a)は、図14に示す符号A−Aで切断した光学フィルタ205の車両検出用フィルタ部220A及び画像センサ206を模式的に表した断面図である。
図15(b)は、図14に示す符号B−Bで切断した光学フィルタ205の車両検出用フィルタ部220A及び画像センサ206を模式的に表した断面図である。

0059

本実施形態における光学フィルタ205の車両検出用フィルタ部220Aは、図15(a)及び(b)に示すように、透明なフィルタ基板221の上に偏光フィルタ層222を形成した後、その上に分光フィルタ層223を形成して積層構造としたものである。そして、偏光フィルタ層222は、ワイヤーグリッド構造を有するものであり、その積層方向上面(図15中下側面)は凹凸面となる。このような凹凸面上にそのまま分光フィルタ層223を形成しようとすると、分光フィルタ層223がその凹凸面に沿って形成され、分光フィルタ層223の層厚ムラが生じて本来の分光性能が得られない場合がある。そこで、本実施形態の光学フィルタ205は、偏光フィルタ層222の積層方向上面側を充填材で充填して平坦化した後、その上に分光フィルタ層223を形成している。

0060

充填材としては、この充填材によって凹凸面が平坦化される偏光フィルタ層222の機能を妨げない材料であればよいので、本実施形態では偏光機能を有しない材料のものを用いる。また、充填材による平坦化処理は、例えば、スピンオングラス法によって充填材を塗布する方法が好適に採用できるが、これに限られるものではない。

0061

本実施形態において、偏光フィルタ層222の第1領域は、画像センサ206の撮像画素の縦列(鉛直方向)に平行に振動する鉛直偏光成分のみを選択して透過させる鉛直偏光領域であり、偏光フィルタ層222の第2領域は、画像センサ206の撮像画素の横列(水平方向)に平行に振動する水平偏光成分のみを選択して透過させる水平偏光領域である。
また、分光フィルタ層223の第1領域は、偏光フィルタ層222を透過可能な使用波長帯域に含まれる赤色波長帯特定波長帯)の光のみを選択して透過させる赤色分光領域であり、分光フィルタ層223の第2領域は、波長選択を行わずに光を透過させる非分光領域である。そして、本実施形態においては、図14に一点鎖線で囲ったように、隣接する縦2つ横2つの合計4つの撮像画素(符号a、b、e、fの4撮像画素)によって撮像画像データの1画像画素が構成される。

0062

図14に示す撮像画素aでは、光学フィルタ205の偏光フィルタ層222における鉛直偏光領域(第1領域)と分光フィルタ層223の赤色分光領域(第1領域)を透過した光が受光される。したがって、撮像画素aは、鉛直偏光成分(図14中符号Pで示す。)の赤色波長帯(図14中符号Rで示す。)の光P/Rを受光することになる。
また、図14に示す撮像画素bでは、光学フィルタ205の偏光フィルタ層222における鉛直偏光領域(第1領域)と分光フィルタ層223の非分光領域(第2領域)を透過した光が受光される。したがって、撮像画素bは、鉛直偏光成分Pにおける非分光(図14中符号Cで示す。)の光P/Cを受光することになる。
また、図14に示す撮像画素eでは、光学フィルタ205の偏光フィルタ層222における水平偏光領域(第2領域)と分光フィルタ層223の非分光領域(第2領域)を透過した光が受光される。したがって、撮像画素eは、水平偏光成分(図14中符号Sで示す。)における非分光Cの光S/Cを受光することになる。
図14に示す撮像画素fでは、光学フィルタ205の偏光フィルタ層222における鉛直偏光領域(第1領域)と分光フィルタ層223の赤色分光領域(第1領域)を透過した光が受光される。したがって、撮像画素fは、撮像画素aと同様、鉛直偏光成分Pにおける赤色波長帯Rの光P/Rを受光することになる。

0063

以上の構成により、本実施形態によれば、撮像画素aおよび撮像画素fの出力信号から赤色光の鉛直偏光成分画像についての一画像画素が得られ、撮像画素bの出力信号から非分光の鉛直偏光成分画像についての一画像画素が得られ、撮像画素eの出力信号から非分光の水平偏光成分画像についての一画像画素が得られる。よって、本実施形態によれば、一度の撮像動作により、赤色光の鉛直偏光成分画像、非分光の鉛直偏光成分画像、非分光の水平偏光成分画像という3種類の撮像画像データを得ることができる。

0064

なお、これらの撮像画像データでは、その画像画素の数が撮像画素数よりも少なくなるが、より高解像度の画像を得る際には一般に知られる画像補間技術を用いてもよい。例えば、より高い解像度である赤色光の鉛直偏光成分画像を得ようとする場合、撮像画素aと撮像画素fに対応する画像画素についてはこれらの撮像画素a,fで受光した赤色光の鉛直偏光成分Pの情報をそのまま使用し、撮像画素bに対応する画像画素については、例えばその周囲を取り囲む撮像画素a,c,f,jの平均値を当該画像画素の赤色光の鉛直偏光成分の情報として使用する。
また、より高い解像度である非分光の水平偏光成分画像を得ようとする場合、撮像画素eに対応する画像画素についてはこの撮像画素eで受光した非分光の水平偏光成分Sの情報をそのまま使用し、撮像画素a,b,fに対応する画像画素については、その周囲で非分光の水平偏光成分を受光する撮像画素eや撮像画素gなどの平均値を使用したり、撮像画素eと同じ値を使用したりしてもよい。

0065

このようにして得られる赤色光の鉛直偏光成分画像は、例えば、テールランプの識別に使用することができる。赤色光の鉛直偏光成分画像は、水平偏光成分Sがカットされているので、路面に反射した赤色光や自車両100の室内におけるダッシュボードなどからの赤色光(映りこみ光)等のように水平偏光成分Sの強い赤色光による外乱要因が抑制された赤色画像を得ることができる。よって、赤色光の鉛直偏光成分画像をテールランプの識別に使用することで、テールランプの認識率が向上する。

0066

また、非分光の鉛直偏光成分画像は、例えば、白線や対向車両のヘッドランプの識別に使用することができる。非分光の水平偏光成分画像は、水平偏光成分Sがカットされているので、路面に反射したヘッドランプや街灯等の白色光や自車両100の室内におけるダッシュボードなどからの白色光(映りこみ光)等のように水平偏光成分Sの強い白色光による外乱要因が抑制された非分光画像を得ることができる。よって、非分光の鉛直偏光成分画像を白線や対向車両のヘッドランプの識別に使用することで、その認識率が向上する。特に、雨路において、路面を覆った水面からの反射光は水平偏光成分Sが多いことが一般に知られている。よって、非分光の鉛直偏光成分画像を白線の識別に使用することで、雨路における水面下の白線を適切に識別することが可能となり、認識率が向上する。

0067

また、非分光の鉛直偏光成分画像と非分光の水平偏光成分画像との間で各画素値を比較した指標値を画素値とした比較画像を用いれば、後述するように、撮像領域内の金属物体、路面の乾湿状態、撮像領域内の立体物、雨路における白線の高精度な識別が可能となる。ここで用いる比較画像としては、例えば、非分光の鉛直偏光成分画像と非分光の水平偏光成分画像との間の画素値の差分値を画素値とした差分画像、これらの画像間の画素値の比率を画素値とした比率画像、あるいは、これらの画像間の画素値の合計に対するこれらの画像間の画素値の差分値の比率(差分偏光度)を画素値とした差分偏光度画像などを使用することができる。

0068

図16は、本実施形態における光学フィルタ205の雨滴検出用フィルタ部220Bを透過して画像センサ206上の各フォトダイオード206Aで受光される受光量に対応した情報(各撮像画素の情報)の内容を示す説明図である。
図17(a)は、図16に示す符号A−Aで切断した光学フィルタ205の雨滴検出用フィルタ部220B及び画像センサ206を模式的に表した断面図である。
図17(b)は、図16に示す符号B−Bで切断した光学フィルタ205の雨滴検出用フィルタ部220B及び画像センサ206を模式的に表した断面図である。

0069

本実施形態における光学フィルタ205の雨滴検出用フィルタ部220Bは、図17(a)及び(b)に示すように、前記車両検出用フィルタ部220Aと共通のフィルタ基板221の上にワイヤーグリッド構造の偏光フィルタ層225が形成されている。この偏光フィルタ層225は、前記車両検出用フィルタ部220Aの偏光フィルタ層222とともに、積層方向上面側が充填材によって充填されて平坦化されている。ただし、雨滴検出用フィルタ部220Bは、前記車両検出用フィルタ部220Aとは異なり、分光フィルタ層223は積層されていない。

0070

本実施形態においては、自車両100の室内側の風景がフロントガラス105の内壁面に映り込むことがある。この映り込みは、フロントガラス105の内壁面で正反射した光によるものである。この映り込みは、正反射光であるのでその光強度が比較的大きい外乱光である。よって、この映り込みが雨滴と一緒に雨滴検出用画像領域214に映し出されると、雨滴の検出精度が低下する。また、光源部202からの光がフロントガラス105の内壁面で正反射した正反射光も、雨滴と一緒に雨滴検出用画像領域214に映し出されると、外乱光となって雨滴の検出精度を低下させる。

0071

このような雨滴の検出精度を低下させる外乱光は、フロントガラス105の内壁面で正反射した正反射光であるので、その偏光成分のほとんどは光源入射面に対して偏光方向が垂直な偏光成分、すなわち、画像センサ206の撮像画素の横列(水平方向)に平行に振動する水平偏光成分Sである。そこで、本実施形態の光学フィルタ205の雨滴検出用フィルタ部220Bにおける偏光フィルタ層225は、フロントガラス105に向かう光源部202からの光の光軸と撮像レンズ204の光軸とを含む仮想面(光源入射面)に対して偏光方向が平行である偏光成分、すなわち、画像センサ206の撮像画素の縦列(鉛直方向)に平行に振動する鉛直偏光成分Pのみを透過するように透過軸が設定されている。

0072

これにより、雨滴検出用フィルタ部220Bの偏光フィルタ層225を透過する光は、鉛直偏光成分Pのみとなり、フロントガラス105の内壁面の映り込みや、フロントガラス105の内壁面で正反射した光源部202からの正反射光などの外乱光の大部分を占める水平偏光成分Sをカットすることができる。その結果、雨滴検出用画像領域214は、外乱光による影響の少ない鉛直偏光成分Pによる鉛直偏光画像となり、その雨滴検出用画像領域214の撮像画像データに基づく雨滴の検出精度が向上する。

0073

本実施形態では、前段フィルタ210を構成する赤外光カットフィルタ領域211と赤外光透過フィルタ領域212とが、それぞれ層構成の異なる多層膜によって形成されている。このような前段フィルタ210の製造方法としては、赤外光カットフィルタ領域211の部分をマスクで隠しながら赤外光透過フィルタ領域212の部分を真空蒸着などにより成膜した後、今度は赤外光透過フィルタ領域212の部分をマスクで隠しながら赤外光カットフィルタ領域211の部分を真空蒸着などにより成膜するという方法が挙げられる。

0074

また、本実施形態において、車両検出用フィルタ部220Aの偏光フィルタ層222と、雨滴検出用フィルタ部220Bの偏光フィルタ層225とは、いずれも、2次元方向に領域分割されたワイヤーグリッド構造であるが、前者の偏光フィルタ層222は透過軸が互いに直交する2種類の領域(鉛直偏光領域及び水平偏光領域)が撮像画素単位で領域分割されたものであり、後者の偏光フィルタ層225は鉛直偏光成分Pのみを透過させる透過軸をもつ1種類の領域が撮像画素単位で領域分割されたものである。このような異なる構成をもつ偏光フィルタ層222,225を同一のフィルタ基板221上に形成する場合、例えば、ワイヤーグリッド構造の金属ワイヤーパターニングを行うテンプレート(型に相当するもの)の溝方向の調整により、各領域の金属ワイヤーの長手方向の調整は容易である。

0075

なお、本実施形態では、赤外光カットフィルタ領域211を光学フィルタ205に設けず、例えば、撮像レンズ204に赤外光カットフィルタ領域211を設けてもよい。この場合、光学フィルタ205の作製が容易となる。
また、赤外光カットフィルタ領域211に代えて、後段フィルタ220の雨滴検出用フィルタ部220Bに鉛直偏光成分Pのみを透過させる分光フィルタ層を形成してもよい。この場合、前段フィルタ210には赤外光カットフィルタ領域211を形成する必要はない。
また、偏光フィルタ層は、必ずしも設ける必要はない。
また、本実施形態の光学フィルタ205は、図14に示したように領域分割された偏光フィルタ層222及び分光フィルタ層223を有する後段フィルタ220が、前段フィルタ210よりも画像センサ206側に設けられているが、前段フィルタ210を後段フィルタ220よりも画像センサ206側に設けてもよい。

0076

〔ヘッドランプの配光制御〕
以下、本実施形態におけるヘッドランプの配光制御について説明する。
本実施形態におけるヘッドランプの配光制御は、撮像部200で撮像された撮像画像データを解析して車両のテールランプとヘッドランプを識別し、識別したテールランプから先行車両を検出するとともに、識別したヘッドランプから対向車両を検出する。そして、先行車両や対向車両の運転者の目に自車両100のヘッドランプの強い光が入射するのを避けて他車両の運転者の幻惑防止を行いつつ、自車両100の運転者の視界確保を実現できるように、ヘッドランプ104のハイビームおよびロービームの切り替えを制御したり、ヘッドランプ104の部分的な遮光制御を行ったりする。

0077

本実施形態のヘッドランプ配光制御では、撮像ユニット101から取得することができる情報のうち、撮像領域内の各地点光源体)から発せられる光の強さ(明るさ情報)、ヘッドランプやテールランプなどの光源体(他車両)と自車両との距離(距離情報)、各光源体から発せられる光の赤色成分白色成分(非分光)との比較による分光情報、白色成分の水平偏光成分と鉛直偏光成分との比較による偏光情報、水平偏光成分がカットされた白色成分の鉛直偏光成分情報、水平偏光成分がカットされた赤色成分の鉛直偏光成分情報を用いる。

0078

明るさ情報について説明すると、夜間に、先行車両や対向車両が自車両から同じ距離に存在する場合、撮像部200によってそれらの先行車両及び対向車両を撮像すると、撮像画像データ上では検出対象物の1つである対向車両のヘッドランプが最も明るく映し出され、検出対象物の1つである先行車両のテールランプはそれよりも暗く映し出される。また、リフレクタが撮像画像データに映し出されている場合、リフレクタは自ら発光する光源ではなく、自車両のヘッドランプを反射することによって明るく映し出されるものに過ぎないので、先行車両のテールランプよりもさらに暗くなる。一方、対向車両のヘッドランプ、先行車両のテールランプ及びリフレクタからの光は、距離が遠くなるにつれて、それを受光する画像センサ206上ではだんだん暗く観測される。よって、撮像画像データから得られる明るさ(輝度情報)を用いることで 2種類の検出対象物(ヘッドランプとテールランプ)及びリフレクタの一次的な識別が可能である。

0079

また、距離情報について説明すると、ヘッドランプやテールランプは、そのほとんどが左右一対ペアランプの構成であるため、この構成の特徴を利用してヘッドランプやテールランプ(すなわち他車両)と自車両との距離を求めることが可能である。ペアとなる左右一対のランプは、撮像部200が撮像した撮像画像データ上では、互いに近接して同じ高さ方向位置に映し出され、当該ランプを映し出すランプ画像領域の広さはほぼ同じで、かつ、当該ランプ画像領域の形状もほぼ同じである。よって、これらの特徴を条件とすれば、その条件を満たすランプ画像領域同士をペアランプであると識別できる。なお、遠距離になるとペアランプを構成する左右のランプを区別して認識できなくなり、単一ランプとして認識される。

0080

このような方法でペアランプを識別できた場合、そのペアランプ構成であるヘッドランプやテールランプの光源までの距離を算出することが可能である。すなわち、車両の左右ヘッドランプ間の距離及び左右テールランプ間の距離は、一定値w0(例えば1.5m程度)で近似することができる。一方、撮像部200における撮像レンズ204の焦点距離fは既知であるため、撮像部200の画像センサ206上における左右ランプにそれぞれ対応した2つのランプ画像領域間の距離w1を撮像画像データから算出することにより、そのペアランプ構成であるヘッドランプやテールランプの光源と自車両までの距離xは、単純な比例計算(x=f×w0/w1)により求めることができる。また、このようにして算出される距離xが適正範囲であれば、その算出に用いた2つのランプ画像領域は他車両のヘッドランプとテールランプであると識別することができる。よって、この距離情報を用いることで、検出対象物であるヘッドランプとテールランプの識別精度が向上する。

0081

また、分光情報について説明すると、本実施形態では、上述したとおり、撮像部200で撮像した撮像画像データから、赤色光(鉛直偏光成分)P/Rを受光する画像センサ206上の撮像画素a,c,f,h等に対応した画素データのみを抽出することで、撮像領域内の赤色成分だけを映し出した赤色画像を生成することができる。よって、赤色画像において所定輝度以上の輝度を有する画像領域が存在する場合、その画像領域はテールランプを映し出したテールランプ画像領域であると識別することが可能である。

0082

また、撮像部200で撮像した撮像画像データから、白色光(非分光)の鉛直偏光成分P/Cを受光する画像センサ206上の撮像画素b,d等に対応した画素データのみを抽出することで、撮像領域内のモノクロ輝度画像(鉛直偏光成分)を生成することができる。よって、赤色画像上の画像領域と、この画像領域に対応したモノクロ輝度画像上の画像領域との間の輝度比率(赤色輝度比率)を算出することもできる。この赤色輝度比率を用いれば、撮像領域内に存在する物体(光源体)からの光に含まれる相対的な赤色成分の比率を把握することができる。テールランプの赤色輝度比率は、ヘッドランプや他のほとんどの光源よりも十分に高い値をとるので、この赤色輝度比率を用いればテールランプの識別精度が向上する。

0083

また、偏光情報について説明すると、本実施形態では、上述したとおり、撮像部200で撮像した撮像画像データから、白色光(非分光)の鉛直偏光成分P/Cを受光する画像センサ206上の撮像画素b,d等に対応した画素データと、白色光(非分光)の水平偏光成分S/Cとを受光する画像センサ206上の撮像画素e,g等に対応した画素データとを抽出し、画像画素ごとに、これらの画像データ間の画素値(輝度)を比較した比較画像を得ることができる。具体的には、例えば、白色光(非分光)の鉛直偏光成分Pと白色光(非分光)の水平偏光成分Sとの差分値(S−P)を画素値とした差分画像を、比較画像として得ることができる。このような比較画像によれば、ヘッドランプから撮像部200へ直接入射する直接光の画像領域(ヘッドランプ画像領域)と、ヘッドランプから雨路の水面で反射してから撮像部200へ入射する間接光の画像領域とのコントラストを大きくとることができ、ヘッドランプの識別精度が向上する。

0084

特に、比較画像としては、白色光(非分光)の鉛直偏光成分Pと白色光(非分光)の水平偏光成分Sとの比率(S/P)を画素値とした比率画像や、差分偏光度((S−P)/(S+P))を画素値とした差分偏光度画像などが好適に使用できる。一般に、水面などの水平な鏡面で反射した光は、水平偏光成分が常に強くなることが知られており、とくに水平偏光成分Sと鉛直偏光成分Pとの比率(S/P)や差分偏光度((S−P)/(S+P))をとった場合、その比率や差分偏光度は特定角度ブリュースター角度)において最大となることが知られている。雨路では、散乱面であるアスファルト面に水が張られて鏡面に近い状態となるため、路面からのヘッドランプ反射光は水平偏光成分Sの方が強くなる。よって、路面からのヘッドランプ反射光の画像領域は、比率画像や差分偏光度画像においては、その画素値(輝度)が大きいものとなる。一方、ヘッドランプからの直接光は基本的には無偏光なので、比率画像や差分偏光度画像においては、その画素値(輝度)が小さいものとなる。この違いにより、ヘッドランプからの直接光と同じ程度の光量をもつ雨路面からのヘッドランプ反射光を適切に除外でき、ヘッドランプからの直接光をこのようなヘッドランプ反射光と区別して識別することができる。

0085

図18は、撮像部200を用いて、雨の日にヘッドランプからの直接光とヘッドランプの雨路面で反射光(照り返し光)とを撮像し、それぞれの差分偏光度((S−P)/(S+P))を算出したときのヒストグラムである。図18中の縦軸は、頻度を示しており、ここでは1に規格化してある。図18中の横軸は、差分偏光度((S−P)/(S+P))をとったものである。図18からわかるように、ヘッドランプの雨路面で反射光は、ヘッドランプの直接光と比較して、水平偏光成分Sが相対的に大きい側(図中右側)に分布シフトしていることがわかる。

0086

図19は、雨路面上を自車両が走行しているときにその進行方向前方のほぼ同一距離に先行車両と対向車両の両方が存在する状況を撮像部200で撮像した場合の一例を示す模式図である。
このような状況においては、明るさ情報と距離情報だけでは、先行車両のテールランプ、雨路面からのテールランプの照り返し光、対向車両のヘッドランプ、雨路面からのヘッドランプの照り返し光を、互いに区別して検出することが困難である。

0087

本実施形態によれば、このような状況でも、まず、先行車両のテールランプ及び雨路面からのテールランプの照り返し光と、対向車両のヘッドランプ及び雨路面からのヘッドランプの照り返し光との区別については、上述した分光情報を用いて高精度に識別できる。具体的には、明るさ情報や距離情報を用いて絞り込んだランプ画像領域において、上述した赤色画像の画素値(輝度値)あるいは赤色輝度比率が所定の閾値を超える画像領域は、先行車両のテールランプ又は雨路面からのテールランプの照り返し光を映し出したテールランプ画像領域であり、当該閾値以下である画像領域は、対向車両のヘッドランプ又は雨路面からのヘッドランプの照り返し光を映し出したヘッドランプ画像領域であると識別する。

0088

また、本実施形態によれば、このように分光情報により識別した各ランプ画像領域について、上述した偏光情報を用いることにより、テールランプやヘッドランプからの直接光と照り返し光とを高い精度で識別できる。具体的には、例えば、テールランプに関しては、上述した水平偏光成分Sの赤色画像の画素値(輝度値)やその差分偏光度等を元に、水平偏光成分の頻度や強さの違いを利用して、先行車両のテールランプからの直接光と雨路面からのテールランプの照り返し光とを識別する。また、例えば、ヘッドランプに関しては、上述した水平偏光成分の白色画像の画素値(輝度値)やその差分偏光度等を元に、水平偏光成分の頻度や強さの違いを利用して、先行車両のヘッドランプからの直接光と雨路面からのヘッドランプの照り返し光とを識別する。

0089

次に、本実施形態における先行車両及び対向車両の検出処理の流れについて説明する。
図20は、本実施形態における車両検出処理の流れを示すフローチャートである。
本実施形態の車両検出処理では、撮像部200が撮像した画像データに対して画像処理を施し、検出対象物であると思われる画像領域を抽出する。そして、その画像領域に映し出されている光源体の種類が2種類の検出対象物のいずれであるかを識別することで、先行車両、対向車両の検出を行う。

0090

まず、ステップS1では、撮像部200の画像センサ206によって撮像された自車両前方の画像データをメモリに取り込む。この画像データは、上述したように、画像センサ206の各撮像画素における輝度を示す信号を含む。次に、ステップS2では、自車両の挙動に関する情報を図示しない車両挙動センサから取り込む。

0091

ステップS3では、メモリに取り込まれた画像データから検出対象物(先行車両のテールランプ及び対向車両のベッドランプ)であると思われる輝度の高い画像領域(高輝度画像領域)を抽出する。この高輝度画像領域は、画像データにおいて、所定の閾値輝度よりも高い輝度を有する明るい領域となり、複数存在する場合が多いが、それらのすべてを抽出する。よって、この段階では、雨路面からの照り返し光を映し出す画像領域も、高輝度画像領域として抽出される。

0092

高輝度画像領域抽出処理では、まず、ステップS31において、画像センサ206上の各撮像画素の輝度値を所定の閾値輝度と比較することにより2値化処理を行う。具体的には、所定の閾値輝度以上の輝度を有する画素に「1」、そうでない画素に「0」を割り振ることで、2値化画像を作成する。次に、ステップS32において、この2値化画像において、「1」が割り振られた画素が近接している場合には、それらを1つの高輝度画像領域として認識するラベリング処理を実施する。これによって、輝度値の高い近接した複数の画素の集合が、1つの高輝度画像領域として抽出される。

0093

上述した高輝度画像領域抽出処理の後に実行されるステップS4では、抽出された各高輝度画像領域に対応する撮像領域内の物体と自車両との距離を算出する。この距離算出処理では、車両のランプは左右1対のペアランプであることを利用して距離を検出するペアランプ距離算出処理と、遠距離になるとペアランプを構成する左右のランプを区別して認識できなくなって当該ペアランプが単一ランプとして認識される場合の単一ランプ距離算出処理とを実行する。

0094

まず、ペアランプ距離算出処理のために、ステップS41では、ランプのペアを作成する処理であるペアランプ作成処理を行う。ペアとなる左右一対のランプは、撮像部200が撮像した画像データにおいて、近接しつつほぼ同じ高さとなる位置にあり、高輝度画像領域の面積がほぼ同じで、かつ高輝度画像領域の形が同じであるとの条件を満たす。したがって、このような条件を満たす高輝度画像領域同士をペアランプとする。ペアをとることのできない高輝度画像領域は単一ランプとみなされる。ペアランプが作成された場合には、ステップS42のペアランプ距離算出処理によって、そのペアランプまでの距離を算出する。車両の左右ヘッドランプ間の距離及び左右テールランプ間の距離は、一定値w0(例えば1.5m程度)で近似することができる。一方、撮像部200における焦点距離fは既知であるため、撮像部200の画像センサ206上の左右ランプ距離w1を算出することにより、ペアランプまでの実際の距離xは、単純な比例計算(x=f・w0/w1)により求めることができる。なお、先行車両や対向車両までの距離検出は、レーザレーダミリ波レーダなどの専用の距離センサを用いてもよい。

0095

ステップS5では、鉛直偏光成分Pの赤色画像と鉛直偏光成分Pの白色画像との比率(赤色輝度比率)を分光情報として用い、この分光情報から、ペアランプとされた2つの高輝度画像領域が、ヘッドランプからの光によるものなのか、テールランプからの光によるものなのかを識別するランプ種類識別処理を行う。このランプ種類識別処理では、まずステップS51において、ペアランプとされた高輝度画像領域について、画像センサ206上の撮像画素a,fに対応した画素データと画像センサ206上の撮像画素bに対応した画素データとの比率を画素値とした赤色比画像を作成する。そして、ステップS52において、その赤色比画像の画素値を所定の閾値と比較し、所定の閾値以上である高輝度画像領域についてはテールランプからの光によるテールランプ画像領域であるとし、所定の閾値未満である高輝度画像領域についてはヘッドランプからの光によるヘッドランプ画像領域であるとするランプ種別処理を行う。

0096

続いて、ステップS6では、テールランプ画像領域及びヘッドランプ画像領域として識別された各画像領域について、差分偏光度((S−P)/(S+P))を偏光情報として用いて、テールランプ又はヘッドランプからの直接光か雨路面等の鏡面部で反射して受光された照り返し光かを識別する照り返し識別処理を行う。この照り返し識別処理では、まずステップS61において、テールランプ画像領域について差分偏光度((S−P)/(S+P))を算出し、その差分偏光度を画素値とした差分偏光度画像を作成する。また、同様に、ヘッドランプ画像領域についても差分偏光度((S−P)/(S+P))を算出し、その差分偏光度を画素値とした差分偏光度画像を作成する。そして、ステップS62において、それぞれの差分偏光度画像の画素値を所定の閾値と比較し、所定の閾値以上であるテールランプ画像領域及びヘッドランプ画像領域については、照り返し光によるものであると判断し、それらの画像領域は先行車両のテールランプを映し出したものではない又は対向車両のヘッドランプを映し出したものではないとして、除外する処理を行う。この除外処理を行った後に残るテールランプ画像領域及びヘッドランプ画像領域は、先行車両のテールランプを映し出したものである、あるいは、対向車両のヘッドランプを映し出したものであると識別される。

0097

なお、レインセンサなどを車両に搭載しておき、当該レインセンサにより雨天時であることを確認した場合にのみ、上述した照り返し識別処理S6を実行するようにしてもよい。また、運転者(ドライバー)がワイパーを稼働している場合にのみ、上述した照り返し識別処理S6を実行するようにしてもよい。要するに、雨路面からの照り返しが想定される雨天時のみに上述した照り返し識別処理S6を実行するようにしてもよい。

0098

以上のような車両検出処理により検出した先行車両及び対向車両の検出結果は、本実施形態では自車両の車載機器であるヘッドランプの配光制御に用いられる。具体的には、車両検出処理によりテールランプが検出されてその先行車両のバックミラーに自車両のヘッドランプ照明光が入射する距離範囲内に近づいた場合に、その先行車両に自車両のヘッドランプ照明光が当たらないように、自車両のヘッドランプの一部を遮光したり、自車両のヘッドランプの光照射方向を上下方向又は左右方向へずらしたりする制御を行う。また、車両検出処理によりベッドランプが検出されて、その対向車両の運転者に自車両のヘッドランプ照明光が当たる距離範囲内に近づいた場合に、その対向車両に自車両のヘッドランプ照明光が当たらないように、自車両のヘッドランプの一部を遮光したり、自車両のヘッドランプの光照射方向を上下方向又は左右方向へずらしたりする制御を行う。

0099

白線検出処理
以下、本実施形態における白線検出処理について説明する。
本実施形態では、自車両が走行可能領域から逸脱するのを防止する目的で、検出対象物としての白線(区画線)を検出する処理を行う。ここでいう白線とは、実線破線点線二重線等の道路を区画するあらゆる白線を含む。なお、黄色線等の白色以外の色の区画線などについても同様に検出可能である。

0100

本実施形態における白線検出処理では、撮像ユニット101から取得することができる情報のうち、白色成分(非分光)の鉛直偏光成分Pの偏光情報を用いる。なお、この白色成分の鉛直偏光成分にシアン光の鉛直偏光成分を含めても良い。一般に、白線やアスファルト面は、可視光領域においてフラット分光輝度特性を有することが知られている。一方、シアン光は可視光領域内の広帯域を含んでいるため、アスファルトや白線を撮像するには好適である。よって、前記構成例2における光学フィルタ205を用い、白色成分の鉛直偏光成分にシアン光の鉛直偏光成分を含めることで、使用する撮像画素数が増えるため、結果的に解像度が上がり、遠方の白線も検出することが可能となる。

0101

本実施形態の白線検出処理において、多くの道路では、黒色に近い色の路面上に白線が形成されており、白色成分(非分光)の鉛直偏光成分Pの画像において白線部分の輝度は路面上の他部分より十分に大きい。そのため、路面部分のうち輝度が所定値以上である部分を白線として判定することにより、白線を検出することができる。特に、本実施形態では、使用する白色成分(非分光)の鉛直偏光成分Pの画像は、水平偏光成分Sがカットされているので、雨路からの照り返し光などを抑制した画像を取得することが可能となる。よって、夜間における雨路などからヘッドランプの照り返し光等の外乱光を白線と誤認識することなく、白線検出を行うことが可能である。

0102

また、本実施形態における白線検出処理において、撮像ユニット101から取得することができる情報のうち、白色成分(非分光)の水平偏光成分Sと鉛直偏光成分Pとの比較による偏光情報、例えば、白色成分(非分光)の水平偏光成分Sと鉛直偏光成分Pの差分偏光度((S−P)/(S+P))を用いてもよい。白線からの反射光は、通常、拡散反射成分が支配的であるため、その反射光の鉛直偏光成分Pと水平偏光成分Sとはほぼ同等となり、差分偏光度はゼロに近い値を示す。一方、白線が形成されていないアスファルト面部分は、乾燥状態のときには散乱反射成分が支配的となる特性を示し、その差分偏光度は正の値を示す。また、白線が形成されていないアスファルト面部分は、湿潤状態のときには、鏡面反射成分が支配的となり、その差分偏光度は更に大きな値を示す。したがって、得られた路面部分の偏光差分値が所定閾値よりも小さい部分を白線と判定することができる。

0103

図21(a)及び(b)は、雨天時において同じ撮像領域を撮像したモノクロ輝度画像(非分光・非偏光)と非分光の差分偏光度画像とを示す画像例である。
この画像例は、雨天時に撮影したものであるため、撮像領域が比較的暗く、また、路面は湿潤状態となっている。そのため、図21(a)に示すモノクロ輝度画像では、白線と路面とのコントラストが小さい。これに対し、図21(b)に示す差分偏光度画像では、白線と路面とのコントラストが十分に大きい。よって、モノクロ輝度画像では白線を識別することが困難な状況下であっても、差分偏光度画像を用いれば白線を高精度に識別することが可能である。
また、画像例の右側部分の白線は、陰に重なっているため、図21(a)に示すモノクロ輝度画像では、この右側の白線と路面とのコントラストが特に小さい。これに対し、図21(b)に示す差分偏光度画像では、この右側の白線と路面とのコントラストも十分に大きい。よって、モノクロ輝度画像では識別困難な白線についても、差分偏光度画像を用いれば高精度に識別することが可能である。

0104

〔フロントガラス上の雨滴検出処理〕
以下、本実施形態における雨滴検出処理について説明する。
本実施形態では、ワイパー107の駆動制御やウォッシャー液吐出制御を行う目的で、付着物としての雨滴を検出する処理を行う。なお、ここでは、フロントガラス上に付着した付着物が雨滴である場合を例に挙げて説明するが、隣接車両からの跳ねてきた路面上の水しぶきなどの付着物についても同様である。

0105

本実施形態における雨滴検出処理では、撮像ユニット101から取得することができる情報のうち、前段フィルタ210の赤外光透過フィルタ領域212及び後段フィルタ220の雨滴検出用フィルタ部220Bにおける偏光フィルタ層225を透過した光を受光する雨滴検出用画像領域214の鉛直偏光成分Pの偏光情報を用いる。そのため、光源部202からフロントガラス105へ入射させる光は鉛直偏光成分Pを多く含むようにする必要がある。そのためには、例えば光源部202の光源として発光ダイオード(LED)を用いる場合、その光源部202とフロントガラス105との間に、鉛直偏光成分Pのみを透過させる偏光子を配置するのがよい。また、光源部202の光源として半導体レーザ(LD)を用いる場合、LDは特定偏光成分の光のみを発光させることができるので、鉛直偏光成分Pのみの光がフロントガラス105に入射するようにLDの軸を合わせてもよい。

0106

本実施形態では、上述したとおり、光源部202から照射されて反射偏向プリズム230からフロントガラス105の内壁面に入射した照明光(赤外光)は、フロントガラス105の外壁面上に雨滴が付着していない非付着箇所では、フロントガラス105の外壁面で正反射する。この正反射光は、画像センサ206に受光されて雨滴検出用画像領域214に映し出される。一方、フロントガラス105の外壁面上に雨滴が付着している付着箇所では、照明光がフロントガラス105の外壁面を透過し、その透過光が画像センサ206に受光されることはない。したがって、撮像画像データの雨滴検出用画像領域214は、フロントガラス105の外壁面に雨滴が付着していない非付着箇所は高輝度な画像部分(高い画素値)となる一方、雨滴が付着している付着箇所は低輝度な画像部分(低い画素値)となる。このような違いから、雨滴の有無だけでなく、雨滴の量も把握することが可能である。

0107

図22は、本実施形態における雨滴検出処理の説明図である。
本実施形態の雨滴検出処理では、撮像ユニット101から取得した撮像画像データの雨滴検出用画像領域214の情報を用い、雨滴量が一定量を超えたと判断したらワイパー107を駆動させる。詳しくは、雨滴検出用画像領域214を例えば図22に示すように画像横方向に8区分に分割し、各区分内の合計画素値IL1〜IL8を算出する。そして、いずれかの区分の合計画素値IL1〜IL8が予め決められた閾値ILthを下回ったら、雨滴量が一定量を超えたと判断してワイパー107を駆動させる。逆に、いずれかの区分の合計画素値IL1〜IL8が予め決められた閾値ILth以上になったら、ワイパー107の駆動を停止させる。なお、ワイパー107の駆動を開始させる条件や停止させる条件は、これに限らず適宜設定できる。例えば、閾値は固定値である必要はなく、撮像部200が搭載される自車両周辺状況変化等に応じて適宜変更するようにしてもよい。また、開始条件停止条件の閾値は同じ値でも異なる値でもよい。

0108

ここで、本実施形態のように光学フィルタ205を設けて外乱光を低減している構成であっても、雨滴検出用画像領域214に対応する赤外光透過フィルタ領域212を透過する外乱光(光源部202の発行波長と同じ外乱光)も存在するため、外乱光の影響を完全に除去することはできない。例えば、昼間は、太陽光の赤外波長成分が外乱光として影響するし、夜間は、対向車のヘッドライトに含まれる赤外波長成分が外乱光として影響する。このような外乱光があると、上述した各区分の合計画素値IL1〜IL8が外乱光分だけ高めに誤差が生じ、雨滴203を検出する際に誤検出を引き起こして適切な制御の妨げとなる。

0109

このような誤検出を防ぐため、本実施形態では、光源部202の照明光の光量を画像センサ206の露光タイミングと同期させて制御している。具体的には、光源部202の照明光の光量が多いとき(第1光量のとき)の高照明時画像と、光源部202の照明光の光量が少ないとき(第2光量のとき)の低照明時画像とを撮像し、雨滴検出用画像領域214について、これらの差分画像(比較画像)を生成して、その差分画像に基づいて上述した雨滴検出処理を行う。

0110

なお、光源部202で照明しているときの照明時画像と、光源部202を消灯したときの消灯時画像とを撮像して、その差分画像(比較画像)から上述した雨滴検出処理を行ってもよい。ただし、本実施形態においては、画像センサ206の各受光素子を流れる暗電流を考慮してゼロ基準を設定するダーク補正(BLC)を行っている関係で、画像センサ206の出力レベルがゼロ基準に満たないような弱い外乱光の場合、消灯時画像にはその弱い外乱光が反映されない。その結果、照明時画像と消灯時画像の差分をとっても、外乱光の影響を排除した差分画像を得ることができず、外乱光による雨滴203の誤検出を抑制できない。

0111

これに対し、本実施形態では、消灯時画像の代わりに、低照明時画像を用いることとしている。低照明時画像の撮像時においては、光源部202の照明光がフロントガラス105の外壁面で反射して画像センサ206に受光されるときの画像センサ206の出力レベルがゼロ基準を超えるように、光源部202の照明光の光量が設定されている。よって、高照明時画像だけでなく低照明時画像においても、外乱光を受光する画像センサ206の出力レベルがゼロ基準を上回るものとなる。そのため、外乱光が弱い状況下であっても、高照明時画像と低照明時画像の両方に、外乱光の影響を反映されることができる。その結果、高照明時画像と低照明時画像との差分をとることで、外乱光の影響が適切に排除された差分画像を得ることができる。

0112

光源部202の照明光の光量を多くしたり少なくしたりする光量調整は、光量切替手段としての画像解析ユニット102の光量調整部102Bが行う。光量を切り替える具体的な方法しては、例えば、光源部202に設けられる各LED等の光源のパワーを変更したり、露光時間に対する光源の発光時間を変更したり、光源部202に設けられる複数のLEDの点灯数を変更したりする方法が考えられる。

0113

なお、高照明時画像と低照明時画像との間における照明光の光量差は、できるだけ広い方が好ましい。この光量差が大きいほど、差分画像において高いコントラストが得やすく、より高精度な雨滴検出が可能となるからである。本実施形態においては、低照明時画像の撮像時における照明光の光量を、高照明時画像の撮像時における照明光の光量の1/10程度に設定するが、これに限らず適宜設定される。

0114

外乱光のうち、太陽光などは多少時間が経過しても大きな変化がないが、自車両100の走行中の対向車のヘッドライトなどは、わずかの時間経過で大きな変化が生じる場合がある。この場合、差分画像を得るための2つのフレームの時間的な間隔が開いていると、その間に外乱光の大きさが変わってしまい、差分画像を生成した際に、うまく外乱光をキャンセルできない可能性がある。このようなことを防ぐために、差分画像を得るための2つのフレームは連続するフレームであることが好ましい。

0115

また、本実施形態においては、車両検出用画像領域213の画像情報を用いるために撮像される通常フレームでは、車両検出用画像領域213の輝度値に基づいた自動露光制御を行い、光源部202は消灯させておく。通常フレームを撮像している任意の合間に雨滴検知用の2つのフレームを連続して挿入する。この2つのフレームの撮像時において、露光制御は通常フレームの撮像時の自動露光制御ではなく、雨滴検知に適した露光制御を行う。

0116

また、車両検出用画像領域213の画像情報を元に車両制御や配光制御等を行う場合には、撮像画像中央部の輝度値に合わせた自動露光制御(AEC)を行うのが通常であるが、雨滴を検出するための2フレームについては、雨滴検知に最適な露光制御を行うのが好ましい。なぜなら、雨滴を検出するための2フレームの撮像時にも自動露光制御を行うと、光源部202の高照明時のフレームと光源部202の低照明時のフレームとで、その露光時間が変わってしまう場合があるためである。2つのフレーム間で露光時間が変わると、それぞれのフレームに含まれる外乱光の受光量が変わってしまい、差分画像によって外乱光を適切にキャンセルできないおそれがあるからである。よって、雨滴を検出するための2フレームについては、例えば、露光時間が同じなるように露光制御を行うのがよい。

0117

また、雨滴検知用のフレームを用いずに、通常フレームと同じ撮像フレームを用いて雨滴検出処理を行うようにしてもよい。以下、2つの動作例について説明する。

0118

〔撮像動作例1〕
図23は、雨滴検知用のフレームを用いずに通常フレームと同じ撮像フレームを用いて雨滴検出処理を行う場合の撮像動作の一例(以下、「撮像動作例1」という。)を簡易的に示したタイミングチャートである。このタイミングチャートは、撮像動作の概要を把握するためのものであり、正確な制御タイミングを示すものではないので、例えば矢印の長さは時間の長さを正確に示すものではない。

0119

本撮像動作例1における撮像部200は、画像センサ206としてCCDイメージセンサを用い、画像センサの全撮像画素を同時露光して撮像フレームを生成するグローバルシャッター方式を採用したものである。よって、本撮像動作例1においては、図23に示すように、前フレーム周期Tn−1に全撮像画素同時露光がなされた画像センサ206の各撮像画素の信号が、その次のフレーム周期Tnに読み出されることになる。

0120

本撮像動作例1において、以下の3種類の撮像フレームを順次撮像するという撮像動作を繰り返す。
第1フレーム目の撮像フレームは、車線維持制御(LDW:Lane Departure Warning)に用いられるものである。この撮像フレームの撮像動作時においては、露光条件としての露光時間FELDWが、例えば20μs〜33msの範囲内で自動露光制御される。したがって、例えば、昼間であれば20μsに近い露光時間FELDWが設定され、夜間であれば33μsに近い露光時間FELDWが設定される。
第2フレーム目の撮像フレームは、ヘッドランプの配光制御(AHB:Auto High Beam)に用いられるものである。この撮像フレームの撮像動作時においては、露光条件としての露光時間FEAHBが固定であり、昼夜を問わず、例えば40μsに設定される。
第3フレーム目の撮像フレームは、衝突回避制御(FCW:Front Collision Warning)に用いられるものである。この撮像フレームの撮像動作時においては、露光条件としての露光時間FEFCWが、例えば20μs〜33msの範囲内で自動露光制御される。したがって、例えば、昼間であれば20μsに近い露光時間FEFCWが設定され、夜間であれば33μsに近い露光時間FEFCWが設定される。

0121

ここで、本実施形態においては、上述したとおり、フロントガラスに付着する雨滴(付着物)を検出する雨滴検出処理を行い、その雨滴検出結果を用いてワイパー駆動制御等を行う。この雨滴検出処理に用いる撮像画像データに適した露光条件は、レンズのフレアゴーストや光源部202からの照明光以外の外乱光の影響を小さくするために、なるべく露光量が少なくなる、すなわち露光時間を短く設定するのが好ましい。本撮像動作例1においては、上述した3種類の撮像フレームの中で、雨滴検出処理に適した露光条件に近い露光条件で撮像される撮像フレームを、雨滴検出処理に用いることとしている。具体的には、上述した3種類の撮像フレームのうち、ヘッドランプの配光制御AHBに用いる撮像フレームを雨滴検出処理に用いる。

0122

特に、本実施形態においては、雨滴検出処理に用いる撮像画像データである雨滴検出用画像領域214に対応した雨滴検出用フィルタ部220Bには、光源部202が射出する赤外波長帯の赤外光に制限して透過させる赤外光透過フィルタ領域212等の波長制限手段としての光学フィルタ205が設けられている。このような光学フィルタ205は、その機能上、光透過損失が存在するため、光学フィルタ205を設けない場合と比較して、光源部202からの照明光が画像センサ206に受光される受光量が落ちる。そのため、光学フィルタ205を設けることで、光学フィルタ205を設けない場合と比較して、雨滴検出処理に用いる撮像画像データに適した露光時間を延ばすことができる。例えば、雨滴検出処理に用いる撮像画像データに適した露光時間が、光学フィルタ205を設けない場合には4μsであるところ、光学フィルタ205を設けることで40μsとすることができる。その結果、雨滴検出処理の検出精度を落とすことなく、露光時間が40μsであるヘッドランプの配光制御AHBの撮像フレームを雨滴検出処理に利用することが可能となっている。

0123

しかも、本撮像動作例1においては、雨滴検出処理に利用するヘッドランプの配光制御AHBに用いる撮像フレームは、固定された露光時間で撮像されるものである。よって、高照明時画像のためのフレームと低照明時画像のためのフレームとで同じ露光時間が設定される結果、適切な差分画像を得ることができる。もちろん、雨滴検出処理に利用する撮像フレームの種類は、露光時間が固定された撮像フレームに限られず、また、ヘッドランプの配光制御AHBの用途に利用される撮像フレームにも限られるものではない。

0124

高照明時画像と低照明時画像は、例えば、上述した3種類の撮像フレームの繰り返し周期において、ある繰り返し周期におけるヘッドランプ配光制御AHBの撮像フレームの露光時には光源部202を高照明状態にして高照明時画像を撮像し、その次の繰り返し周期におけるヘッドランプ配光制御AHBの撮像フレームの露光時には光源部202を低照明状態にして低照明時画像を撮像するという動作を繰り返す。あるいは、光源部202を高照明状態にして撮像されるヘッドランプ配光制御AHBの撮像フレームと、光源部202を低照明状態にして撮像されるヘッドランプ配光制御AHBの撮像フレームを設けるようにしてもよい。例えば、第1フレーム目を、車線維持制御LDW用の撮像フレームとし、第2フレーム目を、光源部202を高照明状態にしたヘッドランプ配光制御AHB用の撮像フレームとし、第3フレーム目を、衝突回避制御FCW用の撮像フレームとし、第4フレーム目を、光源部202を低照明状態にしたヘッドランプ配光制御AHB用の撮像フレームとする。

0125

また、本撮像動作例1においては、図23に示すように、雨滴検出処理に用いる撮像フレームの露光期間以外の期間では、光源部202をOFFにしている。これにより、光源部202を常時ONにする場合よりも、消費電力を抑制できる。また、光源部202からの照明光は、その一部が車両検出用画像領域213にも映し出されることがあり、車両検出用画像領域213の外乱光となるおそれがある。そのため、雨滴検出処理には用いない車線維持制御LDW用の撮像フレームや衝突回避制御FCW用の撮像フレームについては、光源部202をOFFにしておくことで、光源部202の照明光による外乱光を抑制し、これらの制御の高精度化を実現できる。

0126

〔撮像動作例2〕
図24は、雨滴検知用のフレームを用いずに通常フレームと同じ撮像フレームを用いて雨滴検出処理を行う場合の撮像動作の他の例(以下、「撮像動作例2」という。)を簡易的に示したタイミングチャートである。このタイミングチャートは、撮像動作の概要を把握するためのものであり、正確な制御タイミングを示すものではないので、例えば矢印の長さは時間の長さを正確に示すものではない。

0127

本撮像動作例2における撮像部200は、画像センサ206としてCMOSイメージセンサを用い、画像センサの撮像画素を部分的に順次露光して撮像フレームを生成するローリングシャッター方式を採用したものである。本撮像動作例2では、画像センサ206上に配列される撮像画素を一ラインごとに露光し、各ライン1〜Xの撮像画素の信号を順次読み出す。

0128

本撮像動作例2においても、上述した撮像動作例1と同様、以下の3種類の撮像フレームを順次撮像するという撮像動作を繰り返す。また、本撮像動作例2においても、雨滴検出専用撮像フレームの追加、挿入するのではなく、上述した3種類の撮像フレームのうちのヘッドランプ配光制御AHBに用いる撮像フレームを雨滴検出処理に用いる。

0129

ところで、上述した撮像動作例1においては、雨滴検出処理に用いるヘッドランプ配光制御AHB用の撮像フレームの露光時には、光源部202がONになっている。そのため、光源部202からの照明光の一部が、ヘッドランプ配光制御AHB用の撮像フレームにおける車両検出用画像領域213にも映し出され、車両検出用画像領域213の外乱光となるおそれがある。この場合、その外乱光によってヘッドランプ配光制御AHBにおけるテールランプやヘッドランプの検出精度が落ち、ヘッドランプ配光制御AHBの精度が低下するおそれがある。

0130

そこで、本撮像動作例2においては、図24に示すように、ヘッドランプ配光制御AHB用の撮像フレームの露光期間において、車両検出用画像領域213に対応するラインの露光時には光源部202をOFFにし、雨滴検出用画像領域214に対応するラインの露光時には光源部202をON(高照明又は低照明)にするという光源制御を行っている。これにより、ヘッドランプ配光制御AHB用の撮像フレーム中の車両検出用画像領域213については、光源部202の照明光による外乱の影響を抑制しつつ、その撮像フレーム中の雨滴検出用画像領域214については、光源部202の照明光による雨滴検出が可能となる。しかも、ヘッドランプ配光制御AHB用の撮像フレームの露光期間中ずっと光源部202をONにする場合よりも、消費電力を抑制することもできる。

0131

また、本撮像動作例2のようなローリングシャッター方式の場合、例えば、ヘッドランプ配光制御AHBの撮像フレームにおける雨滴検出用画像領域214に対応するラインの露光時に、1又は2以上のライン単位で光源部202の高照明/低照明を繰り返すという光源制御を行うことができる。このような光源制御によれば、1つの撮像フレーム内における雨滴検出用画像領域214だけで高照明時画像と低照明時画像との差分情報を得ることができる。この差分情報は、時間ずれのない差分情報であるため、より高精度な雨滴検出を実現できる。

0132

次に、本発明の特徴部分である、温度変化に起因した雨滴量検出誤差の補正処理について説明する。
以下の説明では、説明の簡略化のため、低照明時画像に代えて消灯時画像を用い、照明時画像(高照明時画像)と消灯時画像との差分画像に基づいて雨滴量の検出を行う例で説明する。また、ここでは、温度変化を例に挙げて説明するが、湿度などの他の状況の変化によって雨滴量の誤検出が生じる場合でも同様である。

0133

図25は、本実施形態における雨滴量の検出処理をモデル化した検出モデルである。
本実施形態における雨滴量の検出処理では、図22に示したように雨滴検出用画像領域214を画像横方向に8区分に分割し、各区分内の合計画素値IL1〜IL8を算出する。以下、各区分をx(=1〜8)とし、ある時刻tにおける各区分xの合計画素値をy(x,t)とする。本実施形態の雨滴量検出処理において、各区分xの合計画素値y(x,t)は、入力電流値i(t)に応じた光量の照明光が光源部202から射出され、フロントガラス105の外壁面で雨滴付着の有無に応じた反射率r(x,t)で反射した反射光が画像センサ206に受光されることにより得られる。

0134

照明光が光源部202から射出されて画像センサ206に受光されるまでの間、その照明光は反射偏向プリズム230やフロントガラス105等の光学部材を経由する。このときの伝達効率eは、各光学部材不均一性等により区分xごとに異なり、また温度変化によって各光学部材の光学特性が変化することから、e(x,t)で表すことができる。更に、画像センサ206には、照明光以外の外乱光d(x,t)も受光される。

0135

以上の条件により、画像センサ206のセンサ特性をfとすると、下記の式(1)が得られる。なお、下記の式(1)中「e(x,t)・i(t)」の項は、フロントガラス105上に雨滴が存在しない場合に照明光が全反射して画像センサ206に受光される成分である。
y(x,t) = f[e(x,t)×i(t)×r(x,t) + d(x,t) + e(x,t)×i(t)] ・・・(1)

0136

センサ特性fが線形だと仮定すると、前記式(1)から下記の式(2)が得られる。
y(x,t) = e(x,t)×i(t)×r(x,t) + d(x,t) + e(x,t)×i(t) ・・・(2)

0137

ここで、yOFF(x,t)を消灯時画像とし、yON(x,t)を照明時画像とすると、消灯時画像ではi(t)=0であるため、yOFF(x,t)=d(x,t)となる。照明時画像のyON(x,t)は、前記式(2)のとおりであるため、照明時画像と消灯時画像との差分画像[yON(x,t)−yOFF(x,t)]は、下記の式(3)のとおりである。
yON(x,t)−yOFF(x,t) = e(x,t)×i(t)×r(x,t) + e(x,t)×i(t) ・・・(3)

0138

本雨滴量検出処理で求めるのは、雨滴量と相関のある反射率r(x,t)である。よって、前記式(3)を反射率r(x,t)について解くと、下記の式(4)が得られる。
r(x,t) = [yON(x,t)−yOFF(x,t)]/[e(x,t)×i(t)] − 1 ・・・(4)

0139

ここで、想定している規定温度からの温度変化が生じた場合、光源部202の光源の発光出力が変化したり、光源を実装しているセンサ基板207の歪み(反り)の量が変化したり、反射偏向プリズム230やフロントガラス105の歪み量が変化したりして、雨滴量変化に関係なく、各区分xの合計画素値y(x,t)が変化する。この温度変化による影響は、前記検出モデルにおける効率e(x,t)の変動として現れる。

0140

ここで、効率e(x,t)の変動要因(外乱要因)は、温度変化に限らず、その他の時間変化要因(湿度変化など)も存在するが、効率e(x,t)の変動に最も大きく影響する外乱要因は温度変化であることが判明している。そのため、以下の説明では、効率e(x,t)の変動に最も大きく影響する外乱要因が温度変化であることを前提として、温度変化に起因した雨滴量検出誤差の補正処理を行う。

0141

本実施形態における雨滴量検出誤差の補正処理では、8つの区分xの各合計画素値y(x,t)を用いるところ、同時に8つの観測点(各区分x)におけるy(x,t)が得られるという特徴がある。温度変化による誤差(すなわち規定温度時に対する誤差)の大きさやその誤差の時間変化は、区分xごとに相違する。この相違を利用すれば、検出した各区分xの合計画素値y(x,t)にそれぞれ含まれる各温度変化成分(各区分xの温度変化による誤差)を特定することが可能である。

0142

詳しく説明すると、各区分xの合計画素値y(x,t)に含まれる温度変化成分は、時間tの経過により温度が変われば、それぞれの温度変化特性に応じて変化するものである。温度変化が生じると、光源部202を実装したセンサ基板207の歪み等による照明光の偏りや反射偏向プリズム230等の光学部材の歪みなどが生じる。このとき、各区分xにそれぞれ受光される光の光路は互いに異なることから、照明光の偏りや光学部材の歪み等に起因した各区分xの受光量変化が、区分xごとに異なるものとなる。したがって、各区分xの合計画素値y(x,t)についての温度変化特性は区分xごとに異なるものとなる。この区分xごとに温度変化特性が異なることを利用して、検出した各区分xの合計画素値y(x,t)にそれぞれ含まれる各温度変化成分(各区分xの温度変化による誤差)を特定する。

0143

具体的には、まず、本実施形態における撮像ユニット101に固有の各区分xの温度変化特性を取得する必要がある。この温度変化特性の取得は、少なくとも初期時に行えばよいが、その後の経時使用により温度変化特性が変化し得る場合には、適切なタイミングで温度変化特性を取得、更新する処理を行ってもよい。温度変化特性を取得する方法は、特に制限はないが、例えば、以下のように主成分分析を用いて取得する方法が挙げられる。以下、主成分分析を用いて各区分xの温度変化特性を取得する場合を例に挙げて説明する。

0144

図26は、本実施形態における温度変化に起因した雨滴量検出誤差の補正処理の流れを示すフローチャートである。
主成分分析を用いて各区分xの温度変化特性を取得する場合、まずは、フロントガラス105上に雨滴が付着しておらず、かつ、なるべく広い温度範囲で温度が時間変化している状況下において、各区分xの合計画素値y(x,t)を十分な数だけサンプリングする(S1)。このとき、時間変化に応じて温度変化させているため、y(x,t)はy(x,T)(Tは温度)に相当する。このときの各区分xの合計画素値y(x,t)は、照明時画像と消灯時画像との差分画像における各区分xの合計画素値であり、[yON(x,t)−yOFF(x,t)]により得られる。

0145

このようにしてサンプリングしたy(x,t)のデータ群を主成分分析し(S2)、第一主成分についての主成分負荷量z(x)を抽出、保存する(S3)。具体的には、y(x,t)の分散共分散行列A=cov(y)を演算し、下記の式(5)に示す固有値方程式を解くことで、下記の式(6)の関係を満たす固有値λ固有ベクトルZを求める。このとき、もっとも大きな固有値λに対応する固有ベクトルZが第1主成分に対応するので、これを第一主成分についての主成分負荷量z(x)として取得する。なお、区分xの数が8個である本例においては、分散共分散行列Aが8×8の行列となる。
det(λE−A) = 0 ・・・(5)
A・Z = λ・Z ・・・(6)

0146

主成分分析における第一主成分負荷量は、もっとも影響の大きな要因によるデータのばらつきに対応したものである。ここでは、データのばらつきに最も大きな影響を与えているのは温度変化であるので、主成分分析における第一主成分負荷量は、温度変化によってばらついているデータに対応したものと取り扱うことができる。

0147

主成分分析により得られる第一主成分負荷量z(x)は、区分xごとの各第一主成分負荷量(固有値)z1〜z8からなる情報であり、各第一主成分負荷量z1〜z8は、温度と各区分xの合計画素値y(x,t)との相関係数であり、それぞれの区分xにおける温度変化特性を示すものである。この第一主成分負荷量z(x)は、本実施形態における撮像ユニット101に固有の値であるため、撮像ユニット101の内部メモリ209に保持しておくのが好ましい。

0148

このようにして、各区分xの温度変化特性である第一主成分負荷量z(x)を相関値情報として保存した後、上述した雨滴検出処理のとおり、照明時画像と消灯時画像との差分画像から各区分xの合計画素値y(x,t)=yON(x,t)−yOFF(x,t)を取得する(S4)。そして、保存された第一主成分負荷量z(x)と、取得した各区分xの合計画素値y(x,t)との相関演算を行い、外乱要因値Sを算出する(S5)。具体的には、下記の式(7)に示す相関演算式を解いて外乱要因値Sを算出する。

0149

このようにして得られる外乱要因値Sは、今回の各区分xの合計画素値y(x,t)の取得時点における温度に依存する。したがって、この外乱要因値Sを、温度と各区分xの合計画素値y(x,t)との相関係数である第一主成分負荷量z(x)に乗じることにより、今回得られた差分画像における各区分xの合計画素値y(x,t)に含まれる温度変化成分(外乱変動成分)が求められる。よって、温度変化成分を除外した各区分xの合計画素値y’(x,t)は、下記の式(8)より算出することができる(S6)。
y’(x,t) = y(x,t) − S×z(x) ・・・(8)

0150

このようにして温度変化成分を除外した各区分xの合計画素値y’(x,t)を求めた後は、この合計画素値y’(x,t)を用いて上述した雨滴量検出処理を行う(S7)。すなわち、雨滴検出用画像領域214における8つの区分の合計画素値IL1〜IL8としてy’(x,t)を用い、いずれかの区分xの合計画素値y’(x,t)が予め決められた閾値ILthを下回ったら、雨滴量が一定量を超えたと判断してワイパー107を駆動させる。逆に、いずれかの区分xの合計画素値y’(x,t)が予め決められた閾値ILth以上になったら、ワイパー107の駆動を停止させる。

0151

そして、所定の温度変化特性の再取得タイミング到来したら(S8のYes)、上述した処理ステップS1〜S3の処理を行って、サンプリングしたy(x,t)のデータ群の主成分分析の結果から得られる第一主成分負荷量z(x)を抽出、保存する。その後は、新たな第一主成分負荷量z(x)を用いて雨滴量検出処理(S4〜S7)を繰り返し行う。

0152

図27は、一定の照明光で照明した撮像環境下において0℃〜60℃まで温度を上昇させたときの各区分xの合計輝度値を検出した実験結果を示すグラフである。
このグラフの縦軸は、基準となる照明光の受光量がゼロとなるように規格化したものであり、かつ縦軸を雨量に相当する値とするため、正負を判定させている。このグラフの横軸は、時間をとっているが、温度と同義である。また、この実験は、区分数が16個である場合の例である。

0153

図27のグラフにおいて、符号Aで示すデータ群が本実施形態の雨滴量検出誤差の補正処理を実行していない場合の各区分xの雨滴検出量y(x,t)である。このデータ群は、時間が経過するにつれて検出される各区分xの雨滴検出量y(x,t)が上昇しており、温度変化による影響を受けていることがわかる。

0154

これに対し、符号Bで示すデータ群は、本実施形態の雨滴量検出誤差の補正処理を実行した場合の各区分xの雨滴検出量y’(x,t)である。このデータ群は、時間が経過しても当該補正処理により各区分xの雨滴検出量y’(x,t)がほぼ一定を保たれており、温度変化成分が適切に除外されている。

0155

〔変形例〕
次に、本実施形態の一変形例について説明する。
上述した実施形態においては、反射偏向プリズム230を用い、雨滴の付着箇所では照明光がフロントガラス外壁面を透過し、雨滴の非付着箇所では照明光がフロントガラス外壁面で反射して画像センサ206に受光される構成であった。これに対し、本変形例は、雨滴の非付着箇所では照明光がフロントガラス外壁面を透過し、雨滴の付着箇所ではフロントガラス外壁面を透過した照明光が雨滴で反射して画像センサ206に受光される構成である。具体的には、図28に示すような構成である。

0156

なお、図28の例では、光源部202から出射した照明光が直接フロントガラス105の内壁面に入射する構成となっているが、ミラー等の光路変更部材を介する構成としてもよい。この場合、上述した実施形態と同様に、センサ基板207上に照明手段としての光源部202を実装することが可能となる。

0157

図28中の光線Aは、光源部202から出射してフロントガラス105を通過する光線である。フロントガラス105の外壁面に雨滴203が付着していない場合、光源部202からフロントガラス105に向けて照射された光は、光線Aのように、フロントガラス105を透過してそのまま自車両100の外部に漏れ出る。

0158

図28中の光線Bは、光源部202からの出射光がフロントガラス105の内壁面で正反射して撮像部200へ入射する光線である。光源部202からフロントガラス105へ向かう光の一部はフロントガラス105の内壁面で正反射する。この正反射光(光線B)の偏光成分は、一般に、その入射面に対して直交する方向(図28紙面に対して垂直な方向)に振動するS偏光成分(水平偏光成分S)が支配的であることが知られている。光源部202から照射されてフロントガラス105の内壁面で正反射した正反射光(光線B)は、フロントガラス105の外壁面に付着する雨滴203の有無によって変動しないので、雨滴検出に不要な光であるばかりか、雨滴検出の検出精度を低下させる外乱光となる。本変形例では、光線B(水平偏光成分S)が雨滴検出用フィルタ部220Bの偏光フィルタ層225によってカットされるので、この光線Bによって雨滴検出精度が低下することを抑制できる。

0159

図28中の光線Cは、光源部202からの出射光がフロントガラス105の内壁面を透過し、その後、フロントガラス105の外壁面に付着する雨滴で反射して撮像部200へ入射する光線である。光源部202からフロントガラス105へ向かう光の一部はフロントガラス105の内壁面を透過するが、その透過光は水平偏光成分Sよりも鉛直偏光成分Pの方が多い。そして、フロントガラス105の外壁面上に雨滴203が付着している場合、フロントガラス105の内壁面を透過した光は、前記光線Aのように外部へ漏れ出ずに、雨滴内部で多重反射して撮像部200側に向けて再度フロントガラス105内を透過し、撮像部200に入射する。このとき、撮像部200の光学フィルタ205における前段フィルタ210の赤外光透過フィルタ領域212は、光源部202の発光波長(赤外光)を透過させるように構成されているので、光線Cは赤外光透過フィルタ領域212を通過する。また、続く後段フィルタ220の雨滴検出用フィルタ部220Bの偏光フィルタ層225は、鉛直偏光成分Pを透過するようにワイヤーグリッド構造の金属ワイヤーの長手方向が形成されているため、光線Cは偏光フィルタ層225も透過する。よって、光線Cは、画像センサ206に到達し、その受光量によって雨滴の検出が行われる。

0160

図28中の光線Dは、フロントガラス105の外部からフロントガラス105を透過して撮像部200の雨滴検出用フィルタ部220Bに向かって入射してくる光線である。この光線Dも雨滴検出時の外乱光となり得るが、本変形例では、その光線Dの大部分が、光学フィルタ205における前段フィルタ210の赤外光透過フィルタ領域212によってカットされる。よって、この光線Dによって雨滴検出精度が低下することも抑制できる。

0161

図28中の光線Eは、フロントガラス105の外部からフロントガラス105を透過して撮像部200の車両検出用フィルタ部220Aに向かって入射してくる光線である。この光線Eは、光学フィルタ205における前段フィルタ210の赤外光カットフィルタ領域211によって赤外光帯域がカットされ、可視域の光のみが撮像される。この撮像画像は、対向車両のヘッドランプ及び先行車両のテールランプ並びに白線の検出などに利用される。

0162

本変形例においても、雨滴検出用画像領域214に対応する赤外光透過フィルタ領域212を透過する外乱光(光源部202の発行波長と同じ外乱光)があると、雨滴検出用画像領域214の各区分の合計画素値IL1〜IL8が外乱光分だけ高めに誤差が生じる。本変形例では、雨滴の付着箇所に対応する画素値が高く、雨滴の非付着箇所に対応する画素値が低いので、外乱光の影響により、雨滴が付着していない箇所を雨滴の付着箇所であると判断する誤検出を招く。

0163

この誤検出は、上述した実施形態と同様に差分画像を得ることで外乱光の影響を排除して解消することが可能である。ただし、ダーク補正(BLC)により設定されたゼロ基準に満たないような弱い外乱光の場合、従来のように点灯時画像と消灯時画像との差分画像を得る方法では、消灯時画像に弱い外乱光が反映されないために、差分画像により外乱光の影響を排除できず、外乱光による雨滴の誤検出を解消できない。

0164

また、本変形例においても、従来の消灯時画像の代わりに低照明時画像を用いることによって、高照明時画像と低照明時画像の両方に、弱い外乱光の影響を反映させることができる。その結果、高照明時画像と低照明時画像との差分をとることで、外乱光の影響が適切に排除された差分画像を得ることができる。

0165

以上に説明したものは一例であり、本発明は、次の態様毎に特有の効果を奏する。
(態様A)
光源部202等の照明手段によって照明される照明範囲を撮像ユニット101等の撮像手段により撮像して得られる雨滴検出用画像領域214等の撮像画像に基づいて該照明範囲内に存在する雨滴203等の検出対象物を検出するための画像処理を実行する画像解析ユニット102等の画像処理装置において、前記撮像画像を区分けして得られる複数の区分xごとの合計画素値y(x,t)等の画素値情報と温度等の所定の外乱要因の大きさを示す外乱要因値との相関値情報である第一主成分負荷量z(x)等を記憶する撮像ユニット101の内部メモリ209等の記憶手段と、前記複数の区分ごとの画素値情報と前記相関値情報とから外乱要因値Sを演算し、該外乱要因値に基づいて温度変化成分S×z(x)等の所定の外乱変動成分を除外した後の合計画素値y’(x,t)等の画素値情報を用いて、前記画像処理を実行するCPU等の処理実行手段とを有することを特徴とする。
所定の外乱要因の変動に対して画素値情報がどのように変化するかは、区分ごとに相違する。このことから、各区分の画素値情報の相互の関係性と、これらの画素値情報を取得した時点において生じている外乱要因の大きさ(外乱要因値)との間に、高い相関関係見出すことができる。本態様においては、この相関関係を示す相関値情報が記憶手段に記憶されている。そして、本態様では、検出対象物を検出するための画像処理を実行するために各区分の画素値情報を取得したら、各区分における画素値情報と前記相関値情報とから、外乱要因値を演算する。この外乱要因値を用いることで、今回の各区分の画素値情報を取得した時点においてその画素値情報に含まれる外乱変動成分を特定することが可能となる。本態様では、このように特定できる外乱変動成分を今回取得した各区分の画素値情報から除外し、これにより得られる除外後の画素値情報を用いて前記画像処理を実行する。よって、外乱要因の変動に起因した検出対象物の誤検出を抑制できる。

0166

(態様B)
前記態様Aにおいて、前記処理実行手段が前記画像処理に用いる画素値情報は、前記複数の区分ごとの画素値情報と前記相関値情報とから演算した外乱要因値と該相関値情報とを用いて該複数の区分ごとの画素値情報に含まれる外乱変動成分を算出し、該複数の区分ごとの画素値情報から該外乱変動成分を除外した後の画素値情報であることを特徴とする。
これによれば、各区分の画素値情報を取得した時点においてその画素値情報に含まれる外乱変動成分を精度よく特定することができる。

0167

(態様C)
前記態様A又はBにおいて、前記相関値情報は、前記外乱要因値が規定変動幅以上に変動する状況下で前記複数の区分ごとに取得した規定量以上の画素値情報を主成分分析して得られる主成分負荷量であることを特徴とする。
画素値情報を変動させる外乱要因は未知な要因を含めて複合的に影響しているが、所定の外乱要因に関する相関値情報を得るためには、当該所定の外乱要因に起因して変化する分の画素値情報を抽出する必要がある。このような抽出の方法としては主成分分析が有用である。具体的には、外乱要因値が規定変動幅以上に変動する状況下で、種々の外乱要因の影響を受けている規定量以上の画素値情報を取得し、その取得した画素値情報の中から主成分分析を用いて所定の外乱要因に起因した分の画素値情報を抽出することができる。

0168

(態様D)
前記態様Cにおいて、前記相関値情報は、前記主成分分析して得られる第1主成分負荷量を含むことを特徴とする。
画素値情報を変動させる影響が最も大きい外乱要因に関する相関値情報を得ることができる。

0169

(態様E)
前記態様A〜Dのいずれかの態様において、前記所定の外乱要因は温度であることを特徴とする。
これによれば、温度変化に起因した検出対象物の誤検出を抑制できる。

0170

(態様F)
前記態様A〜Eのいずれかの態様において、前記画素値情報は、前記複数の区分ごとの画素値の総和又は平均値を示す情報である。
これによれば、簡易な処理で、外乱要因の変動に起因した検出対象物の誤検出を抑制できる。

0171

(態様G)
前記態様A〜Fのいずれかの態様において、前記記憶手段は前記撮像手段に設けられていることを特徴とする。
記憶手段に記憶される相関値情報は、撮像手段ごとに固有の情報であるため、前記撮像手段に一緒に相関値情報を管理することが望ましく、本態様によれば、その管理が容易になる。

0172

(態様H)
前記態様A〜Gのいずれかの態様において、前記照明範囲全域にわたって前記照明手段からの照明光が前記光透過性部材を経由して前記画像センサに受光される状況下、かつ、前記外乱要因値が規定変動幅以上に変動する状況下で前記複数の区分ごとに取得した規定量以上の画素値情報に基づいて、前記相関値情報を生成して前記記憶手段に記憶させる相関値情報生成記憶処理手段を有することを特徴とする。
これによれば、経時使用により相関値情報が変化して、外乱要因の変動に起因した検出対象物の誤検出が広がる状況になり得る場合でも、相関値情報を更新して、外乱要因の変動に起因した検出対象物の誤検出を抑制できる。

0173

(態様I)
前記態様Hにおいて、前記外乱要因値が規定変動幅以上に変動することを検知する温度センサ等の検知手段を有することを特徴とする。
これによれば、外乱要因値が規定変動幅以上に変動する状況を適切に把握することができ、適切な相関値情報を生成することができる。

0174

(態様J)
光源部202等の照明手段によって照明される照明範囲を撮像ユニット101等の撮像手段により撮像して得られる雨滴検出用画像領域214等の撮像画像に基づいて該照明範囲内に存在する雨滴203等の検出対象物を検出するための画像処理を実行する画像解析ユニット102等の画像処理手段と、前記画像処理手段による前記検出対象物の検出結果に基づいて、自車両100等の移動体に搭載されたワイパー、ヘッドランプ、ハンドルやブレーキ等の所定の機器を制御するワイパー制御ユニット106、ヘッドランプ制御ユニット103、車両走行制御ユニット108等の移動体機器制御手段とを備えた車載機器制御システム等の移動体機器制御システムにおいて、前記画像処理手段として、前記態様A〜Iのいずれかの態様に係る画像処理装置を用いたことを特徴とする。
これによれば、外乱要因の変動に起因した検出対象物の誤検出を抑制できるので、検出対象物の検出結果を用いる機器制御を高精度に行うことが可能となる。

0175

(態様K)
照明手段によって照明される照明範囲を撮像手段により撮像して得られる撮像画像に基づいて該照明範囲内に存在する検出対象物を検出するための画像処理を実行し、前記撮像画像を区分けして得られる複数の区分ごとの画素値情報と所定の外乱要因の大きさを示す外乱要因値との相関値情報を記憶する記憶手段を備えた画像処理装置のコンピュータに実行させるための画像処理用プログラムであって、前記複数の区分ごとの画素値情報と前記相関値情報とから外乱要因値を演算し、該外乱要因値に基づいて所定の外乱変動成分を除外した後の画素値情報を用いて前記画像処理を実行する処理実行手段として、前記コンピュータを機能させることを特徴とする。
これによれば、外乱要因の変動に起因した検出対象物の誤検出を抑制できる。
なお、このプログラムは、CD−ROM等の記録媒体に記録された状態で配布したり、入手したりすることができる。また、このプログラムを乗せ、所定の送信装置により送信された信号を、公衆電話回線専用線、その他の通信網等の伝送媒体を介して配信したり、受信したりすることでも、配布、入手が可能である。この配信の際、伝送媒体中には、コンピュータプログラムの少なくとも一部が伝送されていればよい。すなわち、コンピュータプログラムを構成するすべてのデータが、一時に伝送媒体上に存在している必要はない。このプログラムを乗せた信号とは、コンピュータプログラムを含む所定の搬送波具現化されたコンピュータデータ信号である。また、所定の送信装置からコンピュータプログラムを送信する送信方法には、プログラムを構成するデータを連続的に送信する場合も、断続的に送信する場合も含まれる。

0176

100 自車両
101撮像ユニット
102画像解析ユニット
103ヘッドランプ制御ユニット
105フロントガラス
106ワイパー制御ユニット
108車両走行制御ユニット
200撮像部
202光源部
203雨滴
206画像センサ
207センサ基板
208信号処理部
214雨滴検出用画像領域
230反射偏向プリズム

先行技術

0177

特開2010−14494号公報

ページトップへ

この技術を出願した法人

この技術を発明した人物

ページトップへ

関連する挑戦したい社会課題

関連する公募課題

ページトップへ

技術視点だけで見ていませんか?

この技術の活用可能性がある分野

分野別動向を把握したい方- 事業化視点で見る -

(分野番号表示ON)※整理標準化データをもとに当社作成

ページトップへ

おススメ サービス

おススメ astavisionコンテンツ

新着 最近 公開された関連が強い技術

この 技術と関連性が強い人物

関連性が強い人物一覧

この 技術と関連する社会課題

関連する挑戦したい社会課題一覧

この 技術と関連する公募課題

関連する公募課題一覧

astavision 新着記事

サイト情報について

本サービスは、国が公開している情報(公開特許公報、特許整理標準化データ等)を元に構成されています。出典元のデータには一部間違いやノイズがあり、情報の正確さについては保証致しかねます。また一時的に、各データの収録範囲や更新周期によって、一部の情報が正しく表示されないことがございます。当サイトの情報を元にした諸問題、不利益等について当方は何ら責任を負いかねることを予めご承知おきのほど宜しくお願い申し上げます。

主たる情報の出典

特許情報…特許整理標準化データ(XML編)、公開特許公報、特許公報、審決公報、Patent Map Guidance System データ