JP2004061446A - パターンマッチング処理方法及び画像処理装置 - Google Patents
パターンマッチング処理方法及び画像処理装置 Download PDFInfo
- Publication number
- JP2004061446A JP2004061446A JP2002223819A JP2002223819A JP2004061446A JP 2004061446 A JP2004061446 A JP 2004061446A JP 2002223819 A JP2002223819 A JP 2002223819A JP 2002223819 A JP2002223819 A JP 2002223819A JP 2004061446 A JP2004061446 A JP 2004061446A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- pattern matching
- image
- interpolation
- pixels
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/24—Aligning, centring, orientation detection or correction of the image
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Measurement Of Optical Distance (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
【解決手段】左右原画像から抽出された所定パターンの左領域画素p11〜p33と右領域画素q11〜q33とにより、基準画像として、左領域の横方向2画素間に当該2画素値で補間画素a11〜a32を求め、縦方向2画素間で当該位置の周辺複数画素値の平均で補間画素b11〜b25を求め基準画像(a)を作成する。右領域も同様に補間画素c11〜c32とd11〜d25を求め、比較画像(b)を作成する。右原画像から1画素ずれた比較画像を順次作成しながら、基準画像と5×5のパターンマッチングをさせ、マッチングした位置から視差を求め、該視差から三角測量により対象物体までの距離を算定する。
【選択図】 図1
Description
【発明の属する技術分野】
本発明は、パターンマッチング処理方法及び画像処理装置に関し、特に、画像処理による複眼測距システムに関連し、ステレオカメラから取得された対象物体の撮影原画像から、画素補間を導入した左右のマッチング画像を生成してパターンマッチングを行うパターンマッチング処理方法及び画像処理装置に関する。
【0002】
【従来の技術】
一般に、画像処理による3次元計測技術として、2台のカメラからなるステレオカメラで、対象物体を異なる位置から撮像した一対の左右画像の相関を求め、同一対象物体に対する視差から、ステレオカメラの取り付け位置や焦点距離等のカメラパラメータを用いた三角測量の原理に従って、画像処理により距離を求める、所謂、複眼又はステレオ測距法が知られている。
【0003】
この様な複眼測距方法の適用例を、図9に示した。同図に示した例では、自動車などの車両に、前方を向いたステレオカメラを搭載し、撮影されたステレオ画像に基づいて車両前方にある対象物体までの距離を測定する場合を示している。
【0004】
複眼測距システムは、車両前方を向いて設置された左カメラ1と右カメラ2の2台1組を備えたステレオカメラと、画像処理装置3とからなり、画像処理装置3で得られた対象物体までの距離情報は、例えば、緊急停止を指示するなどの車両制御装置4、運転者に前方車両との距離を知らせるなどの警報装置5に送信されるようになっている。
【0005】
画像処理装置3は、パターンマッチング部31、距離測定部32、物体認識ロジック部33を備えている。図9では、画像処理の主要部を示したものであって、図示していないが、左カメラ1と右カメラ2で車両前方の対象物体を撮像した画像に対する入力処理を行う画像入力部、この画像入力部で処理した撮像画像を原画像として格納する原画像メモリ、原画像を処理して生成された距離画像を格納する距離画像メモリ等が備えられている。
【0006】
距離画像から得られる1画素単位での距離情報に対し、各種認識処理を行う認識処理部等から構成されている。
【0007】
ステレオカメラを構成する2台の左カメラ1と右カメラ2は、互いに、同期が取れ、且つ、シャッタースピード可変のCCDカメラであり、一方のCCDカメラをステレオ処理の際の基準画像を撮像するメインカメラ、他方のCCDカメラをステレオ処理の際の比較画像を撮像するサブカメラとして、所定の基線長で互いの撮像面垂直軸が平行となるよう配置されている。
【0008】
画像入力部には、各カメラ1、2からの2系統のアナログ撮像信号を処理するためのアンプやA/Dコンバータ等の画像処理の各種機能回路が備えられ、さらに、各カメラ1、2の機械的な光学位置の僅かなずれを電気的に補正するための画像調整回路を備えたものであり、各カメラ1、2からの撮像画像を所定の輝度階調のデジタル画像データに変換し、画像調整によって各カメラ1、2の機械的な取り付け位置の誤差を補正して原画像メモリに格納する。
【0009】
パターンマッチング部31は、加算器、差分器、絶対値演算回路等の処理のための各種回路やメモリ等から構成され、原画像メモリに格納された左画像及び右画像の一対の原画像から小領域の左右のパターンマッチング画像を生成し、各パターンマッチング画像に従って互いの相関を求めるステレオパターンマッチングを行う。
【0010】
距離測定部32は、パターンマッチング部31で得られたマッチング結果に基づき、撮影された対象物体までの距離に応じて生じる原画像中の画素のズレ(=視差)を測定し、カメラパラメータを参照して原画像中に撮影されている対象物体までの距離データを生成する。
【0011】
物体認識ロジック部33では、距離測定部32で生成された距離データに基づいて、原画像に撮影された対象物体が、例えば、前方車両であるかどうかの判定が行われる。この判定結果は、運転支援、危険回避などのための車両走行制御を行う車両制御装置4に送信され、また、前方車両に接近し過ぎなどを運転者に報知する警報装置5に送信される。
【0012】
以上のように構成された画像処理装置3において、パターンマッチング部31で生成されるパターンマッチング画像の例を、図10に示した。図10では、パターンマッチング画像が、縦3、横3による3×3パターンの9個の画素から構成されており、ステレオカメラで撮影された原画像からパターンマッチング処理のために切り出されたものである。図10(a)は、左カメラ1により撮影された左原画像から切り出されパターンマッチング画像のパターンを表し、(b)は、右カメラ2により撮影された右原画像から切り出されたパターンマッチング画像のパターンを表している。ここで、画素1つを桝目1つに対応させて示している。
【0013】
これらのパターンマッチング画像をパターンマッチングするときには、例えば、左原画像を基準画像とし、右原画像を比較画像として位置付けたとすると、左原画像から切り出された図10(a)のパターンマッチング画像に対して、右原画像から1画素毎にずらしながら切り出した図10(b)のパターンマッチング画像を比較する。このとき、各パターンマッチング画像の相関値を演算し、その相関値の大小によって、マッチング度が判定される。
【0014】
そこで、各パターンマッチング画像によるマッチング度判定の様子を、図11に示した。図11においても、左原画像XLを基準画像とし、右原画像XRを比較画像として位置付けている。同図では、ステレオカメラで前方の対象物体Oを撮影した場合を表しており、図11(a)には、左カメラ1によって撮影された左原画像XLを示し、図11(b)には、右カメラ2によって撮影された右原画像XRを示している。左原画像XLには、左カメラ1側から見た位置の対象物体OLが、右原画像XRには、右カメラ2側から見た位置の対象物体ORがそれぞれ映し出されている。対象物体Oが、ステレオカメラから所定距離だけ離れた前方の位置にあるため、対象物体Oの画像上の位置が、異なって映し出される。
【0015】
次に、対象物体Oの右端線に関して処理する場合を例にして、パターンマッチングにより両画像間の視差を求めることについて説明する。
【0016】
先ず、左原画像XLにおいて、対象物体OLの右端線上の1画素、例えば、図10(a)の3×3パターンにおけるp22を中心にしたパターンマッチング画像PTLが抽出できたとする。そこで、右原画像XRにおいて、パターンマッチング画像PTLと縦方向位置が同じであるパターンマッチング画像PTRを抽出する。このパターンマッチング画像PTRは、同じ縦方向位置において、例えば、左側から右側へと横方向に、3×3パターンのパターンマッチング画像PTRが1画素毎にずらされて抽出される。
【0017】
1画素毎にずらされたパターンマッチング画像PTRが抽出される都度、この画像に含まれる9個の画素値に基づいて、パターンマッチング画像PTLとの相関値が求められる。パターンマッチング画像PTRを1画素毎にずらして得た相関値が最小となる該画像の位置をパターンマッチング画像PTLとパターンマッチングしていると判定する。
【0018】
パターンマッチング画像XLとパターンマッチング画像XRとがマッチングしていると判定できたとき、左原画像XLにおけるパターンマッチング画像XLの中心画素p22の画素位置PLと、右原画像XRにおけるパターンマッチング画像XRの中心画素q22の画素位置PRとを求める。水平方向の視差を求める原理としては、画素位置PLと画素位置PRとから、(PL−PR)を求めればよいことになる。なお、垂直方向の視差についても、同様の手法で求めることができる。ステレオカメラから見た対象物体Oに対する視差が求められることができれば、カメラパラメータを参照してステレオカメラから対象物体Oまでの距離を計算することができる。
【0019】
【発明が解決しようとする課題】
以上に説明したように、複眼測距法による画像処理としては、車両に搭載したステレオカメラで撮像した画像を処理して車両前方の対象物体の3次元位置を測定する技術手法は、既に提案されている。この技術手法では、ステレオ撮像した左右の原画像から抽出された小領域の左右パターンマッチング画像をステレオマッチングすることによって、左右のパターンマッチング画像の対応するマッチング位置を特定しており、対応する左右のパターンマッチング画像の画素ずれ量を視差として出力するようにしている。
【0020】
しかしながら、従来、ステレオ画像を処理して得られる視差は、画像における1画素を単位とするものであるため、この1画素単位とする視差から三角測量によって距離を計測すると、対象物体までの距離が遠くなるにつれて分解能が荒くなることになる。
【0021】
この分解能について、図11を参照して説明する。左原画像XLにおける対象物体OLの右端線の位置は、画素位置PLとして、また、右原画像XRにおける対象物体ORの右端線の位置は、の画素位置PRとして求められており、それらの位置を、例えば、画像の左からの画素数で見たとき、PL=600、PR=500とする。このとき、画像上の視差は、PL−PR=100で表せる。
【0022】
この視差に基づいて、三角測量法による距離が、10mに相当していると算出されたとした場合でも、画素位置PLが600と求められても、実際には、左原画像XLにおける対象物体OLの右端線の位置は、例えば、600.5である可能性もあり、その様であるとすると、視差が、100.5となっていなければならない。しかし、これに基づいて算出される距離は、例えば、9.8mとなり、誤差を生じてしまう。このような誤差は、ステレオカメラで撮影した画像から検出される視差が、画素を単位とするものであるため、三角測量の原理から、測距分解能を低下させる要因となっている。これは、画像中における他のマッチング位置を特定する際にも、共通して発生することであり、物体認識ロジック部33における対象物体の判定に大きく影響するものである。
【0023】
そこで、従来においては、パターンマッチング部31においてパターンマッチング処理が実行される際に、ステレオカメラで撮影された左原画像と右原画像のそれぞれにおいて、画素補間を行うことにより、分解能を向上させて測距精度を確保していた。
【0024】
この従来に行われている画素補間手法について、図12及び図13を参照して説明する。
【0025】
図12は、補間すべき位置に係る隣接8画素に基づいて画素補間を行う場合を示している。同図では、原画像において、補間すべき位置をx5として、該位置を取り囲み、隣接する8画素x1〜x4、x6〜x9を示している。位置x5に画素を補間するときには、隣接8画素の画素値に基づいて、
x5=(x1+x2+x3+x4+x6+x7+x8+x9)/8
の式により、画素x5の画素値を計算し、位置x5に埋め込む。このとき、各画素に対する重み付けを行う場合もある。このような補間手法に従って、原画像の全面について、順次、隣接2画素間に画素補間を行う。
【0026】
この補間手法によると、補間画素値を求めるのに、膨大な計算量を必要とし、その結果、補間処理に長時間を要することになるので、この問題に対処するため、図13に示されるような、もう少し簡便な補間手法も採用されている。図13(a)は、原画像の例を示し、説明を簡単にするため、原画像の画素数を5×5の場合を示した。画素x11から画素x55までが配列されている。(a)の原画像を構成している各画素間に補間画素を埋め込んだ補間画像の例を(b)に示した。補間画像は、補間画素が埋め込まれた結果、9×9の画素配列となっている。なお、図13(b)において、画素補間する元の画素については、太線枠で示され、細線枠が、補間画素を示している。
【0027】
図13(b)に示す補間画像を得る画素補間手法は、次のようなものである。先ず、原画像の横方向に配列された2画素間に補間画素を順次埋め込んでいく。画素x11と画素x12との間に埋め込むべき補間画素y11について、
y11=(x11+x12)/2
により、補間画素値y11を求め、次いで、画素x12と画素x13との間に埋め込むべき補間画素y12について、
y12=(x12+x13)/2
により、補間画素値y12を求めるというように、原画像の横方向における隣接2画素間の画素補間を上端から下端まで順次行う。
【0028】
これで、原画像の横方向に隣接する2画素間に画素補間を行ったので、次に、原画像の縦方向に隣接する2画素間に画素補間を行う。先ず、画素x11と画素x21との間に埋め込むべき補間画素z11について、画素位置z11に隣接している既に求められた横方向の補間画素y11とy21を利用して、
z11=(x11+y11+x21+y21)/4
により、補間画素値z11を求め、次いで、補間されるべき画素位置z12について、既に求められている補間画素y11、y21及びz11を利用し、
z12=(x11+y11+x12+z11+x21+y21+x22)/7
により、補間画素値z12を求めるといったように、既に横方向の画素間に画素補間された補間画素を利用して、原画像の縦方向に隣接する2画素間に、隣接7画素による画素補間が行われる。このような画素補間手法により、図13(a)の原画像を画素補間すると、図13(b)に示される補間画像が得られる。
【0029】
図12に示された画素補間手法では、補間されるべき位置の画素値が、隣接する8画素の平均値により求められている。この画素補間手法に比較して、図13の補間画像を得るために採用された画素補間手法では、原画像の横方向に隣接する2画素間に対しては、隣接する2画素の平均値を補間画素値とし、縦方向にあっては、既算出の補間画素をも利用して、隣接する7画素の平均値を補間画素としているので、図13に示される画素補間手法の計算量は、大幅に減少したものとなっている。
【0030】
しかしながら、車両に搭載する測距装置においては、運転支援、警報のために供給される測距情報は、精度が高く、速さができるだけ早いことが望まれており、ステレオ画像からパターンマッチング画像の生成にあたって、従来の画素補間手法をそのまま使用したのでは、未だ、計算量が多く、時間が掛かるという問題があった。
【0031】
そこで、本発明は、ステレオカメラから取得された対象物体の撮影原画像から抽出された小領域の左右のパターンマッチング用画像に対し画素補間を導入することによってパターンマッチング画像を生成し、パターンマッチングを行うようにしたパターンマッチング処理方法及び画像処理装置を提供する。
【0032】
【課題を解決するための手段】
以上の課題を解決するため、本発明では、ステレオ撮像された左画像と右画像とから、それぞれ所定範囲を有する左領域と右領域とを生成する領域生成ステップと、前記左領域又は前記右領域に含まれる画素間に、補間画素を生成する画素生成ステップと、前記左領域と前記右領域とによりパターンマッチングを行うパターンマッチングステップとを有するパターンマッチング処理方法とした。
【0033】
そして、前記パターンマッチングステップにおいて、前記補間画素を含む前記左領域及び前記右領域に基づいてパターンマッチングを行い、或いは、前記左領域と前記補間画素を補間された前記右領域とに基づいてパターンマッチングを行うようにした。
【0034】
さらに、前記画素生成ステップにおいて、前記左領域と前記右領域とに基づくパターンマッチングによりマッチング位置が特定された画素を中心に含む左領域及び右領域に対して画素補間を行い、前記左領域と前記右領域とに基づくパターンマッチングによりマッチング位置が特定された画素を中心に含む右領域に対して画素補間を行い、或いは、前記左領域又は前記右領域の横方向に隣接する2画素間に画素補間した後、当該補間位置に係る縦方向に隣接する2画素間に画素補間することとした。
【0035】
また、前記画素生成ステップにおいて、前記左領域又は前記右領域の横方向に隣接する2画素間に画素補間した後、縦方向に隣接する2画素間について、当該補間位置に係る周囲複数画素の平均値に基づいて当該補間位置に画素補間し、前記平均値が求められるとき、当該補間位置に係る周囲複数画素に対して重み付けされることとした。
【0036】
そして、前記画素生成ステップにおいて、当該補間位置に係る周囲複数画素における既補間画素に対して1未満の重み付けをして前記平均値を求めることとし、前記画素生成ステップでは、前記平均値を求める対象となる当該補間位置に係る周囲画素の数が最も多い画素位置から画素補間を開始することにした。
【0037】
さらに、前記画素生成ステップにおいて、前記左領域及び前記右領域における横方向についてのみ、相隣り合う2画素に基づいて画素補間することとした。
【0038】
また、本発明による画像処理装置においては、ステレオカメラで対象物体を撮像した左画像と右画像とに基づいたパターンマッチング処理により、該画像に写し出されている前記対象物体までの距離を測定する複眼測距システムに、上述したパターンマッチング処理方法を適用した画像処理装置とした。
【0039】
本発明の画像処理装置とすることで、車両前方の対象物体までの距離を、精度よく検出することができ、しかも、検出のためのパターンマッチング処理時間を削減することができ、運転支援や警報のために、正確で、早い距離情報を提供することを実現する。
【0040】
【発明の実施の形態】
次に、本発明によるパターンマッチング処理システムと画像処理装置の実施形態について、複眼測距システムにおいて、ステレオカメラから取得された対象物体の撮影原画像から、画素補間を導入したパターンマッチング処理を採用した具体例を挙げて、図1乃至図8を参照しながら説明する。
【0041】
従来の複眼測距システムでは、パターンマッチング処理に先立ち、ステレオカメラで撮影された左右の原画像に対して、原画像全体に画素補間を施すことによって、2倍の解像度にした補間画像とし、その左右の補間画像に基づいてパターンマッチングを実施していた。このパターンマッチング処理では、補間画像を生成するのに、多大の計算量と時間を必要とした。
【0042】
本発明に係る複眼測距システムに適用される第1の実施形態おけるパターンマッチング処理では、パターンマッチングを行うときに限定して、画素補間されたパターンマッチング画像を生成し、左右のパターンマッチング画像を用いてパターンマッチングをおこなうことにより、距離精度を向上しつつ、補間画像の生成のための計算量と時間を削減するようにした。
【0043】
第1の実施形態では、ステレオカメラで撮影した左右の原画像に基づくパターンマッチング処理を行うときに、図10(a)及び(b)に示されるように、パターンマッチングするために切り出された小領域、例えば、3×3の9画素によるパターンに対して画素補間を施すようにする。
【0044】
図1には、左右の原画像から切り出された3×3の9画素によるパターンに対して画素補間を施したパターンマッチング画像の例を示した。図1(a)は、図10(a)の9画素p11〜p33に対して、図1(b)は、図10(b)の9画素q11〜q33に対して、それぞれ画素補間した状態を示している。図中、画素補間の元となった画素は、太線枠で示されている。
【0045】
図1で示されたパターンマッチング画像の生成に当たっては、図13に示された従来の画素補間手法が採用されている。先ず、パターンマッチング処理の基準画像が図10(a)の小領域パターンとして、9画素p11〜p33が特定されたとき、横方向の隣接2画素間において、画素補間が行われる。これにより、6補間画素a11〜a32が求められる。次いで、9画素p11〜p33と、求められた6補間画素a11〜a32とに基づいた7画素の平均値により、縦方向における10補間画素b11〜b25が求められ、図1(a)の左パターンマッチング画像が生成される。
【0046】
また、図1(b)に示された比較画像となる9画素q11〜q33に対しても、同様の画素補間手法により、横方向の6補間画素c11〜c32と、縦方向の10補間画素d11〜d25とが求められ、図1(b)の右パターンマッチング画像が生成される。
【0047】
このように、左パターンマッチング画像と右パターンマッチング画像とが生成されると、これらの画像に基づいて、5×5画素パターンによるパターンマッチングが行われる。パターンマッチングにおいては、例えば、左パターンマッチング画像における画素p11、b11、p21、b21、p31、・・・を、右パターンマッチング画像の画素q11、d11、q21、d21、q31、・・・と比較して、各々、対応する画素値の差を求める。こうして、5×5画素パターンの全体について、それぞれの画素値の差を求め、左右のパターンマッチング画像の相関度を求める。
【0048】
次いで、右原画像から、1画素だけ横方向にずらした縦方向の3画素をさらに切り出し、この縦方向3画素と元の画素q13、q23、q33とに基づいて、図示されていないが、図1(b)の右パターンマッチング画像の右端に補間画素c13、d16、c23、d26、c33を付加する。ここで、次の比較画像として、1画素だけずれ、今回の補間画素を含めた5×5画素パターンの画素c11〜c33による右パターンマッチング画像が生成される。そこで、基準画像である図1(a)の左パターンマッチング画像と、次の比較画像である今回生成された右パターンマッチング画像とによって、パターンマッチングが行われる。
【0049】
順次、3×3画素パターンに対応して、1画素だけずらした5×5画素パターンが生成されるように、その都度、画素補間を行って、次の比較画像となる5×5画素パターンの右パターンマッチング画像を生成するようにした。そして、各右パターンマッチング画像と左パターンマッチング画像との比較において、最も相関値の低い右パターンマッチング画像が、横方向においてマッチングしていると、判断でき、原画像での横方向マッチング位置を特定できる。なお、縦方向については、比較画像である右パターンマッチング画像を1画素だけ縦方向にずらした補間画素による5×5画素パターンの右パターンマッチング画像を順次生成すれば、縦方向マッチング位置を特定することができる。
【0050】
以上のように、第1の実施形態のパターンマッチング処理では、処理するときに、5×5画素パターンの右パターンマッチング画像を、画素補間により、順次生成するようにしたので、原画像をそのまま2倍の解像度となるように画素補間する場合に比較して、2倍の解像度を達成しつつ、パターンマッチング処理に要する計算量及び時間を減少させることができる。
【0051】
図1に示した左右のパターンマッチング画像の生成には、左右共に、画素補間した5×5画素パターンによるパターンマッチング処理であったが、次に、第2の実施形態によるパターンマッチング処理では、基準画像となる左パターンマッチング画像については、左原画像から切り出された3×3画素パターンのままとし、比較画像となる右パターンマッチング画像については、右原画像から切り出された3×3画素パターンに対して画素補間を行い、5×5画素パターンによる右パターンマッチング画像を生成するようにした。図2(a)に、左原画像から切り出された3×3画素パターンのままの左パターンマッチング画像を、図2(b)に、5×5画素パターンに画素補間された右パターンマッチング画像を示した。右パターンマッチング画像を生成するときの画素補間手法は、図1の場合と同様である。
【0052】
図2に示した左右パターンマッチング画像によるパターンマッチングでは、3×3の9画素によるパターンマッチング処理が行われる。左パターンマッチング画像の画素p11、p21、p31、・・・、p32に対し、右パターンマッチング画像の画素q11、q21、q31、・・・、q33が比較される。これらの比較により、左右パターンマッチング画像の相関値が求められる。
【0053】
次いで、次の比較画像となる右パターンマッチング画像を生成するため、図1の場合と同様にして、補間画素c13、d16、c23、d26、c33を付加する。ここで、次の比較画像として、1画素だけずれ、今回の補間画素を含めた5×5画素パターンの画素c11〜c33による右パターンマッチング画像が生成される。そこで、基準画像である図2(a)の左パターンマッチング画像の9画素p11、p21、p31、・・・、p32と、次の比較画像である今回生成された右パターンマッチング画像の9画素c11、c21、c31、・・・、c13、c23、c33とが比較される。そこで、相関値が求められる。
【0054】
順次、基準画像の左パターンマッチング画像では、左原画像の3×3画素パターンのままとし、比較画像である右パターンマッチング画像については、1画素だけずらした5×5画素パターンが生成されるように、その都度、画素補間を行って、次の比較画像となる5×5画素パターンの右パターンマッチング画像を生成するようにした。そして、各右パターンマッチング画像と左パターンマッチング画像との比較において、最も相関値の低い右パターンマッチング画像が、横方向においてマッチングしていると、判断でき、原画像での横方向マッチング位置を特定できる。
【0055】
なお、縦方向につては、比較画像である右パターンマッチング画像を1画素だけ縦方向にずらしていくことになり、このときに、補間画素d11〜d25が利用され、5×5画素パターンの右パターンマッチング画像が順次生成される。このようにして、縦方向マッチング位置を特定することができる。
【0056】
以上のように、第2の実施形態では、パターンマッチングするときに、比較画像である右パターンマッチング画像の生成においてのみ、画素補間を行って、5×5画素パターンの右パターンマッチング画像を、順次生成するようにしたので、原画像をそのまま2倍の解像度となるように画素補間する場合に比較して、2倍の解像度を達成しつつ、左パターンマッチング画像生成には、画素補間を行わない分、さらに、パターンマッチング処理に要する計算量及び時間を減少させることができる。
【0057】
これまで、図1及び図2を参照して説明してきた第1及び第2の実施形態によるパターンマッチング処理においては、左右のパターンマッチング画像のパターンマッチング全てを画素補間された画像を使用して行われていた。そこで、第3の実施形態として、パターンマッチング処理の効率を向上させるため、通常の3×3画素によるパターンで大方のマッチング対応位置が特定されたならば、その特定位置の周辺画素、例えば、特定位置の周辺1画素以内の小領域に対して画像補間を施して、パターンマッチング画像を生成することにした。
【0058】
図10(a)及び(b)に示した左右の原画像から切り出した左右の3×3画素パターンにより、通常のパターンマッチング処理を行ったとき、その結果、右パターンマッチングにおけるマッチング位置として、画素q12が特定されたとする。ここで、マッチング位置が画素q12に特定されても、マッチングの解像度は、前のままであり、大体の位置が特定されただけということになる。そこで、この位置が特定されれば、その位置周辺でのみ、補間画像によるパターンマッチング画像を生成し、再パターンマッチングを実施すれば、解像度を上げて、パターンマッチング処理の効率をも向上することができる。
【0059】
図3には、大体の位置が特定された後に、当該位置の周辺の1画素を含む3×3画素範囲の小領域において、画素補間を実施し、左右のパターンマッチング画像を生成した状態が示されている。図3(a)は、左パターンマッチング画像を、図3(b)は、右パターンマッチング画像をそれぞれ示している。図3では、横方向についてマッチングを取る場合を示している。
【0060】
図3(a)及び(b)の左右のパターンマッチング画像の生成時における画素補間手法は、図1の場合と同様である。図3(a)及び(b)のパターンマッチング画像は、特定位置に該当する画素q12に対応して、横方向に前後1画素に基づいて作成されている。図3(a)の左パターンマッチング画像では、特定位置に対応する画素は、p22となる。
【0061】
左右のパターンマッチングでは、図3(a)の左パターンマッチング画像を基準画像とした場合には、先ず、左パターンマッチング画像の3×3画素パターンを形成する9画素b11、p21、b12、a21、b22、b13、p22、b23と、右パターンマッチング画像の3×3画素パターンを形成する比較画像となる9画素d11、q21、d12、c21、d22、d13、q22、d23とが比較され、相関値が求められる。
【0062】
次いで、左パターンマッチング画像の3×3画素パターンを形成する9画素b11、p21、b12、a21、b22、b13、p22、b23と、右パターンマッチング画像における次の比較画像となる9画素d12、c21、d22、d13、q22、d23、c22、d24とが比較され、相関値が求められる。
【0063】
右パターンマッチング画像から、さらに次の比較画像を生成し、相関値を求める。そして、左パターンマッチング画像から次の基準画像を生成し、右パターンマッチング画像から順次生成された比較画像とマッチングを取っていく。この様にして、求められた相関値の中で、最も低いものが、マッチング位置となる。
【0064】
そのため、原画像から生成した3×3画素パターンによる通常のパターンマッチングで得られた特定マッチング位置周辺のみを、さらに、画素補間によるパターンマッチング画像でパターンマッチングを実施するようにしたので、計算量や時間を大きくかけることなく、解像度を向上することができる。
【0065】
図3に示した第3の実施形態による左右のパターンマッチング画像の生成においては、基準画像となる左パターンマッチング画像と、比較画像となる右パターンマッチング画像との双方に画素補間を施したが、図4に示した第4の実施形態では、(a)に示されるように、基準画像となる左パターンマッチング画像は、通常のパターンマッチングを行ったときの左原画像から切り出した9画素パターンのままとし、(b)に示されるように、比較画像が生成される右パターンマッチング画像に対してのみ、画素補間を施した。
【0066】
左右のパターンマッチングでは、先ず、左パターンマッチング画像の3×3画素パターンを形成する9画素p11、p21、p31、p12、p22、p32、p32、p33と、右パターンマッチング画像の3×3画素パターンを形成する比較画像となる9画素d11、q21、d12、c21、d22、d13、q22、d23とが比較され、相関値が求められる。
【0067】
次いで、左パターンマッチング画像の基準画像はそのままで、右パターンマッチング画像における次の比較画像となる1画素分ずれた9画素d12、c21、d22、d13、q22、d23、c22、d24とが比較され、相関値が求められる。
【0068】
右パターンマッチング画像から、さらに次の比較画像が順次生成され、相関値が求められる。この様にして、求められた相関値の中で、最も低いものが、マッチング位置となる。
【0069】
そのため、原画像から生成した3×3画素パターンによる通常のパターンマッチングで得られた特定マッチング位置周辺において、さらに、比較画像の生成に対してのみ、画素補間によるパターンマッチング画像を使用したパターンマッチングを実施するようにしたので、図3の場合のパターンマッチング処理より、さらに計算量や時間を減少させることができ、しかも、解像度を向上することができる。
【0070】
これまで説明してきた第1乃至第4の実施形態によるパターンマッチング処理では、左右のパターンマッチング画像を生成する際に、画素補間を、左右の原画像から切り出された画素パターンにどのように適用するのかが中心であり、そこで適用された画素補間は、基本的には、図10に示された従来の画素補間手法によるものであった。従来の画素補間手法においては、画素補間されるべき当該位置に係る周辺画素に基づいて、その周辺画素値から単純平均で算出された画素値を補間画素値とするものであった。この従来の画素補間手法における周辺画素による単純平均では、補間画素値が、実際を反映したものとならない可能性がある。
【0071】
そこで、従来の画素補間手法における周辺画素の平均の取り方を工夫して、画素補間による誤差の影響を軽減した画素補間手法の実施形態について、以下に説明する。
【0072】
図5は、図10(a)に示された左原画像から切り出された3×3画素パターンに対して、本実施形態の第1の画素補間手法を適用して、5×5画素による左パターンマッチング画像を生成した場合を示している。
【0073】
先ず、3×3画素パターンにおける横方向の隣接2画素間に画素補間する仕方は、従来の画素補間手法と同様であり、画素p11と画素p12の平均値から、補間画素a11を求めるといように、順に横方向の補間画素a12〜a32を求めていく。
【0074】
次いで、3×3画素パターンにおける縦方向の隣接2画素間に画素補間を行うことになるが、従来の画素補間手法では、図5の画素パターンでいえば、画素補間されるべき補間開始位置が、端の画素位置e11であったのに対し、本実施形態の画素補間手法では、縦方向の隣接2画素間に画素補間する開始位置を画素位置e13とした。これは、画素位置e11から補間開始すると、この時点では平均対象となる画素数が少ないため、平均の元となる画素数が多い位置から開始するようにしたことによる。
【0075】
画素位置e13に補間されるべき画素値を、
e13=(a11+p12+a12+a21+p22+a22)/6
の式により求める。次に、画素位置e12に補間されるべき画素値を、
e12=(p11+a11+p12+e13+p21+a21+p22)/7
の式により求める。さらに、画素位置e11に補間されるべき画素値を、
e11=(p11+a11+e12+a21+p21)/5
の式により求める。次に、画素位置e14の画素値を求めるというように、順次、平均に関与する画素数の多い位置から補間画素値を求めていく。他の横方向画素位置e21〜e25でも同様に処理される。
【0076】
ここで述べた本実施形態の画素補間手法では、縦方向に係る隣接2画素間に画素補間する際の補間開始位置を、平均値の元となる対象画素数が画素位置からとした。この平均値は、複数画素値の単純平均であったが、補間画素による誤差の影響をできるだけ少なくするため、次の実施形態である第2の画素補間手法として、さらに、平均値の元になる複数の対象画素値に含まれている補間画素値に対して、重み付けを付加することとした。これは、画素補間された画素を含めて平均値を求めるとき、そのまま使用したのでは、実在する画素と同等の評価をしたことになり、補間画素に内在する誤差の影響が出ることを抑制するためである。その補間画素値を求める際に重み付けした場合の具体例を、図6に示した。
【0077】
図6は、図10(a)に示した左原画像の3×3画素パターンから画素補間を施した場合を示しているが、横方向における隣接2画素間の画素補間は、図5に示した左パターンマッチング画像の生成の場合と同様である。縦方向に係る隣接2画素間に画素補間するときの補間手順は、図5に示したパターンマッチング画像を生成するときと同様であるが、例えば、画素補間位置f13の補間画素値を求めるには、
f13=(a11/2+p12+a12/2+a12/2+p22+a22/2)/4
の式のように、補間画素値a11、a12、a21、a22に対して、1/2の重み付けを行っている。1/2に重み付けしたことにより、平均化する画素数は、6個から4個に減らされている。
【0078】
なお、ここで採用している1/2の重み付けは、1例である。実在する画素に対して小さくなるように重み付けされればよく、1未満の重み付けとなる。
【0079】
この様に、第2の画素補間手法では、縦方向に係る隣接2画素間に画素補間するときの平均化において、含まれる補間画素値を実在する画素に対して重み付けしたので、生成されたパターンマッチング画像によるパターンマッチング処理の信頼性を向上させることができる。
【0080】
上述した第1及び第2の画素補間手法では、縦方向に係る隣接2画素間の位置に画素補間するのに、周囲8画素による平均値を補間画素値とした。これに対して、この隣接2画素間の位置に画素補間する際に、さらに、簡便な手順とした第3の画素補間手法について、図7を参照して説明する。
【0081】
図7は、図10(a)に示した左原画像の3×3画素パターンから画素補間を施した場合を示している。横方向における隣接2画素間の補間画素a11、a12、a21、a22、a31、a32の求め方は、図5に示した左パターンマッチング画像の生成の場合と同様であるが、左原画像の縦方向において隣接する2画素間を画素補間するときには、例えば、画素p11と画素p21との間に画素補間するには、
g11=(p11+p21)/2
の式により、補間画素値g11を求める。同様にして、補間位置g13、g15、g21、g23、g25について、その上下にある実在の画素に基づいて、それぞれの補間画素値を求める。
【0082】
次いで、画素補間すべき補間画素位置h12、h14、h22、h24の補間画素値を求めるには、それぞれの補間画素位置に係る上下左右の4画素値の平均値を計算する。例えば、画素位置h12の補間画素値を求めるには、
h12=(a11+f11+f13+a21)/4
の式により計算する。他の画素位置に係る補間画素値が、同様の手順で計算される。
【0083】
以上の様に、第3の画素補間手順によれば、第1及び第2の画素補間手段に比較して、原画像の縦方向に係る2画素間の画素補間において、周囲8画素の平均による手法から上下左右の4画素の平均による手法としたので、パターンマッチング処理時間を低減することができた。
【0084】
なお、図7に示したパターンマッチング画像の生成における第3の画素補間手法においても、図6に示した第2の画素補間手法における重み付け平均の考え方を取り入れ、第4の画素補間手法とすることができる。第4の画素補間手法では、補間画素位置h12、h14、h22、h24の補間画素値を求めるとき、上下左右の画素が、いずれも実在しない補間画素であるため、特定の重み付けをすることにより、平均化時に、誤差をそのまま取り込むことがないようにしている。
【0085】
例えば、重み付けを1/2とすると、画素位置h12の補間画素値は、
h12=(a11/2+f11/2+f13/2+a21/2)/2
の式により求められる。他の画素位置に係る補間画素値についても、同様の手順で求められる。
【0086】
これまで説明した第1乃至第4の画素補間手法では、ステレオカメラで撮影された左右の原画像から切り出された、図10(a)及び(b)に示される3×3画素パターンを構成する9画素に基づいて、その画素間に画素補間することにより左右のパターンマッチング画像を生成するものであった。
【0087】
しかしながら、ステレオカメラで撮影された原画像が、インターレース方式によって撮像されている場合には、1フレームにおける原画像の縦方向に関して、1画素ずつ間隔を開けて、横方向の画素配列がなされている。つまり、1画素の間隔にあるべき横方向の画素配列は、次のフレームで撮像されているので、原画像の1画面分の横方向画素配列を取得するには、2フレーム分の取得時間を要することになる。そこで、原画像において、縦方向には、検出精度を期待しない場合には、画素補間する際に、上下方向の画素成分を用いないで、横方向成分のみを用いて画素補間を行うのが第5の画素補間手法である。第5の画素補間手法による左パターンマッチング画像の生成例を図8に示した。
【0088】
第5の画素補間手法では、インターレース方式で撮影された1原画像における横方向に係る隣接2画素間でのみ画素補間が行われるので、3×3画素パターンの画素p11〜p33に基づいて、6補間画素値a11、a12、a21、a22、a31、a32が求められればよい。
【0089】
例えば、補間画素値a11を求める場合には、画素p11と画素p12とにより、
a11=(p11+p12)/2
の式で当該補間画素値が求められる。他の補間画素値についても、隣接する2画素値から、同様の式で求められる。
【0090】
この様に、第5の画素補間手法によれば、原画像がインターレース方式の画像である場合には、簡便な仕方でパターンマッチング画像が生成されるので、横方向の検出精度を確保したままで、処理時間を大幅に短縮することができる。
【0091】
以上に説明してきた第1乃至第5の画素補間手法を、ステレオカメラで撮影された左右の原画像から左右のパターンマッチング画像を生成するときに適用することにより、パターンマッチング処理における解像度を確保した上で、処理時間を減少させることができる。
【0092】
【発明の効果】
以上のように、本発明によれば、パターンマッチングするときに、パターンマッチング部分について、原画像から画素補間を施し、パターンマッチング画像を生成するパターンマッチング処理としたので、画像の解像度を確保したままで、パターンマッチング処理に要する時間を短縮でき、原画像をそのまま画素補間してパターンマッチング画像を保存しておく保存用メモリを設置する必要がなくなる。
【0093】
また、本発明によるパターンマッチング処理方法を、複眼測距システムに適用することにより、距離測定の精度を向上することができる。
【0094】
本発明のパターンマッチング処理方法では、大よその視差位置を特定した後に、その位置に対する画素補間したパターンマッチング画像を生成してパターンマッチングを実施したので、例えば、従来の画素補間手法では、640×480画像×2の処理が必要であったのに対し、3×3の100画像×2の処理で済むことになり、原画像の全画像を画素補間画像に置き換える処理時間を削減することができる。
【0095】
さらに、本発明のパターンマッチング処理方法では、大よその視差位置を特定した後に、その位置に対する画素補間した右パターンマッチング画像のみを生成してパターンマッチングを実施したので、例えば、従来の手法では、640×480画像の処理が必要であったのに対し、3×3の100画像の処理で済むことになり、原画像の全画像を画素補間画像に置き換える処理時間を削減することができる。
【0096】
また、本発明のパターンマッチング処理方法では、原画像から切り出した画素パターンに画素補間して、パターンマッチング画像を生成する際に、周囲画素に重み付けして平均化することにより補間画素値を求めるようにしたので、画素補間による誤差を軽減することができた。
【0097】
本発明のパターンマッチング処理方法では、原画像から切り出した画素パターンに画素補間してパターンマッチング画像を生成するとき、補間画素値が、補間位置の上下、左右の実在する画素にのみ基づいた平均値としたので、画素補間できる範囲が広くなり、正確な画素補間を行うことが可能となる。
【0098】
ステレオカメラの撮像が、特に、インターレース方式である場合には、左右の実在する画素に基づいた画素補間を実施して、パターンマッチング画像の生成をするようにしたので、正確な画素補間を可能とした。
【0099】
以上のような本発明によるパターンマッチング処理方法を、複眼測距システムに適用した画像処理装置とすることにより、車両前方の対象物体までの距離を、精度よく検出することができ、しかも、検出のためのパターンマッチング処理時間を削減することができるので、運転支援や警報のために、正確で、早い距離情報を提供することができ、車両の安全運転に資するものである。
【0100】
なお、本明細書では、説明が明確にかつ煩雑とならないように、左画像、右画像、左領域、右領域等、左右を規定して説明したが、左右の処理等を全く入れ換えても同様の動作となり、その場合も、本発明の範疇に入ることは、明白である。
【図面の簡単な説明】
【図1】本発明の第1実施形態の画素補間画像によるパターンマッチング例の様子を説明する図である。
【図2】第2実施形態の画素補間画像によるパターンマッチング例の様子を説明する図である。
【図3】第3実施形態の画素補間画像によるパターンマッチング例の様子を説明する図である。
【図4】第4実施形態の画素補間画像によるパターンマッチング例の様子を説明する図である。
【図5】本実施形態による第1の画素補間手法によるパターンマッチング画像の作成例を説明する図である。
【図6】本実施形態による第2の画素補間手法によるパターンマッチング画像の作成例を説明する図である。
【図7】本実施形態による第3及び第4の画素補間手法によるパターンマッチング画像の作成例を説明する図である。
【図8】本実施形態による第5の画素補間手法によるパターンマッチング画像の作成例を説明する図である。
【図9】左右画像による複眼測距システムの画像処理装置の概略ブロック構成を説明する図である。
【図10】パターンマッチングに用いられる左右画像の例を示す図である。
【図11】左右画像によるパターンマッチングの様子を説明する図である。
【図12】従来の画像処理における画素補間を説明する図である。
【図13】両隣接画素に基づく従来の画素補間を説明する図である。
【符号の説明】
1…左カメラ
2…右カメラ
3…画像処理装置
31…パターンマッチング部
32…距離測定部
33…物体認識ロジック部
4…車両制御装置
5…警報装置
Claims (13)
- ステレオ撮像された左画像と右画像とから、それぞれ所定範囲を有する左領域と右領域とを生成する領域生成ステップと、
前記左領域又は前記右領域に含まれる画素間に、補間画素を生成する画素生成ステップと、
前記左領域と前記右領域とによりパターンマッチングを行うパターンマッチングステップと、
を有するパターンマッチング処理方法。 - 前記パターンマッチングステップにおいて、前記補間画素を含む前記左領域及び前記右領域に基づいてパターンマッチングを行うことを特徴とする請求項1に記載のパターンマッチング処理方法。
- 前記パターンマッチングステップにおいて、前記左領域と前記補間画素を補間された前記右領域とに基づいてパターンマッチングを行うことを特徴とする請求項1に記載のパターンマッチング処理方法。
- 前記画素生成ステップにおいて、前記左領域と前記右領域とに基づくパターンマッチングによりマッチング位置が特定された画素を中心に含む左領域及び右領域に対して画素補間を行うことを特徴とする請求項1に記載のパターンマッチング処理方法。
- 前記画素生成ステップにおいて、前記左領域と前記右領域とに基づくパターンマッチングによりマッチング位置が特定された画素を中心に含む右領域に対して画素補間を行うことを特徴とする請求項1に記載のパターンマッチング処理方法。
- 前記画素生成ステップにおいて、前記左領域又は前記右領域の横方向に隣接する2画素間に画素補間した後、当該補間位置に係る縦方向に隣接する2画素間に画素補間することを特徴とする請求項1乃至5のいずれか一項に記載のパターンマッチング処理方法。
- 前記画素生成ステップにおいて、前記左領域又は前記右領域の横方向に隣接する2画素間に画素補間した後、縦方向に隣接する2画素間について、当該補間位置に係る周囲複数画素の平均値に基づいて当該補間位置に画素補間することを特徴とする請求項1乃至5のいずれか一項に記載のパターンマッチング処理方法。
- 前記画素生成ステップにおいて、前記平均値が求められるとき、当該補間位置に係る周囲複数画素に対して重み付けされることを特徴とする請求項7に記載のパターンマッチング処理方法。
- 前記画素生成ステップにおいて、前記平均値を求める対象となる当該補間位置に係る周囲画素の数が最も多い画素位置から画素補間を開始することを特徴とする請求項7又は8に記載のパターンマッチング処理方法。
- 前記画素生成ステップにおいて、当該補間位置に係る周囲複数画素における既補間画素に対して1未満の重み付けをして前記平均値を求めることを特徴とする請求項7乃至9のいずれか一項に記載のパターンマッチング処理方法。
- 前記画素生成ステップにおいて、前記左領域及び前記右領域における横方向についてのみ、相隣り合う2画素に基づいて画素補間することを特徴とする請求項1乃至5のいずれか一項に記載のパターンマッチング処理方法。
- ステレオカメラで対象物体を撮像した左画像と右画像とに基づいたパターンマッチング処理により、該画像に写し出されている前記対象物体までの距離を測定する画像処理装置であって、
前記左画像と前記右画像とから、それぞれ所定範囲を有する左領域と右領域とを生成し、該左領域又は右領域に含まれる画素間に、補間画素を生成する画素生成部と、
前記左領域と前記右領域とによりパターンマッチングを行うパターンマッチング部とを有するパターンマッチング処理部と、
前記左領域と前記右領域とによるパターンマッチングによって特定されたマッチング位置に基づく、前記左画像と前記右画像とにおける位置差から前記距離を求める距離測定部と、
を備えたことを特徴とする画像処理装置。 - 請求項1乃至11に記載のパターンマッチング処理方法によって特定されたマッチング位置に基づく前記左画像と前記右画像とにおける位置差から前記距離を求める距離測定部を備えたことを特徴とする画像処理装置。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2002223819A JP2004061446A (ja) | 2002-07-31 | 2002-07-31 | パターンマッチング処理方法及び画像処理装置 |
| US10/632,583 US7386192B2 (en) | 2002-07-31 | 2003-07-31 | Pattern-matching processing method and image processing apparatus |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2002223819A JP2004061446A (ja) | 2002-07-31 | 2002-07-31 | パターンマッチング処理方法及び画像処理装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2004061446A true JP2004061446A (ja) | 2004-02-26 |
Family
ID=31184982
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2002223819A Pending JP2004061446A (ja) | 2002-07-31 | 2002-07-31 | パターンマッチング処理方法及び画像処理装置 |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US7386192B2 (ja) |
| JP (1) | JP2004061446A (ja) |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR100911814B1 (ko) | 2007-10-08 | 2009-08-12 | 성균관대학교산학협력단 | 스테레오 영상 매칭오류 제거장치 및 이를 이용한 제거방법 |
| JP2015207278A (ja) * | 2014-04-11 | 2015-11-19 | 株式会社リコー | 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム |
| JPWO2016063545A1 (ja) * | 2014-10-24 | 2017-06-29 | 京セラ株式会社 | ステレオカメラ装置及びステレオカメラ装置を備える車両 |
| US9886648B2 (en) | 2015-02-27 | 2018-02-06 | Brother Kogyo Kabushiki Kaisha | Image processing device generating arranged image data representing arranged image in which images are arranged according to determined relative position |
| CN111161234A (zh) * | 2019-12-25 | 2020-05-15 | 北京航天控制仪器研究所 | 一种离散余弦变换测量基排序方法 |
Families Citing this family (26)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20030010717A1 (en) | 2001-07-13 | 2003-01-16 | Nx Stage Medical, Inc. | Systems and methods for handling air and/or flushing fluids in a fluid circuit |
| US7715591B2 (en) * | 2002-04-24 | 2010-05-11 | Hrl Laboratories, Llc | High-performance sensor fusion architecture |
| US7650036B2 (en) * | 2003-10-16 | 2010-01-19 | Sharp Laboratories Of America, Inc. | System and method for three-dimensional video coding |
| US7561732B1 (en) * | 2005-02-04 | 2009-07-14 | Hrl Laboratories, Llc | Method and apparatus for three-dimensional shape estimation using constrained disparity propagation |
| US9492240B2 (en) * | 2009-06-16 | 2016-11-15 | Intuitive Surgical Operations, Inc. | Virtual measurement tool for minimally invasive surgery |
| US8971597B2 (en) * | 2005-05-16 | 2015-03-03 | Intuitive Surgical Operations, Inc. | Efficient vision and kinematic data fusion for robotic surgical instruments and other applications |
| JP5041458B2 (ja) * | 2006-02-09 | 2012-10-03 | 本田技研工業株式会社 | 三次元物体を検出する装置 |
| US7984995B2 (en) * | 2006-05-24 | 2011-07-26 | Smart Technologies Ulc | Method and apparatus for inhibiting a subject's eyes from being exposed to projected light |
| US20080002878A1 (en) * | 2006-06-28 | 2008-01-03 | Somasundaram Meiyappan | Method For Fast Stereo Matching Of Images |
| JP4452951B2 (ja) * | 2006-11-02 | 2010-04-21 | 富士フイルム株式会社 | 距離画像生成方法及びその装置 |
| JP4403173B2 (ja) * | 2006-12-22 | 2010-01-20 | 富士フイルム株式会社 | 立体表示用ファイルの生成方法および装置並びに表示制御方法および装置 |
| US8830224B2 (en) * | 2008-12-31 | 2014-09-09 | Intuitive Surgical Operations, Inc. | Efficient 3-D telestration for local robotic proctoring |
| US8781159B2 (en) * | 2009-05-13 | 2014-07-15 | Applied Vision Corporation | System and method for dimensioning objects using stereoscopic imaging |
| US8284988B2 (en) * | 2009-05-13 | 2012-10-09 | Applied Vision Corporation | System and method for dimensioning objects using stereoscopic imaging |
| US9155592B2 (en) * | 2009-06-16 | 2015-10-13 | Intuitive Surgical Operations, Inc. | Virtual measurement tool for minimally invasive surgery |
| JP4957850B2 (ja) * | 2010-02-04 | 2012-06-20 | カシオ計算機株式会社 | 撮像装置、警告方法、および、プログラム |
| US8508591B2 (en) * | 2010-02-05 | 2013-08-13 | Applied Vision Corporation | System and method for estimating the height of an object using tomosynthesis-like techniques |
| EP2615837A4 (en) * | 2010-09-08 | 2014-03-19 | Nec Corp | PHOTOGRAPHY DEVICE AND PHOTOGRAPHY PROCESS |
| JP2012100129A (ja) * | 2010-11-04 | 2012-05-24 | Jvc Kenwood Corp | 画像処理方法及び画像処理装置 |
| KR20130008334A (ko) * | 2011-07-12 | 2013-01-22 | 삼성전자주식회사 | 입체 영상 표시 제어를 위한 주시각 제어 방법 및 이를 지원하는 단말기 |
| US8526677B1 (en) * | 2012-07-16 | 2013-09-03 | Google Inc. | Stereoscopic camera with haptic feedback for object and location detection |
| CN108305216B (zh) * | 2018-03-15 | 2021-07-30 | 嘉兴学院 | 一种双边四次插值的图像放大方法 |
| JP2020034465A (ja) * | 2018-08-31 | 2020-03-05 | ソニー株式会社 | 情報処理装置、情報処理方法及びプログラム |
| WO2020047863A1 (zh) * | 2018-09-07 | 2020-03-12 | 深圳配天智能技术研究院有限公司 | 一种测量距离的方法及装置 |
| CN108827281B (zh) * | 2018-09-14 | 2022-06-24 | 上海航天控制技术研究所 | 一种星敏感器的组合成像驱动方法 |
| JP7735265B2 (ja) | 2019-11-14 | 2025-09-08 | アセンサス・サージカル・ユーエス,インコーポレイテッド | 手術部位測定を提供する方法及びシステム |
Family Cites Families (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPS62282377A (ja) | 1986-05-30 | 1987-12-08 | Fujitsu Ltd | 補間付き画像拡大処理回路 |
| JPH0540828A (ja) | 1991-08-05 | 1993-02-19 | Fujitsu Ltd | ブロツクマツチング探索方式 |
| US6822563B2 (en) * | 1997-09-22 | 2004-11-23 | Donnelly Corporation | Vehicle imaging system with accessory control |
| DE69431791T2 (de) * | 1993-07-31 | 2003-07-17 | Sony Corp | Vorrichtung und verfahren zur automatischen bildentzerrung |
| JP3775535B2 (ja) | 1997-08-01 | 2006-05-17 | ソニー株式会社 | 画像処理装置、画像処理方法、および、記録媒体 |
| JPH11203476A (ja) | 1998-01-19 | 1999-07-30 | Oki Electric Ind Co Ltd | エピポーララインの合わせ方法、ステレオ画像装置 |
| JP3917285B2 (ja) | 1998-02-18 | 2007-05-23 | 富士重工業株式会社 | ステレオ画像処理装置 |
| JP2000283753A (ja) | 1999-03-31 | 2000-10-13 | Fuji Heavy Ind Ltd | ステレオ画像による測距装置 |
| JP4391624B2 (ja) * | 1999-06-16 | 2009-12-24 | 本田技研工業株式会社 | 物体認識装置 |
| JP3261115B2 (ja) * | 1999-09-22 | 2002-02-25 | 富士重工業株式会社 | ステレオ画像処理装置 |
| JP4547752B2 (ja) | 2000-01-14 | 2010-09-22 | ソニー株式会社 | 画像処理装置および方法、並びに記録媒体 |
| JP4672175B2 (ja) * | 2000-05-26 | 2011-04-20 | 本田技研工業株式会社 | 位置検出装置、位置検出方法、及び位置検出プログラム |
| JP2002158867A (ja) | 2000-11-16 | 2002-05-31 | Seiko Epson Corp | ディジタル画像変倍方法およびディジタル画像変倍処理プログラムを記録した記録媒体 |
| US20030059089A1 (en) * | 2001-09-25 | 2003-03-27 | Quinlan James E. | Block matching at the fractional pixel level for motion estimation |
| MXPA04006814A (es) * | 2002-01-14 | 2004-12-06 | Nokia Corp | Filtros dinamicos de codificacion. |
-
2002
- 2002-07-31 JP JP2002223819A patent/JP2004061446A/ja active Pending
-
2003
- 2003-07-31 US US10/632,583 patent/US7386192B2/en not_active Expired - Fee Related
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR100911814B1 (ko) | 2007-10-08 | 2009-08-12 | 성균관대학교산학협력단 | 스테레오 영상 매칭오류 제거장치 및 이를 이용한 제거방법 |
| JP2015207278A (ja) * | 2014-04-11 | 2015-11-19 | 株式会社リコー | 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム |
| JPWO2016063545A1 (ja) * | 2014-10-24 | 2017-06-29 | 京セラ株式会社 | ステレオカメラ装置及びステレオカメラ装置を備える車両 |
| US9886648B2 (en) | 2015-02-27 | 2018-02-06 | Brother Kogyo Kabushiki Kaisha | Image processing device generating arranged image data representing arranged image in which images are arranged according to determined relative position |
| CN111161234A (zh) * | 2019-12-25 | 2020-05-15 | 北京航天控制仪器研究所 | 一种离散余弦变换测量基排序方法 |
| CN111161234B (zh) * | 2019-12-25 | 2023-02-28 | 北京航天控制仪器研究所 | 一种离散余弦变换测量基排序方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| US20040022418A1 (en) | 2004-02-05 |
| US7386192B2 (en) | 2008-06-10 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2004061446A (ja) | パターンマッチング処理方法及び画像処理装置 | |
| JP4172554B2 (ja) | ステレオカメラの調整装置 | |
| CN111145342A (zh) | 一种双目散斑结构光三维重建方法及系统 | |
| JP6561512B2 (ja) | 視差値導出装置、移動体、ロボット、視差値導出方法、視差値生産方法及びプログラム | |
| US20120169840A1 (en) | Image Processing Device and Method, and Program | |
| KR20140000195A (ko) | 입체 카메라를 위한 자동초점 | |
| JP3255360B2 (ja) | 距離データの検査方法およびその検査装置 | |
| US20200358962A1 (en) | Image Processing Device | |
| KR101066550B1 (ko) | 가상시점 영상 생성방법 및 그 장치 | |
| JP2014074632A (ja) | 車載ステレオカメラの校正装置及び校正方法 | |
| JP2014090233A (ja) | 画像処理装置 | |
| US20140241637A1 (en) | Apparatus and method for real-time capable disparity estimation for virtual view rendering suitable for multi-threaded execution | |
| KR101272574B1 (ko) | 구조광 패턴 기반의 3차원 영상 정보 추정 장치 및 방법 | |
| JP6455164B2 (ja) | 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム | |
| JP2000283753A (ja) | ステレオ画像による測距装置 | |
| JP2000121319A5 (ja) | 画像処理装置および画像処理方法、並びに記録媒体 | |
| JP3988574B2 (ja) | 画像処理装置 | |
| EP2913999A1 (en) | Disparity value deriving device, equipment control system, movable apparatus, robot, disparity value deriving method, and computer-readable storage medium | |
| JP3599255B2 (ja) | 車両用環境認識装置 | |
| US10726528B2 (en) | Image processing apparatus and image processing method for image picked up by two cameras | |
| JPH11125522A (ja) | 画像処理装置および方法 | |
| KR101435611B1 (ko) | 3차원 집적영상의 가려짐 문제 해결방법 | |
| JP2002077941A (ja) | 奥行き画像生成装置、奥行き画像生成方法およびその方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体 | |
| JP4021036B2 (ja) | ステレオ画像処理装置 | |
| JP6459487B2 (ja) | 画像処理装置、画像処理方法およびプログラム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050714 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070518 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070619 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070810 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080219 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080416 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080715 |