JP3615050B2 - Interpolation apparatus and imaging apparatus using the same - Google Patents
Interpolation apparatus and imaging apparatus using the same Download PDFInfo
- Publication number
- JP3615050B2 JP3615050B2 JP11368098A JP11368098A JP3615050B2 JP 3615050 B2 JP3615050 B2 JP 3615050B2 JP 11368098 A JP11368098 A JP 11368098A JP 11368098 A JP11368098 A JP 11368098A JP 3615050 B2 JP3615050 B2 JP 3615050B2
- Authority
- JP
- Japan
- Prior art keywords
- interpolation
- data
- output
- circuit
- original data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Studio Circuits (AREA)
- Editing Of Facsimile Originals (AREA)
- Studio Devices (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は信号の補間装置並びにこれを用いた撮像装置に関するものである。本発明は特に撮影した画像の拡大、縮小を行う電子ズーム装置を備えた撮像装置に応用して好適なものである。
【0002】
【従来の技術】
従来の補間装置としては、最近傍法(もっとも近い点の濃度値を選択する)や線形補間法(近傍4点から線形補間する)を採用している。これら最近傍法や線形補間方法については、オーム社 八木他共著「C言語で学ぶ実践画像処理」に記載されている。
【0003】
【発明が解決しようとする課題】
画像の拡大、又は縮小を行う電子ズーム装置に上記の補間装置を用いた場合にはf特が低下する結果、尖鋭感が低下し解像度も低下する。このため、結果的にぼけた感じに見える。特に斜線や円を拡大するとそれが顕著に現れる。
本発明の目的は、尖鋭感の低下を防止した補間装置を提供することにある。
本発明の他の目的は、異なる補間手段から得られた補間データを適宜に切替えて利用することによって、解像度低下を防止することのできる補間装置並びにこれを用いた撮像装置を提供することにある。
【0004】
【課題を解決するための手段】
本発明の補間装置においては、生成される補間データの前に発生する補間用元データから外挿点を求めそれを補間データとする第1の補間手段と、生成される補間データの後に発生する補間用元データから外挿点を求めそれを補間データとする第2の補間手段とを備えている。更に本発明においては、生成される補間データの前後の補間用元データを用いて補間データを生成する第3の補間手段が用いられる。
複数の補間手段の出力は選択手段によって切換えられる。選択手段は演算手段を有しており、第3の補間手段の出力と他の補間手段の出力の演算が行われる。演算手段の出力と第3の補間手段の出力が選択手段で選択されて出力される。更に、補間用元データの並びから選択手段を制御する制御手段が設けられる。
本発明の補間装置を用いた撮像装置ではズーム制御手段が補間手段に供給され、補間データの生成に利用される。
【0005】
【発明の実施の形態】
以下、本発明の実施の形態について、幾つかの実施例を用いて説明する。
図9は適応補間方法を示す模式図である。図において、横軸は画素信号の出る順番POを示し、縦軸は画素の信号レベルVを示す。図9を用いて適応補間処理について詳しく説明する。以下3点の補間について説明するが、これは4倍ズーム拡大に匹敵する。
図9において、黒玉は補間に用いられる画素サンプルデータであり、画素サンプルはA、B、C、Dの順に出力される。この画素サンプルデータA、Bは生成される補間データの前に発生する補間用元データであり、画素サンプルデータC、Dは生成される補間データの後に発生する補間用元データである。にまた、画素サンプルデータの黒玉Aと黒玉Bを結ぶ線の傾きをta、画素サンプルデータの黒玉Cと黒玉Dを結んだ線の傾きをtb、また、画素サンプルデータの黒玉Bと黒玉Cを結んだ線の傾きをtkとする。今、画素サンプルデータの黒玉Bと黒玉Cの補間を行なう。補間データの位置を図のように左からa,b,cとする。
【0006】
例えば、点aの補間データを求める。まず、点aの位置の傾きtaの線上の白抜き四角点(白角点)と傾きtbの線上の黒四角点(黒角点)の値を求める。ここで白角点が前の補間用元データ(画素サンプルデータの黒玉A)と現在の補間用元データ(画素サンプルデータの黒玉B)から生成された補間データであり、これを前傾斜補間データと呼ぶ。また、黒四角点は現在の補間用元データ(画素サンプルデータの黒玉C)と後の補間用元データ(画素サンプルデータ黒玉D)から生成された補間データであり、これを後傾斜補間データと呼ぶ。図9のように上に凸のデータの並びであれば、今求めたデータのうち小さい方を選択し、それを点aの位置の補間データとする。同様にして点b、cの位置の補間データを求める。よって、この場合点a,bの補間データは傾きtaの線上の白角点、点cの補間データは傾きtbの線上の黒角点となる。当然、下に凸のデータの並びであればデータの大きい方を選択することになる。このような補間方法を傾斜補間と呼ぶ。ちなみに線形補間を行なった場合の補間データは傾きtk上の白丸の点になる。
【0007】
以上のように傾斜補間を行なうことによって線形補間データ(白丸点)の並びよりも自然なデータの流れで補間が可能となる。また、傾斜補間データと線形補間データから何らかの条件で内挿点を求めて、それを補間データとしてもよい。しかし、補間用の画素サンプルデータの黒玉A,B,C,Dの位置によっては大小だけでは判定できない場合もででくる。また画素サンプルデータの並びによってはリニア補間の方が良い場合もある。
そこで画素サンプルデータの並びのパターンを考慮することによって傾斜補間不可能な条件、もしくは行わない方が良い条件、つまり傾斜補間禁止条件を考えてみる。
【0008】
様々なパターンが考えられるが、傾きtkで区別して導き出すと、図10A、図10B、図10Cで示すようになる。
図10A、図10B、図10Cはそれぞれ画素サンプルデータの並びのパターンの種類を示した模式図であり、画素サンプルデータの黒玉B、Cの傾きtk=0、tk>0、tk<0の場合を示す。図10Aから図10Cにおいて、▲1▼、▲2▼、▲3▼、▲4▼は画素サンプルデータ、tkは画素サンプルデータ▲2▼と▲3▼の傾き、大きな丸で囲ったパターンは傾斜補間が可能なパターンである。
図に示すように、パターンの種類は全部で59個のパターンが考えられる。59個のうち丸の付いた14個のパターンが傾斜補間可能なパターンである。残りのパターンは線形補間が適当である。図10A,10B、図10Cから傾斜補間可能なパターンは、データの並びが上に凸か下に凸かに大別できることが分かる。
【0009】
ここで傾斜補間が不可能、もしくは行わない方がよい条件である禁止条件を傾きta,tk,tbであらわすと、以下の式になる。
【0010】
【数1】
【0011】
【数2】
【0012】
【数3】
【0013】
【数4】
【0014】
【数5】
【0015】
【数6】
【0016】
または、
【0017】
【数7】
【0018】
なお、上記の数式において、「&&」は「かつ」を意味する。例えば、ta>=0&&tb<=0は傾きtaが0以上でかつ傾きtbが0以下であることを示す。また、「||」は「または」を意味する。例えば、tk<0||(ta>=tk&&tb>=tk)は傾きtkが0より小さいか、又は傾きtaが傾きtk以上でかつ傾きtbが傾きtk以上の場合を示す。更に、「!」は否定を表わす。数7の場合は外側の()内の条件でない場合を示す。
したがって、数1〜数6までの条件又は数7の条件の時は線形補間を行い、それ以外の場合には傾斜補間を行うことが適当であることが分かる。
上記の条件を判定することにより線形補間と傾斜補間の適応的補間、すなわち画素サンプルデータの並びによって適切な補間を行うことができる。こうすることで尖鋭感低下を防止できるのでより原画に近い画を出力するズーム処理が可能となる。また解像度の低下も防止できる。
例えば、図11の画素状態を示す模式図において、画素を黒の四角で示すと、斜線を縦横2倍に拡大した場合、図11(a)に示す斜線の元データを線形補間した場合には図11(b)に示すように全体的にぼけた感じになるが、傾斜補間では図11(c)に示すように斜線がはっきりする。このように傾斜補間を用いることによって、斜線を拡大した時のぼけが減少される。
【0019】
以下、線形補間装置と傾斜補間装置を内蔵した撮像装置の一実施例について図1、図2、図3、図4、図5、図9を用いて説明する。
図1は本発明による補間装置の第1の実施例を用いた撮像装置のブロック図である。第1図において、破線の内部は補間装置を含む電子ズーム装置100である。1は光電変換を行う撮像素子、2は撮像素子1からのアナログの信号をてディジタル信号に変換するA/Dコンバータ、3はカメラの一般的な信号処理を行うカメラ信号処理回路、4は輝度と色の信号を1ラインごとに蓄えておくラインメモリ、5は線形補間を行なうのか傾斜補間を行なうのかを判定する禁止条件判定回路、6は補間の際に必要な係数を算出するズーム制御回路、7は前のデータから補間データを算出する前傾斜補間回路、8は後のデータから補間データを算出する後傾斜補間回路、9はデータの並びを判定して前傾斜補間データか後傾斜補間データのどちらかを選択する補間判定回路、10は距離に反比例した重みをつけて補間を行う線形補間回路、11は禁止条件によって線形補間回路10からの線形補間データか補間判定回路9からの傾斜補間データかを選択する選択回路である。
【0020】
以上のように構成された撮像装置について以下その動作について説明する。
撮像素子1によって光電変換された映像信号は、A/Dコンバータ2でディジタル信号に変換された後、カメラ信号処理回路3によって輝度信号と色差信号に変換される。垂直方向の補間を行なう為にこの輝度信号と色差信号は一旦ラインメモリ4に書き込まれ、ラインメモリ4から読み出された出力は禁止条件判定回路5に入力される。
【0021】
図2は禁止条件判定回路の一実施例を示すブロック図である。図において、禁止条件判定回路の入力端子50に入力された輝度信号と色信号は保持回路511、512、513にそれぞれ蓄えられる。ここで現在の信号をu、保持回路511に蓄えられた信号をt、保持回路512に蓄えられた信号をs、保持回路513に蓄えられた信号をrとする。ここでr,s,t,uはそれぞれ図9の画素サンプルデータA,B,C,Dに対応する。以下信号sと信号tの補間データを求める場合を示す。sとtはそれぞれ出力端子56、57にも出力される。
【0022】
まず、後からのデータの流れを考慮する為に後傾斜演算回路52で信号tと信号uの信号レベルの傾きを算出し(図9の傾きtbに対応)、また前からのデータの流れを考慮する為に前傾斜演算回路54で信号rと信号sの信号レベルの傾きを算出(図9の傾きtaに対応)する。同時に禁止条件判定の為に傾斜演算回路53で信号sと信号tの信号レベルの傾きを算出(図9の傾きtkに対応)する。以上求めた3つの信号レベルの傾きをそれぞれtb,ta,tkとする。条件判定回路55では傾きtb,ta,tkによって傾斜補間が可能かどうかを判断する。判定条件は前に延べた数1〜数6(又は数7)の式を用いる。
【0023】
数1から数6(又は数7)の条件式を満たす場合は傾斜補間が不可能、もしくはふさわしくない場合ということで条件判定回路55は、図1の選択回路11で線形補間回路10の出力が選択されるような信号を出力端子58に出力する。もし数1〜数6(又は数7)を満たさない場合は、選択回路11で補間判定回路9の出力が選択されるような信号を出力端子58に出力する。この時、補間判定回路9の出力には傾斜補間によって求められた正しい補間データが選択され出力される。また、後傾斜演算回路52の出力である傾きtbは出力端子520に、前傾斜演算回路54の出力である傾きtaは出力端子540に出力される。出力端子56から出力された信号sは、図1の線形補間回路10と前傾斜補間回路7に入力される。出力端子57から出力された信号tは、図1の線形補間回路10と後傾斜補間回路8に入力される。出力端子540から出力された傾きtaは、図1の補間判定回路9と前傾斜補間回路7に入力される。出力端子520から出力された傾きtbは、図1の補間判定回路9と後傾斜補間回路8に入力される。また、図9における補間の位置a,b,cに対応するデータ、つまりaの位置であれば画素サンプルデータBからaまでの距離データ、もしくはaから画素サンプルデータCまでの距離データが補間演算には必要である。それをズーム制御回路6で算出し、その結果を線形補間回路10、前傾斜補間回路7、後傾斜補間回路8に入力する。ここでズーム制御回路6で算出された結果を補間係数Xと呼ぶ。線形補間回路10では入力された信号sと信号tと補間係数Xによって補間データIを算出する。
【0024】
例えば、求める補間データから信号tまでの補間係数(距離)をXとした場合、求める補間データIは以下の式で算出すればよい。
I=s・X+t・(1−X)=t+(s−t)・X …数8
この時、信号sと信号tの距離を1とすれば0<X<1であるが、実際の回路では補間用元データの信号間の距離を1に正規化せず、例えば256としてもよい。線形補間回路10は上記で示した式を満たすように組めばよい。算出された補間データIは選択回路11に入力される。
同時に前傾斜補間回路7と後傾斜補間回路8でそれぞれ補間データを算出する。
【0025】
図3は前傾斜補間回路の一実施例を示したブロック図であり、図において、入力端子70から入力された補間係数Xを減算回路74で(1−X)に変換した後、乗算回路71で入力端子540から入力された傾きtaに掛ける。その出力と入力端子56から入力された信号sを加算回路72で加算する。この加算結果が前からの情報を用いた前傾斜補間データIaとなる。前傾斜補間データIaを式で表わすと、数9のようになる。
Ia=s+ta(1−X) …数9
このようにして求められた前傾斜補間データIaは出力端子73を通して補間判定回路9に入力される。
【0026】
図4は後傾斜補間回路の一実施例を示すブロック図であり、乗算回路81で入力端子80から入力された補間係数Xを入力端子520から入力された傾きtbに掛ける。乗算回路81出力を入力端子57から入力された信号tから減算回路82で減算する。この減算結果が後からの情報を用いた後傾斜補間データIbとなる。式で表現すると数10のようになる。
Ib=t−tb・X …数10
このようにして求められた後傾斜補間データIbは出力端子83を通して図1の補間判定回路9に入力される。また、前傾斜補間回路7内の減算回路74は、ズーム制御回路6が出力する補間係数Xの設定によって後傾斜補間回路8に内蔵する場合もある。
【0027】
図5は補間判定回路の一実施例を示すブロック図であり、図に示す補間判定回路では補間用元データの並びによって前傾斜補間データIaを取るか、後傾斜補間Ibのデータを取るかの判定を行なう。
まず、入力端子520から入力された傾きtbと入力端子540から入力された傾きtaを上下判定回路91に入力する。傾斜補間が可能なデータの並びは上に凸か下に凸かに大別される。例えば図9のようなデータA、B、C、Dの並びは上に凸である。上下判定回路91では上に凸であれば0を、下に凸であれば1を出力する。それと同時に入力端子73から入力された前傾斜補間データIaと入力端子83から入力された後傾斜補間データIbを比較回路90で大小比較を行なう。いま図9のように上に凸だとすると、比較回路90は、Ia<=Ibの関係ならば選択回路93でIaを出力するような信号を出力し、Ia>=Ibの関係ならば選択回路93でIbを出力するような信号を出力する。こうすることによって、信号の流れにあった正しい補間データが選択できる。EOR回路92は2入力の排他的論理和のゲートで構成されており、一方の値が0ならばもう一方の値はスルーで出力され、また一方の値が1ならばもう一方の値は反転して出力される。今データの並びが上に凸とすると、上下判定回路91の出力は0なので、EOR回路92は比較回路90の信号をスルーで出力することになる。又、下に凸だとすると、上下判定回路91の出力は1なので、EOR回路92は比較回路90の信号を反転して出力することになる。つまり、下に凸の場合にはIa<=Ibの関係ならば選択回路93でIbを出力し、またIa>=Ibの関係ならば選択回路93でIaを出力する。このようにEOR回路92によってデータの並びが上に凸の時も下に凸の時もデータの並びにあった正しい補間データが得られる。このように選択された正しい傾斜補間信号は出力端子94を通して、図1の選択回路11に入力される。選択回路11は禁止条件判定回路5が出力する信号によって禁止条件を満たせば線形補間回路10の出力を、満たさなければ補間判定回路9の出力を選択する。以上の一連の動作は輝度信号、色信号に共通である。また、ラインメモリ4を3本で構成することによって垂直方向の補間も可能となる。
【0028】
以上のように、第1の実施例によれば、補間データを適応的に切替えることによって、映像信号のデータの流れにあった補間が可能となり尖鋭感の低下を防止でき、結果的に解像度低下防止にもなる。そのため電子ズームで倍率を上げたときのぼけが防止できる。
【0029】
次に、図6を用いて第2の実施例について示す。
図6は本発明による補間装置の第2の実施例を用いた撮像装置のロック図であり、図1の撮像装置の電子ズーム装置100に対応したブロックを示している。図6のブロックの内、図1のブロックと同じ機能を有するブロックには同じ番号を付た。内挿回路20には、線形補間回路10の出力と補間判定回路9の出力が入力される。マイコン21は内挿演算の為の係数を内挿回路20に入力する。
また、禁止条件判定回路5が出力する線形補間データか傾斜補間データのどちらかを選択する信号を内挿回路20に入力する。第1の実施例のように傾斜補間のデータだけを利用すると尖鋭度が高くなりすぎる場合がある。例えば図9のように上に凸の場合、傾きtaが1よりも大きくなればなるほど、又は傾きtbの絶対値が1よりも大きくなればなるほど、求める補間データは補間用元データの流れからかけ離れていってしまう。そこで内挿回路20では、あらためて線形補間データと傾斜補間データの内挿点、すなわち線形補間データと傾斜補間データの間の値を求め、それを補間データとする。その内挿の度合いをマイコン21で設定することによって極端な尖鋭をなくすことができる。例えばマイコン21で線形補間データと傾斜補間データの中間付近に内挿点が来る為の係数を設定すると、極端な尖鋭感はなくなり、かつある程度の尖鋭度も維持することができる。内挿の計算方法は、線形補間回路10の補間算出方法と同様に距離に反比例した重みを利用したものでよい。
【0030】
内挿回路20において、全ての場合に内挿演算を行うわけではなく、内挿演算は禁止条件を満たしていない時にのみ行われる。禁止条件を満たす場合は線形補間のデータをそのまま出力する。したがって、内挿回路20には内挿演算を行った結果のデータと線形補間データとを選択する選択回路が含まれている。
【0031】
以上のように第2の実施例によれば、傾斜補間を行う時に線形補間データと傾斜補間データの間の値を取ることで極端な尖鋭感を防止できるので画面上の目障りなエッジ強調部分が目立たなくなる。
【0032】
このように、この実施例においては、傾斜補間を行う時に線形補間データと傾斜補間データの間の値を取っているので、極端な尖鋭感を防止できるので画面上の目障りなエッジ強調部分を目立たなくさせることができる。
【0033】
次に図7を用いて第3の実施例について示す。
図7は本発明による補間装置の第3の実施例を用いた撮像装置のブロック図である。図7は図6の内挿回路20を可変内挿回路31に変更し、形判定回路30を追加した点が図5のブロック図と異なる。図7において、図6のブロックと同じ機能を有するブロックには共通の同じ番号を付けている。
第2の実施例によると線形補間データと傾斜補間データの内挿点を利用することによって極端な尖鋭をなくすことができるが、内挿点を線形補間データに近い値に設定にしなければ効果が無い。しかし、内挿点が線形補間データに近い値に設定された場合、画面全体の尖鋭感が低下してしまう場合がある。そこで傾きta,tbの絶対値が大きい時には実施例2のように内挿点を補間データとするが、傾きta,tbの絶対値があまり大きくない場合には傾斜補間データを補間データとする。傾きが大きいか小さいかは、ここでは傾き1をスレッシュ値として判断する。もちろんこのスレッシュ値は1に限ることはない。
【0034】
具体的には、図9のようにデータの並びが上に凸の場合、ta>1,|tb|>1であるならば元データの流れからかけ離れていると判断して、その時は線形補間と傾斜補間の内挿点を選択するようにする。上記条件以外の場合は傾斜補間データを選択するようにする。また、同様に下に凸の場合は、|ta|>1,tb>1であるならば元データの流れからかけ離れていると判断して、その時は線形補間と傾斜補間の内挿点を選択するようにする。上記条件以外の場合は傾斜補間データを選択するようにする。形判定回路30は、禁止条件判定回路5の出力の傾きta,tbを基に上記述べた判定を行ない可変内挿回路31で正しい補間データが選択されるような信号を出力する。
【0035】
図8は可変内挿回路の一実施例を示すブロック図である。図において、入力端子311には線形回路10から出力された線形補間データが入力される。入力端子312にはマイコンが出力する内挿係数が入力される。入力端子94には補間判定回路9が出力する傾斜補間データが入力される。線形補間データと内挿係数と傾斜補間データから内挿演算回路314では内挿点を算出する。この時の演算は線形補間回路10で行われている補間処理と同様にして行うことができる。選択回路315は入力端子313に入力される形判定回路30の出力によって、内挿演算回路314の出力と傾斜補間データのどちらかを選択する。選択回路315は、形判定回路30で元データの流れからかけ離れていると判断した場合、内挿演算回路314の出力を選択することで余計な尖鋭感を押さえ、元データの流れからかけ離れていないと判断した場合は傾斜補間データを選択し尖鋭感を引き立てることができる。選択回路316は入力端子58に入力された禁止条件判定回路5の出力によって線形補間データか選択回路315の出力のどちらかを出力端子317に出力する。つまり、選択回路316は、禁止条件を満たす時は線形補間データを選択し、満たさない時は選択回路315の出力を選択する。以上のように第3の実施例では、元データの流れを判定した結果によって補間方法を切替えているので、余計な尖鋭感は押えられ、内挿点の設定により適度な尖鋭感も保つことができるので画面全体がしまってみえる。
【0036】
このように、この実施例によると、元データの流れを判定した結果から補間方法を切替えることによって、余計な尖鋭感は押えられ、内挿点の設定により適度な尖鋭感も保つことができるので画面全体がしまってみえる。
【0037】
【発明の効果】
以上説明したように、本発明によれば異なる補間手段から得られた補間データを適応的に切替えることによって映像信号のデータの流れにあった補間が可能となり尖鋭感の低下を防止でき、結果的に解像度低下を防止することができる。そのため電子ズームで倍率を上げたときのぼけが防止できる。
【図面の簡単な説明】
【図1】本発明による補間装置の第1の実施例を用いた撮像装置のブロック図である。
【図2】図1の禁止条件判定回路の一実施例を示すブロック図である。
【図3】図1の前傾斜補間回路の一実施例を示すブロック図である。
【図4】図1の後傾斜補間回路の一実施例を示すブロック図である。
【図5】図1の補間判定回路の一実施例を示すブロック図である。
【図6】本発明による補間装置の第2の実施例を用いた撮像装置のブロック図である。
【図7】本発明による補間装置の第3の実施例を用いた撮像装置のブロック図である。
【図8】図7の可変内挿回路の一実施例を示すブロック図である。
【図9】適応補間方法を示す模式図である。
【図10A】画素サンプルデータの並びのパターンを示した模式図である。
【図10B】画素サンプルデータの並びのパターンを示した模式図である。
【図10C】画素サンプルデータの並びのパターンを示した模式図である。
【図11】画素の状態を示す模式図である。
【符号の説明】
1…撮像素子、2…A/Dコンバータ、3…カメラ信号処理回路、4…ラインメモリ、5…禁止条件判定回路、6…ズーム制御回路、7…前傾斜補間回路、8…後傾斜補間回路、9…補間判定回路、10…線形補間回路、11…選択回路、100…電子ズーム装置、20…内挿回路、21…マイコン、30…形判定回路、31…可変内挿回路、314…内挿演算回路、315、316…選択回路、511,512,513…保持回路、52…後傾斜演算回路、53…傾斜演算回路、54…前傾斜演算回路、55…条件判定回路、71…乗算回路、72…加算回路、74…減算回路、81…乗算回路、82…減算回路、91…上下判定回路、92…EOR回路、93…選択回路。[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a signal interpolation apparatus and an imaging apparatus using the same. The present invention is particularly suitable for application to an image pickup apparatus having an electronic zoom device for enlarging and reducing a photographed image.
[0002]
[Prior art]
As a conventional interpolation apparatus, a nearest neighbor method (selecting the density value of the closest point) or a linear interpolation method (linear interpolation from four neighboring points) is adopted. The nearest neighbor method and the linear interpolation method are described in “Practical image processing learned in C language” written by Ohm Yagi et al.
[0003]
[Problems to be solved by the invention]
When the above-described interpolating device is used in an electronic zoom device for enlarging or reducing an image, the f-characteristic is reduced, resulting in a reduction in sharpness and a reduction in resolution. As a result, it looks blurred. In particular, when diagonal lines and circles are enlarged, they become prominent.
An object of the present invention is to provide an interpolating device that prevents a reduction in sharpness.
Another object of the present invention is to provide an interpolation apparatus capable of preventing a reduction in resolution by appropriately switching and using interpolation data obtained from different interpolation means, and an imaging apparatus using the same. .
[0004]
[Means for Solving the Problems]
In the interpolation apparatus of the present invention, the first interpolation means that obtains an extrapolation point from the original interpolation data generated before the generated interpolation data and uses it as the interpolation data, is generated after the generated interpolation data. Second interpolation means for obtaining an extrapolation point from the interpolation original data and using it as interpolation data. Furthermore, in the present invention, the third interpolation means for generating the interpolation data using the original interpolation data before and after the generated interpolation data is used.
The outputs of the plurality of interpolation means are switched by the selection means. The selection means has calculation means, and the calculation of the output of the third interpolation means and the output of the other interpolation means is performed. The output of the calculation means and the output of the third interpolation means are selected by the selection means and output. Furthermore, a control means for controlling the selection means from the arrangement of the interpolation original data is provided.
In the image pickup apparatus using the interpolation apparatus of the present invention, the zoom control means is supplied to the interpolation means and used to generate interpolation data.
[0005]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to some examples.
FIG. 9 is a schematic diagram showing an adaptive interpolation method. In the figure, the horizontal axis indicates the order PO in which pixel signals appear, and the vertical axis indicates the signal level V of the pixels. The adaptive interpolation process will be described in detail with reference to FIG. In the following, three-point interpolation will be described, which is equivalent to 4 × zoom magnification.
In FIG. 9, black balls are pixel sample data used for interpolation, and pixel samples are output in the order of A, B, C, and D. The pixel sample data A and B are interpolation original data generated before the generated interpolation data, and the pixel sample data C and D are interpolation original data generated after the generated interpolation data. In addition, the inclination of the line connecting the black sample A and the black ball B of the pixel sample data is ta, the inclination of the line connecting the black ball C and the black ball D of the pixel sample data is tb, and the black ball of the pixel sample data Let tk be the slope of the line connecting B and black ball C. Now, the interpolation of the black ball B and the black ball C of the pixel sample data is performed. The positions of the interpolation data are a, b, and c from the left as shown in the figure.
[0006]
For example, the interpolation data of the point a is obtained. First, the values of the white square point (white corner point) on the line of the inclination ta at the position of the point a and the black square point (black corner point) on the line of the inclination tb are obtained. Here, the white angle point is interpolation data generated from the previous interpolation original data (pixel sample data black ball A) and the current interpolation original data (pixel sample data black ball B). This is called interpolation data. The black square points are interpolation data generated from the current original data for interpolation (black sample C of pixel sample data) and the subsequent original data for interpolation (pixel sample data black ball D). Called data. As shown in FIG. 9, if the data is convex upward, the smaller one of the obtained data is selected and used as interpolation data at the position of point a. Similarly, interpolation data at the positions of points b and c are obtained. Therefore, in this case, the interpolation data at the points a and b are white corner points on the line with the inclination ta, and the interpolation data at the point c is black point on the line with the inclination tb. Of course, if the data is convex downward, the larger data is selected. Such an interpolation method is called gradient interpolation. Incidentally, the interpolation data when linear interpolation is performed is a white circle on the slope tk.
[0007]
By performing the slope interpolation as described above, the interpolation can be performed with a natural data flow rather than the arrangement of the linear interpolation data (white circle points). Alternatively, an interpolation point may be obtained from the slope interpolation data and the linear interpolation data under some condition and used as the interpolation data. However, depending on the position of the black balls A, B, C, and D of the pixel sample data for interpolation, there may be cases where determination cannot be made based on the size alone. Depending on the arrangement of pixel sample data, linear interpolation may be better.
Therefore, by considering the arrangement pattern of the pixel sample data, let us consider a condition incapable of performing slope interpolation, or a condition that should not be performed, that is, a condition for prohibiting slope interpolation.
[0008]
Although various patterns are conceivable, when differentiating them by the inclination tk, they are as shown in FIGS. 10A, 10B, and 10C.
FIG. 10A, FIG. 10B, and FIG. 10C are schematic diagrams showing the types of pattern of pixel sample data, and the slopes tk = 0, tk> 0, and tk <0 of black balls B and C of the pixel sample data. Show the case. 10A to 10C, (1), (2), (3), and (4) are pixel sample data, tk is the inclination of pixel sample data (2) and (3), and the pattern surrounded by a large circle is an inclination It is a pattern that can be interpolated.
As shown in the figure, 59 types of patterns can be considered in total. Of 59 patterns, 14 patterns with circles are patterns capable of gradient interpolation. Linear interpolation is appropriate for the remaining patterns. 10A, 10B, and 10C, it can be understood that the patterns that can be subjected to the slope interpolation can be roughly classified into whether the data arrangement is convex upward or downward.
[0009]
Here, when the forbidden condition, which is a condition under which tilt interpolation is impossible or better not to be performed, is represented by the slopes ta, tk, and tb, the following expression is obtained.
[0010]
[Expression 1]
[0011]
[Expression 2]
[0012]
[Equation 3]
[0013]
[Expression 4]
[0014]
[Equation 5]
[0015]
[Formula 6]
[0016]
Or
[0017]
[Expression 7]
[0018]
In the above formula, “&&” means “and”. For example, ta> = 0 && tb <= 0 indicates that the slope ta is 0 or more and the slope tb is 0 or less. “||” means “or”. For example, tk <0 || (ta> = tk &&tb> = tk) indicates a case where the slope tk is smaller than 0, or the slope ta is greater than or equal to the slope tk and the slope tb is greater than or equal to the slope tk. Furthermore, “!” Represents negation. The case of
Therefore, it can be seen that it is appropriate to perform linear interpolation when the conditions of
By determining the above conditions, it is possible to perform appropriate interpolation based on the adaptive interpolation of linear interpolation and gradient interpolation, that is, the arrangement of pixel sample data. By doing so, the sharpness can be prevented from being lowered, so that zoom processing for outputting an image closer to the original image becomes possible. In addition, a reduction in resolution can be prevented.
For example, in the schematic diagram showing the pixel state of FIG. 11, when the pixel is indicated by a black square, when the diagonal line is enlarged two times vertically and horizontally, the original data of the diagonal line shown in FIG. As shown in FIG. 11 (b), the overall feeling is blurred, but in the slope interpolation, the diagonal lines are clear as shown in FIG. 11 (c). By using the slope interpolation in this way, the blur when the oblique line is enlarged is reduced.
[0019]
Hereinafter, an embodiment of an imaging apparatus incorporating a linear interpolation device and a gradient interpolation device will be described with reference to FIGS. 1, 2, 3, 4, 5, and 9.
FIG. 1 is a block diagram of an image pickup apparatus using a first embodiment of an interpolation apparatus according to the present invention. In FIG. 1, the inside of the broken line is an
[0020]
The operation of the imaging apparatus configured as described above will be described below.
The video signal photoelectrically converted by the
[0021]
FIG. 2 is a block diagram showing an embodiment of the prohibition condition determination circuit. In the figure, the luminance signal and the color signal input to the
[0022]
First, in order to consider the later data flow, the slope of the signal level of the signal t and the signal u is calculated by the rear slope calculation circuit 52 (corresponding to the slope tb in FIG. 9), and the previous data flow is For consideration, the slope of the signal levels of the signal r and the signal s is calculated by the front slope calculation circuit 54 (corresponding to the slope ta in FIG. 9). At the same time, the
[0023]
When the conditional expressions of
[0024]
For example, when the interpolation coefficient (distance) from the desired interpolation data to the signal t is X, the required interpolation data I may be calculated by the following equation.
I = s · X + t · (1−X) = t + (s−t) ·
At this time, if the distance between the signal s and the signal t is 1, 0 <X <1, but in an actual circuit, the distance between the signals of the original data for interpolation is not normalized to 1, but may be 256, for example. . The
At the same time, the interpolation data is calculated by the front
[0025]
FIG. 3 is a block diagram showing an embodiment of the front slope interpolation circuit. In the figure, the interpolation coefficient X input from the input terminal 70 is converted into (1-X) by the
Ia = s + ta (1−X) (Equation 9)
The forward tilt interpolation data Ia obtained in this way is input to the
[0026]
FIG. 4 is a block diagram showing an embodiment of the post-slope interpolation circuit. The
Ib = t−tb ·
The post-tilt interpolation data Ib obtained in this way is input to the
[0027]
FIG. 5 is a block diagram showing an embodiment of the interpolation decision circuit. In the interpolation decision circuit shown in the figure, whether the pre-tilt interpolation data Ia or the post-tilt interpolation Ib data is taken depending on the arrangement of the original interpolation data. Make a decision.
First, the inclination tb input from the
[0028]
As described above, according to the first embodiment, by adaptively switching the interpolation data, it is possible to perform interpolation according to the data flow of the video signal and prevent a reduction in sharpness, resulting in a decrease in resolution. It will also prevent. Therefore, blurring when the magnification is increased by electronic zoom can be prevented.
[0029]
Next, a second embodiment will be described with reference to FIG.
FIG. 6 is a lock diagram of the image pickup apparatus using the second embodiment of the interpolation apparatus according to the present invention, and shows a block corresponding to the
In addition, a signal for selecting either linear interpolation data or slope interpolation data output from the prohibition
[0030]
In the
[0031]
As described above, according to the second embodiment, an extreme sharpness can be prevented by taking a value between the linear interpolation data and the gradient interpolation data when performing gradient interpolation. Disappears.
[0032]
As described above, in this embodiment, since the value between the linear interpolation data and the gradient interpolation data is taken when the gradient interpolation is performed, an extreme sharpness can be prevented, so that an annoying edge emphasis portion on the screen is conspicuous. Can be eliminated.
[0033]
Next, a third embodiment will be described with reference to FIG.
FIG. 7 is a block diagram of an image pickup apparatus using a third embodiment of the interpolation apparatus according to the present invention. 7 differs from the block diagram of FIG. 5 in that the
According to the second embodiment, the extreme sharpness can be eliminated by using the interpolation points of the linear interpolation data and the gradient interpolation data. However, if the interpolation point is not set to a value close to the linear interpolation data, it is effective. No. However, when the interpolation point is set to a value close to the linear interpolation data, the sharpness of the entire screen may be lowered. Therefore, when the absolute values of the inclinations ta and tb are large, the interpolation point is used as the interpolation data as in the second embodiment, but when the absolute values of the inclinations ta and tb are not so large, the inclination interpolation data is used as the interpolation data. Whether the inclination is large or small is determined here by using
[0034]
Specifically, when the data arrangement is upward as shown in FIG. 9, if ta> 1, | tb |> 1, it is determined that the flow is far from the original data flow, and then linear interpolation is performed. And select the interpolation point for slope interpolation. In cases other than the above conditions, slope interpolation data is selected. Similarly, in the case of convex downward, if | ta |> 1, tb> 1, it is determined that the flow is far from the original data flow, and then interpolation points for linear interpolation and gradient interpolation are selected. To do. In cases other than the above conditions, slope interpolation data is selected. The
[0035]
FIG. 8 is a block diagram showing an embodiment of the variable interpolation circuit. In the figure, linear interpolation data output from the
[0036]
As described above, according to this embodiment, by switching the interpolation method from the result of determining the flow of the original data, an extra sharpness can be suppressed, and an appropriate sharpness can be maintained by setting the interpolation point. The entire screen looks stuck.
[0037]
【The invention's effect】
As described above, according to the present invention, the interpolation data obtained from the different interpolation means can be adaptively switched to perform the interpolation according to the data flow of the video signal, thereby preventing the sharpness from being lowered. In addition, it is possible to prevent a decrease in resolution. Therefore, blurring when the magnification is increased by electronic zoom can be prevented.
[Brief description of the drawings]
FIG. 1 is a block diagram of an image pickup apparatus using a first embodiment of an interpolation apparatus according to the present invention.
FIG. 2 is a block diagram illustrating an example of a prohibition condition determination circuit in FIG. 1;
FIG. 3 is a block diagram showing an embodiment of the forward slope interpolation circuit of FIG. 1;
4 is a block diagram showing an embodiment of the rear slope interpolation circuit of FIG. 1. FIG.
FIG. 5 is a block diagram showing an embodiment of the interpolation determination circuit of FIG. 1;
FIG. 6 is a block diagram of an imaging apparatus using a second embodiment of the interpolation apparatus according to the present invention.
FIG. 7 is a block diagram of an imaging apparatus using a third embodiment of the interpolation apparatus according to the present invention.
8 is a block diagram showing an embodiment of the variable interpolation circuit of FIG.
FIG. 9 is a schematic diagram showing an adaptive interpolation method.
FIG. 10A is a schematic diagram showing an arrangement pattern of pixel sample data.
FIG. 10B is a schematic diagram showing an arrangement pattern of pixel sample data.
FIG. 10C is a schematic diagram showing an arrangement pattern of pixel sample data.
FIG. 11 is a schematic diagram illustrating a state of a pixel.
[Explanation of symbols]
DESCRIPTION OF
Claims (4)
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP11368098A JP3615050B2 (en) | 1998-04-23 | 1998-04-23 | Interpolation apparatus and imaging apparatus using the same |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP11368098A JP3615050B2 (en) | 1998-04-23 | 1998-04-23 | Interpolation apparatus and imaging apparatus using the same |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH11308442A JPH11308442A (en) | 1999-11-05 |
| JP3615050B2 true JP3615050B2 (en) | 2005-01-26 |
Family
ID=14618459
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP11368098A Expired - Fee Related JP3615050B2 (en) | 1998-04-23 | 1998-04-23 | Interpolation apparatus and imaging apparatus using the same |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP3615050B2 (en) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7764839B2 (en) | 2003-08-14 | 2010-07-27 | Fujifilm Corporation | Edge detecting apparatus and method, and image size enlarging and reducing apparatus and method |
| JP2007060457A (en) * | 2005-08-26 | 2007-03-08 | Hitachi Ltd | Image signal processing apparatus and image signal processing method |
-
1998
- 1998-04-23 JP JP11368098A patent/JP3615050B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JPH11308442A (en) | 1999-11-05 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4610930B2 (en) | Image processing apparatus and image processing program | |
| TWI396433B (en) | A system and process for generating high dynamic range video | |
| US7142239B2 (en) | Apparatus and method for processing output from image sensor | |
| US6882754B2 (en) | Image signal processor with adaptive noise reduction and an image signal processing method therefor | |
| EP1113389A2 (en) | Method and apparatus for image interpolation | |
| CN100566379C (en) | Movement detection device and noise attenuation device using the same | |
| US8253829B2 (en) | Image processing apparatus, imaging apparatus, and image processing method | |
| JPH07106646B2 (en) | Image processing device | |
| JP3664231B2 (en) | Color image processing device | |
| EP0785529B1 (en) | Method and apparatus for image interpolation | |
| JP6817779B2 (en) | Image processing equipment, its control method, programs and recording media | |
| JP2010268426A (en) | Image processing apparatus, image processing method, and program | |
| EP1933549B1 (en) | Image correction device and image correction method | |
| JPH055432B2 (en) | ||
| US20030174221A1 (en) | Signal processing device for reducing noise of image signal, signal processing program, and signal processing method | |
| JP3615050B2 (en) | Interpolation apparatus and imaging apparatus using the same | |
| JP2023111637A (en) | Image processing device and method and imaging apparatus | |
| CN116233607A (en) | A multi-exposure image processing method, device, chip and electronic equipment | |
| JP3982874B2 (en) | Image data processing method and system | |
| JP2006157599A (en) | Imaging device | |
| JP4299753B2 (en) | Image signal processing apparatus and image signal processing method | |
| JP3643042B2 (en) | Image processing apparatus, image processing method, and recording medium | |
| US20100027904A1 (en) | Image processing apparatus and method, and a recording medium storing a program for executing the image processing method | |
| JP5153842B2 (en) | Image processing apparatus and image processing program | |
| JP3361355B2 (en) | Image processing device |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20040322 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040330 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040531 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20041026 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20041028 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20071112 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081112 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081112 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091112 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101112 Year of fee payment: 6 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101112 Year of fee payment: 6 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111112 Year of fee payment: 7 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111112 Year of fee payment: 7 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121112 Year of fee payment: 8 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121112 Year of fee payment: 8 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131112 Year of fee payment: 9 |
|
| S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
| LAPS | Cancellation because of no payment of annual fees |