[go: up one dir, main page]

JP4540958B2 - Image sensor array, computer input device and method for indicating relative differences in pixel illumination - Google Patents

Image sensor array, computer input device and method for indicating relative differences in pixel illumination Download PDF

Info

Publication number
JP4540958B2
JP4540958B2 JP2003338669A JP2003338669A JP4540958B2 JP 4540958 B2 JP4540958 B2 JP 4540958B2 JP 2003338669 A JP2003338669 A JP 2003338669A JP 2003338669 A JP2003338669 A JP 2003338669A JP 4540958 B2 JP4540958 B2 JP 4540958B2
Authority
JP
Japan
Prior art keywords
current
comparison
pixel
pixels
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003338669A
Other languages
Japanese (ja)
Other versions
JP2004153796A5 (en
JP2004153796A (en
Inventor
エル.ニー デレック
シー.オリバー トーマス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Corp
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of JP2004153796A publication Critical patent/JP2004153796A/en
Publication of JP2004153796A5 publication Critical patent/JP2004153796A5/ja
Application granted granted Critical
Publication of JP4540958B2 publication Critical patent/JP4540958B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10FINORGANIC SEMICONDUCTOR DEVICES SENSITIVE TO INFRARED RADIATION, LIGHT, ELECTROMAGNETIC RADIATION OF SHORTER WAVELENGTH OR CORPUSCULAR RADIATION
    • H10F39/00Integrated devices, or assemblies of multiple devices, comprising at least one element covered by group H10F30/00, e.g. radiation detectors comprising photodiode arrays
    • H10F39/80Constructional details of image sensors
    • H10F39/803Pixels having integrated switching, control, storage or amplification elements
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • G06F1/3203Power management, i.e. event-based initiation of a power-saving mode
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • G06F1/3203Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3234Power saving characterised by the action undertaken
    • G06F1/325Power saving in peripheral device
    • G06F1/3259Power saving in cursor control device, e.g. mouse, joystick, trackball
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0421Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means by interrupting or reflecting a light beam, e.g. optical touch-screen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/707Pixels for event detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/708Pixels for edge detection
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Photometry And Measurement Of Optical Pulse Characteristics (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Position Input By Displaying (AREA)
  • Image Input (AREA)

Abstract

A signal generator produces multi-outbound comparison signals based on initial signal corresponding to illumination of photosensor, and internal comparison signal based on initial signal. The comparison signal is input to neighboring pixels through summing node (110). A comparator (116) outputs a signal indicating relative difference in pixel illumination based on internal comparison signal and summed input signals. Independent claims are also included for the following: (1) computer input device; (2) method for indicating relative difference in illumination of pixels within image sensor array.

Description

本発明は、画像システムの一部としてフォトセンサからの出力を処理することに関し、より詳細には、画素レベルで直流分の除去処理を行うアナログフォトセンサアレイに関する。   The present invention relates to processing an output from a photosensor as part of an image system, and more particularly to an analog photosensor array that performs a DC removal process at a pixel level.

感光性(photo-sensitive)電子コンポーネントを使用すれば、動きを検出し測定するシステムなどの電子画像システムを構成することができる。このような電子画像システムが動き検出に使用される場合には、領域(area)または物体(object)の極めて詳細な画像を得ることは、ある特定の画像がその前の画像と比較して変化を反映しているかどうかを決定することよりも重要ではないことがある。このため、隣り合う画像素子間のコントラストに対してより高い重要性が置かれることがある。   With photo-sensitive electronic components, electronic imaging systems such as systems that detect and measure motion can be constructed. When such an electronic imaging system is used for motion detection, obtaining a very detailed image of an area or object means that one particular image changes compared to the previous image. It may be less important than determining whether it reflects. For this reason, higher importance may be placed on the contrast between adjacent image elements.

動き検出の一応用例としては、コンピュータの位置指示装置または入力装置(たとえばコンピュータマウス)がある。たとえば、特許文献1および特許文献2には、このような目的のために電子画像を用いることが記載されている。これらの特許文献に記載されているように、関連した照明源(たとえば、発光ダイオード)からの光が机上その他の表面から反射すると、感光性素子アレイが、机上(または他の表面)の画像を生成する。後続の画像が比較され、画像間の相関に基づいて、マウス(または他の装置)の動きの大きさおよび方向を決定することができる。   One application example of motion detection is a computer position indicating device or an input device (for example, a computer mouse). For example, Patent Literature 1 and Patent Literature 2 describe using an electronic image for such a purpose. As described in these patent documents, when light from an associated illumination source (e.g., a light emitting diode) is reflected from other surfaces on the desk, the photosensitive element array displays an image on the desk (or other surface). Generate. Subsequent images can be compared and the magnitude and direction of mouse (or other device) movement can be determined based on the correlation between the images.

図1に、既存のコンピュータ入力装置で使用されるフォトセンサアレイ構造内の画素を示す。このフォトセンサアレイの各画素は、フォトダイオードその他の感光性コンポーネントであり得るフォトセンサ10を含む。画像を取得する前に、NMOSトランジスタ12にかかるRESET信号により、ノードINTが基準電圧Vrefに充電される。RESET信号がアサート(assert)されないときは、机上その他の表面から反射された光がフォトセンサ10を照明し、それによって逆方向バイアス電流がフォトセンサ10を通って接地に流れることができる。次いで、フォトセンサ10を通る逆方向バイアス電流のため、ノードINTが放電する。より反射性の高い物体または表面のフィーチャ(feature)に照応して光の強度が大きくなる(光が明るくなる)ほど、フォトセンサ10を通る逆方向バイアス電流は大きくなり、そのためノードINTはより速く放電する。逆に、より暗い物体または表面のフィーチャからの反射に照応して光の強度が弱くなる(すなわち暗くなる)ほど、フォトセンサ10を通る逆方向バイアス電流は小さくなり、ノードINTの放電はより緩慢になる。ノードINTにかかる電圧は、NMOSトランジスタ14のゲートを制御する。すなわち、ノードINT上の電荷が放出されると、それに照応してNMOS14にかかるバイアスが減少し、それによってノード16の電圧が降下する。ある指定された時点で、SELECT信号がNMOS18のゲートに加えられ、それによって電荷が記憶コンデンサ20に蓄積される。NMOS14両端間の電圧は、NMOS14のゲート電圧に応じて変化する。すなわち、フォトセンサ10に当たる照明強度に応じて変化する。したがって、記憶コンデンサ20にかかる蓄積された電圧の大きさは、フォトセンサ10に当たる照明強度に関係している。反射される照明強度は、机その他の表面の表面フィーチャに基づいて変化することになるので、記憶コンデンサ20上の電荷を(フォトセンサ画素アレイの一部として)利用して、机その他の作業表面に関する位置変化を検出し測定することができる。 FIG. 1 shows a pixel in a photosensor array structure used in an existing computer input device. Each pixel of the photosensor array includes a photosensor 10 that can be a photodiode or other photosensitive component. Prior to acquiring an image, the node INT is charged to the reference voltage V ref by a RESET signal applied to the NMOS transistor 12. When the RESET signal is not asserted, light reflected from the desk or other surface illuminates the photosensor 10 so that reverse bias current can flow through the photosensor 10 to ground. The node INT is then discharged due to the reverse bias current through the photosensor 10. The greater the light intensity in response to a more reflective object or surface feature (the brighter the light), the greater the reverse bias current through the photosensor 10, so that the node INT is faster. Discharge. Conversely, the lower the intensity of light in response to reflections from darker objects or surface features (ie, darker), the smaller the reverse bias current through photosensor 10 and the slower the discharge of node INT. become. The voltage applied to the node INT controls the gate of the NMOS transistor 14. That is, when the charge on the node INT is released, the bias applied to the NMOS 14 is reduced in response to this, whereby the voltage at the node 16 drops. At some specified time, a SELECT signal is applied to the gate of NMOS 18 so that charge is stored in storage capacitor 20. The voltage across the NMOS 14 changes according to the gate voltage of the NMOS 14. That is, it changes according to the illumination intensity hitting the photosensor 10. Therefore, the magnitude of the accumulated voltage applied to the storage capacitor 20 is related to the illumination intensity hitting the photosensor 10. Since the reflected illumination intensity will vary based on the surface features of the desk or other surface, the charge on the storage capacitor 20 is utilized (as part of the photosensor pixel array) to provide a desk or other work surface. Change in position can be detected and measured.

アレイ内の各コンデンサにかかる電圧は、MUX(マルチプレクサ)を通過してADC(アナログ−デジタルコンバータ)に達する。ADCは記憶コンデンサにかかる電圧に対応するデジタル値を出力するが、これはアレイ内のフォトセンサに当たる照明の相対強度を表している。次いで、このデジタル値はDCR(デジタル式直流分除去)処理を通過して、画像のコントラストを増強し、得られる画像を記憶するのに必要な記憶素子の数を減少させる。後続の相関器(correlator)がDCR処理済み画像データを前のDCR処理済み画像データと比較し、デバイスの動きの大きさと方向を反映したナビゲーションデータを生成する。   The voltage across each capacitor in the array passes through the MUX (multiplexer) and reaches the ADC (analog-to-digital converter). The ADC outputs a digital value corresponding to the voltage across the storage capacitor, which represents the relative intensity of illumination that strikes the photosensors in the array. This digital value then passes through a DCR (digital direct current removal) process to enhance the contrast of the image and reduce the number of storage elements required to store the resulting image. A subsequent correlator compares the DCR processed image data with the previous DCR processed image data and generates navigation data reflecting the magnitude and direction of the device motion.

図1の例では、アレイ内の各フォトセンサごとの値を記憶するために別の記憶コンデンサが必要である。一般に、記憶コンデンサはアレイの両側に配置され、IC(集積回路)上で比較的広い領域が必要である。また、この構造は、寄生信号カップリング、コンデンサの漏れおよび電荷注入の影響を受けやすく、比較的短時間しか画像が破壊されずに記憶しておくことができない。さらに、この構造は、大きなサブスレッショールド(sub-threshold)の漏れおよび低電源電圧を伴い得るデジタル指向ASIC(特定用途向け集積回路)技術に関連した問題を呈する。   In the example of FIG. 1, a separate storage capacitor is required to store the value for each photosensor in the array. In general, storage capacitors are placed on both sides of the array and require a relatively large area on the IC (integrated circuit). This structure is also susceptible to parasitic signal coupling, capacitor leakage and charge injection, and can only be stored for a relatively short time without destroying the image. In addition, this structure presents problems associated with digital-oriented ASIC (application specific integrated circuit) technology, which can be accompanied by large sub-threshold leakage and low supply voltage.

図1に示すような構造では、ADC機能および後続のDCR処理は、すべてビット単位のシリアル方式、すなわち1回に1画素という方式で行われる。ADCからの各画素値は複数ビット長となることがあり、すべての画素値をDCR処理するにはかなりのデジタル回路が必要になることがある。この追加の回路には追加のIC領域が必要になり、それによってコストが増大する。また、この処理は(100マイクロ秒程度の)高速で行わなければならない。(コンピュータマウスの動きの検出など)高速性を要する応用例では、各画素ごとに変換をシリアルに行う高速ADCと、各画素のコントラスト増強をシリアルに行う高速デジタル回路が必要である。各画素ごとに複数ビットデータを記憶するためにかなりのデジタルメモリも必要である。複数個のADCおよび他のデジタル回路コンポーネントを実装して複数画素を並列処理することも可能であるが、並列処理に必要な複数のコンポーネントはそれぞれ特性が整合していなければならない。このような並列処理では、必要な電力も大きくなる。   In the structure shown in FIG. 1, the ADC function and the subsequent DCR processing are all performed in a bit unit serial method, that is, a method of one pixel at a time. Each pixel value from the ADC may be multiple bits long, and considerable digital circuitry may be required to DCR process all pixel values. This additional circuit requires additional IC area, which increases cost. In addition, this processing must be performed at a high speed (about 100 microseconds). In applications requiring high speed (such as computer mouse motion detection), a high-speed ADC that serially converts each pixel and a high-speed digital circuit that serially increases the contrast of each pixel are required. Considerable digital memory is also required to store multiple bits of data for each pixel. Although a plurality of ADCs and other digital circuit components can be mounted to process a plurality of pixels in parallel, the plurality of components required for the parallel processing must have matching characteristics. In such parallel processing, the required power also increases.

米国特許第6,303,924号明細書US Pat. No. 6,303,924 米国特許第6,172,354号明細書US Pat. No. 6,172,354

したがって、依然として、動き検出用の電子画像処理システムを改善することが求められている。   Therefore, there is still a need to improve electronic image processing systems for motion detection.

本発明のフォトセンサは、画素レベルのアナログドメインでDCR(直流分除去)処理およびコントラスト増強信号処理を提供する。画素レベルでDCRを行うことにより、別の(すなわち、画素外の)ADC(アナログ−デジタル変換)およびDCR処理がもはや必要でなくなる。一実施形態では、各画素セルは、1ビットのDCR処理済み(「DCRされた」)画像データを生成する。次いで、この画素ビット値をメモリに記憶し、任意の所望の時間に画像相関処理を行うことができる。別の実施形態では、各画素ごとに1つまたは複数の追加のビットを設けることもできる。本発明による2次元アレイ画素により、画像処理チップ全体の記憶要件が軽減される。   The photosensor of the present invention provides DCR (direct current removal) processing and contrast enhancement signal processing in the pixel level analog domain. By performing DCR at the pixel level, separate (ie, extra-pixel) ADC (analog-to-digital conversion) and DCR processing is no longer required. In one embodiment, each pixel cell generates 1 bit of DCR processed (“DCRed”) image data. This pixel bit value can then be stored in memory and image correlation processing can be performed at any desired time. In another embodiment, one or more additional bits may be provided for each pixel. The two-dimensional array pixels according to the present invention reduce the storage requirements of the entire image processing chip.

本発明の画素セルにより、画素セルアレイのアナログおよびデジタル回路を少なくすることができる。こうした画素のアナログ回路により、低供給電圧を利用するより新しいデジタル指向ASIC(特定用途向け集積回路)技術にこのような画素からなるアレイを組み込むことが容易になる。本発明の画素セルにより、チップコストおよび試験時間も減少させることができる。さらに、一般に、画素のアナログ回路設計の複雑さが減ると、最近のデジタルASICに関連して生じることがあるサブスレッショールドの漏れおよびゲート漏れの影響を受けにくくなる。また、この画素セルは静的な供給電流の消費量も少なく、それによって、電池動力式装置で使用されるとき、電池の寿命も長くなる。たとえば、高速シリアル処理など従来方式の手法に必要とされるよりも遅いクロック速度で動作させることによって、スイッチング電流も少なくなる。   With the pixel cell of the present invention, the analog and digital circuits of the pixel cell array can be reduced. Such pixel analog circuitry facilitates the incorporation of arrays of such pixels into newer digitally oriented ASIC (application specific integrated circuit) technology that utilizes low supply voltages. With the pixel cell of the present invention, chip cost and test time can also be reduced. Further, in general, as the complexity of pixel analog circuit design is reduced, it is less susceptible to sub-threshold leakage and gate leakage that may occur in connection with modern digital ASICs. The pixel cell also consumes less static supply current, thereby increasing battery life when used in battery powered devices. For example, switching current is reduced by operating at a slower clock speed than required for conventional approaches such as high-speed serial processing.

本発明は、フォトセンサ画素セルアレイを含むことができ、各画素セルは、その画素を照明する放射に応答して初期信号を生成するアナログ回路を含む。初期信号の大きさは、照明強度に応じて変化する。一実施形態では、初期信号は電流である。次いで、各画素は、その初期信号に基づいて複数の比較信号を生成し、比較信号をいくつかの隣接画素のそれぞれに送出する。アレイ内の複数の画素は、それぞれの隣接画素から比較信号を受け取る。信号を受け取る画素はそれぞれ、その隣接画素から受け取った比較信号を合計する。次いで、合計された信号は、内部比較信号と比較される。その後、その比較結果を用いて、その画素のDCR処理済み画像データを表すデジタルデータ値を記憶することができる。   The present invention can include a photosensor pixel cell array, where each pixel cell includes an analog circuit that generates an initial signal in response to radiation illuminating the pixel. The magnitude of the initial signal changes according to the illumination intensity. In one embodiment, the initial signal is a current. Each pixel then generates a plurality of comparison signals based on its initial signal and sends the comparison signal to each of several adjacent pixels. A plurality of pixels in the array receive comparison signals from their respective neighboring pixels. Each pixel that receives a signal sums the comparison signals received from its neighboring pixels. The summed signal is then compared to the internal comparison signal. The comparison result can then be used to store a digital data value representing the DCR processed image data for that pixel.

以下に、図面を参照して本発明の好ましい実施形態について説明する。   Hereinafter, preferred embodiments of the present invention will be described with reference to the drawings.

図2は、m行×n列の画素を有するアレイ100の構成図である。(集積回路の一部として形成できるはずの)アレイ100は、電子撮像素子の一部を形成することができる。動作においては、アレイ100は、表面(または物体)から反射された光を受け取るように構成することができ、それによって表面(または物体)の画像を生成することができる。アレイ100は、制御デバイス(たとえば、図示しない同じIC上の追加の回路および/またはやはり図示しない1つまたは複数の別のプロセッサ)に接続される。以下に示す場合を除き、本発明を理解するのにこのようなコンポーネントの詳細は必要ない。本発明のフォトセンサアレイの実施に適したハードウエアおよびソフトウエア(またはファームウエア)は、本明細書で提供される情報から当業者には明らかであろう。   FIG. 2 is a block diagram of an array 100 having m rows × n columns of pixels. The array 100 (which could be formed as part of an integrated circuit) can form part of an electronic imaging device. In operation, the array 100 can be configured to receive light reflected from a surface (or object), thereby generating an image of the surface (or object). Array 100 is connected to a control device (eg, additional circuitry on the same IC (not shown) and / or one or more other processors, also not shown). Except as indicated below, no details of such components are necessary to understand the present invention. Suitable hardware and software (or firmware) for implementing the photosensor array of the present invention will be apparent to those skilled in the art from the information provided herein.

図2に強調して示したのは、アレイ100内の任意の位置にある9個の隣接する画素からなるサブアレイ101であり、画素はそれぞれ100から100と標示される。以下に示す場合を除き、一般に、サブアレイ101内の画素は、アレイ100内の他の非縁部画素を代表するものである。図2中で射影線で示した縁部画素は非縁部画素に類似しているが、以下により詳細に説明するある種の回路および機能を欠いている。動作においては、アレイ100内の非縁部画素は、その出力を隣接画素の出力と比較する。この比較に基づいて、DCR処理済み画像データを表す1つ(または複数)のデータビットをその画素用に記憶する。一実施形態では、画素の出力が8個の最隣接画素の出力に基づく値よりも大きい場合、その画素は値「1」をラッチする。そうでない場合は、その画素は値「0」をラッチする。すなわち、例として画素100から100を使用すると、式1が真である場合、中心画素100には値1が割り当てられる。 Emphatically that shown in FIG. 2 is a sub-array 101 of nine contiguous pixels located at any position within the array 100, the pixel is labeled from each 100 0 100 8. Except as noted below, in general, pixels in subarray 101 are representative of other non-edge pixels in array 100. The edge pixels shown in FIG. 2 with projection lines are similar to non-edge pixels, but lack certain circuitry and functions described in more detail below. In operation, a non-edge pixel in array 100 compares its output with the output of an adjacent pixel. Based on this comparison, one (or more) data bits representing the DCR processed image data are stored for that pixel. In one embodiment, if the output of a pixel is greater than the value based on the outputs of the eight nearest neighbor pixels, the pixel latches the value “1”. Otherwise, the pixel latches the value “0”. That is, using pixels 100 0 to 100 8 as an example, the value 1 is assigned to the central pixel 100 0 if Equation 1 is true.

Figure 0004540958
Figure 0004540958

ただし、S(100)は画素100のアナログ出力信号、αは画素100に関連する利得(または減衰)である。 However, it is S (100 i) is an analog output signal of the pixel 100 i, alpha i is the gain associated with the pixel 100 i (or attenuation).

表1は、式(1)によるDCR機能を行う際、3×3のサブアレイ、たとえばサブアレイ101内の各画素に適用される利得値の一例を与えるものである。   Table 1 gives an example of a gain value applied to each pixel in the 3 × 3 subarray, for example, the subarray 101, when performing the DCR function according to Expression (1).

Figure 0004540958
Figure 0004540958

表1の値は、適用することができる可能な利得値の単なる例であり、利得(または減衰)の他の値も本発明の範囲に含まれる。実際、本発明による画素アレイは、所望の値の多くの組合せで実施することができ、それによって多くの異なるDCRフィルタ変換を行うことができる。追加の例には表2および表3に示す値が含まれるが、それらに限定されるものではない。 The values in Table 1 are merely examples of possible gain values that can be applied, and other values of gain (or attenuation) are within the scope of the present invention. In fact, the pixel array according to the present invention can be implemented with many combinations of desired values, thereby allowing many different DCR filter transformations to be performed. Additional examples include, but are not limited to, the values shown in Tables 2 and 3.

Figure 0004540958
Figure 0004540958

Figure 0004540958
Figure 0004540958

図3は、サブアレイ101の画素100〜100の拡大ブロック図である。サブアレイ101の中心にある画素100は、8個の最隣接画素100〜100にとり囲まれている。サブアレイ101の各画素は電流加算ノード110、積分回路112、比較電流生成器回路114、比較器回路116、シリアル走査ラッチ118およびバッファ120を含む。サブアレイ101内の他の画素のコンポーネントもほぼ同じであり、図面を無用に不明瞭にしないように、図3のすべての画素コンポーネントを標示しない。ただし、各画素の電流加算ノードへの入力は異なるものになる。図3に示すように、画素100の電流加算ノード110は、8個の最隣接画素のそれぞれから1つずつ出ている8つの入力を有する。具体的には、入力「1」は画素100からの入力、入力「2」は画素100からの入力、以下同様である。同様に、画素100から100の直上の画素を「100」、「100」および「100」と呼ぶと、画素100の電流加算ノードへの入力は、画素100、100、100、100、100、100、100および100(あるいは図3に示すようにa、b、c、1、3、4、0および5)に対応するはずである。他の画素の電流加算ノードへの入力も同様のパターンに従うことができるはずである。図3の大きな太い矢印は、単に、画素からの出力をその画素の隣接画素に送り得る可能な経路を表し、アレイ内で各画素から他の各画素への接続を表すためのものではない。以下により詳細に述べるように、アレイ100内の縁部画素は、非縁部画素、たとえばサブアレイ101内のものが行うすべての機能を行わないこともあり、したがって、図3に示すある種のコンポーネントを欠くこともある。 FIG. 3 is an enlarged block diagram of the pixels 100 0 to 100 8 of the subarray 101. Pixel 100 0 at the center of the sub-array 101 is surrounded taken eight nearest neighbor pixels 100 1 to 100 8. Each pixel of the subarray 101 includes a current summing node 110, an integrating circuit 112, a comparison current generator circuit 114, a comparator circuit 116, a serial scan latch 118 and a buffer 120. The components of the other pixels in subarray 101 are substantially the same and do not label all of the pixel components in FIG. 3 so as not to unnecessarily obscure the drawing. However, the input to the current addition node of each pixel is different. As shown in FIG. 3, the current summing node 110 of the pixel 100 0 includes eight each one by one out to have eight inputs from the nearest neighbor pixels. More specifically, the input "1" is input from the pixel 100 1, inputs "2" input from the pixel 100 2, and so on. Similarly, when the pixels immediately above the pixels 100 1 to 100 3 are referred to as “100 a ”, “100 b ”, and “100 c ”, the input to the current addition node of the pixel 100 2 is the pixels 100 a , 100 b. , 100 c , 100 1 , 100 3 , 100 4 , 100 0 and 100 5 (or a, b, c 1 , 3 , 4 , 0 and 5 as shown in FIG. 3). Inputs to the current summing nodes of other pixels should be able to follow a similar pattern. The large thick arrows in FIG. 3 simply represent possible paths through which the output from a pixel can be sent to its neighboring pixels, not to represent the connection from one pixel to another in the array. As will be described in more detail below, the edge pixels in array 100 may not perform all the functions performed by non-edge pixels, such as those in sub-array 101, and thus certain components shown in FIG. May be missing.

図4は、画素100のより詳細な概略図である。図3のブロック図の場合と同様に、アレイ100内の他の非縁部画素の概略図はこれとほぼ同じはずであるが、各画素の電流加算ノード110への入力は異なっているはずである。図3の積分回路112に対応するコンポーネントは、図4で112と標示した破線のボックスで囲まれているものである。同様に、図3の比較電流生成器回路114、比較器回路116および電流加算ノード110に対応するコンポーネントも、図4では対応する番号で標示したボックスで囲まれている。シリアル走査出力ラッチ118およびバッファ120の詳細は図示していない。このラッチおよびバッファ用の回路およびコンポーネントの構成は当業者の知識の範囲内にあるものであるから、これらの詳細はあえて説明することはしない。積分回路112は、PMOSデバイス132および134ならびにフォトダイオード136を含む。デバイス132および134は電荷相殺スイッチを形成して、事前にノードAを基準電圧Vrefに充電する。以下でもより詳細に説明するように、フォトダイオード136に当たる光により、逆方向電流がフォトダイオード136を通って流れ、それによってノードAが放電し、ノードAにおける積分電圧(Vint)が減少する。積分段階中にノードAが放電(し、Vrefが減少)する量により、NMOSデバイス138および140ならびにPMOSデバイス142で形成された初期電流生成器を通る初期電流Iが変調される。電流Iの大きさの最大値はNMOSデバイス140で調整される。NMOSデバイス140は、線形抵抗をエミュレートする長いチャネル長をもつデバイスとすることができる。電流Iを基準として使用して、PMOS基準デバイス142およびPMOSミラーリングデバイス(mirroring device)143〜151で形成された比較電流生成器によって、(それぞれ異なる大きさを有し得る)複数の比較電流が生成される。図4に示すように、PMOS比較電流生成器内で適切なデバイスのサイズ設定を行うことによって、Iに1を乗じた(×1)大きさで(αからαに対応する)8つの比較電流が生成され、Iに8を乗じた(×8)大きさで(αに対応する)1つの比較電流が生成される。表1と式1を図4と比較することによってわかるように、これらの比較電流の値により、表1に記載の画素100の利得値が得られる。あるいは、表2または表3に示す利得値、あるいは他の所望の値が得られるように、画素内のデバイスをサイズ設定することができるはずである。利得値および減衰値は、各画素ごとに同じでもよいし、アレイの画素間で変化してもよい。適切なコンポーネントを選択することによって、多くの選択肢をもつ比較用スレッショールドが利用可能である。 Figure 4 is a more detailed schematic diagram of the pixel 100 0. As in the block diagram of FIG. 3, the schematic of the other non-edge pixels in the array 100 should be approximately the same, but the input to the current summing node 110 for each pixel should be different. is there. Components corresponding to the integration circuit 112 in FIG. 3 are surrounded by a dashed box labeled 112 in FIG. Similarly, components corresponding to the comparison current generator circuit 114, the comparator circuit 116, and the current summing node 110 of FIG. 3 are also surrounded by boxes labeled with corresponding numbers in FIG. Details of serial scan output latch 118 and buffer 120 are not shown. Since the configuration of the circuits and components for the latch and buffer are within the knowledge of those skilled in the art, these details will not be described. The integrating circuit 112 includes PMOS devices 132 and 134 and a photodiode 136. Devices 132 and 134 form charge cancellation switches to charge node A to reference voltage V ref in advance. As will be described in more detail below, the light striking the photodiode 136 causes a reverse current to flow through the photodiode 136, thereby discharging node A and reducing the integrated voltage (V int ) at node A. The amount that node A discharges (and V ref decreases) during the integration phase modulates the initial current I 0 through the initial current generator formed by NMOS devices 138 and 140 and PMOS device 142. The maximum value of the current I 0 is adjusted by the NMOS device 140. The NMOS device 140 can be a device with a long channel length that emulates a linear resistance. By using the current I 0 as a reference, the comparison current generator formed by the PMOS reference device 142 and the PMOS mirroring devices 143 to 151 allows a plurality of comparison currents (which may each have a different magnitude). Generated. As shown in FIG. 4, by appropriately sizing the device in the PMOS comparison current generator, I 0 is multiplied by 1 (× 1) in size (corresponding to α 1 to α 8 ) 8 one of the comparison current is generated (corresponding to alpha 0) multiplied by 8 to I 0 (× 8) in size one comparison current is generated. Table 1 and Equation 1 As can be seen by comparison with FIG. 4, the values of these comparative current gain value of the pixel 100 0 in Table 1 is obtained. Alternatively, it should be possible to size the device in the pixel to obtain the gain values shown in Table 2 or Table 3, or other desired values. The gain value and attenuation value may be the same for each pixel or may vary between pixels of the array. By selecting the appropriate component, a comparative threshold with many options is available.

図3および4に示すように、1倍の比較電流はそれぞれ、隣接画素100、100、100、100、100、100、100および100の1つの電流加算ノードに入力される。PMOSデバイス147からの「内部」の(すなわち、画素100内から発した)8倍の比較電流は、画素100の電流モード比較器回路116に入力される。比較器回路116は、(図4で1つのNMOSとして示す)複合電荷相殺デバイス(composite charge cancellation device)158と、互いに整合したNMOSデバイス154および156を含む。STROBE信号がハイ(high)のとき、このSTROBE信号は比較器116を平衡状態に保持する。各隣接画素の比較電流生成器からの1倍の「外部」(すなわち、隣接画素から発した)比較電流は、画素100の電流加算ノード110に入力されそこで合計される。電流加算ノード110は、(図示しない)バッファ120を介して(やはり図示しない)ラッチ118にも結合される。STROBE信号がハイからロー(low)に移るとき、比較器116は、内部8倍比較電流を、8個の隣接画素のそれぞれからの外部1倍比較電流の合計と比較する。内部8倍比較電流が8つの外部比較電流の合計よりも大きい場合、外部比較電流はNMOSデバイス156を通って接地され、ラッチ118への信号はローになる。しかし、内部8倍比較電流が外部比較電流の合計よりも小さい場合、合計した電流は完全には接地されず、ラッチ118への信号はハイになる。 As shown in FIGS. 3 and 4, the 1 × comparison current is input to one current summing node of adjacent pixels 100 1 , 100 2 , 100 3 , 100 4 , 100 5 , 100 6 , 100 7 and 100 8 , respectively. Is done. "Internal" from PMOS device 147 compares current (i.e., emitted from the pixels 100 within 0) 8 times is input to the current-mode comparator circuit 116 of the pixel 100 0. Comparator circuit 116 includes a composite charge cancellation device 158 (shown as one NMOS in FIG. 4) and NMOS devices 154 and 156 matched to each other. When the STROBE signal is high, the STROBE signal keeps the comparator 116 in equilibrium. "External" 1 times from the comparison current generator of each neighboring pixel (i.e., originating from the adjacent pixels) comparing current is input to the current summing node 110 of the pixel 100 0 where summed. Current summing node 110 is also coupled to latch 118 (also not shown) via buffer 120 (not shown). When the STROBE signal goes from high to low, the comparator 116 compares the internal 8 × comparison current with the sum of the external 1 × comparison current from each of the 8 adjacent pixels. If the internal 8x comparison current is greater than the sum of the 8 external comparison currents, the external comparison current is grounded through NMOS device 156 and the signal to latch 118 goes low. However, if the internal 8x comparison current is less than the sum of the external comparison currents, the summed current is not completely grounded and the signal to the latch 118 goes high.

上記の実施形態では、m×n個の画素アレイが、(m−2)×(n−2)個の画素データ値をもつアレイに縮小される。アレイ100の外側縁部の画素(図2参照)は、縁部上にない隣接画素に1倍比較電流を提供するが、縁部画素は、それ自体の初期電流の8倍比較電流を隣接画素からの電流合計と比較せず、縁部画素用に画像データを記憶しない。一例として、n=20、m=20の場合、アレイ100は400画素のアレイであるが、各画像ごとに324(すなわち、(20−2)×(20−2))個のデータビットしか生成しない。縁部画素は比較機能またはラッチ機能を行わないので、これらの機能のための回路は割愛することができる。代替実施形態では、非縁部画素では改変したバージョンの比較表現を使用することにより、縁部画素が比較機能およびラッチ機能を行うように構成することができるはずである。このような改変表現の場合に可能な利得値の例を表4に示す。   In the above embodiment, the m × n pixel array is reduced to an array having (m−2) × (n−2) pixel data values. The pixels at the outer edge of the array 100 (see FIG. 2) provide a 1 × comparison current to adjacent pixels that are not on the edge, but the edge pixel has a comparison current of 8 × its own initial current. And the image data is not stored for the edge pixels. As an example, if n = 20 and m = 20, the array 100 is a 400 pixel array, but only 324 (ie, (20-2) × (20-2)) data bits are generated for each image. do not do. Since edge pixels do not perform comparison or latching functions, circuitry for these functions can be omitted. In an alternative embodiment, it would be possible to configure the edge pixels to perform comparison and latching functions by using a modified version of the comparison representation for non-edge pixels. Table 4 shows examples of possible gain values in the case of such a modified expression.

Figure 0004540958
Figure 0004540958

表4の例では、αは図2で左側縁部の中間に位置する(すなわち、隅ではない)ある画素に対応する。その画素の左側には画素が存在しないので、α、αおよびαは0となる。 In the example of Table 4, α 0 corresponds to a pixel located in the middle of the left edge (ie, not a corner) in FIG. Since there is no pixel on the left side of the pixel, α 1 , α 4, and α 6 are 0.

図3および4は、図1に示すものと比べて、構造上、本発明の少なくとも1つの利点を示している。各画素値を複数ビットのデジタル値に変換し、次いで、そのデジタル値に対してDCR処理を行うかわりに、この時点で各画素のアナログドメインで直流分除去が実現される。各画素はそのDCR処理を並列に行い、それによってシリアル方式で各画素に対して高速デジタル信号処理を行う必要がなくなる。非縁部画素はそれぞれハイまたはロー信号を生成し、それはSTROBE信号がローのときにラッチされる。このラッチ操作は、各画素内でも生じ得るが、アレイ内のすべての非縁部画素に対しても同時に行われる。STROBE信号がローのとき、各非縁部画素内のノードCの電圧は、隣接画素から受け取った電流との比較に基づいてハイまたはローの値に維持される。このハイまたはローの電圧は、各画素のバッファ120を通過してその画素のラッチ118に達し、1ビット値として記憶される。STROBE信号がハイのとき、比較器116は平衡状態にあり、ノードCの電圧は中間値をとることになる。このような中間値の偶発的なラッチによって予測不可能な結果が生じ得るので、スレッショールドよりも小さい電圧信号がラッチ118に達することを妨げるように、バッファ120はスキューされたスレッショールド(skewed threshold)を有し得る。   3 and 4 show at least one advantage of the present invention in construction compared to that shown in FIG. Instead of converting each pixel value into a multi-bit digital value and then performing a DCR process on the digital value, DC component removal is now achieved in the analog domain of each pixel. Each pixel performs its DCR processing in parallel, thereby eliminating the need for high speed digital signal processing on each pixel in a serial fashion. Each non-edge pixel generates a high or low signal, which is latched when the STROBE signal is low. This latching operation can occur in each pixel, but is also performed for all non-edge pixels in the array simultaneously. When the STROBE signal is low, the voltage at node C in each non-edge pixel is maintained at a high or low value based on a comparison with the current received from adjacent pixels. This high or low voltage passes through each pixel's buffer 120 to the pixel's latch 118 and is stored as a 1-bit value. When the STROBE signal is high, the comparator 116 is in equilibrium and the voltage at node C will be at an intermediate value. Since such an accidental latch of intermediate values can produce unpredictable results, the buffer 120 is skewed to prevent a voltage signal that is less than the threshold from reaching the latch 118 (see FIG. skewed threshold).

すべての比較器出力がラッチされた後、各画素行ごとにラッチされた値は走査チェーンに連結され、次いで、走査クロック信号により各行ごとに走査チェーンがシリアルにメモリに読み込まれ(図面には示さない)、その後、前の画像データとの相関がとられる。(やはり図示しない)メモリおよび相関回路は、アレイ100の外側に置いてよい。図5に、アレイ100のある行(または列)の各画素ごとにデータを読み込むための1つの可能な構成および方法を示す。図5には、複数のクロックサイクルについて、アレイ100内のある一並びの画素の5個のラッチ118をブロックの形で示す。例として、5個のラッチは、図3の(それぞれ画素100、100、100および100に対応する)ラッチ118、118、118および118と、画素100の直上の画素または画素100の直下の画素からの追加のラッチと合わせて表すことができるはずである。この並びは、5個を超える数のラッチ118を含み得る。追加のラッチの存在は、各段の左側にある3個の点で示す。サイクル0は、ラッチ済みの値を読み出す直前の時点を表す。(サイクル0)と標示して図5の最上段に示すように、各ラッチは1ビットの値を含む。第1サイクルの終了時に、各ラッチの値は右に1つ場所がシフトされ、最も右のラッチ済みの値が読み出され保存される。第2クロックサイクルの終了時に、ラッチ済みの値はやはり右に1つ場所がシフトされ、最も右の値はその前に記憶した値に連結される。読出しは、行のすべてのラッチが読み込まれラッチされた値が記憶される((サイクルn)と標示)まで継続する。この方式でアレイのすべての行を同時に読み込むと、各クロックサイクル中に列全体の画素値が読み込まれ、(アレイ縁部に位置する画素については値をラッチしないと仮定すると)20×20のアレイからの画像が18クロックサイクルで走査される。これは、データ読出しの1つの可能な方式を表しているが、他の方法および構成も本発明の範囲に含まれる。 After all the comparator outputs are latched, the latched value for each pixel row is linked to the scan chain, and then the scan chain is serially read into memory for each row by the scan clock signal (shown in the drawing). No) and then correlation with the previous image data is taken. Memory and correlation circuitry (also not shown) may be placed outside the array 100. FIG. 5 illustrates one possible configuration and method for reading data for each pixel in a row (or column) of the array 100. FIG. 5 shows in block form the five latches 118 i of an array of pixels in the array 100 for a plurality of clock cycles. As an example, the five latches (corresponding to the pixel 100 b, 100 2, 100 0 and 100 7) in FIG. 3 and the latch 118 b, 118 2, 118 0 and 118 7, immediately above the pixel 100 b it should be possible to represent together with additional latch from the pixel immediately below the pixel or pixel 100 7. This arrangement may include more than five latches 118. The presence of additional latches is indicated by three dots on the left side of each stage. Cycle 0 represents a time point just before reading the latched value. Each latch contains a 1-bit value, labeled (cycle 0) and shown at the top of FIG. At the end of the first cycle, the value of each latch is shifted one place to the right and the rightmost latched value is read and stored. At the end of the second clock cycle, the latched value is still shifted one place to the right and the rightmost value is concatenated with the previously stored value. Reading continues until all latches in the row are read and the latched value is stored (labeled (cycle n)). Reading all rows of the array simultaneously in this manner will read the pixel values for the entire column during each clock cycle (assuming that the values are not latched for pixels located at the edge of the array). The image from is scanned in 18 clock cycles. This represents one possible way of reading data, but other methods and configurations are within the scope of the present invention.

図6は、アレイ100内の非縁部画素100の動作のタイミング図である。画素動作は4つの段階を含む。すなわち、リセットし、積分し、変換し、シリアル出力することである。図6には、「相関」および「ナビゲーション」の段階も示す。これらの段階は、画素画像データとその前の画像データとの相関をとることと、この相関に基づいて動きの計算することを指す。ここで説明する実施形態では、相関およびナビゲーションは、画素アレイ100の外側で行われ、本明細書ではこれ以上説明しない。Vintと標示した図6の第1ラインは、画素100のノードAの電圧を反映している。データと標示した第2ラインは、隣接画素から受け取った信号と比較した後、所与の画像について画素100がラッチした値を反映している(図6には隣接画素信号値は示していない)。図6の「Ibias」ラインは、バイアス電流がNMOS140にかかっているかどうかを示し、「ストローブ」ラインは、STROBE信号がハイかローかを示している。「走査クロック」ラインは、複数画素からなる各列ごとにラッチ118の値が読み込まれる時点を示している。画素100のラッチされた値(ラッチ118)は、画素100が位置する列に対応するクロックサイクルで読み込まれるはずである。たとえば、画素100が図3の画素100である場合、画素100のラッチ118は、画素100および100のラッチ118および118と同じクロックサイクルで読み出されるはずである。 FIG. 6 is a timing diagram of the operation of the non-edge pixel 100 i in the array 100. Pixel operation includes four stages. That is, reset, integrate, convert, and serial output. FIG. 6 also shows the “correlation” and “navigation” stages. These steps refer to the correlation between the pixel image data and the previous image data, and the calculation of motion based on this correlation. In the embodiment described here, the correlation and navigation takes place outside the pixel array 100 and will not be described further here. The first line in FIG. 6 labeled V int reflects the voltage at node A of pixel 100 i . The second line labeled data reflects the value latched by pixel 100 i for a given image after comparison with the signal received from the neighboring pixel (the neighboring pixel signal value is not shown in FIG. 6). ). The “I bias ” line in FIG. 6 indicates whether a bias current is applied to the NMOS 140 and the “strobe” line indicates whether the STROBE signal is high or low. The “scan clock” line indicates the time when the value of the latch 118 is read for each column of a plurality of pixels. The latched value of pixel 100 i (latch 118 i ) should be read in the clock cycle corresponding to the column in which pixel 100 i is located. For example, when the pixel 100 i is a pixel 100 3 of FIG. 3, the latch 118 third pixel 100 3 should be read in the same clock cycle as the latch 118 1 and 118 2 of the pixels 100 1 and 100 2.

図6のt=0で、画素はすでにリセット段階にある。リセット中、(縁部画素も含めた)各画素ごとにノードAの電圧Vintは、デバイス132および134の動作によって共通の基準電圧Vrefにプルされる。リセット段階中、RESET信号はハイになり、PMOS134を通して電流が流れるのを妨げ、NRESET信号はローになり、PMOS132を通して電流が流れることができる。PMOSデバイス132および134は、ノードAに注入される望まれない電荷を相殺するための電荷相殺回路を提供する。隣接画素は、整合した光学的かつ電気的性能特性を有するべきであるが、電荷相殺回路が、隣接セル中に注入される電荷量の潜在的な不整合によって生じる固定パターンノイズ(FPN)を低減する助けとなる。 At t = 0 in FIG. 6, the pixel is already in the reset phase. During reset, for each pixel (including the edge pixels), the voltage V int at node A is pulled to a common reference voltage V ref by the operation of devices 132 and 134. During the reset phase, the RESET signal goes high, preventing current from flowing through the PMOS 134, the NRESET signal goes low, and current can flow through the PMOS 132. PMOS devices 132 and 134 provide a charge cancellation circuit for canceling unwanted charge injected into node A. Adjacent pixels should have matched optical and electrical performance characteristics, but charge cancellation circuitry reduces fixed pattern noise (FPN) caused by potential mismatch in the amount of charge injected into adjacent cells To help.

積分段階では、RESET信号はローになり、NRESET信号はハイになり、光源が使用可能になる。光源は、机上その他の表面からの光をアレイ100に反射させるように配置された発光ダイオード(LED)または他の選択的に使用可能となる光源とすることができる。Ibias信号はハイになり、それによって初期電流IがNMOSデバイス140、138および142を通って流れることができる。図6に示すように、リセット段階中は電力を温存するために、Ibiasは使用禁止状態にすることができる。アレイがリセット段階にあるときは光強度は測定されないので、Vrefに基づいてIの値を変調する必要がなく、電力を温存するためにIbiasを使用禁止状態にすることができる。あるいは、Ibiasはイネーブル状態のままにすることもできるはずである。光がフォトダイオード136に入射すると、フォトダイオード136を通る電流が積分ノードAを放電し、Vintは降下する。図6に示すように、積分段階中、Vintは減少する。この減少の勾配は、ノードAが放電する速度に対応し、照明されたフォトダイオード136を通る逆バイアス電流の大きさに対応する。フォトダイオード136を通る電流は照明が強くなるのに応じて増加するので、Vintの勾配はフォトダイオード136に当たる光の強度に応じて変化する。 In the integration phase, the RESET signal goes low and the NRESET signal goes high, enabling the light source. The light source can be a light emitting diode (LED) arranged to reflect light from the desk or other surface to the array 100 or other selectively available light source. The I bias signal goes high so that the initial current I 0 can flow through the NMOS devices 140, 138 and 142. As shown in FIG. 6, in order to conserve power during the reset phase, I bias can be disabled . Since the light intensity is not measured when the array is in the reset phase, there is no need to modulate the value of I 0 based on V ref , and I bias can be disabled to conserve power. Alternatively, Ibias could be left enabled. When light enters the photodiode 136, the current through the photodiode 136 discharges the integration node A and V int drops. As shown in FIG. 6, V int decreases during the integration phase. The slope of this decrease corresponds to the rate at which node A discharges and corresponds to the magnitude of the reverse bias current through the illuminated photodiode 136. Since the current through the photodiode 136 increases as the illumination increases, the slope of V int varies with the intensity of light striking the photodiode 136.

光源は、積分段階の終了時に使用禁止状態にする。フォトダイオード136を通る暗電流(すなわち、照明がない状態での逆バイアス電流)は十分に小さいので、Vintは積分段階の終了時に達したレベルのままになる。図6からわかるように、このレベルは、電圧の減少の下限に相当する。図6に、2種類の電圧減少の様子を示す。実線で示す減少は、フォトダイオード136をより強く(すなわち「明るく」)照明することに伴う電圧降下に相当し、反射性の物体または表面のフィーチャが存在する状態(あるいは物体または表面のフィーチャがより反射性の高い状態)を示すことができる。フォトダイオード136を通る電流がより大きいと、ノードAは急速に放電し、減少がより急峻になる。逆に、破線で示す減少は、フォトダイオード136をより弱く(すなわち「暗く」)照明することに伴う電圧降下に相当し、反射性の物体または表面のフィーチャが存在しない状態(あるいは物体または表面のフィーチャがより反射性の低い状態)を示すことができる。フォトダイオード136を通る電流がより小さいと、ノードAがよりゆっくりと放電し、減少がより緩やかになる。ノードAの電圧Vintは、NMOS138のゲートをバイアスするので、Vintの大きさによりIの大きさが変調される。したがって、Vintが大きいほどIが大きくなり、Vintが小さいほどIが小さくなる。Vintは(したがってIも)、積分段階を通じて減少し続ける。電流Iが流れる限り、比較電流は比較電流生成器で生成され得る。光源が積分段階の終了時に使用禁止状態になるとき、フォトダイオードを通る暗電流は小さくなるので、光が使用禁止状態の時点(すなわち、積分段階の終了時)でIの大きさの減少は停止し、対応する比較電流の大きさの減少も停止する。 The light source is disabled at the end of the integration phase. Since the dark current through the photodiode 136 (ie, reverse bias current in the absence of illumination) is sufficiently small, V int remains at the level reached at the end of the integration phase. As can be seen from FIG. 6, this level corresponds to the lower limit of the voltage decrease. FIG. 6 shows two types of voltage reduction. The decrease indicated by the solid line corresponds to the voltage drop associated with more intense (ie, “brighter”) illumination of the photodiode 136, with more reflective object or surface features present (or more object or surface features). Highly reflective state). As the current through the photodiode 136 is larger, node A discharges rapidly and the decrease becomes steeper. Conversely, the reduction indicated by the dashed line corresponds to a voltage drop associated with illuminating the photodiode 136 weaker (ie, “darker”), with no reflective object or surface feature present (or object or surface failure). The feature is less reflective). The smaller the current through the photodiode 136, the more slowly the node A discharges and the slower the decrease. Since the voltage V int at node A biases the gate of NMOS 138, the magnitude of I 0 is modulated by the magnitude of V int . Therefore, as V int is greater I 0 is increased, as the V int is small I 0 becomes smaller. V int (and thus I 0 ) continues to decrease throughout the integration phase. As long as the current I 0 flows, the comparison current can be generated with the comparison current generator. When the light source is disabled at the end of the integration phase, the dark current through the photodiode is small, so at the time when the light is disabled (ie at the end of the integration phase) the decrease in magnitude of I 0 is It stops and the corresponding decrease in the magnitude of the comparison current also stops.

積分段階の後、変換段階に入る。積分段階の終了時、画素100の比較器116への1つの入力は、その画素の比較電流生成器からの8倍の比較電流である。すなわち、この比較電流は、積分段階の終了時(すなわち、光が使用禁止のとき)におけるその画素のIの8倍の大きさに相当する。例として図6の実線のVintおよび図4の概略図を用いると、Vbrightに相当するIの8倍に等しい初期電流がPMOS147からノードBに入力される。隣接画素の比較電流生成器からの8つの外部比較電流の合計がノードCに入力される。したがって、ノードCにおける電流は、積分段階の終了時における8個の隣接画素からの電流Iの大きさの合計に相当する。STROBE信号がハイの場合、比較器116は平衡状態に維持される。変換段階の終了時付近で、STROBE信号はローになり、NMOSデバイス158はオフになり、ノードBおよびCへの入力の相対強度が比較される。ノードBへの入力のほうが大きい場合、合計した外部電流はNMOSデバイス156を通って接地され、ノードCの電圧はローになる。ただし、ノードBの入力がノードCの入力よりも小さい場合、合計電流は完全には接地されず、ノードCの電圧はハイのままになる。 After the integration stage, the conversion stage is entered. At the end of the integration phase, one input to the comparator 116 i of the pixel 100 i is eight times the comparison current from the comparison current generator of the pixel. That is, the comparison current, at the end of the integration phase (i.e., when the light is disabled) corresponds to eight times the size of the I 0 of the pixel in the. Using the solid line V int of FIG. 6 and the schematic diagram of FIG. 4 as an example, an initial current equal to 8 times I 0 corresponding to V bright is input from the PMOS 147 to the node B. A sum of eight external comparison currents from the comparison current generators of the adjacent pixels is input to node C. Therefore, the current at node C corresponds to the sum of the magnitudes of currents I 0 from the eight adjacent pixels at the end of the integration phase. When the STROBE signal is high, comparator 116 i is maintained in equilibrium. Near the end of the conversion phase, the STROBE signal goes low, the NMOS device 158 is turned off, and the relative strength of the inputs to nodes B and C are compared. If the input to node B is larger, the total external current is grounded through NMOS device 156 and the voltage at node C goes low. However, if the input at node B is smaller than the input at node C, the total current is not completely grounded and the voltage at node C remains high.

STROBE信号がローのとき、ノードCの電圧によりラッチ118で「0」または「1」がラッチされる。図6に、ストローブ信号がローのとき、データラインの値がハイになるところを示しており、その結果、画素100のラッチ118に「1」がラッチされる。ただし、図6のデータライン上に示す画素100のハイの値は、単に1つの画素100の照明の明るさに基づいているのではないことに注意することが重要である。そうではなくて、(ハイまたはローの)データラインの値は、Vbrightに相当する画素100内の内部電流信号と、他の画素から提供される電流信号との比較に基づいている。これらの他の画素のうち十分に多くの画素も、それぞれの積分ノード電圧がVbrightに十分に近くなるように照明されるとしたら、画素100のデータラインの値は、おそらくはローになる(すなわち、「0」がラッチされる)はずである。したがって、ラッチされた値は、サブアレイ内の隣接画素と比較した1つの画素(たとえば、図2および3の画素100)のDCRされた値を表す。言い換えると、ラッチされた値は、ある画素に当たる照明を隣接画素の照明と比較した相対強度を表す。 When the STROBE signal is low, “0” or “1” is latched in the latch 118 i by the voltage of the node C. FIG. 6 shows that the value of the data line becomes high when the strobe signal is low. As a result, “1” is latched in the latch 118 i of the pixel 100 i . However, it is important to note that the high value of pixel 100 i shown on the data line in FIG. 6 is not simply based on the illumination brightness of one pixel 100 i . Instead, the value of the data line (high or low) is based on a comparison of the internal current signal in pixel 100 i corresponding to V bright with current signals provided from other pixels. If enough of these other pixels are also illuminated so that their respective integration node voltages are sufficiently close to V bright , the value of the data line of pixel 100 i will probably be low ( That is, “0” should be latched). Thus, the latched value represents the DCR value of one pixel (eg, pixel 100 0 in FIGS. 2 and 3) compared to an adjacent pixel in the subarray. In other words, the latched value represents the relative intensity of the illumination hitting a pixel compared to the illumination of an adjacent pixel.

変換が完了し各画素のDCR済みの値がラッチされた後、ラッチされた値は、上記で説明したように読み込むことができる。図6に示すように、相関およびナビゲーション機能の前に、(読出し信号として機能し得る)走査クロック信号を送り、各行から1列を同時に読み込むことができる。   After the conversion is complete and the DCRed value for each pixel is latched, the latched value can be read as described above. As shown in FIG. 6, before the correlation and navigation functions, a scanning clock signal (which may function as a readout signal) can be sent to read one column from each row simultaneously.

アナログドメインでDCR画像処理を行い、画素アレイ内にそれを統合することによって、アレイのアナログ領域および感光性領域中へのデジタル信号の干渉を低減することができる。   By performing DCR image processing in the analog domain and integrating it into the pixel array, interference of digital signals into the analog and photosensitive regions of the array can be reduced.

上述した実施形態では、各画素(または少なくとも各非縁部画素)は、その出力を最隣接画素の出力と比較する。しかし、別の実施形態は、ある画素の出力を隣接しない(すなわち最も近くはない)が近傍の画素からの出力と比較することを含む。例として、図7に、アレイ100’およびサブアレイ101’を示す。式(1)は次のように改変することができる。   In the embodiments described above, each pixel (or at least each non-edge pixel) compares its output with the output of the nearest neighbor pixel. However, another embodiment involves comparing the output of one pixel with the output from a neighboring pixel that is not adjacent (ie not closest). As an example, FIG. 7 shows an array 100 'and a subarray 101'. Formula (1) can be modified as follows.

Figure 0004540958
Figure 0004540958

あるいはこの式(2)を次のように書くこともできる。 Or this formula (2) can also be written as follows.

Figure 0004540958
Figure 0004540958

式(2)を実施するアレイ内の画素は、8個を超える数の隣接画素出力信号を合計する場合、(図4のPMOSデバイス143〜151などの)追加のミラーリングデバイスを含むことができるが、必ずしもその必要はない。もちろん、式(2)の十分な数の項についてα=0である場合、追加のミラーリングデバイスは必要ないはずである。別の実施形態では、下記に式(3)で示すように、式(2)をさらに改変して他の大きさをもつサブアレイを包含することができるはずである。 The pixels in the array implementing equation (2) may include additional mirroring devices (such as PMOS devices 143-151 of FIG. 4) when summing more than eight adjacent pixel output signals. This is not always necessary. Of course, if α i = 0 for a sufficient number of terms in equation (2), no additional mirroring device should be needed. In another embodiment, as shown below in equation (3), equation (2) could be further modified to include subarrays with other sizes.

Figure 0004540958
Figure 0004540958

ただし、nは考慮する隣接画素数である。 However, n is the number of adjacent pixels to be considered.

別の実施形態では、画像サイクル中に1ビットより大きい画像データを出力するように、1つまたは複数の画素を構成することができる。図8は、こうした一実施形態の画素の概略図である。積分回路112’、比較電流生成器回路114’および電流加算ノード110’は、図4に関して説明した積分回路112、比較電流生成器回路114および電流加算ノード110と類似のものである。したがって、ブロック110’、112’および114’の詳細および動作をさらに説明する必要はない。ただし、図8の比較器116’は、ノードB’のところに複数のデバイス154Xおよび154Yと、ノードC’のところに複数のデバイス156Xおよび156Yを含むように改変されている。デバイス154Xと154Yは異なるサイズのものであるが、デバイス154Xと156Xは整合している。デバイス154Yと156Yも整合している。デバイス154Xを通る電流は、デバイス162によって調整される。同様に、デバイス154Y、156Xおよび156Yを通る電流もそれぞれ、デバイス161、163および164によって調整される。(ローカルなものでもよく、グローバルなものでもよく、あるいはその他の方法で複数の画素に制御信号を提供する)プロセッサ180は、SELP信号およびSELN信号でデバイス161および164を制御する。同様に、プロセッサ180は、STROBE信号を提供し、CLK(クロック)信号およびBIT SELECT(ビット選択)信号を受け取る。   In another embodiment, one or more pixels can be configured to output image data greater than one bit during an image cycle. FIG. 8 is a schematic diagram of a pixel of such an embodiment. Integration circuit 112 ', comparison current generator circuit 114' and current addition node 110 'are similar to integration circuit 112, comparison current generator circuit 114 and current addition node 110 described with respect to FIG. Accordingly, there is no need to further describe the details and operation of blocks 110 ', 112' and 114 '. However, the comparator 116 'of FIG. 8 is modified to include a plurality of devices 154X and 154Y at node B' and a plurality of devices 156X and 156Y at node C '. Devices 154X and 154Y are of different sizes, but devices 154X and 156X are aligned. Devices 154Y and 156Y are also aligned. The current through device 154X is regulated by device 162. Similarly, the current through devices 154Y, 156X and 156Y is also regulated by devices 161, 163 and 164, respectively. The processor 180 (which may be local, global, or otherwise provide control signals to multiple pixels) controls the devices 161 and 164 with the SELP and SELN signals. Similarly, processor 180 provides a STROBE signal and receives a CLK (clock) signal and a BIT SELECT (bit select) signal.

一般に、図8の画素の画像サイクルのリセット段階および積分段階は、図4および6に関して上記で説明したものと類似しているはずである。前に説明した実施形態の場合と同様に、ノードB’への入力はデバイス147’からの8倍の大きさの電流(I8x)であり、比較器のノードC’への入力は隣接画素からの比較電流の合計(IΣ)である。ただし、前の実施形態とは異なり、比較器116’への入力は、画像サイクルの変換段階中に数回比較される。第1の比較では、SELP信号がハイであり、デバイス164がオンになる。この状態では、電流が、ノードC’からデバイス156Xおよび156Yを通り、またノードB’からデバイス154Xを通って流れることができる。デバイス156Xおよび156Yの合計サイズがデバイス154Xのサイズよりも大きいようにデバイス156Xおよび156Yがサイズ設定されている場合、比較器116’は、ノードB’に向かってスキューされることになる。言い換えると、比較器出力がハイになるには、IΣがより大きくなる必要があることになる。STROBE信号がローになった後、比較器116’の出力はラッチ118’でラッチされ、次いで、(以下に説明するように)おそらくはメモリ182に記憶される。メモリ182は画素の外側にある。再度STROBE信号をハイにして比較器116’を平衡状態にし、SELN信号およびSELP信号をローにする。この状態では、電流が、ノードC’からデバイス156Xを通り、またノードB’からデバイス154Xを通って流れることができる。これらのデバイスは平衡状態にあるので、IΣがI8xと等しいかそれよりも大きいとき、比較器116’の出力はハイになることになる。再度STROBE信号をローにし、それによって比較器116’の出力がラッチされ、そのラッチされた値は(おそらくは)メモリ182に記憶される。次いで、STROBE信号をハイにし、もう一度比較器を平衡状態にし、SELN信号をハイにする。この状態では、電流が、ノードC’からデバイス156Xを通り、またノードB’からデバイス154Xおよび154Yを通って流れることができる。この状態では、比較器116’は、ノードC’に向かってスキューされる。言い換えると、比較器出力をハイにするには、IΣがより小さくなる必要があることになる。再度STROBE信号をローにし、それによって比較器116’の出力がラッチされ、そのラッチされた値は(おそらくは)メモリ182に記憶される。 In general, the reset and integration phases of the image cycle of the pixel of FIG. 8 should be similar to those described above with respect to FIGS. As in the previously described embodiment, the input to node B ′ is eight times the current (I 8x ) from device 147 ′ and the input to comparator node C ′ is the adjacent pixel. Is the sum of the comparison currents from (I Σ ). However, unlike the previous embodiment, the input to the comparator 116 'is compared several times during the conversion phase of the image cycle. In the first comparison, the SELP signal is high and device 164 is turned on. In this state, current can flow from node C ′ through devices 156X and 156Y and from node B ′ through device 154X. If the devices 156X and 156Y are sized such that the total size of the devices 156X and 156Y is larger than the size of the device 154X, the comparator 116 'will be skewed towards the node B'. In other words, I Σ needs to be larger for the comparator output to go high. After the STROBE signal goes low, the output of comparator 116 ′ is latched by latch 118 ′ and then possibly stored in memory 182 (as described below). Memory 182 is outside the pixel. Again, the STROBE signal is brought high to bring the comparator 116 'into a balanced state and the SELN and SELP signals are brought low. In this state, current can flow from node C ′ through device 156X and from node B ′ through device 154X. Since these devices are in equilibrium, the output of comparator 116 'will be high when I Σ is greater than or equal to I 8x . Again, the STROBE signal is pulled low, thereby latching the output of comparator 116 ′, and the latched value is (possibly) stored in memory 182. The STROBE signal is then brought high, the comparator is again balanced, and the SELN signal is brought high. In this state, current can flow from node C ′ through device 156X and from node B ′ through devices 154X and 154Y. In this state, comparator 116 'is skewed toward node C'. In other words, to make the comparator output high, needs to be smaller. Again, the STROBE signal is pulled low, thereby latching the output of comparator 116 ′, and the latched value is (possibly) stored in memory 182.

図9は、比較器116’の動作をさらに説明するグラフである。水平軸はノードC’への入力(IΣ)を表し、垂直軸はノードB’への入力(I8X)を表す。I、IiiおよびIiiiは、|Iiii|>|Iii|>|I|を満たす任意の電流強度を表す。ライン1は、SELP信号がハイである(デバイス154X、156Xおよび156Yがオンである)状態に相当する。ライン1より上の領域のIΣとI8Xの値の組合せでは、比較器116’の出力はローとなる。ライン1上あるいはそれより下の領域のIΣとI8Xの値の組合せでは、比較器116’の出力はハイとなる。ライン2は、SELPおよびSELNがローである(デバイス154Xおよび156Xがオンである)状態に相当する。比較器116’がこの状態にあるとき、ライン2より上の領域のIΣとI8Xの値の組合せでは、ローの比較器出力が得られ、ライン2上あるいはそれより下の領域のIΣとI8Xの値の組合せでは、ハイの比較器出力が得られる。ライン3は、SELN信号がハイである(デバイス154X、154Yおよび156Xがオンである)状態に相当する。比較器116’がこの状態にあるとき、ライン3より上の領域のIΣとI8Xの値の組合せでは、ローの比較器出力が得られ、ライン3上あるいはそれより下の領域のIΣとI8Xの値の組合せでは、ハイの比較器出力が得られる。したがって、この構成では、比較器116’は、IΣがI8Xよりもどのくらい大きいか、あるいはI8XがIΣよりもどのくらい大きいかをより詳しく示す出力を提供する。再度、図9を参照すると、画素は、IΣおよびI8Xが(a、b、cまたはd)の4つの領域のどこにあるかを示すように復号することができる出力を提供することができる。 FIG. 9 is a graph for further explaining the operation of the comparator 116 ′. The horizontal axis represents the input (I Σ ) to the node C ′, and the vertical axis represents the input (I 8X ) to the node B ′. I i , I ii, and I iii represent any current intensity that satisfies | I iii |> | I ii |> | I i |. Line 1 corresponds to a state where the SELP signal is high (devices 154X, 156X and 156Y are on). For combinations of I Σ and I 8X values in the region above line 1, the output of comparator 116 'is low. For combinations of I Σ and I 8X values on or below line 1, the output of comparator 116 'is high. Line 2 corresponds to a state where SELP and SELN are low (devices 154X and 156X are on). When comparator 116 ′ is in this state, the combination of the I Σ and I 8X values in the region above line 2 provides a low comparator output, and I Σ in the region above or below line 2. And the combination of the I 8X values provides a high comparator output. Line 3 corresponds to a state where the SELN signal is high (devices 154X, 154Y and 156X are on). When comparator 116 ′ is in this state, the combination of the values of I Σ and I 8X in the region above line 3 provides a low comparator output, and I Σ in the region above or below line 3. And the combination of the I 8X values provides a high comparator output. Thus, in this configuration, the comparator 116 'is, I sigma is how much greater than I 8X, or I 8X provides an output indicating more detail greater how much than I sigma. Referring again to FIG. 9, the pixel can provide an output that can be decoded to show where I Σ and I 8X are in the four regions of (a, b, c or d). .

プロセッサ180およびメモリ182は、比較器116’の出力を2ビット値に変換する。(STROBEがローになり、SELPがハイである)変換段階の第1部分の間、(IΣおよびI8Xが領域aにあることを示す)ハイの比較器出力は、外部メモリ182に「11」として記憶される。ロー出力はIΣまたはI8Xが領域b、cおよびdにあることに一致するので、この第1部分の間、ロー出力に対して値は記憶されない。(STROBEがローになり、SELNおよびSELPがローである)変換段階の第2部分の間、ハイの比較器出力は、IΣおよびI8Xの値が領域bにあることを示し、メモリ182に「10」として記憶される。ロー出力はIΣおよびI8Xが領域cまたはdにあることに一致するので、この第2部分の間、ロー出力に対して値は記憶されない。(STROBEがローになり、SELNがハイである)変換段階の第3部分の間、ハイの比較器出力は外部メモリ182に「01」として記憶され、ローの比較器出力は「00」として記憶される。154Yおよび156Yに類似の追加のデバイスならびに180からの追加の選択出力を備えれば、追加のビット値を得ることもできる。 The processor 180 and the memory 182 convert the output of the comparator 116 ′ into a 2-bit value. During the first part of the conversion phase (STROBE goes low and SELP is high), a high comparator output (indicating that I Σ and I 8X are in region a) is “11” in the external memory 182. Is stored. Since the low output matches that I Σ or I 8X is in the regions b, c and d, no value is stored for the low output during this first part. During the second part of the conversion phase (STROBE goes low and SELN and SELP are low), the high comparator output indicates that the values of I Σ and I 8X are in region b and stores in memory 182 Stored as “10”. Since the low output matches that I Σ and I 8X are in region c or d, no value is stored for the low output during this second portion. During the third part of the conversion phase (STROBE goes low and SELN is high), the high comparator output is stored as “01” in the external memory 182 and the low comparator output is stored as “00”. Is done. Additional bit values can be obtained with additional devices similar to 154Y and 156Y and additional select outputs from 180.

本発明による画素アレイを動き検出に、より具体的には、コンピュータ入力装置または位置指示装置の一部として使用することができる。こうした装置には、動きを測定するコンピュータのマウス、トラックボールその他の装置が含まれる。図10に、本発明によるフォトセンサ画素アレイをコンピュータマウスに実装した可能な一例を示す。図10に「分解」斜視図で、典型的なマウス250のいくつかの主要なコンポーネントを示す。マウス250は、上部ケース251、1組のキー252、回路ボード253および下部ケース254を含む。マウス250の他のコンポーネントは図示していないが、(電池動力式マウスの場合には)電源、(ワイヤレス装置でない場合には)コンピュータとの接続用のケーブル、スクロールホイールその他の機械コンポーネントおよび様々な回路コンポーネントを含むことができるはずである。これらの他のコンポーネントは当技術分野では周知のものである。当技術分野ではよく知られているように、ユーザは、机その他の表面の上でマウス250を動かすことによってマウス250を操作する。下部ケース254の下面は、机その他の表面と接触しており、透明であるか、あるいは透明な部分255を含む。(図示しない)レンズその他の焦点合わせ要素を、透明部分255と回路ボード253の間に配置するか、あるいは透明部分255に組み込むこともできるはずである。(図10に輪郭を示す)画像チップ260および(やはり図10に輪郭を示す)LED262を、回路ボード253の下面上に配置する。動作においては、LED262からの光が、机その他の表面から反射され、透明部分255(および存在する場合には焦点合わせ要素)を通って内部を照らし、チップ260上に配置されたアレイ100がそれを受ける。回路ボード253の下面の部分図である図11に示すように、アレイ100を画像チップ260に組み込むことができるはずである。   The pixel array according to the invention can be used for motion detection, more specifically as part of a computer input device or position pointing device. Such devices include computer mice, trackballs, and other devices that measure movement. FIG. 10 shows a possible example in which the photosensor pixel array according to the present invention is mounted on a computer mouse. FIG. 10 is an “exploded” perspective view showing some major components of a typical mouse 250. The mouse 250 includes an upper case 251, a set of keys 252, a circuit board 253, and a lower case 254. Other components of the mouse 250 are not shown, but include a power source (in the case of a battery powered mouse), a cable for connection to a computer (if not a wireless device), a scroll wheel and other mechanical components and various It should be possible to include circuit components. These other components are well known in the art. As is well known in the art, a user operates mouse 250 by moving mouse 250 over a desk or other surface. The lower surface of the lower case 254 is in contact with a desk or other surface and is transparent or includes a transparent portion 255. A lens or other focusing element (not shown) could be placed between the transparent portion 255 and the circuit board 253, or could be incorporated into the transparent portion 255. An image chip 260 (outlined in FIG. 10) and an LED 262 (also outlined in FIG. 10) are placed on the lower surface of the circuit board 253. In operation, light from the LED 262 is reflected from a desk or other surface, illuminates the interior through the transparent portion 255 (and the focusing element, if present), and the array 100 disposed on the chip 260 Receive. The array 100 could be incorporated into the image chip 260 as shown in FIG. 11 which is a partial view of the lower surface of the circuit board 253.

本発明を実施する特定の例を説明してきたが、添付の特許請求の範囲に記載した本発明の趣旨および範囲に含まれる、上記で説明したシステムおよび技術の多くの変形形態および置換形態があることが当業者には理解されよう。しかし、一例として、初期電流生成器、比較電流生成器および比較器(ならびに説明した実施形態の他の部分)は、代替回路構成から形成することができるはずである。本発明による画素アレイは、可視光波長を外れた照明に応答するフォトセンサを含むことができるはずである。1つまたは複数の隣接しない近傍の画素が所与の画素に接続される構成に加えて、本発明は、すべてではない隣接(または最隣接)画素が所与の画素に接続される構成も含む。   While specific examples of implementing the invention have been described, there are many variations and substitutions of the systems and techniques described above that fall within the spirit and scope of the invention as set forth in the appended claims. Those skilled in the art will understand. However, as an example, the initial current generator, the comparison current generator and the comparator (and other parts of the described embodiment) could be formed from alternative circuit configurations. A pixel array according to the present invention could include a photosensor that responds to illumination outside the visible light wavelength. In addition to the configuration in which one or more non-adjacent neighboring pixels are connected to a given pixel, the present invention also includes a configuration in which not all adjacent (or nearest neighbor) pixels are connected to a given pixel. .

本発明の画素アレイは、他の応用例でも実施することができよう。その一例には、警報用の動き検出が含まれる。別の例には、距離の測定に使用する電子「定規」または「ものさし」に画素アレイを組み込むことが含まれる。別の可能な例には、プリンタ内で紙の動き検出器の一部として画素アレイを使用することが含まれる。上記その他の改変形態は、添付の特許請求の範囲で定義される本発明の範囲に含まれる。   The pixel array of the present invention could be implemented in other applications. One example includes motion detection for alarms. Another example includes incorporating a pixel array into an electronic “ruler” or “measurement” used to measure distance. Another possible example includes using a pixel array as part of a paper motion detector in a printer. Such other modifications are within the scope of the present invention as defined in the appended claims.

動き検出に使用される既存のフォトセンサ構造を示すブロック図である。It is a block diagram which shows the existing photosensor structure used for a motion detection. 本発明の一実施形態による画素アレイを示す構成図である。It is a block diagram which shows the pixel array by one Embodiment of this invention. 図2の画素アレイの一部を示すブロック図である。FIG. 3 is a block diagram showing a part of the pixel array in FIG. 2. 図3の画素を示す概略図である。It is the schematic which shows the pixel of FIG. 本発明の一実施形態におけるシリアルデータ読出しを示すブロック図である。It is a block diagram which shows the serial data reading in one Embodiment of this invention. 本発明の実施形態の動作を示すタイミング図である。It is a timing diagram which shows operation | movement of embodiment of this invention. 本発明の第2の実施形態による画素アレイを示す構成図である。It is a block diagram which shows the pixel array by the 2nd Embodiment of this invention. 本発明の第3の実施形態による画素を示す概略図である。It is the schematic which shows the pixel by the 3rd Embodiment of this invention. 図8の画素の動作を説明するグラフである。It is a graph explaining operation | movement of the pixel of FIG. 本発明による画素アレイをコンピュータマウスに実装した一実施形態を示す図である。It is a figure which shows one Embodiment which mounted the pixel array by this invention in the computer mouse. 本発明による画素アレイをコンピュータマウスに実装した一実施形態を示す図である。It is a figure which shows one Embodiment which mounted the pixel array by this invention in the computer mouse.

符号の説明Explanation of symbols

10 フォトセンサ
12、14、18 NMOSトランジスタ
16 ノード
20 記憶コンデンサ
100 アレイ
100 画素
100〜100 画素
100’ アレイ
101、101’ サブアレイ
110、110’ 電流加算ノード
112、112’ 積分回路
114、114’ 比較電流生成器回路
116、116’ 比較器回路
118、118’ シリアル走査出力ラッチ
120、120’ バッファ
132、134 PMOSデバイス
136 フォトダイオード
138、140 NMOSデバイス
142 PMOS基準デバイス
143〜151 PMOSミラーリングデバイス
154、156 NMOSデバイス
154X、154Y、156X、156Y デバイス
158、158’ 複合電荷相殺デバイス
161〜164 デバイス
180 プロセッサ
182 メモリ
250 マウス
251 上部ケース
252 キー
253 回路ボード
254 下部ケース
255 透明部分
260 画像チップ
262 LED
10 Photosensor 12, 14, 18 NMOS transistor 16 Node 20 Storage capacitor 100 Array 100 0 Pixel 100 1 to 100 8 Pixel 100 'Array 101, 101' Subarray 110, 110 'Current summing node 112, 112' Integration circuit 114, 114 'Comparison current generator circuit 116, 116' Comparator circuit 118, 118 'Serial scan output latch 120, 120' Buffer 132, 134 PMOS device 136 Photodiode 138, 140 NMOS device 142 PMOS reference device 143-151 PMOS mirroring device 154 156 NMOS device 154X, 154Y, 156X, 156Y device 158, 158 'composite charge cancellation device 161-164 device 180 processor 1 82 Memory 250 Mouse 251 Upper case 252 Key 253 Circuit board 254 Lower case 255 Transparent part 260 Image chip 262 LED

Claims (13)

LEDを備えているコンピュータ入力装置に用いられ
プロセッサ、
メモリ、
フォトダイオード、
光強度に応じた電流を発生する初期電流生成器、
内部比較電流および外部比較電流を生成する比較電流生成器回路
外部からの電流を合計する電流加算ノード、
2つの電流について、一方の電流が他方の電流に対して所定の割合よりも大きいか、大きくないかを比較する比較器回路であって、前記比較の割合を変更しうるように構成されている比較器回路および
ラッチ
を備えている複数の画素からなるフォトセンサアレイにおいて、受光される照明の相対差異を示す方法であって、
面を前記LEDが照明する第1のステップと、
前記LEDからの光が面に反射されると、前記面に反射された照明を前記フォトダイオードが受光し、前記フォトダイオードにより受光される光強度に応じた電流を前記初期電流生成器が発生する第2のステップと、
前記初期電流生成器により発生された電流を基準として、複数の外部比較電流と少なくとも1つの内部比較電流とを前記比較電流生成器回路が生成する第3のステップと、
当該画素に隣接する画素の比較電流生成器回路からの外部比較電流を前記電流加算ノードが受け取る第4のステップと、
前記受け取られた外部比較電流を前記電流加算ノードが合計する第5のステップと、
前記電流加算ノードにより合計された外部比較電流と、前記内部比較電流とを前記比較器回路が比較する第6のステップと、
前記内部比較電流が、前記電流加算ノードにより合計された外部比較電流に対し所定の比較の割合よりも大きい場合に、第1の値についての出力を前記ラッチに提供し、前記内部比較電流が、前記電流加算ノードにより合計された外部比較電流に対し所定の比較の割合よりも大きくない場合に、第2の値についての出力を前記ラッチ提供する第7のステップと、
前記プロセッサが、前記ラッチにより提供された出力が第の値である場合に、前記ラッチにより提供された出力を2ビット値に変換して、前記変換された2ビット値を前記メモリに記憶させ、または前記ラッチにより提供された出力が第の値である場合に、前記比較器回路の前記比較の割合を変更し、前記比較器回路を平衡状態にして、前記電流加算ノードにより合計された外部比較電流と内部比較電流とを前記比較器回路に比較させる第6のステップに戻す第8のステップと、
を備えたことを特徴とする方法。
Used in computer input devices with LEDs,
Processor,
memory,
Photodiode,
An initial current generator that generates a current according to the light intensity;
A comparison current generator circuit for generating an internal comparison current and an external comparison current;
A current summing node that sums the current from outside,
A comparator circuit that compares whether two currents are larger or smaller than a predetermined ratio with respect to the other current, and is configured to change the ratio of the comparison. A method for indicating a relative difference in received illumination in a photosensor array comprising a plurality of pixels comprising a comparator circuit and a latch, comprising:
A first step in which the LED illuminates a surface;
When the light from the LED is reflected on the surface, the photodiode receives the illumination reflected on the surface, and the initial current generator generates a current corresponding to the light intensity received by the photodiode. A second step;
A third step in which the comparison current generator circuit generates a plurality of external comparison currents and at least one internal comparison current with reference to the current generated by the initial current generator;
A fourth step of receiving the external comparison currents of comparison current generator circuit or these pixels adjacent to the pixel the current summing node,
A fifth step in which the current summing node sums the received external comparison current;
A sixth step in which the comparator circuit compares the external comparison current summed by the current summing node with the internal comparison current;
The internal comparison current, if with respect to the current summing node summed external comparison current by greater than a predetermined proportion of the comparison, providing an output for the first value in the latch, the previous SL internal comparison current A seventh step of providing the latch with an output for a second value if not greater than a predetermined comparison ratio for the external comparison current summed by the current summing node ;
Wherein the processor, when the output provided by said latch is the second value, and converts the provided output by the latch to the 2-bit value, is stored the converted 2-bit value in the memory or, if the output provided by said latch is a first value, changes the ratio of the comparison of the comparator circuit, and the comparator circuit in equilibrium, it is summed by the current summing node An eighth step of returning to the sixth step for causing the comparator circuit to compare the external comparison current and the internal comparison current;
A method characterized by comprising:
前記画素の各々において、前記複数の外部比較電流は前記初期電流生成器により発生された電流に対し、同一の利得または減衰を有し、前記少なくとも1つの内部比較電流は、前記初期電流生成器により発生された電流に対し、同一の利得または減衰を有していることを特徴とする、請求項1に記載の方法。 At each of said pixels, said plurality of external comparison currents to current generated by the initial current generator, has the same gain or attenuation, wherein at least one internal comparison current, the initial current generation 2. A method according to claim 1, characterized in that the current generated by the generator has the same gain or attenuation . 前記画素の各々において、前記少なくとも1つの内部比較電流は、前記初期電流生成器により発生された電流に対し、前記受け取った外部比較電流の数の倍数を利得として有していることを特徴とする、請求項1に記載の方法。 At each of said pixels, said at least one internal comparison current to current generated by the initial current generator, characterized in that it has a multiple of the number of the received external comparison current as a gain The method according to claim 1. 前記初期電流が必要でない場合には、前記初期電流の生成を前記初期電流生成器が中断するステップをさらに備えたことを特徴とする、請求項1に記載の方法。 The method of claim 1, further comprising the step of the initial current generator interrupting generation of the initial current when the initial current is not required. 前記フォトセンサアレイの外側縁部において、前記第6および第7のステップを実行しないことを特徴とする、請求項1に記載の方法。 The method of claim 1, wherein the sixth and seventh steps are not performed at an outer edge of the photosensor array. 前記第4のステップは、当該画素に隣接しない少なくとも1つの画素の比較電流生成器回路からの外部比較電流を前記電流加算ノードが受け取るステップを含むことを特徴とする、請求項1に記載の方法。 The method of claim 1, wherein the fourth step includes the current summing node receiving an external comparison current from a comparison current generator circuit of at least one pixel that is not adjacent to the pixel. . コンピュータ入力装置の動きに応答して、コンピュータディスプレイ上のカーソルの動きを生成するコンピュータ入力装置であって、
LEDと、
複数の画素からなるフォトセンサアレイと、
を備え、前記画素の各々が、
メモリと、
前記LEDからの光が面に反射されると、前記面に反射された照明を受光するフォトダイオードと、
前記フォトダイオードにより受光される光強度に応じた電流を発生する初期電流生成器と、
前記初期電流生成器により発生された電流を基準として、複数の外部比較電流と少なくとも1つの内部比較電流とを生成する比較電流生成器回路と、
当該画素に隣接する画素の比較電流生成器回路からの外部比較電流を受け取り、前記受け取られた外部比較電流を合計する電流加算ノードと、
前記電流加算ノードにより合計された外部比較電流と、前記内部比較電流とについて、前記内部比較電流が前記電流加算ノードにより合計された外部比較電流に対し所定の比較の割合よりも大きいか、大きくないかを比較する比較器回路であって、前記比較の割合を変更しうるように構成されている比較器回路と、
前記内部比較電流が前記電流加算ノードにより合計された外部比較電流に対し所定の比較の割合よりも大きい場合に、第1の値をラッチし、前記内部比較電流が前記電流加算ノードにより合計された外部比較電流に対し所定の比較の割合よりも大きくない場合に、第2の値をラッチするラッチと、
前記ラッチによりラッチされた値が第の値である場合に、前記ラッチによりラッチされた値を2ビット値に変換して、前記変換された2ビット値を前記メモリに記憶させ、または前記ラッチによりラッチされた値が第1の値である場合に前記比較器回路の前記比較の割合を変更し、前記比較器回路を平衡状態にして、前記電流加算ノードにより合計された外部比較と内部比較電流とを前記比較器回路に比較させるプロセッサと、
を有することを特徴とするコンピュータ入力装置。
A computer input device that generates movement of a cursor on a computer display in response to movement of the computer input device,
LED,
A photosensor array comprising a plurality of pixels ;
Each of the pixels comprises:
Memory,
When the light from the LED is reflected on the surface, a photodiode that receives the illumination reflected on the surface;
An initial current generator for generating a current according to the intensity of light received by the photodiode;
A comparison current generator circuit for generating a plurality of external comparison currents and at least one internal comparison current based on the current generated by the initial current generator;
It receives external comparison currents from comparison current generator circuit of the pixel adjacent to the pixel, a current summing node for summing said received external comparison current,
For the external comparison current summed by the current summing node and the internal comparison current , the internal comparison current is greater than or less than a predetermined comparison ratio with respect to the external comparison current summed by the current summing node. a comparator circuit for comparing either a comparator circuit configured to capable of changing the ratio of the comparison,
If the external comparison currents the internal comparison current is summed by the current summing node greater than the proportion of the predetermined comparison, a first value is latched, pre SL internal comparison current are summed by the current summing node A latch for latching the second value when the external comparison current is not greater than a predetermined comparison ratio ;
If the latched value by said latch is the second value, and converts the latched value by the latch on the 2-bit value, is stored the converted 2-bit value in the memory, or the If the latched value by the latch is a first value, it changes the ratio of the comparison of the comparator circuit, and the comparator circuit in equilibrium, an external comparison summed by the current summing node a processor for comparing the internal comparison current to the comparator circuit,
A computer input device comprising:
前記画素の各々について、前記複数の外部比較電流は、前記初期電流生成器により発生された電流に対し、同一の利得または減衰を有し、前記少なくとも1つの内部比較電流は、前記初期電流生成器により発生された電流に対し、同一の利得または減衰を有していることを特徴とする、請求項7に記載のコンピュータ入力装置。 For each of the pixels, the plurality of external comparison currents, the relative initial current current generated by the generator, have the same gain or attenuation, wherein at least one internal comparison current, the initial current 8. Computer input device according to claim 7, characterized in that the current generated by the generator has the same gain or attenuation . 前記画素の各々は、m行n列のフォトセンサアレイに配置され、当該フォトセンサアレイは、1つの列内の複数のラッチが同時に読み込まれることを特徴とする、請求項7に記載のコンピュータ入力装置。 Each of said pixels are arranged in the photosensor array of m rows and n columns, those the photosensor array, and a plurality of latches in a column are read simultaneously, according to claim 7 computer Input device. 前記初期電流は、前記フォトセンサアレイが動作中であっても、連続して生成されないことを特徴とする、請求項7に記載のコンピュータ入力装置。 The initial current, the even I Oh photosensor array is operational, characterized in that it is not continuously generated, a computer input device according to claim 7. 前記フォトセンサアレイの外側縁部において、前記画素の各々は、前記比較器回路が前記電流加算ノードにより合計された外部比較電流と、前記内部比較電流とを比較しないことを特徴とする、請求項7に記載のコンピュータ入力装置。 The pixel is characterized in that, at the outer edge of the photosensor array, each of the pixels does not compare the external comparison current summed by the current summing node with the internal comparison current. 8. The computer input device according to 7. 前記フォトセンサアレイは、単一の集積回路の一部であることを特徴とする、請求項7に記載のコンピュータ入力装置。   The computer input device of claim 7, wherein the photosensor array is part of a single integrated circuit. 前記画素の各々において、前記初期電流生成器がNMOSデバイスを備えたことを特徴とする、請求項7に記載のコンピュータ入力装置。 8. The computer input device of claim 7, wherein in each of the pixels , the initial current generator comprises an NMOS device.
JP2003338669A 2002-10-30 2003-09-29 Image sensor array, computer input device and method for indicating relative differences in pixel illumination Expired - Fee Related JP4540958B2 (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US10/283,264 US6891143B2 (en) 2002-10-30 2002-10-30 Photo-sensor array with pixel-level signal comparison

Publications (3)

Publication Number Publication Date
JP2004153796A JP2004153796A (en) 2004-05-27
JP2004153796A5 JP2004153796A5 (en) 2006-10-26
JP4540958B2 true JP4540958B2 (en) 2010-09-08

Family

ID=32093492

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003338669A Expired - Fee Related JP4540958B2 (en) 2002-10-30 2003-09-29 Image sensor array, computer input device and method for indicating relative differences in pixel illumination

Country Status (5)

Country Link
US (2) US6891143B2 (en)
EP (1) EP1416424B1 (en)
JP (1) JP4540958B2 (en)
AT (1) ATE414944T1 (en)
DE (1) DE60324752D1 (en)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3965049B2 (en) * 2001-12-21 2007-08-22 浜松ホトニクス株式会社 Imaging device
US6906304B2 (en) * 2002-11-27 2005-06-14 Microsoft Corporation Photo-sensor array for motion detection
US7542178B2 (en) * 2003-01-21 2009-06-02 Hewlett-Packard Development Company, L.P. Electronic device display and document scanner
US7423633B2 (en) 2004-09-01 2008-09-09 Avago Technologies Ec Buip Pte Ltd Apparatus for controlling the position of a screen pointer with low sensitivity to fixed pattern noise
EP1686789A1 (en) * 2005-01-31 2006-08-02 STMicroelectronics (Research & Development) Limited Imaging system utilizing imaging lens and image sensor and method for aligning optical axis therein
WO2006131780A1 (en) 2005-06-10 2006-12-14 Nokia Corporation Re-configuring the standby screen of an electronic device
US7488926B2 (en) * 2006-01-06 2009-02-10 Microsoft Corporation Pixel array with shared pixel output lines
US8816460B2 (en) 2009-04-06 2014-08-26 Nokia Corporation Image sensor
US20120280133A1 (en) * 2011-05-03 2012-11-08 Trusted Semiconductor Solutions, Inc. Neutron detector having plurality of sensing elements
TWI482066B (en) * 2012-11-07 2015-04-21 Au Optronics Corp Optical touch display panel
WO2015131045A1 (en) * 2014-02-28 2015-09-03 The Board Of Trustees Of The Leland Stanford Junior University Imaging providing ratio pixel intensity
WO2017112856A1 (en) 2015-12-22 2017-06-29 Prodeon, Inc. System and method for increasing a cross-sectional area of a body lumen
US10775868B2 (en) * 2018-10-26 2020-09-15 Pixart Imaging Inc. Navigation device with low power consumption

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4454541A (en) * 1982-06-14 1984-06-12 Rca Corporation Charge coupled device based blemish detection system and method
JP2735223B2 (en) * 1988-06-08 1998-04-02 日本放送協会 Solid-state imaging device
US5153731A (en) * 1989-12-18 1992-10-06 Olympus Optical Co., Ltd. Solid state image pick-up device and apparatus capable of providing filtering output with direct and real time manner
US5172286A (en) * 1990-01-03 1992-12-15 Hutchinson Technology, Inc. Load beam interlocking boss
US5461425A (en) * 1994-02-15 1995-10-24 Stanford University CMOS image sensor with pixel level A/D conversion
EP1239666B1 (en) * 1995-12-01 2004-03-24 Qinetiq Limited Imaging system
EP0837418A3 (en) * 1996-10-18 2006-03-29 Kabushiki Kaisha Toshiba Method and apparatus for generating information input using reflected light image of target object
US5801657A (en) * 1997-02-05 1998-09-01 Stanford University Serial analog-to-digital converter using successive comparisons
US6172354B1 (en) * 1998-01-28 2001-01-09 Microsoft Corporation Operator input device
US6271785B1 (en) * 1998-04-29 2001-08-07 Texas Instruments Incorporated CMOS imager with an A/D per pixel convertor
US6757018B1 (en) * 1998-12-18 2004-06-29 Agilent Technologies, Inc. CMOS image sensor with pixel level gain control
US6303924B1 (en) * 1998-12-21 2001-10-16 Microsoft Corporation Image sensing operator input device
US6756576B1 (en) * 2000-08-30 2004-06-29 Micron Technology, Inc. Imaging system having redundant pixel groupings
US20030030738A1 (en) * 2001-05-22 2003-02-13 Clynes Steven Derrick On-chip 2D adjustable defective pixel filtering for CMOS imagers
US6707410B1 (en) * 2002-08-23 2004-03-16 Micron Technology, Inc. Digital pixel sensor with a dynamic comparator having reduced threshold voltage sensitivity
US7375748B2 (en) * 2002-08-29 2008-05-20 Micron Technology, Inc. Differential readout from pixels in CMOS sensor

Also Published As

Publication number Publication date
ATE414944T1 (en) 2008-12-15
DE60324752D1 (en) 2009-01-02
EP1416424B1 (en) 2008-11-19
US6891143B2 (en) 2005-05-10
EP1416424A2 (en) 2004-05-06
US20040085468A1 (en) 2004-05-06
EP1416424A3 (en) 2007-01-10
JP2004153796A (en) 2004-05-27
US6917030B2 (en) 2005-07-12
US20050103981A1 (en) 2005-05-19

Similar Documents

Publication Publication Date Title
Zhang et al. A 30-frames/s, $252\times144 $ SPAD flash LiDAR with 1728 dual-clock 48.8-ps TDCs, and pixel-wise integrated histogramming
US12345834B2 (en) Time to digital converter
JP4540958B2 (en) Image sensor array, computer input device and method for indicating relative differences in pixel illumination
US11974044B2 (en) Pixel sensor having adaptive exposure time
US6956607B2 (en) Solid-state imaging device and distance measuring device
US11825229B2 (en) Event-based vision sensor using on/off event and grayscale detection ramps
EP3967027B1 (en) Dynamic vision sensor with in-pixel digital change detection
US20120140089A1 (en) Image sensor and camera system having the same
US6963060B2 (en) Photo-sensor array for motion detection
US8835826B2 (en) Pixel Circuit, depth sensor having dual operating mode for high and low incident light and operating method
EP3930312A1 (en) Delta image sensor with digital pixel storage
US10992309B1 (en) Analog-to-digital converter including delay circuit and compensator, image sensor including the analog-to-digital converter, and method of operating the same
US7488926B2 (en) Pixel array with shared pixel output lines
JP2004153796A5 (en)
US20170214868A1 (en) Pixel biasing device for canceling ground noise of ramp signal and image sensor including the same
CN117915211A (en) Pixel circuit with two timing circuits
CN113812143A (en) NMOS comparator for image sensor pixel
KR100390839B1 (en) Pixel data determination method using dual ramp signal and CMOS image sensor for the same
JP4969792B2 (en) Solid-state imaging device
CN112118402A (en) Image sensor and parallel analog-to-digital conversion circuit and conversion method thereof
CN114095678A (en) Differential image sensor with external writable digital pixel storage
CN114095676A (en) A Differential Image Sensor with Digital Pixel Storage
CN114095675A (en) A Differential Image Sensor with Digital Pixel Storage and Synchronized Sampling
CN114095677A (en) A Differential Image Sensor with Digital Pixel Storage
CN114173070A (en) A Differential Image Sensor with Digital Pixel Storage

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060907

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060907

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20060907

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20061027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070124

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20070223

RD13 Notification of appointment of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7433

Effective date: 20070525

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20070525

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070625

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20070713

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20070824

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20090901

RD15 Notification of revocation of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7435

Effective date: 20091008

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20091015

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100520

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100623

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130702

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees