[go: up one dir, main page]

KR100936354B1 - Apparatus and method for providing digital zoom - Google Patents

Apparatus and method for providing digital zoom Download PDF

Info

Publication number
KR100936354B1
KR100936354B1 KR1020080004796A KR20080004796A KR100936354B1 KR 100936354 B1 KR100936354 B1 KR 100936354B1 KR 1020080004796 A KR1020080004796 A KR 1020080004796A KR 20080004796 A KR20080004796 A KR 20080004796A KR 100936354 B1 KR100936354 B1 KR 100936354B1
Authority
KR
South Korea
Prior art keywords
image
area
distortion
optical
digital
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
KR1020080004796A
Other languages
Korean (ko)
Other versions
KR20090078933A (en
Inventor
유광림
샬 미하일
Original Assignee
엘지이노텍 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지이노텍 주식회사 filed Critical 엘지이노텍 주식회사
Priority to KR1020080004796A priority Critical patent/KR100936354B1/en
Publication of KR20090078933A publication Critical patent/KR20090078933A/en
Application granted granted Critical
Publication of KR100936354B1 publication Critical patent/KR100936354B1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Lenses (AREA)

Abstract

실시예에서는 향상된 해상도의 디지털 줌을 제공하는 장치 및 방법에 관해 개시된다.Embodiments are directed to an apparatus and method for providing digital zoom with enhanced resolution.

실시예에 따른 디지털 줌을 제공하는 장치는 의도적인 배럴 왜곡 및 핀쿠션 왜곡없이 중앙 영역이 주변 영역에 비해 확대된 광학 이미지를 생성하는 광학 시스템; 상기 광학 이미지를 상기 중앙 영역에 대응하는 제1 영역이 상기 주변 영역에 대응하는 제2 영역에 비해 높은 해상도를 갖는 디지털 이미지로 변환하는 이미징 모듈; 및 상기 디지털 이미지의 크롭핑(cropping), 재스케일링(rescaling) 및 왜곡 보정을 수행하는 이미지 처리 모듈이 포함된다.An apparatus for providing digital zoom according to an embodiment includes an optical system for generating an optical image in which the central area is enlarged compared to the peripheral area without intentional barrel distortion and pincushion distortion; An imaging module for converting the optical image into a digital image having a first resolution corresponding to the central area having a higher resolution than a second area corresponding to the peripheral area; And an image processing module that performs cropping, rescaling, and distortion correction of the digital image.

디지털 줌 Digital zoom

Description

디지털 줌을 제공하는 장치 및 방법{APPARATUS AND METHOD FOR PROVIDING DIGITAL ZOOM}Device and method for providing digital zoom {APPARATUS AND METHOD FOR PROVIDING DIGITAL ZOOM}

실시예에서는 향상된 해상도의 디지털 줌을 제공하는 장치 및 방법에 관해 개시된다.Embodiments are directed to an apparatus and method for providing digital zoom with enhanced resolution.

디지털 카메라 또는 디지털 비디오 카메라와 같은 휴대 전자 촬상 장치는 줌(Zoom) 기능을 제공한다. 줌 기능은 줌 렌즈(zoom lens)의 사용을 통해 제공되거나 디지털 이미지를 크롭핑(cropping) 및 재스케일링(rescaling)함으로써 제공된다.Portable electronic imaging devices such as digital cameras or digital video cameras provide a zoom function. The zoom function is provided through the use of a zoom lens or by cropping and rescaling a digital image.

통상적으로, 줌 렌즈를 사용하여 제공되는 줌 기능을 광학 줌(optical zoom)이라고 하고, 디지털 이미지를 크롭핑 및 재스케일링 하는 과정을 통해 제공되는 줌 기능을 디지털 줌(digital zoom)이라고 한다. 상기 디지털 줌은 전자 촬상 장치에 저렴한 비용으로 쉽게 적용할 수 있는 장점이 있다.Typically, a zoom function provided by using a zoom lens is called optical zoom, and a zoom function provided through a process of cropping and rescaling a digital image is called digital zoom. The digital zoom has an advantage that can be easily applied to the electronic imaging device at low cost.

상기 디지털 줌은 현존하는 픽셀 정보를 이용하여 추가되는 픽셀 정보를 예상함으로써 보다 큰 사이즈의 이미지를 제공한다. The digital zoom provides an image of a larger size by using the existing pixel information to predict the added pixel information.

디지털 줌 기능을 제공하기 위한 픽셀 정보를 예측하는 방법으로 가장 간단 한 방법은 인접한 이웃 픽셀의 픽셀 값을 복제하여 사용하는 방법이 있고, 보다 복잡한 방법으로 인접한 이웃 픽셀들의 정보로부터 중간 픽셀 값(intermediate pixel value)을 생성하여 보간(inerpolation)을 사용하는 방법이 있다. 이러한 기술들은 이미 알려진 기술이며 다양한 이미지 처리 방법에 사용되고 있다.The simplest method of predicting pixel information to provide digital zoom function is to duplicate the pixel values of neighboring neighboring pixels, and in a more complicated way, the intermediate pixel value from the information of the neighboring neighboring pixels. There is a way to use interpolation by creating a value. These techniques are known and used in various image processing methods.

그러나, 전자 촬상 장치가 비교적 높은 해상도를 갖고 있다고 하더라도, 디지털 줌 기능의 제공을 위해 재스캐일링(rwescaling) 방법, 특히 픽셀 값을 복제하여 사용하는 방법, 을 사용하는 경우 높은 줌 배율에서 이미지의 해상도 저하가 발생된다. However, even if the electronic imaging device has a relatively high resolution, the resolution of the image at a high zoom magnification when using a rescaling method, in particular, by replicating pixel values to provide a digital zoom function. Deterioration occurs.

만약, 디지털 줌에 의한 이미지의 해상도 저하를 보상하기 위하여 보다 높은 해상도를 제공하는 렌즈를 사용하거나 광학 줌 렌즈(optical zoom lens)를 사용하는 경우, 전자 촬상 장치의 무게, 비용, 크기가 증가하는 문제가 있다.If a lens that provides a higher resolution or an optical zoom lens is used to compensate for the degradation of an image due to digital zoom, the weight, cost, and size of the electronic imaging device increase. There is.

한편, 미국등록특허(US 7,098,949)에서는 휴대 전자 촬상 장치에서 향상된 해상도의 디지털 줌을 제공하기 위한 장치 및 방법(Apparatus and method for improved-resolution digital zoom in a portable electronic imaging device)"이 개시되어 있다.Meanwhile, US Patent No. 7,098,949 discloses an Apparatus and method for improved-resolution digital zoom in a portable electronic imaging device.

상기 미국등록특허(US 7,098,949)는 원본 이미지로부터 보다 고품질의 디지털 줌 이미지를 생성하기 위해 배럴 왜곡(barrel distortion)을 이용하고 간단한 크롭핑(cropping) 및 재스케일링(rescaling) 과정을 통해 디지털 줌 기능을 제공하는 장치 및 방법을 제시한다.The U.S. Patent (US 7,098,949) uses barrel distortion to generate a higher quality digital zoom image from the original image, and uses the digital zoom function through simple cropping and rescaling processes. Provided are an apparatus and a method for providing the same.

구체적으로, 상기 미국등록특허(US 7,098,949)는 방사상 대칭 왜곡(radial symmetry distortion)을 가진 렌즈를 사용하여 주변 영역보다 중앙 영역에 있어서 배율이 높고, 그로 인해 배럴 왜곡(barrel distortion)의 광학 이미지를 형성하는 렌즈를 이용한 줌 기능을 제공하는 장치 및 방법이 기술되어 있다.Specifically, the US patent US 7,098,949 uses a lens with radial symmetry distortion, which has a higher magnification in the central region than the peripheral region, thereby forming an optical image of barrel distortion. An apparatus and method for providing a zoom function using a lens are described.

도 1에 도시된 균일한 그리드 패턴으로 표시된 피촬상 객체(object)는 상기 방사상 대칭 왜곡을 가진 렌즈에 의해 도 2에 도시된 바와 같은 배럴 왜곡을 갖는 광학 이미지로 생성된다.A photographic object represented by the uniform grid pattern shown in FIG. 1 is generated by the lens with the radial symmetrical distortion into an optical image having barrel distortion as shown in FIG. 2.

한편, 재스케일링(rescaling) 기술은 광학 이미지의 중앙 영역에서는 적절히 적용될 수 있으나, 광학 이미지의 주변 영역에서는 중간 픽셀(intermediate pixel)이 사각 형태(rectangular)가 아니기 때문에, 적절히 적용될 수 없다. 따라서, 상기 재스케일링(rescaling) 기술은 변형되어야 한다.Meanwhile, the rescaling technique may be appropriately applied in the central region of the optical image, but may not be appropriately applied since the intermediate pixel is not rectangular in the peripheral region of the optical image. Thus, the rescaling technique must be modified.

이러한 재스케일링 기술의 변형은 필수적으로 계산의 복잡도를 야기시키는 문제점이 있다.Such a modification of the rescaling technique necessarily has a problem of causing a complexity of calculation.

실시예는 디지털 줌 기능을 제공하는 장치 및 방법을 제공한다.An embodiment provides an apparatus and method for providing a digital zoom function.

실시예는 향상된 해상도의 디지털 줌 기능을 제공하는 장치 및 방법을 제공한다.Embodiments provide an apparatus and method for providing a digital zoom function with enhanced resolution.

실시예에 따른 디지털 줌을 제공하는 장치는 의도적인 배럴 왜곡 및 핀쿠션 왜곡없이 중앙 영역이 주변 영역에 비해 확대된 광학 이미지를 생성하는 광학 시스템; 상기 광학 이미지를 상기 중앙 영역에 대응하는 제1 영역이 상기 주변 영역에 대응하는 제2 영역에 비해 높은 해상도를 갖는 디지털 이미지로 변환하는 이미징 모듈; 및 상기 디지털 이미지의 크롭핑(cropping), 재스케일링(rescaling) 및 왜곡 보정을 수행하는 이미지 처리 모듈이 포함된다.An apparatus for providing digital zoom according to an embodiment includes an optical system for generating an optical image in which the central area is enlarged compared to the peripheral area without intentional barrel distortion and pincushion distortion; An imaging module for converting the optical image into a digital image having a first resolution corresponding to the central area having a higher resolution than a second area corresponding to the peripheral area; And an image processing module that performs cropping, rescaling, and distortion correction of the digital image.

실시예에 따른 디지털 줌을 제공하는 장치는 적어도 하나의 실린더형 렌즈를 포함하고, 중앙 영역이 주변 영역에 비해 확대된 광학 이미지를 생성하는 광학 시스템; 상기 광학 이미지를 상기 중앙 영역에 대응하는 제1 영역이 상기 주변 영역에 대응하는 제2 영역에 비해 높은 해상도를 갖는 디지털 이미지로 변환하는 이미징 모듈; 및 상기 디지털 이미지의 크롭핑(cropping), 재스케일링(rescaling) 및 왜곡 보정을 수행하는 이미지 처리 모듈이 포함된다.An apparatus for providing digital zoom according to an embodiment includes an optical system including at least one cylindrical lens, the optical system generating an optical image with a central area enlarged relative to a peripheral area; An imaging module for converting the optical image into a digital image having a first resolution corresponding to the central area having a higher resolution than a second area corresponding to the peripheral area; And an image processing module that performs cropping, rescaling, and distortion correction of the digital image.

실시예에 따른 디지털 줌을 제공하는 장치는 라인 초점을 갖는 적어도 하나의 렌즈를 포함하고, 중앙 영역이 주변 영역에 비해 확대된 광학 이미지를 생성하 는 광학 시스템; 상기 광학 이미지를 상기 중앙 영역에 대응하는 제1 영역이 상기 주변 영역에 대응하는 제2 영역에 비해 높은 해상도를 갖는 디지털 이미지로 변환하는 이미징 모듈; 및 상기 디지털 이미지의 크롭핑(cropping), 재스케일링(rescaling) 및 왜곡 보정을 수행하는 이미지 처리 모듈이 포함된다.An apparatus for providing digital zoom according to an embodiment includes an optical system including at least one lens having a line focus, the optical system generating an optical image in which a central area is enlarged relative to a peripheral area; An imaging module for converting the optical image into a digital image having a first resolution corresponding to the central area having a higher resolution than a second area corresponding to the peripheral area; And an image processing module that performs cropping, rescaling, and distortion correction of the digital image.

실시예에 따른 디지털 줌을 제공하는 방법은 의도적인 배럴 왜곡 및 핀쿠션 왜곡없이 중앙 영역이 주변 영역에 비해 확대된 광학 이미지를 생성하는 단계; 상기 광학 이미지를 상기 중앙 영역에 대응하는 제1 영역이 상기 주변 영역에 대응하는 제2 영역에 비해 높은 해상도를 갖는 디지털 이미지로 변환하는 단계; 및 상기 제1 영역에서 크롭된(cropped) 디지털 이미지를 생성하는 단계; 상기 크롭된 디지털 이미지에 대해 재스케일링(rescaling) 및 왜곡 보정을 수행하는 단계가 포함된다.According to an embodiment, there is provided a method of providing a digital zoom, the method including: generating an optical image in which a central area is enlarged relative to a peripheral area without intentional barrel distortion and pincushion distortion; Converting the optical image into a digital image having a first resolution corresponding to the center area having a higher resolution than a second area corresponding to the peripheral area; Generating a digital image cropped in the first region; Performing rescaling and distortion correction on the cropped digital image.

실시예에 따른 디지털 줌을 제공하는 장치는 제1 방향을 기준으로 중앙 영역이 주변 영역에 비해 확대된 광학 이미지를 생성하는 광학 시스템; 상기 광학 이미지를 상기 중앙 영역에 대응하는 제1 영역이 상기 주변 영역에 대응하는 제2 영역에 비해 높은 해상도를 갖는 디지털 이미지로 변환하는 이미징 모듈; 및 상기 디지털 이미지의 크롭핑(cropping), 재스케일링(rescaling) 및 왜곡 보정을 수행하는 이미지 처리 모듈이 포함된다.An apparatus for providing digital zoom according to an embodiment includes an optical system for generating an optical image in which a central area is enlarged compared to a peripheral area based on a first direction; An imaging module for converting the optical image into a digital image having a first resolution corresponding to the central area having a higher resolution than a second area corresponding to the peripheral area; And an image processing module that performs cropping, rescaling, and distortion correction of the digital image.

실시예는 향상된 디지털 줌 기능을 제공하는 장치 및 방법을 제공할 수 있다.Embodiments may provide an apparatus and method for providing an enhanced digital zoom function.

이하, 첨부된 도면을 참조하여 본 발명의 실시예에 따른 디지털 줌 기능을 제공하는 장치 및 방법에 대해 상세히 설명하도록 한다.Hereinafter, an apparatus and method for providing a digital zoom function according to an embodiment of the present invention will be described in detail with reference to the accompanying drawings.

주변 영역보다 중앙 영역이 배율이 높은 렌즈는 왜곡된 이미지(distorted image)를 받아들이는데 사용된다. 이러한 왜곡된 이미지는 이미 알려진 수학적 방법에 의해 보정될 수 있다. 예를 들어, 한국 등록특허공보 10-0456632호에서는 영상 기반 렌즈 왜곡 보정장치 및 방법에 대해 개시되어 있고, 한국 등록특허공보 10-0744937호에서는 렌즈 왜곡 보정방법에 대해 개시되어 있다.Lenses whose magnification is higher in the central region than in the peripheral region are used to accept a distorted image. Such distorted images can be corrected by known mathematical methods. For example, Korean Patent Publication No. 10-0456632 discloses an image-based lens distortion correction apparatus and method, and Korean Patent Publication No. 10-0744937 discloses a lens distortion correction method.

그러나, 왜곡된 이미지를 보정한 이미지는 왜곡이 없는 렌즈를 사용하여 받아들인 왜곡이 없는 이미지에 비해 품질이 저하된다. 특히, 이미지의 품질 저하는 이미지의 주변 영역에서 보다 분명하게 나타나는데, 이는 이미 알려진 몇가지 수학적 방법에 의한 보정 절차(correction process)를 통해 이미지의 주변 영역이 확대되어야 하기 때문이다. 다만, 대부분의 경우에 있어서 이미지의 주변 영역은 시각적 인식에 큰 영향을 미치지 않는다.However, the image of correcting the distorted image is deteriorated in quality compared to the image without distortion, which is received using the lens without distortion. In particular, the degradation of the image is more apparent in the peripheral area of the image, since the peripheral area of the image must be enlarged through some known mathematical method of correction. However, in most cases, the surrounding area of the image does not have a big influence on visual perception.

한편, 상기 왜곡된 이미지가 디지털 처리되면 상기 렌즈의 중앙 영역에 대응되는 이미지의 중앙 영역인 제1 영역은 상기 렌즈의 주변 영역에 대응되는 이미지의 주변 영역인 제2 영역에 비해 높은 해상도를 가지게 된다.Meanwhile, when the distorted image is digitally processed, the first region, which is the central region of the image corresponding to the central region of the lens, has a higher resolution than the second region, which is the peripheral region of the image corresponding to the peripheral region of the lens. .

상기 왜곡된 이미지에 줌 동작을 수행하는 경우, 이미지의 중앙 영역은 상대적으로 높은 해상도를 가지고 있기 때문에, 이미지의 중앙 영역에 대한 확대(magnification)는 해상도의 저하 없이 또는 최소한의 해상도의 저하로 수행될 수 있다.When performing the zoom operation on the distorted image, since the center region of the image has a relatively high resolution, magnification of the center region of the image may be performed without degrading the resolution or with the deterioration of the minimum resolution. Can be.

도 3은 실시예에 따른 디지털 줌을 제공하는 장치 및 방법을 설명하기 위한 블럭도이다.3 is a block diagram illustrating an apparatus and method for providing a digital zoom according to an embodiment.

실시예에서 설명하는 전자 촬상 장치는 디지털 카메라 또는 디지털 비디오 카메라와 같이 광학 영상(optical image)을 디지털화하는 전자 장치를 포함한다.The electronic imaging device described in the embodiment includes an electronic device for digitizing an optical image, such as a digital camera or a digital video camera.

도 3을 참조하면, 실시예에 따른 전자 촬상 장치는 광학 시스템(Optical system)(11), 이미징 모듈(Imaging module)(12), 이미지 처리 모듈(Image processing module)(13), 디스플레이부(Display)(15), 메모리(Memory)(14)가 포함된다.Referring to FIG. 3, the electronic imaging apparatus according to the embodiment includes an optical system 11, an imaging module 12, an image processing module 13, and a display unit. 15, a memory 14 is included.

상기 광학 시스템(11)은 광학 이미지를 생성한다. 예를 들어, 상기 광학 시스템(11)은 의도적인 배럴 왜곡(barrel distortion) 및 핀쿠션 왜곡(pincushion distortion)없이 중앙 영역인 제1 영역이 주변 영역인 제2 영역에 비해 확대된 광학 이미지를 제공한다.The optical system 11 produces an optical image. For example, the optical system 11 provides an enlarged optical image compared to a second region in which the first region in the center region is the peripheral region without intentional barrel distortion and pincushion distortion.

상기 광학 시스템(11)은 미리 정의된 왜곡 특성(distortion property)을 가진 적어도 하나의 실린더형 렌즈(cylindrical lens)를 포함한다. 상기 광학 시스템(11)에 대해서는 이후 보다 상세히 설명하도록 한다. The optical system 11 comprises at least one cylindrical lens with a predefined distortion property. The optical system 11 will be described later in more detail.

상기 이미징 모듈(12)은 상기 광학 시스템(11)에서 생성된 광학 이미지를 디지털 이미지로 변환한다. 예를 들어, 상기 이미징 모듈(12)은 이미 알려진 CCD(Charge-Coupled-Device) 또는 CMOS(Complementary Metal Oxide Semiconductor) 기술을 기반으로 하는 광학 센서, 아날로그 디지털 변환기(A/D: Analog to Digital converter), 게인 컨트롤(a gain control), 디지털 신호 처리기(DSP: Digital Signal Processor)를 포함할 수 있다.The imaging module 12 converts the optical image generated by the optical system 11 into a digital image. For example, the imaging module 12 may be an optical sensor or analog-to-digital converter (A / D) based on known Charge-Coupled-Device (CCD) or Complementary Metal Oxide Semiconductor (CMOS) technology. , A gain control, and a digital signal processor (DSP).

상기 이미지 처리 모듈(13)은 상기 이미징 모듈(12), 메모리(14), 디스플레이부(15)와 연결되어 줌 기능이 수행된 디지털 이미지가 제공되도록 한다. 즉, 상기 이미지 처리 모듈(13)은 디지털 이미지의 크롭핑(cropping), 재스케일링(rescaling) 및 왜곡 보정을 수행하여 이미지가 상기 디스플레이부(15)로 출력되도록 한다.The image processing module 13 is connected to the imaging module 12, the memory 14, and the display unit 15 to provide a digital image in which a zoom function is performed. That is, the image processing module 13 performs cropping, rescaling, and distortion correction of the digital image so that the image is output to the display unit 15.

여기서, 재스케일링없이 왜곡 보정만 수행한 이미지는 왜곡이 없는 렌즈들에 의해 받아들여진 이미지와 유사하다.Here, an image that only performs distortion correction without rescaling is similar to an image received by lenses without distortion.

또한, 상기 재스케일링과 왜곡 보정은 동시에 수행되거나, 어느 하나가 먼저 수행되고 다른 하나가 나중에 수행될 수 있다.In addition, the rescaling and distortion correction may be performed simultaneously, or one may be performed first and the other may be performed later.

상기 메모리(14)는 램(RAM: Random Access Memory), 비휘발성 메모리(non-volatile memory)를 포함할 수 있으며, 상기 메모리(14)에는 디지털 줌 펌웨어(firmware) 또는 촬영된 디지털 이미지가 저장될 수 있다.The memory 14 may include random access memory (RAM) and non-volatile memory (RAM), and the memory 14 may store digital zoom firmware or photographed digital images. Can be.

상기 디지털 줌 펌웨어는 디지털 줌 기능, 왜곡 보정기능, 재스케일링(rescaling) 기능이 프로그램된 소프트웨어를 포함한다.The digital zoom firmware includes software programmed with a digital zoom function, a distortion correction function, and a rescaling function.

상기 디지털 줌 기능은 요구된 디지털 줌 배율에 따라 이미지의 주변 영역보다 상대적으로 해상도가 높은 이미지의 중앙 영역에서 디지털 이미지를 크롭(crop)한다. 상기 왜곡 보정기능은 렌즈에 의해 야기된 왜곡을 보정한다. 상기 재스케일링 기능은 픽셀 값(pixel value)의 복사(replication) 또는 보간(interpolation) 등의 방법에 의해 상기 크롭된(cropped) 이미지를 확대한다.The digital zoom function crops the digital image in the center region of the image having a higher resolution than the peripheral region of the image according to the required digital zoom magnification. The distortion correction function corrects the distortion caused by the lens. The rescaling function enlarges the cropped image by methods such as replication or interpolation of pixel values.

예를 들어, 상기 재스케일링 기능은 사용자에 의해 최종 이미지가 촬영되기 전에 디지털적으로 줌된 영상(digitally zoomed scene)의 프리뷰(preview) 기능을 제공하는데 사용될 수 있다.For example, the rescaling function can be used to provide a preview function of a digitally zoomed scene before the final image is taken by the user.

상기 디스플레이부(15)는 촬영된 디지털 이미지 또는 촬영 전 프리뷰 이미지를 사용자에게 제공한다.The display unit 15 provides the photographed digital image or the preview image before the photographing to the user.

도 4와 도 5에는 균일한 그리드 패턴(uniform grid pattern)으로 표시된 피촬상 객체(object)가 실시예에 따른 광학 시스템에 의한 광학 이미지로 표시된 것이 도시되어 있다.4 and 5 show that a photographic object represented by a uniform grid pattern is represented by an optical image by the optical system according to the embodiment.

상기 광학 시스템(11)은 복수의 렌즈들을 포함한다. 특히, 상기 광학 시스템(11)은 적어도 하나의 실린더형 렌즈(cylindrical lens)를 포함하는데, 도 4에는 하나의 실린더형 렌즈가 포함된 광학 시스템에 의한 광학 이미지가 도시되어 있고, 도 5에는 두개의 실린더형 렌즈가 포함된 광학 시스템에 의한 광학 이미지가 도시되어 있다.The optical system 11 comprises a plurality of lenses. In particular, the optical system 11 comprises at least one cylindrical lens, in which an optical image by an optical system including one cylindrical lens is shown, and in FIG. An optical image is shown by an optical system incorporating a cylindrical lens.

실시예에 따른 광학 시스템(11)은 의도적인 배럴 왜곡(barrel distortion) 및 핀쿠션 왜곡(pincushion distortion)이 없는 광학 이미지를 제공한다.Optical system 11 according to an embodiment provides an optical image free of intentional barrel distortion and pincushion distortion.

도 4에서 볼 수 있는 바와 같이, 상기 광학 시스템(11)의 의도적인 배럴 왜곡(barrel distortion) 및 핀쿠션 왜곡(pincushion distortion) 없이 수평 방향을 기준으로 중앙 영역이 주변 영역에 비해 확대된 광학 이미지를 제공한다. 비록 도시되지는 않았지만 상기 광학 시스템(11)은 수직 방향을 기준으로 중앙 영역이 주 변 영역에 비해 확대된 광학 이미지를 제공할 수도 있다.As can be seen in FIG. 4, the central region is enlarged relative to the peripheral region relative to the peripheral region in the horizontal direction without the intentional barrel distortion and pincushion distortion of the optical system 11. do. Although not shown, the optical system 11 may provide an optical image in which the central area is enlarged compared to the peripheral area with respect to the vertical direction.

또한, 도 5에서 볼 수 있는 바와 같이, 상기 광학 시스템(11)의 의도적인 배럴 왜곡(barrel distortion) 및 핀쿠션 왜곡(pincushion distortion) 없이 수평 방향 및 수직 방향을 기준으로 중앙 영역이 주변 영역에 비해 확대된 광학 이미지를 제공한다.Also, as can be seen in FIG. 5, the central region is enlarged relative to the peripheral region relative to the horizontal and vertical directions without the intentional barrel distortion and pincushion distortion of the optical system 11. Provides an optical image.

도 6은 실시예에 따른 광학 시스템에 포함된 렌즈를 예시한 도면이고, 도 7은 렌즈의 단면을 도시한 도면이다.6 is a view illustrating a lens included in an optical system according to an embodiment, and FIG. 7 is a view illustrating a cross section of the lens.

실시예에 따른 렌즈(20)는 일부분이 절단된 원통형(cylindrical) 형태로 형성된다. 상기 렌즈(20)는 미리 정의된 왜곡 특성(distortion property)을 가지며, 왜곡 특성에 따라 형태가 변형될 수 있다.Lens 20 according to the embodiment is formed in a cylindrical (cylindrical) shape, a portion is cut. The lens 20 has a predefined distortion property, and its shape may be modified according to the distortion property.

상기 렌즈(20)는 가상의 수직 대칭면(21)을 기준으로 대칭되는 곡면(22)과 평면(23)이 포함된다. The lens 20 includes a curved surface 22 and a plane 23 symmetric with respect to the virtual vertical symmetry plane 21.

상기 렌즈(20)는 상기 수직 대칭면(21)을 따라 절단한 서로 평행한 단면들이 모두 동일한 형태를 가진다. 도 7에 도시된 렌즈의 단면은 상기 수직 대칭면(21)을 따라 절단한 단면들 중 하나이다. 또한, 상기 단면에서 상기 수직 대칭면(21)은 대칭축으로 나타난다.The lens 20 has the same shape in all parallel cross sections cut along the vertical symmetry plane 21. The cross section of the lens shown in FIG. 7 is one of the cross sections cut along the vertical symmetry plane 21. In addition, the vertical symmetry plane 21 in the cross section appears as an axis of symmetry.

부가적으로, 일반적인 전자 촬상 장치에서는 적어도 어느 한면에 볼록 또는 오목한 원형의 렌즈들만 사용된다. 이러한 원형의 렌즈들은 실초점 또는 허초점이 포인트 초점 형태를 갖는다. 반면에, 실시예에서 상기 렌즈(20)는 상기 포인트 초점에 대조되는 라인 초점을 갖도록 형성될 수 있다.In addition, in general electronic imaging devices, only convex or concave circular lenses are used on at least one surface. These circular lenses have a focal point or real focal point form. In contrast, in the exemplary embodiment, the lens 20 may be formed to have a line focus contrasted to the point focus.

도 8은 두개의 실린더형 렌즈를 예시한 도면이다.8 illustrates two cylindrical lenses.

도 8에 도시된 각각의 렌즈(20)는 도 6과 도 7에서 설명한 바와 같이 설계되며, 다만, 상기 수직 대칭면(21)이 상호 직교하도록 배치된다.Each lens 20 shown in FIG. 8 is designed as described with reference to FIGS. 6 and 7, except that the vertical symmetry planes 21 are orthogonal to each other.

또한, 상기 각각의 렌즈(20)는 라인 초점을 갖도록 형성될 수 있으며, 두개의 라인 초점은 상호 직교한다.In addition, each lens 20 may be formed to have a line focus, and the two line focuses are orthogonal to each other.

실시예에 따른 렌즈(20)는 광축(optical axe)에 수직인 평면에서 장방형의 형태로 형성되나, 상기 광학 시스템(11)의 설계에 따라 그 형태는 변형될 수 있다.The lens 20 according to the embodiment is formed in a rectangular shape in a plane perpendicular to the optical axis, but the shape may be modified according to the design of the optical system 11.

실시예에 따른 렌즈(20)는 제1 방향에 대해 중앙 영역이 주변 영역에 비해 배율이 높도록 설계된다. 만약 두개의 렌즈(20)가 교차되도록 배치된다면 상기 두 개의 렌즈들은 제1 방향 및 상기 제1 방향과 직교하는 제2 방향에 대해 중앙 영역이 주변 영역에 비해 배율이 높도록 설계된다.The lens 20 according to the embodiment is designed such that the central region has a higher magnification than the peripheral region with respect to the first direction. If the two lenses 20 are arranged to intersect, the two lenses are designed such that the central area is higher in magnification than the peripheral area in the first direction and in the second direction orthogonal to the first direction.

이와 같이, 실시예에 따른 광학 시스템(11)은 도 4와 도 5에 도시된 장방형 형태의 그리드 셀에 대응하는 형태의 광학 이미지를 생성하는데, 이는 이미지 재스케일링(rescaling)을 위해 보다 빠르고 간단한 알고리즘을 사용할 수 있도록 한다.As such, the optical system 11 according to the embodiment generates an optical image of a shape corresponding to the rectangular grid cells shown in FIGS. 4 and 5, which is a faster and simpler algorithm for image rescaling. To use.

한편, 다른 실시예에 따르면, 상기 이미지 처리 모듈(13)은 상기 이미징 모듈(12), 메모리(14), 디스플레이부(15) 및 외부 프로세서(미도시)와 연결되어 통신을 할 수 있다.According to another exemplary embodiment, the image processing module 13 may be connected to the imaging module 12, the memory 14, the display unit 15, and an external processor (not shown) to communicate.

이 경우, 상기 외부 프로세서는 재스케일링 및 왜곡 보정을 수행하는 기능을 할 수 있다.In this case, the external processor may function to perform rescaling and distortion correction.

도 1은 피촬상 객체(object)를 균일한 그리드 패턴으로 표시한 도면.1 shows a photographic object in a uniform grid pattern;

도 2는 도 1에 도시된 피촬상 객체가 방사상 대칭 왜곡을 가진 렌즈에 의해 배럴 왜곡을 갖는 광학 이미지로 생성된 것을 도시한 도면.FIG. 2 shows that the object to be captured shown in FIG. 1 is created as an optical image with barrel distortion by a lens with radial symmetry distortion. FIG.

도 3은 실시예에 따른 디지털 줌을 제공하는 장치 및 방법을 설명하기 위한 블럭도.3 is a block diagram illustrating an apparatus and method for providing digital zoom according to an embodiment.

도 4와 도 5는 균일한 그리드 패턴(uniform grid pattern)으로 표시된 피촬상 객체(object)가 실시예에 따른 광학 시스템에 의한 광학 이미지로 표시된 것을 도시한 도면.4 and 5 show that an object captured in a uniform grid pattern is represented by an optical image by an optical system according to an embodiment.

도 6은 실시예에 따른 광학 시스템에 포함된 렌즈를 예시한 도면.6 illustrates a lens included in an optical system according to an embodiment.

도 7은 렌즈의 단면을 도시한 도면.7 shows a cross section of a lens;

도 8은 두개의 실린더형 렌즈를 예시한 도면.8 illustrates two cylindrical lenses.

Claims (19)

의도적인 배럴 왜곡 및 핀쿠션 왜곡없이 중앙 영역이 주변 영역에 비해 확대된 광학 이미지를 생성하는 광학 시스템;An optical system for generating an optical image in which the central region is enlarged relative to the peripheral region without intentional barrel distortion and pincushion distortion; 상기 광학 이미지를 상기 중앙 영역에 대응하는 제1 영역이 상기 주변 영역에 대응하는 제2 영역에 비해 높은 해상도를 갖는 디지털 이미지로 변환하는 이미징 모듈; 및An imaging module for converting the optical image into a digital image having a first resolution corresponding to the central area having a higher resolution than a second area corresponding to the peripheral area; And 상기 디지털 이미지의 크롭핑(cropping), 재스케일링(rescaling) 및 왜곡 보정을 수행하는 이미지 처리 모듈이 포함되는 디지털 줌을 제공하는 장치.And an image processing module that performs cropping, rescaling, and distortion correction of the digital image. 제 1항에 있어서,The method of claim 1, 상기 광학 시스템은 제1 방향을 기준으로 중앙 영역이 주변 영역에 비해 확대된 광학 이미지를 생성하는 디지털 줌을 제공하는 장치.The optical system provides a digital zoom for generating an optical image in which the central area is enlarged relative to the peripheral area with respect to the first direction. 제 1항에 있어서,The method of claim 1, 상기 광학 시스템은 제1 방향 및 상기 제1 방향에 직교하는 제2 방향을 기준으로 중앙 영역이 주변 영역에 비해 확대된 광학 이미지를 생성하는 디지털 줌을 제공하는 장치.And the optical system provides a digital zoom for generating an optical image in which a central area is enlarged relative to a peripheral area with respect to a first direction and a second direction orthogonal to the first direction. 제 1항에 있어서,The method of claim 1, 상기 디지털 이미지의 크롭핑(cropping) 기능, 재스케일링 기능 및 왜곡 보정 기능을 수행하는 펌 웨어가 저장된 메모리가 포함되는 디지털 줌을 제공하는 장치.And a memory storing firmware for performing a cropping function, a rescaling function, and a distortion correction function of the digital image. 제 1항에 있어서,The method of claim 1, 상기 이미지 처리 모듈에서 출력된 디지털 이미지를 디스플레이하는 디스플레이부가 포함되는 디지털 줌을 제공하는 장치.And a display unit for displaying the digital image output from the image processing module. 적어도 하나의 실린더형 렌즈를 포함하고, 의도적인 배럴 왜곡 및 핀쿠션 왜곡없이 중앙 영역이 주변 영역에 비해 확대된 광학 이미지를 생성하는 광학 시스템;An optical system comprising at least one cylindrical lens, the optical system generating an optical image in which the central region is enlarged relative to the peripheral region without intentional barrel distortion and pincushion distortion; 상기 광학 이미지를 상기 중앙 영역에 대응하는 제1 영역이 상기 주변 영역에 대응하는 제2 영역에 비해 높은 해상도를 갖는 디지털 이미지로 변환하는 이미징 모듈; 및An imaging module for converting the optical image into a digital image having a first resolution corresponding to the central area having a higher resolution than a second area corresponding to the peripheral area; And 상기 디지털 이미지의 크롭핑(cropping), 재스케일링(rescaling) 및 왜곡 보정을 수행하는 이미지 처리 모듈이 포함되는 디지털 줌을 제공하는 장치.And an image processing module that performs cropping, rescaling, and distortion correction of the digital image. 제 6항에 있어서,The method of claim 6, 상기 실린더형 렌즈는 수직 대칭면을 기준으로 대칭되는 곡면과 평면이 포함되는 디지털 줌을 제공하는 장치.And the cylindrical lens includes a curved surface and a plane symmetrical with respect to a vertical symmetry plane. 제 6항에 있어서,The method of claim 6, 상기 실린더형 렌즈는 수직 대칭면을 따라 절단한 서로 평행한 단면들이 동일한 형태를 갖는 디지털 줌을 제공하는 장치.And said cylindrical lens provides a digital zoom having the same shape in cross sections parallel to each other cut along a vertical symmetry plane. 제 6항에 있어서,The method of claim 6, 상기 실린더형 렌즈는 두개가 포함되며, 각각의 실린더형 렌즈는 수직 대칭면을 기준으로 대칭되는 곡면과 평면이 포함되고 상기 수직 대칭면을 따라 절단한 서로 평행한 단면들이 동일한 형태를 가지며, 상기 각각의 실린더형 렌즈의 수직 대칭면은 서로 직교하도록 배치되는 디지털 줌을 제공하는 장치.The cylindrical lens includes two, each cylindrical lens has a curved surface and a plane symmetrical with respect to the vertical symmetry plane and the parallel cross-sections cut along the vertical symmetry plane have the same shape, each cylinder Vertical symmetry plane of the lens type is provided with a digital zoom arranged to be orthogonal to each other. 제 6항에 있어서,The method of claim 6, 상기 실린더형 렌즈는 수직 대칭면을 기준으로 대칭되는 곡면과 평면이 포함되고, 상기 평면은 광축에 수직이며 장방형의 형상인 디지털 줌을 제공하는 장치. The cylindrical lens includes a curved surface and a plane symmetrical with respect to the vertical symmetry plane, the plane is perpendicular to the optical axis and provides a digital zoom having a rectangular shape. 라인 초점을 갖는 적어도 하나의 렌즈를 포함하고, 의도적인 배럴 왜곡 및 핀쿠션 왜곡없이 중앙 영역이 주변 영역에 비해 확대된 광학 이미지를 생성하는 광학 시스템;An optical system comprising at least one lens having a line focus, wherein the optical system produces an optical image in which the central region is enlarged relative to the peripheral region without intentional barrel distortion and pincushion distortion; 상기 광학 이미지를 상기 중앙 영역에 대응하는 제1 영역이 상기 주변 영역에 대응하는 제2 영역에 비해 높은 해상도를 갖는 디지털 이미지로 변환하는 이미징 모듈; 및An imaging module for converting the optical image into a digital image having a first resolution corresponding to the central area having a higher resolution than a second area corresponding to the peripheral area; And 상기 디지털 이미지의 크롭핑(cropping), 재스케일링(rescaling) 및 왜곡 보정을 수행하는 이미지 처리 모듈이 포함되는 디지털 줌을 제공하는 장치.And an image processing module that performs cropping, rescaling, and distortion correction of the digital image. 제 11항에 있어서,The method of claim 11, 상기 라인 초점을 갖는 적어도 두개의 렌즈가 포함되고, 각각의 렌즈의 라인 초점은 상호 직교하는 디지털 줌을 제공하는 장치.And at least two lenses having the line focus, wherein the line focus of each lens is orthogonal to each other. 삭제delete 의도적인 배럴 왜곡 및 핀쿠션 왜곡없이 중앙 영역이 주변 영역에 비해 확대된 광학 이미지를 생성하는 단계;Generating an optical image in which the central region is enlarged relative to the peripheral region without intentional barrel distortion and pincushion distortion; 상기 광학 이미지를 상기 중앙 영역에 대응하는 제1 영역이 상기 주변 영역에 대응하는 제2 영역에 비해 높은 해상도를 갖는 디지털 이미지로 변환하는 단계; 및Converting the optical image into a digital image having a first resolution corresponding to the center area having a higher resolution than a second area corresponding to the peripheral area; And 상기 제1 영역에서 크롭된(cropped) 디지털 이미지를 생성하는 단계;Generating a digital image cropped in the first region; 상기 크롭된 디지털 이미지에 대해 재스케일링(rescaling) 및 왜곡 보정을 수행하는 단계가 포함되는 디지털 줌을 제공하는 방법.Performing rescaling and distortion correction on the cropped digital image. 제 14항에 있어서,The method of claim 14, 상기 재스케일링 및 왜곡 보정은 동시에 수행되는 디지털 줌을 제공하는 방법.Wherein said rescaling and distortion correction are performed simultaneously. 제 14항에 있어서,The method of claim 14, 상기 재스케일링 및 왜곡 보정 중 어느 하나가 먼저 수행된 후 다른 하나가 수행되는 디지털 줌을 제공하는 방법.And any one of said rescaling and distortion correction is performed first and then the other. 의도적인 배럴 왜곡 및 핀쿠션 왜곡없이 수평 방향 또는 수직 방향을 기준으로 중앙 영역이 주변 영역에 비해 확대된 광학 이미지를 생성하는 광학 시스템;An optical system for generating an optical image in which the central region is enlarged relative to the peripheral region relative to the horizontal or vertical direction without intentional barrel distortion and pincushion distortion; 상기 광학 이미지를 상기 중앙 영역에 대응하는 제1 영역이 상기 주변 영역에 대응하는 제2 영역에 비해 높은 해상도를 갖는 디지털 이미지로 변환하는 이미징 모듈; 및An imaging module for converting the optical image into a digital image having a first resolution corresponding to the central area having a higher resolution than a second area corresponding to the peripheral area; And 상기 디지털 이미지의 크롭핑(cropping), 재스케일링(rescaling) 및 왜곡 보정을 수행하는 이미지 처리 모듈이 포함되는 디지털 줌을 제공하는 장치.And an image processing module that performs cropping, rescaling, and distortion correction of the digital image. 삭제delete 의도적인 배럴 왜곡 및 핀쿠션 왜곡없이 수평 방향 및 수직 방향을 기준으로 중앙 영역이 주변 영역에 비해 확대된 광학 이미지를 생성하는 광학 시스템;An optical system for generating an optical image in which the central region is enlarged relative to the peripheral region relative to the horizontal and vertical directions without intentional barrel distortion and pincushion distortion; 상기 광학 이미지를 상기 중앙 영역에 대응하는 제1 영역이 상기 주변 영역에 대응하는 제2 영역에 비해 높은 해상도를 갖는 디지털 이미지로 변환하는 이미징 모듈; 및An imaging module for converting the optical image into a digital image having a first resolution corresponding to the central area having a higher resolution than a second area corresponding to the peripheral area; And 상기 디지털 이미지의 크롭핑(cropping), 재스케일링(rescaling) 및 왜곡 보정을 수행하는 이미지 처리 모듈이 포함되는 디지털 줌을 제공하는 장치.And an image processing module that performs cropping, rescaling, and distortion correction of the digital image.
KR1020080004796A 2008-01-16 2008-01-16 Apparatus and method for providing digital zoom Active KR100936354B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020080004796A KR100936354B1 (en) 2008-01-16 2008-01-16 Apparatus and method for providing digital zoom

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020080004796A KR100936354B1 (en) 2008-01-16 2008-01-16 Apparatus and method for providing digital zoom

Publications (2)

Publication Number Publication Date
KR20090078933A KR20090078933A (en) 2009-07-21
KR100936354B1 true KR100936354B1 (en) 2010-01-12

Family

ID=41336878

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020080004796A Active KR100936354B1 (en) 2008-01-16 2008-01-16 Apparatus and method for providing digital zoom

Country Status (1)

Country Link
KR (1) KR100936354B1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114119404B (en) * 2021-11-23 2025-02-11 Oppo广东移动通信有限公司 Image processing method and device, computer readable storage medium and electronic device

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06181530A (en) * 1992-12-11 1994-06-28 Canon Inc Solid-state image pickup camera
JPH0998340A (en) * 1995-09-29 1997-04-08 Sanyo Electric Co Ltd Image pickup device
JP2005311875A (en) 2004-04-23 2005-11-04 Nikon Corp Electronic camera, camera system, and image processing program

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06181530A (en) * 1992-12-11 1994-06-28 Canon Inc Solid-state image pickup camera
JPH0998340A (en) * 1995-09-29 1997-04-08 Sanyo Electric Co Ltd Image pickup device
JP2005311875A (en) 2004-04-23 2005-11-04 Nikon Corp Electronic camera, camera system, and image processing program

Also Published As

Publication number Publication date
KR20090078933A (en) 2009-07-21

Similar Documents

Publication Publication Date Title
US7098949B2 (en) Apparatus and method for improved-resolution digital zoom in a portable electronic imaging device
US7227573B2 (en) Apparatus and method for improved-resolution digital zoom in an electronic imaging device
JP5247702B2 (en) Image system with improved image quality and associated method
KR101388564B1 (en) Image capturing device with improved image quality
TWI462578B (en) Super-resolution digital scaling method and device
JP5237978B2 (en) Imaging apparatus and imaging method, and image processing method for the imaging apparatus
KR101583646B1 (en) Method and apparatus for generating omnidirectional plane image
EP2533198A1 (en) Imaging device and method, and image processing method for imaging device
US9911183B2 (en) Image processing method, image processing apparatus, image pickup apparatus, and non-transitory computer-readable storage medium
KR20190068618A (en) Method and terminal for photographing a terminal
JP2006295626A (en) Fish-eye image processing apparatus and method, and fish-eye image imaging apparatus
KR20070004202A (en) How to Correct Image Distortion by Lens in Digital Camera
JP2018037857A5 (en) Image processing apparatus, image processing method, computer program, and storage medium
JP6961423B2 (en) Image processing equipment, imaging equipment, control methods for image processing equipment, programs and recording media
JP5964772B2 (en) Lens information registration system, lens information server and camera body used for lens information registration system
CN110784642B (en) Image processing apparatus, control method thereof, storage medium, and imaging apparatus
KR100936354B1 (en) Apparatus and method for providing digital zoom
JP2011082726A (en) Image reproducing apparatus, and imaging apparatus
JP4608436B2 (en) Image shooting device
JP6857006B2 (en) Imaging device
JP5847570B2 (en) Image processing apparatus and control method thereof
JP2009047735A (en) Imaging apparatus and image processing program
JP2019176302A (en) Image processing device, image processing method, and program
JP5418258B2 (en) Imaging apparatus and image processing method
JP2006115275A (en) Imaging device

Legal Events

Date Code Title Description
A201 Request for examination
PA0109 Patent application

Patent event code: PA01091R01D

Comment text: Patent Application

Patent event date: 20080116

PA0201 Request for examination
E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20090221

Patent event code: PE09021S01D

PG1501 Laying open of application
E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20090806

Patent event code: PE09021S01D

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

Patent event code: PE07011S01D

Comment text: Decision to Grant Registration

Patent event date: 20091222

GRNT Written decision to grant
PR0701 Registration of establishment

Comment text: Registration of Establishment

Patent event date: 20100104

Patent event code: PR07011E01D

PR1002 Payment of registration fee

Payment date: 20100104

End annual number: 3

Start annual number: 1

PG1601 Publication of registration
FPAY Annual fee payment

Payment date: 20121210

Year of fee payment: 4

PR1001 Payment of annual fee

Payment date: 20121210

Start annual number: 4

End annual number: 4

FPAY Annual fee payment

Payment date: 20131205

Year of fee payment: 5

PR1001 Payment of annual fee

Payment date: 20131205

Start annual number: 5

End annual number: 5

FPAY Annual fee payment

Payment date: 20141205

Year of fee payment: 6

PR1001 Payment of annual fee

Payment date: 20141205

Start annual number: 6

End annual number: 6

FPAY Annual fee payment

Payment date: 20151204

Year of fee payment: 7

PR1001 Payment of annual fee

Payment date: 20151204

Start annual number: 7

End annual number: 7

FPAY Annual fee payment

Payment date: 20161207

Year of fee payment: 8

PR1001 Payment of annual fee

Payment date: 20161207

Start annual number: 8

End annual number: 8

FPAY Annual fee payment

Payment date: 20171205

Year of fee payment: 9

PR1001 Payment of annual fee

Payment date: 20171205

Start annual number: 9

End annual number: 9

FPAY Annual fee payment

Payment date: 20181210

Year of fee payment: 10

PR1001 Payment of annual fee

Payment date: 20181210

Start annual number: 10

End annual number: 10

FPAY Annual fee payment

Payment date: 20191209

Year of fee payment: 11

PR1001 Payment of annual fee

Payment date: 20191209

Start annual number: 11

End annual number: 11

PR1001 Payment of annual fee

Payment date: 20201214

Start annual number: 12

End annual number: 12

PR1001 Payment of annual fee

Payment date: 20211213

Start annual number: 13

End annual number: 13

PR1001 Payment of annual fee

Payment date: 20221212

Start annual number: 14

End annual number: 14

PR1001 Payment of annual fee

Payment date: 20231212

Start annual number: 15

End annual number: 15

PR1001 Payment of annual fee

Payment date: 20241216

Start annual number: 16

End annual number: 16