KR100217148B1 - A method of reducing mosquito noise generated during decoding processing of video data and a video data decoding device using the method - Google Patents
A method of reducing mosquito noise generated during decoding processing of video data and a video data decoding device using the method Download PDFInfo
- Publication number
- KR100217148B1 KR100217148B1 KR1019950043476A KR19950043476A KR100217148B1 KR 100217148 B1 KR100217148 B1 KR 100217148B1 KR 1019950043476 A KR1019950043476 A KR 1019950043476A KR 19950043476 A KR19950043476 A KR 19950043476A KR 100217148 B1 KR100217148 B1 KR 100217148B1
- Authority
- KR
- South Korea
- Prior art keywords
- image data
- step size
- high frequency
- quantization step
- block
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
- 238000000034 method Methods 0.000 title claims description 90
- 241000255925 Diptera Species 0.000 title description 20
- 238000012545 processing Methods 0.000 title description 2
- 238000013139 quantization Methods 0.000 claims abstract description 158
- 238000001514 detection method Methods 0.000 claims abstract description 37
- 230000009466 transformation Effects 0.000 claims abstract description 8
- 230000000694 effects Effects 0.000 claims description 51
- 238000012937 correction Methods 0.000 claims description 35
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 claims description 17
- 230000008878 coupling Effects 0.000 claims 6
- 238000010168 coupling process Methods 0.000 claims 6
- 238000005859 coupling reaction Methods 0.000 claims 6
- 238000000926 separation method Methods 0.000 claims 2
- 238000010586 diagram Methods 0.000 description 25
- 230000008569 process Effects 0.000 description 23
- 230000006835 compression Effects 0.000 description 15
- 238000007906 compression Methods 0.000 description 15
- 230000003044 adaptive effect Effects 0.000 description 12
- 101000969688 Homo sapiens Macrophage-expressed gene 1 protein Proteins 0.000 description 7
- 102100021285 Macrophage-expressed gene 1 protein Human genes 0.000 description 7
- 230000008859 change Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 230000002411 adverse Effects 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/21—Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/124—Quantisation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/13—Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
코드화된 영상 데이타가 분할되는 각각 블록에 역 직교 변형을 인가함으로서 복호화된 영상 데이타를 발생하는 복호화된 영상 데이타의 복호 장치는 주어진 블록에 사용된 양자화 단계 사이즈를 검출하는 양자화 정보 검출유닛(5, 9), 블록 양자화 단계 사이즈 정보를 근거한 주어질 블록에 복호화된 영상 데이타의 고 주파수 성분을 변형하는 주파수 특성 변형유닛(7, 7A), 소정의 주파수 보다 더 높은 주파수를 갖는 고 주파수 성분을 포함한다.An apparatus for decoding decoded image data, which generates decoded image data by applying inverse orthogonal transformation to each block in which coded image data is divided, provides a quantization information detection unit (5, 9) for detecting a quantization step size used for a given block. ), A frequency characteristic modifying unit (7, 7A) for modifying the high frequency component of the decoded image data in a given block based on the block quantization step size information, and a high frequency component having a frequency higher than a predetermined frequency.
Description
제1도는 본 발명의 제1 실시예에 따른 영상 데이타 복호화 장치의 블록도.1 is a block diagram of an image data decoding apparatus according to a first embodiment of the present invention.
제2도는 제1도의 주파수 특성 수정 유닛의 블록도.2 is a block diagram of the frequency characteristic correction unit of FIG.
제3도는 주파수 특성 수정 유닛의 다른 실시예의 블록도.3 is a block diagram of another embodiment of a frequency characteristic correction unit.
제4도는 코링 레벨(coring level) 계수 및 양자화 스케일 인자 사이의 관계를 나타내는 특성 곡선 예의 도표.4 is a diagram of an example characteristic curve showing the relationship between a coring level coefficient and a quantization scale factor.
제5도는 본 발명의 제2 실시예에 따른 영상 데이타 복호화 장치의 블록도.5 is a block diagram of a video data decoding apparatus according to a second embodiment of the present invention.
제6도는 본 발명의 제3 실시예에 따른 영상 데이타 복호화 장치의 블록도.6 is a block diagram of a video data decoding apparatus according to a third embodiment of the present invention.
제7도는 제6도의 제어 신호 발생 유닛에서 화소 어레이에 대한 코링 레벨을 결정하는 방법을 설명한 예시도.FIG. 7 is an exemplary view for explaining a method of determining a leveling level for a pixel array in the control signal generating unit of FIG.
제8도는 본 발명의 제4 실시예에 따른 영상 데이타 복호화 장치의 블록도.8 is a block diagram of a video data decoding apparatus according to a fourth embodiment of the present invention.
제9도는 본 발명의 제5 실시예에 따른 영상 데이타 복호화 장치의 블록도.9 is a block diagram of a video data decoding apparatus according to a fifth embodiment of the present invention.
제10도는 제9도의 주파수 특성 수정 유닛의 다른 구성에 대한 블록도.10 is a block diagram of another configuration of the frequency characteristic correction unit of FIG.
제11도는 제9도의 주파수 특성 수정 유닛의 다른 구성에 대한 블록도.11 is a block diagram of another configuration of the frequency characteristic correction unit of FIG.
제12도는 활성값을 계산하는 실시예를 나타내는 도면.12 shows an embodiment for calculating an activity value.
제13도는 곱셈 인자와 값 G 사이의 관계의 실시예를 나타내는 도표.FIG. 13 is a diagram illustrating an embodiment of a relationship between a multiplication factor and a value G. FIG.
제14도는 본 발명의 제6 실시예에 따른 영상 데이타 복호화 장치의 블록도.14 is a block diagram of a video data decoding apparatus according to a sixth embodiment of the present invention.
* 도면의 주요부분에 대한 부호의 설명* Explanation of symbols for main parts of the drawings
7 : 주파수 특성 수정 유닛 6 : 제어 신호 발생기7: frequency characteristic correction unit 6: control signal generator
22 : 감산기 23 : 승산기22: Subtractor 23: Multiplier
24 : 가산기 25 : 수직 LPF24: adder 25: vertical LPF
본 발명은 노이즈를 줄이는 방법 및 영상 복호화 장치, 특히 부호화된 영상 데이타를 복호화하는 과정 중에 발생하는 모스키토 노이즈(mosquito noise)를 줄이는 방법 및 이 방법에 기초하여 부호화된 영상 데이타를 복호화하기 위한 장치에 관한 것이다.The present invention relates to a method for reducing noise and an image decoding apparatus, in particular, to a method for reducing mosquito noise occurring during a process of decoding encoded image data, and an apparatus for decoding encoded image data based on the method. will be.
비디오 신호, 오디오 신호 등과 같은 다양한 신호들을 디지털 신호로써 전송, 재생 및 기록할 때, 정보를 압축 및 신장시키는 기술은 일반적으로 정보의 량, 즉 비트의 수를 줄이기 위해 사용된다. 예를 들면, 균일하게 분할된 신호 레벨들로부터 선택된 값으로 각각의 샘플 값을 나타내는 선형 양자화(균등 양자화)가 임의의 압축기술 없이 오디오 신호, 비디오 신호등을 디지털화하기 위해 사용된다면, 기록/재생 또는 전송되어야 할 정보의 량은 아마도 커지게 될 것이다. 따라서, 정보의 기록 /재생, 통신, 방송 분야에서, 사람의 시각 및 청각적 지각 특성이 압축 기술에 이용되었다. 예를 들면, 사람의 지각은 신호가 작은 변동을 가질 때 신호 레벨의 변화에 민감하나, 신호가 강한 변동을 가질 때 신호레벨의 변화에 민감하지 않다. 이러한 특성은 각각 샘플 값에 대한 정보의 량을 줄이는데 이용될 수 있다. 또한, 정보를 압축하기 위한 다수의 기술이 압축 기술의 발전을 이룩하기 위하여 사용되었다.When transmitting, reproducing, and recording various signals such as video signals, audio signals, and the like as digital signals, techniques for compressing and decompressing information are generally used to reduce the amount of information, that is, the number of bits. For example, if linear quantization (equal quantization) representing each sample value to a selected value from uniformly divided signal levels is used to digitize audio signals, video signals, etc. without any compression technique, recording / playback or transmission The amount of information that needs to be increased will probably be large. Thus, in the field of recording / reproducing information, communication, and broadcasting, human visual and audio perceptual characteristics have been used in compression techniques. For example, human perception is sensitive to changes in signal level when the signal has small fluctuations, but not sensitive to changes in signal level when the signal has strong fluctuations. These characteristics can be used to reduce the amount of information for each sample value. In addition, a number of techniques for compressing information have been used to effect the development of compression techniques.
예를 들면, VHS형 VTR장치에 의해 재생되는 것과 유사한 영상 품질을 갖는 1시간 동화상에 포함되는 정보의 량은 약 109 기가 비트이다. 또한, 360 기가 비트 이상 또는 이하가 NTSC 칼라 텔레비젼 세트의 수신 영상에 필적할 만한 영상 품질을 갖는 1시간 동화상에 포함된다. 고도의 효율적인 압축 기술을 발전시키기 위한 노력은 현재의 전송 라인 또는 기록매체에 의하여 많은 량의 정보를 기록/재생 또는 전송에 목적을 둔 응용 연구와 관련되어 있다.For example, the amount of information included in a one-hour moving picture having a video quality similar to that reproduced by a VHS-type VTR device is about 109 gigabits. In addition, more than or equal to 360 gigabit is included in the one-hour moving picture with a picture quality comparable to the received picture of an NTSC color television set. Efforts to develop highly efficient compression techniques relate to applied research aimed at recording / reproducing or transmitting large amounts of information by current transmission lines or recording media.
영상 정보에 적용할 수 있는 실질적인 방법으로서 제안되어 있는 가장 효율적인 압축 방법은 정보의 량을 줄이기 위해 3가지 다른 압축 기술들과 결합된다. 제1 기술은 원래의 영상의 인접 화소사이에 높은 상관관계가 있다는 장점을 취한 영상 프레임내의 상관관계를 이용함으로써 정보량을 줄인다(공간 상관관계를 이용한 압축). 제2 기술은 시간적으로 배열된 영상 프레임 사이의 상관관계를 이용하여 정보량을 줄인다(시간 상관관계를 이용한 압축). 제 3 기술은 각각의 코드가 발생할 수 있는 여러 확률을 이용하여 정보량을 줄인다. 영상 프레임내의 상관관계를 이용하여 영상 정보를 압축 하기 위한 기술(제1 기술)로서, 다양한 기술이 제안되었다. 최근에는 K-L(Karhunen-Loeve)변환, 이산 코사인 변환(DCT), 이산 푸리에 변환, 월시-하다 마드 변환과 같은 직교 변환이 종종 사용되었다.The most efficient compression method proposed as a practical method applicable to image information is combined with three different compression techniques to reduce the amount of information. The first technique reduces the amount of information by using the correlation in the image frame taking advantage of the high correlation between adjacent pixels of the original image (compression using spatial correlation). The second technique reduces the amount of information by using correlations between temporally arranged image frames (compression using time correlations). The third technique reduces the amount of information by using different probabilities that each code can occur. As a technique (first technique) for compressing image information by using correlations in an image frame, various techniques have been proposed. Recently, orthogonal transforms such as the Karhunen-Loeve (K-L) transform, the Discrete Cosine transform (DCT), the Discrete Fourier Transform, and the Walsh-Hadam Mad transform are often used.
예를 들면, 150(국제 표준 기구) 하에 설립된 MPEG(동화상 전문가 그룹)에 의해 제안된 영상 정보에 대한 고효율 부호화 방법은 2차원 DCT를 사용한다. 이들 고도로 효율적인 부호화 방법(MPEGI, MPEG2)은 모션 보상 예측 및 인터-프레임 예측을 사용하면서 동화상 정보의 효율적인 부호화를 실현하기 위하여 인트라-프레임 부호화(intra-frame coding) 및 인터-프레임 부호화(inter-frame coding)를 결합한다. 직교 변환은 일반적으로 소정의 블록 사이즈(M x N)를 갖는 단위 블록들로 영상을 분할함으로서 발생되는 블록들에 적용된다. MPEG1 및 MPEG2에서, 8×8 화소 블록 사이즈를 갖는 하나의 블록은 하나의 단위블록으로서 한정된다.For example, a high-efficiency encoding method for image information proposed by MPEG (Moving Picture Experts Group) established under 150 (International Standards Organization) uses two-dimensional DCT. These highly efficient coding methods (MPEGI, MPEG2) use intra-frame coding and inter-frame coding to realize efficient coding of moving picture information while using motion compensated prediction and inter-frame prediction. coding). Orthogonal transformation is generally applied to blocks generated by dividing an image into unit blocks having a predetermined block size (M x N). In MPEG1 and MPEG2, one block having an 8x8 pixel block size is defined as one unit block.
단위블록을 직교 변환함으로써 얻어지는 M×N 직교 변환 계수(예를들면, MPEG1 및 MPEG2에서의 64 DCT 변환계수)는 블록 양자화 스텝 사이즈(양자화를 위한 간격)를 사용함으로써 양자화된다. 블록 양자화 스텝 사이즈는 적어도 하나의 단위블록을 포함하는 소정 사이즈의 영역에 대해 규정된다. MPEG1 및 MPEG2에서, 예를 들면 소정의 사이즈의 영역은 매크로 블록이라 불리고, 이 매크로 블록은 휘도 신호 Y에 대해 16×16 화소의 블록으로 이루어지고 그리고 각각의 칼라 신호 Cr 및 Cb에 대해 8×8 화소의 블록으로 이루어진다. 상세히, 블록 양자화 스텝 사이즈는 [매크로 블록의 양자화 특성(매크로 블록의 양자화 스케일) QS×양자화 메트릭스(8×8)]로서 표현된다. 여기서, 매크로 블록의 양자화 특성은 매크로 블록마다 변화한다.The M × N orthogonal transform coefficients (eg, 64 DCT transform coefficients in MPEG1 and MPEG2) obtained by orthogonal transforming the unit blocks are quantized by using a block quantization step size (interval for quantization). The block quantization step size is defined for a region of a predetermined size including at least one unit block. In MPEG1 and MPEG2, for example, a region of a predetermined size is called a macro block, which is made up of blocks of 16x16 pixels for the luminance signal Y and 8x8 for each color signal Cr and Cb. It consists of a block of pixels. In detail, the block quantization step size is expressed as [the quantization characteristic of the macro block (quantization scale of the macro block) QS × quantization matrix (8 × 8)]. Here, the quantization characteristic of the macro block changes for each macro block.
블록- 양자화 스텝 사이즈에 기초하여 양자화된 직교 변환 계수(예를들면 DCT 계수)는 직류 성분(DC성분)과 교류 성분(AC 성분)으로 분리된다. 직교 변환 계수의 직류성분은 미분 부호화에 영향을 받으며, 직교 변환 계수의 교류성분은 지그재그 주사 후에 엔트로피 부호화에 영향을 받는다. 여기서, 엔트로피 부호화는 허프만 부호화에서와 같이 각각의 코드가 발생하는 여러 확률을이용하는 가변 길이 부호화 체계를 사용하는 정보 압축 기술이다. 변환 및 부호화된 영상 데이타는 비트 스트림(일련의 비트)으로서 전송된다. 변환 및 부호화된 영상 데이타에 대한 복호화 동작은 출력 영상을 발생하기 위하여 앞서 기술된 부호화 동작의 역 방식으로 수행된다. 그러나, 양자화 과정이 전 부호화 과정에 포함될 때, 피할 수 없는 양자화 에러로 인해 출력영상에 양자화 노이즈가 야기된다. 따라서, 부호화 과정에서 처리되는 영상의 복잡성 전송율의 용량보다 더 많은 량의 정보를 포함할 때, 양자화 노이즈는 영상 품질을 저하시킬 것이다.The orthogonal transform coefficients (e.g., DCT coefficients) quantized based on the block-quantization step size are separated into direct current components (DC components) and alternating current components (AC components). The DC component of the orthogonal transform coefficient is affected by differential coding, and the AC component of the orthogonal transform coefficient is affected by entropy coding after zigzag scanning. Here, entropy coding is an information compression technique using a variable length coding scheme that uses various probabilities of generating each code as in Huffman coding. The converted and encoded video data is transmitted as a bit stream (serial bit). The decoding operation on the transformed and encoded image data is performed in the inverse manner of the above-described encoding operation to generate an output image. However, when the quantization process is included in the entire encoding process, quantization noise is caused in the output image due to the inevitable quantization error. Thus, quantization noise will degrade image quality when it contains more information than the capacity of the complexity rate of the image processed in the encoding process.
일반적으로, 저주파수 성분에서의 양자화 에러는 출력영상에서 블록 왜곡을 야기하며, 이 블록왜곡에 의해 출력영상의 각 블록사이에 상관관계가 나타나지 않는다. 또한, 고주파수 성분에서의 양자화 에러는 출력 영상에 링잉이 나타나는 왜곡인 에지 둘레의 모스키토 노이즈를 발생시킨다.In general, the quantization error in the low frequency component causes block distortion in the output image, and there is no correlation between each block of the output image by this block distortion. In addition, quantization errors in high frequency components generate mosquito noise around the edges, which is a distortion in which ringing appears in the output image.
출력 영상에서 나타나는 양자화 에러는 영상 레벨이 일반적으로 평탄한 곳에서 특히 심각하다. 비디오 신호 레벨의 변화가 저주파수에서 고주파수까지의 주파수 성분을 갖는 시점에 적은 량의 양자화 노이즈가 부가될 때, 노이즈는 시각적 지각 특성 때문에 감지되기 어렵다. 그러나, 비디오 신호의 변화가 오직 저주파수 성분만 갖는 시점에 고주파수 성분을 갖는 적은 량의 노이즈가 부가될 때, 노이즈는 용이하게 검출될 수 있다. 물론, 많은 량의 노이즈가 부가될 때, 노이즈는 노이즈의 주파수 성분에 상관없이 부호화 저하로서 검출된다.Quantization errors appearing in the output image are particularly severe where the image level is generally flat. When a small amount of quantization noise is added at the time when the change in the video signal level has frequency components from low frequency to high frequency, the noise is difficult to be detected because of visual perceptual characteristics. However, when a small amount of noise having a high frequency component is added at the time when the change of the video signal has only a low frequency component, the noise can be easily detected. Of course, when a large amount of noise is added, the noise is detected as a coding degradation regardless of the frequency component of the noise.
양자화 노이즈를 계산하기 위한 측정기술로서, 코링 기술이라 불리는 공지된 기술이 있다. 이 기술은 작은 고주파수 성분을 갖는 복호화된 영상의 부분이 대부분 영상 신호 노이즈와 양자화 노이즈고 구성되고, 소정의 레벨보다 낮은 신호 레벨을 갖는 영상의 부분이 제로 신호 레벨을 갖는다는 것을 가정한다. 이 코링 기술은 아날로그 신호에 나타나는 작은 노이즈를 제거하는 방법으로써 사용되었다(참조문헌은 예를 들면 방송 기술, 페이지 141-147, 1991 2월이다.),As a measurement technique for calculating quantization noise, there is a known technique called a coring technique. This technique assumes that a portion of the decoded image having a small high frequency component is composed mostly of image signal noise and quantization noise, and that a portion of the image having a signal level lower than a predetermined level has a zero signal level. This ringing technique has been used as a method of removing small noise in analog signals (see, eg, Broadcasting Technology, pages 141-147, February 1991).
일반적으로, 블록 양자화 스텝 사이즈는 저주파수 성분보다 고주파수 성분에 대해 더 큰 값을 가져서, 시각 지각 특성을 반영한다. 따라서, 양자화 에러는 고주파수 성분에서 나타나는 경향이 있다. 이것을 고려하여, 전술한 코링 기술은 고주파수 성분에만 적용되어 소정 레벨보다 낮은 신호 레벨을 제로레벨로 변환시킨다. 이때, 코링 기술에 의해 처리된 신호는 저주파수 성분의 신호에 부가될 수 있다. 그러나, 코링 레벨이 큰 양자화 스텝 사이즈에 의해 발생되는 양자화 노이즈의 크기에 따라서 세트될 때, 출력 영상은 세밀한 텍스처 없이 평탄한 형태로 나타나는 경향이 있다. 반면에, 만약 작은 양자화 스텝 사이즈에 의해 발생되는 양화 노이즈의 크기에 상응하는 코링 레벨이 사용된다면, 큰 크기를 갖는 양자화 노이즈가 제거될 수 없다. 다시 말해서, 코링 레벨이 소정의 레벨로 고정되기 때문에, 양자화 노이즈는 효율적으로 줄어들지 않는다.In general, the block quantization step size has a larger value for high frequency components than for low frequency components, reflecting visual perceptual characteristics. Therefore, quantization error tends to appear in high frequency components. In view of this, the above-described coring technique is applied only to the high frequency component to convert the signal level lower than the predetermined level to zero level. At this time, the signal processed by the ringing technique may be added to the signal of the low frequency component. However, when the ringing level is set in accordance with the magnitude of the quantization noise generated by the large quantization step size, the output image tends to appear in a flat form without fine texture. On the other hand, if a coring level corresponding to the amount of quantization noise generated by the small quantization step size is used, the quantization noise having a large magnitude cannot be removed. In other words, since the ringing level is fixed at a predetermined level, the quantization noise is not reduced efficiently.
따라서, 부호화된 영상 데이타의 복호화 과정 중에 발생되는 모스키토 노이즈를 효율적으로 줄일 수 있는 방법 및 이 방법에 기초하여 부호화된 영상 데이타를 복호화 하기 위한 장치에 대한 필요성이 제기되었다.Accordingly, there is a need for a method for efficiently reducing mosquito noise generated during decoding of encoded image data and an apparatus for decoding encoded image data based on the method.
따라서, 본 발명의 목적은 전술한 필요성을 만족시킬 수 있는 방법 및 장치를 제공하는데 있다.Accordingly, it is an object of the present invention to provide a method and apparatus that can satisfy the aforementioned needs.
본 발명의 다른 목적은 부호화된 영상 데이타의 복호화 과정 중에 발생되는 모스키토 노이즈를 효율적으로 줄이는 방법 및 이 방법에 기초하여 부호화된 영상 데이타를 복호화하기 위한 장치를 제공하는데 있다.Another object of the present invention is to provide a method for efficiently reducing mosquito noise generated during a decoding process of encoded image data, and an apparatus for decoding encoded image data based on the method.
전술한 본 발명의 목적을 달성하기 위하여, 다수의 블록으로 분할된 부호화 영상 데이타의 각 블록을 역직교 변환하여 복호화된 영상 데이타를 발생시키는 복호화 장치는 주어진 블록에 대해 사용된 양자화 스텝 사이즈를 나타내는 블록 양자화 스텝 사이즈 정보를 검출하는 양자화 정보 검출유닛과, 상기 블록 양자화 스텝 사이즈 정보에 기초하여 상기 주어진 블록에 대한 상기 복호화된 영상 데이타의 고주파수 성분(모스키토 노이즈)을 제거하는 주파수 특성 수정 유닛을 포함하며, 상기 고주파수 성분은 미리 결정된 주파수보다 높은 주파수를 갖는다.In order to achieve the above object of the present invention, a decoding apparatus for generating an image data decoded by inverse orthogonal transformation of each block of encoded image data divided into a plurality of blocks includes a block indicating a quantization step size used for a given block. A quantization information detection unit for detecting quantization step size information, and a frequency characteristic correction unit for removing high frequency components (mosquito noise) of the decoded image data for the given block based on the block quantization step size information, The high frequency component has a frequency higher than a predetermined frequency.
또한, 동일한 목적이 다수의 블록으로 분할된 부호화 영상 데이타의 각 블록을 역직교 변환하여 복호화된 영상 데이타를 발생시키는 본 발명에 따른 복호화 방법에 의해 달성된다. 이 방법은 주어진 블록에 대해 사용된 양자화 스텝 사이즈를 나타내는 블록 양자화 스텝 사이즈 정보를 검출하는 단계와, 상기 블록 양자화 스텝 사이즈 정보에 기초하여 상기 주어진 블록에 대한 상기 복호화된 영상 데이타의 고주파수 성분을 제거하는 단계를 포함하며, 상기 고주파수 성분은 미리 결정된 주파수보다 높은 주파수를 갖는다.In addition, the same object is achieved by the decoding method according to the present invention which generates decoded image data by inverse orthogonal transformation of each block of encoded image data divided into a plurality of blocks. The method includes detecting block quantization step size information indicative of the quantization step size used for a given block, and removing high frequency components of the decoded image data for the given block based on the block quantization step size information. And the high frequency component has a frequency higher than a predetermined frequency.
전술한 방법 및 장치에 있어서, 주어진 블록에 대해 사용된 양자화 스텝 사이즈를 나타내는 블록 양자화 스텝 사이즈 정보는 복호화된 영상 데이타의 고주파수 성분을 제거하기 위해 사용된다. 즉, 양자화 스텝 사이즈에 따르는 크기를 갖는 모스키토 노이즈는 양자화 스텝 사이즈에 따라 고주파수 성분을 제거함으로서 줄일 수 있다. 따라서, 모스키토 노이즈는 복호 화된 영상 데이타의 미세 형상에 악영향을 미치지 않고 효율적으로 감소된다.In the above-described method and apparatus, block quantization step size information indicative of the quantization step size used for a given block is used to remove high frequency components of the decoded image data. That is, mosquito noise having a magnitude corresponding to the quantization step size can be reduced by removing high frequency components in accordance with the quantization step size. Therefore, the mosquito noise is efficiently reduced without adversely affecting the fine shape of the decoded image data.
본 발명의 다른 목적과 추가 특징은 도면을 참조로 하여 이하에서 상세히 설명될 것이다.Other objects and further features of the present invention will be described in detail below with reference to the drawings.
제1도는 본 발명의 제1 실시예에 따른 영상 데이타 복호화 장치의 블록도이다. 제1도에서, 복호화될 비트 스트림(일련의 비트)을 수신하는 입력 노드는 참조부호 1로 표시된다. 또한, 일점쇄선(3)으로 둘러싸인 부분은 집적회로로 제공된다. 일점쇄선(3)으로 둘러싸인 부분은 버퍼 메모리(8), 가변길이 복호화 유닛(9), 역 양자화 유닛(10), 역 직교 변환유닛(11), 가산기(12), 모션 보상유닛(13) 및 영상 메모리(14)를 포함한다. 이 부분에 대한 집적회로는 상업적으로 이용가능하다.1 is a block diagram of an image data decoding apparatus according to a first embodiment of the present invention. In FIG. 1, an input node receiving a bit stream (a series of bits) to be decoded is indicated by reference numeral 1. In addition, the part enclosed by the dashed-dotted line 3 is provided to an integrated circuit. The portion enclosed by the dashed line 3 includes a buffer memory 8, a variable length decoding unit 9, an inverse quantization unit 10, an inverse orthogonal transform unit 11, an adder 12, a motion compensation unit 13 and And an image memory 14. Integrated circuits for this part are commercially available.
입력 노드(1)에 제공되는 비트 스트림은 전술한 3가지 다른 압축 기술, 즉 영상 프레임내의 상관관계를 이용한 압축기술(공간상관을 이용한 압축기술), 시간적으로 배열된 영상 프레임사이의 상관관계를 이용한 압축기술(시간 상관관계를 이용한 압축기술) 및 각각의 코드가 발생될 수 있는 여러 확률을 이용하는 압축기술등을 결합한 MPEG1 또는 MPEG2와 같은 고도의 효율적인 부호화 방법을 통하여 부호화되는 영상 데이타이다. 아래에 기술된 설명에서, 복호화될 영상 데이타는 MPEG1 또는 MPEG2에 의해 발생되는 것으로 가정한다.The bit stream provided to the input node 1 uses the three different compression techniques described above, that is, a compression technique using spatial correlation (compression technique using spatial correlation), and a correlation between temporally arranged image frames. It is image data encoded through a highly efficient encoding method such as MPEG1 or MPEG2, which combines a compression technique (compression technique using time correlation) and a compression technique using various probabilities in which each code can be generated. In the description described below, it is assumed that video data to be decoded is generated by MPEG1 or MPEG2.
MPEG1 또는 MPEG2를 통한 동화상 정보의 고도의 효율적인 부호화는 2차원 이산 코사인 변환(2차원 DCT)을 통한 인트라-프레임 부호화 및 인터-프레임 부호화의 결합에 의해 행해지며, 또한 모션 보상 예측 및 인터-프레임 예측을 이용한다. 고도의 효율적인 부호화로 처리되는 각각의 영상에 대한 영상 신호는 8×8 화소 블록 사이즈(수평 방향에서 8 화소 및 수직 방향에서 8라인)를 갖는 단위 블록으로 분할되며, 각각의 단위블록에는 DCT가 적용된다. 그러면, 각각의 단위 블록에 대해 얻어지는 64 DCT 변환 계수는 블록 양자화 스텝 사이즈를 사용함으로써 양자화된다. MPEG1 및 MPEG2에서, 블록 양자화 임계값은 각각의 매크로 블록에 대해 규정되고, 각각의 매크로 블록은 적어도 하나의 단위 블록을 포함하는 소정 사이즈 영역이며, 휘도 신호 Y에 대해 16×16 화소 블록과 각각의 칼라 신호 Cr 및 Cb에 대해 8×8 화소의 블록으로 구성된다. 상세히, 블록 양자화 스텝 사이즈는 [매크로 블록의 양자화 특성(매크로 블록의 양자화 스케일) QS×양자화 메트릭스(8×8)]로서 표시된다. 여기서, 매크로 블록의 양자화 특성(매크로 블록의 양자화 스케일) QS는 매크로 블록마다 변하는 스케일 인자이다.Highly efficient encoding of moving picture information over MPEG1 or MPEG2 is performed by a combination of intra-frame coding and inter-frame coding through two-dimensional discrete cosine transform (two-dimensional DCT), and also motion compensation prediction and inter-frame prediction. Use The video signal for each image processed by highly efficient encoding is divided into unit blocks having an 8 × 8 pixel block size (8 pixels in the horizontal direction and 8 lines in the vertical direction), and DCT is applied to each unit block. do. The 64 DCT transform coefficients obtained for each unit block are then quantized by using the block quantization step size. In MPEG1 and MPEG2, a block quantization threshold is defined for each macro block, each macro block being a predetermined size region containing at least one unit block, and each of 16 × 16 pixel blocks and each of the luminance signals Y It consists of blocks of 8x8 pixels for the color signals Cr and Cb. In detail, the block quantization step size is expressed as [the quantization characteristic of the macro block (quantization scale of the macro block) QS × quantization matrix (8 × 8)]. Here, the quantization characteristic of the macroblock (quantization scale of the macroblock) QS is a scale factor that varies from macroblock to macroblock.
블록 양자화 스텝 사이즈에 의해 DCT 변환 계수를 분할하는 양자화 과정을 통하여 얻어지는 DCT 계수는 직류 성분(DC 성분) 및 교류 성분(AC 성분)으로 분리된다. DCT 계수의 직류 성분은 미분 부호화에 영향을 받으며, DCT 계수의 교류 성분은 지그재그 주사후 엔트로피 부호화(허프만 부호화에서와 같은 각각의 코드가 발생되는 여러 확률을 이용하는 가변길이 보링 체계)에 영향을 받는다. 그러면, 변환 및 부호화된 영상 데이타에 복호화 과정에 필요한 정보가 부가된 비트 스트림이 발생된다. 여기서, 복호화 과정에 필요한 정보는 블록 양자화 스텝 사이즈(예를들면, 매크로 블록의 양자화 스케일 QS)에 관한 정보와 모션 벡터 및 예측 모드에 관한 정보를 포함한다. 제1도의 영상 데이타 복호화 장치에서, 입력 노드(1)에 공급되는 비트 스트림은 선입 선출법(F1F0) 메모리로부터 만들어지는 버퍼 메모리(8)에 저장된다.The DCT coefficients obtained through the quantization process of dividing the DCT transform coefficients by the block quantization step size are separated into a DC component (DC component) and an AC component (AC component). The DC components of the DCT coefficients are affected by differential coding, and the AC components of DCT coefficients are affected by entropy coding (variable length boring schemes that use different probabilities for each code generation, as in Huffman coding). Then, a bit stream in which information necessary for the decoding process is added to the converted and encoded image data is generated. Here, the information necessary for the decoding process includes information about a block quantization step size (eg, quantization scale QS of a macro block), and information about a motion vector and a prediction mode. In the video data decoding apparatus of FIG. 1, the bit stream supplied to the input node 1 is stored in a buffer memory 8 made from a first-in first-out (F1F0) memory.
가변 길이 복호화 유닛(9)은 버퍼 메모리(8)로 판독된 비트 스트림을 수신하고, 엔트로피 부호화(가변길이 부호화)를 통하여 부호화된 영상 데이타와 변환 및 부호화된 영상 데이타를 복호화하기에 필요한 보조 정보를 복호화 한다(상기 보조 정보는 블록 양자화 스텝 사이즈 정보(매크로 블록의 양자화 특성 QS)와 모션 벡터 및 예측 모드에 관한 정보를 포함한다).The variable length decoding unit 9 receives the bit stream read into the buffer memory 8 and stores the encoded image data and the supplementary information necessary for decoding the transformed and encoded image data through entropy encoding (variable length encoding). Decode (The auxiliary information includes block quantization step size information (quantization characteristic QS of the macro block), and information about a motion vector and a prediction mode.
이때, 영상 데이타 및 가변 길이 복호화 유닛(9)에 의해 복호화된 블록 양자화 스텝 사이즈 정보(매크로 블록의 양자화 스케일 QS)는 역 양자화 유닛(10)에 공급된다. 또한, 모션 벡터, 예측 모드에 관한 정보는 모션 보상 유닛(13)에 공급된다.At this time, the image data and the block quantization step size information (quantization scale QS of the macro block) decoded by the variable length decoding unit 9 are supplied to the inverse quantization unit 10. In addition, information regarding the motion vector and the prediction mode is supplied to the motion compensation unit 13.
영상 데이타 및 블록 양자화 스텝 사이즈 정보(QS)를 수신하는 역 양자화 유닛(10)은 역 양자화 과정을 통하여 DCT 변환 계수를 얻고, 역 직교 변환(역 DCT) 유닛(11)에 계수를 제공한다. 역 직교 변환(역 DCT) 유닛(11)은 주파수 영역의 영상 데이타를 시간 영역의 영상 데이타로 전환하기 위하여 각각의 유닛 블록에 2차원 역 DCT를 적용한다. 시간 영역의 영상 데이타의 결과는 가산기(12)에 공급된다. 가산기(12)에서, 시간 영역의 영상 데이타는 인트라-프레임 부호화 및 인터-프레임 부호화 중 하나를 나타내는 부호화 형태에 따라서 모션 보상유닛(13)에 의해 얻어진 모션 보상 데이타에 더해질 수 있다. 가산기(12)로부터 출력된 영상 데이타는 영상 메모리(14)에 저장된다.The inverse quantization unit 10 receiving the image data and the block quantization step size information QS obtains the DCT transform coefficients through the inverse quantization process and provides the coefficients to the inverse orthogonal transform (inverse DCT) unit 11. The inverse orthogonal transform (inverse DCT) unit 11 applies a two-dimensional inverse DCT to each unit block in order to convert the image data in the frequency domain into the image data in the time domain. The result of the image data in the time domain is supplied to the adder 12. In the adder 12, the image data in the time domain can be added to the motion compensation data obtained by the motion compensation unit 13 according to the encoding form representing one of intra-frame encoding and inter-frame encoding. The image data output from the adder 12 is stored in the image memory 14.
제1도의 영상 데이타 복호화장치에서, 영상 메모리(14)로부터 제공된 영상 데이타는 주파수 특성 수정 유닛(7)을 통하여 출력 노드(2)에 출력된다. 주파수 특성 수정 유닛(7)은 코링 과정을 수행하기 위한 코링 회로이다.In the image data decoding apparatus of FIG. 1, the image data provided from the image memory 14 is output to the output node 2 via the frequency characteristic correction unit 7. The frequency characteristic correction unit 7 is a coring circuit for performing the coring process.
주파수 특성 수정유닛(7)은 영상 데이타에 적용된 코링 레벨을 변화시키기 위하여 제어신호 발생유닛(6)으로부터 제공된 코링 레벨 제어 신호에 의해 제어된다. 제2도는 주파수 특성 수정유닛(7)의 블록도이다. 제3도는 주파수 특성 수정유닛(7)의 다른 예의 블록도이다. 제2도 및 제3도에 도시된 주파수 특성 수정유닛(7)중 하나는 제1도의 영상 데이타 복호화 유닛에 사용될 수 있다.The frequency characteristic correction unit 7 is controlled by a ringing level control signal provided from the control signal generating unit 6 to change the ringing level applied to the image data. 2 is a block diagram of the frequency characteristic correcting unit 7. 3 is a block diagram of another example of the frequency characteristic correcting unit 7. One of the frequency characteristic correction units 7 shown in FIGS. 2 and 3 can be used for the image data decoding unit of FIG.
제2도에서, 점선 7h으로 둘러싸인 부분은 영상의 수평 방향에 코링 과정을 적용하기 위한 코링 회로로서 이용된다. 또한, 점선 7v으로 둘러싸인 부분은 영상의 수직 방향에 코링 과정을 적용하기 위한 코링 회로로서 이용된다, 수평방향에 대한 코링회로로써 사용되는 점선 7h으로 둘러싸인 부분과 수직방향에 대한 코링 회로로서 이용되는 점선 7v으로 둘러싸인 부분은 직렬로 접속된다. 따라서, 양 부분은 2차원 코링과정을 적용하기 위한 코링 회로를 형성한다.In FIG. 2, the portion surrounded by the dotted line 7h is used as a coring circuit for applying the coring process to the horizontal direction of the image. In addition, the portion surrounded by the dotted line 7v is used as a coring circuit for applying the coring process to the vertical direction of the image. The dotted line used as the coring circuit for the horizontal direction and the dotted line used as the coring circuit for the vertical direction. The part enclosed by 7v is connected in series. Thus, both parts form a coring circuit for applying the two-dimensional coring process.
제2도에서, 점선 7h로 둘러싸인 부분은 소정의 차단 주파수를 갖는 수평 LPF(21), 감산기(22), 승산기(23) 및 가산기(24)를 포함한다. 또한, 점선 7v으로 둘러싸인 부분은 소정의 차단 주파수를 갖는 수직 LPF(25), 감산기(26), 승산기(27) 및 가산기(28)를 포함한다.In FIG. 2, the portion enclosed by the dotted line 7h includes a horizontal LPF 21, a subtractor 22, a multiplier 23 and an adder 24 having a predetermined cutoff frequency. Further, the portion surrounded by the dotted line 7v includes a vertical LPF 25, a subtractor 26, a multiplier 27 and an adder 28 having a predetermined cutoff frequency.
제3도에서, 주파수 특성 수정유닛(7)은 2차원 LPF(30), 감산기(31), 승산기(32) 및 가산기(33)를 포함하고, 2차원 코링과정을 적용하기 위한 코링 회로로서 사용된다. 필터가 2차원으로 적용될 때, 가산과 승산 연산을 위한 계산량이 증가한다. 그러나, 대각선 방향으로 확장되는 주파수 대역이 처리 될 수 있다는 점에서 장점이 있다.In FIG. 3, the frequency characteristic correction unit 7 includes a two-dimensional LPF 30, a subtractor 31, a multiplier 32, and an adder 33, and is used as a coring circuit for applying a two-dimensional coring process. do. When the filter is applied in two dimensions, the amount of calculation for addition and multiplication operations increases. However, there is an advantage in that the frequency band extending in the diagonal direction can be processed.
제2도에서, 점선 7h로 둘러싸인 부분 내에 있는 승산기(23)와 점선 7v로 둘러싸인 부분 내에 있는 승산기(27)에는 제어신호 발생유닛(6)으로부터 코링레벨 제어신호가 제공된다. 제3도에서, 승산기(32)에는 제어신호 발생 유닛(6)으로부터 코링레벨 제어신호가 제공된다.In FIG. 2, the multiplier 23 in the portion surrounded by the dotted line 7h and the multiplier 27 in the portion surrounded by the dotted line 7v are provided with the coring level control signal from the control signal generating unit 6. In FIG. 3, the multiplier 32 is provided with a coring level control signal from the control signal generation unit 6.
주파수 특성 수정 유닛(7)의 승산기에서, LPF의 소정의 차단 주파수보다 높은 주파수 대역내에 있는 신호 성분은 신호 성분의 크기가 코링 레벨 제어 신호(코링 레벨 계수 신호)보다 낮을 때 제로에 의해 곱해진다. 따라서, 코링 과정은 가장 높은 주파수대역에서 바람직하지 않은 신호 성분을 줄이기 위해 수행된다.In the multiplier of the frequency characteristic correcting unit 7, signal components in a frequency band higher than a predetermined cutoff frequency of the LPF are multiplied by zero when the magnitude of the signal component is lower than the coring level control signal (coring level coefficient signal). Thus, the coring process is performed to reduce undesirable signal components in the highest frequency band.
제4도는 코링 레벨 계수 및 블록 양자화 스텝 사이즈 정보(QS) 사이의 관계를 나타내는 특성 곡선 예의 도표이다.4 is a diagram of an example of a characteristic curve showing the relationship between the coring level coefficients and the block quantization step size information QS.
제4도의 세로 좌표축에 도시된 코링 레벨 계수는 0 내지 10이며, 블록 양자화 스텝 사이즈 정보(예를 들어, 매크로 블록의 양자화 척도 QS)에 따라서 고주파수 성분을 억압하기 위하여 신호 처리를 수행하는 주파수 특성 수정유닛(7)에 의해 사용된다. 여기서, 블록 양자화 스텝 사이즈 정보는 각각 매크로 블록에 대해, 즉 DCT가 적용되는 적어도 하나의 단위 블록(DCT 블록)을 포함하는 각각 소정의 사이즈 영역에 대해 규정되어 있다. 제4도의 실시예에서, 코링 레벨 계수는 블록 양자화 스텝 사이즈 정보의 값이 커질 때 증가하며 임의의 레벨에서 포화된다.Coring level coefficients shown in the vertical coordinate axis of FIG. 4 are from 0 to 10, and frequency characteristic correction for performing signal processing to suppress high frequency components according to block quantization step size information (e.g., quantization scale QS of a macroblock). Used by the unit 7. Here, the block quantization step size information is defined for each macro block, that is, for each predetermined size region including at least one unit block (DCT block) to which DCT is applied. In the embodiment of FIG. 4, the coring level coefficient increases as the value of the block quantization step size information increases and saturates at any level.
제1도의 영상 데이타 복호화 장치에 사용된 제어 신호 발생유닛(6)은 각각 매크로 블록에 캐해 한정된 블록 양자화 스텝 사이즈 정보(예를 들면, 매크로 블록의 양자화 스케일 QS)가 주소로서 제공되는 룩-업 테이블(ROM 테이블)을 포함할 수있다. 룩-업 테이블(ROM 테이블)은 그것에 제공되는 주소에 따라서 코링 레벨 계수에 상응하는 코링 레벨 계수 신호(코링 레벨 제어 신호)를 출력한다.The control signal generating unit 6 used in the video data decoding apparatus of FIG. 1 is a look-up table in which block quantization step size information (for example, the quantization scale QS of the macro block) defined by caching in a macro block is provided as an address. (ROM tables). The look-up table (ROM table) outputs a coring level coefficient signal (coring level control signal) corresponding to the coring level coefficient according to the address provided to it.
제어 신호 발생 유닛(6)으로부터 제공된 코링 레벨 제어 신호에 따라서 코링 과정을 수행하는 주파수 특성 수정유닛(7)은 큰 블록 양자화 스텝 사이즈가 사용되는 영상 영역에서 큰 코링 레벨을 사용한다. 따라서, 영상의 날카로운 에지를 유지하면서 모스키토 노이즈는 용이하게 제거될 수 있다.The frequency characteristic correction unit 7 which performs the coring process according to the coring level control signal provided from the control signal generating unit 6 uses a large coring level in the image region in which a large block quantization step size is used. Thus, the mosquito noise can be easily removed while maintaining the sharp edges of the image.
즉, 큰 양자화 스텝 사이즈를 사용한 영상 영역이 큰 크기의 모스키토 노이즈를 발생하는 경향이 있고 작은 양자화 스텝 사이즈를 사용한 영상 영역이 작은 크기의 모스키토 노이즈를 발생시키는 경향이 있는 특성의 장점을 취하는 것이 가능하다. 따라서, 주파수 특성 수정 유닛(7)은 코링 레벨이 큰 블록 양자화 스텝 사이즈를 사용한 영상 영역에서 크게되는 적응 코링과정을 수행한다. 그 결과, 영상에 필요한 미세 형상이 모스키토 노이즈 제거 과정동안 소멸되는 것을 방지할 수 있다.That is, it is possible to take advantage of the characteristics that an image region using a large quantization step size tends to generate a large amount of mosquito noise, and an image region using a small quantization step size tends to generate a small size of mosquito noise. . Therefore, the frequency characteristic correction unit 7 performs an adaptive coring process that is enlarged in an image region using a block quantization step size having a large coring level. As a result, it is possible to prevent the fine shape required for the image from disappearing during the mosquito noise removing process.
본 발명의 적응 코링과정을 이용하는 제1도의 영상 데이타 복호화 장치에 있어서, 입력 노드(1)에 제공된 비트 스트림(일련의 비트)은 전술한 바와 같이 버퍼 메모리(8), 가변 길이 복호화 유닛(9), 역 양자화 유닛(10), 역 직교 변환유닛(11), 가산기(12) 및 모션 보상유닛(13)에 의해 복호화된 영상 데이타로 복호화된다. 복호화된 영상 데이타는 영상 메모리(14)에 저장된 다음, 영상 메모리(14)로부터 출력된다.In the video data decoding apparatus of FIG. 1 using the adaptive coding process of the present invention, the bit stream (a series of bits) provided to the input node 1 has a buffer memory 8 and a variable length decoding unit 9 as described above. The decoded image data is decoded by the inverse quantization unit 10, the inverse orthogonal transform unit 11, the adder 12, and the motion compensation unit 13. The decoded image data is stored in the image memory 14 and then output from the image memory 14.
영상 메모리 (14)로부터 판독된 영상 데이타는 양자화 노이즈가 적응 코링과정에 의해 감소되는 주파수 특성 수정 유닛(7)에 제공된다. 따라서, 억압된 양자화 노이즈를 갖는 영상 데이타는 적응 코링 과정을 이용하는 적응 코링 장치에 제공되는 영상 데이타 복호화 장치의 출력 노드(2)에서 출력된다.The image data read out from the image memory 14 is provided to the frequency characteristic correction unit 7 in which the quantization noise is reduced by the adaptive coring process. Therefore, the image data having the suppressed quantization noise is output at the output node 2 of the image data decoding apparatus provided to the adaptive coding apparatus using the adaptive coding process.
적응 코링 장치를 갖춘 제1도의 영상 데이타 복호화 장치에서, 입력 노드(1)에 제공되는 비트 스트림은 일점쇄선(3)으로 둘러싸인 복호기 집적 회로의 버퍼 메모리(8)에 저장되고, 또한 버퍼 메모리(4)에 공급된다. 선입 선출 메모리(First-In-First-Out Memory)의 버퍼 메모리(4)로부터 판독된 비트 스트림은 블록 양자화 스텝 사이즈 정보 검출유닛(5)에 공급된다. 블록 양자화 스텝 사이즈 정보 검출유닛(5)에 대해서는 가변 길이 복호화 유닛(9)과 유사한 메카니즘이 사용될 수 있다In the image data decoding apparatus of FIG. 1 with an adaptive coding device, the bit stream provided to the input node 1 is stored in the buffer memory 8 of the decoder integrated circuit surrounded by the dashed line 3, and also the buffer memory 4 Is supplied. The bit stream read from the buffer memory 4 of the first-in-first-out memory is supplied to the block quantization step size information detection unit 5. For the block quantization step size information detection unit 5, a mechanism similar to the variable length decoding unit 9 can be used.
블록 양자화 스텝 사이즈 정보 검출유닛(5)은 블록 양자화 스텝 사이즈 정보(매크로 블록의 양자화 스케일 QS)를 검출하고, 그것을 제어 신호 발생유닛(6)에 제공한다.The block quantization step size information detection unit 5 detects the block quantization step size information (quantization scale QS of the macro block) and provides it to the control signal generation unit 6.
즉, 제1도의 영상 데이타 복호화 장치에서는 입력 노드(1)에 제공된 비트 스트림이 버퍼 메모리(4)를 통하여 블록 양자화 스텝 사이즈 정보 검출유닛(5)에 제공되고, 이 블록 양자화 스텝 사이즈 정보 검출유닛(5)에서는 제어 신호 발생유닛(6)에 제공될 일련의 매크로 블록에 대한 비트 스트림으로부터 블록 양자화 스텝 사이즈 정보가 검출된다. 여기서, 버퍼 메모리(4), 블록 양자화 스텝 사이즈 정보 검출유닛(5), 제어 신호 발생 유닛(6), 주파수 특성 수정유닛(7)은 일점쇄선(3)으로 둘러싸인 복호기 집적회로 외부에 제공된다. 그러나, 이 유닛 들은 동일한 집적 회로 내에 포함될 수 있다.That is, in the video data decoding apparatus of FIG. 1, the bit stream provided to the input node 1 is provided to the block quantization step size information detection unit 5 through the buffer memory 4, and this block quantization step size information detection unit ( In 5), block quantization step size information is detected from a bit stream for a series of macro blocks to be provided to the control signal generating unit 6. Here, the buffer memory 4, the block quantization step size information detection unit 5, the control signal generation unit 6, and the frequency characteristic correction unit 7 are provided outside the decoder integrated circuit surrounded by the dashed line 3. However, these units may be included in the same integrated circuit.
제5도는 본 발명의 제2 실시예에 따른 영상 복호화 장치의 블록도이다. 제5도에서, 제1도의 구성요소와 동일한 구성요소는 동일한 부호로써 언급되고, 그것의 설명은 생략한다.5 is a block diagram of an image decoding apparatus according to a second embodiment of the present invention. In FIG. 5, the same components as those in FIG. 1 are referred to by the same reference numerals, and description thereof is omitted.
적응 코링장치를 갖추고 있는 제5도의 영상 데이타 복호화 장치에서, 모든 유닛은 일점쇄선(15)으로 둘러싸인 복호기 집적 회로에 제공된다.In the image data decoding apparatus of FIG. 5 equipped with an adaptive coding device, all units are provided in a decoder integrated circuit surrounded by a dashed line 15.
또한, 가변 길이 복호화 유닛(9)에 의해 일련의 매크로 블록에 대한 비트 스트림으로부터 검출되는 블록 양자화 스텝 사이즈 정보는 제어 신호 발생유닛(6)에 제공된다.Further, the block quantization step size information detected by the variable length decoding unit 9 from the bit stream for the series of macro blocks is provided to the control signal generating unit 6.
즉, 적응 코링 장치를 갖춘 제5도의 영상 데이타 복호화 장치에서, 일점쇄선(3)으로 둘러싸인 복호기 집적 회로의 외부에 제공되는 제1도의 블록 양자화 스텝 사이즈 정보 검출유닛(5) 및 버퍼 메모리(4)의 동작은 일점 쇄선(15)으로 둘러싸인 복호기 집적회로에 제공된 가변길이 복호화 유닛(9)과 버퍼 메모리(8)에 의해 수행된다. 또한, 제5도에서, 일점쇄선(15)으로 둘러싸인 복호기 집적회로는 제어 신호 발생유닛(6) 및 주파수 특성 수정유닛(7)을 포함한다. 여기서, 제어 신호 발생유닛(6)에는 가변길이 복호화 유닛(9)에 의해 일련의 매크로 블록에 대한 비트 스트림으로부터 추출되는 블록 양자화 스텝 사이즈 정보(매크로 블록의 양자화 스케일 QS)가 제공된다. 이때, 주파수 특성 수정 유닛(7)은 제어 신호 발생유닛(6)으로부터 공급된 코링 레벨 제어 신호에 기초하여 영상 메모리(14)로부터 제공된 영상 데이타의 고주파수 정분을 억압한다.That is, in the image data decoding apparatus of FIG. 5 equipped with an adaptive coding apparatus, the block quantization step size information detection unit 5 and the buffer memory 4 of FIG. 1 provided outside the decoder integrated circuit surrounded by the dashed line 3 are provided. The operation of is performed by the variable length decoding unit 9 and the buffer memory 8 provided in the decoder integrated circuit surrounded by the dashed line 15. Also in FIG. 5, the decoder integrated circuit surrounded by the dashed line 15 includes a control signal generating unit 6 and a frequency characteristic correcting unit 7. Here, the control signal generation unit 6 is provided with block quantization step size information (quantization scale QS of the macro block) extracted from the bit stream for the series of macro blocks by the variable length decoding unit 9. At this time, the frequency characteristic correction unit 7 suppresses the high frequency content of the image data provided from the image memory 14 on the basis of the ringing level control signal supplied from the control signal generation unit 6.
전술한 바와 같이, 본 발명의 제1 실시예와 제2 실시예에서는 제어 신호 발생유닛(6)에 의해 발생되는 코링 레벨 제어 신호가 주파수 특성 수정 유닛(7)에 제공된다. 제4도에 도시된 바와 같이, 코링 레벨 제어 신호는 보조 정보로써 비트 스트림에 포함된 각각의 매크로 블록 양자화 스텝 사이즈 정보에 관련되어 있다. 이때, 주파수 특성 수정 유닛(7)은 블록 양자화 스텝 사이즈 정보에 따라서 결정되는 코링 레벨보다 더 낮은 레벨을 갖는 고주파수 성분을 억압한다.As described above, in the first embodiment and the second embodiment of the present invention, the ringing level control signal generated by the control signal generating unit 6 is provided to the frequency characteristic correcting unit 7. As shown in FIG. 4, the coring level control signal is associated with each macro block quantization step size information included in the bit stream as auxiliary information. At this time, the frequency characteristic correction unit 7 suppresses the high frequency component having a level lower than the coring level determined according to the block quantization step size information.
제6도는 본 발명의 제3 실시예에 따른 영상 데이타 복호화 장치의 블록도이다. 제6도에서, 제1도의 구성요소와 동일한 구성요소는 동일한 부호로써 언급되고, 그것의 설명은 생략한다.6 is a block diagram of an image data decoding apparatus according to a third embodiment of the present invention. In FIG. 6, the same components as those of FIG. 1 are referred to by the same reference numerals, and description thereof is omitted.
본 발명의 적응 코링 장치를 갖춘 제6도의 영상 데이타 복호화 장치에서, 복호화될 비트 스트림은 입력노드(1)를 통해 일점쇄선(16)으로 둘러싸인 복호기 집적 회로의 버퍼 메모리(8)에 공급된다. 또한, 입력 노드(1)에 공급되는 비트 스트림은 버퍼 메모리(4)에 제공된다. 선입 선출 메모리인 버퍼 메모리(4)로부터 판독된 비트 스트림은 블록 양자화 스텝 사이즈 정보 검출유닛(5)에 공급된다. 블록 양자화 스텝 사이즈 정보 검출유닛(5)은 가변 길이 복호화 유닛(9)과 유사한 메커니즘이 사용될 수 있다. 블록 양자화 스텝 사이즈 정보 검출유닛(5)은 각각의 매크로 블록에 대한 비트 스트림으로부터 필요한 정보를 검출하여, 제어 신호 발생유닛(17)에 그것을 제공된다.In the video data decoding apparatus of FIG. 6 equipped with the adaptive coding apparatus of the present invention, the bit stream to be decoded is supplied to the buffer memory 8 of the decoder integrated circuit surrounded by the dashed line 16 through the input node 1. In addition, the bit stream supplied to the input node 1 is provided to the buffer memory 4. The bit stream read from the buffer memory 4 which is a first-in first-out memory is supplied to the block quantization step size information detection unit 5. The block quantization step size information detection unit 5 may use a mechanism similar to the variable length decoding unit 9. The block quantization step size information detection unit 5 detects the necessary information from the bit stream for each macro block and provides it to the control signal generation unit 17.
제6도의 영상 데이타 복호화 장치에 사용되는 제어 신호 발생유닛(17)은 룩-업 테이블(ROM 테이블)을 포함할 수 있다. 룩-업 테이블은 블록 양자화 스텝 사이즈 정보 검출유닛(5)으로부터 각각의 매크로 블록에 대해 한정된 블록 양자화 스텝 사이즈 정보 및 영상 메모리(14)로부터 현재 처리된 화소의 위치를 그것의 주소로써 수신한다. 여기서, 전술한 바와 같이, 매크로 블록은 DCT가 적용되는 적어도 하나의 단위 블록을 포함한다. 제어 신호 발생유닛(17)에서, 룩-업 테이블(ROM 테이블)은 (블록 양자화 스텝 사이즈 정보 및 현재 처리된 화소의 위치)가 제공되는 주소에 따라서 코링 레벨 계수에 상응하는 코링 레벨 계수 신호(코링 레벨 제어 신호)를 출력한다.The control signal generating unit 17 used in the video data decoding apparatus of FIG. 6 may include a look-up table (ROM table). The look-up table receives, as its address, the block quantization step size information defined for each macro block from the block quantization step size information detection unit 5 and the position of the pixel currently processed from the image memory 14. Here, as described above, the macro block includes at least one unit block to which the DCT is applied. In the control signal generation unit 17, the look-up table (ROM table) is a coring level coefficient signal (coring) corresponding to the coring level coefficient according to the address provided with (block quantization step size information and the position of the currently processed pixel). Level control signal).
현재 처리된 화소의 위치가 블록 양자화 스텝 사이즈 정보와 함께 제어 신호 발생유닛(17)에 제공되는 이유는 단위 블록의 경계부 근처에서 코링 레벨의 증가가 블록 왜곡을 효율적으로 줄일 수 있기 때문이다. 즉, 블록 양자화 스텝 사이즈 정보에 따라서 코링 레벨을 변화시킴으로서 모스키토 노이즈를 효율적으도 줄일 수 있을 뿐만 아니라 블록 왜곡도 효율적으로 줄일 수 있다, 이것은 현재 처리된 화소의 위치에 따라서 단위 블록의 경계부 근처의 화소에 대한 코링 레벨을 증가시킴으로써 행해진다.The reason why the position of the currently processed pixel is provided to the control signal generating unit 17 together with the block quantization step size information is that an increase in the ringing level near the boundary of the unit block can effectively reduce the block distortion. In other words, by changing the coring level according to the block quantization step size information, not only can the mosquito noise be efficiently reduced, but also the block distortion can be efficiently reduced, which is the pixel near the boundary of the unit block according to the position of the currently processed pixel. This is done by increasing the level of coring for.
제7도는 제어 신호 발생 유닛(17)에서 화소 어레이에 대한 코링 레벨을 결정하는 방법을 설명하는 도면이다. 여기서, 제어 신호 발생 유닛(17)은 단위 블록의 경계부 근처의 화소에 대해 코링 레벨을 큰 레벨로 세팅함으로서 블록 왜곡을 효율적으로 감소시키기 위해 코링 레벨 제어 신호를 발생시킨다. 제7도에서, 11, 12, 13 및 14는 다른 시점을 나타내며, 그들의 각각은 한 클록 간격만큼 지연된다. 영상의 주어진 한 라인 화소 어레이에서, 소정의 코링 레벨은 단위 블록 경계부 근처에 위치한 화소 p-3 내지 p+6에 대해 세팅된다.FIG. 7 is a diagram for explaining a method of determining a leveling level for the pixel array in the control signal generating unit 17. As shown in FIG. Here, the control signal generation unit 17 generates a coring level control signal to efficiently reduce block distortion by setting the coring level to a large level for the pixels near the boundary of the unit block. In FIG. 7, 11, 12, 13 and 14 represent different time points, each of which is delayed by one clock interval. In a given one-line pixel array of images, the predetermined coring level is set for pixels p-3 to p + 6 located near the unit block boundary.
전술한 바와 같이, 본 발명의 제3 실시예에서, 제어 신호 발생유닛(17)에는 블록 양자화 스텝 사이즈 정보 검출유닛(5)으로부터 블록 양자화 스텝 사이즈 정보 및 영상 메모리(14)로부터 현재 처리된 화소의 위치(주소)가 제공된다. 그 음에, 제어 신호 발생유닛(17)의 ROM 테이블은 (블록 양자 스텝 사이즈 정보 및 현재 처리된 화소의 위치)가 제공된 주소에 따라서 코링 레벨 계수에 상응하는 코링 레벨 계수 신호(코링 레벨 제어 신호)를 출력한다. 따라서, 주파수 특성 수정유닛(7)은 모스키토 노이즈 뿐만 아니라 블록 왜곡을 효율적으로 줄이기 위하여 단위 블록의 경계부 근처에 위치한 화소에 대한 코링 레렐을 증가시킬 수 있다.As described above, in the third embodiment of the present invention, the control signal generation unit 17 includes the block quantization step size information detection unit 5 from the block quantization step size information and the pixels currently processed from the image memory 14. Location (address) is provided. At that time, the ROM table of the control signal generating unit 17 is a coring level coefficient signal (coring level control signal) corresponding to the coring level coefficient according to the address provided with (block quantum step size information and the position of the currently processed pixel). Outputs Therefore, the frequency characteristic correction unit 7 can increase the coring reel for pixels located near the boundary of the unit block in order to effectively reduce not only mosquito noise but also block distortion.
제8도는 본 발명의 제4 실시예에 따른 영상 데이타 복호화 장치의 블록도이다. 제8도에서, 제6도의 구성요소와 동일한 구성요소는 동일한 부호로써 언급되어 있고, 그것의 설명은 생략한다.8 is a block diagram of an image data decoding apparatus according to a fourth embodiment of the present invention. In FIG. 8, the same components as those of FIG. 6 are referred to by the same reference numerals, and description thereof is omitted.
적응 코링 장치를 갖추고 있는 제8도의 영상 데이타 복호화 장치는 다음과 같이 제6도의 영상 데이타 복호화 장치와 다르다. 제어 신호 발생유닛(17)에 제공된 블록 양자화 스텝 사이즈 정보(예를 들면, 매크로 블록의 양자화 스케일 QS)는 가변길이 복호화 유닛(9)에 의해 비트 스트림으로부터 검출된다. 또한, 제어 신호 발생유닛(17) 및 주파수 특성 수정 유닛(7)은 일점쇄선(18)으로 둘러싸인 복호기 집적 회로에 제공된다.The video data decoding apparatus of FIG. 8 equipped with the adaptive coding apparatus differs from the video data decoding apparatus of FIG. 6 as follows. The block quantization step size information (for example, the quantization scale QS of the macro block) provided to the control signal generation unit 17 is detected from the bit stream by the variable length decoding unit 9. In addition, the control signal generation unit 17 and the frequency characteristic correction unit 7 are provided in a decoder integrated circuit surrounded by a dashed line 18.
전술한 설명에서 알 수 있는 바와 같이, 본 발명의 제1 내지 제4 실시예에 따르면, 코링 과정에 사용되는 코링 레벨은 큰 블록 양자화 스텝 사이즈를 사용하는 영상 영역에 대해 증가되도록 블록 양자화 스텝 사이즈 정보에 따라서 변할 수 있다. 따라서, 영상 에지를 유지하면서 모스키토 노이즈를 용이하게 감소시킬 수 있다. 또한, 큰 크기 모스키토 노이즈가 개략 양자화 스텝을 사용한 압축된 영상 영역에 나타나고 작은 크기의 모스키토 노이즈가 미세 양자화 스텝을 사용한 영역에서 나타난다는 사실이 이용될 수 있다. 즉, 적응 코링 방법이 적용되는 주파수 특성 수정유닛(7)은 화상의 미세 형상이 모스키토 노이즈 제거에 의해 손상되지 않도록 제어 신호 발생 유닛으로부터 제공된 코링 레벨 제어 신호에 따라서 큰 블록 양자화 스텝 사이즈의 영역에서 코링 레벨을 증가시킨다. 더욱이, 코링 레벨은 블록 왜곡이 모스키토 노이즈와 함께 효율적으로 감소되도록 단위 블록의 경계부 근처 화소에 대해 증가될 수 있다.As can be seen from the foregoing description, according to the first to fourth embodiments of the present invention, the block quantization step size information is increased such that the level of coring used in the coring process is increased for an image region using a large block quantization step size. Can change accordingly. Therefore, the mosquito noise can be easily reduced while maintaining the image edge. In addition, the fact that large magnitude mosquito noise appears in the compressed image region using the coarse quantization step and small magnitude mosquito noise appears in the region using the fine quantization step can be used. That is, the frequency characteristic correcting unit 7 to which the adaptive coding method is applied is coring in the region of a large block quantization step size according to the coring level control signal provided from the control signal generating unit so that the fine shape of the image is not damaged by mosquito noise removal. Increase the level. Moreover, the coring level can be increased for pixels near the boundary of the unit block so that block distortion is effectively reduced with mosquito noise.
제9도는 본 발명의 제5 실시예에 따른 영상 데이타 복호화 장치의 블록도이다. 제9도에서, 제1도의 구성요소와 동일한 구성요소는 동일한 부호로써 언급되고, 그것의 설명은 생략한다.9 is a block diagram of an image data decoding apparatus according to a fifth embodiment of the present invention. In FIG. 9, the same components as those in FIG. 1 are referred to by the same reference numerals, and description thereof is omitted.
제9도의 영상 데이타 복호화 장치는 제1 활성 검출유닛(40) 및 제2 활성 검출유닛(41)이 영상 메모리(14)에 저장된 영상 데이타의 활성 값(영상 복잡성의 척도)을 얻기 위하여 제공되는 점에서 제1도의 영상 데이타 복호화 장치와 다르다. 제1 활성 검출유닛(40) 및 제2 활성 검출유닛(41)에 의해 얻어진 활성 값은 제어 신호 발생유닛(6A)에 공급된다. 제어 신호 발생유닛(6A)은 활성 값에 기초하여 제어 신호를 발생시키고, 그것을 주파수 특성 수정 유닛(7A)에 제공한다.In the image data decoding apparatus of FIG. 9, the first activity detection unit 40 and the second activity detection unit 41 are provided to obtain an activity value (a measure of image complexity) of the image data stored in the image memory 14. Is different from the image data decoding apparatus of FIG. The activity values obtained by the first activity detection unit 40 and the second activity detection unit 41 are supplied to the control signal generation unit 6A. The control signal generation unit 6A generates a control signal based on the active value and provides it to the frequency characteristic correction unit 7A.
제10도는 주파수 특성 수정유닛(7A)의 블록도이고, 제11도는 주파수 특성 수정유닛(7A)의 다른 구성에 대한 블록도이다. 제5 실시예로 사용되는 제10도 및 제11도의 구성은 승산기의 제어 동작만이 제1 내지 제4 실시예로 사용된 제2도와 제3도의 구성과 다르다. 즉, 제2도 및 제3도의 승산기는 고주파수 성분의 크기가 적응 코링 레벨보다 작을 때 제로를 고주파수 성분의 크기에 곱한다. 반면에, 제10도의 승산기(23A , 27A) 및 제11도의 승산기(32A)는 그것에 제공되는 제어 신호에 의해 고주파수 성분의 크기를 곱한다.10 is a block diagram of the frequency characteristic correcting unit 7A, and FIG. 11 is a block diagram of another configuration of the frequency characteristic correcting unit 7A. The configuration of FIGS. 10 and 11 used in the fifth embodiment is different from the configuration of FIGS. 2 and 3 used only in the first to fourth embodiments in the control operation of the multiplier. That is, the multipliers of FIGS. 2 and 3 multiply zero by the magnitude of the high frequency component when the magnitude of the high frequency component is less than the adaptive coling level. On the other hand, multipliers 23A and 27A in FIG. 10 and multiplier 32A in FIG. 11 multiply the magnitudes of the high frequency components by the control signal provided thereto.
제10도의 승산기(23A, 27A) (또는 제11도의 승산기 32A)는 제어 신호 발생유닛(6A)으로부터 제어 신호를 수신하고, 제어신호는 0 내지 1,25의 범위를 가진 승산인자 신호이다. 주파수 특성 수정유닛(7A)의 출력 영상 데이타에서, LPF(21, 25(30))의 소정의 차단 주파수보다 더 높은 주파수를 갖는 신호 성분은 0 내지 1.25의 범위를 가진 승산인자에 의해 곱해진다.Multipliers 23A and 27A (or multiplier 32A in FIG. 11) of FIG. 10 receive a control signal from control signal generating unit 6A, and the control signal is a multiplier signal having a range of 0 to 1,25. In the output image data of the frequency characteristic correction unit 7A, signal components having frequencies higher than the predetermined cutoff frequencies of the LPFs 21 and 25 (30) are multiplied by a multiplier having a range of 0 to 1.25.
제어 신호 발생유닛(6A)으로부터 주파수 특성 수정유닛(7A)에 공급되는 제어신호가 0 내지 1.0의 범위 내에 있을 때, 출력 노드(2)에 나타나는 영상 데이타는 LPF의 소정의 차단 주파수 보다 높은 주파수에서 0 내지 1.0의 범위를 갖는 인자만큼 감쇠되는 신호 성분을 갖고 있다.When the control signal supplied from the control signal generating unit 6A to the frequency characteristic correcting unit 7A is in the range of 0 to 1.0, the image data appearing at the output node 2 is at a frequency higher than the predetermined cutoff frequency of the LPF. It has a signal component that is attenuated by a factor ranging from 0 to 1.0.
제어 신호 발생유닛(6A)으로부터 주파수 특성 수정유닛(7A)에 공급되는 제어 신호가 1.0 내지 1.25의 범위 내에 있을 때, 출력 노드(2)에 나타나는 영상 데이타는 LPF의 소정의 차단 주파수 보다 높은 주파수에서 1.0 내지 1.25의 범위를 갖는 인자만큼 상승되는 신호 성분을갖고 있다. 따라서, 영상에서의 윤곽이 향상된다.When the control signal supplied from the control signal generating unit 6A to the frequency characteristic correcting unit 7A is in the range of 1.0 to 1.25, the image data appearing at the output node 2 is at a frequency higher than the predetermined cutoff frequency of the LPF. It has a signal component that is raised by a factor ranging from 1.0 to 1.25. Thus, the outline in the image is improved.
주파수 특성 수정유닛(7A)에 공급되는 제어 신호는 다음과 같은 방식으로 제어 신호 발생유닛(6A)에 의해 발생된다. 제9도에서, 제어 신호 발생유닛(6A)은 블록 양자화 스텝 사이즈 정보 검출유닛(5)으로부터 블록 양자화 스텝 사이즈 정보(예를 들면, 매크로 블록의 양자화 스케일 QS)를 수신하며 제1 활성 검출유닛(40) 및 제2 활성 검출유닛(41)로부터 활성 값을 수신한다. 제1 활성 검출유닛(40)은 복호화된 영상 영역에서 제1 사이즈를 갖는 영역에 대한 제1 활성값(A1)을 검출한다. 제2 활성 검출유닛(41)은 복호화된 영상 영역에서 제1 사이즈 보다 작은 제2 사이즈를 갖는 영역에 대한 제2 활성값(A2)을 검출한다.The control signal supplied to the frequency characteristic correcting unit 7A is generated by the control signal generating unit 6A in the following manner. In FIG. 9, the control signal generation unit 6A receives the block quantization step size information (e.g., the quantization scale QS of the macro block) from the block quantization step size information detection unit 5, and the first activity detection unit ( 40) and an activity value from the second activity detection unit 41. The first activity detection unit 40 detects a first activity value A1 for a region having a first size in the decoded image region. The second activity detection unit 41 detects a second activity value A2 for the region having a second size smaller than the first size in the decoded image region.
제1 활성 검출유닛(40) 및 제2 활성 검출유닛(41)은 영상에서 소정의 사이즈 영역에 대한 활성(영상 복잡성의 척도)을 검출하는 기능을 갖고 있다. 제1 활성 검출유닛(40) 및 제2 활성 검출유닛(41)에 의해 검출되는 영상의 활성값은 영상의 활성 값으로 사용된 다양한 종래의 척도 중 어느 하나일 수 있다.The first activity detecting unit 40 and the second activity detecting unit 41 have a function of detecting activity (a measure of image complexity) for a predetermined size region in the image. The activity value of the image detected by the first activity detection unit 40 and the second activity detection unit 41 may be any one of various conventional measures used as the activity value of the image.
즉, 제1 활성 검출유닛(40) 및 제2 활성 검출유닛(41)은 제12도에 도시된 바와 같이 인접 화소사이의 차이의 합을 활성값으로 검출할 수 있다.That is, the first activity detecting unit 40 and the second activity detecting unit 41 may detect the sum of the differences between adjacent pixels as the active value as shown in FIG. 12.
대안적으로, 제1 활성 검출유닛(40) 및 제2 활성 검출유닛(41)은 블록 내의 화소값과 평균 화소값 사이의 차이의 평균값과 소정의 필터링 과정을 적용한 후 화소값의 절대값의 합을 계산함으로서 얻어진 편차를 검출할 수 있다.Alternatively, the first activity detection unit 40 and the second activity detection unit 41 may add the average value of the difference between the pixel value and the average pixel value in the block and the absolute value of the pixel value after applying a predetermined filtering process. The deviation obtained can be detected by calculating.
제1 활성 검출유닛(40)이 제1 활성값(Al)을 검출하는 복호화된 영상 영역에서 제1 사이즈를 갖는 영역은 단위 블록(DCT블록)일 수 있다. 제2 활성 검출유닛(41)이 제2 활성값(A2)을 검출하는 복호화된 영상 영역에서 제1 사이즈보다 작은 제2 사이즈를 갖는 영역은 주파수 특성 수정유닛(7A)에 사용된 FIR 필터의 필터 길이에 상응하는 다수의 화소를 가질 수 있다. 예를 들면, 만약 FIR 필터가 필터 길이로서 3 탭 또는 5탭을 갖는 1차원 필터라면, 제2사이즈를 갖는 영역은 각각 3화소 또는 5화소를 가질 수 있다. 또한, 만약 FIR 필터가 필터 길이로서 3 탭 또는 5탭을 갖는 2차원 필터라면, 제2 사이즈를 갖는 영역은 각각 3×3 화소 또는 5×5 화소를 가질 수 있다.The region having the first size in the decoded image region in which the first activity detection unit 40 detects the first activity value Al may be a unit block (DCT block). In the decoded image area in which the second activity detection unit 41 detects the second activity value A2, the area having the second size smaller than the first size is the filter of the FIR filter used in the frequency characteristic correction unit 7A. It may have a plurality of pixels corresponding to the length. For example, if the FIR filter is a one-dimensional filter having three taps or five taps as the filter length, the region having the second size may have three pixels or five pixels, respectively. In addition, if the FIR filter is a two-dimensional filter having three taps or five taps as the filter length, the region having the second size may have 3 × 3 pixels or 5 × 5 pixels, respectively.
각각의 매크로 블록에 대해 한정된 양자화 블록 레벨 사이즈 정보(예를 들면, 매크로 블록의 양자화 스케일 QS), 제1 활성값(A1) 및 제2 활성값(A2)에 기초하여, 제어 신호 발생유닛(6A)은 다음과 같이 값 G을 계산된다.Control signal generation unit 6A based on the quantized block level size information (for example, the quantization scale QS of the macro block), the first active value A1 and the second active value A2 defined for each macro block. ) Is calculated as follows:
G={K1-(QS×(A1/A2)+1)}/K2 (1)G = {K1- (QS × (A1 / A2) +1)} / K2 (1)
여기서, K1, K2는 상수이다.Here, K1 and K2 are constants.
그 다음에, 제어 신호 발생유닛(6A)은 예를 들면 0 내지 1.25의 범위를 갖는 승산 인자 신호를 발생하기 위하여 ROM 테이블의 주소로서 값 G를 사용한다.Then, the control signal generating unit 6A uses the value G as an address of the ROM table to generate a multiplication factor signal having a range of 0 to 1.25, for example.
제13도는 승산인자와 값 G 사이의 관계의 예를 도시한 도표이다.13 is a diagram showing an example of the relationship between the multiplication factor and the value G. FIG.
제13도에 도시된 바와 같이, 승산인자는 값 G가 소정의 값 Th을 초과할 때, 상한치에서 포화된다. 제 13도에서, 상부값은 1.25의 값을 갖는 것으로 나타난다. 그러나, 상한치는 1.25로 고정될 필요가 없다. 앞서 언급한 바와 같이, 승산인자 신호는 주파수 특성 수정유닛(7A)의 승산기(23A, 27A(32A))에 공급된다.As shown in Fig. 13, the multiplication factor is saturated at the upper limit when the value G exceeds the predetermined value Th. In FIG. 13, the upper value appears to have a value of 1.25. However, the upper limit does not need to be fixed at 1.25. As mentioned above, the multiplication factor signal is supplied to the multipliers 23A, 27A (32A) of the frequency characteristic correcting unit 7A.
식 (1)에서, 값 G은 각각의 매크로 블록에 대해 한정된 블록 양자화 스텝 사이즈 정보(예를들어, 매크로 블록의 양자화 스케일 QS)가 커지거나 (A1/A2)가 증가함에 따라 감소한다. 여기서, 블록 양자화 스텝 사이즈 정보는 영상이 더 복잡해짐에 따라 증가한다.In equation (1), the value G decreases as the block quantization step size information defined for each macro block (e.g., the quantization scale QS of the macro block) increases or increases (A1 / A2). Here, the block quantization step size information increases as the image becomes more complicated.
(A1/A2)의 값은 주어진 화소 근처의 영상 데이타가 그 근처 주위의 영상 데이타와 유사한 복잡도를 갖는지를 나타낸다. 즉, (A1/A2)의 값은 주어진 화소가 영상의 평평한 부분의 화소인지 또는 영상의 에지 부분의 화소 인지를 나타낸다.The value of (A1 / A2) indicates whether the image data near a given pixel has a similar complexity as the image data around it. That is, the value of (A1 / A2) indicates whether a given pixel is a pixel of a flat portion of an image or a pixel of an edge portion of an image.
예를 들면, (A1/A2)의 값은 값 G가 커지도록 에지 부분에서 작아진다. 반대로, 영상의 평평한 부분은 값 G가 작아지도록 큰 (A1/A2)의 값을 갖는다.For example, the value of (A1 / A2) decreases at the edge portion so that the value G becomes larger. In contrast, the flat portion of the image has a large value (A1 / A2) so that the value G becomes small.
이하에서는 제5 실시예가 용이하게 이해될 수 있도록 주파수 특성 수정유닛(7A)의 동작 및 동작의 결과가 검토될 것이다,In the following, the operation of the frequency characteristic correcting unit 7A and the result of the operation will be examined so that the fifth embodiment can be easily understood.
주파수 특성 수정유닛(7A)의 승산기(23A, 27A(32A))에 공급되는 제어 신호가 0과 동일한 승산인자와 일치할 때, 주파수 특성 수정유닛(7A)으로부터 출력 노드(2)에 나타나는 영상 데이타는 LPF(21, 25(30))의 주파수대역에 상응하는 주파수 성분만을 가진다. 즉, 영상 데이타는 LPF(21, 25(30))의 소정의 차단 주파수보다 더 높은 주파수를 갖는 신호 성분을 가지지 않는다.When the control signal supplied to the multipliers 23A and 27A (32A) of the frequency characteristic correcting unit 7A matches a multiplier equal to 0, the image data appearing at the output node 2 from the frequency characteristic correcting unit 7A. Has only a frequency component corresponding to the frequency bands of the LPFs 21 and 25 (30). That is, the image data does not have a signal component having a frequency higher than the predetermined cutoff frequency of the LPFs 21 and 25 (30).
주파수 특성 수정유닛(7A)의 승산기(23A, 27A(32A))에 공급되는 제어신호가 0.5와 동일한 승산인자와 일치할 때, 주파수 특성 수정유닛(7A)으로부터 출력 노드(2)에 나타나는 영상 데이타는 LPF(21, 25(30))의 주파수대역에 상응하는 주파수 성분을 가진다. 더욱이, 영상 데이타는 LPF(21, 25(30))의 소정의 차단 주파수 보다 더 높은 주파수를 갖는 원래의 신호 성분의 크기의 절반을 갖는 신호 성분을 가진다.When the control signal supplied to the multipliers 23A and 27A (32A) of the frequency characteristic correcting unit 7A matches the multiplier equal to 0.5, the image data appearing at the output node 2 from the frequency characteristic correcting unit 7A. Has a frequency component corresponding to the frequency bands of the LPFs 21 and 25 (30). Moreover, the image data has a signal component having half the magnitude of the original signal component having a frequency higher than the predetermined cutoff frequency of the LPFs 21 and 25 (30).
주파수 특성 수정 유닛(7A)의 승산기(23A, 27A(32A))에 공급되는 제어신호가 1.0과 동일한 승산인자와 일치할 때, 주파수 특성 수정유닛(7A)으로부터 출력 노드(2)에 나타나는 영상 데이타는 주파수 특성 수정유닛(7A)에 공급되는 영상 데이타와 동일하다.Image data appearing at the output node 2 from the frequency characteristic correction unit 7A when the control signal supplied to the multipliers 23A, 27A (32A) of the frequency characteristic correction unit 7A matches the multiplier equal to 1.0. Is the same as the image data supplied to the frequency characteristic correction unit 7A.
주파수 특성 수정유닛(7A)의 승산기(23A, 27A(32A))에 공급되는 제어신호가 1.25와 동일한 승산인자와 일치할 때, 주파수 특성 수정유닛(7A)으로부터 출력 노드(2)에 나타나는 영상 데이타는 LPF(21, 25(30))의 주파수대역과 상응하는 주파수 성분을 갖는다. 영상 데이타는 LPF(21, 25(30))의 소정의 차단 주파수보다 높은 주파수를 갖고 있는 원래의 신호 성분의 1.25배 증가된 신호 성분을 갖는다. 따라서, 결과적인 영상은 향상된 에지를 갖는다.When the control signal supplied to the multipliers 23A and 27A (32A) of the frequency characteristic correcting unit 7A matches the multiplier equal to 1.25, the image data appearing at the output node 2 from the frequency characteristic correcting unit 7A. Has a frequency component corresponding to that of the LPFs 21 and 25 (30). The image data has a signal component increased by 1.25 times the original signal component having a frequency higher than the predetermined cutoff frequency of the LPFs 21 and 25 (30). Thus, the resulting image has an improved edge.
제14도는 본 발명의 제6 실시예에 따른 영상 데이타 복호화 장치의 블록도이다. 제14도에서, 제9도의 구성요소와 동일한 구성요소는 동일한 부호로써 언급되어 있고, 그것의 설명은 생략한다.14 is a block diagram of an image data decoding apparatus according to a sixth embodiment of the present invention. In FIG. 14, the same components as those of FIG. 9 are referred to by the same reference numerals, and description thereof is omitted.
제14도의 영상 데이타 복호화 장치에서, 모든 유닛은 일점쇄선(17)으로 둘러싸인 복호기 집적 회로에 제공된다. 또한, 가변 길이 복호화 유닛(9)에 의해 일련의 매크로 블록에 대한 비트 스트림으로부터 검출되는 블록 양자화 스텝 사이즈 정보는 제어 신호 발생 유닛(6A)에 제공된다.In the image data decoding apparatus of FIG. 14, all units are provided in a decoder integrated circuit surrounded by a dashed line 17. FIG. Further, the block quantization step size information detected by the variable length decoding unit 9 from the bit stream for the series of macro blocks is provided to the control signal generating unit 6A.
즉, 제14도의 영상 데이타 복호화 장치에 있어서, 일점쇄선(3)으로 표시된 복호기 집적회로의 외부에 제공된 제9도의 버퍼 메모리(4) 및 블록 양자화 스텝 사이즈 정보 검출유닛(5)의 동작은 일점쇄선(17)으로 둘러싸인 복호기 집적회로에 제공된 버퍼 메모리(8) 및 가변길이 복호화유닛(9)에 의해 수행된다. 또한 제14도에서, 일점쇄선(17)으로 둘러싸인 복호기 집적회로는 제어 신호 발생유닛(6A) 및 주파수 특성 수정 유닛(7A)을 포함한다.That is, in the image data decoding apparatus of FIG. 14, the operation of the buffer memory 4 and the block quantization step size information detection unit 5 of FIG. 9 provided outside the decoder integrated circuit indicated by the dashed line 3 is performed by the dashed line. It is performed by the buffer memory 8 and the variable length decoding unit 9 provided in the decoder integrated circuit enclosed by (17). Also in FIG. 14, the decoder integrated circuit surrounded by the dashed line 17 includes a control signal generating unit 6A and a frequency characteristic correcting unit 7A.
여기서, 제어 신호 발생유닛(6A)에는 가변길이 복호화 유닛(9)에 의해 일련의 매크로 블록에 대한 비트 스트림으로부터 추출되는 블록 양자화 스텝 사이즈 정보(예를 들면, 매크로 블독의 양자화 스케일 QS)가 제공된다. 이때, 주파수 특성 수정유닛(7A)은 제어 신호 발생유닛(6A)으로부터 공급된 제어 신호에 기초하여 영상 메모리(14)로부터 제공된 영상 데이타의 고주파수 성분을 수정한다.Here, the control signal generating unit 6A is provided with block quantization step size information (e.g., macro bleed quantization scale QS) extracted by the variable length decoding unit 9 from the bit stream for the series of macro blocks. . At this time, the frequency characteristic correction unit 7A corrects the high frequency component of the image data provided from the image memory 14 based on the control signal supplied from the control signal generation unit 6A.
전술한 설명으로부터 알수 있는 바와 같이, 본 발명에 따른 제5 및 제6 실시예에 따르면, 제 1 활성 검출유닛은 영상 메모리로부터 복호화된 영상 데이타를 수신하고, 복호화된 영상에서 제1 사이즈를 갖는 영역에 대한 제1 활성값을 검출하고, 제어 신호 발생유닛에 제1 활성값을 제공한다. 또한 제2 활성 검출유닛은 제1 사이즈보다 적은 제2 사이즈를 갖는 영역에 대한 제2 활성값을 검출하고, 제어 신호 발생유닛에 제2 활성값을 제공한다.As can be seen from the above description, according to the fifth and sixth embodiments according to the present invention, the first active detection unit receives the decoded image data from the image memory and has an area having a first size in the decoded image. Detect a first activity value for and provide a first activity value to the control signal generating unit. The second activity detection unit also detects a second activity value for the area having a second size less than the first size and provides a second activity value to the control signal generating unit.
제1 및 제2 활성값과 블록 양자화 스텝 사이즈 정보에 기초하여, 제어 신호 발생유닛은 주파수 특성 수정유닛의 승산기에 의해 승산인자로써 사용되는 제어 신호를 발생한다. 주파수 특성 수정 유닛은 블록 양자화 스텝 사이즈가 크고 활성 값이 작은 영상 영역에서 고주파수를 갖는 신호 성분을 감쇠한다, 반대로, 주파수 특성 수정유닛은 블록 양자화 스텝 사이즈가 작고 활성값이 큰 영상 영역에 고주파수를 갖는 신호 성분을 증가시킨다. 따라서, 영상 데이타를 복호화하는 과정 중에 발생되는 모스키토 노이즈는 효율적으로 줄어들고, 영상의 에지 부분은 영상 품질을 높이기 위하여 향상된다.Based on the first and second active values and the block quantization step size information, the control signal generating unit generates a control signal used as a multiplication factor by the multiplier of the frequency characteristic correcting unit. The frequency characteristic correction unit attenuates signal components having a high frequency in an image region having a large block quantization step size and a small active value. In contrast, the frequency characteristic correction unit has a high frequency in an image region having a small block quantization step size and a large active value. Increase signal component Therefore, the mosquito noise generated during the decoding of the image data is effectively reduced, and the edge portion of the image is improved to increase the image quality.
추가로, 본 발명은 이들 실시예에 국한되지 않고, 다른 변형이 본 발명의 범위를 벗어나지 않고 만들어질 수 있다.In addition, the present invention is not limited to these embodiments, and other modifications may be made without departing from the scope of the present invention.
Claims (24)
Applications Claiming Priority (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP6314162A JP2900808B2 (en) | 1994-11-24 | 1994-11-24 | Method for reducing mosquito noise generated when decoding image data and image data decoding apparatus |
| JP1994-314162 | 1994-11-24 | ||
| JP3014495A JP2900815B2 (en) | 1995-01-26 | 1995-01-26 | Method and device for adaptive coring |
| JP1995-30144 | 1995-01-26 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR960020538A KR960020538A (en) | 1996-06-17 |
| KR100217148B1 true KR100217148B1 (en) | 1999-09-01 |
Family
ID=26368430
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1019950043476A Expired - Lifetime KR100217148B1 (en) | 1994-11-24 | 1995-11-24 | A method of reducing mosquito noise generated during decoding processing of video data and a video data decoding device using the method |
Country Status (3)
| Country | Link |
|---|---|
| KR (1) | KR100217148B1 (en) |
| DE (1) | DE69525313T2 (en) |
| TW (1) | TW279298B (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3791003B2 (en) * | 2001-05-21 | 2006-06-28 | ソニー株式会社 | Image processing apparatus and method, recording medium, and program |
-
1995
- 1995-11-22 TW TW084112432A patent/TW279298B/zh not_active IP Right Cessation
- 1995-11-23 DE DE69525313T patent/DE69525313T2/en not_active Expired - Lifetime
- 1995-11-24 KR KR1019950043476A patent/KR100217148B1/en not_active Expired - Lifetime
Also Published As
| Publication number | Publication date |
|---|---|
| DE69525313T2 (en) | 2002-11-14 |
| DE69525313D1 (en) | 2002-03-21 |
| TW279298B (en) | 1996-06-21 |
| KR960020538A (en) | 1996-06-17 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR100231186B1 (en) | Quantization Noise Reduction Method and Image Data Decoding Device Generated During Image Data Decoding Process | |
| US6825886B2 (en) | Picture signal processing method and apparatus | |
| KR100249407B1 (en) | Apparatus for use in a video signal decoding system and method for suppressing the range of noise | |
| US5565921A (en) | Motion-adaptive image signal processing system | |
| JP3800704B2 (en) | Video signal processing apparatus and method | |
| EP0714210B1 (en) | Method of reducing mosquito noise generated during decoding process of image data and device for decoding image data using the same | |
| EP0721286A2 (en) | Video signal decoding apparatus with artifact reduction | |
| US6904096B2 (en) | Video data processing device and video data processing method | |
| JPH08237669A (en) | Picture signal processor, picture signal processing method and picture signal decoder | |
| JPH03127580A (en) | Movement compensation inter-frame coder | |
| US6865229B1 (en) | Method and apparatus for reducing the “blocky picture” effect in MPEG decoded images | |
| EP1506525B1 (en) | System for and method of sharpness enhancement for coded digital video | |
| JP2940422B2 (en) | Method for reducing block distortion generated when decoding transform-coded image data and decoding device for transform-coded image data | |
| JPH05308623A (en) | Image signal decoder | |
| JP2900808B2 (en) | Method for reducing mosquito noise generated when decoding image data and image data decoding apparatus | |
| KR100217148B1 (en) | A method of reducing mosquito noise generated during decoding processing of video data and a video data decoding device using the method | |
| JP2901656B2 (en) | Image coding device | |
| JP2924691B2 (en) | Quantization noise reduction method and image data decoding device | |
| JPH09130648A (en) | Video signal processor | |
| KR100871998B1 (en) | Method and apparatus for post processing digital images | |
| JP2900815B2 (en) | Method and device for adaptive coring | |
| JP2891251B2 (en) | Image encoding device and image decoding device | |
| KR100228684B1 (en) | Method and apparatus for concealing time prediction error based on motion estimation | |
| JPH02134910A (en) | Digital filter for picture signal | |
| JPH07203442A (en) | Digital transmitter |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| PA0109 | Patent application |
Patent event code: PA01091R01D Comment text: Patent Application Patent event date: 19951124 |
|
| PA0201 | Request for examination |
Patent event code: PA02012R01D Patent event date: 19951124 Comment text: Request for Examination of Application |
|
| PG1501 | Laying open of application | ||
| E902 | Notification of reason for refusal | ||
| PE0902 | Notice of grounds for rejection |
Comment text: Notification of reason for refusal Patent event date: 19981218 Patent event code: PE09021S01D |
|
| E701 | Decision to grant or registration of patent right | ||
| PE0701 | Decision of registration |
Patent event code: PE07011S01D Comment text: Decision to Grant Registration Patent event date: 19990416 |
|
| GRNT | Written decision to grant | ||
| PR0701 | Registration of establishment |
Comment text: Registration of Establishment Patent event date: 19990603 Patent event code: PR07011E01D |
|
| PR1002 | Payment of registration fee |
Payment date: 19990604 End annual number: 3 Start annual number: 1 |
|
| PG1601 | Publication of registration | ||
| PR1001 | Payment of annual fee |
Payment date: 20020522 Start annual number: 4 End annual number: 4 |
|
| PR1001 | Payment of annual fee |
Payment date: 20030523 Start annual number: 5 End annual number: 5 |
|
| PR1001 | Payment of annual fee |
Payment date: 20040524 Start annual number: 6 End annual number: 6 |
|
| PR1001 | Payment of annual fee |
Payment date: 20050524 Start annual number: 7 End annual number: 7 |
|
| PR1001 | Payment of annual fee |
Payment date: 20060525 Start annual number: 8 End annual number: 8 |
|
| PR1001 | Payment of annual fee |
Payment date: 20070523 Start annual number: 9 End annual number: 9 |
|
| PR1001 | Payment of annual fee |
Payment date: 20080522 Start annual number: 10 End annual number: 10 |
|
| PR1001 | Payment of annual fee |
Payment date: 20090525 Start annual number: 11 End annual number: 11 |
|
| PR1001 | Payment of annual fee |
Payment date: 20100525 Start annual number: 12 End annual number: 12 |
|
| PR1001 | Payment of annual fee |
Payment date: 20110526 Start annual number: 13 End annual number: 13 |
|
| PR1001 | Payment of annual fee |
Payment date: 20120521 Start annual number: 14 End annual number: 14 |
|
| FPAY | Annual fee payment |
Payment date: 20130524 Year of fee payment: 15 |
|
| PR1001 | Payment of annual fee |
Payment date: 20130524 Start annual number: 15 End annual number: 15 |
|
| FPAY | Annual fee payment |
Payment date: 20140522 Year of fee payment: 16 |
|
| PR1001 | Payment of annual fee |
Payment date: 20140522 Start annual number: 16 End annual number: 16 |
|
| FPAY | Annual fee payment |
Payment date: 20150430 Year of fee payment: 17 |
|
| PR1001 | Payment of annual fee |
Payment date: 20150430 Start annual number: 17 End annual number: 17 |
|
| EXPY | Expiration of term | ||
| PC1801 | Expiration of term |