KR101547697B1 - Device and method for synchronizing signal in mobile broadcasting receiver - Google Patents
Device and method for synchronizing signal in mobile broadcasting receiver Download PDFInfo
- Publication number
- KR101547697B1 KR101547697B1 KR1020090024769A KR20090024769A KR101547697B1 KR 101547697 B1 KR101547697 B1 KR 101547697B1 KR 1020090024769 A KR1020090024769 A KR 1020090024769A KR 20090024769 A KR20090024769 A KR 20090024769A KR 101547697 B1 KR101547697 B1 KR 101547697B1
- Authority
- KR
- South Korea
- Prior art keywords
- video
- audio
- value
- ibt
- time stamp
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/04—Synchronising
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/24—Systems for the transmission of television signals using pulse code modulation
- H04N7/52—Systems for transmission of a pulse code modulated video signal with one or more other pulse code modulated signals, e.g. an audio signal or a synchronizing signal
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Synchronisation In Digital Transmission Systems (AREA)
Abstract
본 발명은 모바일 방송수신기의 신호 동기화 장치 및 그 방법에 관한 것으로, 이를 위하여 역다중화부로부터 전달된 IBT값과 비디오 RBT값 및 상기 IBT값과 오디오 RBT값을 각기 이용하여 비디오 타임스탬프와 오디오 타임스탬프를 각각 계산하고, 계산된 비디오 타임스탬프와 상기 비디오 타임스탬프와 동일한 주파수로 변환된 시스템타임클록과 비교하여 동기화하고, 상기 계산된 오디오 타임스탬프를 시스템타임클록과 동일한 주파수로 변환하여 해당 시스템타임클록과 비교하여 동기화하는 장치를 포함한다.The present invention relates to an apparatus and a method for synchronizing a signal of a mobile broadcast receiver, and more particularly, to an apparatus and method for synchronizing a signal of a mobile broadcast receiver, the apparatus comprising a demultiplexer for demultiplexing a video timestamp and an audio timestamp using an IBT value, a video RBT value, And synchronizes the calculated video time stamp with a system time clock converted to the same frequency as the video time stamp to synchronize the calculated time stamp with the system time clock, To synchronize with the device.
모바일 방송수신기, 동기화, 시스템타임클록, 비디오 프레임, 오디오 프레임 Mobile broadcast receiver, synchronization, system time clock, video frame, audio frame
Description
본 발명은 모바일 방송수신기에서 오디오 및 비디오 신호를 재생하기 위한 모바일 방송수신기의 신호 동기화 장치 및 그 방법에 관한 것이다.BACKGROUND OF THE
중국 모바일 방송 규격인 CMMB(China Multimedia Mobile Broadcasting) 서비스는 다른 국가의 모바일 방송과 같이 지상 방송의 TV 프로그램을 휴대폰이나 초소형 TV 등으로 통근, 통학, 외출 중이라도 언제 어디서든지 즐길 수 있는 휴대단말기용 방송 서비스를 말한다.CMMB (China Multimedia Mobile Broadcasting) service, which is a Chinese mobile broadcasting standard, is a broadcasting service for a mobile terminal which can enjoy a TV program of a ground broadcasting such as mobile broadcasting of other countries at any time, even if commuting, .
CMMB 방송은 영상, 음성, 데이터를 모두 서비스할 수 있는 방송으로, 방송수신기를 소형으로 제작하는 것이 가능하고 소비 전력도 크게 낮출 수 있는 것이 장점이다. 물론, 고정형 방송수신기의 서비스와 비교하면 전송할 수 있는 정보량은 적지만, 모바일 방송수신기로 시청하는 데에는 충분하다. CMMB broadcasting is a broadcasting service capable of serving video, audio, and data, and it is possible to manufacture a broadcasting receiver in a small size and power consumption can be greatly reduced. Of course, the amount of information that can be transmitted is small in comparison with the service of the fixed broadcast receiver, but it is sufficient for viewing with a mobile broadcast receiver.
CMMB 규격은 플래그(flag)에 따라 여러 종류가 있지만, 현재 H.264/AVC 규격 으로 비디오 방송을, MPEG-2 AAC 규격으로 오디오 방송을 구현하였다. 또한, 데이터 방송을 링크해서 ESG 서비스가 가능하다.The CMMB standard has various types according to flags, but currently implements video broadcasting in the H.264 / AVC standard and audio broadcasting in the MPEG-2 AAC standard. Also, ESG service is possible by linking data broadcasting.
이와 같은 모바일 방송은 비디오와 오디오의 데이터가 따로 전달되고, 또 복호화하는 시간이 필요하기 때문에, 비디오와 오디오의 출력이 동시에 나오게 해주는 립싱크(Lip-Synchronization) 제어방법이 필요하다.In such a mobile broadcast, since video and audio data are transmitted separately and time is required for decoding, a lip-sync control method for outputting video and audio simultaneously is needed.
상기 모바일 방송수신기의 시스템타임클록(System Time Clock; STC)과 방송신호의 타임스탬프에 대한 기준시간이 동일할 경우에는 공지된 다양한 방법을 이용하여 오디오와 비디오신호를 립싱크시키면 되지만, 만일 모바일 방송수신기의 시스템타임클록과 방송신호의 타임스탬프에 대한 기준시간이 다를 경우에는 방송신호의 타임스탬프에 대한 기준시간과 시스템타임클록을 일치시켜 오디오와 비디오를 립싱크시키는 알고리즘을 필요로 하게 된다.If the system time clock (STC) of the mobile broadcast receiver is equal to the reference time of the time stamp of the broadcast signal, the audio and video signals may be lip-synced using various known methods, When the system time clock of the broadcast signal is different from the reference time of the time stamp of the broadcast signal, an algorithm for lip-syncing the audio and video by matching the reference time and the system time clock with respect to the time stamp of the broadcast signal is required.
예컨대, STC(System Time Clock)를 90KHz로 사용하고 있는 모바일 방송 시스템에서 오디오/비디오신호의 타임스탬프에 대한 기준시간을 22.5KHz로 사용하는 CMMB 서비스를 재생하기 위해서는, 모바일 방송수신기의 STC와 CMMB 서비스의 오디오/비디오신호에 대한 기준시간을 일치시켜 오디오와 비디오신호를 립싱크하는 알고리즘이 필수적이다.For example, in order to reproduce a CMMB service using a reference time of 22.5 KHz for a time stamp of an audio / video signal in a mobile broadcasting system using a STC (System Time Clock) at 90 KHz, An algorithm that lip-syncs the audio and video signals by matching the reference time for the audio / video signal of the audio / video signal is essential.
본 발명은 DMB와 같은 모바일 방송수신기에서 시스템타임클록(STC)과 수신된 방송신호의 타임스탬프에 대한 기준시간이 서로 다를 경우에도 오디오 및 비디오 신호를 시스템타임클록에 동기화하여 재생할 수 있는 모바일 방송수신기의 신호 동기화 장치 및 그 방법을 제공하기 위한 것이다.The present invention relates to a mobile broadcast receiver capable of synchronizing audio and video signals with a system time clock even when the reference time of a system time clock (STC) and a time stamp of a received broadcast signal are different from each other in a mobile broadcast receiver such as a DMB And a method thereof.
본 발명이 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급되지 않은 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.It is to be understood that both the foregoing general description and the following detailed description are exemplary and explanatory and are not intended to limit the invention to the particular embodiments that are described. It is to be understood that both the foregoing general description and the following detailed description are exemplary and explanatory and are not restrictive of the invention, There will be.
상기 목적을 달성하기 위한 본 발명의 기술적 수단은, 입력된 다중 서브프레임의 헤더를 파싱하여 IBT(Initial Broadcast Time)값을 획득하고, 다중 서브프레임의 비디오섹션과 오디오섹션을 각각 파싱하여 비디오 RBT(Relative Broadcast Time)값 및 오디오 RBT값을 각각 획득하는 역다중화부; 및 상기 역다중화부로부터 전달된 IBT값과 비디오 RBT값 및 상기 IBT값과 오디오 RBT값을 각기 이용하여 비디오 타임스탬프와 오디오 타임스탬프를 각각 계산하고, 계산된 비디오 타임스탬프와 상기 비디오 타임스탬프와 동일한 주파수로 변환된 시스템타임클록과 비교하여 동기화하고, 상기 계산된 오디오 타임스탬프를 시스템타임클록과 동일한 주파수로 변환하여 해당 시스템타임클록과 비교하여 동기화하는 동기제어부;를 포함하는 것을 특징으로 한다.According to an aspect of the present invention, there is provided a method for decoding a video RBT (first broadcast time) value by parsing a header of an input multiple sub-frame to obtain an initial broadcast time (IBT) A Relative Broadcast Time (RBT) value and an audio RBT value; And calculating a video time stamp and an audio time stamp using the IBT value, the video RBT value, the IBT value, and the audio RBT value transmitted from the demultiplexer, respectively, and comparing the calculated video time stamp and the video time stamp And synchronizes the calculated audio time stamp with a system time clock converted into a frequency, and converts the calculated audio time stamp into a frequency equal to the system time clock and compares the calculated audio time stamp with a corresponding system time clock to synchronize.
구체적으로, 상기 동기제어부는, 상기 역다중화부로부터 전달된 IBT값과 비 디오 RBT값을 이용하여 비디오 타임스탬프를 계산하고, 상기 비디오 타임스탬프와 동일한 주파수로 변환된 시스템타임클록과 상기 계산된 비디오 타임스탬프를 상호 비교하여 비디오 타임스탬프를 시스템타임클록에 동기화시키는 비디오동기부; 및 상기 역다중화부로부터 전달된 IBT값과 오디오 RBT값을 이용하여 오디오 타임스탬프를 계산하고, 계산된 오디오 타임스탬프를 시스템타임클록과 동일한 주파수로 변환한 후 변환된 오디오 타임스탬프와 시스템타임클록을 상호 비교하여 오디오 타임스탬프를 시스템타임클록에 동기화시키는 오디오동기부;를 포함하는 것을 특징으로 한다.Specifically, the synchronization control unit calculates a video time stamp using the IBT value and the video RBT value transmitted from the demultiplexing unit, and outputs the system time clock converted to the same frequency as the video time stamp, A video synchronization unit for comparing the time stamps to synchronize the video time stamps with the system time clock; And an audio time stamp calculating unit for calculating an audio time stamp using the IBT value and the audio RBT value transmitted from the demultiplexing unit, converting the calculated audio time stamp to the same frequency as the system time clock, And an audio synchronization unit for comparing the audio time stamps with each other to synchronize the audio time stamps with the system time clock.
상기 IBT는 일정 주기마다 생성되는 기준시간이고, 상기 RBT는 상기 IBT를 기준으로 오프셋(offset)된 상대 시간인 것을 특징으로 하며, 상기 다중 서브프레임에 포함된 IBT 및 RBT에 대한 기준시간 주파수와 상기 시스템타임클록의 주파수가 서로 다른 것을 특징으로 하며, 상기 IBT 및 RBT에 대한 기준시간 주파수는 22.5KHz이고, 상기 시스템타임클록의 주파수는 90KHz인 것을 특징으로 한다.Wherein the IBT is a reference time generated in a predetermined period and the RBT is offset relative to the IBT. The reference time frequency for the IBT and the RBT included in the multiple sub- And the frequency of the system time clock is different. The reference time frequency for the IBT and the RBT is 22.5 KHz, and the frequency of the system time clock is 90 KHz.
상기 비디오 타임스탬프와 비교되는 시스템타임클록은, 상기 IBT값이 시스템타임클록과 동일한 주파수로 변환된 후 저장되는 IBT 초기값과 상기 시스템타임클록을 읽는 순간의 값이 가산되어 비디오 타임스탬프와 동일한 주파수로 변환된 값인 것을 특징으로 한다.The system time clock, which is compared with the video time stamp, is calculated by adding the IBT initial value stored after the IBT value is converted to the same frequency as the system time clock and the instantaneous value of reading the system time clock, As shown in FIG.
상기 목적을 달성하기 위한 본 발명의 기술적 방법은, 수신된 다중 서브프레임으로부터 최초의 IBT(Initial Broadcast Time)값을 획득하고, 획득된 IBT 값을 시스템타임클록과 동일한 주파수로 변환하는 단계; 상기 주파수 변환된 IBT값을 초 기값으로 저장함과 아울러 시스템타임클록을 초기화하는 단계; 상기에서 수신된 다중 서브프레임으로부터 비디오섹션을 파싱하여 비디오 RBT(Relative Broadcast Time)값을 획득하고, 획득된 RBT값과 상기 최초의 IBT값을 이용하여 비디오 타임스탬프를 계산하는 단계; 및 상기 시스템타임클록을 IBT와 동일한 주파수로 변환하고, 주파수 변환된 시스템타임클록을 기준으로 비디오 타임스탬프를 비교하여 비디오신호의 출력을 조절하는 단계;를 포함하는 것을 특징으로 한다.According to an aspect of the present invention, there is provided a method for obtaining an initial IBT (Initial Broadcast Time) value from received multiple subframes and converting the obtained IBT value to the same frequency as a system time clock. Storing the frequency-converted IBT value as an initial value and initializing a system time clock; Parsing a video section from the received multiple subframes to obtain a video relative temporal time (RBT) value, and calculating a video timestamp using the obtained RBT value and the first IBT value; And adjusting output of the video signal by converting the system time clock to the same frequency as the IBT and comparing the video time stamp based on the frequency converted system time clock.
구체적으로, 상기 시스템타임클록을 IBT와 동일한 주파수로 변환할 때, 상기 시스템타임클록을 읽는 순간의 값과 상기 저장된 IBT 초기값을 가산하여 주파수를 변환하는 모바일 방송수신기의 신호 동기화 방법.In particular, when converting the system time clock to the same frequency as the IBT, the frequency of the mobile broadcast receiver is converted by adding the instantaneous value of the system time clock and the stored IBT initial value.
상기 목적을 달성하기 위한 본 발명의 다른 기술적 방법은, 수신된 다중 서브프레임으로부터 최초의 IBT(Initial Broadcast Time)값을 획득하여 초기값으로 저장함과 아울러 시스템타임클록을 초기화하는 단계; 상기에서 수신된 다중 서브프레임으로부터 오디오섹션을 파싱하여 오디오 RBT(Relative Broadcast Time)값을 획득하고, 획득된 RBT값과 상기 IBT 초기값을 이용하여 오디오 타임스탬프를 계산하는 단계; 및 상기 계산된 오디오 타임스탬프를 시스템타임클록과 동일한 주파수로 변환하고, 시스템타임클록을 기준으로 주파수 변환된 오디오 타임스탬프를 비교하여 오디오신호의 출력을 조절하는 단계;를 포함하는 것을 특징으로 한다.According to still another aspect of the present invention, there is provided a method for receiving an initial broadcast time (IBT) value from a received multiple subframe, storing the initial IBT value as an initial value, and initializing a system time clock; Parsing an audio section from the received multiple subframes to obtain an audio RBT value, calculating an audio time stamp using the obtained RBT value and the IBT initial value; And controlling the output of the audio signal by converting the calculated audio time stamp to a frequency equal to the system time clock and comparing the frequency timed audio time stamp based on the system time clock.
이상에서 설명한 바와 같이 본 발명은 모바일 방송수신기의 시스템타임클 록(STC)과 수신된 방송신호의 타임스탬프에 대한 기준시간이 서로 다를 경우에도 소정의 알고리즘에 따라 오디오 및 비디오 신호를 재생 가능하도록 함에 따라 방송신호의 기준시간과 일치하는 STC 시스템의 재설계가 불필요함과 아울러 기존의 STC 시스템의 사용이 가능하고, 재설계에 따른 비용도 절감할 수 있다.As described above, according to the present invention, audio and video signals can be reproduced according to a predetermined algorithm even when the system time clock (STC) of the mobile broadcast receiver and the reference time for the time stamp of the received broadcast signal are different from each other Therefore, it is unnecessary to redesign the STC system that coincides with the reference time of the broadcast signal, and the existing STC system can be used, and the cost of redesigning can be reduced.
이하, 첨부된 도면을 참조하여 본 발명의 실시예에 대하여 보다 상세하게 설명하고자 한다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings.
도 1은 본 발명의 실시예에 의한 방송신호의 동기화를 위한 모바일 방송수신기를 나타낸 기능 블록도로서, 모바일 방송수신기(100)는 복조부(110)와, 수신버퍼(115), 역다중화부(120; Demultiplexer), 동기제어부(130), 비디오디코더(140), 비디오처리부(145) 및 오디오디코더(160) 등을 포함하여 이루어져 있다.FIG. 1 is a functional block diagram illustrating a mobile broadcast receiver for synchronizing broadcast signals according to an embodiment of the present invention. The
실시예에서는 설명의 편의상 모바일 방송수신기(100)의 시스템타임클록(System Time Clock; STC)이 한국과 일본 등의 모바일 방송 시스템과 같이 90KHz를 사용하는 경우와, 수신된 방송신호의 타임스탬프(Time Stamp)에 대한 기준시간이 중국 모바일 방송(CMMB)과 같이 22.5KHz를 사용하는 경우를 예로 들어 설명한다, 하지만, 이에 한정되지 않고 시스템타임클록과 방송신호의 기준시간이 서로 다른 모든 경우에 해당될 수 있음은 당연하다.For convenience of explanation, in the embodiment, when the system time clock (STC) of the
상기 복조부(110)는 안테나를 통해 수신된 모바일 방송신호를 처리하여 TS 패킷을 출력하도록 구성되어 있고, 수신버퍼(115)는 TS 패킷을 임시로 저장하도록 구성되어 있다.The
역다중화부(120)는 수신된 TS 패킷의 헤더정보를 참조하여 상기 TS 패킷에 포함된 데이터의 종류를 파악하고 오디오 및 비디오 프레임을 만들도록 구성되어 있다. 즉, 역다중화부(120)는 오디오/비디오 다중 서브프레임(Multiplex Sub-frame; MSF)이 입력되면 다중화(Multiplexed)된 오디오와 비디오 비트스트림을 각각 분리한다. 상기 분리된 오디오 비트스트림과 비디오 비트스트림은 디코딩을 위해 각각 비디오디코더(140)와 오디오디코더(160)로 출력된다.The
그리고, 역다중화부(120)는 스트림파싱부(125)를 통해 다중 서브프레임(MSF)을 파싱하여 시간정보인 IBT(Initial Broadcast Time)값을 획득하고, 각각의 비디오 및 오디오 비트스트림을 파싱하여 시간정보인 비디오 RBT(Relative Broadcast Time)값과 오디오 RBT값을 각각 획득한 후 비디오/오디오 프레임과 시스템타임클록과의 동기화를 위해 동기제어부(130)로 출력한다.The
상기 역다중화부(120)로 입력되는 다중 서브프레임(Multiplex Sub-frame; MSF)은 도 2와 같이 구성되어 있다. 즉, 다중 서브프레임은 서브프레임 헤더(Sub-frame header)와 비디오 섹션(Video section), 오디오 섹션(Audio section) 및 데이터 섹션(Data section)을 포함하여 이루어져 있다. The multiplex sub-frame (MSF) input to the
상기 다중 서브프레임의 헤더에는 도 2와 같이 초기 방송 시간정보인 IBT(Initial Broadcast Time)가 다중화되어 있고, 다중 서브프레임(MSF)의 비디오섹션 및 오디오섹션에는 도 3a 및 도 3b와 같이 각 헤더(Video section header, Audio section header) 내에 상대적 방송 시간정보인 RBT(Relative Broadcast Time)가 각각 다중화되어 있다. As shown in FIG. 2, the initial broadcast time (IBT) is multiplexed in the headers of the multiple subframes. In the video and audio sections of the multiple subframes (MSF), each header Relative Broadcast Time (RBT), which is relative broadcast time information, is multiplexed in the Video section header and Audio section header, respectively.
그리고, 상기 IBT는 도 4와 같이 일정 주기마다 생성되는 기준시간으로 MPEG-2의 PCR(Program Clock Reference)과 같은 시간정보에 대응되고, RBT는 상기 IBT를 기준으로 오프셋(offset)된 상대적 시간정보이다. 상기 일정 주기마다 생성되는 IBT값(IBT0, IBT1, ...) 사이에 다수의 RBT값(RBT0~RBT24)이 할당될 수 있다.The IBT corresponds to time information such as a PCR (Program Clock Reference) of MPEG-2 with a reference time generated every predetermined period as shown in FIG. 4, and the RBT is offset relative to the IBT to be. A plurality of RBT values RBT0 to RBT24 may be allocated between the IBT values IBT0, IBT1, ... generated every predetermined period.
동기제어부(130)는 상기 역다중화부(120)로부터 전달된 시간정보인 IBT값과 비디오 RBT값 및 상기 IBT값과 오디오 RBT값을 각기 이용하여 비디오 타임스탬프와 오디오 타임스탬프를 각각 계산하고, 계산된 비디오 타임스탬프와 상기 비디오 타임스탬프와 동일한 주파수로 변환된 시스템타임클록과 비교하여 동기화하고, 상기 계산된 오디오 타임스탬프를 시스템타임클록과 동일한 주파수로 변환하여 해당 시스템타임클록과 비교하여 동기화하도록 구성되어 있다. 즉, 동기제어부(130)는 계산된 비디오 타임스탬프 및 오디오 타임스탬프를 시스템타임클록의 주파수와 각각 동기화시켜 비디오 및 오디오 프레임의 출력시간을 조절하게 된다.The
상기 동기제어부(130)는 비디오동기부(131) 및 오디오동기부(135)로 이루어져 있는데, 비디오동기부(131)는 역다중화부(120)로부터 전달된 IBT값과 비디오 RBT값을 이용하여 비디오 타임스탬프를 계산하고, 상기 비디오 타임스탬프와 동일한 주파수로 변환된 시스템타임클록과 상기 계산된 비디오 타임스탬프를 상호 비교하여 비디오 타임스탬프를 시스템타임클록에 동기화시키도록 구성되어 있다. 오디오동기부(135)는 역다중화부(120)로부터 전달된 IBT값과 오디오 RBT값을 이용하여 오디오 타임스탬프를 계산하고, 계산된 오디오 타임스탬프를 시스템타임클록과 동 일한 주파수로 변환한 후 변환된 오디오 타임스탬프와 시스템타임클록을 상호 비교하여 오디오 타임스탬프를 시스템타임클록에 동기화시키도록 구성되어 있다.The
상기에서 비디오동기부(131)에서 비디오 타임스탬프와 비교되는 시스템타임클록은, 상기 IBT값이 시스템타임클록과 동일한 주파수로 변환된 후 저장되는 IBT 초기값과 상기 시스템타임클록을 읽는 순간의 값이 가산되어 비디오 타임스탬프와 동일한 주파수로 변환된 값이다.The system time clock, which is compared with the video time stamp in the
이와 같이 동기제어부(130)는 비디오 타임스탬프와 오디오 타임스탬프를 각각 구한 후 각 타임스탬프와 동일한 주파수의 시스템타임클록과 비교함에 따라 비디오 및 오디오 프레임의 출력 타이밍을 동기화시킬 수 있다.In this way, the
비디오디코더(140)는 입력되는 비디오 비트스트림에서 오버헤드(각종 헤더정보, 스타트 코드 등)를 제거하고, 순수한 데이터 정보를 가변길이 디코딩(Variable Length Decoding; VLD)한 후 역양자화 과정과 역이산 코사인변환(IDCT) 과정을 거쳐 원래 화면의 픽셀값을 복원하고, 비디오처리부(145)는 이를 디스플레이 포맷에 맞게 변환하여 디스플레이수단(150)으로 출력하게 된다. 여기서 비디오처리부(145)는 동기제어부(130)에서 출력되는 비디오 타임스탬프를 상기 비디오 타임스탬프와 동일한 주파수를 갖는 시스템타임클록과 비교하여 디스플레이수단(150)으로 출력되는 비디오 프레임의 출력 타이밍을 조절할 수 있다.The
오디오디코더(160)는 MPEG 알고리즘 또는 오디오코딩(AC-3) 알고리즘 등을 이용하여 입력되는 오디오 비트스트림을 원래의 신호로 복원하고, 디지털아날로그컨버터(165; DAC)는 이를 아날로그 형태로 변환하여 스피커(170) 등으로 출력한다. 여기서, 상기 오디오디코더(160)는 동기제어부(130)에서 출력되는 오디오 타임스탬프를 시스템타임클록과 비교하여 스피커(170) 측으로 출력되는 오디오 프레임의 출력 타이밍을 조절할 수가 있다.The
이러한 모바일 방송수신기는 다중화된 디지털신호를 사용하기 때문에 기존의 아날로그 시스템과는 달리 비디오와 오디오 프레임의 동기를 맞추어 주는 별도의 A/V 립싱크(Lip-Synchronization) 장치나 방법이 필요하다. 이와 같은 모바일 방송수신기에서는 시스템타임클록(STC)과 수신된 방송신호의 타임스탬프에 대한 기준시간이 서로 다른 환경에서 상기 시스템타임클록과 상기 타임스탬프에 대한 기준시간을 동기화시키기 위한 알고리즘이 필요하다.Since the mobile broadcast receiver uses multiplexed digital signals, a separate A / V Lip-Synchronization device or method for synchronizing video and audio frames is required unlike the conventional analog system. In such a mobile broadcast receiver, an algorithm for synchronizing the system time clock with the reference time for the time stamp in an environment where the system time clock (STC) and the reference time for the time stamp of the received broadcast signal are different from each other is required.
따라서, 모바일 방송수신기의 동기제어부(130)는 역다중화부(120)에서 제공되는 IBT값과 비디오 RBT값 및 오디오 RBT값을 이용하여 비디오 타임스탬프 및 오디오 타임스탬프를 각각 구한 후 계산된 비디오 타임스탬프 및 오디오 타임스탬프를 각 타임스탬프와 동일한 주파수의 시스템타임클록과 각각 비교하여 비디오 및 오디오 프레임의 출력시간을 조절하게 된다.Accordingly, the
도 5 및 도 6은 본 발명의 실시예에 의한 비디오 및 오디오 프레임과 시스템타임클록과의 동기화 과정을 각각 나타낸 플로우챠트로서, 첨부된 도면을 참조하여 살펴본다.5 and 6 are flowcharts illustrating a synchronization process between a video and audio frame and a system time clock according to an embodiment of the present invention, respectively, and will be described with reference to the accompanying drawings.
비디오 프레임과 오디오 프레임은 시스템타임클록(System Time Clock; STC)과의 동기화가 순차적으로 이루어질 수도 있지만, 본 발명의 실시예에서는 비디오 프레임과 오디오 프레임이 동기제어부(130)의 비디오동기부(131)와 오디오동기 부(135)를 통해 동시에 별도로 진행되는 경우를 예로 들어 설명한다.The video frame and the audio frame may be sequentially synchronized with the system time clock (STC). However, in the embodiment of the present invention, the video frame and the audio frame are transmitted to the
먼저, 역다중화부(120)의 스트림파싱부(125)는 입력된 다중 서브프레임(MSF)의 헤더를 파싱하고, 헤더를 파싱하여 획득한 최초의 IBT(예를 들어, IBT0)값을 동기제어부(130)로 전달한다(S11). 여기서, IBT값은 22.5KHz 주파수를 갖는 기준시간에 의해 생성된 시간정보이다.First, the
동기제어부(130)의 비디오동기부(131)는 역다중화부(120)로부터 전달된 IBT0값을 외부에서 공급되는 시스템타임클록과 동일한 주파수인 90KHz로 변경함과 아울러 주파수 변환된 IBT0값을 초기값으로 저장하게 된다(S12). 상기 시스템타임클록의 주파수(90KHz)가 IBT값의 주파수(22.5KHz)의 4배이므로 IBT값에 4를 곱하는 형식, 즉 IBT값을 좌측으로 2비트만큼 시프트(shift)시키면 된다. 예를 들어, IBT0값이 0x0001일 경우 이 값을 좌측으로 2비트 시프트시키면 0x0100이 된다. 여기서, IBT0값은 0x0001이 되며, 초기값으로 저장되는 IBT0값은 주파수 변환된 0x0100이 된다.The
이어, 상기 IBT0값의 주파수가 변경됨과 동시에 비디오동기부(131)는 외부에서 공급되는 시스템타임클록을 '0'으로 초기화시키게 된다(S13).Subsequently, the frequency of the IBT0 value is changed, and at the same time, the
상기 IBT0값의 주파수를 변환하는 과정과, 주파수 변환된 IBT0값을 초기화값으로 저장하는 과정과, 외부에서 공급되는 시스템타임클록을 초기화하는 과정은 동시에 진행된다.Converting the frequency of the IBT0 value, storing the frequency-converted IBT0 value as an initialization value, and initializing the system time clock supplied from the outside.
한편, 역다중화부(120)의 스트림파싱부(125)는 다중 서브프레임(MSF)으로부터 분리된 비디오섹션의 헤더를 파싱하고, 파싱하여 획득한 맨 처음의 비디오 RBT(예를 들어, RBT0)값을 비디오동기부(131)로 전달한다(S14). 여기서, RBT값은 22.5KHz 주파수를 갖는 기준시간에 의해 생성된 시간정보이다. 상기 IBT는 도 4와 같이 일정 주기마다 생성되는 기준시간이고, RBT는 상기 IBT를 기준으로 오프셋(offset)된 상대적 시간정보이다. 상기 일정 주기마다 생성되는 IBT값(IBT0, IBT1, ...) 사이에 다수의 RBT값(RBT0~RBT24)이 할당될 수 있다.Meanwhile, the
이어, 비디오동기부(131)는 역다중화부(120)로부터 전달된 RBT0값과 상기 IBT0값을 이용하여 비디오 타임스탬프를 계산하여 획득한다(S15). 상기 비디오 타임스탬프를 구하는 방식은 아래 수학식 1과 같다.Then, the
여기서, 수학식 1은 IBT0과 IBT1 사이에 25개의 RBT값이 존재할 경우, 즉 25frame/1sec의 경우를 나타낸 것이다.Equation (1) shows a case where 25 RBT values exist between IBT0 and IBT1, that is, 25 frames / sec.
상기 수학식 1과 같이 특정 비디오 액세스유닛(V_AU)에 대한 타임스탬프는 해당 IBT값과 해당 RBT값을 가산한다. 상기 RBT값의 경우 IBT값에 대한 오프셋값(offset value)이므로 두 값을 더해야만 타임스탬프가 된다.As shown in Equation (1), the timestamp for a specific video access unit (V_AU) adds the corresponding IBT value and the corresponding RBT value. In case of the RBT value, since it is an offset value with respect to the IBT value, two values are added to the time stamp.
이어, 비디오동기부(131)는 계산된 비디오 타임스탬프와의 비교를 위해 시스템타임클록을 읽는 순간, 읽은 시스템타임클록의 값과 상기에서 저장된 IBT 초기값 을 더해서 시스템타임클록의 값을 22.5KHz로 변환하게 된다(S16). 여기서, 시스템타임클록의 주파수를 변환하는 방법은 상기 시스템타임클록의 주파수(90KHz)가 IBT값의 주파수(22.5KHz)의 4배이므로 시스템타임클록의 값에 4를 나누는 형식, 즉 시스템타임클록의 값을 우측으로 2비트만큼 시프트(shift)시키면 된다. 예를 들어, 시스템타임클록의 값이 0x1000일 경우 이 값을 우측으로 2비트 시프트시키면 0x0010이 된다.Then, the
비디오동기부(131)는 상기와 같이 22.5KHz로 변환된 시스템타임클록(STC)과 계산된 비디오 타임스탬프(22.5KHz)를 상호 비교하여 비디오 프레임이 시스템타임클록에 동기화될 수 있도록 한다. 이에 따라 비디오디코더(140)와 비디오처리부(145)를 통해 디스플레이수단(150)으로 출력되는 비디오 프레임은 시스템타임클록과의 동기화에 의해 일정시간 지연될 수 있다(S17).The
상기에서 비디오동기부(131)가 시스템타임클록(STC)을 기준으로 비디오 타임스탬프를 체크하여 비디오 프레임이 시스템타임클록에 동기화되도록 비디오디코더(140)와 비디오처리부(145)를 각기 제어하는 것으로 설명하였지만, 비디오동기부(131)가 계산된 비디오 타임스탬프를 비디오처리부(145)로 전달하고, 비디오처리부(145)에서 비디오동기부(131)에서 출력되는 비디오 타임스탬프를 상기 비디오 타임스탬프와 동일한 주파수를 갖는 시스템타임클록과 비교하여 디스플레이수단(150)으로 출력되는 비디오 프레임의 출력 타이밍을 조절할 수도 있다.The
한편, 도 6과 같이 동기제어부(130)의 오디오동기부(135)는 상기 역다중화부(120)로부터 다중 서브프레임(MSF)을 통해 파싱된 IBT(예를 들어, IBT0)값을 전달받고, 전달된 IBT0값을 초기값으로 저장하는 한편(S21), 외부에서 공급되는 시스템타임클록을 '0'으로 초기화시키게 된다(S22).6, the
이때, 상기 IBT값은 비디오동기부(131)로도 전달되며, 오디오동기부(135)와 비디오동기부(131)는 동일한 IBT값을 역다중화부(120)로부터 전달받는다.At this time, the IBT value is also transmitted to the
상기 IBT0값을 초기화값으로 저장하는 과정과, 외부에서 공급되는 시스템타임클록을 초기화하는 과정은 동시에 진행된다.The process of storing the IBT0 value as an initialization value and the process of initializing an externally supplied system time clock are simultaneously performed.
한편, 역다중화부(120)의 스트림파싱부(125)는 다중 서브프레임(MSF)으로부터 분리된 오디오섹션의 헤더를 파싱하고, 파싱하여 획득한 최초의 오디오 RBT(예를 들어, RBT0)값을 오디오동기부(135)로 전달한다(S23). 여기서, RBT값은 22.5KHz 주파수를 갖는 기준시간에 의해 생성된 시간정보이다. 상기 IBT는 도 4와 같이 일정 주기마다 생성되는 기준시간이고, RBT는 상기 IBT를 기준으로 오프셋(offset)된 상대적 시간정보이다. 상기 일정 주기마다 생성되는 IBT값(IBT0, IBT1, ...) 사이에 다수의 RBT값(RBT0~RBT24)이 할당될 수 있다.Meanwhile, the
이어, 오디오동기부(135)는 역다중화부(120)로부터 전달된 RBT0값과 상기에서 저장된 IBT0 초기값을 이용하여 오디오 타임스탬프를 계산하여 획득한다(S24). 상기 오디오 타임스탬프를 구하는 방식은 아래 수학식 2와 같다.Next, the
여기서, 수학식 2는 IBT0과 IBT1 사이에 25개의 RBT값이 존재할 경우, 즉 25frame/1sec의 경우를 나타낸 것이며, FirstIBT는 IBT0값과 동일한 값이다.Equation (2) shows a case where 25 RBT values exist between IBT0 and IBT1, that is, 25 frames / sec, and First IBT has the same value as the IBT0 value.
상기 수학식 2와 같이 특정 오디오 액세스유닛(A_AU)에 대한 타임스탬프는 해당 IBT값과 해당 RBT값을 가산한 후 초기값으로 저장된 IBT값(예를 들어, IBT0)을 감산하여 획득한다. 상기 수학식 2에서 A_AU0 내지 A_AU24에 대한 타임스탬프는 IBT0값과 FirstIBT가 동일하므로 각 RBT값이 타임스탬프가 될 것이며, A_AU25에 대한 타임스탬프는 IBT1값에서 FirstIBT값을 감산한 차이값과 RBT0값을 더한 값이 해당 오디오 액세스유닛(A_AU25)에 대한 타임스탬프가 될 것이다. As shown in
이어, 오디오동기부(135)는 계산된 오디오 타임스탬프를 시스템타임클록과 동일한 90KHz로 변환하게 된다(S25). 여기서, 오디오 타임스탬프의 주파수를 변환하는 방법은 상기 오디오 타임스탬프의 기준주파수(22.5KHz)가 시스템타임클록(90KHz)의 1/4배이므로 오디오 타임스탬프의 값에 4를 곱하는 형식, 즉 오디오 타임스탬프의 값을 좌측으로 2비트만큼 시프트(shift)시키면 된다. 예를 들어, 오디오 타임스탬프의 값이 0x0010일 경우 이 값을 좌측으로 2비트 시프트시키면 0x1000이 된다.Next, the
오디오동기부(135)는 상기와 같이 90KHz로 변환된 오디오 타임스탬프와 시스템타임클록을 상호 비교하여 오디오 프레임이 시스템타임클록에 동기화될 수 있도록 한다. 이에 따라 오디오디코더(160)와 디지털아날로그컨버터(165)를 통해 스피커(170)로 출력되는 오디오 프레임은 시스템타임클록과의 동기화에 의해 일정시간 지연될 수 있다(S26).The
상기에서 오디오동기부(135)가 시스템타임클록(STC)을 기준으로 오디오 타임스탬프를 체크하여 오디오 프레임이 시스템타임클록에 동기화되도록 오디오디코더(160)를 제어하는 것으로 설명하였지만, 오디오동기부(135)가 계산된 오디오 타임스탬프를 오디오디코더(160)로 전달하고, 오디오디코더(160)에서 오디오동기부(135)에서 출력되는 오디오 타임스탬프를 상기 오디오 타임스탬프와 동일한 주파수를 갖는 시스템타임클록과 비교하여 DAC(165)를 통해 스피커(170) 측으로 출력되는 오디오 프레임의 출력 타이밍을 조절할 수도 있다.The
상기 오디오 프레임과 비디오 프레임은 동일한 시스템타임클록에 대해 동기화되었으므로, 상기 비디오 프레임과 오디오 프레임 간에도 동기화가 이루어진 것이다. 즉, 시스템타임클록을 기준으로 비디오 타임스탬프와 오디오 타임스탬프를 각각 체크하여 동기화함으로써, 비디오 프레임과 오디오 프레임의 상호 간에 동기화가 필요없다. Since the audio frame and the video frame are synchronized with respect to the same system time clock, synchronization between the video frame and the audio frame also occurs. That is, the video timestamp and the audio timestamp are checked and synchronized with each other based on the system time clock, so that synchronization between the video frame and the audio frame is not required.
그리고, 상기에서 비디오 타임스탬프의 경우에는 시스템타임클록의 주파수를 변환하여 비디오 타임스탬프의 주파수에 일치시키는 것이 효율적이고, 오디오 타임스탬프의 경우에는 오디오 타임스탬프의 주파수를 변환하여 시스템타임클록에 일치 시키는 것이 효율적이다.In the case of the video time stamp, it is effective to convert the frequency of the system time clock to match the frequency of the video time stamp. In case of the audio time stamp, the frequency of the audio time stamp is converted to match the system time clock It is efficient.
상기의 본 발명의 바람직한 실시예는 예시의 목적을 위해 개시된 것이고, 본 발명에 대한 통상의 지식을 가진 당업자라면 본 발명의 기술적 사상 내에서 다양한 수정, 변경 및 부가가 가능하므로, 이러한 수정, 변경 및 부가는 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등한 것들에 의해 정해져야 한다.It will be apparent to those skilled in the relevant art that various modifications, additions and substitutions are possible, without departing from the scope and spirit of the invention as disclosed in the accompanying claims. The appended claims should be construed in accordance with the appended claims and their equivalents.
도 1은 본 발명의 실시예에 의한 방송신호의 동기화를 위한 모바일 방송수신기를 나타낸 기능 블록도이다.1 is a functional block diagram illustrating a mobile broadcast receiver for synchronizing broadcast signals according to an embodiment of the present invention.
도 2는 본 발명에 적용된 방송신호의 다중 서브프레임의 구성을 나타낸 도면이다.2 is a diagram illustrating the structure of multiple subframes of a broadcast signal applied to the present invention.
도 3a 및 도 3b는 본 발명에 적용된 다중 서브프레임의 비디오섹션과 오디오섹션의 세부 구성을 각각 나타낸 도면이다.FIGS. 3A and 3B are views showing detailed configurations of a video section and an audio section of multiple subframes applied to the present invention, respectively.
도 4는 본 발명에 적용된 IBT와 RBT와의 관계를 나타낸 도면이다.4 is a diagram showing a relationship between an IBT and an RBT applied to the present invention.
도 5는 본 발명의 실시예에 의한 비디오 프레임의 동기화 과정을 나타낸 플로우챠트이다.5 is a flowchart illustrating a synchronization process of a video frame according to an embodiment of the present invention.
도 6은 본 발명의 실시에에 의한 오디오 프레임의 동기화 과정을 나타낸 플로우챠트이다.6 is a flowchart illustrating a synchronization process of an audio frame according to an embodiment of the present invention.
* 도면의 주요 부분에 대한 부호의 설명DESCRIPTION OF THE REFERENCE NUMERALS
100: 모바일 방송수신기 120: 역다중화부(Demultiplexer)100: mobile broadcast receiver 120: demultiplexer (demultiplexer)
121: 스트림파싱부 130: 동기제어부121: Stream parsing unit 130:
131: 비디오동기부 135: 오디오동기부131: video synchronization unit 135: audio synchronization unit
140: 비디오디코더 145: 비디오처리부140: video decoder 145: video processor
160: 오디오디코더160: Audio decoder
Claims (10)
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020090024769A KR101547697B1 (en) | 2009-03-24 | 2009-03-24 | Device and method for synchronizing signal in mobile broadcasting receiver |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020090024769A KR101547697B1 (en) | 2009-03-24 | 2009-03-24 | Device and method for synchronizing signal in mobile broadcasting receiver |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20100106688A KR20100106688A (en) | 2010-10-04 |
| KR101547697B1 true KR101547697B1 (en) | 2015-08-26 |
Family
ID=43128729
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020090024769A Expired - Fee Related KR101547697B1 (en) | 2009-03-24 | 2009-03-24 | Device and method for synchronizing signal in mobile broadcasting receiver |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR101547697B1 (en) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102149016A (en) * | 2010-12-30 | 2011-08-10 | 北京牡丹电子集团有限责任公司 | Receiving device for CMMB (China mobile multimedia broadcasting) mobile video transmission system |
| CN109088712B (en) * | 2018-08-22 | 2021-02-02 | 南京铁道职业技术学院 | Transform domain channel estimation method |
Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR100189512B1 (en) | 1994-02-17 | 1999-06-01 | 다카노 야스아키 | Audio/video decoding system |
-
2009
- 2009-03-24 KR KR1020090024769A patent/KR101547697B1/en not_active Expired - Fee Related
Patent Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR100189512B1 (en) | 1994-02-17 | 1999-06-01 | 다카노 야스아키 | Audio/video decoding system |
Also Published As
| Publication number | Publication date |
|---|---|
| KR20100106688A (en) | 2010-10-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US9420332B2 (en) | Clock compensation techniques for audio decoding | |
| US8842218B2 (en) | Video/audio data output device and method | |
| CN101483782B (en) | Digital broadcast receiver and digital broadcast receiving method | |
| KR100294663B1 (en) | MPEG decoder and decoding control method | |
| KR101547697B1 (en) | Device and method for synchronizing signal in mobile broadcasting receiver | |
| CN102301733B (en) | Display device, communication device, display method, and program recording medium | |
| KR100864009B1 (en) | Audio / Video Synchronization Method | |
| KR100617221B1 (en) | How to Synchronize Audio / Video Signal of Digital Broadcast Receiver | |
| US20040013270A1 (en) | Apparatus and method for converting contents | |
| CN114189737B (en) | Digital television rapid channel switching method and digital television | |
| KR20060065436A (en) | Method and device for audio and video synchronization in digital multimedia broadcasting receiver | |
| KR100802133B1 (en) | Digital signal processing apparatus and method thereof for synchronization of audio / video signals | |
| KR20030082117A (en) | Method for audio/video signal lip-sync controlling in digital broadcasting receiver | |
| KR100698182B1 (en) | Method and device for outputting AQ of digital broadcasting system | |
| US8442123B2 (en) | Device, signal generation/decoding device, video transmission device, video reception device, and video transmission/reception system | |
| CN108702533B (en) | Transmission device, transmission method, reception device, and reception method | |
| KR100998449B1 (en) | DM receiver and buffer control method | |
| JP2010141498A (en) | Video receiver and video transmitter | |
| KR100499457B1 (en) | Apparatus for processing multi broadcasting signal in digital broadcasting receiver | |
| JP5857840B2 (en) | Encoder and control method | |
| KR100499519B1 (en) | Method for Controlling Audio Lip-Synchronization | |
| JPH08280008A (en) | Method and device for encoding | |
| JP2008066770A (en) | Content receiving apparatus, content transmitting / receiving system, and content transmitting / receiving method | |
| JP2014060625A (en) | Video signal transmission method, video signal receiver, and video signal reception method | |
| JP2002353922A (en) | Digital broadcast program relay transmission system |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PA0109 | Patent application |
St.27 status event code: A-0-1-A10-A12-nap-PA0109 |
|
| R18-X000 | Changes to party contact information recorded |
St.27 status event code: A-3-3-R10-R18-oth-X000 |
|
| R18-X000 | Changes to party contact information recorded |
St.27 status event code: A-3-3-R10-R18-oth-X000 |
|
| PG1501 | Laying open of application |
St.27 status event code: A-1-1-Q10-Q12-nap-PG1501 |
|
| A201 | Request for examination | ||
| P11-X000 | Amendment of application requested |
St.27 status event code: A-2-2-P10-P11-nap-X000 |
|
| P13-X000 | Application amended |
St.27 status event code: A-2-2-P10-P13-nap-X000 |
|
| PA0201 | Request for examination |
St.27 status event code: A-1-2-D10-D11-exm-PA0201 |
|
| D13-X000 | Search requested |
St.27 status event code: A-1-2-D10-D13-srh-X000 |
|
| D14-X000 | Search report completed |
St.27 status event code: A-1-2-D10-D14-srh-X000 |
|
| E902 | Notification of reason for refusal | ||
| PE0902 | Notice of grounds for rejection |
St.27 status event code: A-1-2-D10-D21-exm-PE0902 |
|
| E13-X000 | Pre-grant limitation requested |
St.27 status event code: A-2-3-E10-E13-lim-X000 |
|
| P11-X000 | Amendment of application requested |
St.27 status event code: A-2-2-P10-P11-nap-X000 |
|
| P13-X000 | Application amended |
St.27 status event code: A-2-2-P10-P13-nap-X000 |
|
| PN2301 | Change of applicant |
St.27 status event code: A-3-3-R10-R13-asn-PN2301 St.27 status event code: A-3-3-R10-R11-asn-PN2301 |
|
| E701 | Decision to grant or registration of patent right | ||
| PE0701 | Decision of registration |
St.27 status event code: A-1-2-D10-D22-exm-PE0701 |
|
| GRNT | Written decision to grant | ||
| PR0701 | Registration of establishment |
St.27 status event code: A-2-4-F10-F11-exm-PR0701 |
|
| PR1002 | Payment of registration fee |
St.27 status event code: A-2-2-U10-U11-oth-PR1002 Fee payment year number: 1 |
|
| PG1601 | Publication of registration |
St.27 status event code: A-4-4-Q10-Q13-nap-PG1601 |
|
| PR1001 | Payment of annual fee |
St.27 status event code: A-4-4-U10-U11-oth-PR1001 Fee payment year number: 4 |
|
| PR1001 | Payment of annual fee |
St.27 status event code: A-4-4-U10-U11-oth-PR1001 Fee payment year number: 5 |
|
| PN2301 | Change of applicant |
St.27 status event code: A-5-5-R10-R13-asn-PN2301 St.27 status event code: A-5-5-R10-R11-asn-PN2301 |
|
| PC1903 | Unpaid annual fee |
St.27 status event code: A-4-4-U10-U13-oth-PC1903 Not in force date: 20200821 Payment event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE |
|
| PC1903 | Unpaid annual fee |
St.27 status event code: N-4-6-H10-H13-oth-PC1903 Ip right cessation event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE Not in force date: 20200821 |