[go: up one dir, main page]

JP5864927B2 - IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND PROGRAM - Google Patents

IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND PROGRAM Download PDF

Info

Publication number
JP5864927B2
JP5864927B2 JP2011156691A JP2011156691A JP5864927B2 JP 5864927 B2 JP5864927 B2 JP 5864927B2 JP 2011156691 A JP2011156691 A JP 2011156691A JP 2011156691 A JP2011156691 A JP 2011156691A JP 5864927 B2 JP5864927 B2 JP 5864927B2
Authority
JP
Japan
Prior art keywords
imaging
imaging device
unit
acquisition
position information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011156691A
Other languages
Japanese (ja)
Other versions
JP2013026671A (en
Inventor
朋樹 平松
朋樹 平松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2011156691A priority Critical patent/JP5864927B2/en
Publication of JP2013026671A publication Critical patent/JP2013026671A/en
Application granted granted Critical
Publication of JP5864927B2 publication Critical patent/JP5864927B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • Y02B60/50

Landscapes

  • Studio Devices (AREA)

Description

本発明は、位置情報を取得する機能を有する撮像装置に関する。   The present invention relates to an imaging apparatus having a function of acquiring position information.

近年、撮影時の位置情報を取得するためにGPS(Grobal Positioning System)や無線LAN等の無線通信機能を搭載したデジタルスチルカメラやデジタルビデオカメラ等の撮像装置が存在する。このような撮像装置では、撮影時の位置情報を取得して撮像データの属性情報として記録している。
ところが、常にGPSや無線LANによる通信を行うと、これらの無線通信による消費電力が大きくなってしまい、特に撮像装置がバッテリーにより駆動している場合には、バッテリーの消費が早まってしまう。
そこで、撮像装置が撮像している間だけ無線通信による位置情報の取得を行い、撮像していない間は無線通信による位置情報の取得を行わないようにすることで消費電力を低下させる技術がある(特許文献1)。
In recent years, there are imaging apparatuses such as digital still cameras and digital video cameras equipped with wireless communication functions such as GPS (Global Positioning System) and wireless LAN in order to acquire position information at the time of shooting. In such an imaging apparatus, position information at the time of imaging is acquired and recorded as attribute information of imaging data.
However, if communication by GPS or wireless LAN is always performed, power consumption by such wireless communication increases, and particularly when the imaging device is driven by a battery, battery consumption is accelerated.
Therefore, there is a technique for reducing power consumption by acquiring position information by wireless communication only while the imaging device is imaging, and not acquiring position information by wireless communication while not imaging. (Patent Document 1).

特開2006−339723JP 2006-339723 A

しかしながら、撮像中に無線通信機能を用いた位置情報の取得を行う場合、無線通信において多くの電力を消費するため、撮像装置がバッテリーにより駆動している場合には、撮像のための電力を安定して供給できなくなる恐れがあった。
本発明は、上記課題に鑑み、撮像中に位置情報を取得すると共に、撮像の際の消費電力を低減することを目的とする。
However, when acquiring location information using the wireless communication function during imaging, a large amount of power is consumed in wireless communication. Therefore, when the imaging device is driven by a battery, the power for imaging is stable. There was a risk that it could not be supplied.
The present invention has been made in view of the above problems, and has an object to obtain position information during imaging and reduce power consumption during imaging.

上記目的を達成するため、本発明の撮像装置は、撮像手段を有する撮像装置であって、第1の外部装置から送信される無線信号に基づいて、前記撮像装置の位置を取得する取得手段と、前記撮像装置の移動を、前記撮像装置が有するセンサーにより計測する計測手段と、前記計測手段による計測結果に基づいて、前記撮像装置の位置を算出する算出手段と、前記撮像手段による撮像動作に応じて、前記取得手段による前記撮像装置の位置の取得から、前記算出手段による前記撮像装置の位置の算出に切替える切替手段とを有する。   In order to achieve the above object, an imaging apparatus of the present invention is an imaging apparatus having imaging means, and an acquisition means for acquiring the position of the imaging apparatus based on a radio signal transmitted from a first external device. A measuring unit that measures the movement of the imaging device by a sensor included in the imaging device, a calculating unit that calculates a position of the imaging device based on a measurement result by the measuring unit, and an imaging operation by the imaging unit. And a switching unit that switches from acquisition of the position of the imaging device by the acquisition unit to calculation of the position of the imaging device by the calculation unit.

本発明によれば、撮像中に位置情報を取得すると共に、撮像の際の消費電力を低減することができる。   According to the present invention, position information can be acquired during imaging, and power consumption during imaging can be reduced.

本発明を実施した一実施形態のネットワーク構成図1 is a network configuration diagram according to an embodiment of the present invention. デジタルビデオカメラ101のブロック構成図Block diagram of digital video camera 101 携帯電話102のブロック構成図Block diagram of mobile phone 102 デジタルビデオカメラ101が実現するフローチャートFlow chart realized by the digital video camera 101 デジタルビデオカメラ101が実現するフローチャートFlow chart realized by the digital video camera 101 地形データ取得の際のシーケンスチャートSequence chart for terrain data acquisition 携帯電話102が実現するフローチャートFlow chart realized by the mobile phone 102

図1に、本実施形態のシステム構成図を示す。本実施形態のシステムは、デジタルビデオカメラ101、携帯電話102、GNSS衛星103、携帯電話基地局104から構成される。ここで、GNSSとは、Global Navigation Satellite Systemsの略であり、GPSやGLONASS、GALILEO等の総称である。   FIG. 1 shows a system configuration diagram of the present embodiment. The system according to this embodiment includes a digital video camera 101, a mobile phone 102, a GNSS satellite 103, and a mobile phone base station 104. Here, GNSS is an abbreviation for Global Navigation Satellite Systems, and is a general term for GPS, GLONASS, GALILEO, and the like.

デジタルビデオカメラ101および携帯電話102は、GNSS衛星103からGNSS信号を受信することで、各々の位置情報を計算して取得する。また、デジタルビデオカメラ101と携帯電話102とは無線LAN106を構築し、IEEE802.11シリーズに準拠した無線通信を行う。なお、これに代えて、例えば、ワイヤレスUSB、MBOA、Bluetooth(商標)、UWB、ZigBeeに準拠した無線通信や、有線通信を行うようにしてもよい。ここで、MBOAは、Multi Band OFDM Allianceの略である。   The digital video camera 101 and the mobile phone 102 receive the GNSS signal from the GNSS satellite 103, thereby calculating and acquiring the respective position information. In addition, the digital video camera 101 and the mobile phone 102 establish a wireless LAN 106 and perform wireless communication conforming to the IEEE 802.11 series. Instead of this, for example, wireless communication based on wireless USB, MBOA, Bluetooth (trademark), UWB, or ZigBee, or wired communication may be performed. Here, MBOA is an abbreviation for Multi Band OFDM Alliance.

さらに、携帯電話102は、携帯電話基地局104を介してインターネット105と接続可能である。   Further, the mobile phone 102 can be connected to the Internet 105 via the mobile phone base station 104.

図2に、デジタルビデオカメラ101の機能ブロック構成を示す。201はGNSS制御部であり、GNSSアンテナ202を介してGNSS信号を受信するための各種制御を行う。203は、記憶部204に記憶されるプログラムを実行することによりデジタルビデオカメラ101全体を制御する制御部(CPU)である。204は制御部203が実行するプログラムや、通信パラメータ等の各種情報を記憶する記憶部(メモリー)である。後述するデジタルビデオカメラ101の各種動作は、記憶部204に記憶されたプログラムを制御部203が実行することにより実現される。   FIG. 2 shows a functional block configuration of the digital video camera 101. A GNSS control unit 201 performs various controls for receiving a GNSS signal via the GNSS antenna 202. A control unit (CPU) 203 controls the entire digital video camera 101 by executing a program stored in the storage unit 204. Reference numeral 204 denotes a storage unit (memory) that stores programs executed by the control unit 203 and various types of information such as communication parameters. Various operations of the digital video camera 101 to be described later are realized by the control unit 203 executing a program stored in the storage unit 204.

205はデジタルビデオカメラ101に電源を供給する電源部(バッテリー)である。206はデジタルビデオカメラ101をユーザが操作するための操作部であり、撮像ボタン等が含まれる。207は各種表示を行う表示部でありLCDやLEDのように視覚で認知可能な情報の出力の他、スピーカなどの音出力が可能な機能を有する。208は撮像部であり、209は各種通信にかかわるパケットを送受信するパケット送受信部である。   A power supply unit (battery) 205 supplies power to the digital video camera 101. Reference numeral 206 denotes an operation unit for the user to operate the digital video camera 101, and includes an imaging button and the like. Reference numeral 207 denotes a display unit that performs various displays, and has a function capable of outputting sound such as a speaker in addition to outputting visually recognizable information such as an LCD or LED. Reference numeral 208 denotes an imaging unit, and reference numeral 209 denotes a packet transmission / reception unit that transmits and receives packets related to various communications.

210は無線LAN制御部であり、無線LANアンテナ211を介して無線LAN通信の各種制御を行う。212はGNSSや無線LANを用いてデジタルビデオカメラ101の位置情報(現在地)を取得する位置情報取得部である。213は地形データ取得部であり、携帯電話102から、デジタルビデオカメラ101の現在地とその周辺を含む地形データ(地図情報)の取得を行う。   A wireless LAN control unit 210 performs various types of control of wireless LAN communication via the wireless LAN antenna 211. A position information acquisition unit 212 acquires position information (current position) of the digital video camera 101 using GNSS or wireless LAN. Reference numeral 213 denotes a terrain data acquisition unit which acquires terrain data (map information) including the current location of the digital video camera 101 and its surroundings from the mobile phone 102.

214は、加速度センサー215、電子コンパス216、気圧センサー217を制御し、デジタルビデオカメラ101の移動を計測するセンサー制御部である。218は位置算出部であり、地形データや、これらモーションセンサー情報を用いてデジタルビデオカメラ101の位置情報を算出する。   A sensor control unit 214 controls the acceleration sensor 215, the electronic compass 216, and the atmospheric pressure sensor 217, and measures the movement of the digital video camera 101. A position calculation unit 218 calculates position information of the digital video camera 101 using the terrain data and the motion sensor information.

なお、GNSS信号や無線LANといった無線通信を利用してデジタルビデオカメラ101の位置情報(現在地)を取得するよりも、これらのモーションセンサーを利用して位置情報(現在地)を取得する方が消費電力が少なくなることが確認されている。   Note that it is more power-consuming to acquire position information (current location) using these motion sensors than to acquire position information (current location) of the digital video camera 101 using wireless communication such as a GNSS signal or wireless LAN. Has been confirmed to decrease.

図3に、携帯電話102の機能ブロック構成を示す。301は無線LAN制御部であり、無線LANアンテナ302を介して無線LAN通信の各種制御を行う。303は、記憶部304に記憶されるプログラムを実行することにより携帯電話102全体を制御する制御部(CPU)である。304は制御部303が実行するプログラムや、通信パラメータ等の各種情報を記憶する記憶部(メモリー)である。後述する携帯電話102の各種動作は、記憶部304に記憶されたプログラムを制御部303が実行することにより実現される。   FIG. 3 shows a functional block configuration of the mobile phone 102. A wireless LAN control unit 301 performs various types of control of wireless LAN communication via the wireless LAN antenna 302. A control unit (CPU) 303 controls the entire mobile phone 102 by executing a program stored in the storage unit 304. Reference numeral 304 denotes a storage unit (memory) that stores programs executed by the control unit 303 and various types of information such as communication parameters. Various operations of the mobile phone 102 to be described later are realized by the control unit 303 executing programs stored in the storage unit 304.

305は携帯電話に電源を供給する電源部(バッテリー)である。306は携帯電話102をユーザが操作するための操作部である。操作部306には携帯電話102に入力を行うための操作ボタン等が含まれる。307は各種表示を行う表示部でありLCDやLEDのように視覚で認知可能な情報の出力の他、スピーカなどの音出力が可能な機能を有する。308はユーザが携帯電話102により通話を行うための通話部である。309は各種通信にかかわるパケットを送受信するパケット送受信部である。310は公衆無線制御部であり、公衆無線アンテナ311を介して公衆無線通信の各種制御を行う。公衆無線通信は例えばIMT(International Multimedia Telecommunications)規格やLTE(Long Term Evolution)規格に準拠した通信である。   A power supply unit (battery) 305 supplies power to the mobile phone. Reference numeral 306 denotes an operation unit for the user to operate the mobile phone 102. The operation unit 306 includes operation buttons and the like for inputting to the mobile phone 102. Reference numeral 307 denotes a display unit that performs various displays, and has a function capable of outputting sound such as a speaker in addition to outputting visually recognizable information such as an LCD or LED. A call unit 308 is used by the user to make a call using the mobile phone 102. A packet transmission / reception unit 309 transmits / receives a packet related to various types of communication. Reference numeral 310 denotes a public radio control unit that performs various controls of public radio communication via the public radio antenna 311. Public wireless communication is, for example, communication that conforms to the International Multimedia Communications (IMT) standard or the Long Term Evolution (LTE) standard.

312はGNSS制御部であり、GNSSアンテナ313を介してGNSS信号受信の各種制御を行う。314はGNSSや無線LAN、公衆無線を用いて携帯電話102の位置情報を取得する位置情報取得部である。315は地形データ生成部であり、インターネット105上の外部装置から地図やフロア情報を取得し、地形データの生成を行う。   Reference numeral 312 denotes a GNSS control unit that performs various controls of GNSS signal reception via the GNSS antenna 313. Reference numeral 314 denotes a position information acquisition unit that acquires position information of the mobile phone 102 using GNSS, wireless LAN, or public wireless. Reference numeral 315 denotes a terrain data generation unit that acquires maps and floor information from an external device on the Internet 105 and generates terrain data.

なお、上述した機能ブロックはソフトウェアもしくはハードウェア的に相互関係を有するものである。また、上記機能ブロックは一例であり、複数の機能ブロックが1つの機能ブロックを構成するようにしてもよいし、何れかの機能ブロックが更に複数の機能を行うブロックに分かれてもよい。   Note that the functional blocks described above have a mutual relationship in terms of software or hardware. Further, the functional block is an example, and a plurality of functional blocks may constitute one functional block, or any functional block may be further divided into blocks that perform a plurality of functions.

図4に、デジタルビデオカメラ101の制御部203が記憶部204に記憶されたプログラムを読み出すことで実現されるフローチャートを示す。   FIG. 4 shows a flowchart realized when the control unit 203 of the digital video camera 101 reads a program stored in the storage unit 204.

まず、デジタルビデオカメラ101の電源がONになると、GNSS制御部201および無線LAN制御部210は動作を開始する(S401)。そして、操作部206は、ユーザにより撮像ボタンが押されたか否かを判定する(S402)。撮像ボタンが押された場合はS407に進み、そうでない場合はS403に進む。なお、予め設定された撮像開始時刻になった場合や、撮像対象物体が撮像領域内に存在する場合にS407に進み、そうでない場合にS403に進むようにしてもよい。   First, when the digital video camera 101 is turned on, the GNSS control unit 201 and the wireless LAN control unit 210 start operating (S401). Then, the operation unit 206 determines whether or not the imaging button is pressed by the user (S402). If the imaging button is pressed, the process proceeds to S407, and if not, the process proceeds to S403. Note that the processing may advance to S407 when the imaging start time set in advance is reached, or when the imaging target object exists in the imaging area, and may advance to S403 if not.

S403において、位置情報取得部212は、前回のデジタルビデオカメラ101の位置情報(現在地)の取得時刻から所定の時間が経過しているか否かを判定する。所定の時間が経過している場合にはS404に進み、経過していない場合にはS402に戻る。なお、過去に一度も位置情報を取得していない場合にはS404に進む。S404において、位置情報取得部212は位置情報取得処理を行う。次に、図5を用いて位置情報取得処理について説明する。   In step S <b> 403, the position information acquisition unit 212 determines whether a predetermined time has elapsed from the previous acquisition time of the position information (current location) of the digital video camera 101. If the predetermined time has elapsed, the process proceeds to S404, and if not, the process returns to S402. If no position information has been acquired in the past, the process proceeds to S404. In S404, the position information acquisition unit 212 performs position information acquisition processing. Next, position information acquisition processing will be described with reference to FIG.

まず、GNSS制御部201は、GNSS衛星103からのGNSS信号を利用してデジタルビデオカメラ101の位置情報を取得できるか否かを判定する(S501)。ここでは、複数のGNSS衛星103からGNSS信号を受信し、3次元測位計算を行うことで、デジタルビデオカメラ101の位置情報を取得できるか否かを判定する。GNSS信号を利用して位置情報を取得できる場合には、位置情報取得部212は、GNSS衛星103からのGNSS信号に基づいて、デジタルビデオカメラ101の位置情報(現在地)を取得する(S502)。   First, the GNSS control unit 201 determines whether or not the position information of the digital video camera 101 can be acquired using the GNSS signal from the GNSS satellite 103 (S501). Here, it is determined whether or not the position information of the digital video camera 101 can be acquired by receiving GNSS signals from a plurality of GNSS satellites 103 and performing three-dimensional positioning calculation. When the position information can be acquired using the GNSS signal, the position information acquisition unit 212 acquires the position information (current position) of the digital video camera 101 based on the GNSS signal from the GNSS satellite 103 (S502).

一方、GNSS信号を利用して位置情報を取得できない場合には、無線LAN制御部210は周囲を探索し、周囲に無線LANの基地局(アクセスポイント、以下AP)が存在するか否かを判定する(S503)。周囲にAPが存在しない場合には、図5に示す処理を終了する。一方、周囲にAPが存在する場合には、位置情報取得部212は、検出したAPに基づいてデジタルビデオカメラ101の位置情報(現在地)を取得する(S504)。具体的には、デジタルビデオカメラ101がインターネット105上の外部装置に対して、検出したAPのMACアドレスを送信する。外部装置では、MACアドレスとAPの位置情報を対応付けたデータベースを参照し、送信されたMACアドレスに対応する位置情報をデジタルビデオカメラ101に送信する。デジタルビデオカメラ101では、外部装置が送信した位置情報をデジタルビデオカメラ101の位置情報として取得する。   On the other hand, when the location information cannot be acquired using the GNSS signal, the wireless LAN control unit 210 searches the surroundings and determines whether or not there is a wireless LAN base station (access point, hereinafter referred to as AP). (S503). If there is no AP around, the process shown in FIG. 5 is terminated. On the other hand, if there are APs around, the position information acquisition unit 212 acquires position information (current location) of the digital video camera 101 based on the detected AP (S504). Specifically, the digital video camera 101 transmits the detected MAC address of the AP to an external device on the Internet 105. The external device refers to a database in which the MAC address and AP position information are associated with each other, and transmits position information corresponding to the transmitted MAC address to the digital video camera 101. The digital video camera 101 acquires the position information transmitted from the external device as the position information of the digital video camera 101.

なお、デジタルビデオカメラ101の位置情報を取得する方法は、これに限らない。例えば、次のようにして位置情報を取得することができる。デジタルビデオカメラ101は携帯電話102に対して位置情報を要求する。要求を受けた携帯電話102は、携帯電話102の周囲に存在する1または複数の携帯電話基地局104の情報に基づいて、携帯電話102の位置情報を取得する。例えば、携帯電話102が、インターネット105上の外部装置に、周囲に存在する携帯電話基地局104の機器識別子を送信し、当該機器識別子に対応付けられた位置情報を取得するようにすればよい。   Note that the method for acquiring the position information of the digital video camera 101 is not limited to this. For example, position information can be acquired as follows. The digital video camera 101 requests location information from the mobile phone 102. The mobile phone 102 that has received the request acquires the location information of the mobile phone 102 based on the information of one or more mobile phone base stations 104 existing around the mobile phone 102. For example, the mobile phone 102 may transmit the device identifier of the mobile phone base station 104 existing in the vicinity to an external device on the Internet 105, and acquire the location information associated with the device identifier.

携帯電話102は、このようにして取得した位置情報をデジタルビデオカメラ101に送信し、デジタルビデオカメラ101では、携帯電話102が送信した位置情報をデジタルビデオカメラ101の位置情報として取得する。また、携帯電話102がGNSS信号を利用して位置情報を取得するようにしてもよい。   The mobile phone 102 transmits the position information acquired in this way to the digital video camera 101, and the digital video camera 101 acquires the position information transmitted by the mobile phone 102 as the position information of the digital video camera 101. Further, the mobile phone 102 may acquire position information using a GNSS signal.

このようにして、デジタルビデオカメラ101の位置情報(現在地)を取得すると、S405において、地形データ取得部213は、デジタルビデオカメラ101の現在地とその周辺の地形データを保持しているか否かを判定する。地形データを保持している場合はS402に戻り、地形データを保持していない場合はS406に進む。S406において、地形データ取得部213は地形データ取得処理を行う。次に、図6を用いて地形データ取得処理について説明する。   When the position information (current location) of the digital video camera 101 is acquired in this way, in S405, the terrain data acquisition unit 213 determines whether or not the current location of the digital video camera 101 and terrain data around it are held. To do. If the terrain data is retained, the process returns to S402, and if the terrain data is not retained, the process proceeds to S406. In S406, the terrain data acquisition unit 213 performs terrain data acquisition processing. Next, the terrain data acquisition process will be described with reference to FIG.

まず、無線LAN制御部210は、予め記憶部204に記憶されている携帯電話102と通信するための通信パラメータを用いて携帯電話102と接続する(M601)。なお、携帯電話102と通信するための通信パラメータは、例えば、操作部206を介したユーザの入力や、WPS(Wi−Fi Protected Setup)等を実行することにより取得して、記憶部204に記憶させておくことができる。   First, the wireless LAN control unit 210 connects to the mobile phone 102 using communication parameters for communicating with the mobile phone 102 stored in advance in the storage unit 204 (M601). Note that the communication parameters for communicating with the mobile phone 102 are acquired by executing, for example, user input via the operation unit 206 or WPS (Wi-Fi Protected Setup), and stored in the storage unit 204. I can leave it to you.

デジタルビデオカメラ101と携帯電話102との接続が完了すると、デジタルビデオカメラ101の現在地とその周辺を含む地形データを取得するため、地形データ取得部213は、携帯電話102に地形データを要求する(M602)。ここでは、当該要求に、デジタルビデオカメラ101の位置情報、要求する地形データの縮尺率、および、建物情報の要不要が含まれる。   When the connection between the digital video camera 101 and the mobile phone 102 is completed, the terrain data acquisition unit 213 requests the terrain data from the mobile phone 102 in order to acquire terrain data including the current location of the digital video camera 101 and its surroundings ( M602). Here, the request includes the position information of the digital video camera 101, the scale ratio of the requested terrain data, and the necessity of building information.

ここで、例えば、ビデオカメラ101の撮像部208が空を含んだ画角を捉えている場合には、要求する地形データの縮尺率を小さくすることで、広範囲の地形データを取得できる。また、ビデオカメラ101の撮像部208が空を含まない画角を捉えている場合には、要求する地形データの縮尺率を大きくし、更に、建物情報を要とすることで、詳細な地形データを取得できる。   Here, for example, when the imaging unit 208 of the video camera 101 captures an angle of view including the sky, a wide range of terrain data can be acquired by reducing the scale ratio of the requested terrain data. In addition, when the imaging unit 208 of the video camera 101 captures an angle of view that does not include the sky, detailed terrain data can be obtained by increasing the scale ratio of the requested terrain data and requiring building information. Can be obtained.

携帯電話102は、地形データを要求されると、地形データ生成処理(M603)を行う。以降、地形データ生成処理について、図7を用いて説明する。なお、図7は、携帯電話102の制御部303が記憶部304に記憶されたプログラムを読み出すことで実現されるフローチャートである。   When the cellular phone 102 is requested for terrain data, it performs a terrain data generation process (M603). Hereinafter, the terrain data generation process will be described with reference to FIG. FIG. 7 is a flowchart realized when the control unit 303 of the mobile phone 102 reads the program stored in the storage unit 304.

S701において、地形データ生成部315は、地形データ要求にデジタルビデオカメラ101の位置情報が含まれているか否かの判定を行う。位置情報が含まれている場合はS706に進み、含まれていない場合はS702に進む。S702において、地形データ生成部315は、携帯電話102が自身の位置情報を保持しているか否かを判定する。携帯電話102の位置情報を保持している場合はS703に進み、保持していない場合はS705に進む。S703において、地形データ生成部315は、携帯電話102の位置情報の精度が高いか否かの判定を行う。ここでは、携帯電話102の位置情報の取得にGNSS信号を用いており、当該位置情報を取得するために用いたGNSS信号を送信したGNSS衛星103の数が所定の数よりも多い場合に、精度が高いと判定する。精度が高いと判定された場合はS704に進み、精度が低いと判定された場合はS705に進む。   In step S <b> 701, the terrain data generation unit 315 determines whether the location information of the digital video camera 101 is included in the terrain data request. If position information is included, the process proceeds to S706, and if not included, the process proceeds to S702. In step S <b> 702, the terrain data generation unit 315 determines whether the mobile phone 102 holds its own position information. If the position information of the mobile phone 102 is held, the process proceeds to S703, and if not, the process proceeds to S705. In step S <b> 703, the terrain data generation unit 315 determines whether the position information of the mobile phone 102 is highly accurate. Here, when the GNSS signal is used to acquire the position information of the mobile phone 102, and the number of GNSS satellites 103 that transmitted the GNSS signal used to acquire the position information is greater than a predetermined number, the accuracy is high. Is determined to be high. If it is determined that the accuracy is high, the process proceeds to S704, and if it is determined that the accuracy is low, the process proceeds to S705.

S704において、位置情報取得部314は、前回の携帯電話102の位置情報の取得時刻から所定の時間が経過しているか否かを判定する。所定の時間が経過している場合にはS705に進み、経過していない場合はS706に進む。S705において位置情報取得部314は、位置情報取得処理を行う。位置情報取得処理については、図5に示した処理と同様の処理を位置情報取得部314が行う。携帯電話102では、このようにして取得した位置情報(現在地)をデジタルビデオカメラ101の現在地として認識する。   In step S <b> 704, the position information acquisition unit 314 determines whether a predetermined time has elapsed since the previous acquisition time of the position information of the mobile phone 102. If the predetermined time has elapsed, the process proceeds to S705, and if not, the process proceeds to S706. In step S <b> 705, the position information acquisition unit 314 performs position information acquisition processing. As for the position information acquisition process, the position information acquisition unit 314 performs the same process as the process shown in FIG. The cellular phone 102 recognizes the position information (current location) acquired in this way as the current location of the digital video camera 101.

携帯電話102の位置情報の取得が完了するとS706に進む。S706において、地形データ生成部315は、デジタルビデオカメラ101の現在地とその周辺を含む地形データを携帯電話102が保持しているか否かの判定を行う。保持している場合はS708に進み、保持していない場合はS707に進む。S707において、地形データ生成部315は、地形データの入手を行う。例えば、公衆無線を用いてインターネット105上に存在する外部装置へ接続し、地図情報や建物情報を取得する。地形データの入手が完了すると、S708において地形データ生成部315は、地形データの生成を行う。ここでは地形データ要求に含まれる縮尺率に合わせた地図情報の拡大/縮小や、不要な建物情報の削除を実施する。   When the acquisition of the position information of the mobile phone 102 is completed, the process proceeds to S706. In step S <b> 706, the terrain data generation unit 315 determines whether or not the mobile phone 102 holds terrain data including the current location of the digital video camera 101 and its surroundings. If it is held, the process proceeds to S708, and if it is not held, the process proceeds to S707. In S707, the terrain data generation unit 315 obtains terrain data. For example, it connects to an external device existing on the Internet 105 using public radio, and acquires map information and building information. When the acquisition of the terrain data is completed, the terrain data generation unit 315 generates the terrain data in S708. Here, the map information is enlarged / reduced according to the scale ratio included in the terrain data request, and unnecessary building information is deleted.

なお、デジタルビデオカメラ101も携帯電話102も現在地を取得できなかった場合には、以前にデジタルビデオカメラ101または携帯電話102が取得した位置情報に基づいて、地形データを入手する。ここで、このように現在地を取得できなかった場合には、現在地を取得できた場合と比べて入手する地形データのエリアを大きくする。これにより、その後に新たに現在地が取得できた場合に、新たに取得した現在地の地形データを既に有している蓋然性を高くすることができる。   If neither the digital video camera 101 nor the mobile phone 102 can acquire the current location, the terrain data is acquired based on the position information previously acquired by the digital video camera 101 or the mobile phone 102. Here, when the current location cannot be acquired in this way, the area of the terrain data to be acquired is increased compared to the case where the current location can be acquired. Thereby, when the present location can be newly acquired after that, it is possible to increase the probability of having the newly acquired topographic data of the current location.

このようにして地形データ生成処理が完了すると、携帯電話102はデジタルビデオカメラ101に地形データを送信する(M604)。なお、地形データの要求にデジタルビデオカメラ101の位置情報が含まれていなかった場合には、地形データと共に、携帯電話102が取得した位置情報を付加して送信する。このようにすることで、デジタルビデオカメラ101は位置情報を得ることができる。その後、デジタルビデオカメラ101と携帯電話102とは切断処理を行う(M605)。なお、デジタルビデオカメラ101において撮像が開始されたことに応じて切断処理を行うようにしてもよい。   When the terrain data generation process is completed in this way, the mobile phone 102 transmits the terrain data to the digital video camera 101 (M604). If the location information of the digital video camera 101 is not included in the request for the terrain data, the location information acquired by the mobile phone 102 is added to the terrain data and transmitted. In this way, the digital video camera 101 can obtain position information. Thereafter, the digital video camera 101 and the mobile phone 102 perform a disconnection process (M605). Note that the cutting process may be performed in response to the start of imaging in the digital video camera 101.

次に、S402において、撮像ボタンが押されたと判定された場合について説明する。S407において、GNSS制御部201および無線LAN制御部210は無線通信を停止する。次に、S408において、センサー制御部214は加速度センサー215、電子コンパス216、気圧センサー217を起動する。なお、デジタルビデオカメラ101のバッテリー残量に応じて、これら全てのモーションセンサーを起動しないようにしてもよい。例えば、バッテリー残量が少ない場合には、気圧センサー217を起動しないようにする。また、ビデオカメラ101の撮像部208が空を含まない画角を捉えている場合には加速度センサー215および電子コンパス216を起動しないようにする。このようにすることで、消費電力を更に抑えることができる。   Next, a case where it is determined in S402 that the imaging button has been pressed will be described. In S407, the GNSS control unit 201 and the wireless LAN control unit 210 stop the wireless communication. In step S <b> 408, the sensor control unit 214 activates the acceleration sensor 215, the electronic compass 216, and the atmospheric pressure sensor 217. Note that all these motion sensors may not be activated in accordance with the remaining battery level of the digital video camera 101. For example, the atmospheric pressure sensor 217 is not activated when the remaining battery level is low. Further, when the imaging unit 208 of the video camera 101 captures an angle of view that does not include the sky, the acceleration sensor 215 and the electronic compass 216 are not activated. In this way, power consumption can be further suppressed.

モーションセンサーの起動が完了するとS409に進み、撮像部208は撮像処理を開始する。そして、位置算出部218はデジタルビデオカメラ101の位置を算出する(S410)。ここでは、まず、加速度センサー215と電子コンパス216の情報から、S404において位置情報を得た時刻からのデジタルビデオカメラ101の進行方向と移動量を算出し、また、気圧センサー217の変化からデジタルビデオカメラ101の高度の変化を算出する。そして、S404において得ているデジタルビデオカメラ101の位置情報と、算出された進行方向と移動量、および、高度の変化に基づいて、デジタルビデオカメラ101の現在地を算出する。更に、位置算出部218は地形データを参照して、デジタルビデオカメラ101の位置情報を補正する。例えば、建物の3階にいるにも関わらず、モーションセンサーによる位置算出の結果、建物の外を示した場合には建物内に位置情報を補正する。また、モーションセンサーによる位置算出の結果、これまで道路上を進んできたにも関わらず、突然、道路から外れた場合に道路上に補正する。このようにして得られたデジタルビデオカメラ101の位置情報を撮像部208は、撮像画像に関連付けて記憶部204に記憶する(S411)。   When the activation of the motion sensor is completed, the process proceeds to S409, and the imaging unit 208 starts imaging processing. Then, the position calculation unit 218 calculates the position of the digital video camera 101 (S410). Here, first, from the information of the acceleration sensor 215 and the electronic compass 216, the traveling direction and the movement amount of the digital video camera 101 from the time when the position information is obtained in S404 are calculated, and the digital video is calculated from the change of the atmospheric pressure sensor 217. A change in altitude of the camera 101 is calculated. Then, the current location of the digital video camera 101 is calculated based on the positional information of the digital video camera 101 obtained in S404, the calculated traveling direction and movement amount, and the change in altitude. Further, the position calculation unit 218 corrects the position information of the digital video camera 101 with reference to the terrain data. For example, in the case where the outside of the building is indicated as a result of the position calculation by the motion sensor despite being on the third floor of the building, the position information is corrected in the building. Further, as a result of the position calculation by the motion sensor, if the vehicle suddenly deviates from the road despite having traveled on the road so far, the correction is made on the road. The imaging unit 208 stores the position information of the digital video camera 101 obtained in this way in the storage unit 204 in association with the captured image (S411).

S412において、操作部206は、ユーザにより撮像ボタンが再度押されたか否かを判定する。撮像ボタンが押された場合はS414に進み、そうでない場合はS413に進む。なお、予め設定された撮像終了時刻になった場合や、撮像対象物体が撮像領域内に存在しなくなった場合にS414に進み、そうでない場合にS413に進むようにしてもよい。   In step S412, the operation unit 206 determines whether or not the imaging button has been pressed again by the user. If the imaging button is pressed, the process proceeds to S414, and if not, the process proceeds to S413. Note that the process may advance to S414 when the preset imaging end time is reached, or when the imaging target object no longer exists in the imaging area, and may proceed to S413 otherwise.

S413において、位置情報取得部212は、前回のデジタルビデオカメラ101の位置情報(現在地)の算出時刻から所定の時間が経過しているか否かを判定する。所定の時間が経過している場合にはS410に進み、経過していない場合にはS411に進む。   In step S <b> 413, the position information acquisition unit 212 determines whether a predetermined time has elapsed since the previous calculation time of the position information (current location) of the digital video camera 101. If the predetermined time has elapsed, the process proceeds to S410, and if not, the process proceeds to S411.

また、S414において、センサー制御部214は加速度センサー215、電子コンパス216、気圧センサー217を停止し、S401に戻る。   In S414, the sensor control unit 214 stops the acceleration sensor 215, the electronic compass 216, and the atmospheric pressure sensor 217, and returns to S401.

上述のようにして、デジタルビデオカメラ101は、撮像動作に応じて無線通信による位置の取得からモーションセンサーによる位置の取得に切替える。従って、撮像処理中に無線通信機能を停止することで消費電力を低減することができると共に、モーションセンサーを用いて自身の位置を算出するため撮像中の位置を取得することができる。   As described above, the digital video camera 101 switches from acquisition of a position by wireless communication to acquisition of a position by a motion sensor according to an imaging operation. Therefore, power consumption can be reduced by stopping the wireless communication function during the imaging process, and the position during imaging can be acquired because the position of the subject is calculated using the motion sensor.

なお、無線通信による位置情報取得処理に一定回数以上失敗した場合(S501とS503の双方でNoの場合)に、モーションセンサーによる位置情報取得処理に切り替えるようにしてもよい。これにより、無線通信による位置情報取得が困難な場合であっても、位置情報を取得することができる。   In addition, when the position information acquisition process by wireless communication has failed a certain number of times or more (in the case of No in both S501 and S503), the position information acquisition process by the motion sensor may be switched. Thereby, even if it is difficult to acquire position information by wireless communication, position information can be acquired.

また、本実施形態においてデジタルビデオカメラ101の電源オンに応じて、無線通信による位置情報の取得を開始した。無線通信による位置情報の取得には時間がかかる場合があるが、上述のようにすることで、撮像開始時点での位置を得ることができる。また、これに限らず、撮像のスタンバイ状態になったことに応じて、無線通信による位置情報の取得を開始するようにしてもよい。これにより、更に低消費電力とすることができる。   In this embodiment, acquisition of position information by wireless communication is started in response to power-on of the digital video camera 101. Although acquisition of position information by wireless communication may take time, the position at the start of imaging can be obtained in the manner described above. Further, the present invention is not limited to this, and acquisition of position information by wireless communication may be started in response to the imaging standby state. As a result, the power consumption can be further reduced.

また、本実施形態においてデジタルビデオカメラ101は撮像処理中に無線通信機能を停止するようにしたが、静止画を撮像する場合には無線通信を停止せず、無線通信による位置情報取得を継続するようにしてもよい。これにより、位置情報の取得方法を無線通信による取得からモーションセンサーによる取得に切替えるオーバーヘッドを無くすことができる。なお、この場合であっても、動画を撮像する場合には無線通信による位置情報取得を停止することで、消費電力を低減することができる。   In this embodiment, the digital video camera 101 stops the wireless communication function during the imaging process. However, when capturing a still image, the wireless video communication 101 is not stopped and the position information acquisition by the wireless communication is continued. You may do it. Thereby, the overhead which switches the acquisition method of position information from acquisition by wireless communication to acquisition by a motion sensor can be eliminated. Even in this case, when capturing a moving image, power consumption can be reduced by stopping acquisition of position information by wireless communication.

また、本実施形態においてデジタルビデオカメラ101は撮像の開始に応答して無線通信による位置情報の取得を停止した。しかしこれに限らず、デジタルビデオカメラ101は撮像の開始に応答して、無線通信による位置情報の取得処理(S403)を再度行い、その後に無線通信による位置情報の取得を停止してモーションセンサーを起動するようにしてもよい。これにより、撮像開始時のデジタルビデオカメラ101の位置を正確に取得できるので、撮影時の位置情報の精度を上げることができる。また、その後に無線通信による位置情報の取得を停止してモーションセンサーを起動するので、撮像中の消費電力を低減させることができる。   In the present embodiment, the digital video camera 101 stops acquiring position information through wireless communication in response to the start of imaging. However, the present invention is not limited to this, and in response to the start of imaging, the digital video camera 101 performs the position information acquisition process (S403) by wireless communication again, and then stops the acquisition of position information by wireless communication and activates the motion sensor. You may make it start. As a result, the position of the digital video camera 101 at the start of imaging can be accurately acquired, so that the accuracy of position information at the time of shooting can be increased. Moreover, since the acquisition of position information by wireless communication is stopped thereafter and the motion sensor is activated, power consumption during imaging can be reduced.

101 デジタルビデオカメラ
102 携帯電話
103 GNSS衛星
104 携帯電話基地局
105 インターネット
106 無線LAN
101 Digital Video Camera 102 Mobile Phone 103 GNSS Satellite 104 Mobile Phone Base Station 105 Internet 106 Wireless LAN

Claims (11)

撮像手段を有する撮像装置であって、
第1の外部装置から送信される無線信号に基づいて、前記撮像装置の位置を取得する取得手段と、
前記撮像装置の移動を、前記撮像装置が有するセンサーにより計測する計測手段と、
前記計測手段による計測結果に基づいて、前記撮像装置の位置を算出する算出手段と、
前記撮像手段による撮像動作に応じて、前記取得手段による前記撮像装置の位置の取得から、前記算出手段による前記撮像装置の位置の算出に切替える切替手段と、
を有することを特徴とする撮像装置。
An imaging device having imaging means,
Acquiring means for acquiring the position of the imaging device based on a radio signal transmitted from the first external device;
Measuring means for measuring movement of the imaging device by a sensor included in the imaging device;
Calculation means for calculating a position of the imaging device based on a measurement result by the measurement means;
Switching means for switching from acquisition of the position of the imaging device by the acquisition means to calculation of the position of the imaging device by the calculation means in response to an imaging operation by the imaging means;
An imaging device comprising:
前記撮像手段による撮像の開始に応じて、前記計測手段による計測を開始することを特徴とする請求項1に記載の撮像装置。   The imaging apparatus according to claim 1, wherein measurement by the measurement unit is started in response to start of imaging by the imaging unit. 前記算出手段は、前記取得手段による取得を停止する前に取得した前記撮像装置の位置と、前記取得手段による取得を停止した後の前記計測手段による計測結果と、に基づいて前記撮像装置の位置を算出することを特徴とする請求項1または2に記載の撮像装置。   The calculating means is based on the position of the imaging device acquired before the acquisition by the acquiring means is stopped and the measurement result by the measuring means after the acquisition by the acquiring means is stopped. The imaging device according to claim 1, wherein the imaging device is calculated. 前記切替手段は、前記撮像手段による撮像の開始に応答して前記取得手段により前記撮像装置の位置を取得した後に、前記取得手段による前記撮像装置の位置の取得から、前記算出手段による前記撮像装置の位置の算出に切替えることを特徴とする請求項1乃至3のいずか1項に記載の撮像装置。   The switching unit acquires the position of the imaging device by the acquisition unit in response to the start of imaging by the imaging unit, and then acquires the position of the imaging device by the acquisition unit and then the imaging device by the calculation unit. The imaging apparatus according to claim 1, wherein the imaging device is switched to calculation of the position of the imaging device. 前記取得手段により取得した前記撮像装置の位置、または、前記算出手段により算出した前記撮像装置の位置の情報を、前記撮像手段により撮像された画像に関連付ける関連付け手段を更に有することを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。   The information processing apparatus further includes an association unit that associates the position of the imaging device acquired by the acquisition unit or the information of the position of the imaging device calculated by the calculation unit with an image captured by the imaging unit. Item 5. The imaging device according to any one of Items 1 to 4. 前記撮像手段により動画を撮像する場合には、前記取得手段による前記撮像装置の位置の取得を停止し、
前記撮像手段により静止画を撮像する場合には、前記取得手段による前記撮像装置の位置の取得を継続することを特徴とする請求項1乃至5のいずれか1項記載の撮像装置。
When capturing a moving image by the imaging unit, stop acquiring the position of the imaging device by the acquisition unit,
The imaging apparatus according to claim 1, wherein when the still image is captured by the imaging unit, the acquisition unit continues to acquire the position of the imaging apparatus.
前記計測手段は、加速度センサーまたは気圧センサーにより前記撮像装置の移動を計測することを特徴とする請求項1乃至6のいずれか1項に記載の撮像装置。   The imaging apparatus according to claim 1, wherein the measuring unit measures movement of the imaging apparatus using an acceleration sensor or an atmospheric pressure sensor. 第2の外部装置から、地形情報を受信する受信手段を更に有し、
前記算出手段は、前記計測手段による計測結果と前記受信手段により受信した前記地形情報とに基づいて、前記撮像装置の位置を算出することを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。
A receiving means for receiving terrain information from the second external device;
The said calculating means calculates the position of the said imaging device based on the measurement result by the said measuring means, and the said topographic information received by the said receiving means, The any one of Claim 1 thru | or 7 characterized by the above-mentioned. The imaging device described.
前記第2の外部装置に対して、前記撮像装置の位置情報を通知すると共に、地形情報を要求する要求手段を更に有し、
前記受信手段は、前記撮像装置の位置に応じた地形情報を前記第2の外部装置から受信することを特徴とする請求項8に記載の撮像装置。
In addition to notifying the second external device of the position information of the imaging device, further comprising request means for requesting terrain information,
The imaging apparatus according to claim 8, wherein the receiving unit receives terrain information corresponding to a position of the imaging apparatus from the second external device.
撮像装置の制御方法であって、
外部装置から送信される無線信号に基づいて、前記撮像装置の位置を取得する取得工程と、
前記撮像装置の移動を、前記撮像装置が有するセンサーにより計測する計測工程と、
当該計測の結果に基づいて、前記撮像装置の位置を算出する算出工程と、
前記撮像装置による撮像動作に応じて、前記取得工程における前記撮像装置の位置の取得から、前記算出工程における前記撮像装置の位置の算出に切替える切替工程と、
を有することを特徴とする制御方法。
A method for controlling an imaging apparatus,
An acquisition step of acquiring the position of the imaging device based on a wireless signal transmitted from an external device;
A measurement step of measuring movement of the imaging device by a sensor included in the imaging device;
A calculation step of calculating a position of the imaging device based on a result of the measurement;
A switching step of switching from acquisition of the position of the imaging device in the acquisition step to calculation of the position of the imaging device in the calculation step according to an imaging operation by the imaging device;
A control method characterized by comprising:
コンピュータに請求項10に記載の各工程を実行させるためのプログラム。   The program for making a computer perform each process of Claim 10.
JP2011156691A 2011-07-15 2011-07-15 IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND PROGRAM Expired - Fee Related JP5864927B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011156691A JP5864927B2 (en) 2011-07-15 2011-07-15 IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND PROGRAM

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011156691A JP5864927B2 (en) 2011-07-15 2011-07-15 IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND PROGRAM

Publications (2)

Publication Number Publication Date
JP2013026671A JP2013026671A (en) 2013-02-04
JP5864927B2 true JP5864927B2 (en) 2016-02-17

Family

ID=47784592

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011156691A Expired - Fee Related JP5864927B2 (en) 2011-07-15 2011-07-15 IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND PROGRAM

Country Status (1)

Country Link
JP (1) JP5864927B2 (en)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11202041A (en) * 1998-01-19 1999-07-30 Nikon Corp GPS device that receives intermittently, a photographing device equipped with this device that records the photographing position
JP2006279266A (en) * 2005-03-28 2006-10-12 Noritsu Koki Co Ltd Electronic album creation device, electronic album creation system, and electronic album creation program
JP4889349B2 (en) * 2006-04-05 2012-03-07 オリンパス株式会社 Electronic still camera and image processing apparatus
JP4369526B1 (en) * 2009-03-13 2009-11-25 キーパー=スミス エル・エル・ピー Image photographing system, image photographing device and method thereof

Also Published As

Publication number Publication date
JP2013026671A (en) 2013-02-04

Similar Documents

Publication Publication Date Title
US8787184B2 (en) Collaborative sharing of location information among devices in a network
US9476716B2 (en) Methods and apparatuses for location-triggered sensor initialization
EP3141056B1 (en) Methods and systems for enhanced round trip time (rtt) exchange
US7890121B2 (en) Position measurement system and portable terminal
EP3266130A1 (en) Methods and systems for synchronizing devices
US20230400326A1 (en) Satellite Search Method and Apparatus
CN105704669A (en) Wearable-equipment-based user positioning method and system
EP3617748B1 (en) Positioning method, device and system
EP3375230B1 (en) Methods, wireless station and storage medium for a ranging protocol including fine timing measurements
US20140286324A1 (en) Method and/or system for passive location estimation
CN105068103A (en) Auxiliary positioning method and electronic equipment
US20180310263A1 (en) Methods and systems for representing errors
CN113064185A (en) A positioning method, terminal and server
CN105204046A (en) Positioning system, positioning apparatus, storage apparatus, and positioning method
EP4614894A1 (en) Positioning mode determination methods and apparatuses
JP2007051869A (en) Radio equipment
CN107835948B (en) Positioning method and device
US11864117B2 (en) Program and electronic device
US9451413B1 (en) Apparatus and method for providing assistance data heatmaps
WO2017019343A1 (en) Delayed adaptive tile download
WO2022056847A1 (en) Terminal positioning method and apparatus, communication device, and storage medium
JP5864927B2 (en) IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND PROGRAM
JP2009264928A (en) GPS receiver
JP6815439B2 (en) A system including a terminal device and a server device for displaying a virtual object, and the server device.
JP7201054B2 (en) Information processing device, information processing method and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140521

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150119

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150303

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150507

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151201

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151225

R151 Written notification of patent or utility model registration

Ref document number: 5864927

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees