KR101213951B1 - Position determination apparatus and method using vision system - Google Patents
Position determination apparatus and method using vision system Download PDFInfo
- Publication number
- KR101213951B1 KR101213951B1 KR1020110094473A KR20110094473A KR101213951B1 KR 101213951 B1 KR101213951 B1 KR 101213951B1 KR 1020110094473 A KR1020110094473 A KR 1020110094473A KR 20110094473 A KR20110094473 A KR 20110094473A KR 101213951 B1 KR101213951 B1 KR 101213951B1
- Authority
- KR
- South Korea
- Prior art keywords
- coordinate information
- vision system
- satellite navigation
- target building
- map matching
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S19/00—Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
- G01S19/01—Satellite radio beacon positioning systems transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
- G01S19/03—Cooperating elements; Interaction or communication between different cooperating elements or between cooperating elements and receivers
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S19/00—Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
- G01S19/01—Satellite radio beacon positioning systems transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
- G01S19/13—Receivers
- G01S19/24—Acquisition or tracking or demodulation of signals transmitted by the system
- G01S19/26—Acquisition or tracking or demodulation of signals transmitted by the system involving a sensor measurement for aiding acquisition or tracking
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S19/00—Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
- G01S19/38—Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system
- G01S19/39—Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system the satellite radio beacon positioning system transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
- G01S19/42—Determining position
- G01S19/421—Determining position by combining or switching between position solutions or signals derived from different satellite radio beacon positioning systems; by combining or switching between position solutions or signals derived from different modes of operation in a single system
- G01S19/426—Determining position by combining or switching between position solutions or signals derived from different satellite radio beacon positioning systems; by combining or switching between position solutions or signals derived from different modes of operation in a single system by combining or switching between position solutions or signals derived from different modes of operation in a single system
Landscapes
- Engineering & Computer Science (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Navigation (AREA)
- Position Fixing By Use Of Radio Waves (AREA)
Abstract
Description
본 발명의 실시예들은 비전시스템과 맵매칭시스템을 이용하여 실외음영지역을 해소하는 비전시스템을 이용한 위치측위장치 및 방법에 관한 것이다.Embodiments of the present invention relate to a positioning apparatus and method using a vision system to solve the outdoor shade area using a vision system and a map matching system.
급속한 산업화의 발전으로 도심지가 확대되어 위성항법시스템을 사용할 수 있는 환경이 점점 열악해 지고 있다. 도 1은 도심에서 위성항법시스템으로부터 위치정보데이터를 수신하는 열악한 상황을 나타내고 있다.Due to the rapid industrialization, urban areas are expanding and the environment for using the satellite navigation system is getting worse. 1 illustrates a poor situation of receiving location information data from a satellite navigation system in a city center.
도 1과 같이 위성항법시스템은 3차원 위치측위를 하므로 항상 4개 이상의 위성항법시스템으로부터 위치정보데이터를 수신해야 삼각측량법에 의해 위치를 계산할 수 있다. 물론 많은 위성항법시스템으로부터 위치정보데이터를 수신할 경우 보다 정확하게 위치를 계산할 수 있다. 하지만 도심이나 산악 지역에서는 위성항법시스템으로부터 송신되는 위치정보데이터가 높은 건물이나 산에 의해 수신기에서 제대로 수신할 수 없는 상황이 빈번히 발생한다. 이러한 경우 음영지역이 발생하게 된다. 따라서 위성항법시스템을 이용한 위치측위의 경우 높은 건물이나 산악 지역 등 장애물에 의해 위치정보데이터를 제대로 수신할 수 없게 된다. 지구 전역의 실외음영지역이 전체 지구의 47%나 된다. 지구전역의 47%에서는 위성항법시스템을 이용한 위치측위를 시행할 수 없다. 이러한 이유가 위성항법시스템을 이용한 위치측위가 갖고 있는 내재적인 문제점이 된다.Since the satellite navigation system performs three-dimensional positioning as shown in FIG. 1, it is necessary to always receive location information data from four or more satellite navigation systems in order to calculate a location by triangulation. Of course, when receiving position information data from many satellite navigation systems it is possible to calculate the position more accurately. However, in urban or mountainous areas, there are frequent situations where the receiver cannot be properly received by buildings or mountains with high location information data transmitted from the satellite navigation system. In this case, shadowed areas occur. Therefore, in the case of positioning using the satellite navigation system, the location information data cannot be properly received due to obstacles such as high buildings or mountainous areas. Outdoor shades around the globe account for 47% of the world's population. In 47% of the world, positioning using satellite navigation system is not possible. This is an inherent problem of positioning using satellite navigation system.
본 발명의 일실시예는 위성항법시스템이 가지고 있는 실외음영지역을 해소하고자 비전시스템과 맵매칭시스템을 융합하여 위치측위를 수행하는 비전시스템을 이용한 위치측위장치 및 방법을 제공한다.One embodiment of the present invention provides a positioning device and method using a vision system to perform the positioning by fusing the vision system and the map matching system to solve the outdoor shade area of the satellite navigation system.
상기의 일실시예를 이루기 위한, 비전시스템을 이용한 위치측위장치는, 복수의 건물에 대한 좌표정보를 저장하는 데이터베이스; 위성으로부터 수신된 위치정보데이터의 개수가 이동체의 위치 측위에 요구되는 수치를 만족하지 못하는 경우, 상기 복수의 건물 중에서, 스테레오카메라를 통해 인식된 대상건물의 좌표정보를 상기 데이터베이스로부터 추출하고, 상기 추출된 좌표정보를 이용하여 상기 대상건물과의 제1 의사거리를 계산하는 비전시스템; 및 상기 위치정보데이터에 의한 제2 의사거리를 계산하고, 상기 제1, 2 의사거리를 이용하여 상기 이동체에 대한 위치를 측위하는 위치계산부를 포함한다.Positioning apparatus using a vision system for achieving the above embodiment, the database for storing coordinate information for a plurality of buildings; If the number of location information data received from the satellite does not satisfy the value required for positioning the moving object, the coordinate information of the target building recognized by the stereo camera among the plurality of buildings is extracted from the database, and the extraction is performed. A vision system for calculating a first pseudo-distance with the target building using the coordinate information obtained; And a position calculator which calculates a second pseudorange based on the positional information data and positions the position with respect to the moving object using the first and second pseudoranges.
또한, 상기 일실시예를 달성하기 위한 기술적 방법으로서, 비전시스템을 이용한 위치측위방법은, 복수의 건물에 대한 좌표정보를 데이터베이스에 저장하는 단계; 위성으로부터 수신된 위치정보데이터의 개수가 이동체의 위치 측위에 요구되는 수치를 만족하지 못하는 경우, 상기 복수의 건물 중에서, 스테레오카메라를 통해 인식된 대상건물의 좌표정보를 상기 데이터베이스로부터 추출하는 단계; 상기 추출된 좌표정보를 이용하여 상기 대상건물과의 제1 의사거리를 계산하는 단계; 및 상기 위치정보데이터에 의한 제2 의사거리를 계산하고, 상기 제1, 2 의사거리를 이용하여 상기 이동체에 대한 위치를 측위하는 단계를 포함한다.In addition, as a technical method for achieving the embodiment, a positioning method using a vision system, the method comprising the steps of: storing coordinate information for a plurality of buildings in a database; Extracting, from the database, coordinate information of a target building recognized by a stereo camera among the plurality of buildings if the number of location information data received from the satellite does not satisfy a value required for positioning of the moving object; Calculating a first pseudo distance from the target building using the extracted coordinate information; And calculating a second pseudorange based on the positional information data and positioning a position with respect to the moving object using the first and second pseudoranges.
본 발명의 일실시예에 따르면, 위성항법시스템에서 장애물이나 외부의 영향으로 위치정확도가 떨어지거나 음영지역이 발생하여 연속적인 위치측위에 취약함을 해결하기 위해 비전시스템과 융합한 보다 발전된 실외 위치측위 시스템을 개발하여 위치측위가 연속적이면서 신뢰도를 향상시킬 수 있다.According to an embodiment of the present invention, a more advanced outdoor positioning incorporating a vision system in order to solve the weakness in continuous positioning due to obstacles or external influences in the satellite navigation system or the occurrence of shadowed areas. By developing a system, the positioning is continuous and the reliability can be improved.
도 1은 종래 도심에서 위성항법시스템이 GPS 신호를 수신하는 예를 도시한 도면이다.
도 2는 본 발명을 설명하기 위한 위성항법시스템의 삼각측정법을 도시한 도면이다.
도 3은 본 발명을 설명하기 위한 위성항법시스템의 삼각측정법에 따른 도달시간을 도시한 도면이다.
도 4는 본 발명을 설명하기 위한 위성항법시스템의 측정방정식을 결정하는 예를 도시한 도면이다.
도 5는 본 발명의 일실시예에 따른 비전시스템을 이용한 위치측위장치의 구성을 보인 블록도이다.
도 6은 본 발명의 일실시예에 따른 3개의 위성항법시스템과 비전시스템을 이용한 위치측위장치의 구성을 보인 예시도이다.
도 7은 본 발명의 일실시예에 따른 3개의 위성항법시스템과 맵매칭시스템을 이용한 위치측위장치의 구성을 보인 예시도이다.
도 8은 본 발명의 일실시예에 따른 2개의 위성항법시스템, 비전시스템 및 맵매칭시스템을 이용한 위치측위장치의 구성을 보인 예시도이다.
도 9는 본 발명의 일실시예에 따른 1개의 위성항법시스템, 2개의 비전시스템 및 1개의 맵매칭시스템을 이용한 위치측위장치의 구성을 보인 예시도이다.
도 10은 본 발명의 일실시예에 따른 3개의 비전시스템과 맵매칭시스템을 이용한 위치측위장치의 구성을 보인 예시도이다.1 is a diagram illustrating an example in which a satellite navigation system receives a GPS signal in a conventional city center.
2 is a view showing a triangulation method of the satellite navigation system for explaining the present invention.
3 is a view showing the arrival time according to the triangulation method of the satellite navigation system for explaining the present invention.
4 is a diagram illustrating an example of determining a measurement equation of a satellite navigation system for explaining the present invention.
Figure 5 is a block diagram showing the configuration of a positioning device using a vision system according to an embodiment of the present invention.
6 is an exemplary view showing the configuration of a positioning device using three satellite navigation system and a vision system according to an embodiment of the present invention.
7 is an exemplary view showing the configuration of a positioning device using three satellite navigation system and map matching system according to an embodiment of the present invention.
8 is an exemplary view illustrating a configuration of a positioning device using two satellite navigation systems, a vision system, and a map matching system according to an embodiment of the present invention.
9 is an exemplary view showing the configuration of a positioning device using one satellite navigation system, two vision systems, and one map matching system according to an embodiment of the present invention.
10 is an exemplary view illustrating a configuration of a positioning device using three vision systems and a map matching system according to an embodiment of the present invention.
이하에서, 본 발명에 따른 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 그러나, 본 발명이 실시예들에 의해 제한되거나 한정되는 것은 아니다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.Hereinafter, embodiments according to the present invention will be described in detail with reference to the accompanying drawings. However, the present invention is not limited to or limited by the embodiments. Like reference symbols in the drawings denote like elements.
도 2는 본 발명을 설명하기 위한 위성항법시스템의 삼각측정법을 도시한 도면이다.2 is a view showing a triangulation method of the satellite navigation system for explaining the present invention.
이동체는 GPS 수신기를 구비하고, GPS 수신기는 4개의 위성항법시스템으로부터 GPS 신호를 수신하여 위성과 이동체간의 4개의 거리를 측정한다.The moving object includes a GPS receiver, and the GPS receiver receives GPS signals from four satellite navigation systems and measures four distances between the satellite and the moving object.
GPS 수신기는 4개의 거리에 삼각측정법을 적용하여 이동체의 삼차원 위치를 계산한다. 이동체는 GPS 수신기에 의해 계산된 위치를 위치 기반 애플리케이션에 적용하여 활용한다.The GPS receiver calculates the three-dimensional position of the moving object by applying triangulation to four distances. The moving object applies the position calculated by the GPS receiver to the location-based application.
도 3은 본 발명을 설명하기 위한 위성항법시스템의 삼각측정법에 따른 도달시간을 도시한 도면이다.3 is a view showing the arrival time according to the triangulation method of the satellite navigation system for explaining the present invention.
위성항법시스템은 GPS 신호의 도달 시간에 따라 위성과 이동체간의 거리를 측정한다. 위성항법시스템은 4개의 GPS 신호를 수신하면 수학식 1을 이용해서 도달 시간에 기반하여 위성과 이동체간에 4개의 거리를 측정할 수 있다.The satellite navigation system measures the distance between the satellite and the moving object according to the arrival time of the GPS signal. When the satellite navigation system receives four GPS signals,
여기서, , , , 는 위성 위치이고, 는 이동체 위치이다.here, , , , Is the satellite location, Is the moving object position.
도 4는 본 발명을 설명하기 위한 위성항법시스템의 측정방정식을 결정하는 예를 도시한 도면이다.4 is a diagram illustrating an example of determining a measurement equation of a satellite navigation system for explaining the present invention.
위성항법시스템은 4개의 GPS 위성으로부터 4개의 GPS 신호를 수신하여 위성과 이동체간에 4개의 거리를 측정할 수 있다. 위성항법시스템은 수학식 2를 이용해서 4개의 거리를 삼각측정법에 적용하여 이동체의 위치를 계산할 수 있다.The satellite navigation system can receive four GPS signals from four GPS satellites and measure four distances between the satellite and the moving object. The satellite navigation system can calculate the position of the moving object by applying four distances to triangulation using the equation (2).
여기서, , , , 는 4개의 위성 위치이고, 는 이동체 위치이고, , , , 는 의사거리이고, (Clock Bias)는 시계오차이다.here, , , , Is 4 satellite positions, Is the mobile location, , , , Is doctor distance, Clock Bias is a clock error.
동적단독측위Dynamic singular positioning
동적단독측위는 시간에 따라 변화되는 이동체의 3차원 궤도결정에 사용된다. 동적단독측위의 전형적인 예가 바로 이동체의 항법이다. 동적단독측위에서 이동체는 이동 위치에 따라 사용할 수 있는 위성항법시스템의 수가 변한다. 그 이유로는 이동체의 장소와 환경이 바뀌고, 높은 건물이나 산 등 장애물에 의해 위성이 가려지고, 시간의 흐름에 따른 위성의 이동 등 다양한 이유가 있을 것이다. 이러한 이유로 경우에 따라서는 4개 이상 또는 4개 이하의 위성항법시스템으로부터 위치정보데이터를 받는다. 이동체의 위치 정확도는 위성항법시스템의 수에 따라 계속 변하게 된다.Dynamic singulation is used to determine the three-dimensional trajectory of a moving object that changes with time. A typical example of dynamic singulation is the navigation of a mobile vehicle. In dynamic sole positioning, the number of available satellite navigation systems varies depending on the location of the moving object. For this reason, there will be various reasons such as changing the location and environment of the moving body, obstructing the satellite by obstacles such as high buildings or mountains, and moving the satellite over time. For this reason, in some cases, location information data is received from more than four or less than four satellite navigation systems. The positional accuracy of the moving object will continue to change with the number of satellite navigation systems.
내비게이션 애플리케이션은 위성항법시스템의 수가 계속 변화하여 이동체의 위치 정확도가 달라지는 문제점을 일부 해결하기 위하여 위성항법시스템을 3개 밖에 이용할 수 없는 경우 부족한 위성의 정보데이터를 맵매칭시스템(Map Matching System)을 이용하여 위치측위를 수행한다. 하지만 이러한 위치측위 방법도 위성을 3개까지 이용할 수 있는 경우이고, 그 이하일 경우는 브레이크 오프(Break off)되어 위치측위를 할 수 없게 된다. 위치측위가 불가능한 경우 실외음영지역으로 설정되는 것이다.The navigation application uses the Map Matching System to map out insufficient satellite information data when only three satellite navigation systems are available to solve the problem of the number of satellite navigation systems changing continuously and the positional accuracy of moving objects. To perform positioning. However, such a positioning method is also a case where up to three satellites can be used, and if it is less than that, the positioning is broken off. If location is impossible, it is set as outdoor shade area.
하지만 본 발명에서는 이러한 위치측위가 불가능한 실외음영지역 문제점을 해결하기 위하여 위성항법시스템기반의 비전시스템과 맵매칭시스템을 이용한 실외음영지역해소 위치측위장치 및 방법을 개시한다.However, the present invention discloses an outdoor shadowing area resolution positioning apparatus and method using a satellite navigation system-based vision system and a map matching system to solve the problem of the outdoor shadowing area that cannot be positioned.
4개 이상의 위성항법시스템을 이용할 수 있는 경우 이동체는 위성항법시스템을 이용하여 위치측위를 한다. 하지만 사용할 수 있는 위성항법시스템의 수가 3개인 경우 맵매칭시스템을 적용하여 위치측위를 할 수 있다. 하지만 이 경우에 3개의 위성항법시스템을 이용한 위치측위는 맵매칭시스템을 적용할 수도 있지만, 비전시스템을 적용할 수도 있다.If four or more satellite navigation systems are available, the mobile unit will use the satellite navigation system to locate them. However, if the number of available satellite navigation systems is 3, the location can be determined by applying the map matching system. In this case, however, the positioning using three satellite navigation systems may apply a map matching system, but a vision system may be applied.
도 5는 본 발명의 일실시예에 따른 비전시스템을 이용한 위치측위장치의 구성을 보인 블록도이다.Figure 5 is a block diagram showing the configuration of a positioning device using a vision system according to an embodiment of the present invention.
위성항법시스템은 우선 특정 건물마다 DGPS(Differential GPS)나 RTK(RealTime Kenematic)을 이용하여 x, y좌표의 정확한 좌표정보를 데이터베이스에 저장해 놓는다. 그리고 스테레오카메라가 설치된 이동체는 정확한 좌표정보를 가지고 있는 건물을 비전시스템을 이용하여 인식한다. 건물을 인식한 이동체는 건물에 정해진 정확한 좌표정보를 데이터베이스로부터 추출하고, 스테레오카메라를 통해서 인식된 건물과 자신의 거리를 계산한다. 그리고 현재 위성항법시스템으로부터 수신받고 있는 위치정보데이터와 건물의 좌표정보를 이용하여 최종적으로 자신의 위치를 계산한다.The satellite navigation system stores accurate coordinate information of x and y coordinates in a database by using differential GPS (DGPS) or RealTime Kenematic (RTK) for each building. In addition, the moving object equipped with a stereo camera recognizes a building with accurate coordinate information using a vision system. The moving object that recognizes the building extracts the exact coordinate information assigned to the building from the database, and calculates its distance from the recognized building through the stereo camera. And finally, by using the location information data received from the satellite navigation system and the coordinate information of the building finally calculates its position.
이 경우 이동체는 스테레오카메라로 특정 건물을 인식하고 이 특정 건물로부터 위치정보에 필요한 좌표정보를 파악할 수 있어 위성항법시스템이 가지고 있는 한계를 비전시스템과 융합하여 해결할 수 있다.In this case, the moving object can recognize the specific building with the stereo camera and can grasp the coordinate information necessary for the location information from the specific building, thereby solving the limitations of the satellite navigation system with the vision system.
도 5를 참조하면, 본 발명의 일실시예에 따른 위치측위장치는 위성항법시스템(510), 데이터베이스(520), 비전시스템(530), 맵매칭시스템(540), 위치계산부(550)를 포함하여 구성될 수 있다.Referring to FIG. 5, the positioning device according to an embodiment of the present invention includes a
위성항법시스템(510)은 특정 건물마다 DGPS를 이용하여 건물의 좌표정보를 계산해서 데이터베이스(520)에 저장한다.The
비전시스템(530)은 스테레오카메라를 통해 인식된 대상건물의 좌표정보를 데이터베이스(520)로부터 추출하고, 추출된 좌표정보를 이용하여 대상건물과의 제1 의사거리를 계산한다. 비전시스템(530)은 데이터베이스(520)로부터 인식된 건물의 좌표정보를 추출해서 이동체의 위치 계산에 사용한다.The
위치계산부(550)는 위성항법시스템(510)으로부터 수신하는 위치정보데이터에 의한 제2 의사거리를 계산하고 비전시스템(530)의 제1 의사거리와 제2 의사거리를 이용하여 삼각 측정에 의해 이동체의 위치를 계산한다.The
맵매칭시스템(540)은 맵 매칭을 적용해서 대상건물의 좌표정보를 계산한다. 비전시스템(530)은 계산된 좌표정보를 이용하여 제1 의사거리를 계산한다.The
위치계산부(550)는 맵매칭시스템(540)에 의한 대상건물의 좌표정보에 기반한 비전시스템(530)의 제1 의사거리와 위성항법시스템(510)의 위치정보데이터에 의한 제2 의사거리를 이용하여 이동체의 위치를 계산한다.The
위성항법시스템(510)에 의한 위치정보데이터의 개수가 이동체 위치의 계산에서 요구하는 개수에 미치지 못한 경우, 비전시스템(530)은 복수 이상의 건물을 인식하고 복수 이상의 인식된 건물의 좌표정보에 기반하여 복수 이상의 제1 의사거리를 계산한다.If the number of positional information data by the
위치계산부(550)는 비전시스템(530)에 의한 복수 이상의 제1 의사거리와 위성항법시스템(510)의 위치정보데이터에 의한 제2 의사거리를 이용하여 이동체의 위치를 계산한다. 위치계산부(550)는 제1, 2 의사거리 각각에 이동체와 연관하여 발생하는 시계오차 CB(Clock Bias)를 가산하여 삼각 측정의 정밀도를 높여 이동체의 위치를 측위한다.The
도 6은 본 발명의 일실시예에 따른 3개의 위성항법시스템과 비전시스템을 이용한 위치측위장치의 구성을 보인 예시도이다.6 is an exemplary view showing the configuration of a positioning device using three satellite navigation system and a vision system according to an embodiment of the present invention.
도 6을 참조하면, 본 발명의 일실시예에 따른 위치측위장치는 위성항법시스템(610), 데이터베이스(620), 비전시스템(630), 위치계산부(640)를 포함하여 구성될 수 있다.Referring to FIG. 6, the positioning device according to an embodiment of the present invention may include a
3개의 위성항법시스템(610)은 위성으로부터 GPS 신호를 수신하여 수학식 3을 이용해서 도달 시간에 기반하여 시계오차를 포함하는 3개의 위성 위치와 이동체 위치간의 제2 의사거리를 계산한다.The three
여기서, , , 는 3개의 위성 위치이고, 는 이동체 위치이고, , , 는 제2 의사거리이고, (Clock Bias)는 시계오차이다.here, , , Is three satellite locations, Is the mobile location, , , Is the second pseudorange, Clock Bias is a clock error.
비전시스템(630)은 스테레오카메라를 통해 인식된 대상건물로부터 수학식 4를 이용하여 제1 의사거리를 계산한다. 비전시스템(630)은 데이터베이스(620)로부터 인식된 대상건물의 좌표정보를 추출해서 추출된 좌표정보를 이용하여 대상건물의 좌표정보와 이동체 위치와의 제1 의사거리를 계산한다.The
여기서, 는 대상건물의 좌표정보이고,는 제1 의사거리이고, 는 이동체 위치이다.here, Is the coordinate information of the target building, Is the first physician distance, Is the moving object position.
위치계산부(640)는 비전시스템(630)에 의한 제1 의사거리와 3개의 위성항법시스템(610)의 위치정보데이터에 의한 제2 의사거리를 이용하여 삼각측정법에 적용해서 이동체의 위치를 계산한다.The
도 7은 본 발명의 일실시예에 따른 3개의 위성항법시스템과 맵매칭시스템을 이용한 위치측위장치의 구성을 보인 예시도이다.7 is an exemplary view showing the configuration of a positioning device using three satellite navigation system and map matching system according to an embodiment of the present invention.
도 7를 참조하면, 본 발명의 일실시예에 따른 위치측위장치는 위성항법시스템(710), 맵매칭시스템(720), 위치계산부(730)를 포함하여 구성될 수 있다.Referring to FIG. 7, the positioning device according to the embodiment of the present invention may include a
3개의 위성항법시스템(710)은 위성으로부터 GPS 신호를 수신하여 도달 시간에 기반하여 위성과 이동체간의 제2 의사거리를 계산한다.The three
맵매칭시스템(720)은 위성항법시스템(710)에 의한 위치정보데이터의 개수가 이동체 위치의 계산에서 요구하는 개수에 미치지 못한 경우 맵 매칭을 적용하여 제1 의사거리를 계산한다.The
위치계산부(730)는 맵매칭시스템(720)의 제1 의사거리와 위성항법시스템(710)에 의한 제2 의사거리를 이용하여 이동체의 위치를 계산한다.The
이하, 도 8, 9, 10과 관련되는 본 발명의 실시예는, 수신된 위치정보데이터의 개수가 이동체의 위치 측위에 요구되는 수치 보다 두 개 이상으로 적은 경우들에 관한 것이다. 즉, 도 8에서는 사용할 수 있는 위성항법시스템이 2개인 경우(위치정보데이터가 2개만 수신되고, 추가적으로 2개의 위치정보데이터를 본 발명의 위치측위장치에 의해 계산해야 하는 경우)를, 도 9, 10에서는 사용할 수 있는 위성의 수가 1개 또는 없는 경우(추가적으로 n개(상기 n은 3 이상의 자연수)의 위치정보데이터를 계산해야 하는 경우)를, 예시하고 있다.8, 9 and 10, the embodiment of the present invention relates to cases in which the number of the received position information data is less than two than the value required for positioning of the moving object. That is, in FIG. 8, two satellite navigation systems that can be used (only two position information data are received, and two position information data need to be calculated by the position positioning apparatus of the present invention) are illustrated in FIG. 10 illustrates an example in which the number of available satellites is one or no (in addition, when n (where n is a natural number of 3 or more) has to be calculated).
도 8은 본 발명의 일실시예에 따른 2개의 위성항법시스템, 비전시스템 및 맵매칭시스템을 이용한 위치측위장치의 구성을 보인 예시도이다.8 is an exemplary view illustrating a configuration of a positioning device using two satellite navigation systems, a vision system, and a map matching system according to an embodiment of the present invention.
도 8을 참조하면, 본 발명의 일실시예에 따른 위치측위장치는 위성항법시스템(810), 데이터베이스(820), 비전시스템(830), 맵매칭시스템(840), 위치계산부(850)를 포함하여 구성될 수 있다.Referring to FIG. 8, the positioning device according to an embodiment of the present invention includes a
다음으로 사용할 수 있는 위성항법시스템(810)이 2개인 경우 맵매칭시스템(840)을 사용한다고 해도 해결방법이 없어 브레이크 오프되어 실외음영지역으로 간주된다. 하지만 본 발명에서 개시하는 비전시스템(830)을 적용하여 한 개의 특정건물로부터 좌표정보를 수신하고, 추가적으로 부족한 위성항법시스템(810)의 위치정보데이터를 맵매칭시스템(840)을 적용하여 위치측위를 할 수 있다.Next, when there are two
2개의 위성항법시스템(810)은 위성으로부터 GPS 신호를 수신하여 수학식 5를 이용해서 도달시간에 기반하여 시계오차를 포함하는 2개의 위성 위치와 이동체 위치간의 제2 의사거리를 계산한다.The two
여기서, , 는 2개의 위성 위치이고, 는 이동체 위치이고, , 는 제2 의사거리이고, (Clock Bias)는 시계오차이다.here, , Is two satellite locations, Is the mobile location, , Is the second pseudorange, Clock Bias is a clock error.
비전시스템(830)은 스테레오카메라를 통해 인식된 대상건물로부터 좌표정보를 이용하여 대상건물과의 제1 의사거리를 계산한다. 비전시스템(830)은 데이터베이스(820)로부터 인식된 대상건물의 좌표정보를 추출해서 수학식 6을 이용하여 대상건물의 좌표정보와 이동체 위치간의 제1 의사거리를 계산하여 이동체의 위치 계산에 사용한다.The
여기서, 은 대상건물의 좌표정보이고, 는 이동체 위치이고, 는 제1 의사거리이다.here, Is the coordinate information of the target building, Is the mobile location, Is the first pseudorange.
맵매칭시스템(840)은 위성항법시스템(810)에 의한 위치정보데이터의 개수가 이동체 위치의 계산에서 요구하는 개수에 미치지 못한 경우 맵 매칭을 적용하여 수학식 7을 이용하여 대상건물의 좌표정보와 이동체 위치에 기반한 제1 의사거리를 계산한다.The
여기서, 는 대상건물의 좌표정보이고, 는 이동체 위치이고, 는 제1 의사거리이다.here, Is the coordinate information of the target building, Is the mobile location, Is the first pseudorange.
위치계산부(850)는 2개의 위성항법시스템(810)의 위치정보데이터에 의한 제2 의사거리, 비전시스템(830) 및 맵매칭시스템(840)에 의한 제1 의사거리를 이용하여 삼각측정법에 적용해서 이동체의 위치를 계산한다.The
도 9는 본 발명의 일실시예에 따른 1개의 위성항법시스템, 2개의 비전시스템 및 1개의 맵매칭시스템을 이용한 위치측위장치의 구성을 보인 예시도이다.9 is an exemplary view showing the configuration of a positioning device using one satellite navigation system, two vision systems, and one map matching system according to an embodiment of the present invention.
도 9를 참조하면, 본 발명의 일실시예에 따른 위치측위장치는 위성항법시스템(910), 데이터베이스(920), 비전시스템(930), 맵매칭시스템(940), 위치계산부(950)를 포함하여 구성될 수 있다.9, a positioning device according to an embodiment of the present invention includes a
다음은 사용할 수 있는 위성의 수가 1개인 경우 두 개의 특정건물에 정확한 좌표정보를 정하고, 맵매칭시스템(940)을 적용하여 위치측위를 할 수 있다.Next, when the number of available satellites is one, the coordinate information may be determined at two specific buildings, and the location may be determined by applying a
1개의 위성항법시스템(910)은 위성으로부터 GPS 신호를 수신하여 수학식 8을 이용해서 도달 시간에 기반하여 시계오차를 포함하는 위성의 위치와 이동체 위치간의 제2 의사거리를 계산한다.One
여기서, 는 위성의 위치이고, 는 이동체 위치이고, 는 제2 의사거리이고, CB는 시계오차이다.here, Is the location of the satellite, Is the mobile location, Is the second pseudorange and CB is the clock error.
비전시스템(930)은 스테레오카메라를 통해 인식된 2개의 특정 건물로부터 좌표정보에 기반한 제1 의사거리를 계산한다. 비전시스템(930)은 데이터베이스(920)로부터 인식된 2개의 특정 건물에 대한 좌표정보를 추출해서 수학식 9를 이용하여 2개의 특정 건물에 대한 좌표정보와 이동체 위치에 기반한 제1 의사거리를 계산하여 이동체의 위치 계산에 사용한다.The
여기서, , 는 2개의 특정 건물에 대한 좌표정보이고, 는 이동체 위치이고, , 는 제1 의사거리이다.here, , Is the coordinate information for two specific buildings, Is the mobile location, , Is the first pseudorange.
맵매칭시스템(940)은 위성항법시스템(910)에 의한 위치정보데이터의 개수가 이동체 위치의 계산에서 요구하는 개수에 미치지 못한 경우 맵 매칭을 적용하여 수학식 10을 이용해서 대상건물의 좌표정보와 이동체 위치에 기반한 제1 의사거리를 계산한다. 비전시스템(930)은 계산된 좌표정보를 이용하여 제1 의사거리를 계산한다.The
여기서, 는 대상건물의 좌표정보이고, 는 이동체 위치이고, 는 제1 의사거리이다.here, Is the coordinate information of the target building, Is the mobile location, Is the first pseudorange.
위치계산부(950)는 1개의 위성항법시스템(910)에 의한 제2 의사거리, 비전시스템(930) 및 맵매칭시스템(940)에 의한 3개의 제1 의사거리를 이용하여 삼각측정법에 적용해서 이동체의 위치를 계산한다.The
도 10은 본 발명의 일실시예에 따른 3개의 비전시스템과 맵매칭시스템을 이용한 위치측위장치의 구성을 보인 예시도이다.10 is an exemplary view illustrating a configuration of a positioning device using three vision systems and a map matching system according to an embodiment of the present invention.
도 10을 참조하면, 본 발명의 일실시예에 따른 위치측위장치는 데이터베이스(1010), 비전시스템(1020), 맵매칭시스템(1030), 위치계산부(1040)를 포함하여 구성될 수 있다.Referring to FIG. 10, the positioning device according to an embodiment of the present invention may include a
최악의 경우 위성항법시스템을 1개도 이용할 수 없는 곳에서도 3개의 건물에 정확한 좌표정보를 정해놓고, 여기에 맵매칭시스템(1030)을 적용하여 위치측위를 할 수 있다.In the worst case, even where no satellite navigation system is available, accurate coordinate information is determined in three buildings, and the location can be determined by applying a
비전시스템(1020)은 스테레오카메라를 통해 인식된 3개의 특정 건물로부터 이동체간의 제1 의사거리를 계산한다. 비전시스템(1020)은 데이터베이스(1010)로부터 인식된 3개의 특정 건물에 대한 좌표정보를 추출해서 수학식 11을 이용하여 3개의 특정 건물에 대한 좌표정보와 이동체 위치에 기반한 제1 의사거리를 계산하여 이동체의 위치 계산에 사용한다.The
여기서, , , 는 3개의 특정 건물에 대한 좌표정보이고, 는 이동체 위치이고, , , 는 제1 의사거리이다.here, , , Is coordinate information for three specific buildings, Is the mobile location, , , Is the first pseudorange.
맵매칭시스템(1030)은 위성항법시스템에 의한 위치정보데이터의 개수가 이동체 위치의 계산에서 요구하는 개수에 미치지 못한 경우 특정 건물에 대한 좌표정보에 대해 맵 매칭을 적용하여 수학식 12를 이용해서 특정 건물에 대한 좌표정보와 이동체 위치간의 제1 의사거리를 계산한다.The
여기서, 는 특정 건물에 대한 좌표정보이고, 는 이동체 위치이고, 는 제1 의사거리이다.here, Is the coordinate information for a specific building, Is the mobile location, Is the first pseudorange.
위치계산부(1040)는 비전시스템(1020)에 의한 3개의 제1 의사거리와 맵매칭시스템(1030)의 제1 의사거리를 이용하여 삼각측정법에 적용해서 이동체의 위치를 계산한다.The
또한, 본 발명의 실시예들은 다양한 컴퓨터로 구현되는 동작을 수행하기 위한 프로그램 명령을 포함하는 컴퓨터 판독 가능 매체를 포함한다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.Further, embodiments of the present invention include a computer readable medium having program instructions for performing various computer implemented operations. The computer readable medium may include program instructions, data files, data structures, etc. alone or in combination. The program instructions recorded on the medium may be those specially designed and constructed for the present invention or may be available to those skilled in the art of computer software. Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks, and magnetic tape, optical media such as CD-ROMs, DVDs, and magnetic disks, such as floppy disks. Magneto-optical media, and hardware devices specifically configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like. Examples of program instructions include not only machine code generated by a compiler, but also high-level language code that can be executed by a computer using an interpreter or the like.
이상과 같이 본 발명에서는 구체적인 구성 요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 본 발명이 속하는 분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다. 따라서 본 발명의 사상은 설명된 실시예에 국한되어 정해져서는 아니되며, 후술하는 특허청구범위뿐 아니라 이 특허청구범위와 균등하거나 등가적 변형이 있는 모든 구성들은 본 발명 사상의 범주에 속한다고 할 것이다.In the present invention as described above has been described by the specific embodiments, such as specific components and limited embodiments and drawings, but this is provided to help a more general understanding of the present invention, the present invention is not limited to the above embodiments. For those skilled in the art, various modifications and variations are possible from these descriptions. It is therefore to be understood that within the scope of the appended claims, the invention is not limited to the disclosed embodiments, but, on the contrary, is intended to cover various modifications and equivalent arrangements included within the spirit and scope of the appended claims. .
510 : 위성항법시스템
520 : 데이터베이스
530 : 비전시스템
540 : 맵매칭시스템
550 : 위치계산부510: satellite navigation system
520: Database
530: Vision system
540: map matching system
550: position calculation unit
Claims (8)
위성으로부터 수신된 위치정보데이터의 개수가, 이동체의 위치 측위에 요구되는 수치를 2개 만족하지 못하는 경우,
맵 매칭을 적용하여, 스테레오카메라를 통해 인식된 제2 대상건물의 좌표정보를 연산하는 맵매칭시스템;
상기 복수의 건물 중에서, 상기 스테레오카메라를 통해 인식된 제1 대상건물의 좌표정보를 상기 데이터베이스로부터 추출하고, 상기 추출된 제1 대상건물의 좌표정보와, 상기 연산된 제2 대상건물의 좌표정보를 각각 이용하여, 2개의 제1 의사거리를 계산하는 비전시스템; 및
상기 위치정보데이터에 의한 제2 의사거리를 계산하고, 상기 2개의 제1 의사거리 및 상기 제2 의사거리를 이용하여 상기 이동체에 대한 위치를 측위하는 위치계산부
를 포함하는 비전시스템을 이용한 위치측위장치.A database for storing coordinate information of a plurality of buildings;
If the number of location information data received from the satellite does not satisfy two values required for positioning the moving object,
A map matching system for calculating coordinate information of a second target building recognized by a stereo camera by applying map matching;
Among the plurality of buildings, the coordinate information of the first target building recognized by the stereo camera is extracted from the database, the coordinate information of the extracted first target building, and the coordinate information of the calculated second target building A vision system for calculating two first pseudoranges, each using a first pseudorange; And
A position calculator for calculating a second pseudo distance based on the position information data and positioning a position with respect to the moving object using the two first pseudo distances and the second pseudo distance.
Positioning device using a vision system comprising a.
상기 만족하지 못하는 수치가 n개일 경우(상기 n은 3 이상의 자연수),
상기 비전시스템은,
상기 스테레오카메라를 통해 인식되어 상기 데이터베이스로부터 추출된 n-1개의 제1 대상건물의 좌표정보와, 상기 연산된 제2 대상건물의 좌표정보를 각각 이용하여, n개의 제1 의사거리를 계산하는, 비전시스템을 이용한 위치측위장치.The method of claim 1,
If the number is not satisfied (n is a natural number of 3 or more),
The vision system,
Calculating n first pseudo distances by using coordinate information of the n-1 first target buildings recognized by the stereo camera and extracted from the database, and coordinate information of the calculated second target building, respectively. Positioning device using vision system.
위성으로부터 수신된 위치정보데이터의 개수가, 이동체의 위치 측위에 요구되는 수치를 2개 만족하지 못하는 경우,
맵 매칭을 적용하여, 스테레오카메라를 통해 인식된 제2 대상건물의 좌표정보를 연산하는 단계;
상기 복수의 건물 중에서, 상기 스테레오카메라를 통해 인식된 제1 대상건물의 좌표정보를 상기 데이터베이스로부터 추출하는 단계;
상기 추출된 제1 대상건물의 좌표정보와, 상기 연산된 제2 대상건물의 좌표정보를 각각 이용하여, 2개의 제1 의사거리를 계산하는 단계;
상기 위치정보데이터에 의한 제2 의사거리를 계산하는 단계; 및
상기 2개의 제1 의사거리 및 제2 의사거리를 이용하여 상기 이동체에 대한 위치를 측위하는 단계
를 포함하는 비전시스템을 이용한 위치측위방법.Storing coordinate information of the plurality of buildings in a database;
If the number of location information data received from the satellite does not satisfy two values required for positioning the moving object,
Calculating coordinate information of the second target building recognized by the stereo camera by applying map matching;
Extracting, from the database, coordinate information of the first target building recognized by the stereo camera among the plurality of buildings;
Calculating two first pseudo distances using the extracted coordinate information of the first target building and the calculated coordinate information of the second target building, respectively;
Calculating a second pseudorange based on the location information data; And
Positioning a position with respect to the moving object using the two first pseudoranges and the second pseudoranges
Positioning method using a vision system comprising a.
상기 만족하지 못하는 수치가 n개일 경우,
상기 스테레오카메라를 통해 인식되어 상기 데이터베이스로부터 추출된 n-1개의 제1 대상건물의 좌표정보와, 상기 연산된 제2 대상건물의 좌표정보를 각각 이용하여, n개의 제1 의사거리를 계산하는 단계
를 더 포함하는, 비전시스템을 이용한 위치측위방법.The method of claim 5,
If n is not satisfied,
Calculating n first pseudo distances using coordinate information of the n-1 first target buildings recognized by the stereo camera and extracted from the database, and coordinate information of the calculated second target building, respectively.
Further comprising, a positioning method using a vision system.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020110094473A KR101213951B1 (en) | 2011-09-20 | 2011-09-20 | Position determination apparatus and method using vision system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020110094473A KR101213951B1 (en) | 2011-09-20 | 2011-09-20 | Position determination apparatus and method using vision system |
Publications (1)
Publication Number | Publication Date |
---|---|
KR101213951B1 true KR101213951B1 (en) | 2012-12-18 |
Family
ID=47907947
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020110094473A KR101213951B1 (en) | 2011-09-20 | 2011-09-20 | Position determination apparatus and method using vision system |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101213951B1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20180090646A (en) * | 2017-02-03 | 2018-08-13 | 현대모비스 주식회사 | Method and apparatus for location estimating using gis information |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008139214A (en) | 2006-12-04 | 2008-06-19 | Toyota Motor Corp | Positioning system for moving body, and device used therefor |
JP2008249639A (en) | 2007-03-30 | 2008-10-16 | Mitsubishi Electric Corp | Own position locating device, own position locating method, and own position locating program |
-
2011
- 2011-09-20 KR KR1020110094473A patent/KR101213951B1/en active IP Right Grant
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008139214A (en) | 2006-12-04 | 2008-06-19 | Toyota Motor Corp | Positioning system for moving body, and device used therefor |
JP2008249639A (en) | 2007-03-30 | 2008-10-16 | Mitsubishi Electric Corp | Own position locating device, own position locating method, and own position locating program |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20180090646A (en) * | 2017-02-03 | 2018-08-13 | 현대모비스 주식회사 | Method and apparatus for location estimating using gis information |
KR102584796B1 (en) | 2017-02-03 | 2023-10-05 | 현대모비스 주식회사 | Method and apparatus for location estimating using gis information |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11808863B2 (en) | Methods and systems for location determination | |
JP5673071B2 (en) | Position estimation apparatus and program | |
KR20060091942A (en) | Method for determining initial location of navigation apparatus | |
KR20210069355A (en) | Time differenced carrier phase measurement based navigation system and positioning method | |
US20120188124A1 (en) | Gnss receiver and operating method | |
KR20140025970A (en) | Apparatus and method for orbit determination of geostationary satellite | |
US20230016462A1 (en) | Navigation method and apparatus | |
Lee et al. | Seamless accurate positioning in deep urban area based on mode switching between DGNSS and multipath mitigation positioning | |
CN116755126B (en) | Beidou real-time accurate positioning method based on three-dimensional model mapping matching | |
JP2024016253A (en) | Position measurement device, position measurement method, and program | |
US20190145781A1 (en) | Object recognition device, object recognition method and program | |
Chiang et al. | Multifusion schemes of INS/GNSS/GCPs/V-SLAM applied using data from smartphone sensors for land vehicular navigation applications | |
KR20170107315A (en) | Apparatus, method, user terminal apparatus, program and computer readable recording medium for measuring position of moving object | |
EP3508884B1 (en) | Intelligent satellite exclusion for multipath mitigation based on line of sight | |
US12061275B2 (en) | Enhancing sensitivity to reflected GNSS signals | |
US9423507B2 (en) | Methods and apparatuses for multipath estimation and correction in GNSS navigation systems | |
KR20160094021A (en) | Map-matching device and method for pedestrian indoor navigation | |
KR101639152B1 (en) | Method and Device for Estimating position of Vehicle Using Road Slope | |
Han et al. | Determining the optimal site location of GNSS base stations | |
KR101213951B1 (en) | Position determination apparatus and method using vision system | |
JP5994237B2 (en) | Positioning device and program | |
KR101334507B1 (en) | Positioning system and methdo | |
CN116879936B (en) | INS-assisted Beidou three-frequency ambiguity initialization method and system between dynamic targets | |
Zhang et al. | RANSAC-Based Fault Detection and Exclusion Algorithm for Single-Difference Tightly Coupled GNSS/INS Integration | |
US10816675B2 (en) | Coordinate output method and coordinate output device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant | ||
FPAY | Annual fee payment |
Payment date: 20151208 Year of fee payment: 4 |
|
FPAY | Annual fee payment |
Payment date: 20160928 Year of fee payment: 5 |
|
FPAY | Annual fee payment |
Payment date: 20170918 Year of fee payment: 6 |
|
FPAY | Annual fee payment |
Payment date: 20180918 Year of fee payment: 7 |