[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

KR101166349B1 - Apparatus and method for recognizing lane - Google Patents

Apparatus and method for recognizing lane Download PDF

Info

Publication number
KR101166349B1
KR101166349B1 KR1020100046285A KR20100046285A KR101166349B1 KR 101166349 B1 KR101166349 B1 KR 101166349B1 KR 1020100046285 A KR1020100046285 A KR 1020100046285A KR 20100046285 A KR20100046285 A KR 20100046285A KR 101166349 B1 KR101166349 B1 KR 101166349B1
Authority
KR
South Korea
Prior art keywords
lane
information
reliability
model
reference value
Prior art date
Application number
KR1020100046285A
Other languages
Korean (ko)
Other versions
KR20110126820A (en
Inventor
기호용
Original Assignee
주식회사 와이즈오토모티브
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 와이즈오토모티브 filed Critical 주식회사 와이즈오토모티브
Priority to KR1020100046285A priority Critical patent/KR101166349B1/en
Publication of KR20110126820A publication Critical patent/KR20110126820A/en
Application granted granted Critical
Publication of KR101166349B1 publication Critical patent/KR101166349B1/en

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/10Path keeping
    • B60W30/12Lane keeping
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • B60W40/06Road conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/143Alarm means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60YINDEXING SCHEME RELATING TO ASPECTS CROSS-CUTTING VEHICLE TECHNOLOGY
    • B60Y2300/00Purposes or special features of road vehicle drive control systems
    • B60Y2300/10Path keeping
    • B60Y2300/12Lane keeping

Landscapes

  • Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Mathematical Physics (AREA)
  • Traffic Control Systems (AREA)

Abstract

본 발명은 차선 모델을 이용하여 차선이 명확하지 않은 경우에도 좌측 및 우측 차선의 신뢰도를 가지고 가중치에 따라 안정적으로 차선의 위치가 판단되도록 하는 차선 인식 장치 및 방법에 관한 것이다. 이를 위해, 본 발명은 차량의 차선 이탈 경보를 위한 차선 인식 장치로서, 차량의 주행 영상을 입력받는 영상 입력부; 및 상기 영상 입력부에서 입력받은 주행 영상을 차선 인식 프로그램을 통해 차선의 인식과 상기 차선의 위치를 포함한 차선 정보를 추출하고, 상기 추출된 차선의 좌측 및 우측 차선의 정보와 상기 좌/우측 차선 정보의 신뢰도에 따라 상기 좌/우측 차선 정보의 입력 여부를 결정하고, 상기 좌/우측 차선 정보의 신뢰도가 미리 설정된 기준 이상이면 입력을 결정하여 미리 설정된 차선 모델에서 좌/우측의 이중 차선 여부와 상기 좌/우측 차선의 위치 정보를 갱신하며, 상기 갱신된 차선 모델 정보에 따라 상기 차량이 차선을 이탈하는지 여부를 판단하여 차선 이탈 경보의 출력 여부를 결정하는 영상 처리부를 포함한다. 따라서, 본 발명은 점선 구간이나, 차선이 잘 보이지 않는 구간에서도 차선의 위치를 파악할 수 있는 장점이 있다.The present invention relates to a lane recognizing apparatus and method for stably determining a location of a lane according to a weight with reliability of left and right lanes even when a lane is not clear using a lane model. To this end, the present invention is a lane recognition device for lane departure warning of the vehicle, the image input unit for receiving a driving image of the vehicle; And extracting lane information including the lane recognition and the location of the lane through the lane recognition program from the driving image received from the image input unit, and extracting the left and right lane information and the left / right lane information of the extracted lane. It is determined whether the left / right lane information is input according to the reliability, and when the reliability of the left / right lane information is equal to or greater than a preset reference, the input is determined to determine whether the left / right double lane and the left / right are in the preset lane model. And an image processor configured to update location information of the right lane and determine whether to output a lane departure warning by determining whether the vehicle leaves the lane according to the updated lane model information. Therefore, the present invention has the advantage that the position of the lane can be grasped even in the dotted line section or the section where the lane is hard to see.

Description

차선 인식 장치 및 방법 {APPARATUS AND METHOD FOR RECOGNIZING LANE} Lane Recognition Apparatus and Method {APPARATUS AND METHOD FOR RECOGNIZING LANE}

본 발명은 차선 인식에 관한 발명으로서, 더욱 상세하게는 차선 모델을 이용하여 차선이 명확하지 않은 경우에도 좌측 및 우측 차선의 신뢰도를 가지고 가중치에 따라 안정적으로 차선의 위치가 판단되도록 하는 차선 인식 장치 및 방법에 관한 것이다.
The present invention relates to lane recognition, and more particularly, a lane recognizing apparatus using a lane model so that the position of a lane can be stably determined according to a weight with reliability of the left and right lanes even when the lane is not clear. It is about a method.

일반적으로 ASV(Advanced Safety Vehicle)는 차량의 안전도 향상을 위해서 첨단 전자기술과 제어 기술을 적용하는 첨단 차량으로서, 교통사고를 감소시켜 교통량을 증가시키고 에너지를 절약하며 운전자의 편의를 도모하게 된다.  In general, ASV (Advanced Safety Vehicle) is an advanced vehicle that applies advanced electronic and control technology to improve the safety of the vehicle. It reduces traffic accidents, increases traffic volume, saves energy and promotes driver convenience.

이러한 차량의 안전도를 향상시키기 위한 구성의 하나로 차선 이탈 경보 시스템(LDWS: Lane Departure Warning System)은 차량에 부착된 카메라로부터 전방도로의 영상을 감지하여 현재 달리고 있는 차선을 파악한 후, 만약 운전자가 부주의나 졸음운전 등으로 차선을 이탈하려고 하면 경보음이 울리도록 하여 주는 안전장치이다. The Lane Departure Warning System (LDWS) detects the image of the road ahead from the camera attached to the vehicle and detects the current lane. It is a safety device that makes an alarm sound when you try to leave the lane by drowsy driving.

상기 차선 이탈 경보 시스템은 자동차 전방의 영상신호를 분석하여 차량이 차선을 벗어났는지를 판단하는 차선 검출 장치와 이 차선 검출 장치의 분석 결과 차량이 차선을 벗어나면 그 사실을 운전자에게 경고하는 경고 장치를 포함한다.The lane departure warning system analyzes an image signal in front of the vehicle to determine whether the vehicle is out of the lane and a warning device that warns the driver of the fact that the vehicle is out of the lane as a result of the analysis of the lane detection apparatus. Include.

일반적인 차량용 차선 이탈 경보 장치는 차량의 전방에 설치되어 전방주행 영상을 입력받아 차선 인식을 위한 영상처리를 수행한 후 상기 인식된 차선을 기반으로 차선의 폭, 차선의 곡률반경, 차선 횡단시간 등의 다양한 변수를 고려한 후 차량의 차선 이탈 여부를 판단하고 상기 판단 결과에 따라 운전자에게 차선 이탈 경보 및 상황을 출력한다.A general lane departure warning device for a vehicle is installed in front of a vehicle and receives an image of driving in advance to perform image processing for lane recognition, and then, based on the recognized lane, the width of the lane, the radius of curvature of the lane, the crossing time of the lane, and the like. After considering various variables, it is determined whether the vehicle has left the lane, and the lane departure warning and the situation are output to the driver according to the determination result.

그러나 종래의 차선 인식 장치와 방법은 점선 구간이나, 한쪽 차선이 잘 보이지 않는 구간 등 차선이 명확하지 않은 구간에서는 차선의 위치를 판단하는 것이 어려운 문제점이 있다.However, in the conventional lane recognizing apparatus and method, it is difficult to determine the location of the lane in a section in which the lane is not clear, such as a dotted line section or a section in which one lane is hard to see.

또한, 종래의 차선 인식 장치와 방법은 차선이 혼잡한 도로에서는 명확한 차선의 인식이 이루어지지 못하여 운전자에게 오경보를 출력하게 되는 문제점이 있다.
In addition, the conventional lane recognizing apparatus and method has a problem in that it is possible to output a false alarm to the driver because a clear lane cannot be recognized on a busy road.

이러한 문제점을 해결하기 위하여, 본 발명은 차선 모델을 이용하여 차선이 명확하지 않은 경우에도 좌측 및 우측 차선의 신뢰도를 가지고 가중치에 따라 안정적으로 차선의 위치가 판단되도록 하는 차선 인식 장치 및 방법을 제공하는 것을 목적으로 한다.
In order to solve this problem, the present invention provides a lane recognition apparatus and method for stably determining the position of the lane according to the weight with reliability of the left and right lanes even when the lane is not clear using the lane model. For the purpose of

상기한 목적을 달성하기 위하여 본 발명은 차량의 차선 이탈 경보를 위한 차선 인식 장치로서, 차량의 주행 영상을 입력받는 영상 입력부; 및 상기 영상 입력부에서 입력받은 주행 영상을 차선 인식 프로그램을 통해 차선의 인식과 상기 차선의 위치를 포함한 차선 정보를 추출하고, 상기 추출된 상기 차선의 좌측 및 우측 차선 정보의 신뢰도와 차선 성분을 신뢰할 수 있는지 여부를 판단하기 위한 제 1 기준값을 비교하여 상기 차선 정보의 신뢰도가 상기 제 1 기준값 이상이면 현재 차선 정보가 반영되도록 하며, 상기 차선 정보의 신뢰도와 차선 성분을 신뢰할 수 없는지 여부를 판단하기 위한 제 2 기준값과 비교하여 상기 차선 정보의 신뢰도가 상기 제 2 기준값 이하면 이전 차선 정보가 반영되도록 하고, 상기 차선 정보의 신뢰도가 상기 제 1 및 제 2 기준값 사이의 값이면 미리 설정된 보정값이 차선 정보에 반영되도록 좌/우측 차선 정보의 적용을 결정하며, 상기 좌/우측 차선 정보의 신뢰도가 미리 설정된 기준 이상이면 입력을 결정하여 미리 설정된 차선 모델에서 좌/우측 차선의 이중 차선 여부와 상기 좌/우측 차선의 위치 정보를 갱신하고, 차량이 상기 갱신된 차선 모델에 따른 차선을 이탈하는지 여부를 판단하여 차선 이탈 경보의 출력 여부를 결정하는 영상 처리부를 포함한다.In order to achieve the above object, the present invention provides a lane recognition device for lane departure warning of a vehicle, comprising: an image input unit configured to receive a driving image of the vehicle; And extracting lane information including the lane recognition and the location of the lane through a lane recognition program from the driving image received from the image input unit, and trusting the reliability and lane components of the extracted left and right lane information of the lane. Comparing the first reference value to determine whether there is a reliability of the lane information so that the current lane information is reflected if the reliability of the lane information is greater than or equal to the first reference value, and determining whether the reliability of the lane information and the lane component are unreliable. Compared with the second reference value, if the reliability of the lane information is less than or equal to the second reference value, previous lane information is reflected. If the reliability of the lane information is a value between the first and second reference values, the preset correction value is applied to the lane information. Determine the application of left / right lane information to be reflected, and trust the left / right lane information If is equal to or greater than a preset reference, the input is determined to update whether the left / right lanes are dual lanes and the location information of the left / right lanes in the preset lane model, and whether the vehicle leaves the lane according to the updated lane model. And determining an output of the lane departure warning.

또한, 본 발명은 상기 영상 처리부로부터 상기 차선 이탈 경보가 출력되면, 운전자가 상기 차선 이탈 경보를 감지할 수 있도록 하는 차선 이탈 경보부를 더 포함하는 것을 특징으로 한다.The present invention may further include a lane departure warning unit configured to allow a driver to detect the lane departure warning when the lane departure warning is output from the image processing unit.

또한, 본 발명에 따른 상기 영상 처리부는 상기 좌/우측 차선이 명확하게 입력되면 상기 좌/우측 차선의 신뢰도가 증가된 후 그 결과를 상기 차선 모델 정보에 반영하여 갱신하고, 상기 좌/우측 차선이 불명확하게 반복되어 입력되면 상기 차선의 신뢰도를 감소시키는 것을 특징으로 한다.In addition, when the left / right lane is clearly input, the image processor according to the present invention increases the reliability of the left / right lane, updates the result by reflecting the result in the lane model information, and updates the left / right lane. If it is repeatedly input indefinitely, the reliability of the lane is reduced.

또한, 본 발명은 상기 감소된 신뢰도가 차선 성분을 신뢰할 수 있는지 여부를 판단하기 위한 기준값 이상이면 그 결과를 상기 차선 모델에 반영하여 갱신하고, 상기 기준값 이하면 상기 차선 모델을 갱신하지 않는 것을 특징으로 한다.In addition, the present invention, if the reduced reliability is greater than or equal to the reference value for determining whether the lane component can be trusted reflects the result to the lane model, and if the reference value is less than the lane model is not updated. do.

또한, 본 발명에 따른 상기 영상 처리부는 상기 좌측 및 우측 차선 모두의 신뢰도가 모두 감소하여 차선 모델을 갱신하지 않은 경우 이전의 차선 모델 정보를 통해 차선을 예측하여 인식하는 것을 특징으로 한다.In addition, the image processing unit according to the present invention is characterized by predicting and recognizing the lane through the previous lane model information when the reliability of both the left and right lanes is not updated to update the lane model.

또한, 본 발명에 따른 상기 영상 처리부는 상기 인식되는 차선이 두 줄로 구성된 이중 차선인 경우 차량과 인접한 차선을 차선 이탈의 판단 기준인 대표 차선으로 인식하는 것을 특징으로 한다.The image processing unit may recognize a lane adjacent to the vehicle as a representative lane as a criterion for lane departure when the recognized lane is a double lane composed of two lines.

또한, 본 발명에 따른 상기 영상 처리부는 상기 인식되는 차선의 좌측 또는 우측 중 어느 한쪽의 차선이 인식되지 않거나 희미하게 인식되어 차선의 신뢰도가 감소하면, 차선의 신뢰도가 높은 다른 쪽 차선의 모델 정보를 통해 상기 신뢰도가 낮은 쪽의 차선을 예측하여 인식하는 것을 특징으로 한다.In addition, the image processor according to the present invention, when the lane of either the left or right side of the recognized lane is not recognized or is faintly recognized and the reliability of the lane is reduced, the image information of the other lane having high lane reliability is determined. It is characterized by predicting and recognizing the lane of the lower reliability through.

또한, 본 발명은 차량의 차선 이탈 방지를 위한 차선 인식 방법으로서, (a) 영상 입력부에서 입력받은 주행 영상을 영상 처리부에서 차선 인식 프로그램을 통해 차선의 인식과 상기 차선의 위치를 포함한 차선 정보를 추출하는 단계; (b) 상기 영상 처리부는 상기 단계 (a)에서 추출된 상기 차선의 좌측 및 우측 차선 정보의 신뢰도와 차선 성분을 신뢰할 수 있는지 여부를 판단하기 위한 제 1 기준값을 비교하여 상기 차선 정보의 신뢰도가 상기 제 1 기준값 이상이면 현재 차선 정보가 반영되도록 하고, 상기 차선 정보의 신뢰도와 차선 성분을 신뢰할 수 없는지 여부를 판단하기 위한 제 2 기준값과 비교하여 상기 차선 정보의 신뢰도가 상기 제 2 기준값 이하면 이전 차선 정보가 반영되도록 하며, 상기 차선 정보의 신뢰도가 상기 제 1 및 제 2 기준값 사이의 값이면 미리 설정된 보정값이 차선 정보에 반영되도록 좌/우측 차선 정보의 적용을 결정하는 단계; (c) 상기 단계 (b)의 신뢰도가 미리 설정된 기준 이상이면 차선 적용을 결정하여 좌/우측의 이중 차선 여부와 상기 좌/우측 차선의 위치 정보를 미리 설정된 차선 모델에서 갱신하는 단계; (d) 상기 갱신된 좌/우측 차선 정보에 근거하여 차선의 평행도, 차선의 기울기 및 차선의 폭 정보가 정상 범위인지 아닌지 오류를 검증하고, 그 결과 정상 범위가 아니면 이전 차선 모델 정보와 미리 설정된 차선 정보를 사용하여 정상 범위의 차선 모델 정보로 갱신하는 단계; 및 (e) 상기 단계 (d)에서 갱신된 차선 모델의 차선 정보와 신뢰도에 따라 좌/우측 차선을 인식하는 단계를 포함한다.In addition, the present invention is a lane detection method for preventing lane departure of the vehicle, (a) extracting the driving image received from the image input unit through the lane recognition program in the image processing unit to extract lane information including the recognition of the lane and the location of the lane Making; (b) the image processing unit compares the reliability of the left and right lane information of the lane extracted in the step (a) with a first reference value for determining whether the lane component can be trusted. If the first reference value is greater than or equal to the first reference value, the current lane information is reflected, and if the reliability of the lane information is less than the second reference value compared with a second reference value for determining whether the reliability of the lane information and the lane component are unreliable, the previous lane Determining the application of the left / right lane information so that the information is reflected, and if the reliability of the lane information is a value between the first and second reference values, a preset correction value is reflected in the lane information; (c) if the reliability of the step (b) is greater than or equal to a preset criterion, determining whether to apply the lane and updating whether the left / right double lane and the location information of the left / right lane are preset in the preset lane model; (d) verifying whether or not the parallelism of the lane, the slope of the lane, and the width of the lane information are within a normal range based on the updated left / right lane information, and as a result, if the range is not within the normal range, the previous lane model information and the preset lane Updating to normal range lane model information using the information; And (e) recognizing left and right lanes according to lane information and reliability of the lane model updated in step (d).

또한, 본 발명에 따른 상기 영상 처리부는 상기 단계 (e)에서 인식된 차선에 대해서만 차량이 차선을 이탈하는지 여부를 판단하여 차선 이탈 경보부로 차선 이탈 경보의 출력을 결정하는 단계를 더 포함하는 것을 특징으로 한다.In addition, the image processing unit according to the present invention further comprises the step of determining the output of the lane departure warning to the lane departure warning unit by determining whether the vehicle leaves the lane only for the lane recognized in step (e). It is done.

또한, 본 발명에 따른 상기 단계 (b)의 차선 정보의 신뢰도는 상기 좌/우측 차선이 명확하게 반복되어 입력되면 상기 좌/우측 차선의 신뢰도는 증가하고, 상기 좌/우측 차선이 불명확하게 반복되어 입력되면 상기 차선의 신뢰도는 감소하는 것을 특징으로 한다.In addition, the reliability of the lane information of step (b) according to the present invention is that when the left and right lanes are clearly inputted, the reliability of the left and right lanes is increased, and the left and right lanes are unclearly repeated. When input, the lane reliability is reduced.

또한, 본 발명에 따른 상기 단계 (b)의 차선 정보의 신뢰도는 차선의 기울기 정보가 일정 범위 안에서 변하지 않는 경우 신뢰도는 감소하는 것을 특징으로 한다.In addition, the reliability of the lane information of step (b) according to the present invention is characterized in that the reliability is reduced when the slope information of the lane does not change within a certain range.

또한, 본 발명에 따른 상기 단계 (b)의 차선 정보의 적용은 상기 차선 정보의 신뢰도와 차선 성분을 신뢰할 수 있는지 여부를 판단하기 위한 제 1 기준값을 비교하여 상기 차선 정보의 신뢰도가 상기 제 1 기준값 이상이면 현재 차선 정보가 반영되도록 하고, 상기 차선 정보의 신뢰도와 차선 성분을 신뢰할 수 없는지 여부를 판단하기 위한 제 2 기준값과 비교하여 상기 차선 정보의 신뢰도가 상기 제 2 기준값 이하면 이전 차선 정보가 반영되도록 하며, 상기 차선 정보의 신뢰도가 상기 제 1 및 제 2 기준값 사이의 값이면 미리 설정된 보정값이 반영되어 상기 차선 정보에 적용되도록 하는 것을 특징으로 한다.In addition, the application of the lane information of the step (b) according to the present invention compares the reliability of the lane information and the first reference value for determining whether the lane component can be trusted, the reliability of the lane information is the first reference value If it is, the current lane information is reflected, and if the reliability of the lane information is less than the second reference value, the previous lane information is reflected in comparison with a second reference value for determining whether the reliability of the lane information and the lane component are unreliable. When the reliability of the lane information is a value between the first and second reference values, a preset correction value is reflected and applied to the lane information.

또한, 본 발명에 따른 상기 단계 (c)는 상기 차선의 좌측 또는 우측 중 어느 한쪽의 차선이 인식되지 않거나 희미하게 인식되어 차선의 신뢰도가 감소하면, 차선의 신뢰도가 높은 다른 쪽 차선의 모델 정보를 통해 상기 신뢰도가 낮은 쪽의 차선을 예측하여 인식하도록 갱신하는 것을 특징으로 한다.In addition, the step (c) according to the present invention, if the lane reliability of the lane is not recognized or faintly recognized in the left or right of the lane is reduced, the model information of the other lane with high reliability of the lane It is characterized by updating to predict and recognize the lane of the lower reliability through.

또한, 본 발명에 따른 상기 단계 (c)는 상기 단계 (c)는 상기 차선의 좌측 및 우측 차선 모두 인식되지 않거나 희미하게 인식되어 차선의 신뢰도가 차선 성분을 신뢰할 수 없는 값인 제 2 기준값 이하면, 이전의 차선 모델 정보를 일정 시간 유지한 후에 차선 미인식 상태로 변경하도록 갱신하는 것을 특징으로 한다.In addition, in the step (c) according to the present invention, if the step (c) is not recognized or faintly recognized in both the left and right lanes of the lane, the reliability of the lane is less than or equal to a second reference value at which the lane component is unreliable. After the previous lane model information is maintained for a certain period of time to update to change to the lane unrecognized state.

또한, 본 발명에 따른 상기 단계 (c)에서 상기 차선이 두 줄로 구성된 이중 차선인 경우 차선 이탈의 판단 기준으로 차량과 인접한 차선을 대표 차선으로 설정하는 것을 특징으로 한다.
In the step (c) according to the present invention, when the lane is a double lane composed of two lines, the lane adjacent to the vehicle is set as the representative lane as a criterion for the departure of the lane.

본 발명은 점선 구간이나, 차선이 잘 보이지 않는 구간에서도 차선의 위치를 명확하게 파악할 수 있는 장점이 있다.The present invention has the advantage that it is possible to clearly determine the position of the lane even in the dotted line section, or the section is difficult to see the lane.

또한, 본 발명은 차선 모델을 통해 차선이 혼잡한 도로에서도 명확한 차선 인식을 제공할 수 있어 차선 이탈의 오경보 출력을 방지할 수 있는 장점이 있다.In addition, the present invention has a merit that can provide a clear lane recognition even in a road crowded with a lane model to prevent the false alarm output of lane departure.

또한, 본 발명은 차선 이탈 경보 장치의 신뢰도를 향상시켜 운전자의 편의성 개선과 안전성을 개선할 수 있는 장점이 있다.
In addition, the present invention has an advantage of improving the reliability of the lane departure warning device to improve the convenience and safety of the driver.

도 1 은 일반적인 차선 이탈 경보 시스템의 구성을 나타낸 블록도.
도 2 는 본 발명에 따른 차선 인식 과정을 나타낸 흐름도.
도 3 은 본 발명에 따른 차선 인식 과정의 차선 위치 판단을 위한 차선 모델을 나타낸 예시도.
도 4 는 본 발명에 따른 차선 인식 과정의 차선 위치 갱신에 이용하는 테이블을 나타낸 예시도.
1 is a block diagram showing the configuration of a general lane departure warning system.
2 is a flowchart illustrating a lane recognition process according to the present invention.
3 is an exemplary view showing a lane model for lane position determination in a lane recognition process according to the present invention.
4 is an exemplary diagram showing a table used for updating a lane position in a lane recognition process according to the present invention.

이하, 첨부된 도면을 참조하여 본 발명에 따른 차선 인식 장치 및 방법의 바람직한 실시예를 상세하게 설명한다.Hereinafter, exemplary embodiments of a lane recognizing apparatus and method according to the present invention will be described in detail with reference to the accompanying drawings.

도 1은 일반적인 차선 이탈 경보 시스템의 구성을 나타낸 블록도이다. 1 is a block diagram showing the configuration of a general lane departure warning system.

도 1에 도시된 바와 같이, 본 발명에 따른 차량의 차선 이탈 경보를 위한 차선 인식 장치는 차량의 주행 영상을 입력받는 영상 입력부(100)와, 상기 영상 입력부(100)에서 입력받은 주행 영상으로부터 차선을 인식한 후 인식된 차선의 좌측 및 우측 차선의 정보와 상기 좌/우측 차선 정보의 신뢰도에 따라 상기 좌/우측 차선 정보의 적용 여부를 결정하며, 상기 좌/우측 차선 정보의 적용이 결정되면 미리 설정된 차선 모델을 갱신하고, 차량이 상기 갱신된 차선 모델 정보에 따른 차선을 이탈하는지 여부를 판단하여 차선 이탈 경보의 출력을 결정하는 영상 처리부(200)와, 상기 영상 처리부로(200)부터 상기 차선 이탈 경보가 출력되면, 운전자가 상기 차선 이탈 경보를 감지할 수 있도록 하는 차선 이탈 경보부(300)를 포함한다.As shown in FIG. 1, a lane recognizing apparatus for lane departure warning of a vehicle according to the present invention includes an image input unit 100 receiving a driving image of a vehicle and a lane from a driving image received from the image input unit 100. After determining the whether to apply the left / right lane information according to the reliability of the left and right lane information and the left / right lane information of the recognized lane, if the application of the left / right lane information is determined in advance An image processing unit 200 for determining an output of a lane departure warning by determining whether the vehicle leaves the lane according to the updated lane model information and updating the set lane model, and the image processing unit 200 to the lane If the departure warning is output, the lane departure warning unit 300 to enable the driver to detect the lane departure warning.

상기 영상 입력부(100)는 차량에 설치된 카메라로서 CCD 또는 CMOS 등을 이용하고, 주로 차량의 내부에 설치된 룸미러에 설치되어 차량의 전방 주행 영상을 검출하여 상기 영상 처리부(200)로 제공한다.The image input unit 100 uses a CCD or CMOS as a camera installed in a vehicle, and is mainly installed in a room mirror installed inside the vehicle to detect a front driving image of the vehicle and provide the image to the image processing unit 200.

상기 영상 처리부(200)는 마이크로프로세서 등을 이용하여 구성되고, 내재된 차선 인식 프로그램을 통해 상기 차량의 주행 영상으로부터 차선을 인식하고, 상기 인식된 차선의 위치 정보를 포함한 차선 정보를 추출한다. 상기 차선 인식 프로그램은 공지 기술을 이용할 수도 있다.The image processor 200 is configured using a microprocessor, and recognizes the lane from the driving image of the vehicle through an embedded lane recognition program, and extracts lane information including position information of the recognized lane. The lane recognition program may use a known technique.

또한, 상기 영상 처리부(200)는 상기 추출된 차선의 좌측 및 우측 차선의 정보와 상기 좌/우측 차선 정보의 신뢰도에 따라 상기 좌/우측 차선 정보의 적용(입력) 여부를 결정한다.In addition, the image processor 200 determines whether to apply (input) the left / right lane information according to the reliability of the left and right lane information and the left / right lane information of the extracted lane.

상기 영상 처리부(200)는 영상 입력부(100)를 통해 입력받은 주행 영상으로부터 상기 차선 인식 프로그램이 인식한 좌측 및 우측 차선을 명확하게 제공하는 경우 상기 차선 정보의 신뢰도를 증가시키고, 상기 증가된 차선 정보의 신뢰도가 포함된 현재의 차선 정보로 차선 모델 정보를 갱신한다.When the image processor 200 clearly provides the left and right lanes recognized by the lane recognition program from the driving image received through the image input unit 100, the image processor 200 increases the reliability of the lane information and increases the increased lane information. The lane model information is updated with the current lane information including the reliability.

즉 직선으로 이루어진 예를 들면, 중앙선이나, 버스 전용 차선 등 차선이 명확하게 잘 인식되는 구간에서는 입력 차선 정보에 대한 신뢰도가 증가하게 되어 안정적인 차선 인식을 할 수 있게 된다.That is, in a section in which a lane, such as a center line or a bus-only lane, is clearly recognized, the reliability of the input lane information is increased, thereby enabling stable lane recognition.

여기서 상기 차선 모델은 좌측 차선, 우측 차선, 차선의 기울기, 좌측 차선의 신뢰도 및 우측 차선의 신뢰도에 따른 값을 갖고, 상기 차선의 신뢰도는 기본적으로 차선의 확실한 정도에 의해 결정된다.The lane model has a value according to the left lane, the right lane, the slope of the lane, the reliability of the left lane and the reliability of the right lane, and the reliability of the lane is basically determined by the degree of certainty of the lane.

또한, 상기 영상 처리부(200)는 차선이 점선으로 이루어진 구간이나 차선이 잘 보이지 않는 구간 등 명확하게 차선의 위치를 인식할 수 없어 차선에 대한 신뢰도가 낮은 차선 정보가 반복하여 입력되면, 차선의 신뢰도가 낮아지도록 하고 낮아진 신뢰도를 미리 설정된 기준값과 비교하여 차선 모델에 적용할지 여부를 결정한다.In addition, the image processing unit 200 cannot clearly recognize the position of the lane, such as a section in which the lane is a dotted line or a section in which the lane is difficult to see, and thus lane information having low reliability for the lane is repeatedly inputted. The lower reliability is compared with the predetermined reference value to determine whether to apply to the lane model.

상기 낮아진 신뢰도가 상기 미리 설정된 기준값 이상이면 차선 정보에 일정 가중치를 갖도록 한 다음 상기 가중치를 갖는 차선 정보로 상기 차선 모델을 갱신한다.If the reduced reliability is equal to or greater than the preset reference value, the lane information is given a predetermined weight, and then the lane model is updated with the lane information having the weight.

또한, 상기 낮아진 신뢰도가 상기 미리 설정된 기준값 이하면 차선의 정보는 갱신하지 않고, 이전의 차선 정보로 상기 차선 모델을 갱신한다.In addition, if the lowered reliability is less than or equal to the preset reference value, the lane information is not updated, and the lane model is updated with previous lane information.

또한, 상기 영상 처리부(200)는 상기 좌/우측 차선 정보의 신뢰도가 미리 설정된 기준 이상이면 현재의 차선 정보가 적용되도록 입력을 결정하고, 미리 설정된 차선 모델에서 좌/우측 차선 정보를 갱신한다. In addition, the image processor 200 determines an input so that current lane information is applied when the reliability of the left / right lane information is greater than or equal to a preset reference, and updates the left / right lane information in the preset lane model.

이때 상기 좌/우측 차선의 이중 차선 여부를 판단하여 두 개의 실선으로 이루어진 이중 차선인 경우 차량과 인접한 쪽에 위치한 차선을 차선 이탈 판단을 위한 대표 차선으로 설정한다.In this case, it is determined whether the left / right lane is a double lane, and in the case of the double lane consisting of two solid lines, the lane adjacent to the vehicle is set as the representative lane for the lane departure determination.

즉 도로의 좌/우측에는 중앙선, 버스 전용 차선, 인터체인지나 교차로에서 차량의 진출입을 위한 차선 변경선 등 다양한 이중 차선이 존재하므로 두 개의 차선이 검출된 경우 하나의 차선을 선택하여 차선 이탈 여부를 판단하기 위한 대표 차선으로 설정한다.In other words, there are various lanes on the left and right side of the road, such as the center line, the bus-only lane, and the lane change line for entering and exiting the vehicle at an interchange or intersection, so when two lanes are detected, one lane is selected to determine whether the lane is out of position. Set as the representative lane for.

또한, 상기 영상 처리부(200)는 상기 인식되는 차선의 좌측 또는 우측 중 어느 한쪽의 차선이 인식되지 않거나 희미하게 인식되어 차선의 신뢰도가 감소하면, 신뢰도가 높은 다른 쪽 차선의 모델 정보를 이용하여 신뢰도가 낮은 쪽의 차선을 예측하여 인식한다.In addition, when the reliability of the lane is reduced because the lane of either the left or right side of the recognized lane is not recognized or is faintly recognized, the image processing unit 200 uses the reliability of the other lane model information. Recognizes by predicting the lower lane.

즉 대부분의 차선은 평행하게 배치되므로, 양쪽의 차선 중에서 한쪽의 차선이 명확하게 인식되고 다른 쪽의 차선은 명확하게 인식되지 않은 경우에 명확하게 인식되지 않는 쪽의 차선에 일정한 가중치를 갖는 신뢰도를 부여하며 이에 근거하여 차선을 예측하여 인식한 후 상기 인식된 차선에 대해서만 차선 이탈 경보를 수행하게 된다.That is, since most lanes are arranged in parallel, when one lane of both lanes is clearly recognized and the other lane is not clearly recognized, a certain weighted reliability is given to the lanes that are not clearly recognized. Based on this, the lane is predicted and recognized, and the lane departure warning is performed only for the recognized lane.

한편, 상기 영상 처리부(200)는 상기 좌측 및 우측 차선 모두의 신뢰도가 미리 설정된 기준값 이하면 차선 모델을 갱신하지 않고, 이전의 차선 모델 정보를 통해 차선을 예측하여 인식하며, 상기 인식된 차선에 대해서만 경보를 수행하게 된다.Meanwhile, if the reliability of both the left and right lanes is less than or equal to a preset reference value, the image processor 200 does not update the lane model and predicts and recognizes the lane through previous lane model information, and recognizes only the recognized lanes. Will trigger an alarm.

또한, 상기 영상 처리부(200)는 상기 갱신된 차선 모델의 좌/우측 차선 정보를 이용하여 차선의 평행도, 차선의 기울기, 차선의 폭 정보 등이 미리 설정된 정상 범위 내에 존재하면 정상의 차선 정보를 갖는 차선 모델로 갱신하고, 상기 차선의 평행도, 차선의 기울기, 차선의 폭 정보 등이 정상 범위를 벗어나면 이전 차선 모델 정보와 미리 설정된 차선 정보 등을 적용하여 상기 차선의 평행도, 차선의 기울기, 차선의 폭 정보 등이 정상 범위를 갖는 차선 모델이 되도록 갱신한다.In addition, the image processor 200 may have normal lane information when the parallelism, the slope of the lane, the width of the lane, and the like exist within a preset normal range by using left / right lane information of the updated lane model. If the lane parallelism, lane inclination, lane width information, etc. are out of the normal range, the previous lane model information and the preset lane information are applied to the lane model, and the parallelism of the lane, the slope of the lane, The width information and the like are updated to be a lane model having a normal range.

또한, 상기 영상 처리부(200)는 상기 갱신된 차선 모델 정보에 따라 상기 차량이 차선을 이탈하는지 여부를 판단하고, 차량이 차선을 이탈하면 차선 이탈 경보부(300)로 차선 이탈 경보를 출력한다.In addition, the image processing unit 200 determines whether the vehicle leaves the lane according to the updated lane model information, and outputs a lane departure warning to the lane departure warning unit 300 when the vehicle leaves the lane.

상기 차선 이탈 경보부(300)는 상기 영상 처리부(200)의 판단 결과에 따라 출력되는 상기 차선 이탈 경보 신호가 운전자에게 인식될 수 있도록 디스플레이 수단과 음향 출력 수단을 통한 표시 기능과, 안전벨트 조이기 등의 햅틱 기능을 수행한다.
The lane departure warning unit 300 may display a display function through a display means and a sound output means and fasten a seat belt such that the lane departure warning signal output according to the determination result of the image processor 200 may be recognized by a driver. Perform haptic functions.

도 2는 본 발명에 따른 차선 인식 과정을 나타낸 흐름도이고, 도 3은 본 발명에 따른 차선 인식 과정의 차선 위치 판단을 위한 차선 모델을 나타낸 예시도이며, 도 4는 본 발명에 따른 차선 인식 과정의 차선 위치 갱신에 이용하는 테이블을 나타낸 예시도이다.2 is a flowchart illustrating a lane recognition process according to the present invention, FIG. 3 is an exemplary view illustrating a lane model for determining a lane position of the lane recognition process according to the present invention, and FIG. 4 is a view illustrating a lane recognition process according to the present invention. It is an example figure which shows the table used for updating a lane position.

도 1 내지 도 4를 참조하여 본 발명에 따른 차선 인식 방법을 설명한다.A lane recognition method according to the present invention will be described with reference to FIGS. 1 to 4.

영상 입력부(100)에서 주행 영상을 입력(S100)받으면, 영상 처리부(200)는 상기 주행 영상을 차선 인식 프로그램을 통해 좌측 및 우측 차선의 인식과 상기 좌/우측 차선의 위치를 포함한 차선 정보를 추출(S200)한다.When the driving image is input by the image input unit 100 (S100), the image processing unit 200 extracts the lane information including the left and right lane recognition and the position of the left / right lane through the lane recognition program. (S200).

도 3에 도시된 바와 같이, 차선 모델은 차선 인식을 위해 항상 존재하는 가상의 차선으로 두 개의 실선으로 이루어진 이중 차선과 차선의 기울기 정보를 포함한다. As shown in FIG. 3, the lane model is a virtual lane that is always present for lane recognition and includes dual lanes consisting of two solid lines and slope information of a lane.

즉 차량의 진행방향 좌측에는 좌-외측 차선(1)과 좌-내측 차선(2)으로 구성된 이중 차선이 배치되고, 상기 차량의 진행방향 우측에는 우-내측 차선(3)과 우-외측 차선(4)으로 구성된 이중 차선이 배치되며, 상기 좌-내측 차선(2)과 우-내측 차선(3)은 차선 인식을 위한 대표 차선으로 사용되고, 상기 좌-내측 차선(2)과 우-내측 차선(3) 사이에는 차선의 기울기(5)가 배치된다.That is, a double lane composed of a left-outer lane 1 and a left-inner lane 2 is disposed on the left side of the vehicle in the traveling direction, and a right-inner lane 3 and a right-outer lane ( 4, a double lane is arranged, and the left-inner lane 2 and the right-inner lane 3 are used as representative lanes for lane recognition, and the left-inner lane 2 and the right-inner lane ( The lane slope 5 is disposed between 3).

상기 영상 처리부(200)는 상기 S200 단계에서 추출된 상기 차선의 좌측 및 우측 차선 정보 즉 신뢰도에 따라 상기 좌/우측 차선 정보를 상기 차선 모델에 적용할지 여부를 결정(S300)한다.The image processor 200 determines whether to apply the left / right lane information to the lane model according to left and right lane information, that is, reliability, extracted in the step S200 (S300).

상기 S300 단계에서, 상기 좌/우측의 차선 정보가 미리 설정된 기준값을 만족하면 차선 모델로의 적용을 결정하며, 상기 좌/우측 차선이 이중 차선인 경우 차선 이탈의 판단 기준으로 차량과 인접한 차선을 대표 차선으로 설정하여 상기 좌/우측 차선의 위치 정보가 상기 차선 모델에서 갱신되도록 한다(S400).In step S300, if the left / right lane information satisfies a preset reference value, it is determined to apply to a lane model. If the left / right lane is a double lane, the lane adjacent to the vehicle is represented as a criterion for departure of the lane. By setting the lane, the location information of the left / right lane is updated in the lane model (S400).

상기 S300 단계에서, 상기 좌/우측 차선이 명확하게 반복되어 입력되면 상기 좌/우측 차선의 신뢰도는 증가하고, 상기 좌/우측 차선이 불명확하게 반복되어 입력되면 상기 차선의 신뢰도는 감소한다.In the step S300, if the left / right lanes are repeatedly inputted clearly, the reliability of the left / right lanes increases, and if the left / right lanes are inputted indefinitely, the reliability of the lanes decreases.

즉 좌측 및 우측의 차선 정보는 각각 특정 범위의 신뢰도를 갖고, 영상으로 입력되는 차선이 명확하게 반복하여 입력되는 경우 차선의 신뢰도는 증가하며, 영상을 통해 입력되는 차선이 명확하지 않은 상태로 반복하여 입력되는 경우 차선의 신뢰도는 감소하게 되고, 이에 따라 차선 모델을 갱신하게 된다.That is, the lane information on the left and the right has a certain range of reliability, respectively, and when the lanes inputted in the image are clearly and repeatedly inputted, the reliability of the lanes increases, and the lanes inputted through the image are repeatedly When input, the reliability of the lane is reduced, thereby updating the lane model.

또한, 차선의 신뢰도가 차선을 인식할 수 없는 일정 기준값 이하로 내려가게 되면 차선을 인식하지 않는다.In addition, when the reliability of the lane falls below a predetermined reference value at which the lane cannot be recognized, the lane is not recognized.

상기 S400 단계에서 신뢰도에 따른 차선 모델의 갱신을 더욱 상세하게 설명하면, 상기 영상 처리부(200)는 좌/우측 차선의 정보를 검출하고, 상기 검출된 좌/우측 차선의 정보를 차선 성분을 신뢰할 수 있는 값인 제 1 기준값과 비교한다.When the update of the lane model according to the reliability is described in more detail at step S400, the image processor 200 may detect information on the left and right lanes, and may trust the lane component based on the detected left and right lane information. The first reference value, which is the present value, is compared.

상기 비교 결과, 상기 좌/우측 차선 정보가 모두 상기 제 1 기준값 이상이면 양쪽 차선 모두 현재의 차선 정보가 갱신되어 차선 모델 정보에 반영되도록 한다.As a result of the comparison, if both the left and right lane information are greater than or equal to the first reference value, the current lane information is updated in both lanes to be reflected in the lane model information.

또한, 상기 좌/우측 차선 정보가 상기 제 1 기준값과 차선 성분을 신뢰할 수 없는 값인 제 2 기준값 사이의 값을 가지면, 미리 설정된 보정값을 반영하여 차선 정보가 차선 모델 정보에 반영되도록 한다.In addition, when the left / right lane information has a value between the first reference value and a second reference value that is a value of which the lane component is unreliable, the lane information is reflected in the lane model information by reflecting a preset correction value.

즉 좌/우측 차선 정보 중 어느 하나가 상기 제 1 기준값 이상이고, 다른 하나의 좌/우측 차선 정보가 상기 제 1 기준값과 상기 제 2 기준값 사이의 값을 가지면, 현재 영상 프레임에서의 좌/우측 차선 정보와 1 프레임 전 영상에서의 상기 좌/우측 차선 정보와 차선간 평균 간격과 차선간에 미리 설정된 간격에 일정 크기의 가중치를 주어 차선 정보를 갱신한 후 차선 모델 정보를 생성하고, 상기 조건이 반복될 경우 신뢰도는 감소한다.That is, when any one of the left and right lane information is equal to or greater than the first reference value and the other left and right lane information has a value between the first reference value and the second reference value, the left and right lanes in the current image frame. Information on the left and right lane information in one frame before the frame, a weight of a predetermined size is applied to the average interval between lanes, and a predetermined interval between lanes to update lane information, and then generate lane model information, and the condition is repeated. In this case, the reliability decreases.

또한, 좌/우측 차선 정보 중 어느 하나가 상기 제 1 기준값 이상이고, 다른 하나의 좌/우측 차선의 정보가 상기 제 2 기준값 이하의 값을 가지면 현재 영상 프레임에서의 좌/우측 차선 정보와 1 프레임 전 영상에서의 상기 좌/우측 차선 정보와 차선간 평균 간격과 차선간에 미리 설정된 간격에 일정 크기의 가중치를 주어 차선 정보를 갱신한 후 차선 모델 정보를 생성하고, 상기 조건이 반복될 경우 신뢰도가 감소한다.In addition, when any one of the left and right lane information is greater than or equal to the first reference value, and the information of the other left and right lanes has a value less than or equal to the second reference value, left and right lane information and one frame in the current video frame. The lane information is generated after updating the lane information by giving a predetermined amount of weight to the left / right lane information, the average interval between lanes and the preset interval between lanes in all images, and generating the lane model information, and the reliability is decreased when the condition is repeated. do.

한편, 상기 좌/우 차선 정보로부터 1 프레임 전 영상에서의 상기 좌/우측 차선 정보를 뺄셈한 값을 영상 1 프레임 안에 차선 성분이 이동할 수 있는 범위의 경계값과 비교하고, 상기 뺄셈한 값이 상기 경계값 보다 작은 경우를 만족하지 못하면 문제가 되는 차선의 정보는 갱신하지 않으며, 반복될 경우 신뢰도가 감소한다.Meanwhile, a value obtained by subtracting the left / right lane information from the left / right lane information from the left / right lane information is compared with a boundary value of a range within which a lane component can move within one frame of the image, and the subtracted value is equal to the subtracted value. If the case below the threshold is not satisfied, the lane information in question is not updated, and if repeated, the reliability decreases.

도 4에 도시된 바와 같이 좌/우측 차선의 신뢰도에 따라 양쪽 차선에 현재의 차선 정보가 반영되도록 갱신하거나, 어느 하나의 차선에 일정한 가중치를 갖도록 부여한 제 1 내지 제 5 보정값이 반영되도록 차선 모델을 갱신하거나, 양쪽 차선에 갱신 없이 이전 차선 정보가 유지되도록 한다.As shown in FIG. 4, the lane model may be updated so that current lane information is reflected in both lanes according to the reliability of the left and right lanes, or the first to fifth correction values given to have a certain weight in one lane are reflected. The previous lane information may be maintained without updating the lanes or updating both lanes.

상기 제 1 보정값은 예를 들면, 현재 차선 정보, 평균 차선 폭 정보에 일정한 가중치 a를 주어 보정한 값이고, 제 2 보정값은 현재 차선 정보, 평균 차선 폭, 미리 설정된 차선 폭 정보에 가중치 b를 주어 보정한 값이며, 제 3 보정값은 현재 차선 정보, 평균 차선 폭 정보에 가중치 c를 주어 보정한 값이고, 제 4 보정값은 현재 차선 정보, 평균 차선 폭, 미리 설정된 차선 폭 정보에 가중치 d를 주어 보정한 값이며, 제 5 보정값은 현재 차선 정보, 평균 차선 폭, 미리 설정된 차선 폭 정보에 가중치 e를 주어 보정한 값이다.The first correction value is, for example, a value corrected by giving a constant weight a to current lane information and average lane width information, and the second correction value is a weight b to current lane information, average lane width, and preset lane width information. The third correction value is a value corrected by giving a weight c to the current lane information and the average lane width information, and the fourth correction value is a weight to the current lane information, the average lane width, and the preset lane width information. The fifth correction value is a value corrected by giving a weight e to current lane information, average lane width, and preset lane width information.

또한, 차선의 기울기(5) 정보는 일정 범위 안에서 변할 수 있으며, 상기 일정 범위 안에서 변하지 않으면 차선 모델 정보를 갱신하지 않고, 상기 차선의 기울기(5)가 일정 범위 안에서 변하지 않는 것이 반복될 경우 차선의 신뢰도는 감소한다.In addition, the inclination 5 information of the lane may change within a predetermined range, and if it does not change within the predetermined range, the lane model information is not updated, and when the inclination 5 of the lane does not change within a predetermined range, Reliability decreases.

또한, 두 차선은 항상 평행하며 두 차선간의 평행도가 두 차선의 상위점과 하위점의 오차 범위 이상 차이가 발생할 경우 신뢰도가 떨어지는 차선은 신뢰도가 높은 차선을 기준으로 차선간 평균 간격 정보가 부여되고, 상기 부여된 정보에 따라 차선 모델 정보를 갱신하며, 상기 조건이 반복될 경우 차선의 신뢰도를 감소시킨다.In addition, two lanes are always parallel, and when the parallelism between the two lanes differs by more than an error range between the upper and lower points of the two lanes, the less reliable lane is given the average interval information between the lanes based on the highly reliable lane. The lane model information is updated according to the given information, and the reliability of the lane is reduced when the condition is repeated.

또한, 상기 차선의 좌측 또는 우측 중 어느 한쪽의 차선이 인식되지 않거나 희미하게 인식되어 차선의 신뢰도가 감소하면, 차선의 신뢰도가 높은 다른 쪽 차선의 모델 정보를 통해 상기 신뢰도가 낮은 쪽의 차선을 예측하여 인식되도록 차선 모델 정보를 갱신한다.In addition, when one of the lanes on the left or right side of the lane is not recognized or is faintly recognized, and the reliability of the lane is decreased, the lane of the lower reliability is predicted through the model information of the other lane having the high reliability of the lane. The lane model information to be recognized.

또한, 상기 차선의 좌측 및 우측 차선 모두 인식되지 않거나 양쪽 차선 모두 희미하게 인식되어 차선의 신뢰도가 차선 성분을 신뢰할 수 없는 값인 제 2 기준값 이하면, 이전의 차선 모델 정보를 일정 시간 유지한 후에 차선 미인식 상태로 변경하여 차선 모델 정보를 갱신한다.In addition, if both the left and right lanes of the lane are not recognized, or both lanes are dimly recognized so that the reliability of the lane is less than or equal to a second reference value at which the lane component is unreliable, after maintaining the previous lane model information for a predetermined time, The lane model information is updated by changing to the recognition state.

상기 S400 단계를 수행한 후 상기 갱신된 좌/우측 차선 정보에 근거하여 차선의 평행도, 차선의 기울기 및 차선의 폭 정보가 정상 범위인지 아닌지 오류를 검증하고, 그 결과 정상 범위가 아니면 이전 차선 모델 정보와 미리 설정된 차선 정보를 사용하여 정상 범위의 차선 모델 정보로 갱신(S500)한다.After performing the step S400, based on the updated left / right lane information, an error is verified whether or not the parallelism, the slope of the lane, and the width of the lane are in a normal range, and as a result, the previous lane model information is not in the normal range. Using the preset lane information and to update the lane model information of the normal range (S500).

상기 S500 단계에서 갱신된 차선 모델의 차선 정보와 신뢰도에 따라 좌/우측 차선을 인식(S600)하고, 상기 S500 단계에서 인식된 차선에 대해서만 차량이 차선을 이탈하는지 여부를 판단하여 차선 이탈 경보부(300)로 차선 이탈 경보의 출력 여부를 결정한다.Recognizing left and right lanes according to the lane information and the reliability of the lane model updated in step S500 (S600), the lane departure warning unit 300 by determining whether the vehicle leaves the lane only for the lanes recognized in step S500 Determines whether the lane departure alarm is output.

따라서, 차선이 명확하지 않은 경우에도 차선 모델을 이용하여 좌측 및 우측 차선의 신뢰도를 가지고 가중치에 따라 안정적으로 차선의 위치를 판단할 수 있고, 상기 판단에 따라 인식된 차선에 대해서만 경보하는 것이 가능하다.
Therefore, even when the lane is not clear, it is possible to stably determine the position of the lane according to the weight with reliability of the left and right lanes using the lane model, and it is possible to alert only the recognized lane according to the determination. .

상기와 같이, 본 발명의 바람직한 실시 예를 참조하여 설명하였지만 해당 기술 분야의 숙련된 당업자라면 하기의 특허청구범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.
While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it will be understood by those of ordinary skill in the art that various changes in form and details may be made therein without departing from the spirit and scope of the invention as defined by the appended claims. It can be understood that

1 : 좌-외측 차선 2 : 좌-내측 차선
3 : 우-내측 차선 4 : 우-외측 차선
5 : 차선의 기울기 100 : 영상 입력부
200 : 영상 처리부 300 : 차선 이탈 경보부
1: left-outer lane 2: left-inner lane
3: right-side lane 4: right-side lane
5: slope of the lane 100: image input unit
200: image processing unit 300: lane departure warning unit

Claims (15)

차량의 차선 이탈 경보를 위한 차선 인식 장치로서,
차량의 주행 영상을 입력받는 영상 입력부; 및
상기 영상 입력부에서 입력받은 주행 영상을 차선 인식 프로그램을 통해 차선의 인식과 상기 차선의 위치를 포함한 차선 정보를 추출하고, 상기 추출된 상기 차선의 좌측 및 우측 차선 정보의 신뢰도와 차선 성분을 신뢰할 수 있는지 여부를 판단하기 위한 제 1 기준값을 비교하여 상기 차선 정보의 신뢰도가 상기 제 1 기준값 이상이면 현재 차선 정보가 반영되도록 하며, 상기 차선 정보의 신뢰도와 차선 성분을 신뢰할 수 없는지 여부를 판단하기 위한 제 2 기준값과 비교하여 상기 차선 정보의 신뢰도가 상기 제 2 기준값 이하면 이전 차선 정보가 반영되도록 하고, 상기 차선 정보의 신뢰도가 상기 제 1 및 제 2 기준값 사이의 값이면 미리 설정된 보정값이 차선 정보에 반영되도록 좌/우측 차선 정보의 적용을 결정하며, 상기 좌/우측 차선 정보의 신뢰도가 미리 설정된 기준 이상이면 입력을 결정하여 미리 설정된 차선 모델에서 좌/우측 차선의 이중 차선 여부와 상기 좌/우측 차선의 위치 정보를 갱신하고, 차량이 상기 갱신된 차선 모델에 따른 차선을 이탈하는지 여부를 판단하여 차선 이탈 경보의 출력 여부를 결정하는 영상 처리부를 포함하는 차선 인식 장치.
A lane detection device for lane departure warning of a vehicle,
An image input unit configured to receive a driving image of the vehicle; And
The lane image including the recognition of the lane and the position of the lane is extracted from the driving image received by the image input unit through a lane recognition program, and whether the reliability and lane components of the extracted left and right lane information of the lane are reliable. Comparing a first reference value for determining whether or not the reliability of the lane information is greater than the first reference value to reflect the current lane information, and a second for determining whether the reliability of the lane information and the lane component is unreliable Compared with a reference value, if the reliability of the lane information is less than or equal to the second reference value, previous lane information is reflected. If the reliability of the lane information is a value between the first and second reference values, a preset correction value is reflected in the lane information. The application of left / right lane information is determined, and reliability of the left / right lane information is determined. If it is equal to or more than a preset reference, the input is determined to update whether the left / right lane is a double lane and the location information of the left / right lane in the preset lane model, and whether the vehicle leaves the lane according to the updated lane model. And a video processor configured to determine whether to output a lane departure warning.
제 1 항에 있어서,
상기 영상 처리부로부터 상기 차선 이탈 경보가 출력되면, 운전자가 상기 차선 이탈 경보를 감지할 수 있도록 하는 차선 이탈 경보부를 더 포함하는 것을 특징으로 하는 차선 인식 장치.
The method of claim 1,
And a lane departure warning unit configured to allow a driver to detect the lane departure warning when the lane departure warning is output from the image processing unit.
제 1 항 또는 제 2 항에 있어서,
상기 영상 처리부는 상기 좌/우측 차선이 명확하게 입력되면 상기 좌/우측 차선의 신뢰도가 증가된 후 그 결과를 상기 차선 모델 정보에 반영하여 갱신하고, 상기 좌/우측 차선이 불명확하게 반복되어 입력되면 상기 차선의 신뢰도를 감소시키는 것을 특징으로 하는 차선 인식 장치.
The method according to claim 1 or 2,
If the left / right lane is clearly input, the image processor increases the reliability of the left / right lane, updates the result by reflecting the result in the lane model information, and if the left / right lane is repeatedly inputted in an unclear manner. The lane recognizing apparatus, characterized in that for reducing the reliability of the lane.
제 3 항에 있어서,
상기 감소된 신뢰도가 차선 성분을 신뢰할 수 있는지 여부를 판단하기 위한 기준값 이상이면 그 결과를 상기 차선 모델에 반영하여 갱신하고, 상기 기준값 이하면 상기 차선 모델을 갱신하지 않는 것을 특징으로 하는 차선 인식 장치.
The method of claim 3, wherein
And if the reduced reliability is greater than or equal to a reference value for determining whether to trust a lane component, the result is reflected in the lane model and updated, and if less than the reference value, the lane model is not updated.
제 3 항에 있어서,
상기 영상 처리부는 상기 좌측 및 우측 차선 모두의 신뢰도가 모두 감소하여 차선 모델을 갱신하지 않은 경우 이전의 차선 모델 정보를 통해 차선을 예측하여 인식하는 것을 특징으로 하는 차선 인식 장치.
The method of claim 3, wherein
And the image processor predicts and recognizes the lane based on previous lane model information when the reliability of both the left and the right lanes is decreased and the lane model is not updated.
제 1 항 또는 제 2 항에 있어서,
상기 영상 처리부는 상기 인식되는 차선이 두 줄로 구성된 이중 차선인 경우 차량과 인접한 차선을 차선 이탈의 판단 기준인 대표 차선으로 인식하는 것을 특징으로 하는 차선 인식 장치.
The method according to claim 1 or 2,
And the image processing unit recognizes a lane adjacent to the vehicle as a representative lane that is a criterion for lane departure when the recognized lane is a double lane composed of two lines.
제 1 항 또는 제 2 항에 있어서,
상기 영상 처리부는 상기 인식되는 차선의 좌측 또는 우측 중 어느 한쪽의 차선이 인식되지 않거나 희미하게 인식되어 차선의 신뢰도가 감소하면, 차선의 신뢰도가 높은 다른 쪽 차선의 모델 정보를 통해 상기 신뢰도가 낮은 쪽의 차선을 예측하여 인식하는 것을 특징으로 하는 차선 인식 장치.
The method according to claim 1 or 2,
If the reliability of the lane is reduced because one of the lanes on the left or right side of the recognized lane is not recognized or is faintly recognized, the image processor may have a lower reliability level through model information of the other lane having higher lane reliability. Lane recognition apparatus, characterized in that for predicting the lane of the recognition.
차량의 차선 이탈 방지를 위한 차선 인식 방법으로서,
(a) 영상 입력부에서 입력받은 주행 영상을 영상 처리부에서 차선 인식 프로그램을 통해 차선의 인식과 상기 차선의 위치를 포함한 차선 정보를 추출하는 단계;
(b) 상기 영상 처리부는 상기 단계 (a)에서 추출된 상기 차선의 좌측 및 우측 차선 정보의 신뢰도와 차선 성분을 신뢰할 수 있는지 여부를 판단하기 위한 제 1 기준값을 비교하여 상기 차선 정보의 신뢰도가 상기 제 1 기준값 이상이면 현재 차선 정보가 반영되도록 하고, 상기 차선 정보의 신뢰도와 차선 성분을 신뢰할 수 없는지 여부를 판단하기 위한 제 2 기준값과 비교하여 상기 차선 정보의 신뢰도가 상기 제 2 기준값 이하면 이전 차선 정보가 반영되도록 하며, 상기 차선 정보의 신뢰도가 상기 제 1 및 제 2 기준값 사이의 값이면 미리 설정된 보정값이 차선 정보에 반영되도록 좌/우측 차선 정보의 적용을 결정하는 단계;
(c) 상기 단계 (b)의 신뢰도가 미리 설정된 기준 이상이면 차선 적용을 결정하여 좌/우측의 이중 차선 여부와 상기 좌/우측 차선의 위치 정보를 미리 설정된 차선 모델에서 갱신하는 단계;
(d) 상기 갱신된 좌/우측 차선 정보에 근거하여 차선의 평행도, 차선의 기울기 및 차선의 폭 정보가 정상 범위인지 아닌지 오류를 검증하고, 그 결과 정상 범위가 아니면 이전 차선 모델 정보와 미리 설정된 차선 정보를 사용하여 정상 범위의 차선 모델 정보로 갱신하는 단계; 및
(e) 상기 단계 (d)에서 갱신된 차선 모델의 차선 정보와 신뢰도에 따라 좌/우측 차선을 인식하는 단계를 포함하는 것을 특징으로 하는 차선 인식 방법.
As a lane recognition method for preventing lane departure of a vehicle,
(a) extracting lane information including the lane recognition and the location of the lane through the lane recognition program from the image processing unit using the driving image received from the image input unit;
(b) the image processing unit compares the reliability of the left and right lane information of the lane extracted in the step (a) with a first reference value for determining whether the lane component can be trusted. If the first reference value is greater than or equal to the first reference value, the current lane information is reflected, and if the reliability of the lane information is less than the second reference value compared with a second reference value for determining whether the reliability of the lane information and the lane component are unreliable, the previous lane Determining the application of the left / right lane information so that the information is reflected, and if the reliability of the lane information is a value between the first and second reference values, a preset correction value is reflected in the lane information;
(c) if the reliability of the step (b) is greater than or equal to a preset criterion, determining whether to apply the lane and updating whether the left / right double lane and the location information of the left / right lane are preset in the preset lane model;
(d) verifying whether or not the parallelism of the lane, the slope of the lane, and the width of the lane information are within a normal range based on the updated left / right lane information, and as a result, if the range is not within the normal range, the previous lane model information and the preset lane Updating to normal range lane model information using the information; And
and (e) recognizing left and right lanes according to lane information and reliability of the lane model updated in step (d).
제 8 항에 있어서,
(f) 상기 영상 처리부는 상기 단계 (e)에서 인식된 차선에 대해서만 차량이 차선을 이탈하는지 여부를 판단하여 차선 이탈 경보부로 차선 이탈 경보의 출력을 결정하는 단계를 더 포함하는 것을 특징으로 하는 차선 인식 방법.
The method of claim 8,
and (f) the image processing unit further comprises the step of determining whether the vehicle leaves the lane only for the lane recognized in step (e) and determining the output of the lane departure warning to the lane departure warning unit. Recognition method.
제 8 항 또는 제 9 항에 있어서,
상기 단계 (b)의 차선 정보의 신뢰도는 상기 좌/우측 차선이 명확하게 반복되어 입력되면 상기 좌/우측 차선의 신뢰도는 증가하고, 상기 좌/우측 차선이 불명확하게 반복되어 입력되면 상기 차선의 신뢰도는 감소하는 것을 특징으로 하는 차선 인식 방법.
10. The method according to claim 8 or 9,
The reliability of the lane information of step (b) is that the reliability of the left / right lanes is increased if the left / right lanes are clearly repeated, and the reliability of the lanes is input if the left / right lanes are unclearly repeated. Lane recognition method characterized in that the decrease.
제 8 항 또는 제 9 항에 있어서,
상기 단계 (b)의 차선 정보의 신뢰도는 차선의 기울기 정보가 일정 범위 안에서 변하지 않는 경우 신뢰도는 감소하는 것을 특징으로 하는 차선 인식 방법.
10. The method according to claim 8 or 9,
And the reliability of the lane information of step (b) decreases when the slope information of the lane does not change within a predetermined range.
삭제delete 제 8 항 또는 제 9 항에 있어서,
상기 단계 (c)는 상기 차선의 좌측 또는 우측 중 어느 한쪽의 차선이 인식되지 않거나 희미하게 인식되어 차선의 신뢰도가 감소하면, 차선의 신뢰도가 높은 다른 쪽 차선의 모델 정보를 통해 상기 신뢰도가 낮은 쪽의 차선을 예측하여 인식하도록 갱신하는 것을 특징으로 하는 차선 인식 방법.
10. The method according to claim 8 or 9,
In the step (c), when the lane of either the left or the right of the lane is not recognized or is faintly recognized and the reliability of the lane is decreased, the reliability is lower through the model information of the other lane having the higher reliability of the lane. And recognizing and updating the lane to predict and recognize the lane.
제 8 항 또는 제 9 항에 있어서,
상기 단계 (c)는 상기 차선의 좌측 및 우측 차선 모두 인식되지 않거나 희미하게 인식되어 차선의 신뢰도가 차선 성분을 신뢰할 수 없는 값인 제 2 기준값 이하면, 이전의 차선 모델 정보를 일정 시간 유지한 후에 차선 미인식 상태로 변경하도록 갱신하는 것을 특징으로 하는 차선 인식 방법.
10. The method according to claim 8 or 9,
In step (c), if both the left and right lanes of the lane are not recognized or are faintly recognized, and the reliability of the lane is less than or equal to a second reference value at which the lane component is unreliable, the lane may be maintained after maintaining the previous lane model information for a predetermined time. And updating to change to an unrecognized state.
제 8 항 또는 제 9 항에 있어서,
상기 단계 (c)에서 상기 차선이 두 줄로 구성된 이중 차선인 경우 차선 이탈의 판단 기준으로 차량과 인접한 차선을 대표 차선으로 설정하는 것을 특징으로 하는 차선 인식 방법.
10. The method according to claim 8 or 9,
In the step (c), if the lane is a double lane consisting of two lines, the lane detection method characterized in that the lane adjacent to the vehicle is set as the representative lane based on the determination of lane departure.
KR1020100046285A 2010-05-18 2010-05-18 Apparatus and method for recognizing lane KR101166349B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020100046285A KR101166349B1 (en) 2010-05-18 2010-05-18 Apparatus and method for recognizing lane

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020100046285A KR101166349B1 (en) 2010-05-18 2010-05-18 Apparatus and method for recognizing lane

Publications (2)

Publication Number Publication Date
KR20110126820A KR20110126820A (en) 2011-11-24
KR101166349B1 true KR101166349B1 (en) 2012-07-18

Family

ID=45395703

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100046285A KR101166349B1 (en) 2010-05-18 2010-05-18 Apparatus and method for recognizing lane

Country Status (1)

Country Link
KR (1) KR101166349B1 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140047894A (en) * 2012-10-15 2014-04-23 현대모비스 주식회사 Warning apparatus and method for reducing car body vibration
CN104670229A (en) * 2013-11-28 2015-06-03 现代摩比斯株式会社 Apparatus and method for generating virtual lane, and system for controlling lane keeping of vehicle with the apparatus

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101502510B1 (en) 2013-11-26 2015-03-13 현대모비스 주식회사 Apparatus and method for controlling lane keeping of vehicle
KR102287312B1 (en) 2015-09-22 2021-08-09 현대자동차주식회사 Apparatus for controlling lane keeping assist system in vehicle and method thereof
CN114889633B (en) * 2022-06-13 2024-06-14 东风汽车集团股份有限公司 Display method for intelligent driving automobile front lane line and front automobile display

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100482564B1 (en) * 2002-07-08 2005-04-14 현대자동차주식회사 Traffic line detection controlling device of vehicle and method thereof
JP2010069921A (en) * 2008-09-16 2010-04-02 Toyota Motor Corp Lane recognition device

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100482564B1 (en) * 2002-07-08 2005-04-14 현대자동차주식회사 Traffic line detection controlling device of vehicle and method thereof
JP2010069921A (en) * 2008-09-16 2010-04-02 Toyota Motor Corp Lane recognition device

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140047894A (en) * 2012-10-15 2014-04-23 현대모비스 주식회사 Warning apparatus and method for reducing car body vibration
CN104670229A (en) * 2013-11-28 2015-06-03 现代摩比斯株式会社 Apparatus and method for generating virtual lane, and system for controlling lane keeping of vehicle with the apparatus

Also Published As

Publication number Publication date
KR20110126820A (en) 2011-11-24

Similar Documents

Publication Publication Date Title
US9031774B2 (en) Apparatus and method for preventing collision of vehicle
KR101362324B1 (en) System and Method for Lane Departure Warning
KR101166349B1 (en) Apparatus and method for recognizing lane
JP4604691B2 (en) Alarm device for vehicle, alarm method of vehicle surrounding situation
KR101986734B1 (en) Driver assistance apparatus in vehicle and method for guidance a safety driving thereof
KR102529919B1 (en) Apparatus, system and method for managing drowsy driving
JP5609293B2 (en) Lane departure warning device and warning method
KR101124948B1 (en) Alarm system for informing start of front vehicle
KR101936862B1 (en) System for improving the traffic lane recognition using a front image and side image of vehicle and method thereof
JP2005182753A (en) Vehicle driving assisting apparatus
KR101148920B1 (en) Apparatus and method for preventing false alarm of lane departure warning
KR100588563B1 (en) Method for a traffic line recognition of using image on vehicle
KR102426517B1 (en) Walking signal control device through image-based object recognition and surrounding environment detection
JP2007219836A (en) Vehicle travel support device
JP2009064274A (en) Pedestrian recognition system
JP5045628B2 (en) Lane departure prevention device
KR101823385B1 (en) Device and method of improving recognition rate of LDWS(Lane Departure Warning System) using AVM side camera
KR100383538B1 (en) Method and system for warning departure of traffic lane
KR102658708B1 (en) Collision risk notification system and method through warm-blooded animal detection and approach predictive learning
JP2005267030A (en) Pedestrian outline extraction method and pedestrian outline extraction device
KR102106361B1 (en) Vehicle Controlling Method and Apparatus therefor
KR101651562B1 (en) Lane departure sensitivity maintainable method of an image recording apparatus having a lane departure detection
US20170256166A1 (en) Information processing apparatus, information processing method, and computer program product
JP2008257399A (en) Image processor
CN115690748B (en) Method for occupancy class prediction and method for occlusion value determination

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20150713

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20160711

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20170711

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20180709

Year of fee payment: 7

FPAY Annual fee payment

Payment date: 20190708

Year of fee payment: 8