KR101510745B1 - 차량의 무인 자율주행 시스템 - Google Patents
차량의 무인 자율주행 시스템 Download PDFInfo
- Publication number
- KR101510745B1 KR101510745B1 KR20140007731A KR20140007731A KR101510745B1 KR 101510745 B1 KR101510745 B1 KR 101510745B1 KR 20140007731 A KR20140007731 A KR 20140007731A KR 20140007731 A KR20140007731 A KR 20140007731A KR 101510745 B1 KR101510745 B1 KR 101510745B1
- Authority
- KR
- South Korea
- Prior art keywords
- vehicle
- information collection
- collection sensor
- image
- unit
- Prior art date
Links
- 238000000034 method Methods 0.000 claims abstract description 16
- 238000004891 communication Methods 0.000 claims description 14
- 238000010586 diagram Methods 0.000 description 5
- 230000007613 environmental effect Effects 0.000 description 5
- 238000001514 detection method Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 3
- 238000007689 inspection Methods 0.000 description 3
- 230000001149 cognitive effect Effects 0.000 description 2
- 238000012850 discrimination method Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000004899 motility Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
- B60W30/10—Path keeping
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
Landscapes
- Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Physics & Mathematics (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Mathematical Physics (AREA)
- Aviation & Aerospace Engineering (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- General Physics & Mathematics (AREA)
- Navigation (AREA)
- Traffic Control Systems (AREA)
Abstract
본 발명은 3차원 레이저 스캐너를 이용한 차량의 무인 자율주행 시스템에 관한 것으로, 차량의 측위를 위한 차량 항법 정보 수집센서부; 상기 차량의 주변 장애물 정보를 수집하는 것으로, 3차원 레이저 스캐너를 이용한 장애물 정보 수집센서부; 카메라를 통해 상기 차량 주변의 영상 정보를 수집하는 영상 정보 수집센서부; 상기 차량의 주행을 위한 주행 제어부; 및 상기 센서들과 상기 주행 제어부을 통합 제어하는 통합제어부를 포함한다.
이와 같이, 본 발명은 무인 차량의 다양한 주변 환경 정보를 효율적으로 획득하고, 실제 환경에 근접한 환경정보를 실시간으로 높은 인지율을 가지고 인지할 수 있는 환경인지 시스템을 제공할 뿐만 아니라, 영상 정보 수집센서의 인식을 더욱 효과적으로 할 수 있고, 영상센서의 인식오류를 제거하여 차량의 환경인지 인식율을 높여 양질의 무인자율 주행 시스템 및 그 방법을 제공한다.
이와 같이, 본 발명은 무인 차량의 다양한 주변 환경 정보를 효율적으로 획득하고, 실제 환경에 근접한 환경정보를 실시간으로 높은 인지율을 가지고 인지할 수 있는 환경인지 시스템을 제공할 뿐만 아니라, 영상 정보 수집센서의 인식을 더욱 효과적으로 할 수 있고, 영상센서의 인식오류를 제거하여 차량의 환경인지 인식율을 높여 양질의 무인자율 주행 시스템 및 그 방법을 제공한다.
Description
본 발명은 무인 자율주행 시스템에 관한 것으로, 보다 상세하게는 영상 정보의 수집을 더욱 효과적으로 수행하고, 인식률을 높일 수 있는 3차원 레이저 스캐너를 이용한 차량의 무인 자율주행 시스템에 관한 것이다.
근래에 들어서 3D 산업현장, 화성탐사와 같은 우주 개척사업 그리고 감시 및 정찰의 군사 분야처럼 인간의 접근과 개입이 어렵거나 불가능한 거친 외부환경에서 운용되는 무인차량에 대한 필요성이 증가하고 있다.
무인차량이 다양한 환경에서 주어진 임무를 완수하기 위해서는 여러 분야의 기술들을 필요로 하지만 가장 근본적인 기술은 안전하고 빠른 최적의 경로를 통해 주어진 임무지역까지 자율적으로 주행해 가는 자율주행(Autonomous Navigation) 기술이다.
무인차량의 자율주행 기술은 무인차량에 장착된 센서의 탐지영역을 기준으로 전역경로계획(Global Path-Planning, GPP)과 지역경로계획(Local Path-Planning, LPP)과 같이 계층적으로 구성된다.
전역경로계획은 숙고적인 계층으로 미리 제공된 DEM(Digital Elevation Map)/DSM(Digital Surface Map) 및 FDB(Feature Data Base)를 기반으로 산이나 호수와 같은 대규모의 지형적 특성 그리고 임무위험도를 고려하여 주어진 목표점까지의 합리적인 경로설정을 오프라인상에서 수행한다.
지역경로계획은 보다 반응적인 계층으로 다양한 센서를 통해 가장 최근에 획득한 대략 수십 미터 이내의 월드모델링 데이터로부터 지형 경사도 및 거칠기와 같은 지형정보와 다양한 장애물 정보를 추출하고, 이를 활용하여 전역경로계획에서 생성한 다음 경유점까지의 이동경로를 안전성(safety)과 안정성(stability) 관점에서 실시간으로 설정한다.
이러한 지역경로계획과 관련된 기존의 대표적인 방법으로는 Wall Following기법, VFF(Virtual Force Field/VFH(Vector Field Histogram)기법 그리고 휴리스틱 탐색기법이 있다.
한편, 가장 널리 알려진 휴리스틱 탐색기법 중 하나인 알고리즘을 활용하여 무인차량에서 실제 활용 가능한 지역경로계획 기법을 구현하기 위해서는 경로점 지향적인 목표점의 선정과 그 목표점까지의 효율적인 경로생성, 그리고, 격자지도 기반으로 계획된 2경로를 무인차량의 운동성을 고려한 경로로 재생성하는 문제 등을 고려하여야 한다.
그러나, 이와 같은 자율주행 기법에서 센서들로부터 획득한 데이터를 이용하여 자율주행 모델링을 적용하는 능동적 모델링 이전에 각각의 센서들로부터 어떤 데이터를 획득하고, 각각의 데이터를 어떻게 연동하여 무인 자율주행에 필요한 정보를 수집하여 차량의 주행시스템을 어떻게 제어할 것인가에 대한 문제가 더 시급한 실정이다.
종래에는 무인자율주행차량 시스템은 기존의 양산 공급되는 승용 차량 플랫폼에 추가적인 센서들을 장착하고, 기존의 차량의 센서와 추가한 센서에서 수집 되어지는 차량 주행 정보와 주변 환경 정보들을 통합하여 차량의 추가되는 센서들로는 차량 항법 정보 및 영상 정보 등을 이용하여, 무인 자율주행 모델링의 기본데이터로 활용하고 있지만, 통합적이고 효율적인 데이터 획득 및 생성의 시스템 구성이 필요하고, 특히 장애물 및 무인 자율주행 차량의 주변환경을 인지할 수 있는 환경인지 시스템의 효율적 구성이 필요한 실정이다.
상술한 문제를 해결하고자 하는 본 발명의 과제는 무인 차량의 환경 정보를 효율적으로 획득하고, 환경정보를 실시간으로 높은 인지율을 가지고 인지할 수 있는 환경인지 시스템을 제공할 뿐만 아니라, 무인 차량의 환경인지 인식율을 높여 양질의 무인자율 주행 시스템 및 그 방법을 제공하고자 함이다.
상술한 과제를 해결하고자 하는 본 발명의 특징은 차량의 측위를 위한 차량 항법 정보 수집센서부; 상기 차량의 주변 장애물 정보를 수집하는 것으로, 3차원 레이저 스캐너를 이용한 장애물 정보 수집센서부; 카메라를 통해 상기 차량 주변의 영상 정보를 수집하는 영상 정보 수집센서부; 상기 차량의 주행을 위한 주행 제어부; 및 상기 센서들과 상기 주행 제어부을 통합 제어하는 통합제어부를 포함한다.
여기서, 상기 차량 항법 정보 수집센서는, 차량의 항법 측위를 위한 위성항법 측위장치(GPS)와, 상기 차량의 뒷 바퀴의 회전비를 산출하는 엔코더를 포함하는 것이 바람직하고, 상기 장애물 정보 수집센서는, 3대의 레이저 스캐너로 구성된 것을 것이 바람직하다.
또한, 바람직하게는 영상 정보 수집센서부는, 상기 차량 중심 상단 전방에 설치된 전방 카메라와, 상기 차량 중심 상단 후방에 설치된 후방 카메라로 구성일 수 있고, 상기 차량 항법 정보 수집센서, 장애물 정보 수집센서, 주행 시스템 및 통합제어부가 이더넷 통신망으로 연결된 것일 수 있다.
더하여, 상기 통합제어부는, 상기 센서들의 인터페이스를 위해 RS422 통신을 상기 이더넷 통신으로 변환하는 임베디드 보드가 설치된 것이 바람직하고, 상기 통합제어부는, 상기 센서들에서 측정된 데이터를 저장하고 재생하는 DB 관리부와, 상기 DB를 분석 및 판단하는 DB 분석부와, 상기 시스템을 통합제어하는 통합제어 실행부와, 주행 시스템을 제어하고 명령하는 차량제어 명령부로 구성된 것이 바람직하다.
이와 같이, 본 발명은 무인 차량의 다양한 주변 환경 정보를 효율적으로 획득하고, 실제 환경에 근접한 환경정보를 실시간으로 높은 인지율을 가지고 인지할 수 있는 환경인지 시스템을 제공할 뿐만 아니라, 영상 정보 수집센서의 인식을 더욱 효과적으로 할 수 있고, 영상센서의 인식오류를 제거하여 차량의 환경인지 인식율을 높여 양질의 무인자율 주행 시스템 및 그 방법을 제공한다.
도 1은 본 발명의 실시예에 따른 차량의 무인자율 주행 시스템의 블록 구성을 나타낸 도면이고,
도 2는 본 발명의 실시예에 다른 차량의 무인자율 주행 시스템의 수신된 너3차원 레이저 스캐 데이터를 나타낸 그래프이고,
도 3은 본 발명의 실시예에 따른 차량의 무인자율 주행 시스템에서 가변신호 인지 영상을 나타낸 사진이고,
도 4는 본 발명의 실시예에 따른 차량의 무인자율 주행 시스템에서 가변신호 인지 영상에서 2차 관심영역 영상을 나타낸 사진이고,
도 5는 본 발명의 실시예에 따른 차량의 무인 자율주행 시스템에서 횡단보도 미션 영상을 나타낸 사진이고,
도 6은 도 5의 영상을 RGB 색상정보를 Ycrcb 이미지로 변환 후 cr 채널에서 좌우 이미지를 나타낸 사진이고,
도 7은 본 발명의 실시예에 따른 차량의 무인 자율주행 시스템에서 허프 변환을 통해 획득한 차선영상과 가상의 탑뷰(virtual topview) 영상을 나타내고,
도 8은 본 발명의 실시예에 따른 차량의 무인 자율주행 시스템에서 처리한 탑승대기자 미션 구간의 관심영역 사진이고,
도 9는 후보군 집단을 나타낸 사진이고,
도 10은 본 발명의 실시예에 따른 차량의 무인 자율주행 시스템에서 후방 카메라로 촬영한 주차구역의 영상이고,
도 11는 본 발명의 실시예에 따른 차량의 무인 자율주행 시스템에서 주차장판별 방법을 나타내는 모식도이다.
도 2는 본 발명의 실시예에 다른 차량의 무인자율 주행 시스템의 수신된 너3차원 레이저 스캐 데이터를 나타낸 그래프이고,
도 3은 본 발명의 실시예에 따른 차량의 무인자율 주행 시스템에서 가변신호 인지 영상을 나타낸 사진이고,
도 4는 본 발명의 실시예에 따른 차량의 무인자율 주행 시스템에서 가변신호 인지 영상에서 2차 관심영역 영상을 나타낸 사진이고,
도 5는 본 발명의 실시예에 따른 차량의 무인 자율주행 시스템에서 횡단보도 미션 영상을 나타낸 사진이고,
도 6은 도 5의 영상을 RGB 색상정보를 Ycrcb 이미지로 변환 후 cr 채널에서 좌우 이미지를 나타낸 사진이고,
도 7은 본 발명의 실시예에 따른 차량의 무인 자율주행 시스템에서 허프 변환을 통해 획득한 차선영상과 가상의 탑뷰(virtual topview) 영상을 나타내고,
도 8은 본 발명의 실시예에 따른 차량의 무인 자율주행 시스템에서 처리한 탑승대기자 미션 구간의 관심영역 사진이고,
도 9는 후보군 집단을 나타낸 사진이고,
도 10은 본 발명의 실시예에 따른 차량의 무인 자율주행 시스템에서 후방 카메라로 촬영한 주차구역의 영상이고,
도 11는 본 발명의 실시예에 따른 차량의 무인 자율주행 시스템에서 주차장판별 방법을 나타내는 모식도이다.
본 발명의 이점 및 특징, 그리고 그것을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 통해 설명될 것이다. 그러나 본 발명은 여기에서 설명되는 실시예들에 한정되지 않고 다른 형태로 구체화될 수도 있다. 단지, 본 실시예들은 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 본 발명의 기술적 사상을 용이하게 실시할 수 있을 정도로 상세히 설명하기 위하여 제공되는 것이다.
도면들에 있어서, 본 발명의 실시예들은 도시된 특정 형태로 제한되는 것이 아니며 명확성을 기하기 위하여 과장된 것이다. 또한 명세서 전체에 걸쳐서 동일한 참조번호로 표시된 부분들은 동일한 구성요소를 나타낸다.
본 명세서에서 "및/또는"이란 표현은 전후에 나열된 구성요소들 중 적어도 하나를 포함하는 의미로 사용된다. 또한, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 또한, 명세서에서 사용되는 "포함한다" 또는 "포함하는"으로 언급된 구성요소, 단계, 동작 및 소자는 하나 이상의 다른 구성요소, 단계, 동작, 소자 및 장치의 존재 또는 추가를 의미한다.
이하에서 본 발명의 바람직한 실시예를 도면을 참조하여 상세히 설명하기로 한다.
도 1은 본 발명의 실시예에 따른 차량의 무인자율 주행 시스템의 블록 구성을 나타낸 도면이다. 도 1에 나타낸 바와 같이, 본 발명의 실시예에 따른 차량의 무인자율 주행 시스템은, 차량의 측위를 위한 차량 항법 정보 수집센서부(100); 상기 차량의 주변 장애물 정보를 수집하는 것으로, 3차원 레이저 스캐너를 이용한 장애물 정보 수집센서부(200); 카메라를 통해 상기 차량 주변의 영상 정보를 수집하는 영상 정보 수집센서부(300); 상기 차량의 주행을 위한 주행 제어부(400); 및 상기 센서들과 상기 주행 제어부을 통합 제어하는 통합제어부(500)를 포함하여 구성된다.
본 발명의 실시예에 따른 차량의 무인자율 주행 시스템에서 장착한 센서 및 장치 리스트는 [표 1]과 같다.
여기서, 차량의 측위를 위한 차량 항법 정보 수집센서부(100)로서 GPS 시스템을 사용하고, 여기서 GPS는 NovAtel DL-V3를 사용하였고 국토지리원에서 제공하는 Network-RTK를 이용하여 VRS를 통해 보정신호를 제공받았다. 정밀한 차량속도를 측정하기 위해 뒷바퀴 축에 두 개의 엔코더를 바퀴 안쪽 방향에 장착하였다.
그리고, 장애물 정보 수집센서부(200)로서, 레이저스캐너(Lidar)는 LMS511-PRO 두대와 LMS291-S50 1대를 사용하였는데 LMS291-S05의 변환하는 임베디드 보드를 LM3S8962로 구현하여 장착하였다. 3차원 레이저 스캐너(벨로다인 스캐너)는 32 채널 3 차원 레이저 스캐너로 시스템 통신망과 분리된 통신망을 구축하여 PC로 수신하였고, 처리된 정보는 시스템 통신망으로 전송하였다.
영상 정보 수집센서부(300)의 영상센서는 Logitech 사의 C910 웹 카메라 두대이며, 카메라의 위치는 차량 중심 차량 상단에 전방 캠과 상단의 후방에 설치하였다. PC는 i5 급으로 4 대를 조립 제작하였고 항법 및 차량제어시스템 1 대, 영상시스템 1대, 3차원 레이저 스캐너(벨로다인) 1대 그리고 통합시스템 1대, 총 4대를 이더넷 통신망으로 연결하여 시스템 통신망으로 사용하였다. 24V 발전기를 추가 장착하였고 12V 배터리 2개를 직렬연결하여 차량전원과 분리되는 24V 전원을 구성한 후 DC-DC 변환기를 사용하여 24V, 12V, 5V를 각 장치와 센서에 공급하였고, DC-AC 변환기를 2개 장착하여 220V 전원을 공급하였다.
스마트 모터를 조향축에 1개, RS232 통신을 이더넷 통신으로 변환하는 인터페이스 2 대를 LM3S8962로 구현하여 장착하였다. 차량 CAN과 게이트웨이 CAN을 접속할 수 있는 CAN 수신기 2개와 디지털 아날로그 입출력을 위한 DAQ 보드 2개를 사용하였다.
시스템 구성은 도 1에 나타낸 바와 같이, 크게 인지 시스템 및 제어 시스템으로 구분하였다. 본 발명의 실시예에 따른 차량의 무인자율 주행 시스템에서 인지는 차량위치와 속도, 방향 등을 감지하는 차량 항법인지, 레이저스캐너 등을 이용하는 장애물 인지, 카메라 영상 인지로 나누어 개시한다.
도 1에서는 본 발명의 실시예에 따른 차량의 무인자율 주행 시스템에서 통합제어부(500)는, 센싱 DB 관리, DB 분석 & 판단, 통합제어기 실행, 차량제어 명령의 네 부분으로 구성되어 있다. 센싱 DB 관리는 인지시스템에서 센싱한 센서 데이터를 수집하여 파일로 저장하고 재생하는 기능을 담당한다. 파일 재생 기능은 주행 데이터를 이용한 시뮬레이션 실험에 사용하였다.
DB 분석 및 판단에서는 센싱된 데이터를 바탕으로 수행할 미션상태를 판단한다. 통합제어기에서는 판단된 미션을 수행한다. 차량제어 명령은 통합제어기 실행을 바탕으로 횡방향, 종방향, 등의 제어 명령을 생성한다.
그리고 차량의 주행을 위한 주행 제어부(400)은 조향제어, 제동장치 제어, 가속제어, 기어제어, CAN제어 시스템을 포함하여 구성되고, 이와 같은 주행 제어부의 각 구성요소들은 통합제어부(500)을 통해 상기 수집센서부에서 획득한 데이터를 수집하여 무인 차량의 주행을 위한 제어명령 신호를 생성하여 통합제어하게 된다.
환경인지
환경인지를 위하여 미리 지정된 경로(waypoint) 파일을 수정하여 미션 검사 범위를 지정할 수 있도록 하였다. 미션 검사 영역을 지정하지 않은 미션에 대해서는 전 영역에서 미션 검사를 수행한다. 미션은 총 9 개로 구성되었는데 1)GPS 불가, 2) 서행차량 추월, 3) 돌발 장애물, 4) 복합 장애물, 5) 차단봉 미션은 레이저 스캐너로만 미션 인지한다. 7) 횡단보도 및 신호등 인식, 8)교차로 가변신호, 9)주차번호 인식 및 주차 미션은 영상 정보와 3차원 레이저 스캐너의 정보를 통합적으로 적용하여 인지한다.
횡단보도 신호등 미션은 횡단보도 위치와 신호등 상태 검출은 영상으로 하였고 신호등 위치는 레이저스캐너로 검출한다. 영상처리에서는 신호등 검출 오류 확인을 위해 레이저 스캐너에서 검출한 신호등 위치를 이용한다. 교차로 가변신호 미션은 레이저 스캐너로 읽은 신호등 위치를 바탕으로 신호등 상태를 영상에서 상태를 인지한다. 주차번호 인식 및 주차 미션은 주차번호 표지판의 위치는 레이저 스캐너로 읽고 주파번호 숫자와 주차선의 위치는 영상에서 처리한다.
여기서, 3차원 레이저 스캐너 환경인지를 살펴보면, 본 발명의 실시예에서 사용한 3치원 레이저 스캐너(벨로다인 스캐너: 모델명 HLD-32)는 32 채널을 가진 3차원 레이저 스캐너로서 이더넷 통신으로 1248 바이트 크기의 데이터 패킷이 1ms 간격으로 초당 1000 개 수신된다. 이들 데이터를 모두 실시간 처리하기에는 속도의 문제가 있어서 프로그램을 데이터 수신부와 처리부로 분리해서 작성하였다. 데이터 수신부에서는 차량 전방의 데이터만을 수신하도록 하고 차량 후방을 읽은 데이터는 모두 버리고 후방 데이터가 수신되는 때에 전방에서 수신된 데이터에서 장애물 검색 등을 처리하는 데이터 처리부 프로그램을 실행한다.
도 2는 본 발명의 실시예에 다른 차량의 무인자율 주행 시스템의 수신된 3차원 레이저 스캐너 데이터를 나타낸 그래프이다. 도 2에 나타낸 바와 같이, 차량 후방부의 데이터는 처리하지 않고 모두 무시된다. 수신된 데이터는 차량중심 좌표계로 (x,y,z) 형태로 변환하고 0.5 ~ 3 미터 높이를 가진 데이터만을 남기고 나머지는 소거하여 장애물로 인식한다. 위의 그림에서 흰 점들은 수신된 데이터이고 붉게 표신된 점은 장애물로 인지된 점이다. 수신된 데이터는 주어진 미션 별로 미리 정해둔 그림에서는 도로 중앙에 교차로 가변신호 미션의 신호등을 볼 수 있다. 데이터 처리부에서는 미션별로 정해진 관심 영역에 정해진 크기의 장애물이 있는지 검사하여 상태를 결정하고 감지한 장애물 위치와 미션 상태를 이더넷을 통하여 UDP 방송한다.
3치원 레이저 스캐너로 인지한 내용은 도로 경계 정보와 주행 경로상의 장애물 정보, 도로 경계부근의 교통표지판, 신호등 위치 등이고 미션 별로 다르게 정의된다. 주차 미션을 위한 번호판 위치와 횡단보도 신호등 위치, 교차로 가변신호 미션의 신호등 위치 정보 등은 영상에서 인식률을 높이기 위하여 이용한다.
영상 센서 환경인지를 살펴보면, 영상 정보 수집센서부는 통합제어부와 통신하여 미션과 관계된 데이터를 이더넷 통신으로 송/수신한다. 영상 정보 수집센서부로 수신되는 메시지는 도로정보, 미션정보, 미션상태, 레이저 스캐너로 읽은 장애물 정보, GPS로 부터 획득한 위치정보, 시간 데이터 등이다.
영상 정보 수집센서부가 송신하는 메시지는 카메라 번호와 미션번호, 횡단보도의 신호등 상태, 좌우가변신호등의 상태 및 거리, 정지선 및 보행자까지의 거리, 주차 번호 표지판 및 주차장 위치를 전송하게 된다. 또한 차량에 고정된 카메라와 레이저스캐너는 차량중심좌표계로 캘리브레이션(Calibration) 되어 처리된다. 대회에서 영상센서가 수행한 미션은 총 네 가지로 가변신호 미션, 횡단보도 미션, 탑승대기자, 후방주자 미션 등이다.
가변신호 인지는 가변신호 미션구간에 진입하면 통합제어 시스템으로부터 오프로드의 가변신호 미션메시지를 받는다. 이때 전방의 영상센서로부터 들어온 이미지는 도 3과 같다. 도 3은 본 발명의 실시예에 따른 차량의 무인자율 주행 시스템에서 가변신호 인지 영상을 나타낸 사진이고, 도 4는 본 발명의 실시예에 따른 차량의 무인자율 주행 시스템에서 가변신호 인지 영상에서 2차 관심영역 영상을 나타낸 사진이다.
도 3에 나타낸 바와 같이, 이미지 상에서 1차 관심영역(ROI)은 노란색 박스로 표시하였으며, 노란색 박스는 화면 중심부를 기준으로 차량이 도로 중심으로 가지 않는 경우와 도로의 폭을 고려하여 관심영역 이미지 폭을 넓게 설정하고, ROI 이미지는 높이는 신호등의 높이와 거리를 고려하여 설정하였다. 이후 레이저스캐너로부터 얻은 가변신호등의 기둥 위치를 통해 1차 관심영역 이미지 영역의 내부에서 2차 관심영역 설정한다. 아래 그림은 2차 관심영역을 보여준다.
도 4에 나타낸 바와 같이, 2차 관심영역에서는 수직 엣지 성분을 추출하여 기울기를 판단하고 신호등의 위치를 인지한다. 가변신호 등의 기둥위치를 기준으로 가변신호등의 색상 정보를 이용하여 좌, 우를 구분하게 된다.
횡단보도 인지에서는, 횡단보도 미션구간에 진입하면 통합제어 시스템으로부터 온로드 횡단보도 미션 메시지를 받는다. 도 5는 본 발명의 실시예에 따른 차량의 무인 자율주행 시스템에서 횡단보도 미션 영상을 나타낸 사진이고, 도 6은 도 5의 영상을 RGB 색상정보를 Ycrcb 이미지로 변환 후 cr 채널에서 좌우 이미지를 나타낸 사진이다. 이미지에서 관심영역을 우측 영역으로 설정하고 횡단보도 신호등의 색상을 이용하여 현재 신호등의 상태를 확인한다.
도 6에 나타낸 바와 같이, RGB 색상정보를 Ycrcb 이미지로 변환 후 cr 채널엣 신호등의 빨간 부분을 검출할 수 있도록 임계값을 지정하여 이미지를 이진화 하였다. 이진화된 이미지에서 픽셀을 카운터 하여 차량과 가까운 신호등만 판단한다.
신호등정보에 따라 통합메시지로 신호등정보를 송신한다. 초록 등이 인지되면 미션구간이 끝날 때까지 신호등 검출에 계속 머물러 있게 되지만, 신호등 영역으로부터 빨간 등이 인지되면 횡단보도 앞의 정지선을 검출하게 된다. 정지선 검출은 그레이 이미지에서 블러(blur) 후 소벨엣지로 검출을 하며, 허프변환을 통해 직선 성분을 얻어 차선을 획득한다.
도 7은 본 발명의 실시예에 따른 차량의 무인 자율주행 시스템에서 허프 변환을 통해 획득한 차선영상과 가상의 탑뷰(virtual topview) 영상을 나타낸다. 탑뷰 영상에서 정지선까지 거리를 측정한다. 탑뷰 이미지에서 차량 위치로부터 6개 점을 수직으로 평행하게 진행시켜 정지선을 찾는다. 점들이 서로 비슷한 높이에 있는 경우 정지선을 판단하여 정지선까지의 거리를 연산 후 통합시스템으로 전송한다.
탑승대기자 인지를 살펴보면, 도 8은 본 발명의 실시예에 따른 차량의 무인 자율주행 시스템에서 처리한 탑승대기자 미션 구간의 관심영역 사진이고, 도 9는 후보군 집단을 나타낸 사진이다. 도 8에 나타낸 바와 같이, 탑승대기자 미션에서는 첫 번째로 RGB 이미지를 Ycrcb 이미지로 변환 후 cr 채널에서 이진화 영상을 획득한다. 주변에 있을 더미의 가능성을 고려하여 탑승자로 판단되는 다수의 후보군 집단을 만든다.
그리고, 도 9에 나타낸 바와 같이, 회색 포인트는 후보군 집단들을 표시한 이미지로서, 후보군 집단에서 아래쪽으로는 그레이영상으로 탑승대기자의 하체부분을 찾는다. 하체의 끝을 찾으면 포인트로 표시하고, 좌표계 변환을 통해서 자율주행자동차와 탑승 대기자 사이 거리를 계산한다.
도 10은 본 발명의 실시예에 따른 차량의 무인 자율주행 시스템에서 후방 카메라로 촬영한 주차구역의 영상이다. 후방 주차는 GPS 상의 주차장 좌표를 이미지상의 좌표로 변환하여 차량을 기준으로 1미터 간격마다 주차장을 확인한다. 도 11는 본 발명의 실시예에 따른 차량의 무인 자율주행 시스템에서 주차장판별 방법을 나타내는 모식도이다.
먼저 주차장 좌우 세로선을 찾기 위하여 주차장 체크점 상,하로 두개의 가로라인을 그어 두 쌍의 세로선을 찾는다. 주차장 상하 가로선을 찾기 위하여 앞서 찾은 두 쌍의 세로선 중점을 지나는 세로라인을 그어 상하 가로선을 찾는다. 도 11의 어러 경우에 보여지듯이 찾은 점은 주차장 상하 가로선의 각 중앙점이 된다. 이 두점으로 주차장 좌우 세로선의 중앙점도 찾을 수 있다.
이렇게 찾아낸 상, 하, 좌, 우 중앙점은 통합시스템으로 전송되고 네 점의 좌우 길이와 상하 길이는 주차장의 폭과 길이가 된다. 주차장의 길이와 폭은 주차장을 판별하는 파라미터로 사용된다. 주차장이 인지되면 통합제어 시스템은 차량을 주차장에 주차할 수 있게 제어한다.
이와 같이, 본 발명은 장애물 정보 수집센서부의 3차원 레이저 스캐너로 얻은 장애물 정보를 이용하여 영상 정보 수집센서부의 인식을 더욱 효과적으로 할 수 있는 방법을 제안하고, 이 결과 영상센서의 인식오류를 제거할 수 시스템 및 방법을 제공한다.
이상의 설명에서 본 발명은 특정의 실시 예와 관련하여 도시 및 설명하였지만, 특허청구범위에 의해 나타난 발명의 사상 및 영역으로부터 벗어나지 않는 한도 내에서 다양한 개조 및 변화가 가능 하다는 것을 당 업계에서 통상의 지식을 가진 자라면 누구나 쉽게 알 수 있을 것이다.
100: 차량 항법 정보 수집센서부, 200: 장애물 정보 수집센서부,
300: 영상 정보 수집센서부, 400: 주행 제어부,
500: 통합제어부
300: 영상 정보 수집센서부, 400: 주행 제어부,
500: 통합제어부
Claims (7)
- 차량의 측위를 위한 차량 항법 정보 수집센서부;
상기 차량의 주변 장애물 정보를 수집하는 것으로, 3대의 레이저 스캐너로 구성된 3차원 레이저 스캐너를 이용한 장애물 정보 수집센서부;
카메라를 통해 상기 차량 주변의 영상 정보를 수집하는 영상 정보 수집센서부;
상기 차량의 주행을 위한 주행 제어부; 및
상기 센서들과 상기 주행 제어부을 통합 제어하고, 상기 센서들의 인터페이스를 위해 RS422 통신을 이더넷 통신으로 변환하는 임베디드 보드가 설치되는 통합제어부를 포함하되,
상기 차량 항법 정보 수집센서, 장애물 정보 수집센서부, 주행 제어부 및 통합제어부가 이더넷 통신망으로 연결되는 것을 특징으로 하는 차량의 무인자율 주행 시스템.
- 제1항에 있어서,
상기 차량 항법 정보 수집센서는,
차량의 항법 측위를 위한 위성항법 측위장치(GPS)와, 상기 차량의 뒷 바퀴의 회전비를 산출하는 엔코더를 포함하는 것을 특징으로 하는 차량의 무인자율 주행 시스템.
- 삭제
- 제1항에 있어서,
영상 정보 수집센서부는,
상기 차량 중심 상단 전방에 설치된 전방 카메라와,
상기 차량 중심 상단 후방에 설치된 후방 카메라로 구성된 것을 특징으로 하는 차량의 무인자율 주행 시스템.
- 삭제
- 삭제
- 제1항에 있어서,
상기 통합제어부는,
상기 센서들에서 측정된 데이터를 저장하고 재생하는 DB 관리부와,
상기 DB를 분석 및 판단하는 DB 분석부와,
상기 시스템을 통합제어하는 통합제어 실행부와,
주행 시스템을 제어하고 명령하는 차량제어 명령부로 구성된 것을 특징으로 하는 차량의 무인자율 주행 시스템.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR20140007731A KR101510745B1 (ko) | 2014-01-22 | 2014-01-22 | 차량의 무인 자율주행 시스템 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR20140007731A KR101510745B1 (ko) | 2014-01-22 | 2014-01-22 | 차량의 무인 자율주행 시스템 |
Publications (1)
Publication Number | Publication Date |
---|---|
KR101510745B1 true KR101510745B1 (ko) | 2015-04-09 |
Family
ID=53034089
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR20140007731A KR101510745B1 (ko) | 2014-01-22 | 2014-01-22 | 차량의 무인 자율주행 시스템 |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101510745B1 (ko) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20180061686A (ko) * | 2016-11-30 | 2018-06-08 | 삼성전자주식회사 | 자율 주행 경로 생성 방법 및 그 장치 |
US10249197B2 (en) | 2016-03-28 | 2019-04-02 | General Electric Company | Method and system for mission planning via formal verification and supervisory controller synthesis |
KR20190106845A (ko) * | 2019-08-26 | 2019-09-18 | 엘지전자 주식회사 | 자율 주행 차량의 탑승자 인식 및 승하차 지원 장치 및 방법 |
KR20200052391A (ko) | 2018-10-22 | 2020-05-15 | 주식회사 스프링클라우드 | 자율 주행 차량의 거리 측정 장치 |
KR20200052390A (ko) | 2018-10-22 | 2020-05-15 | 주식회사 스프링클라우드 | 자율 주행 차량의 거리 측정 장치 |
KR20200068065A (ko) | 2018-11-27 | 2020-06-15 | 현대오트론 주식회사 | 자율 주행 제어기의 에러 처리를 위한 방법 |
KR20220141432A (ko) * | 2021-04-13 | 2022-10-20 | 재단법인대구경북과학기술원 | 전자 장치 및 전자 장치의 제어 방법 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11212640A (ja) * | 1997-11-03 | 1999-08-06 | Volkswagen Ag <Vw> | 自律走行車両及び自律走行車両を制御する方法 |
KR200283578Y1 (ko) * | 2002-05-06 | 2002-07-26 | 용인송담대학 | 임베디드 인터넷 다기능 접속장치 |
KR20090076270A (ko) * | 2008-01-08 | 2009-07-13 | 성균관대학교산학협력단 | 무인차량 주행 시스템 |
-
2014
- 2014-01-22 KR KR20140007731A patent/KR101510745B1/ko active IP Right Grant
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11212640A (ja) * | 1997-11-03 | 1999-08-06 | Volkswagen Ag <Vw> | 自律走行車両及び自律走行車両を制御する方法 |
KR200283578Y1 (ko) * | 2002-05-06 | 2002-07-26 | 용인송담대학 | 임베디드 인터넷 다기능 접속장치 |
KR20090076270A (ko) * | 2008-01-08 | 2009-07-13 | 성균관대학교산학협력단 | 무인차량 주행 시스템 |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10249197B2 (en) | 2016-03-28 | 2019-04-02 | General Electric Company | Method and system for mission planning via formal verification and supervisory controller synthesis |
KR20180061686A (ko) * | 2016-11-30 | 2018-06-08 | 삼성전자주식회사 | 자율 주행 경로 생성 방법 및 그 장치 |
KR102697448B1 (ko) * | 2016-11-30 | 2024-08-21 | 삼성전자주식회사 | 자율 주행 경로 생성 방법 및 그 장치 |
KR20200052391A (ko) | 2018-10-22 | 2020-05-15 | 주식회사 스프링클라우드 | 자율 주행 차량의 거리 측정 장치 |
KR20200052390A (ko) | 2018-10-22 | 2020-05-15 | 주식회사 스프링클라우드 | 자율 주행 차량의 거리 측정 장치 |
KR20200068065A (ko) | 2018-11-27 | 2020-06-15 | 현대오트론 주식회사 | 자율 주행 제어기의 에러 처리를 위한 방법 |
KR20190106845A (ko) * | 2019-08-26 | 2019-09-18 | 엘지전자 주식회사 | 자율 주행 차량의 탑승자 인식 및 승하차 지원 장치 및 방법 |
KR102674974B1 (ko) * | 2019-08-26 | 2024-06-13 | 엘지전자 주식회사 | 자율 주행 차량의 탑승자 인식 및 승하차 지원 장치 및 방법 |
KR20220141432A (ko) * | 2021-04-13 | 2022-10-20 | 재단법인대구경북과학기술원 | 전자 장치 및 전자 장치의 제어 방법 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101510745B1 (ko) | 차량의 무인 자율주행 시스템 | |
CN107161141B (zh) | 无人驾驶汽车系统及汽车 | |
CN113792566B (zh) | 一种激光点云的处理方法及相关设备 | |
US10037039B1 (en) | Object bounding box estimation | |
US10445597B2 (en) | Systems and methods for identification of objects using audio and sensor data | |
EP3647734A1 (en) | Automatic generation of dimensionally reduced maps and spatiotemporal localization for navigation of a vehicle | |
JP2022166143A (ja) | ナビゲーションパラメータを決定するためのシステム及び方法 | |
CN105009175B (zh) | 基于传感器盲点和局限性来修改自主车辆的行为 | |
US9709679B1 (en) | Building elevation maps from laser data | |
US8195394B1 (en) | Object detection and classification for autonomous vehicles | |
CN115014370A (zh) | 用于生成地图信息的系统、方法和计算机可读介质 | |
CN114514411A (zh) | 用于交通工具导航的系统和方法 | |
CN109891194A (zh) | 用于导航车道合并和车道分离的系统和方法 | |
US20130197736A1 (en) | Vehicle control based on perception uncertainty | |
US11680801B2 (en) | Navigation based on partially occluded pedestrians | |
CN114729813A (zh) | 用于车辆导航的系统和方法 | |
CN102208013A (zh) | 风景匹配参考数据生成系统和位置测量系统 | |
CN107992829A (zh) | 一种交通信号灯车道级控制关系提取方法及装置 | |
CN102222236A (zh) | 图像处理系统及位置测量系统 | |
CN113071518B (zh) | 一种自动无人驾驶方法、小巴、电子设备以及存储介质 | |
CN110807412A (zh) | 一种车辆激光定位的方法、车载设备和存储介质 | |
US20220242440A1 (en) | Methods and system for generating a lane-level map for an area of interest for navigation of an autonomous vehicle | |
CN116802461A (zh) | 用于基于地图的真实世界建模的系统和方法 | |
CN115735168A (zh) | 用于对交通工具进行导航的控制回路 | |
CN112061138A (zh) | 车辆偏心率映射 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E701 | Decision to grant or registration of patent right | ||
FPAY | Annual fee payment |
Payment date: 20180313 Year of fee payment: 4 |
|
FPAY | Annual fee payment |
Payment date: 20190401 Year of fee payment: 5 |