[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP2022506428A - レーザービームの入射角の計算および反射率推定へのその応用 - Google Patents

レーザービームの入射角の計算および反射率推定へのその応用 Download PDF

Info

Publication number
JP2022506428A
JP2022506428A JP2021523794A JP2021523794A JP2022506428A JP 2022506428 A JP2022506428 A JP 2022506428A JP 2021523794 A JP2021523794 A JP 2021523794A JP 2021523794 A JP2021523794 A JP 2021523794A JP 2022506428 A JP2022506428 A JP 2022506428A
Authority
JP
Japan
Prior art keywords
data
intensity
vehicle
data point
determining
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021523794A
Other languages
English (en)
Inventor
チェン,ミンチェン
ラウターバッハ,クリスチャン
ガッセンド,ブレイズ
クイリン,ナサニエル
ワハター,ルーク
ショータン,ギル
アレクサンダー シャンド,マーク
Original Assignee
ウェイモ エルエルシー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ウェイモ エルエルシー filed Critical ウェイモ エルエルシー
Publication of JP2022506428A publication Critical patent/JP2022506428A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4802Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/42Simultaneous measurement of distance and other co-ordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4808Evaluating distance, position or velocity data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30Services specially adapted for particular environments, situations or purposes
    • H04W4/40Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Electromagnetism (AREA)
  • Signal Processing (AREA)
  • Traffic Control Systems (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Abstract

レーザー点群のための方法およびシステムが、本明細書に記載される。方法およびシステムは、コンピューティングデバイスで、第1のライダーデータ源から車両の環境を示すライダーデータを受信することを含み得、ライダーデータが、環境からの反射の場所を示す第1の複数のデータ点を含み、各データ点のそれぞれの強度をさらに含む。方法およびシステムはまた、第1の複数のデータ点のうちの少なくとも第1のデータ点の第1の表面法線を決定することも含む。方法およびシステムは、表面法線に基づいて、第1のデータ点の第1の入射角を決定することをさらに含む。追加的に、方法およびシステムは、第1のデータ点の第1の調整された強度を作成するように、第1の入射角に基づいて第1のデータ点の強度を調整することを含む。【選択図】図1

Description

関連出願の相互参照
本出願は、2018年11月2日に出願された「Computation of the Angle of Incidence of Laser Beam and Its Application on Reflectivity Estimation」と題された米国仮特許出願第62/754,953号の優先権を主張する、2018年12月31日に出願された「Computation of the Angle of Incidence of Laser Beam and Its Application on Reflectivity Estimation」と題された米国特許出願第16/236,780号の優先権を主張し、これらの内容全体は、本明細書に完全に記載されるかのように参照によりその全体が本明細書に組み込まれる。
本明細書に別段の指示がない限り、本項に記載の資料は、本出願の特許請求の範囲の先行技術ではなく、本項に含めることよって先行技術であると認められるものではない。
車両は、センサーによって提供される情報を使用して移動経路をナビゲートし得る。車両のコンピューティングデバイスは、障害物を回避し、適切なナビゲーションを確保するように、車両センサーから受信された情報を処理し得る。このような車両には、典型的には、周囲の物体を検出するために様々なタイプのセンサーが装備されている。例えば、自律走行車は、レーザー、ソナー、RADAR、カメラ、および車両の周囲からのデータを走査して記録するその他のデバイスを含み得る。これらのデバイスのうちの1つ以上からのセンサーデータは、物体およびそれらのそれぞれの特性(位置、形状、向き、速度など)を検出するために使用され得る。この検出および識別は、自律走行車の安全な操作に役立つ。
本出願は、レーザー点群を使用する物体検出のための方法およびシステムに関連する実施形態を開示する。
一例において、本出願は、方法を記載する。方法は、コンピューティングデバイスで、第1のライダーデータ源から車両の環境を示すライダーデータを受信することを含み得、ライダーデータが、環境からの反射の場所を示す第1の複数のデータ点を含み、各データ点のそれぞれの強度をさらに含む。方法はまた、第1の複数のデータ点のうちの少なくとも第1のデータ点の第1の表面法線を決定することも含む。方法は、表面法線に基づいて、第1のデータ点の第1の入射角を決定することをさらに含む。追加的に、方法は、第1のデータ点の第1の調整された強度を作成するように、第1の入射角に基づいて第1のデータ点の強度を調整することを含む。
さらに別の例において、本出願は、システムを記載する。システムは、少なくとも1つのプロセッサを含む。このシステムはまた、レーザー信号を送受信するように構成された第1のレーザーユニットを含む。追加的に、システムはまたメモリも含み、メモリは、メモリに格納された実行可能命令を有し、実行可能命令は、少なくとも1つのプロセッサによって実行されると、システムに機能を実行させる。機能は、強度調整されたライダーデータのセットを作成することを含み、ここで、強度調整は、それぞれのデータ点の第1の入射角に基づく。
別の例において、本出願は、非一時的なコンピュータ可読媒体を記載し、非一時的なコンピュータ可読媒体は、非一時的なコンピュータ可読媒体に格納された実行可能命令を有し、実行可能命令は、コンピューティングデバイスによって実行されると、コンピューティングデバイスに機能を実行させる。機能は、コンピューティングデバイスで、第1のレーザーユニットから車両の環境を示すライダーデータを受信することを含み、ライダーデータが、各データ点がそれぞれの強度を有する第1の複数のデータ点を含む。機能はまた、第1の複数のデータ点の少なくともサブセットの第1のそれぞれのデータ点の表面法線を決定することも含む。追加的に、機能は、表面法線に基づいて、第1のそれぞれのデータ点の入射角を決定することを含む。機能はさらに、第1の調整された強度を作成するように、入射角に基づいて第1のそれぞれのデータ点の強度を調整することをさらに含む。
別の例において、レーザー点群強度を調整するための手段を備えるシステムが提供される。システムはまた、コンピューティング手段で、第1のライダーデータ源から車両の環境を示すライダーデータを受信するための手段を含み、ライダーデータが、環境からの反射の場所を示す第1の複数のデータ点を含み、各データ点のそれぞれの強度をさらに含む。システムはまた、第1の複数のデータ点のうちの少なくとも第1のデータ点の第1の表面法線を決定するための手段を含む。システムはさらに、表面法線に基づいて、第1のデータ点の第1の入射角を決定するための手段を含む。追加的に、システムは、第1のデータ点の第1の調整された強度を作成するように、第1の入射角に基づいて第1のデータ点の強度を調整するための手段を含む。
前述の概要は例示にすぎず、決して限定することを意図したものではない。上記の例示的な態様、実施形態、および特徴に加えて、さらなる態様、実施形態、および特徴が、図および以下の「発明を実施するための形態」を参照することによって、明らかになるであろう。
例示的な実施形態による、例示的な車両の簡略化されたブロック図である。 例示的な実施形態による、例示的な車両を例示する。 物体の反射率を計算するための例示的な方法のフローチャートである。 距離画像の一部におけるピクセルを例示する例示的な図である。 正面から見た例示的な車両を示し、センサーデータを使用して例示的な車両のコンピューティングデバイスによって生成された仮想距離画像の一部を例示する。 側面から見た例示的な車両を示し、センサーデータを使用して例示的な車両のコンピューティングデバイスによって生成された距離画像の追加部分を例示する。 背面から見た例示的な車両を示し、センサーデータを使用して例示的な車両のコンピューティングデバイスによって生成された距離画像の一部を例示する。 別の背面から見た例示的な車両を示し、センサーデータを使用して例示的な車両のコンピューティングデバイスによって生成された距離画像の一部を例示する。 ピクセルのセットのベクトル法線計算を例示する例示的な図である。 表面のベクトル法線および入射角を例示する例示的な図である。 様々な角度の余弦の値を例示する例示的な図である。 調整されていない強度を有する3つの表面のピクセルを例示する例示的な図である。 調整された強度を有する3つの表面のピクセルを例示する例示的な図である。 コンピューティングデバイス上でコンピュータプロセスを実行するためのコンピュータプログラムを含む、例示的なコンピュータプログラム製品の概念的な部分図を例示する概略図である。
以下の詳細な説明は、添付の図を参照して、開示されたシステムおよび方法の様々な特徴および機能を記載する。図において、文脈上別段の指示がない限り、同様の記号は、同様の構成要素を識別する。本明細書に記載の例証的なシステムおよび方法の実施形態は、限定的であることを意味するものではない。開示されたシステムおよび方法の特定の態様は、多種多様な異なる構成で配列され、組み合わせることができ、それらのすべてが、本明細書で企図されていることは容易に理解され得る。
自律走行車または無人車両などの車両は、運転者がガイダンスや制御を提供することを必要とせず、移動経路をナビゲートし得る。安全な自律ナビゲーションを可能にするために、車両は、車両に関連付けられたセンサーから取得された、車両を取り巻く局所環境についてのデータを利用し得る。自律走行車は、車両の動作中にセンサーから受信された近くの環境についての情報を受信し、処理するように構成された1つ以上のコンピューティングデバイスを含み得る。情報を処理することは、変化する環境を車両が進むときに安全なナビゲーション戦略を実行するように、コンピューティングデバイスが車両のシステムに情報および/または命令を提供することを可能にし得る。
1つの例示的な実施形態において、車両は、車両の1つ以上のコンピューティングデバイスで環境を示すライダーデータを受信しながらナビゲートし得る。例えば、車両は、環境における1つ以上の物体に関連付けられたデータ点で構成されるライダーデータなどのセンサーデータを捕捉するように構成されたLIDARモジュールを含み得る。いくつかの例において、ライダーデータは、車両の周囲の360度の視野全体に対して捕捉され得る。
同様に、車両はまた、深度カメラなど、物体検出のために使用され得るセンサーデータを提供するように構成された他のタイプのセンサーを含み得る。コンピューティングデバイスは、例えば、環境を示すデータ点を、構造化3次元(3D)点群および/または非構造化3D点群で受信し得る。場合によっては、コンピューティングデバイスは、グリッドのような点群内でデータ点を受信し得る。ライダーデータは、車両に対する環境内の物体の位置を示す情報を含むデータ点を含み得る。他の例において、ライダーデータは、車両の環境についての他の情報を含み得る。ライダーデータは、ライダーデータのそれぞれの点ごとのそれぞれの強度を含み得る。強度は、レーザー光を反射する表面の反射率に基づき得る。いくつかの例において、表面がレーザー源に垂直(normal)でない(すなわち、垂直(perpendicular)でない)ときに、受信されたレーザー信号の強度は、表面がレーザー源に対して垂直である場合よりも低くなり得る。
動作中、コンピューティングデバイスは、環境における物体および表面の位置を示すピクセルを含む次元距離画像を生成するように、ライダーデータ点を使用し得る。例として、コンピューティングデバイスは、ピクセルがライダーデータ点内のデータに対応するように、車両の周囲に位置付けされた、または仮想表現において車両の周囲に仮想的に位置付けされた概念的な円筒面にライダーデータ点を投影し得る。結果として生成される距離画像は、環境における情報を示す値を有するピクセルを含み得、ライダーデータ点からの値を有し得ないいくつかのピクセルを含み得る。欠落している値は、コンピューティングデバイスがライダーデータを受信しなかった物体の部分に対応し得る。いくつかの例示的な実施形態において、コンピューティングデバイスは、点群全体の受信を完了する前に、距離画像の一部の生成を開始し得る。例えば、コンピューティングデバイスは、点がLIDARモジュールから受信されるときに、距離画像の一部を生成し得る。
さらに、車両のコンピューティングデバイスは、値のないピクセルから生じるギャップを埋めるように、距離画像を変更し得る。例えば、コンピューティングデバイスは、元々値を有し得ないギャップにおけるピクセルに割り当てる平均値を決定するように、距離画像における1つ以上のギャップの近位に位置付けされたそれぞれの隣接ピクセルを使用し得る。コンピューティングデバイスは、車両の環境における1つ以上の物体のそれぞれの表面に対応し得るピクセルのセットの1つ以上の法線ベクトルを決定するように、修正された距離画像を使用し得る。
いくつかの例において、コンピューティングデバイスは、物体認識および障害物回避において車両を支援し得る、取得されたセンサーデータにおける平面を分類する(例えば、ピクセルのセットを環境における表面に関連付ける)ように、表面法線および平面セグメンテーションプロセスを使用し得る。コンピューティングデバイスは、車両がナビゲートするときに、環境内の物体の仮想マッピングを生成し得る。追加的に、コンピューティングデバイスは、環境についての物体認識情報を車両のシステムに提供するように、ピクセルのセットの法線ベクトル、ならびに平面セグメンテーションを使用し得、車両システムは、適切なナビゲーション戦略を決定するように動作中に使用し得る。
追加的に、コンピューティングデバイスは、受信されたレーザー信号の強度補正を計算し、適用でき得る。いくつかの例において、強度補正は、レーザー光反射を引き起こす物体からの距離、ならびに入射角の両方に基づき得る。他のいくつかの例において、補正は、入射角のみに基づき得る。
ここで、本開示の範囲内の例示的なシステムは、より詳細に記載される。概して、例示的なシステムは、自動車に実装され得るか、または自動車の形式を取り得る。しかしながら、例示的なシステムはまた、乗用車、トラック、オートバイ、バス、ボート、飛行機、ヘリコプター、芝刈り機、娯楽用車両、遊園地車両、農機具、建設機械、路面電車、ゴルフカート、電車、およびトロリーなどの、他の車両に実装され得るか、または他の車両の形式をとり得る。他の車両も可能である。
次に図を参照すると、図1は、例示的な実施形態による、例示的な車両100の簡略化されたブロック図である。車両100に結合されるか、または含まれる構成要素は、推進システム102、センサーシステム104、制御システム106、周辺機器108、電源110、コンピューティングデバイス111、およびユーザーインターフェース112を含み得る。コンピューティングデバイス111は、プロセッサ113、およびメモリ114を含み得る。コンピューティングデバイス111は、車両100のコントローラ、またはコントローラの一部であり得る。メモリ114は、プロセッサ113によって実行可能な命令115を含み得、またマップデータ116を格納し得る。車両100の構成要素は、互いにおよび/またはそれぞれのシステムに結合された他の構成要素と相互接続された様式で動作するように構成され得る。例えば、電源110は、車両100のすべての構成要素に電力を供給し得る。コンピューティングデバイス111は、推進システム102、センサーシステム104、制御システム106、および周辺機器108から情報を受信し、制御するように構成され得る。コンピューティングデバイス111は、ユーザーインターフェース112上で画像の表示を生成し、ユーザーインターフェース112から入力を受信するように構成され得る。
他の実施形態において、車両100は、より多くの、より少ない、または異なるシステムを含み得、各システムは、より多くの、より少ない、または異なる構成要素を含み得る。追加的に、示されたシステムおよび構成要素は、あらゆる方法で組み合わされるか、または分割され得る。
推進システム102は、車両100に動力運動を提供するように構成され得る。示されるように、推進システム102は、エンジン/モータ118、エネルギー源120、トランスミッション122、およびホイール/タイヤ124を含む。
エンジン/モータ118は、内燃機関、電気モータ、蒸気エンジン、およびスターリングエンジンなどの任意の組み合わせであり得るか、またはそれらを含み得る。他のモータおよびエンジンも可能である。いくつかの例において、光学システム102は、複数のタイプのエンジンおよび/またはモータを含み得る。例えば、ガソリン-電気ハイブリッド車は、ガソリンエンジンおよび電気モータを含むことができる。他の例も可能である。
エネルギー源120は、エンジン/モータ118に全体的または部分的に動力を供給するエネルギー源であり得る。すなわち、エンジン/モータ118は、エネルギー源120を機械的エネルギーに変換するように構成され得る。エネルギー源120の例は、ガソリン、ディーゼル、他の石油系燃料、プロパン、他の圧縮ガスベースの燃料、エタノール、ソーラパネル、バッテリー、および/または他の電力源を含む。エネルギー源(複数可)120は、追加的または代替的に、燃料タンク、バッテリー、コンデンサ、および/またはフライホイールの任意の組み合わせを含むことができる。いくつかの例において、エネルギー源120は、車両100の他のシステムにもエネルギーを提供し得る。
トランスミッション122は、機械的動力をエンジン/モータ118からホイール/タイヤ124に伝達するように構成され得る。この目標を達成するために、トランスミッション122は、ギアボックス、クラッチ、ディファレンシャル、ドライブシャフト、および/または他の要素を含み得る。トランスミッション122が駆動シャフトを含む例において、駆動シャフトは、ホイール/タイヤ124に結合されるように構成された1つ以上の車軸を含むことができる。
車両100のホイール/タイヤ124は、一輪車、自転車/オートバイ、三輪車、または乗用車/トラックの四輪車のフォーマットを含む様々なフォーマットで構成され得る。6つ以上のホイールを含むものなど、他のホイール/タイヤフォーマットも、可能である。車両100のホイール/タイヤ124は、他のホイール/タイヤ124に関して差動的に回転するように構成され得る。いくつかの例において、ホイール/タイヤ124は、トランスミッション122に固定的に取り付けられた少なくとも1つのホイールと、走行面と接触することができるホイールのリムに結合された少なくとも1つのタイヤとを含み得る。ホイール/タイヤ124は、金属とゴムの任意の組み合わせ、または他の材料の組み合わせを含み得る。
推進システム102は、追加的または代替的に、示されているもの以外の構成要素を含み得る。
センサーシステム104は、車両100が置かれた環境についての情報を感知するように構成されたいくつかのセンサーを含み得る。示されているように、センサーシステムのセンサーは、全地球測位システム(GPS)モジュール126、慣性測定ユニット(IMU)128、無線検出測距(RADAR)ユニット130、レーザー距離計および/または光検出測距(LIDAR)ユニット132、カメラ134、およびセンサーの位置および/または向きを変更するように構成されたアクチュエータ136を含む。センサーシステム104は、例えば、車両100の内部システム(例えば、Oモニタ、燃料計、エンジンオイル温度など)を監視するセンサーを含む追加のセンサーも含み得る。他のセンサーも可能である。
GPSモジュール126は、車両100の地理的場所を推定するように構成された任意のセンサーであり得る。この目標を達成するために、GPSモジュール126は、衛星ベースの測位データに基づいて、地球に対して車両100の位置を推定するように構成されたトランシーバを含み得る。例において、コンピューティングデバイス111は、GPSモジュール126をマップデータ116と組み合わせて使用し、車両100が走行し得る道路上の車線境界の場所を推定するように構成され得る。GPSモジュール126は、他の形式も取り得る。
IMU128は、慣性加速度に基づいて車両100の位置および向きの変化を感知するように構成されているセンサーの任意の組み合わせであり得る。いくつかの例において、センサーの組み合わせは、例えば、加速度計およびジャイロスコープを含み得る。センサーの他の組み合わせも可能である。
RADARユニット130は、電波を使用して、物体の距離、高度、方向、または速度などの物体の特性を決定するように構成され得る物体検出システムと見なされ得る。RADARユニット130は、波の経路内の任意の物体に当たって跳ね返り得る電波またはマイクロ波のパルスを送信するように構成され得る。物体は、波のエネルギーの一部を受信機(例えば、ディッシュまたはアンテナ)に戻し得、受信機は、RADARユニット130の一部でもあり得る。RADARユニット130はまた、受信信号のデジタル信号処理(物体から跳ね返る)を実行するように構成され得、物体を識別するように構成され得る。
RADARと同様の他のシステムは、電磁スペクトルの他の部分において使用されてきた。一例は、電波ではなくレーザーからの可視光を使用するように構成され得る、LIDAR(光検出測距)である。
LIDARユニット132は、光を使用して、車両100が置かれている環境における物体を感知または検出するように構成されたセンサーを含み得る。概して、LIDARは、標的を光で照らすことによって、標的までの距離、またはその他の特性を測定することができる光学リモートセンシング技術である。一例として、LIDARユニット132は、レーザーパルスを放出するように構成されたレーザー源および/またはレーザースキャナーと、レーザーパルスの反射を受信するように構成された検出器とを含み得る。例えば、LIDARユニット132は、回転ミラーによって反射されるレーザー距離計を含み得、レーザーは、指定された角度間隔で距離測定値を収集して、1次元または2次元でデジタル化されるシーンの周りで走査される。例において、LIDARユニット132は、光(例えば、レーザー)源、スキャナーおよび光学系、光検出器および受信機の電子機器、ならびに位置およびナビゲーションシステムなどの構成要素を含み得る。
一例において、LIDARユニット132は、紫外線(UV)、可視光、または赤外光を使用して物体を画像化するように構成され得、非金属物体を含む広範囲の標的で使用することができる。一例において、狭いレーザービームは、物体の物理的特徴を高解像度でマッピングするために使用することができる。
例において、約10マイクロメートル(赤外線)から約250nm(UV)の範囲の波長を使用することができる。典型的には、光は、後方散乱を介して反射される。様々なタイプの散乱は、レイリー散乱、ミー散乱、およびラマン散乱、ならびに蛍光など、様々なLIDAR用途に使用される。したがって、様々な種類の後方散乱に基づいて、LIDARは、例として、レイリーLIDAR、ミーLIDAR、ラマンLIDAR、およびNa/Fe/K蛍光LIDARと呼ぶことがでる。波長の適切な組み合わせは、例えば、反射信号の強度における波長依存の変化を探すことによって、物体のリモートマッピングを可能にすることができる。
3次元(3D)画像化は、走査および非走査LIDARシステムの両方を使用して達成することができる。「3Dゲート表示レーザーレーダー」は、パルスレーザーおよび高速ゲートカメラを適用する非走査型レーザー測距システムの例である。画像化LIDARは、高速検出器のアレイと、典型的にはCMOS(相補型金属酸化膜半導体)およびハイブリッドCMOS/CCD(電荷結合デバイス)製造技術を使用して単一チップ上に構築された変調に敏感な検出器アレイを使用して実行することもできる。これらのデバイスにおいて、各ピクセルは、アレイがカメラからの画像を表すように処理され得るように、復調または高速でゲーティングすることによって局所的に処理され得る。この技術を使用して、何千ものピクセルが、LIDARユニット132によって検出される物体またはシーンを表す3D点群を作成するように、同時に取得され得る。
点群は、3D座標系における頂点のセットを含み得る。これらの頂点は、例えば、X、Y、およびZ座標によって画定され得、物体の外面を表し得る。LIDARユニット132は、物体の表面上の多数の点を測定することによって点群を作成するように構成され得、点群をデータファイルとして出力し得る。LIDARユニット132による物体の3D走査プロセスの結果として、点群は、物体を識別および視覚化するために使用することができる。
一例において、点群は、物体を視覚化するように、直接表現することができる。別の例において、点群は、表面再構築と呼ばれ得るプロセスを通じて、多角形または三角形メッシュモデルに変換され得る。点群を3D表面に変換する例示的な技術は、ドロネー三角形分割、アルファシェイプ、およびボールピボットを含み得る。これらの技術は、点群の既存の頂点上に三角形のネットワークを構築することを含む。他の例示的な技術は、点群を体積距離フィールドに変換し、マーチングキューブアルゴリズムを通してそのように画定された陰関数曲面を再構築することを含み得る。
カメラ134は、車両100が置かれている環境の画像を捕捉するように構成された任意のカメラ(例えば、スチルカメラ、ビデオカメラなど)であり得る。この目標を達成するために、カメラは、可視光を検出するように構成され得るか、または赤外線もしくは紫外線などのスペクトルの他の部分からの光を検出するように構成され得る。他のタイプのカメラも可能である。カメラ134は、2次元検出器であり得るか、または3次元空間範囲を有し得る。いくつかの例において、カメラ134は、例えば、カメラ134から環境におけるいくつかの点までの距離を示す距離画像を生成するように構成された距離検出器であり得る。この目標を達成するために、カメラ134は、1つ以上の距離検出技術を使用し得る。例えば、カメラ134は、車両100が、グリッドまたはチェッカーボードパターンなどの所定の光パターンで環境における物体を照明し、物体からの所定の光パターンの反射を検出するようにカメラ134を使用する、構造化光技術を使用するように構成され得る。反射光パターンにおける歪みに基づいて、車両100は、物体上の点までの距離を決定するように構成され得る。所定の光パターンは、赤外光、または別の波長の光を含み得る。
アクチュエータ136は、例えば、センサーの位置および/または向きを変更するように構成され得る。
センサーシステム104は、追加的または代替的に、示されたもの以外の構成要素を含み得る。
制御システム106は、車両100およびその構成要素の動作を制御するように構成され得る。この目標を達成するために、制御システム106は、ステアリングユニット138、スロットル140、ブレーキユニット142、センサー融合アルゴリズム144、コンピュータビジョンシステム146、ナビゲーションまたは経路設定システム148、および障害物回避システム150を含み得る。
ステアリングユニット138は、車両100の進行方向または方向を調整するように構成された機構の任意の組み合わせであり得る。
スロットル140は、エンジン/モータ118の動作速度および加速度、ひいては、車両100の速度および加速度を制御するように構成された機構の任意の組み合わせであり得る。
ブレーキユニット142は、車両100を減速するように構成された機構の任意の組み合わせであり得る。例えば、ブレーキユニット142は、ホイール/タイヤ124を遅くするように、摩擦を使用し得る。別の例において、ブレーキユニット142は、回生し、ホイール/タイヤ124の運動エネルギーを電流に変換するように構成され得る。ブレーキユニット142は、他の形式も取り得る。
センサー融合アルゴリズム144は、例えば、コンピューティングデバイス111によって実行可能なアルゴリズム(または、アルゴリズムを格納するコンピュータプログラム製品)を含み得る。センサー融合アルゴリズム144は、センサーシステム104からデータを入力として受け入れるように構成され得る。データは、例えば、センサーシステム104のセンサーで感知された情報を表すデータを含み得る。センサー融合アルゴリズム144は、例えば、カルマンフィルタ、ベイジアンネットワーク、または別のアルゴリズムを含み得る。センサー融合アルゴリズム144はさらに、例えば、車両100が置かれている環境における個々の物体および/または特徴の査定、特定の状況の査定、および/または特定の状況に基づいて考えられる影響の査定を含む、センサーシステム104からのデータに基づく様々な評価を提供するように構成され得る。他の評価も可能である。
コンピュータビジョンシステム146は、例えば、車線情報、交通信号、および障害物を含む、車両100が置かれている環境における物体および/または特徴を識別するために、カメラ134によって捕捉された画像を処理および分析するように構成された任意のシステムであり得る。この目標を達成するために、コンピュータビジョンシステム146は、物体認識アルゴリズム、多視点3次元復元(Structure From Motion)(SFM)アルゴリズム、ビデオ追跡、または他のコンピュータビジョン技術を使用し得る。いくつかの実施形態において、コンピュータビジョンシステム146は、環境をマッピングし、物体を追跡し、物体の速度を推定するなどのために追加的に構成され得る。
ナビゲーションおよび経路設定システム148は、車両100の走行経路を決定するように構成された任意のシステムであり得る。ナビゲーションおよび経路設定システム148は、追加的に、車両100の動作中に、動的に走行経路を更新するように構成され得る。いくつかの例では、ナビゲーションおよび経路設定システム148は、車両100の走行経路を決定するように、センサー融合アルゴリズム144、GPSモジュール126、および1つ以上の所定のマップからデータを組み込むように構成され得る。
障害物回避システム150は、車両100が置かれている環境における障害物を識別、評価、および回避するか、または他の方法で通り抜けるように構成された任意のシステムであり得る。
制御システム106は、追加的または代替的に、示されたもの以外の構成要素を含み得る。
周辺機器108は、車両100が外部センサー、他の車両、および/またはユーザーと相互作用することを可能にするように構成され得る。この目標を達成するために、周辺機器108は、例えば、無線通信システム152、タッチスクリーン154、マイクロフォン156、および/またはスピーカー158を含み得る。
無線通信システム152は、直接または通信ネットワークを介して、1つ以上の他の車両、センサー、または他の実在物に無線で結合されるように構成された任意のシステムであり得る。この目標を達成するために、無線通信システム152は、直接または無線インターフェースを介して、他の車両、センサー、または他の実在物と通信するアンテナおよびチップセットを含み得る。チップセットまたは無線通信システム152は、概して、他の可能性の中でもとりわけ、Bluetooth、IEEE802.11(任意のIEEE802.11改訂版を含む)に記載されている通信プロトコル、セルラー技術(GSM、CDMA、UMTS、EV-DO、WiMAX、またはLTEなど)、Zigbee、専用狭域通信(DSRC)、および無線周波数識別(RFID)通信などの1つ以上の他のタイプの無線通信(例えば、プロトコル)に従って通信するように配列され得る。無線通信システム152は、他の形式も取り得る。
タッチスクリーン154は、ユーザーが車両100にコマンドを入力するために使用され得る。この目標を達成するために、タッチスクリーン154は、他の可能性の中でもとりわけ、静電容量感知、抵抗感知、または弾性表面波プロセスを介して、ユーザーの指の位置および動きのうちの少なくとも1つを感知するように構成され得る。タッチスクリーン154は、タッチスクリーン表面に平行または平面的な方向、タッチスクリーン表面に法線な方向、またはその両方における指の動きを感知することができ得、タッチスクリーン表面に加えられる圧力のレベルを感知することもでき得る。タッチスクリーン154は、1つ以上の半透明または透明の絶縁層と、1つ以上の半透明または透明の導電層とで形成され得る。タッチスクリーン154は、他の形式も取り得る。
マイクロフォン156は、車両100のユーザーから音声(例えば、音声コマンドまたは他の音声入力)を受信するように構成され得る。同様に、スピーカー158は、車両100のユーザーに音声を出力するように構成され得る。
周辺機器108は、追加的または代替的に、示されたもの以外の構成要素を含み得る。
電源110は、車両100の構成要素の一部またはすべてに電力を供給するように構成され得る。この目標を達成するために、電源110は、例えば、再充電可能なリチウムイオンまたは鉛酸バッテリーを含み得る。いくつかの例において、バッテリーの1つ以上のバンクは、電力を提供するように構成することができる。他の電源材料および構成も可能である。いくつかの例において、電源110およびエネルギー源120は、一部の全電気自動車のように、共に実装され得る。
コンピューティングデバイス111に含まれるプロセッサ113は、1つ以上の汎用プロセッサおよび/または1つ以上の専用プロセッサ(例えば、画像プロセッサ、デジタル信号プロセッサなど)を含み得る。プロセッサ113が2つ以上のプロセッサを含む限り、そのようなプロセッサは、別々にまたは組み合わせて動作することができる。コンピューティングデバイス111は、例えば、ユーザーインターフェース112を通して受信された入力に基づいて車両100の機能を制御するように構成され得る。
メモリ114は、次に、光学的、磁気的、および/または有機的ストレージなどの1つ以上の揮発性および/または1つ以上の不揮発性ストレージ構成要素を備え得、メモリ114は、全体的に、または部分的にプロセッサ113と統合され得る。メモリ114は、本明細書に記載の機能または方法のいずれかを含む、様々な車両機能を実行するように、プロセッサ113によって実行可能な命令115(例えば、プログラムロジック)を含み得る。
車両100の構成要素は、それらのそれぞれのシステム内および/または外部の他の構成要素と相互接続された様式で機能するように構成されることができる。この目標を達成するために、車両100の構成要素およびシステムは、システムバス、ネットワーク、および/または他の接続機構(図示せず)によって互いに通信可能にリンクされ得る。
さらに、構成要素およびシステムの各々が車両100に統合されることが示されているが、いくつかの例において、1つ以上の構成要素またはシステムは、有線または無線接続を使用して車両100に取り外し可能に取り付けられるか、または他の方法で(機械的または電気的に)接続され得る。
車両100は、示されている要素に加えて、またはその代わりに、1つ以上の要素を含み得る。例えば、車両100は、1つ以上の追加のインターフェースおよび/または電源を含み得る。他の追加の構成要素も可能である。これらの例において、メモリ114は、追加の構成要素を制御および/または通信するように、プロセッサ113によって実行可能な命令をさらに含み得る。
図2は、一実施形態による、例示的な車両200を例示する。特に、図2は、車両200の右側面図、前面図、背面図、および上面図を示す。車両200は、図2に乗用車として例示されているが、他の例も可能である。例えば、車両200は、他の例の中でもとりわけ、トラック、バン、セミトレーラートラック、オートバイ、ゴルフカート、オフロード車両、または農業車両を表すことができる。図示のように、車両200は、第1のセンサーユニット202、第2のセンサーユニット204、第3のセンサーユニット206、無線通信システム208、およびカメラ210を含む。
第1、第2、および第3のセンサーユニット202~206の各々は、全地球測位システムセンサー、慣性測定ユニット、RADARユニット、LIDARユニット、カメラ、車線検出センサー、および音響センサーの任意の組み合わせを含み得る。他のタイプのセンサーも可能である。
第1、第2、および第3のセンサーユニット202~206は、車両200の特定の場所に取り付けられて示されているが、いくつかの例において、センサーユニット202は、車両200の内側または外側のいずれかで、車両200の他の場所に取り付けられ得る。さらに、3つのセンサーユニットのみが示されているが、いくつかの例において、より多くのまたはより少ないセンサーユニットが、車両200に含まれ得る。
いくつかの例において、第1、第2、および第3のセンサーユニット202~206のうちの1つ以上は、センサーが可動に取り付けられ得る1つ以上の可動マウントを含み得る。例えば、可動マウントは、回転プラットフォームを含み得る。回転プラットフォームに取り付けられたセンサーは、センサーが車両200の周りの各方向から情報を取得し得るように回転することができる。代替的または追加的に、可動マウントは、傾斜プラットフォームを含み得る。傾斜プラットフォームに取り付けられたセンサーは、センサーが様々な角度から情報を取得し得るように、特定の範囲の角度および/または方位角内で傾斜することができる。可動マウントは、他の形式も取り得る。
さらに、いくつかの例において、第1、第2、および第3のセンサーユニット202~206のうちの1つ以上は、センサーおよび/または可動マウントを動かすことによってセンサーユニットにおけるセンサーの位置および/または向きを調整するように構成された1つ以上のアクチュエータを含み得る。例示的なアクチュエータは、モータ、空気圧アクチュエータ、油圧ピストン、リレー、ソレノイド、および/または圧電アクチュエータを含む。他のクチュエータも可能である。
無線通信システム208は、図1の無線通信システム152に関して上で記載されたように、直接または通信ネットワークを介して、1つ以上の他の車両、センサー、または他の実在物に無線で結合するように構成された任意のシステムであり得る。無線通信システム208は、車両200の屋根上に位置付けられて示されているが、他の例において、無線通信システム208は、全体的または部分的に、他の場所に置かれ得る。
カメラ210は、車両200が置かれている環境の画像を捕捉するように構成された任意のカメラ(例えば、スチルカメラ、ビデオカメラなど)であり得る。この目標を達成するために、カメラ210は、図1のカメラ134に関して上で記載された形式のいずれかを取り得る。カメラ210は、車両200のフロントガラスの内側に取り付けられて示されているが、他の例において、カメラ210は、車両200の内側または外側のいずれかで、車両200の他の場所に取り付けられ得る。
車両200は、これら示されたものに加えて、またはその代わりに1つ以上の他の構成要素を含み得る。追加の構成要素は、電気的または機械的機能を含み得る。
車両200の制御システムは、複数の可能な制御戦略の中から制御戦略に従って車両200を制御するように構成され得る。制御システムは、車両200に結合されたセンサーから情報(車両200のオンまたはオフ)を受信し、その情報に基づいて制御戦略(および関連する運転挙動)を修正し、修正された制御戦略に従って車両200を制御するように構成され得る。制御システムは、センサーから受信した情報を監視し、運転状態を継続的に評価するようにさらに構成され得、また、運転状態の変化に基づいて、制御戦略および運転挙動を修正するように構成され得る。
図3は、物体の反射率を計算するための例示的な方法のフローチャートである。方法300は、1つ以上のブロック302~308によって例示されるように、1つ以上の操作、機能、または行為を含み得る。ブロックは連続した順序で例示されているが、これらのブロックは、場合によっては、並行して、および/または本明細書で記載されたものとは異なる順序で実行され得る。また、様々なブロックは、組み合わされてより少ないブロックに、分割されて追加のブロックに、および/または所望の実装に基づいて除去され得る。追加的に、いくつかの例において、方法300は、2つの異なるレーザーセンサー(例えば、第1のライダーデータ源および第2のライダーデータ源)からのデータと並行して実行され得る。
加えて、方法300ならびに本明細書で開示される他のプロセスおよび方法について、フローチャートは、本実施形態のうちの1つの可能な実装の機能および操作を示す。これに関して、各ブロックは、プロセスにおける特定の論理機能またはステップを実装するプロセッサによって実行可能な1つ以上の命令を含む、モジュール、セグメント、またはプログラムコードの一部を表し得る。プログラムコードは、例えば、ディスクまたはハードドライブを含むストレージデバイスのような、任意のタイプのコンピュータ可読媒体またはメモリに格納され得る。コンピュータ可読媒体は、例えば、レジスタメモリ、プロセッサキャッシュ、およびランダムアクセスメモリ(RAM)のような、データを短期間にわたって格納するコンピュータ可読媒体などの非一時的なコンピュータ可読媒体を含み得る。コンピュータ可読媒体は、例えば、読み取り専用メモリ(ROM)、光ディスクまたは磁気ディスク、コンパクトディスク読み取り専用メモリ(CD-ROM)のような補助ストレージまたは永続長期ストレージなどの非一時的なコンピュータ可読媒体も含み得る。コンピュータ可読媒体はまた、任意の他の揮発性または不揮発性ストレージシステムであり得る。コンピュータ可読媒体は、例えば、コンピュータ可読ストレージ媒体、有形ストレージデバイス、または他の製造品と見なされ得る。
非一時的なコンピュータ可読媒体はまた、互いに遠隔に置かれ得る複数のデータストレージ要素の間に分散させることもできる。格納された命令の一部またはすべてを実行するコンピューティングデバイスまたはシステムは、図2に例示された例示的な車両200などの車両であり得る。代替的に、格納された命令の一部またはすべてを実行するコンピューティングデバイスまたはシステムは、サーバなどの別のコンピューティングデバイスまたはシステムであり得る。
加えて、方法300ならびに本明細書で開示される他のプロセスおよび方法について、図3における各ブロックは、プロセスにおける特定の論理機能を実行するように配線された回路を表し得る。
図3の方法300などの例示的な方法は、車両およびそのサブシステムによって全体的に、または部分的に実行され得る。したがって、例示的な方法は、本明細書では、例として、車両によって実施されるものとして記載され得る。車両は、例えば、自律的であり、部分的に自律的であり、またはユーザーによって完全に制御され得る。しかしながら、例示的な方法は、全体的に、または部分的に、車両の他のコンピューティングデバイスによって、または車両とは別に実施され得ることを理解されたい。例えば、例示的な方法は、車両に関連付けられたものなど、デバイスからデータを受信するサーバーシステムによって全体的に、または部分的に実施され得る。いくつかの例示的な実装において、この方法は、ロボットデバイスまたは他のタイプのコンピューティングデバイスによっても実行され得る。例示的な方法を実施することができるコンピューティングデバイスまたはコンピューティングデバイスの組み合わせの他の例が可能である。
ブロック302において、方法300は、コンピューティングデバイスで、車両の環境を示すライダーデータを受信することを含み得る。ライダーデータは、環境からの反射の場所を示す第1の複数のデータ点を含み、各データ点のそれぞれの強度をさらに含む。例示的な車両またはロボットデバイスは、周囲の環境についての測定値を捕捉するように構成されたセンサー(複数可)によって提供される情報を使用して機能し得る。特に、動作中の車両またはロボットデバイスのコンピューティングデバイスは、様々なセンサーからセンサーデータを受信し、制御戦略の決定および実行を含む、動作中に使用するためにデータを処理し得る。
図1~図2に示すように、例示的な車両は、車両の近くの物体に対応するライダーデータを捕捉するように、近くの環境の掃引を実行するように構成されたLIDARモジュールを含む様々なセンサーを含み得る。LIDARモジュールは、点群の形式でコンピューティングデバイスに到達し得る、ライダーデータ点の形式で環境についての情報を捕捉して、車両のコンピューティングデバイスに提供し得る。LIDARモジュールのタイプに応じて、コンピューティングデバイスは、例えば、構造化または非構造化点群で構成されたライダーデータ点をいくつでも受信し得る。例えば、コンピューティングデバイスは、局所環境における物体に基づいて配列された各データ点またはデータ点のセットを備えた構造点群でライダーデータを受信し得る。非構造化点群は、データ点の特別な配列なしにランダムに受信されたデータ点を含み得る。ライダーデータは、車両の360度の視野全体から受信され得る。
さらに、点群内のライダーデータ点は、グリッドのようなフォーマットを含む構造を有し得、またはグリッドのようなフォーマットを欠いている点群でコンピューティングデバイスに到達し得る。
他の例示的な実施形態において、車両のコンピューティングデバイスは、RGB深度カメラからの画像など、他のセンサーからデータを受信し得る。コンピューティングデバイスは、LIDARを使用して提供されるデータ点に加えて、他のセンサーからデータを受信し得る。コンピューティングデバイスは、LIDARおよびカメラなどの複数のセンサーから受信された情報を組み合わせ得る。
ブロック304で、方法300は、第1の複数のデータ点のうちの少なくとも第1のデータ点の第1の表面法線を決定することを含み得る。コンピューティングデバイスは、物体認識の目的で、環境における同じ表面に対応するピクセルの法線ベクトルを計算し得、これは自律ナビゲーションにおいて車両を支援し得る。コンピューティングデバイスは、法線が決定されているピクセルに隣接する(または別様に近くにある)ピクセルに基づいて表面法線を決定し得る。
いくつかの例において、ブロック304は、複数のデータ点に対して繰り返され得る。これらの例において、いくつかのデータ点は、1つの表面に関連付けられ得る。いくつかの例において、表面全体は、平らな壁のように、同じ表面法線を有し得る。他の例において、表面の様々な部分は、曲面などの異なる表面法線を有し得る。
物体認識を改善し、安全なナビゲーションを確実にするために、コンピューティングデバイスは、距離画像が生成され、処理されるときに、リアルタイムで距離画像に表されるように表面の法線ベクトルを決定し得る。このようなことから、コンピューティングデバイスは、比較的少ないCPUサイクルで点群において効率的に受信されたライダーデータ内の法線ベクトルを決定するように構成され得、車両の様々なシステムに最小の待ち時間で決定された法線を提供し得る。
1つの例示的な実施形態において、コンピューティングデバイスは、画像の両端および上下の勾配を計算し、積分画像を使用して勾配を平滑化することによって、ピクセルのセットのベクトル法線を決定し得る。結果として、コンピューティングデバイスは、ピクセルのセットによって示されるように様々な表面のベクトル法線を生成するように、勾配の正規化された外積を計算し得る。例えば、コンピューティングデバイスは、ピクセルのセットの中央で局所表面に正接する2つのベクトルを計算し得る。2つのベクトルは、隣接するピクセルまたは近くのピクセルに基づき得る。いくつかの例において、2つのベクトルは、互いに垂直であり得る。2つの接線ベクトルから、コンピューティングデバイスは、外積を使用してベクトル法線を計算し得る。例えば、コンピューティングデバイスは、2つの垂直ベクトルを有するように、左右の隣接ピクセルの間、および上下の隣接ピクセルの間の表面法線を計算し得る。
別の例において、コンピューティングデバイスは、表面を仮定することに基づいて表面法線を計算し得る。例えば、コンピューティングデバイスは、表面が概して地面に垂直であると決定することができ得る。このように、コンピューティングデバイスは、地面に垂直なベクトルを仮定し、隣接する点に基づいて第2のベクトルを計算し得る。他の例において、コンピューティングデバイスは、表面について他の仮定を行い得るので、表面法線を決定するために2つのベクトルを計算するのに必要なのは、3つ未満の点である。
場合によっては、コンピューティングデバイスは、ピクセルの特定の近傍内の平均ベクトルを計算することによって、接線ベクトルを平滑化し得る。例えば、コンピューティングデバイスは、積分画像を使用することによって、ピクセルのセット内の勾配または接線ベクトルを平滑化し得、これは、1つが水平方向用で、もう1つが垂直方向用の接線ベクトルの2つのマップを作成することを伴い得る。その後、コンピューティングデバイスは、距離画像における対応するピクセル間、または点群における対応する点内のマップのベクトルを計算し得る。コンピューティングデバイスは、積分画像を計算して平均接線ベクトルを計算し、表面法線を計算し得る。
いくつかの例において、コンピューティングデバイスは、同じ点群からのセンサーデータの受信を完了する前に、距離画像におけるピクセルによって表されるように、異なる表面のベクトル法線を決定し得る。コンピューティングデバイスは、例えば、センサーから受信されるとすぐにセンサーデータの処理を開始するように構成され得る。他の例において、コンピューティングデバイスは、表面のベクトル法線を決定するようにデータを処理する前に、センサーから環境の領域の点群全体を受信するまで待機し得る。
なおさらにいくつかの例において、処理は、距離画像ではなく、点群データに対して直接実行され得る。点群データを使用する例において、ベクトルは、表面法線を決定するように同様の方法で作成され得る。
例示的な実装として、車両のコンピューティングデバイスは、車両の環境を示す情報を決定するように、表面法線または点形式内の曲率などの局所的な幾何学的特徴を使用し得る。コンピューティングデバイスは、隣接する点などの点の局所的な近傍に平面を適合させることによって、点(例えば、ピクセル)または点のセット(例えば、ピクセルのセット)にベクトル法線を決定し得る。場合によっては、コンピューティングデバイスは、最も近い隣接プロセスを使用するか、またはピクセルから半径距離内のピクセルを選択することによって、ピクセルの表面法線を計算するために使用するように、距離画像(または点群)の隣接ピクセルを決定し得る。コンピューティングデバイスが、から表面法線を決定するように、特定のピクセルのセットに焦点を合わせたときに、コンピューティングデバイスは、例えば、ピクセルのセットの共分散行列の固有ベクトルを分析することによって、局所表面法線を推定し得る。
表面法線を決定するために使用されるピクセルのセットのサイズは、例内で異なり得る。例えば、ピクセル数が多いと、環境構造が滑らかになりすぎて、正確な表面法線を決定できない場合があるため、コンピューティングデバイスは、大きすぎるピクセルのセットを選択することを控えることがある。コンピューティングデバイスがセット内で選択するピクセルが少なすぎて表面法線を分析できない場合において、推定された法線は、受信されたセンサーデータのノイズによって影響を受け得る。コンピューティングデバイスは、表面法線を推定するために焦点を合わせた特定のピクセルを通して、局所平面までのピクセルのセット内のピクセルの距離を計算することによって、悪影響を補償し得る。コンピューティングデバイスは、共分散計算でのピクセルのセットにおけるピクセルに重みを付けるように、追加実行で距離を使用し得る。結果として、コンピューティングデバイスは、局所表面構造をよりよく近似し、表面の角および縁をより正確に描写し得る。
別の例示的な実施形態において、車両のコンピューティングデバイスは、表面法線情報を抽出するように、固定ピクセル近傍を使用し得る。例えば、コンピューティングデバイスは、固定ピクセル近傍を使用し得、追加的に、表面のある最大範囲外の事前計算された近傍を差し引き得る。このようにして、コンピューティングデバイスは、計算コストの高い近傍探索なしに、ピクセルの表面法線を決定し得る。
いくつかの例示的な実装において、コンピューティングデバイスは、局所画像座標フレームにおいて表面法線を計算し得るか、またはピクセル情報に基づくデカルト座標だけでなく局所表面法線の両方を車両のベース座標フレームに変換し得る。コンピューティングデバイスはまた、例えば、表面法線を処理するために、局所表面法線の球座標を使用し得る。コンピューティングデバイスは、車両の環境における表面を決定するように、同様の表面法線のある表面をクラスタリングすることを伴い得る、平面セグメンテーションをさらに実行し得る。
ブロック306で、方法300は、表面法線に基づいて、第1のデータ点の第1の入射角を決定することを含み得る。車両のシステムは、レーザー伝搬の方向と表面法線との間の入射角を計算するように、決定された表面法線ベクトルを使用し得る。例えば、表面が角度に垂直で、レーザー光が表面から反射する場合、表面法線とレーザー光との間の入射角は、0度である。入射角は、光が表面法線からさらに離れた表面に当たるにつれて、大きくなる。
ブロック308で、方法300は、第1のデータ点の第1の調整された強度を作成するように、第1の入射角に基づいて第1のデータ点の強度を調整することを含み得る。それぞれのデータ点は、受信されたレーザー信号の関連する強度(例えば、強さ)を有し得る。強度は、表面からレーザーユニットに反射して戻るレーザー光の量に対応し得る。表面がレーザー源に法線でない(例えば、垂直でない)ときに、強度は、低下する。したがって、受信強度は、物体の真の反射率を決定するように調整され得る。
強度は、入射角の余弦に基づいて調整され得る。ランベルトの法則に基づいて、拡散放射体(つまり、レーザー光を反射する物体)は、入射角の余弦に比例する強度で光を反射する。このように、ランベルトの表面(つまり、ランベルトの法則に従って光を反射する表面)の場合、入射角の余弦は、受信されたレーザー反射の強度を調整するために使用され得る。強度を調整するために、測定された(または感知された)強度は、入射角の余弦によって除算され得る。余弦の値は、0~1の範囲であるため(角度が±90度~0度に変化するので)、余弦によって強度を除算することは、常に、強度の値を増加させるか、または同じままになる。したがって、余弦によって除算することにより、所与の点の調整された強度は、入射角が0度でないときに、測定された強度と比較して増加し、調整された強度は、入射角が0度のときに、測定された強度と同じになる。
いくつかの例において、システムはまた、反射を引き起こす物体からの距離に基づいて補正を適用し得る。光の強度は、距離の2乗に比例して低下するため、さらなる物体は、比較的強度の低い反射を生成する。これらの例において、反射は、「未調整の」強度で受信され得る。「未調整の」強度は、「距離調整された」強度を生成するように、反射する物体までの距離に基づいて調整され得る。ステップ304~308の一部またはすべては、調整された強度を決定するように「距離調整された」強度に対して実行され得る。これらの例において、2つの調整は、1つが距離用で、もう1つが入射角用で適用され得る。他のいくつかの例において、距離調整は、ブロック304~308の後に実行され得、したがって、角度調整された強度は、距離に基づいてさらに調整され得る。
ステップ304~308は、受信されたレーザー点のセット内の複数のデータ点に対して繰り返され得る。いくつかの例において、点のセットは、同じ表面法線を有するように決定され得る。これらの例において、表面法線が同じであるため、表面に関連付けられているすべての点は、それらの強度が同時に調整され得る。他のいくつかの例において、ステップ304~308は、点が同じ物体に関連付けられている可能性を決定するシステムに基づいて、繰り返され得る。さらに他の例において、ステップ304~308は、データのセットの点の大部分に対して繰り返され得る。追加的に、いくつかの例において、同じ表面法線を有するデータ点は、単一の物体に関連付けられている表面に基づいてグループ化され得る。いくつかのさらなる例において、方法はまた、同じ表面法線を有するデータ点を含む物体の表面の反射率を決定し得る。
方法は、ステップ308の後に様々な他のステップを含み得る。方法はまた、調整された強度に基づいて、物体認識を実行することを含み得る。方法はまた、調整された強度に基づいて、自律走行命令を調整することを含み得る。いくつかの例において、物体は、測定された強度に基づいて、検出されなかったか、または誤って検出されることがある。強度が調整された後、物体は、正しく検出され得る。したがって、補正されたデータにおける物体の識別に基づいて運転命令を調整することが望まれ得る。
いくつかのさらなる例において、ステップ308の後、方法は、センサー較正またはセンサーエラーを決定することを含み得る。センサーの較正エラーは、2つの異なるレーザーセンサー間の調整された強度の違いに基づいて検出され得る。例えば、2つのレーザーセンサーは、同じ物体にレーザー光を照射することができ得る。2つのレーザーセンサー間で調整された強度に差がある場合は、較正エラー、製造エラー、またはその他のセンサーエラーが存在し得る。別の例において、方法は、レーザーユニットの前に障害物があることを決定することを含み得る。例えば、レーザーユニットのレンズまたはハウジング上に障害物がある場合、レーザー光が障害物を通過するときの、レーザー反射の強度は、強度低下され得る。レーザー透過の様々な角度に対して調整された強度を比較することによって、レンズの障害物は、検出され得る。
いくつかのさらなる例において、方法は、より正確なマップを作成するように、調整された強度を使用することを含み得る。マップを作成するのに使用されるデータは、データをレーザー入射角に依存しないようにするために、調整された強度に基づき得る。この状況において、マップデータは、レーザー光が各表面に垂直であるかのように作成され得る。
いくつかの追加の例において、方法はまた、車両のコンピューティングデバイスが車両の制御システムに物体認識情報を提供し得ることを含み得る。制御システムは、受信された情報に基づいて、ステアリング、スロットル、ブレーキ、ナビゲーション/経路設定システム、または障害物回避システムを調整し得る。例えば、制御システムは、コンピューティングデバイスによって提供される情報に基づいて車両の経路を調整し得る。
コンピューティングデバイスが方法の一部として調整された強度をどのように使用するかについての他の多くの例も可能である。別の例示的な実装において、ロボットデバイスのコンピューティングデバイスは、室内の特定の物体を認識するか、または障害物を回避するために、物体認識情報を使用し得る。例えば、コンピューティングデバイスは、環境内の物体を識別し、衝突を回避するように、ベクトル法線だけでなく表面法線を使用したセグメンテーションを使用し得る。物体を検出するときに、調整されたライダーデータを使用することは、物体認識システムにとって有利であり得る。調整されたデータを使用することによって、入射角によるより低いレーザー強度の影響は、軽減され得る。例えば、様々な機械学習アルゴリズムは、調整されたデータを処理するときに、より正確に機能し得る。
さらに別の例示的な実施形態において、車両のコンピューティングデバイスは、計算された表面法線、ならびに環境における障害物を検出する平面セグメントおよび球座標を使用し得る。コンピューティングデバイスは、点が属する決定された平面上に点を投影することによって、ライダーデータにおけるノイズおよびエラーを補償し得る。さらに、コンピューティングデバイスは、他のプロセスを使用して、検出された平面で局所表面を補正し得る。コンピューティングデバイスは、取得されたライダーデータにおける平面をセグメント化および分類し得る。
さらなる例示的な実施形態において、車両のコンピューティングデバイスは、距離画像を作成するように、センサーデータを受信し、点群(構造化された、または非構造化された)を投影し得る。コンピューティングデバイスは、完全な点群を受信する前に、点群の点を投影し得る。結果として、コンピューティングデバイスは、距離画像から順序付けられた点画像を構築し得る。その後、コンピューティングデバイスは、点画像の両端および上下の勾配を計算し得、さらに勾配の積分画像を計算し得る。追加的に、コンピューティングデバイスは、積分画像から平滑化された勾配を再構築し得、また、積分画像から平滑化された勾配を再構築し得る。場合によっては、コンピューティングデバイスは、表面法線を生成するように、平滑化された勾配の外積を計算し得、外積を正規化および反転し得る。
図4は、距離画像の一部におけるピクセルを例示する例示的な図である。距離画像400の一部は、正方形に配列された9つのピクセル402~408を示しているが、他の例内では、より多くの、またはより少ないピクセルを含み得る。車両のコンピューティングデバイスは、ナビゲーション中に、車両の周囲環境の物体認識情報を抽出するように、ピクセル402~408を含む距離画像を生成し、使用し得、これは、ピクセルのセットに基づいて環境における特定表面のベクトル法線を決定することを含み得る。
例示的な図において、中央ピクセル402は、環境を示す受信されたライダーデータを使用して車両のコンピューティングデバイスによって決定された距離画像内の可能なギャップを示す、空ピクセルを表し得る。前に記載されたように、車両のコンピューティングデバイスは、点群フォーマットで受信されたライダーデータなど、センサーによって捕捉された環境を示すデータに基づいて、ピクセルで構成される距離画像を投影し、決定するように、ライダーデータを使用し得る。コンピューティングデバイスによって生成された距離画像は、点群で受信されたデータ点に対応し得ない、したがって、値を有し得ないピクセルを包囲し得る、1つ以上のギャップを含み得る。
いくつかの例示的な実施形態において、図4に示される中央ピクセル402などの距離画像のギャップを埋めるために、コンピューティングデバイスは、中央ピクセル402に与える値を決定するように、中央ピクセル402の近位に位置付けされる隣接ピクセルの値を使用し得る。その動作によって、コンピューティングデバイスは、距離画像内のギャップを埋め、したがって、車両の環境における表面に対応し得るピクセルのセットの法線ベクトルを決定するために使用するように、より完全な距離画像を生成し得る。
一例として、車両のコンピューティングデバイスは、中央ピクセル402の値を決定するように、中央ピクセル402の左側および右側に位置付けされた隣接ピクセル404を使用し得る。例えば、コンピューティングデバイスは、平均値を中央ピクセル402に割り当てるように、中央ピクセル402の左および右に位置付けされた隣接ピクセル404の平均値を計算し得る。場合によっては、コンピューティングデバイスは、中央ピクセル402の平均を計算するように、中央ピクセル402の両側の追加のピクセルも使用し得る。
同様に、別の例において、コンピューティングデバイスは、画像内のギャップを埋めるために中央ピクセル402に割り当て可能な値を決定するように、中央ピクセル402の上下に位置付けされた隣接ピクセル406を使用し得る。コンピューティングデバイスは、中央ピクセル402などの空ピクセルの値を決定するように、より多くの、またはより少ないピクセルも使用し得る。
別の例示的な実施形態において、コンピューティングデバイスは、ピクセル408などの値を決定するように、すべての角ピクセルを使用し得る。同様に、コンピューティングデバイスは、中央ピクセル402に割り当てる平均値を計算するように、中央ピクセル402に近接するすべてのピクセル404~408を使用し得る。他の例において、コンピューティングデバイスは、中央ピクセル402の値を決定するように、より多くの、またはより少ないピクセルを伴い得る、ピクセルの他の組み合わせを使用し得る。
図5A~図5Dは、生成された点群を使用してナビゲートする例示的な車両の概念的説明の様々な図を示す。前に示されたように、車両は、車両の周囲環境についての測定値を抽出するLIDARなどのセンサーを使用してナビゲートし得る。図5A~図5Dに示されるように、車両のコンピューティングデバイスは、障害物を回避し、安全なナビゲーションを確実にするように、入来情報を処理し得る。いくつかの例において、車両のコンピューティングデバイスは、データ点がセンサーから受信される際に、距離画像の一部を生成し得る。同様に、コンピューティングデバイスは、図5A~図5Dに例示される360度パノラマの一部など、車両の環境に対応する仮想画像の360度パノラマ全体を生成するように、データ点を投影し得る。
図5Aは、正面から見た例示的な車両を示し、センサーデータを使用して例示的な車両のコンピューティングデバイスによって生成された仮想距離画像の一部を例示する。例示的な車両502がナビゲートするとき、車両502のセンサーは、環境を示すデータを捕捉して、車両のコンピューティングデバイスに提供し得る。前に述べたように、LIDARを使用するライダーデータなどのデータをセンサーから受信すると、コンピューティングデバイスは、局所環境における物体および他の表面に対応するデータに基づくピクセルを含む概念距離画像504を決定するように、データを投影し得る。コンピューティングデバイスは、例えば、点群の一部を受信すると、距離画像504の一部の生成を開始し得る。追加的に、コンピューティングデバイスは、表面法線を決定し、決定された表面法線に基づいて、リアルタイムで、または所定量のデータが捕捉された後に、それぞれの点の強度を調整し得る。
他の例において、コンピューティングデバイスは、距離画像504を決定し、関連する調整された強度を計算する前に、LIDARを使用して受信した点群全体を待ち得る。車両がナビゲートし続けると、コンピューティングデバイスは、データの新しい点群などの新しいデータをセンサーから受信し続け得、コンピューティングデバイスは、それを使用して、その距離画像504を更新するか、または処理および物体検出のために変化する環境に対応する新しい画像を生成し得る。さらに、コンピューティングデバイスは、環境における同じ表面に対応するピクセルのセットの表面法線を計算するために、距離画像504または距離画像の一部を使用し得、コンピューティングデバイスはそれをセグメンテーションと共に使用して、障害物回避およびナビゲーションのために使用され得る環境の仮想距離を再作成し得る。距離画像は、例えば、仮想距離フォーマットで車両の環境を反映するピクセルを含み得る。
図5Bは、側面から見た例示的な車両を示し、センサーデータを使用して例示的な車両のコンピューティングデバイスによって生成された距離画像の追加部分を例示する。車両502のコンピューティングデバイスは、車両が移動の経路をナビゲートする際に、入来センサーに基づいて、その距離画像504を継続的に更新するか、または新しい距離画像を生成し得る。図5Bに示される例示的な図は、図5Aに示される例示的な図の別の視点を表し得、または図5Aに示される期間の前後など、異なる期間での例示的な車両を例示し得る。
図5Cは、背面から見た例示的な車両を示し、センサーデータを使用して例示的な車両のコンピューティングデバイスによって生成された距離画像の一部を例示する。図5A~図5Bと同様に、図5Cの例示的な図は、例示的な車両502が周囲環境における1つ以上の表面のベクトル法線を計算するために、ならびに物体認識の目的のために使用し得る、距離画像504の一部を示す。
図5Dは、別の背面から見た例示的な車両を示し、センサーデータを使用して例示的な車両のコンピューティングデバイスによって生成された距離画像の一部を例示する。図5Cに示される図と同様に、図5Dは、車両502の後方からの視点からの例示的な車両502を示し、また車両の周りに位置付けされた概念的な距離画像504の部分も含む。例示的な図は、図5Cに示される距離画像の部分に対する距離画像504のセグメントにおける変化を示す。
図6Aは、ピクセルのセットのベクトル法線計算を例示する例示的な図である。例示的な図は、車両のコンピューティングデバイスによってライダーデータから決定された距離画像の一部を表し得る9つのピクセルから構成される、ピクセルのセット602を示す。例示的な図は、9つのピクセルを含むピクセルのセット602を示しているが、他の例は、より多くの、またはより少ないピクセルを含み得る。例示的な図において、ピクセルのセット602は、車両の局所環境における表面を表し得る。例えば、ピクセルのセット602は、車両、標識、境界、または他のタイプの表面などの物体の表面を表し得る。コンピューティングデバイスは、コンピューティングデバイスが使用するように構成された事前に定義された数に基づいてピクセルの近傍を選択するなど、様々なプロセスを使用してピクセルのセット602を決定し得る。コンピューティングデバイスは、同様に表面法線を抽出するために、ピクセルのセットについてどのピクセルを、かつどれくらいのピクセルを使用するのかを決定するための他の方法およびプロセスを使用し得る。
車両のコンピューティングデバイスは、セットに関連付けられた表面法線608を計算するために、接線ベクトル604~606を決定することによって、ピクセルのセット602を処理し得る。例示的な図に示されるように、コンピューティングデバイスは、直角を形成するように接続する水平ベクトル604および垂直ベクトル606を決定し得る。コンピューティングデバイスは、他の例において表面法線を計算するために他のベクトルを決定し得る。
接線ベクトル604~606を決定すると、車両のコンピューティングデバイスは、接線ベクトル604~606の外積を使用して計算され得る、表面法線ベクトル608を計算し得る。ピクセルのセット602の表面法線を決定する他の例も、同様に存在し得る。このようなことから、コンピューティングデバイスは、異議検出のためにピクセルのセット602およびベクトル法線608を使用し得る。コンピューティングデバイスは、ピクセルのセット602に関連するベクトル法線608、ならびに他のピクセルのセットの表面法線および/または他のデータを、ナビゲーション中に使用するために車両のシステムに提供し得る。さらに、コンピューティングデバイスはまた、表面法線および受信されたセンサーデータ内の他の情報に基づいて環境をマッピングするために、ピクセルのセットを組み合わせるように、セグメンテーションを使用し得る。
図6Bは、ベクトル法線656および入射角658を有する、入来レーザー光654に露光する表面652を例示する例示的な図である。表面652は、平坦な表面として示されているが、それはまた、曲面または他の任意の形状の表面であり得る。入来レーザー光654が表面652に当たるときに、表面652は、入来レーザー光654を様々な方向に反射および散乱し得る。入来レーザー光654の一部は、入来レーザー光654を送信したレーザーセンサーに同じ方向に反射して戻され得る。表面法線656は、表面652の平面に垂直である。入射角658は、入来レーザー光654の角度と表面法線656との間の角度である。
例において、表面652が平坦でない場合、表面法線は、入来レーザー光654が表面に当たる点で、表面652の平面に垂直である。平坦でない表面は、多くの異なる表面法線を有するため、新しい表面法線は、入来レーザー光が表面に当たり、レーザーセンサーに反射して戻る点ごとに計算され得る。
図7は、様々な角度の余弦の値を例示する例示的な図である。-90度から90度までの様々な角度702について、曲線704は、余弦706の値を示す。様々な角度702は、表面に当たるレーザーの入射角に対応し得る。調整された強度を計算するために、測定された強度は、入射角の余弦によって除算され得る。図7に示すように、0度の入射角の余弦は、1である。別の例として、60度の角度の余弦は、0.5である。さらに別の例として、45度の角度の余弦は、0.7071である。角度の余弦は、入射角が決定された後に決定され得る。
図8Aは、調整されていないレーザー強度を有する3つの表面(802、804、806)のピクセルを例示する例示的な図800である。3つの表面(802、804、806)のそれぞれの表面は、レーザー光の源に対して異なる角度を有する。角度が異なるため、各表面からのそれぞれのレーザー反射は、(i)表面の反射率と(ii)レーザーの入射角の両方の関数である強度を有し得る。図8Aに示されるように、各表面は、レーザー反射に対応する表面上に複数の点を有する。この例において、各表面は、同じ材料でできている場合があるため、全体的にほぼ同じ反射率を有する。
表面802は、レーザー源に対してほぼ垂直であり得る。したがって、入射角は、ほぼゼロである。表面804は、比較的大きな入射角、およそ60度を有する。表面806は、比較的低い入射角、およそ25度を有する。表面802上のレーザー点は、レーザーの入射角がおよそゼロであるため、最も高い調整されていない強度を有し得る。逆に、表面804上のレーザー点は、レーザーの入射角がどの表面の中でも最も高いので、最も低い調整されていない強度を有し得る。表面806上のレーザー点は、表面802の強度よりわずかに低い調整されていない強度を有し得る。
図8Bは、調整されたレーザー強度を有する3つの表面(852、854、856)のピクセルを例示する例示的な図850である。前に述べたように、ピクセルを調整するために、各ピクセルは、それぞれのピクセルでのラスターの入射角の余弦によって除算され得る。ここで、表面802は、レーザー源に対しておよそ垂直であり得る(すなわち、入射角は、ほぼゼロである)ので、表面802に対応するピクセルの強度は、1に等しいゼロの余弦によって除算され得る。このように、レーザー源に垂直な表面に対応するピクセルの場合、調整された値は、調整されていない値に等しくなる。
しかしながら、表面804および表面806は、それぞれ60度および20度の入射角を有する。60度の余弦は、0.5であり、25度の余弦は、0.91である。このように、調整された値を取得するために、表面804の各ピクセル強度は、0.5で除算され、表面806の各ピクセル強度は、0.91で除算される。
この例における3つの表面のそれぞれは、同じ材料でできているため、図8Bに示される調整された強度は、入射角が調整されたときにほぼ同じ強度である。しかしながら、表面が異なる他の例において、調整された強度は、調整後に等しくない場合がある。
図8Aおよび/または図8Bのピクセルは、ライダーデータのセットとして前に述べたように、車両のメモリに格納され得る。本明細書に記載されている調整は、保存されたデータに対して直接行われ得る。追加的に、前に記載されたように、物体検出システムは、ライダーデータによって画像化された物体を決定するために、調整されたデータを使用し得る。
図9は、本明細書に提示される少なくともいくつかの実施形態に従って配列された、コンピューティングデバイス上でコンピュータプロセスを実行するためのコンピュータプログラムを含む、例示的なコンピュータプログラム製品の概念的な部分図を例示する概略図である。
一実施形態において、例示的なコンピュータプログラム製品900は、信号担持媒体902を使用して提供される。信号担持媒体902は、1つ以上のプロセッサによって実行されるときに、図1~図7に関して上で記載された機能または機能の一部を提供し得る1つ以上のプログラミング命令904を含み得る。いくつかの例において、信号担持媒体902は、ハードディスクドライブ、コンパクトディスク(CD)、デジタルビデオディスク(DVD)、デジタルテープ、メモリなどであるが、これらに限定されない、コンピュータ可読媒体906を包含し得る。いくつかの実装において、信号担持媒体902は、メモリ、読み取り/書き込み(R/W)CD、R/W DVDなどであるが、これらに限定されない、コンピュータ記録可能媒体908を包含し得る。いくつかの実装において、信号担持媒体902は、デジタルおよび/またはアナログ通信媒体(例えば、光ファイバケーブル、導波管、有線通信リンク、無線通信リンクなど)などであるが、これに限定されない、通信媒体910を包含し得る。このように、例えば、信号担持媒体902は、無線形式の通信媒体910によって伝達され得る。
1つ以上のプログラミング命令904は、例えば、コンピュータ実行可能および/または論理実装された命令であり得る。いくつかの例において、図1のプロセッサ112などのコンピューティングデバイスは、コンピュータ可読媒体906、コンピュータ記録可能媒体908、および/または通信媒体910のうちの1つ以上によってプロセッサに伝達されるプログラミング命令904に応答して、様々な動作、機能、または行為を提供するように構成され得る。
非一時的なコンピュータ可読媒体はまた、互いに遠隔に置くことができるか、複数のデータストレージ要素の間に分散され得る。格納された命令の一部またはすべてを実行するコンピューティングデバイスは、図1に例示された車両100などのデバイスであり得る。代替的に、格納された命令の一部またはすべてを実行するコンピューティングデバイスは、サーバなどの別のコンピューティングデバイスであり得る。
本明細書に記載の配列が、例示のみを目的としていることを理解されたい。このようなことから、当業者であれば、他の配列および他の要素(例えば、機械、インターフェース、機能、順序、および機能のグループ化など)を代わりに使用することができ、いくつかの要素は、所望の結果に応じて完全に省略され得ることを理解するであろう。さらに、記載される要素の多くは、任意の適切な組み合わせおよび場所において、個別の、もしくは分散された構成要素として、または他の構成要素と共に、実装され得る、機能的実在物である。
様々な態様および実施形態が本明細書において開示されているが、他の態様および実施形態は、当業者にとっては明らかとなるであろう。本明細書において開示される様々な態様および実施形態は、例示を目的とするものであり、限定することを意図するものではなく、真の範囲が、そのような特許請求の範囲が権利を有する同等物の全範囲とともに、以下の特許請求の範囲によって示される。本明細書において使用される用語が、特定の実施形態を記載するためのものに過ぎず、限定することを意図するものではないことも理解されたい。
記載された例には多くの修正、変形、および詳細な変更を加えることができるので、前の記載および添付の図に示されるすべての事項は、限定的な意味ではなく、例示として解釈されるべきであることが意図されている。

Claims (20)

  1. 方法であって、
    コンピューティングデバイスで、第1のライダーデータ源から車両の環境を示すライダーデータを受信することであって、前記ライダーデータが、前記環境からの反射の場所を示す第1の複数のデータ点を含み、各データ点のそれぞれの強度をさらに含む、受信することと、
    前記第1の複数のデータ点のうちの少なくとも第1のデータ点の第1の表面法線を決定することと、
    前記表面法線に基づいて、前記第1のデータ点の第1の入射角を決定することと、
    前記第1のデータ点の第1の調整された強度を作成するように、前記第1の入射角に基づいて前記第1のデータ点の前記強度を調整することと、を含む、方法。
  2. 前記コンピューティングデバイスで、前記車両の前記環境を示すライダーデータを受信することが、前記環境における1つ以上の物体に関連付けられた前記第1の複数のデータ点を、構造化点群で受信することを含む、請求項1に記載の方法。
  3. 前記コンピューティングデバイスで、前記車両の前記環境を示すライダーデータを受信することが、前記環境における1つ以上の物体に関連付けられた前記第1の複数のデータ点を、非構造化点群で受信することを含む、請求項1に記載の方法。
  4. 前記コンピューティングデバイスで、前記車両の前記環境を示すライダーデータを受信することが、前記環境における1つ以上の物体に関連付けられた前記第1の複数のデータ点を、グリッド状の点群以外の点群フォーマットで受信することを含む、請求項1に記載の方法。
  5. 前記第1のデータ点の前記強度を調整することが、
    前記第1のデータ点までの距離を決定することと、
    前記第1のデータ点の距離調整された強度を作成するように、前記距離に基づいて前記第1のデータ点の前記強度を調整することと、
    前記第1のデータ点の距離調整された強度を前記第1の入射角の余弦によって除算することと、を含む、請求項1に記載の方法。
  6. 前記第1のデータ点の前記第1の表面法線を決定することが、前記第1のデータ点および少なくとも1つの隣接するデータ点に基づいて、表面を決定することを含む、請求項1に記載の方法。
  7. 前記表面が、前記第1の表面法線に関連付けられた複数のデータ点を備え、
    前記複数のデータ点に関連付けられた反射率を決定することをさらに含む、請求項1に記載の方法。
  8. 前記コンピューティングデバイスで、第2のライダーデータ源から前記車両の前記環境を示すライダーデータを受信することであって、前記ライダーデータが、前記環境からの反射の場所を示す第2の複数のデータ点を含み、各データ点のそれぞれの強度をさらに含む、受信することと、
    前記第2の複数のデータ点のうちの少なくとも第2のデータ点の第2の表面法線を決定することと、
    前記第2の表面法線に基づいて、前記第2のデータ点の第2の入射角を決定することと、
    前記第2のデータ点の第2の調整された強度を作成するように、前記第2の入射角に基づいて前記第2のデータ点の前記強度を調整することと、
    前記第1の調整された強度と前記第2の調整された強度の間の相関を決定することであって、前記相関が、前記第1のデータ点および前記第2のデータ点が単一の表面に関連付けられていることを示す、決定することと、をさらに含む、請求項1に記載の方法。
  9. 前記相関に基づいて、(i)較正エラーおよび(ii)センサーエラーのうちの少なくとも1つを決定することをさらに含む、請求項8に記載の方法。
  10. 前記第1の調整された強度に基づいて、前記車両を制御することをさらに含む、請求項1に記載の方法。
  11. 前記第1の複数のデータ点のそれぞれのデータ点ごとに、
    前記それぞれのデータ点のそれぞれの表面法線を決定すること、
    前記それぞれの表面法線に基づいて、前記それぞれのデータ点のそれぞれの入射角を決定すること、および
    前記それぞれのデータ点のそれぞれの調整された強度を作成するように、前記それぞれの入射角に基づいて前記それぞれのデータ点の前記それぞれの強度を調整することと、
    前記第1の複数のデータ点の前記調整された強度に基づいて、強度調整されたマップを作成することと、をさらに含む、請求項1に記載の方法。
  12. システムであって、
    レーザー信号を環境に送信し、前記環境から反射されたレーザー信号を受信するように構成された第1の光検出測距(LIDAR)デバイスであって、前記受信反射されたレーザー信号が、車両の環境を示すライダーデータを含み、前記環境からの反射の場所を示す第1の複数のデータ点を含み、各データ点のそれぞれの強度をさらに含む、第1のLIDARデバイスと、
    少なくとも1つのプロセッサと、
    メモリであって、前記メモリは、前記メモリに格納された命令を有し、前記命令は、少なくとも1つのプロセッサによって実行されると、前記システムに強度調整されたデータ点のセットを作成することを含む機能を実行させ、前記強度調整されたデータ点が、前記環境における物体の異なる部分からの反射されたレーザー信号に関連し、前記機能が、
    前記第1の複数のデータ点のうちの少なくとも第1のデータ点の第1の表面法線を決定することと、
    前記表面法線に基づいて、前記第1のデータ点の第1の入射角を決定することと、
    前記第1の複数のデータ点のそれぞれのデータ点ごとに、
    前記それぞれのデータ点のそれぞれの表面法線を決定し、
    前記それぞれの表面法線に基づいて、前記それぞれのデータ点のそれぞれの入射角を決定し、
    前記それぞれのデータ点のそれぞれの調整された強度を作成するように、前記それぞれの入射角に基づいて前記それぞれのデータ点の前記それぞれの強度を調整することと、
    前記第1の複数のデータ点の前記調整された強度に基づいて、強度調整されたマップを作成することと、を含む、メモリと、を備える、システム。
  13. 前記機能が、
    前記第1のデータ点までの距離を決定することと、
    前記第1のデータ点の距離調整された強度を作成するように、前記距離に基づいて前記第1のデータ点の前記強度を調整することと、
    前記第1のデータ点の距離調整された強度を前記第1の入射角の余弦によって除算することと、をさらに含む、請求項12に記載のシステム。
  14. レーザー信号を送受信するように構成された第2のレーザーユニットをさらに備え、
    前記機能が、
    前記コンピューティングデバイスで、前記第2のレーザーユニットから車両の環境を示すライダーデータを受信することであって、前記ライダーデータが、前記環境からの反射の場所を示す第2の複数のデータ点を含み、各データ点のそれぞれの強度をさらに含む、受信することと、
    前記第2の複数のデータ点のうちの少なくとも第2のデータ点の第2の表面法線を決定することと、
    前記第2の表面法線に基づいて、前記第2のデータ点の第2の入射角を決定することと、
    前記第2のデータ点の第2の調整された強度を作成するように、前記第2の入射角に基づいて前記第2のデータ点の前記強度を調整することと、
    前記第1の調整された強度と前記第2の調整された強度の間の相関を決定することであって、前記相関が、前記第1のデータ点および前記第2のデータ点が単一の表面に関連付けられていることを示す、決定することと、をさらに含む、請求項12に記載のシステム。
  15. 前記機能が、前記相関に基づいて、(i)較正エラーおよび(ii)センサーエラーのうちの少なくとも1つを決定することをさらに含む、請求項12に記載のシステム。
  16. 前記機能が、前記第1のデータ点および少なくとも1つの隣接するデータ点に基づいて表面を決定することによって、前記第1のデータ点の前記第1の表面法線を決定することをさらに含む、請求項12に記載のシステム。
  17. 前記表面が、各々が同じ表面法線を有する、複数のデータ点を備え、
    前記機能が、前記複数のデータ点に関連付けられた反射率を決定することをさらに含む、請求項12に記載のシステム。
  18. 自立走行命令を実行するように構成された車両をさらに備える、請求項12に記載のシステム。
  19. 前記機能が、前記第1の調整された強度に基づいて、前記運転命令を調整することをさらに含む、請求項18に記載のシステム。
  20. 非一時的なコンピュータ可読媒体であって、前記非一時的なコンピュータ可読媒体は、前記非一時的なコンピュータ可読媒体に格納された実行可能命令を有し、前記実行可能命令は、コンピューティングデバイスによって実行されると、前記コンピューティングデバイスに機能を実行させ、前記機能が、
    コンピューティングデバイスで、第1のレーザーユニットから車両の環境を示すライダーデータを受信することであって、前記ライダーデータが、各データ点がそれぞれの強度を有する第1の複数のデータ点を含む、受信することと、
    前記第1の複数のデータ点の少なくともサブセットの第1のそれぞれのデータ点の表面法線を決定することと、
    前記表面法線に基づいて、前記第1のそれぞれのデータ点の入射角を決定することと、
    前記第1の調整された強度を作成するように、前記入射角に基づいて前記第1のそれぞれのデータ点の前記強度を調整することと、を含む、非一時的なコンピュータ可読媒体。
JP2021523794A 2018-11-02 2019-10-11 レーザービームの入射角の計算および反射率推定へのその応用 Pending JP2022506428A (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201862754953P 2018-11-02 2018-11-02
US62/754,953 2018-11-02
US16/236,780 US11592524B2 (en) 2018-11-02 2018-12-31 Computation of the angle of incidence of laser beam and its application on reflectivity estimation
US16/236,780 2018-12-31
PCT/US2019/055775 WO2020091971A1 (en) 2018-11-02 2019-10-11 Computation of the angle of incidence of laser beam and its application on reflectivity estimation

Publications (1)

Publication Number Publication Date
JP2022506428A true JP2022506428A (ja) 2022-01-17

Family

ID=70459683

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021523794A Pending JP2022506428A (ja) 2018-11-02 2019-10-11 レーザービームの入射角の計算および反射率推定へのその応用

Country Status (5)

Country Link
US (1) US11592524B2 (ja)
EP (1) EP3857266A4 (ja)
JP (1) JP2022506428A (ja)
CN (1) CN113260877A (ja)
WO (1) WO2020091971A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023181947A1 (ja) * 2022-03-23 2023-09-28 株式会社デンソー 物体検出装置および物体検出方法
JP7673763B2 (ja) 2022-03-23 2025-05-09 株式会社デンソー 物体検出装置および物体検出方法

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102016116859A1 (de) * 2016-09-08 2018-03-08 Knorr-Bremse Systeme für Nutzfahrzeuge GmbH Sensoranordnung für ein autonom betriebenes Nutzfahrzeug und ein Verfahren zur Rundumbilderfassung
US11520331B2 (en) * 2018-12-28 2022-12-06 Intel Corporation Methods and apparatus to update autonomous vehicle perspectives
US11748903B2 (en) * 2019-01-02 2023-09-05 Zebra Technologies Corporation System and method for robotic object detection using a convolutional neural network
US11153010B2 (en) 2019-07-02 2021-10-19 Waymo Llc Lidar based communication
US11754715B2 (en) * 2019-07-11 2023-09-12 Baidu Usa Llc Point cloud format optimized for LiDAR data storage based on device property
US20220155455A1 (en) * 2020-11-16 2022-05-19 GM Global Technology Operations LLC Method and system for ground surface projection for autonomous driving
JP7511504B2 (ja) * 2021-02-16 2024-07-05 三菱重工業株式会社 移動体、移動制御システム、移動体の制御方法及びプログラム

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08160137A (ja) * 1994-11-30 1996-06-21 Nec Corp レーザ計測方法及び計測装置
JP2006098221A (ja) * 2004-09-29 2006-04-13 Nissan Motor Co Ltd 先行車両検出装置
JP2007503582A (ja) * 2003-08-27 2007-02-22 テラビュー リミテッド 非平面的試料を調査するための方法及び装置
JP2008292365A (ja) * 2007-05-25 2008-12-04 Toyota Motor Corp 形状評価方法、形状評価装置および三次元検査装置
JP2014089114A (ja) * 2012-10-30 2014-05-15 Denso Corp 軸ずれ判定装置
JP2015010845A (ja) * 2013-06-26 2015-01-19 キヤノン株式会社 情報処理装置、計測システム、制御システム、光量決定方法、プログラム及び記憶媒体
JP2015212942A (ja) * 2014-04-25 2015-11-26 グーグル インコーポレイテッド レーザー点クラウドを用いる物体検出のための方法及びシステム
JP2016206026A (ja) * 2015-04-23 2016-12-08 株式会社デンソー 物体認識装置
US20170193312A1 (en) * 2014-03-27 2017-07-06 Georgia Tech Research Corporation Systems and Methods for Identifying Traffic Control Devices and Testing the Retroreflectivity of the Same
JP2017166846A (ja) * 2016-03-14 2017-09-21 株式会社デンソー 物体認識装置
JP2017167671A (ja) * 2016-03-14 2017-09-21 キヤノン株式会社 情報処理装置、情報処理方法およびプログラム
JP2017223511A (ja) * 2016-06-14 2017-12-21 日本電信電話株式会社 道路構造化装置、道路構造化方法、及び道路構造化プログラム

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US107899A (en) * 1870-10-04 Improvement in grates
GB2222047A (en) * 1988-07-25 1990-02-21 Unisearch Ltd Optical mapping of field of view and information storage
US9043069B1 (en) * 2012-11-07 2015-05-26 Google Inc. Methods and systems for scan matching approaches for vehicle heading estimation
US9046600B2 (en) 2012-12-05 2015-06-02 Toyota Motor Engineering & Manufacturing North America, Inc. Method and apparatus for intensity calibration of multi-beam lidar sensors
US9285230B1 (en) * 2013-12-20 2016-03-15 Google Inc. Methods and systems for detecting road curbs
US10082388B2 (en) * 2014-04-07 2018-09-25 Tara Manufacturing, Inc. Method and apparatus for measuring perimeter of swimming pools
EP3091333B1 (de) * 2015-05-08 2019-07-03 Leica Geosystems AG Scanverfahren und vermessungssystem mit scanfunktionalität
CN106291505B (zh) * 2015-06-10 2018-07-27 核工业北京地质研究院 一种非植被覆盖区机载LiDAR数据回波强度值校正方法
TWI570387B (zh) * 2015-11-09 2017-02-11 財團法人工業技術研究院 影像測距系統、光源模組及影像感測模組
US10845470B2 (en) 2016-11-16 2020-11-24 Waymo Llc Methods and systems for protecting a light detection and ranging (LIDAR) device
EP4283252A1 (en) * 2016-11-29 2023-11-29 Blackmore Sensors & Analytics, LLC Method and system for classification of an object in a point cloud data set
US10593042B1 (en) * 2017-04-11 2020-03-17 Zoox, Inc. Perspective conversion for multi-dimensional data analysis
US10444759B2 (en) * 2017-06-14 2019-10-15 Zoox, Inc. Voxel based ground plane estimation and object segmentation
US10591923B2 (en) * 2017-06-27 2020-03-17 GM Global Technology Operations LLC Method and apparatus for parallel illumination by a VCSEL array
US10535138B2 (en) * 2017-11-21 2020-01-14 Zoox, Inc. Sensor data segmentation
US11029399B2 (en) 2018-02-01 2021-06-08 Beijing Voyager Technology Co., Ltd. System and method for calibrating light intensity
CN108681525B (zh) * 2018-05-16 2020-12-25 福州大学 一种基于车载激光扫描数据的路面点云强度增强方法
US11079492B1 (en) * 2018-09-28 2021-08-03 Zoox, Inc. Condition dependent parameters for large-scale localization and/or mapping
CN109407112B (zh) * 2018-10-15 2022-11-25 华南农业大学 基于LiDAR点云数据的果树树冠体积测算方法及系统

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08160137A (ja) * 1994-11-30 1996-06-21 Nec Corp レーザ計測方法及び計測装置
JP2007503582A (ja) * 2003-08-27 2007-02-22 テラビュー リミテッド 非平面的試料を調査するための方法及び装置
JP2006098221A (ja) * 2004-09-29 2006-04-13 Nissan Motor Co Ltd 先行車両検出装置
JP2008292365A (ja) * 2007-05-25 2008-12-04 Toyota Motor Corp 形状評価方法、形状評価装置および三次元検査装置
JP2014089114A (ja) * 2012-10-30 2014-05-15 Denso Corp 軸ずれ判定装置
JP2015010845A (ja) * 2013-06-26 2015-01-19 キヤノン株式会社 情報処理装置、計測システム、制御システム、光量決定方法、プログラム及び記憶媒体
US20170193312A1 (en) * 2014-03-27 2017-07-06 Georgia Tech Research Corporation Systems and Methods for Identifying Traffic Control Devices and Testing the Retroreflectivity of the Same
JP2015212942A (ja) * 2014-04-25 2015-11-26 グーグル インコーポレイテッド レーザー点クラウドを用いる物体検出のための方法及びシステム
JP2016206026A (ja) * 2015-04-23 2016-12-08 株式会社デンソー 物体認識装置
JP2017166846A (ja) * 2016-03-14 2017-09-21 株式会社デンソー 物体認識装置
JP2017167671A (ja) * 2016-03-14 2017-09-21 キヤノン株式会社 情報処理装置、情報処理方法およびプログラム
JP2017223511A (ja) * 2016-06-14 2017-12-21 日本電信電話株式会社 道路構造化装置、道路構造化方法、及び道路構造化プログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JINYONG JEONG ET AL.: "LiDAR Intensity Calibration for Road Marking Extraction", 2018 15TH INTERNATIONAL CONFERENCE ON UBIQUITOUS ROBOTS, JPN6022020066, June 2018 (2018-06-01), US, pages 455 - 460, XP033391152, ISSN: 0005048535, DOI: 10.1109/URAI.2018.8441893 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023181947A1 (ja) * 2022-03-23 2023-09-28 株式会社デンソー 物体検出装置および物体検出方法
JP7673763B2 (ja) 2022-03-23 2025-05-09 株式会社デンソー 物体検出装置および物体検出方法

Also Published As

Publication number Publication date
EP3857266A1 (en) 2021-08-04
EP3857266A4 (en) 2022-07-06
US11592524B2 (en) 2023-02-28
CN113260877A (zh) 2021-08-13
US20200142032A1 (en) 2020-05-07
WO2020091971A1 (en) 2020-05-07

Similar Documents

Publication Publication Date Title
JP6441993B2 (ja) レーザー点クラウドを用いる物体検出のための方法及びシステム
US12019443B2 (en) Use of detected objects for image processing
US20220128681A1 (en) Methods and Systems for Clearing Sensor Occlusions
US8989944B1 (en) Methods and devices for determining movements of an object in an environment
US11592524B2 (en) Computation of the angle of incidence of laser beam and its application on reflectivity estimation
US9201424B1 (en) Camera calibration using structure from motion techniques
US9052721B1 (en) Method for correcting alignment of vehicle mounted laser scans with an elevation map for obstacle detection
US9315192B1 (en) Methods and systems for pedestrian avoidance using LIDAR
US9063548B1 (en) Use of previous detections for lane marker detection
US9607226B2 (en) Methods and systems for object detection using multiple sensors
US20250085707A1 (en) Use of a Reference Image to Detect a Road Obstacle
US9097804B1 (en) Object and ground segmentation from a sparse one-dimensional range data
US9207680B1 (en) Estimating multi-vehicle motion characteristics by finding stable reference points
KR20190074293A (ko) 자율 차량 지각 및 계획을 위한 레이더 생성 점유 그리드

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210618

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220518

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220523

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220822

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230209

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230428