JP6738932B2 - シミュレーションプラットフォームに配置された、機械学習モデルを訓練するためのシステム及び方法 - Google Patents

Description

本発明の実施形態は、主に自動運転車両を動作させることに関する。より具体的には、本発明の実施形態は、シミュレーションプラットフォーム上に配置された機械学習モデルを訓練するためのシステム及び方法に関する。

自動運転モード（例えば、ドライバーレス）で走行している車両は、乗員、特に人間の運転手をいくつかの運転に関する役割から解放できる。自動運転モードで走行しているとき、車両は、車載センサを使用して様々な位置までにナビゲートされることが可能であり、最小限のヒューマンコンピュータインタラクションや乗客がいないなどの状況で走行することが可能となった。

運動計画・制御は、自動運転における重要な動作となる。しかしながら、従来の運動計画作業は、異なる種類の車両の特徴の違いを考慮せずに、主にその曲率及び速度に基づいて所与の経路（走行軌道）を完成する難しさを推定する。いくつかの運動計画・制御は、すべてのタイプの車両に適用され、場合によっては、精度が低く平滑ではない可能性がある。

自動運転における動作・計画制御を改善するために、自動運転シミュレータは一般に、そのようなソフトウェア構成要素（例えば、感知・計画制御）のソフトウェア性能を評価するために使用される。例えば、従来のシミュレータは一般に、一連のグレーディングメトリクスを含む所定のグレーディングシステムに基づいてソフトウェア構成要素を評価する。しかしながら、前記グレーディングシステムは、多くの運転シナリオ（例えば、コーナリングシナリオ）では無効であり、前記運転シナリオを定義するためにメトリクスの異なる組み合わせを必要とするときはしばしば失敗する。

本願の一態様によれば、車両の自動運転を評価するための機械学習モデルの訓練のコンピュータに実装された方法が提供され、前記方法は、
複数の運転シナリオのそれぞれについて、
車両の一つ以上のセンサからのセンサデータ及び前記運転シナリオに応答して、前記車両が人間の運転手によって前記運転シナリオに応じて運転される時に、前記車両の運転統計データ及び環境データを収集するステップと、
前記運転シナリオが完了すると、前記運転手に対して完了した運転シナリオのラベルを選択するように要求し、且つ前記運転手の選択に応じて選択されたラベルを記憶するステップと、
所定の基準に基づいて、前記運転統計データ及び前記環境データから、前記運転シナリオ中の異なる時点で収集された前記運転統計データのいくつか及び前記環境データのいくつかを含む特徴を抽出し、続いて、前記抽出された特徴を複数の自動運転車両の自動運転の挙動に関する評価に利用するステップと、を含む。

本願の他の態様によれば、命令が記憶されている非一時的な機械可読記憶媒体が提供され、前記命令がプロセッサにより実行される場合に、前記プロセッサに、
複数の運転シナリオのそれぞれについて、
車両の一つ以上のセンサからのセンサデータ及び前記運転シナリオに応答して、前記車両が人間の運転手によって前記運転シナリオに応じて運転される時に、前記車両の運転統計データ及び環境データを収集するステップと、
前記運転シナリオが完了すると、前記運転手に対して完了した運転シナリオのラベルを選択するように要求し、且つ前記運転手の選択に応じて選択されたラベルを記憶するステップと、
所定の基準に基づいて、前記運転統計データ及び前記環境データから、前記運転シナリオ中の異なる時点で収集された前記運転統計データのいくつか及び前記環境データのいくつかを含む特徴を抽出し、続いて、前記抽出された特徴を複数の自動運転車両の自動運転の挙動に関する評価に利用するステップと、
を含む動作を実行させる。

本発明の更に別の態様によれば、データ処理システムが提供され、当該データ処理システムは、
プロセッサと、
前記プロセッサに接続されて命令を記憶するメモリであって、前記命令が前記プロセッサにより実行される場合に、
複数の運転シナリオのそれぞれについて、
車両の一つ以上のセンサからのセンサデータ及び前記運転シナリオに応答して、前記車両が人間の運転手によって前記運転シナリオに応じて運転される時に、前記車両の運転統計データ及び環境データを収集するステップと、
前記運転シナリオが完了すると、前記運転手に対して完了した運転シナリオのラベルを選択するように要求し、且つ前記運転手の選択に応じて選択されたラベルを記憶するステップと、
所定の基準に基づいて、前記運転統計データ及び前記環境データから、前記運転シナリオ中の異なる時点で収集された前記運転統計データのいくつか及び前記環境データのいくつかを含む特徴を抽出し、続いて、前記抽出された特徴を複数の自動運転車両の自動運転の挙動に関する評価に利用するステップと、を含む動作を前記プロセッサに実行させるメモリと、を備える。

本発明の実施形態は、図面の各図において限定的ではなく例示的な形態で示され、図面における同じ図面符号が類似した素子を示す。

一実施形態に係るネットワークシステムを示すブロック図である。 一実施形態に係る自動運転車両の一例を示すブロック図である。 一実施形態に係る自動運転車両と共に使用される感知・計画システムの一例を示すブロック図である。 一実施形態に係る自動運転車両と共に使用される感知・計画システムの一例を示すブロック図である。 一実施形態に係る、機械学習モデルを訓練するためのシステムの一例を示すブロック図である。 一実施形態に係る、自動運転ソフトウェア構成要素を評価するためのシステムの一例を示すブロック図である。 一実施形態に係る抽出された特徴の一例を示す図である。 一実施形態に係る、機械学習モデルを訓練する方法を示すフローチャートである。 一実施形態に係る、自動運転ソフトウェア構成要素を評価する方法を示すフローチャートである。 一実施形態に係るデータ処理システムを示すブロック図である。

以下、説明の詳細を参照しながら本発明の様々な実施形態及び態様を説明し、前記様々な実施形態が図面に示される。以下の説明及び図面は、本発明を例示するためのものであり、限定するものとして解釈されるべきではない。本発明の様々な実施形態を全面的に理解するために、多くの特定の詳細を説明する。なお、本発明の実施形態を簡潔的に説明するように、周知又は従来技術の詳細について説明していない場合もある。

本明細書において、「一実施形態」又は「実施形態」とは、当該実施形態に基づいて説明された特定の特徴、構造又は特性が本発明の少なくとも一実施形態に含まれてもよいと意味する。「一実施形態では」という表現は、本明細書の全体において全てが同一の実施形態を指すとは限らない。

いくつかの実施形態によれば、人間の運転手は運転シナリオに応じて車両を操作すると同時に、システムは、人間の運転手の運転統計データ及び運転シナリオに関連する環境データを収集する。例えば、システムは、車両（例えば、自動運転車両）からの１つ以上のセンサと通信して、人間の運転手の運転スタイルに関連するセンサデータを取得する。収集された運転統計データ及び環境データは、リモートサーバ（例えば、クラウドストレージ）及び／又は永続的（不揮発性）記憶装置にローカルに記憶される。システムは、収集された運転統計データ及び環境データから特徴を抽出するために、リモートサーバ及び／又は永続的（不揮発性）記憶装置から、収集された運転統計データ及び環境データを受信（又は検索）する。抽出された特徴は、アルゴリズム／モデル（例えば、機械学習モデル）を訓練するために使用され、前記アルゴリズム／モデルはオフラインの自動運転シミュレーションプラットフォームに配置されて、自動運転ソフトウェア構成要素（例えば、感知・計画制御）の性能を評価する。このようにして、自動運転ソフトウェア構成要素は、自動運転車両の人間のユーザの安全を確保するように、困難な運転シナリオ（例えば、コーナリングシナリオ）を処理するように改良されることが可能である。

一実施形態では、運転シナリオのそれぞれについて、車両の一つ以上のセンサからのセンサデータ及び運転シナリオに応答して、車両が人間の運転手によって運転シナリオに応じて運転されると同時に車両の運転統計データ及び環境データを収集する。運転シナリオが完了すると、運転手に対して完了した運転シナリオのラベルを選択するように要求し、且つ選択されたラベルを運転手の選択に応じて記憶する。所定の基準に基づいて運転統計データ及び環境データから特徴を抽出する。抽出された特徴は、運転シナリオ中の異なる時点で収集された運転統計データのいくつか及び環境データのいくつかを含む。

一実施形態では、機械学習モデルは、抽出された特徴及び複数のラベルを使用して、複数の運転シナリオにおける人間の運転手の運転挙動及び選択を連続的に学習するように訓練される。

一実施形態では、車両の運転統計データ及び環境データが収集された後、収集された運転統計データ及び環境データは、サーバに遠隔的に記憶される。運転統計データ及び環境データから特徴を抽出する前に、収集された運転統計データ及び環境データをサーバから検索する。

図１は、本発明の一実施形態に係る自動運転車両のネットワーク構成を示すブロック図である。図１に示すように、ネットワーク構成１００は、ネットワーク１０２を介して１つ以上のサーバ１０３〜１０４に通信可能に接続される自動運転車両１０１を含む。１つの自動運転車両のみが示されているが、複数の自動運転車両が、ネットワーク１０２を介して、互いに接続され、及び／又はサーバ１０３〜１０４に接続されてもよい。ネットワーク１０２は、任意のタイプのネットワーク、例えば、有線又は無線のローカルエリアネットワーク（ＬＡＮ）、インターネットのようなワイドエリアネットワーク（ＷＡＮ）、セルラーネットワーク、衛星ネットワーク又はそれらの組み合わせであってもよい。サーバ１０３〜１０４は、如何なるタイプのサーバ又はサーバクラスタであってもよく、例えば、ネットワーク又はクラウドサーバ、アプリサーバ、バックエンドサーバ又はそれらの組み合わせが挙げられる。サーバ１０３〜１０４は、データ解析サーバ、コンテンツサーバ、交通情報サーバ、地図及び関心地点（ＭＰＯＩ）サーバ、又は位置サーバなどであってもよい。

自動運転車両とは、自動運転モードになるように構成可能な車両を指し、前記自動運転モードにおいて、車両が運転手からの入力がほとんど又は全くない場合に環境を通過するようにナビゲートされる。このような自動運転車両は、車両動作環境に関連する情報を検出するように構成された１つ以上のセンサを有するセンサシステムを含んでもよい。前記車両及びその関連コントローラは、検出された情報を使用して前記環境を通過するようにナビゲートする。自動運転車両１０１は、手動モード、全自動運転モード、又は部分自動運転モードで動作することができる。

一実施形態では、自動運転車両１０１は、感知・計画システム１１０、車両制御システム１１１、無線通信システム１１２、ユーザインターフェースシステム１１３、及びセンサシステム１１５を含むが、それらに限定されない。自動運転車両１０１は更に、エンジン、車輪、ステアリングホイール、変速機などの従来の車両に含まれるいくつかの共通構成要素を含んでもよい。前記構成要素は、車両制御システム１１１及び／又は感知・計画システム１１０によって様々な通信信号及び／又はコマンドで制御されることができ、これらの様々な通信信号及び／又はコマンドは、例えば加速信号又はコマンド、減速信号又はコマンド、ステアリング信号又はコマンド、ブレーキ信号又はコマンドなどを含む。

構成要素１１０〜１１５は、インターコネクト、バス、ネットワーク、又はこれらの組み合わせを介して互いに通信可能に接続することができる。例えば、構成要素１１０〜１１５は、コントローラエリアネットワーク（ＣＡＮ）バスを介して互いに通信可能に接続することができる。ＣＡＮバスは、ホストコンピュータなしのアプリケーションでマイクロコントローラ及びデバイスが相互に通信できるように設計された車両バス規格である。それは、もともと自動車内の多重電気配線のために設計されたメッセージに基づくプロトコルであるが、他の多くの環境にも用いられる。

ここで図２を参照すると、一実施形態では、センサシステム１１５は、１つ以上のカメラ２１１、全地球測位システム（ＧＰＳ）ユニット２１２、慣性計測ユニット（ＩＭＵ）２１３、レーダユニット２１４並びに光検出及び測距（ＬＩＤＡＲ）ユニット２１５を含むが、それらに限定されない。ＧＰＳユニット２１２は、自動運転車両の位置に関する情報を提供するように動作可能な送受信機を含んでもよい。ＩＭＵユニット２１３は、慣性加速度に基づいて自動運転車両の位置及び配向の変化を検知することができる。レーダユニット２１４は、無線信号を利用して自動運転車両のローカル環境内のオブジェクトを検知するシステムを表すことができる。いくつかの実施形態では、オブジェクトを検知することに加えて、レーダユニット２１４は、オブジェクトの速度及び／又は進行方向を更に検知することができる。ＬＩＤＡＲユニット２１５は、レーザを使用して自動運転車両の所在環境内のオブジェクトを検知することができる。ＬＩＤＡＲユニット２１５は、他のシステム構成要素のほかに、１つ以上のレーザ源、レーザスキャナ、及び１つ以上の検出器を更に含むことができる。カメラ２１１は、自動運転車両の周囲の環境における画像を取り込むための１つ以上の装置を含むことができる。カメラ２１１は、スチルカメラ及び／又はビデオカメラであってもよい。カメラは、例えば、回転及び／又は傾斜のプラットフォームにカメラを取り付けることによって、機械的に移動されてもよい。

センサシステム１１５は、ソナーセンサ、赤外線センサ、ステアリングセンサ、スロットルセンサ、ブレーキセンサ、及びオーディオセンサ（例えば、マイクロフォン）などの他のセンサを更に含むことができる。オーディオセンサは、自動運転車両の周囲の環境から音を取得するように構成されてもよい。ステアリングセンサは、ステアリングホイール、車両の車輪、又はそれらの組み合わせの操舵角を検知するように構成されてもよい。スロットルセンサ及びブレーキセンサそれぞれは、車両のスロットル位置及びブレーキ位置を検知する。場合によっては、スロットルセンサとブレーキセンサを統合型スロットル／ブレーキセンサとして一体化することができる。

一実施形態では、車両制御システム１１１は、ステアリングユニット２０１、スロットルユニット２０２（加速ユニットともいう）、及びブレーキユニット２０３を含むが、それらに限定されない。ステアリングユニット２０１は、車両の方向又は進行方向を調整するために用いられる。スロットルユニット２０２は、モータ又はエンジンの速度を制御するために用いられ、モータ又はエンジンの速度によって更に車両の速度及び加速度を制御する。ブレーキユニット２０３は、摩擦を与えることによって車両の車輪又はタイヤを減速させることで、車両を減速させる。なお、図２に示す構成要素は、ハードウェア、ソフトウェア、又はそれらの組み合わせで実現されることができる。

図１を再び参照して、無線通信システム１１２は、自動運転車両１０１と、装置、センサ、他の車両などの外部システムとの間の通信を可能にするものである。例えば、無線通信システム１１２は、直接又は通信ネットワークを介して一つ以上の装置と無線通信することができ、例えば、ネットワーク１０２を介してサーバ１０３〜１０４と通信することができる。無線通信システム１１２は、任意のセルラー通信ネットワーク又は無線ローカルエリアネットワーク（ＷＬＡＮ）を使用することができ、例えば、ＷｉＦｉを使用して別の構成要素又はシステムと通信することができる。無線通信システム１１２は、例えば、赤外線リンク、ブルートゥース（登録商標）などを使用して、装置（例えば、乗客のモバイルデバイス、表示装置、車両１０１内のスピーカ）と直接通信することができる。ユーザインターフェースシステム１１３は、車両１０１内に実現された周辺装置の部分（例えば、キーボード、タッチスクリーン表示装置、マイクロホン、及びスピーカなどを含む）であってもよい。

特に自動運転モードで動作しているときに、自動運転車両１０１の機能の一部又は全部は、感知・計画システム１１０によって制御又は管理することができる。感知・計画システム１１０は、必要なハードウェア（例えば、プロセッサ、メモリ、記憶装置）及びソフトウェア（例えば、オペレーティングシステム、計画及びルーティングプログラム）を備え、センサシステム１１５、制御システム１１１、無線通信システム１１２、及び／又はユーザインターフェースシステム１１３から情報を受信し、受信した情報を処理し、出発地から目的地までのルート又は経路を計画し、その後、計画・制御情報に基づいて車両１０１を運転する。 あるいは、感知・計画システム１１０を車両制御システム１１１と統合することができる。

例えば、乗客としてのユーザは、例えば、ユーザインターフェースを介して、旅程の出発地位置及び目的地を指定することができる。感知・計画システム１１０は旅程関連データを取得する。例えば、感知・計画システム１１０は、ＭＰＯＩサーバから位置及びルート情報を取得することができ、前記ＭＰＯＩサーバはサーバ１０３〜１０４の一部であってもよい。位置サーバは位置サービスを提供し、ＭＰＯＩサーバは地図サービス及び特定の位置のＰＯＩを提供する。あるいは、そのような位置及びＭＰＯＩ情報は、感知・計画システム１１０の永続的（不揮発性）記憶装置にローカルキャッシュされることが可能である。

自動運転車両１０１がルートに沿って移動するとき、感知・計画システム１１０は交通情報システム又はサーバ（ＴＩＳ）からリアルタイム交通情報を取得することもできる。なお、サーバ１０３〜１０４は第三者エンティティによって操作されることが可能である。あるいは、サーバ１０３〜１０４の機能は、感知・計画システム１１０と統合することができる。リアルタイム交通情報、ＭＰＯＩ情報、及び位置情報、並びにセンサシステム１１５によって検出又は検知されたリアルタイムローカル環境データ（例えば、障害物、オブジェクト、周辺車両）に基づいて、感知・計画システム１１０は、指定された目的地までに安全かつ効率的に到着するように、最適なルートを計画し、計画されたルートに従って、例えば、制御システム１１１によって車両１０１を運転する。

一実施形態によれば、サーバ１０３は、運転統計データ１２３及び環境データ１２４を含んでもよい。本明細書で更に詳細に論じるように、自動運転車両１０１が人間の運転手によって手動運転モードで動作又は運転されている間に、データコレクタ（例えば、図３Ａのデータコレクタ３０８）は、運転統計データ１２３及び環境データ１２４を自動的に収集してサーバ１０３に記憶する。一実施形態では、運転統計データ１２３は、車両１０１の車両状態を記述し、発行された運転コマンド（例えば、スロットルコマンド、ブレーキコマンド、ステアリングコマンド）、及び／又は異なる時点で車両のセンサにより取得された車両の応答（例えば、速度、加速度、減速度、方向、加速度変化率）を示す情報を含んでもよい。環境データ１２４は、異なる時点における運転環境を記述する情報、例えば、ルート（出発地位置及び目的地位置を含む）、ＭＰＯＩ、道路状況、天気状況、障害物情報などを含んでもよい。

以下でより詳細に説明するように、運転統計データ１２３及び環境データ１２４に基づいて、機械学習エンジン（例えば、図３Ａの機械学習エンジン３１０）は、例えば、自動運転車両のソフトウェア構成要素（例えば、感知・計画制御）を評価するためにオフライン自動運転シミュレーションを実行するなど、様々な目的のために１セットのルール、アルゴリズム、及び／又は予測モデルを生成又は訓練することができる。

図３Ａ及び図３Ｂは、一実施形態に係る自動運転車両と共に使用される感知・計画システムの一例を示すブロック図である。システム３００は、図１の自動運転車両１０１の一部として実現することができ、感知・計画システム１１０、制御システム１１１、及びセンサシステム１１５を含むが、それらに限定されない。図３Ａ〜図３Ｂに示すように、感知・計画システム１１０は、測位モジュール３０１、感知モジュール３０２、予測モジュール３０３、決定モジュール３０４、計画モジュール３０５、制御モジュール３０６、ルーティングモジュール３０７、データコレクタ３０８、特徴抽出モジュール３０９及び機械学習エンジン３１０を含むが、それらに限定されない。

モジュール３０１〜３１０のうちの一部又は全部は、ソフトウェア、ハードウェア又はそれらの組み合わせで実現されてもよい。例えば、これらのモジュールは、永続的（不揮発性）記憶装置３５２にインストールされ、メモリ３５１にロードされ、１つ以上のプロセッサ（図示せず）によって実行されることができる。なお、これらのモジュールの一部又は全部は、図２の車両制御システム１１１のモジュールの一部又は全部と通信可能に接続されるか、又は一体化されてもよい。モジュール３０１〜３１０のいくつかは、集積モジュールとして一体化されてもよい。

測位モジュール３０１は、自動運転車両３００の現在の位置（例えば、ＧＰＳユニット２１２を利用して）を特定し、ユーザの旅程又はルートに関連する如何なるデータを管理する。測位モジュール３０１（地図及びルートモジュールともいう）は、ユーザの旅程又はルートに関連する如何なるデータを管理する。ユーザは、例えば、ユーザインターフェースを介してログインして、旅程の出発地位置及び目的地を指定することができる。測位モジュール３０１は、自動運転車両３００の地図及びルート情報３１１のような他の構成要素と通信して、旅程関連データを取得する。例えば、測位モジュール３０１は、位置サーバ並びに地図及びＰＯＩ（ＭＰＯＩ）サーバから位置及びルート情報を取得することができる。位置サーバは位置サービスを提供し、ＭＰＯＩサーバは、地図サービス及び特定の位置のＰＯＩを提供し、地図及びルート情報３１１の一部としてキャッシュすることができる。自動運転車両３００がルートに沿って移動するとき、測位モジュール３０１は交通情報システム又はサーバからリアルタイム交通情報を得ることもできる。

感知モジュール３０２は、センサシステム１１５により提供されたセンサデータと、測位モジュール３０１により取得された測位情報とに基づいて、周囲環境への感知を特定する。感知情報は、一般的な運転手が運転手により運転されている車両の周囲で感知すべきものを表すことができる。感知は、例えばオブジェクトの形態を採用する車線構成（例えば、直進車線又はカーブ車線）、信号機信号、他の車両の相対位置、歩行者、建築物、横断歩道、又は他の交通関連標識（例えば、止まれ標識、ゆずれ標識）などを含んでもよい。

感知モジュール３０２は、１つ以上のカメラによって取り込まれた画像を処理及び解析して、自動運転車両の環境内のオブジェクト及び／又は特徴を認識するためのコンピュータビジョンシステム又はコンピュータビジョンシステムの機能を含むことができる。前記オブジェクトは、交通信号、道路境界、他の車両、歩行者及び／又は障害物などを含むことができる。コンピュータビジョンシステムは、オブジェクト認識アルゴリズム、ビデオトラッキング、及び他のコンピュータビジョン技術を使用することができる。いくつかの実施形態では、コンピュータビジョンシステムは、環境地図を描き、オブジェクトを追跡し、オブジェクトの速度などを推定することができる。感知モジュール３０２は、レーダ及び／又はＬＩＤＡＲのような他のセンサによって提供される他のセンサデータに基づいてオブジェクトを検出することもできる。

各オブジェクトについて、予測モジュール３０３は、その場合にオブジェクトがどのように挙動するかを予測する。予測とは、地図・ルート情報３１１と交通ルール３１２のセットを考慮して、当該時点における運転環境を感知する感知データに基づいて実行される。例えば、オブジェクトが反対方向の車両であり、かつ現在の運転環境が交差点を含む場合に、予測モジュール３０３は、車両が直進するか、又は旋回するかを予測する。感知データが、交差点に信号機がないことを示す場合、予測モジュール３０３は、交差点に入る前に車両が完全に停止する必要があると予測する可能性がある。感知データが、車両が現在左折専用車線又は右折専用車線にあることを示す場合、予測モジュール３０３は、車両がそれぞれ左折又は右折する可能性がより高いと予測することができる。

それぞれのオブジェクトに対して、決定モジュール３０４はオブジェクトをどのように処理するかを決定する。例えば、特定のオブジェクト（例えば、交差のルートにおける他の車両）及びオブジェクトを記述するメタデータ（例えば、速度、方向、操舵角）について、決定モジュール３０４は前記オブジェクトと遇うときに如何に対応するか（例えば、追い越し、道譲り、停止、追い抜き）を決定する。決定モジュール３０４は、交通ルール又は運転ルール３１２のようなルールセットに基づいてそのような決定を行うことができ、前記ルールセットは永続的（不揮発性）記憶装置３５２に記憶することができる。

ルーティングモジュール３０７は、出発地から目的地までの１つ以上のルート又は経路を提供するように構成される。ルーティングモジュール３０７は、出発地位置から目的地位置までの所与の行程（例えば、ユーザから受信された所与の旅程）について、ルート及び地図情報３１１を取得し、出発地位置から目的地位置までのすべての可能なルート又は経路を決定する。ルーティングモジュール３０７は、出発地位置から目的地位置までの各ルートを決定する地形図の形の基準線を生成することができる。基準線とは、他の車両、障害物、又は交通状況などからの如何なる干渉を受けていない理想的なルート又は経路を指す。つまり、道路に他の車両、歩行者又は障害物がない場合、ＡＤＶは基準線に精確的に又は密接的に従うべきである。そして、地形図を決定モジュール３０４及び／又は計画モジュール３０５に提供する。決定モジュール３０４及び／又は計画モジュール３０５は、他のモジュールにより提供された他のデータ（例えば測位モジュール３０１からの交通状况、感知モジュール３０２により感知された運転環境及び予測モジュール３０３により予測された交通状况）に応じて、全ての走行可能なルートを検査して最適ルートのうちの一つを選択及び補正する。特定時点における特定の運転環境に応じて、ＡＤＶを制御するための実際の経路又はルートは、ルーティングモジュール３０７によって提供される基準線に近いか又は異なっていてもよい。

感知されたオブジェクトのそれぞれに対する決定に基づいて、計画モジュール３０５は、ルーティングモジュール３０７によって提供される基準線をベースとし、自動運転車両に対して経路又はルート並びに運転パラメータ（例えば、距離、速度及び／又は操舵角）を計画する。言い換えれば、特定のオブジェクトについて、決定モジュール３０４は当該オブジェクトに対して何をするかを決定し、計画モジュール３０５はどのようにするかを決定する。例えば、特定のオブジェクトについて、決定モジュール３０４は前記オブジェクトを追い抜くかを決定することができ、計画モジュール３０５は前記オブジェクトを左側から追い抜くか又は右側から追い抜くかを決定することができる。計画・制御データは、計画モジュール３０５により生成され、車両３００が次の移動周期（例えば、次のルート／経路区間）にはどのように移動するかを記述する情報を含む。例えば、計画・制御データは、車両３００に時速３０マイル（ｍｐｈ）で１０ｍ移動し、次に２５マイル（ｍｐｈ）で右車線に変更するように指示することができる。

制御モジュール３０６は、計画・制御データに基づいて、計画・制御データにより限定されたルート又は経路に応じて適当なコマンド又は信号を車両制御システム１１１に送信することにより自動運転車両を制御及び運転する。前記計画・制御データは、経路又はルートに沿って異なる時点で適切な車両配置又は運転パラメータ（例えば、スロットル、ブレーキ、及びステアリングコマンド）を使用して、車両をルート又は経路の第１の点から第２の点まで運転するのに十分な情報を含む。

一実施形態では、計画段階は、例えば、時間間隔が１００ミリ秒（ｍｓ）の周期など、複数の計画周期（命令周期ともいう）で実行される。計画周期又は命令周期のそれぞれについて、計画・制御データに基づいて１つ以上の制御命令を発する。すなわち、１００ｍｓごとに、計画モジュール３０５は、次のルート区間又は経路区間（例えば、目標位置及びＡＤＶが目標位置に到着するのに必要な時間が含まれる）を計画する。あるいは、計画モジュール３０５は、具体的な速度、方向、及び／又は操舵角などを更に指定することができる。一実施形態では、計画モジュール３０５は、次の所定期間（例えば、５秒）のルート区間又は経路区間を計画する。計画周期のそれぞれに対し、計画モジュール３０５は、前の周期で計画された目標位置に基づいて、現在の周期（例えば、次の５秒）のための目標位置を計画する。次に、制御モジュール３０６は、現在の周期の計画・制御データに基づいて、１つ以上の制御命令（例えば、スロットル、ブレーキ、ステアリングの制御命令）を生成する。

なお、決定モジュール３０４及び計画モジュール３０５は、集積モジュールとして一体化されてもよい。決定モジュール３０４／計画モジュール３０５は、自動運転車両の走行経路を決定するためのナビゲーションシステム又はナビゲーションシステムの機能を含んでもよい。例えば、ナビゲーションシステムは、自動運転車両の以下の経路に沿った移動を達成するための一連の速度及び進行方向を決定することができる。前記経路では、自動運転車両が最終的な目的地に通じる走行車線ベースの経路に沿って前進するとともに、感知した障害物を実質的に回避できる。目的地は、ユーザインターフェースシステム１１３を介したユーザ入力に従って設定することができる。ナビゲーションシステムは、自動運転車両が走行している間に走行経路を動的に更新することができる。ナビゲーションシステムは、自動運転車両のための走行経路を決定するために、ＧＰＳシステム及び１つ以上の地図からのデータを取り入れることができる。

決定モジュール３０４／計画モジュール３０５は、更に、自動運転車両の環境における潜在的な障害物を認識、評価、回避又は他の方法で通過するための衝突防止システム又は衝突防止システムの機能を含むことができる。例えば、衝突防止システムは、制御システム１１１の１つ以上のサブシステムを動作させて、方向変更動作、旋回動作、ブレーキ動作などを行うことによって、自動運転車両のナビゲーション中の変更を実現することができる。衝突防止システムは、周囲の交通パターンや道路状況などに基づいて、実行可能な障害物回避動作を自動的に決定することができる。衝突防止システムは、他のセンサシステムが、自動運転車両が方向変更して進入しようとする隣接領域における車両、建築障害物などを検出したときに、方向変更動作を行わないように構成されることができる。衝突防止システムは、自動運転車両の乗員の安全性を最大限にするとともに、利用可能な動作を自動的に選択することができる。衝突防止システムは、自動運転車両の客室内に最も少ない加速度を発生させると予測される回避動作を選択することができる。

データコレクタ３０８は、運転シナリオ（例えば、運転シナリオ３１４の一つ）に従って車両が人間の運転手によって運転されている間に、車両（例えば、手動運転モードで運転する自動運転車両１０１又は通常の車両）から運転統計データ１２３及び／又は環境データ１２４を収集する。運転シナリオ３１４は予め決定され、永続的（不揮発性）記憶装置３５２に記憶されてもよい。一実施形態では、運転シナリオ３１４のそれぞれは、例えば、ルート（出発地位置及び目的地位置を含む）、ＭＰＯＩ、道路状況、交通状況、天気状況、障害物情報などの所定の運転環境情報を含んでもよい。

一実施形態では、データコレクタ３０８は、運転統計データ１２３及び環境データ１２４を永続的（不揮発性）記憶装置３５２に記憶するか、及び／又はサーバ１０３（例えば、クラウドストレージ）に遠隔的に記憶することができる。一実施形態では、運転統計データ１２３は、車両の車両状態を記述し、発行された運転コマンド（例えば、スロットル、ブレーキ、ステアリングコマンド）及び異なる時点でセンサシステム１１５のセンサによって取得された車両の応答を示す情報（例えば、速度、加速度、減速度、加速度変化率（加加速度ともいう））を含んでもよい。一実施形態では、環境データ１２４は、異なる時点における運転環境を記述する情報、例えば、ルート（出発地位置及び目的地位置を含む）、ＭＰＯＩ、道路状況、天気状況、障害物情報、（例えば、障害物及びそれらの位置、障害物分類、障害物速度、障害物加速度）などを含む。一実施形態では、環境データ１２４のうちのそれらのデータは、地図及びルート情報３１１及び／又は高精細度（ＨＤ）地図を使用して特定することができる。

各運転シナリオ（例えば、運転シナリオ３１４のそれぞれ）が完了すると、データコレクタ３０８は、例えばユーザインターフェースシステム１１３を介して、人間の運転手に完了した運転シナリオのラベルを選択するように要求してもよい。例えば、運転手は、運転シナリオを「安全」又は「快適」とラベル付けして、ラベル値「１」を生成することができる。一方、運転手は、運転シナリオを「危険」又は「不快」とラベル付けして、ラベル値「０」を生成することができる。運転手の選択に応答して、各運転シナリオに対応する各ラベルは、ラベル３１５として永続的（不揮発性）記憶装置３５２（又はサーバ１０３）に記憶されてもよい。

特徴抽出モジュール３０９は、所定の基準に基づいて運転統計データ１２３及び環境データ１２４から情報を抽出（又はフィルタリング）する。特徴抽出モジュール３０９は、運転統計データ１２３から特定の有用な運転統計データを決定するとともに環境データ１２４から特定の有用な環境データを決定して情報を抽出し、抽出された特徴３１６として情報を永続的（不揮発性）記憶装置３５２に記憶することができる。例えば、所定の基準は、車両の応答を示す情報が有用であると確定することができる。従って、速度、加速度、減速度、方向、加速度の変化率などは、運転統計データ１２３から抽出されるか又はフィルタリングされ、抽出された特徴３１６の一部として記憶される。同様に、所定の基準は、障害物情報が有用であると決定することができる。従って、障害物及びそれらの位置、障害物分類、障害物速度、障害物加速度などが環境データ１２４から抽出されるか又はフィルタリングされ、抽出された特徴３１６の一部として記憶される。

一実施形態では、各運転シナリオ（例えば、運転シナリオ３１４のそれぞれ）及び各時点について、抽出された特徴３１６は、障害物識別子（ＩＤ）、各障害物識別子についてその時点で記録されたタイムスタンプ、各障害物識別子について記録されたタイムスタンプで捕捉された車両速度、各障害物識別子について記録されたタイムスタンプで捕捉された車両加速度変化率、及び各障害物識別子について記録されたタイムスタンプで捕捉された障害物の位置（例えば、ｘ、ｙ、ｚ座標）を含んでもよい。

抽出された特徴３１６及びラベル３１５を機械学習エンジン３１０に提供して、ルール、アルゴリズム、及び／又は予測モデル３１３（永続的（不揮発性）記憶装置３５２に記憶可能）のセットを生成又は訓練することができる。例えば、一実施形態では、機械学習エンジン３１０は、提供された抽出された特徴３１６及びラベル３１５を使用して、所定の各運転シナリオにおける人間の運転手の運転挙動及び選択を連続的に決定又は学習して、一つ以上の機械学習モデル／アルゴリズム（例えば、ディープニューラルネットワーク、畳み込みディープニューラルネットワーク、ディープビリーフネットワーク及び／又はリカレントニューラルネットワークなどのディープラーニングアーキテクチャ）を呼び出すことができる。訓練されたアルゴリズム／モデル３１３は、ソフトウェア構成要素（例えば、感知・計画制御）の性能を評価するためにオフラインシミュレーションプラットフォーム（例えば、自動運転シミュレータ）に配置されてもよい。

別の実施形態によれば、モデルを作成するための特徴抽出及び機械学習の動作は、サーバ１０３などの別のデータ処理システム（例えば、集中型サーバ）によってオフラインで実行することができる。すなわち、集中型サーバは、多くの車両から収集されたデータを処理するとともに、本明細書を通して説明されるように収集されたデータに基づいて評価モデル又はアルゴリズムを生成するために、特徴抽出モジュール３０９及び／又は機械学習エンジン３１０を含んでもよい。

図４は、一実施形態に係る、機械学習モデルを訓練するためのシステムの一例を示すブロック図である。図４に示すように、システム４００は、データコレクタ３０８、特徴抽出モジュール３０９及び機械学習エンジン３１０を含む。図４において、一実施形態では、データコレクタ３０８は、センサシステム１１５からセンサデータを受信又は検索し、運転シナリオ３１４を（例えば、永続的（不揮発性）記憶装置３５２又はサーバ１０３から）受信又は検索する。前述のように、データコレクタ３０８は、運転シナリオ３１４のそれぞれに従って車両が人間の運転手によって運転されている間に、車両（例えば、手動運転モードで運転する自動運転車両１０１又は通常の車両）から運転統計データ１２３及び／又は環境データ１２４を収集する。運転統計データ１２３及び／又は環境データ１２４は、ローカルに（例えば、永続的（不揮発性）記憶装置３５２に）記憶されるか、又はサーバ１０３（図４に示すように）に遠隔的に記憶されてもよい。各運転シナリオ（例えば、運転シナリオ３１４のそれぞれ）が完了すると、データコレクタ３０８は、例えばユーザインターフェースシステム１１３を介して、人間の運転手に対して完了した運転シナリオにラベルを付けることを要求してもよく、ラベルをラベル３１５として記憶することができる（前述のように、簡潔的な説明を提供するために、再び説明しない）。

一実施形態では、その後、特徴抽出モジュール３０９は、記憶された運転統計データ１２３及び環境データ１２４を受信又は検索し、所定の基準に基づいて運転統計データ１２３及び環境データ１２４から情報を抽出又はフィルタリングすることができる。次いで、特徴抽出モジュール３０９は、その情報を抽出された特徴（例えば、図３Ａの抽出された特徴３１６）として記憶することができる一実施形態による抽出された特徴の一例を示す図である図６を参照すると、抽出特徴３１６に関して、（例えば、運転シナリオ３１４からの）各運転シナリオ６０１について、抽出された特徴３１６は、識別子（ＩＤ）６０２、ＩＤ６０２のそれぞれに関連付けられたタイムスタンプ６０３、運転統計データ６０４及び環境データ６０５を含むことができる。ＩＤ６０２の各々は、運転シナリオ６０１における特定の障害物を表す障害物識別子（第１障害物、…、第Ｎ障害物）であってもよい。一実施形態では、ＩＤ６０２は、人間の運転手によって運転される車両を表す車両ＩＤを更に含むことができる。タイムスタンプ６０３は、運転シナリオ６０１を運転する間の異なる時点で記録された時刻Ｔｉを表し、ただし、ｉ≧０である。運転統計データ６０４は、運転手が各特定の障害物（例えば、第１障害物、…、第Ｎ障害物）に遭遇した場合に記録時刻Ｔｉで捕捉された（運転統計データ１２３からフィルタリング可能な）運転統計データを含んでもよい。一実施形態では、運転統計データ６０４は、車両の応答（例えば、速度、加速度、減速度、方向、加速度変化率）を示す情報を含んでもよい。環境データ６０５は、運転手が各特定の障害物に遭遇したときにおける記録時刻Ｔｉで捕捉された（環境データ１２４からフィルタリング可能な）環境データを含んでもよい。例えば、環境データ６０５は、時刻Ｔｉで捕捉された各障害物の位置（例えば、ｘ、ｙ、ｚ座標）を含んでもよい。

図４を再び参照すると、抽出された特徴及びラベル３１５は機械学習エンジン３１０に提供される。機械学習エンジン３１０は、ルール、アルゴリズム及び／又は予測モデル３１３のセットを生成又は訓練する。例えば、一実施形態では、機械学習エンジン３１０は、提供された抽出された特徴３１６及びラベル３１５を使用して、所定の各運転シナリオにおける人間の運転手の運転挙動及び選択を連続的に確定又は学習して、一つ以上の機械学習モデル／アルゴリズム（例えば、ディープニューラルネットワーク、畳み込みディープニューラルネットワーク、ディープビリーフネットワーク及び／又はリカレントニューラルネットワークなどのディープラーニングアーキテクチャ）を呼び出すことができ、アルゴリズム／モデル３１３は、運転環境下で異なる運転シナリオを通して自動運転車両（例えば、車両１０１）を動作させるために呼び出すことができるようにする。

図５は、一実施形態に係る、自動運転ソフトウェア構成要素を評価するためのシステムの一例を示すブロック図である。いくつかの実施形態では、システム５００は、クライアント装置（例えば、ホスト又はサーバ）、パーソナルコンピュータ（例えば、デスクトップコンピュータ、ラップトップコンピュータ、タブレットコンピュータなど）、又は自動運転車両（例えば、図１の車両１０１）に実現されることができる。

図に示すように、システム５００は、シミュレーションエンジン（シミュレータ又はシミュレーションプラットフォームともいう）５０１及び評価モジュール５０２を含む。ソフトウェア構成要素（例えば、感知・計画制御）をテストするために、訓練されたアルゴリズム／モデル３１３を、自動運転シミュレーションを実行するためのシミュレーションエンジン５０１に配置することができる。すなわち、抽出された特徴は、その後、１つ以上の自動運転車両（例えば、図１の自動運転車両１０１）の自動運転の挙動を評価するために利用することができる。例えば、シミュレーションエンジン５０１は、埋め込まれた地図（例えば、ＨＤ地図）、仮想運転シナリオ（運転シナリオ３１４に類似していてもよい）、及びテストソフトウェア構成要素（例えば、感知・計画制御）を含んでもよい。配置されたアルゴリズム／モデル３１３を使用することで、シミュレーションエンジン５０１は、ソフトウェア構成要素をテストするためにシミュレーション環境下で様々な運転シナリオを通して運転するように車両を仮想的に動作させることができる。シミュレーションからのシミュレーション結果は、アルゴリズム／モデル３１３で動作するテストソフトウェア構成要素の評価のために評価モジュール５０２に提供されてもよい。例えば、シミュレーション結果（例えば、シミュレーション環境下で動作している仮想車両の状態を記述する情報）に基づいて、評価モジュール５０２は、テストソフトウェア構成要素の合否判定を行うことができる。そうすることで、評価モジュール５０２は結果に基づいて確率を生成することができる。確率が閾値（例えば、０．５、又は０と１との間の任意の他の適切な値）を超える場合、評価モジュール５０２は成功又は合格の指示を出力することができる。そうでなければ、評価モジュール５０２は失敗の提示を出力することができる。

図７は、一実施形態に係る、機械学習モデルを訓練するための方法を示すフローチャートである。プロセス７００は、処理ロジックにより実行可能であり、前記処理ロジックはソフトウェア、ハードウェア、又はそれらの組み合わせを含んでもよい。例えば、プロセス７００は、図１の感知・計画システム１１０により実行することができる。図７に示すように、ブロック７０１では、一つ以上の運転シナリオのそれぞれについて、処理ロジックは、車両の一つ以上のセンサからのセンサデータ及び運転シナリオに応答して、車両が人間の運転手によって運転シナリオに応じて運転されると同時に車両の運転統計データ及び環境データを収集する。ブロック７０２では、運転シナリオが完了すると、処理ロジックは、運転手に対して完了した運転シナリオのラベルを選択するように要求し、選択されたラベルを運転手の選択に応じて記憶する。ブロック７０３では、処理ロジックは、所定の基準に基づいて運転統計データ及び環境データから特徴を抽出し、ここで、抽出された特徴は、運転シナリオ中の異なる時点で収集された運転統計データのいくつか及び環境データのいくつかを含む。ブロック７０４では、処理ロジックは、抽出された特徴及び一つ以上のラベルを使用することで、運転シナリオにおける人間の運転手の運転挙動及び選択を連続的に学習して、機械学習モデルを訓練する。

図８は、一実施形態に係る、自動運転ソフトウェア構成要素を評価する方法を示すフローチャートである。プロセス８００は、処理ロジックにより実行可能であり、前記処理ロジックはソフトウェア、ハードウェア、又はそれらの組み合わせを含んでもよい。

ブロック８０１では、処理ロジックは、機械学習モデルをシミュレーションプラットフォームに配置する。ブロック８０２では、処理ロジックは、ソフトウェア構成要素（例えば、感知・計画制御）をテストするために機械学習モデルを使用することによってシミュレーションプラットフォームで自動運転シミュレーションを実行するとともに、シミュレーション結果を生成する。ブロック８０３では、処理ロジックは、シミュレーション結果に基づいてソフトウェア構成要素を評価する。

なお、以上に例示及び説明された構成要素の一部又は全ては、ソフトウェア、ハードウェア、又はそれらの組み合わせで実現されることが可能である。例えば、このような構成要素は、永続的（不揮発性）記憶装置にインストールされるとともに記憶されるソフトウェアとして実現されてもよく、前記ソフトウェアは、本願にわたって記載されたプロセス又は動作を実現するように、プロセッサ（図示せず）によってメモリにロードして実行されてもよい。あるいは、このような構成要素は、集積回路（例えば、特定用途向け集積回路又はＡＳＩＣ）、デジタルシグナルプロセッサ（ＤＳＰ）、又はフィールドプログラマブルゲートアレイ（ＦＰＧＡ）のような専用ハードウェアにプログラミング又は埋め込まれた実行可能なコードとして実現されてもよく、前記実行可能なコードは、アプリケーションからの対応するドライバー及び／又はオペレーティングシステムを介してアクセスすることができる。また、このような構成要素は、ソフトウェア構成要素が一つ以上の特定の命令によってアクセス可能な命令セットの一部として、プロセッサ又はプロセッサコアにおける特定のハードウェアロジックとして実現されることができる。

図９は、本発明の一実施形態と共に使用可能なデータ処理システムの一例を示すブロック図である。例えば、システム１５００は、前記プロセス又は方法のいずれかを実行する前記データ処理システムのいずれか（例えば、図１の感知・計画システム１１０、又はサーバ１０３〜１０４のいずれか）を表すことができる。システム１５００は、いくつかの異なる構成要素を含んでもよい。これらの構成要素は、集積回路（ＩＣ）、集積回路の一部、ディスクリート型電子デバイス、又は回路基板（例えば、コンピュータシステムのマザーボード若しくはアドインカード）に適するその他のモジュールとして実現されることが可能であり、又は、他の形態でコンピュータシステムのシャーシ内に組み込まれる構成要素として実現されることが可能である。

なお、システム１５００は、コンピュータシステムのいくつかの構成要素の高レベルビューを示すことを意図している。しかしながら、特定の実施例において付加的構成要素が存在してもよく、また、その他の実施例において示された構成要素を異なる配置にすることが可能であると理解すべきである。システム１５００は、デスクトップコンピュータ、ラップトップコンピュータ、タブレットコンピュータ、サーバ、携帯電話、メディアプレヤー、パーソナルデジタルアシスタント（ＰＤＡ）、スマートウォッチ、パーソナルコミュニケーター、ゲーム装置、ネットワークルーター又はハブ、無線アクセスポイント（ＡＰ）又はリピーター、セット・トップボックス、又はそれらの組み合わせを表すことができる。また、単一の機械又はシステムのみが示されたが、「機械」又は「システム」という用語は、本明細書で説明されるいずれか一種以上の方法を実現するための、単独で又は共同で１つ（又は複数）の命令セットを実行する機械又はシステムのいずれかの組み合わせも含まれると解釈されるべきである。

一実施形態では、システム１５００は、バス又はインターコネクト１５１０を介して接続される、プロセッサ１５０１と、メモリ１５０３と、装置１５０５〜１５０８とを含む。プロセッサ１５０１は、単一のプロセッサコア又は複数のプロセッサコアが含まれる単一のプロセッサ又は複数のプロセッサを表すことができる。プロセッサ１５０１は、マイクロプロセッサ、中央処理装置（ＣＰＵ）などのような、一つ以上の汎用プロセッサを表すことができる。より具体的には、プロセッサ１５０１は、複雑命令セットコンピューティング（ＣＩＳＣ）マイクロプロセッサ、縮小命令セットコンピューティング（ＲＩＳＣ）マイクロプロセッサ、超長命令語（ＶＬＩＷ）マイクロプロセッサ、又はその他の命令セットを実行するプロセッサ、又は命令セットの組み合わせを実行するプロセッサであってもよい。プロセッサ１５０１は更に、例えば、特定用途向け集積回路（ＡＳＩＣ）、セルラー又はベースバンドプロセッサ、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、デジタルシグナルプロセッサ（ＤＳＰ）、ネットワークプロセッサ、グラフィックプロセッサ、通信プロセッサ、暗号化プロセッサ、コプロセッサ、組込みプロセッサ、又は命令を処理可能な任意の他のタイプのロジックのような、一つ以上の専用プロセッサであってもよい。

プロセッサ１５０１は、超低電圧プロセッサのような低電力マルチコアプロセッサソケットであってもよく、前記システムの様々な構成要素と通信するための主処理ユニット及び中央ハブとして機能することができる。このようなプロセッサは、システムオンチップ（ＳｏＣ）として実現されることができる。プロセッサ１５０１は、本明細書で説明される動作及びステップを実行するための命令を実行するように構成される。システム１５００は、更に所望によるグラフィックサブシステム１５０４と通信するグラフィックインターフェースを含むことができ、グラフィックサブシステム１５０４は、表示コントローラ、グラフィックプロセッサ、及び／又は表示装置を含むことができる。

プロセッサ１５０１は、メモリ１５０３と通信することができ、メモリ１５０３は、一実施形態では、所定量のシステムメモリを提供するための複数のメモリ装置によって実現されることができる。メモリ１５０３は、ランダムアクセスメモリ（ＲＡＭ）、ダイナミックＲＡＭ（ＤＲＡＭ）、シンクロナスＤＲＡＭ（ＳＤＲＡＭ）、スタティックＲＡＭ（ＳＲＡＭ）、又はその他のタイプの記憶装置のような、一つ以上の揮発性記憶（又はメモリ）装置を含むことができる。メモリ１５０３は、プロセッサ１５０１又はその他の任意の装置により実行される命令シーケンスを含む情報を記憶することができる。例えば、様々なオペレーティングシステム、デバイスドライバ、ファームウェア（例えば、ベーシックインプット／アウトプットシステム又はＢＩＯＳ）、及び／又はアプリケーションの実行可能なコード及び／又はデータは、メモリ１５０３にロードされ、プロセッサ１５０１により実行されることができる。オペレーティングシステムは、例えば、ロボットオペレーティングシステム（ＲＯＳ）、Ｍｉｃｒｏｓｏｆｔ（登録商標）社のＷｉｎｄｏｗｓ（登録商標）オペレーティングシステム、アップル社のＭａｃＯＳ（登録商標）／ｉＯＳ（登録商標）、Ｇｏｏｇｌｅ（登録商標）社のＡｎｄｒｏｉｄ（登録商標）、ＬＩＮＵＸ、ＵＮＩＸ（登録商標）、又はその他のリアルタイム若しくは組込みオペレーティングシステムのような、任意のタイプのオペレーティングシステムであってもよい。

システム１５００は、更に、ネットワークインターフェース装置１５０５、所望による入力装置１５０６、及びその他の所望によるＩ／Ｏ装置１５０７を含む装置１５０５〜１５０８のようなＩ／Ｏ装置を含むことができる。ネットワークインターフェース装置１５０５は、無線送受信機及び／又はネットワークインターフェースカード（ＮＩＣ）を含むことができる。前記無線送受信機は、ＷｉＦｉ送受信機、赤外線送受信機、ブルートゥース（登録商標）送受信機、ＷｉＭａｘ送受信機、無線携帯電話送受信機、衛星送受信機（例えば、全地球測位システム（ＧＰＳ）送受信機）、又はその他の無線周波数（ＲＦ）送受信機、又はそれらの組み合わせであってもよい。ＮＩＣは、イーサネット（登録商標）カードであってもよい。

入力装置１５０６は、マウス、タッチパネル、タッチスクリーン（表示装置１５０４と統合されてもよい）、ポインター装置（例えば、スタイラス）、及び／又はキーボード（例えば、物理キーボード又はタッチスクリーンの一部として表示された仮想キーボード）を含むことができる。例えば、入力装置１５０６は、タッチスクリーンと接続するタッチスクリーンコントローラを含むことができる。タッチスクリーン及びタッチスクリーンコントローラは、例えば、様々なタッチ感応技術（コンデンサ、抵抗、赤外線、及び表面弾性波の技術を含むが、それらに限定されない）のいずれか、並びにその他の近接センサアレイ、又は、タッチスクリーンと接触する一つ以上の点を決定するためのその他の素子を用いて、それらの接触及び移動又は間欠を検出することができる。

Ｉ／Ｏ装置１５０７は、音声装置を含むことができる。音声装置は、音声認識、音声複製、デジタル記録、及び／又は電話機能のような音声サポート機能を促進するために、スピーカ及び／又はマイクロフォンを含んでもよい。その他のＩ／Ｏ装置１５０７は、更に、ユニバーサルシリアルバス（ＵＳＢ）ポート、パラレルポート、シリアルポート、プリンタ、ネットワークインターフェース、バスブリッジ（例えば、ＰＣＩ−ＰＣＩブリッジ）、センサ（例えば、加速度計のようなモーションセンサ、ジャイロスコープ、磁力計、光センサ、コンパス、近接センサなど）、又はそれらの組み合わせを含むことができる。装置１５０７は、更に結像処理サブシステム（例えば、カメラ）を含むことができ、前記結像処理サブシステムは、写真及びビデオ断片の記録のようなカメラ機能を促進するための、電荷結合素子（ＣＣＤ）又は相補型金属酸化物半導体（ＣＭＯＳ）光学センサのような光学センサを含むことができる。特定のセンサは、センサハブ（図示せず）を介してインターコネクト１５１０に接続されることができ、キーボード又はサーマルセンサのようなその他の装置はシステム１５００の具体的な配置又は設計により、組込みコントローラ（図示せず）により制御されることができる。

データ、アプリケーション、一つ以上のオペレーティングシステムなどの情報の永続的（不揮発性）記憶を提供するために、プロセッサ１５０１には、大容量記憶装置（図示せず）が接続されることができる。様々な実施形態において、より薄くてより軽量なシステム設計を可能にしながら、システムの応答性を向上するために、このような大容量記憶装置は、ソリッドステート装置（ＳＳＤ）によって実現されることができる。しかしながら、その他の実施形態において、大容量記憶装置は、主にハードディスクドライブ（ＨＤＤ）を使用して実現することができ、より小さい容量のＳＳＤ記憶装置をＳＳＤキャッシュとして機能することで、停電イベントの間にコンテキスト状態及び他のそのような情報の不揮発性記憶を可能にし、それによりシステム動作が再開するときに通電を速く実現することができる。また、フラッシュデバイスは、例えば、シリアルペリフェラルインターフェース（ＳＰＩ）を介してプロセッサ１５０１に接続されることができる。このようなフラッシュデバイスは、前記システムのＢＩＯＳ及びその他のファームウェアを含むシステムソフトウェアの不揮発性記憶のために機能することができる。

記憶装置１５０８は、コンピュータアクセス可能な記憶媒体１５０９（機械可読記憶媒体又はコンピュータ可読記憶媒体ともいう）を含むことができ、前記コンピュータアクセス可能な記憶媒体１５０９には、本明細書で記載されたいずれか一種以上の方法又は機能を具現化する一つ以上の命令セット又はソフトウェア（例えば、モジュール、ユニット、及び／又はロジック１５２８）が記憶されている。処理モジュール／ユニット／ロジック１５２８は、例えば、計画モジュール３０５、制御モジュール３０６、データコレクタ３０８、特徴抽出モジュール３０９及び機械学習エンジン３１０のような、前記構成要素のいずれかを表すことができる。処理モジュール／ユニット／ロジック１５２８は、更に、データ処理システム１５００、メモリ１５０３、及びプロセッサ１５０１による実行中に、メモリ１５０３内及び／又はプロセッサ１５０１内に完全的に又は少なくとも部分的に存在してもよく、データ処理システム１５００、メモリ１５０３、及びプロセッサ１５０１も機械アクセス可能な記憶媒体を構成する。処理モジュール／ユニット／ロジック１５２８は、更に、ネットワークによってネットワークインターフェース装置１５０５を経由して送受信されてもよい。

コンピュータ可読記憶媒体１５０９は、以上に説明されたいくつかのソフトウェア機能を永続的（不揮発性）に記憶するために用いることができる。コンピュータ可読記憶媒体１５０９は、例示的な実施形態において単一の記憶媒体として示されるが、「コンピュータ可読記憶媒体」という用語は、前記一つ以上の命令セットが記憶される単一の記憶媒体又は複数の記憶媒体（例えば、集中型又は分散型データベース、及び／又は関連するキャッシュとサーバ）を含むと解釈されるものとする。「コンピュータ可読記憶媒体」という用語は、更に、命令セットを記憶又は符号化できる任意の記憶媒体を含むと解釈されるものであり、前記命令セットは機械により実行され、本発明のいずれか一種以上の方法を前記機械に実行させるためのものである。それゆえに、「コンピュータ可読記憶媒体」という用語は、ソリッドステートメモリ、光学記憶媒体及び磁気記憶媒体、又はその他の任意の非一時的な（不揮発性の）機械可読記憶媒体を含むが、それらに限定されないと解釈されるものとする。

本明細書に記載の処理モジュール／ユニット／ロジック１５２８、構成要素及びその他の特徴は、ディスクリートハードウェア構成要素として実現されてもよく、又はハードウェア構成要素（例えば、ＡＳＩＣＳ、ＦＰＧＡ、ＤＳＰ又は類似の装置）の機能に統合されてもよい。また、処理モジュール／ユニット／ロジック１５２８は、ハードウェア装置におけるファームウェア又は機能性回路として実現されてもよい。また、処理モジュール／ユニット／ロジック１５２８は、ハードウェア装置とソフトウェア構成要素の任意の組み合わせで実現されてもよい。

なお、システム１５００は、データ処理システムの様々な構成要素を有するものとして示されているが、構成要素を相互接続する任意の特定のアーキテクチャ又は方式を表すことを意図するものではなく、そのような詳細は、本発明の実施形態と密接な関係がない。また、より少ない構成要素又はより多くの構成要素を有するネットワークコンピュータ、ハンドヘルドコンピュータ、携帯電話、サーバ、及び／又はその他のデータ処理システムも、本発明の実施形態と共に使用することができることを理解されたい。

前記具体的な説明の一部は、既に、コンピュータメモリにおけるデータビットに対する演算のアルゴリズムと記号表現で示される。これらのアルゴリズムの説明及び表現は、データ処理分野における当業者によって使用される、それらの作業実質を所属分野の他の当業者に最も効果的に伝達する方法である。本明細書では、一般的に、アルゴリズムは、所望の結果につながるセルフコンシステントシーケンスと考えられる。これらの動作は、物理量の物理的処置が必要なものである。

しかしながら、念頭に置くべきことは、これらの用語及び類似の用語の全ては、適切な物理量に関連付けられるものであり、これらの量を標識しやすくするためのものに過ぎないことである。以上の説明で他に明示的に記載されていない限り、本明細書の全体にわたって理解すべきことは、用語（例えば、添付された特許請求の範囲に記載のもの）による説明とは、コンピュータシステム、又は類似の電子式計算装置の動作又はプロセスを指し、前記コンピュータシステム又は電子式計算装置は、コンピュータシステムのレジスタ及びメモリにおける物理（電子）量として示されたデータを制御するとともに、前記データをコンピュータシステムメモリ又はレジスタ又はこのようなその他の情報記憶装置、伝送又は表示装置において同様に物理量として示された別のデータに変換することである。

本発明の実施形態は、本明細書の動作を実行するための装置にも関する。このようなコンピュータプログラムは、非一時的な（不揮発性の）コンピュータ可読記憶媒体に記憶される。機械可読記憶媒体は、機械（例えば、コンピュータ）により読み取り可能な形式で情報を記憶するための任意のメカニズムを含む。例えば、機械可読（例えば、コンピュータ可読）記憶媒体は、機械（例えば、コンピュータ）可読記憶媒体（例えば、読み出し専用メモリ（「ＲＯＭ」）、ランダムアクセスメモリ（「ＲＡＭ」）、磁気ディスク記憶媒体、光学記憶媒体、フラッシュメモリ装置）を含む。

上述した図面において説明されたプロセス又は方法は、ハードウェア（例えば、回路、専用ロジックなど）、ソフトウェア（例えば、非一時的な（不揮発性の）コンピュータ可読記憶媒体に具現化されるもの）、又は両方の組み合わせを含む処理ロジックにより実行されることができる。前記プロセス又は方法は、以上で特定の順序に応じて説明されたが、前記動作の一部が異なる順序で実行されてもよいことを理解されたい。また、一部の動作は、順番ではなく並行して実行されてもよい。

本発明の実施形態は、いずれの特定のプログラミング言語を参照することなく記載されている。理解すべきことは、本明細書に記載の本発明の実施形態の教示を実現するために、様々なプログラミング言語を使用することができることである。

前記明細書において、本発明の実施形態は、既にその具体的な例示的な実施形態を参照しながら記載された。明らかなように、添付された特許請求の範囲に記載された本発明のより広い趣旨及び範囲を逸脱しない限り、本発明に対して様々な変更を行うことができる。それゆえに、本明細書及び図面は、限定的な意味でなく、例示的な意味で理解されるべきである。

Claims (22)

1. 車両の自動運転を評価するための機械学習モデルの訓練のコンピュータに実装された方法であって、
   複数の運転シナリオのそれぞれについて、
   車両の一つ以上のセンサからのセンサデータ及び前記運転シナリオに応答して、前記車両が人間の運転手によって前記運転シナリオに応じて運転される時に、前記車両の運転統計データ及び環境データを収集するステップと、
   前記運転シナリオが完了すると、前記運転手に対して完了した運転シナリオのラベルを選択するように要求し、且つ前記運転手の選択に応じて選択されたラベルを記憶するステップと、
   所定の基準に基づいて、前記運転統計データ及び前記環境データから、前記運転シナリオ中の異なる時点で収集された前記運転統計データのいくつか及び前記環境データのいくつかを含む特徴を抽出し、続いて、前記抽出された特徴を複数の自動運転車両の自動運転の挙動に関する評価に利用するステップと、を含む、
   コンピュータに実装された方法。
2. 前記抽出された特徴及び複数のラベルを使用して、前記複数の運転シナリオにおける前記人間の運転手の運転挙動及び選択を連続的に学習して、機械学習モデルを訓練するステップ、を更に含む、
   請求項１に記載の方法。
3. 前記運転統計データのいくつかは、前記車両の応答を示す情報を含み、前記環境データのいくつかは、障害物情報を含む、
   請求項１に記載の方法。
4. 前記抽出された特徴は、各運転シナリオについて、
   前記運転シナリオにおける障害物を表す障害物識別子と、前記車両を表す車両識別子と、を含む識別子と、
   前記識別子のそれぞれに関連付けられたタイムスタンプであって、前記タイムスタンプは、前記車両が前記運転シナリオを通して運転されている間の異なる時点で記録された時刻Ｔｉ（ただし、ｉ≧０）を表すタイムスタンプと、
   前記記録された時刻Ｔｉで取得された前記車両の応答を示す情報と、
   前記記録された時刻Ｔｉで取得された障害物情報と、を含む、
   請求項１に記載の方法。
5. 前記車両の応答を示す情報は、前記車両の速度、加速度、減速度、及び加速度の変化率を含み、
   前記障害物情報は、障害物の位置を含む、
   請求項３に記載の方法。
6. 前記複数のラベルのそれぞれは、ラベル値「０」又は「１」を有し、
   「０」は安全でないことを示し、「１」は安全であることを示す、
   請求項２に記載の方法。
7. 前記車両の運転統計データ及び環境データを収集した後に、収集された前記運転統計データ及び前記環境データをサーバに遠隔的に記憶するステップと、
   前記運転統計データ及び前記環境データから特徴を抽出する前に、収集された前記運転統計データ及び前記環境データを前記サーバから検索するステップと、を更に含む
   請求項１に記載の方法。
8. 命令が記憶されている非一時的な機械可読記憶媒体であって、前記命令がプロセッサにより実行される場合に、前記プロセッサに、
   複数の運転シナリオのそれぞれについて、
   車両の一つ以上のセンサからのセンサデータ及び前記運転シナリオに応答して、前記車両が人間の運転手によって前記運転シナリオに応じて運転される時に、前記車両の運転統計データ及び環境データを収集するステップと、
   前記運転シナリオが完了すると、前記運転手に対して完了した運転シナリオのラベルを選択するように要求し、且つ前記運転手の選択に応じて選択されたラベルを記憶するステップと、
   所定の基準に基づいて、前記運転統計データ及び前記環境データから、前記運転シナリオ中の異なる時点で収集された前記運転統計データのいくつか及び前記環境データのいくつかを含む特徴を抽出し、続いて、前記抽出された特徴を複数の自動運転車両の自動運転の挙動に関する評価に利用するステップと、
   を含む動作を実行させる、
   非一時的な機械可読記憶媒体。
9. 前記動作は、
   前記抽出された特徴及び複数のラベルを使用して、前記複数の運転シナリオにおける前記人間の運転手の運転挙動及び選択を連続的に学習して、機械学習モデルを訓練するステップ、を更に含む、
   請求項８に記載の非一時的な機械可読記憶媒体。
10. 前記運転統計データのいくつかは、前記車両の応答を示す情報を含み、前記環境データのいくつかは、障害物情報を含む、
    請求項８に記載の非一時的な機械可読記憶媒体。
11. 前記抽出された特徴は、各運転シナリオについて、
    前記運転シナリオにおける障害物を表す障害物識別子と、前記車両を表す車両識別子と、を含む識別子と、
    前記識別子のそれぞれに関連付けられたタイムスタンプであって、前記タイムスタンプは、前記車両が前記運転シナリオを通して運転されている間の異なる時点で記録された時刻Ｔｉ（ただし、ｉ≧０）を表すタイムスタンプと、
    前記記録された時刻Ｔｉで取得された前記車両の応答を示す情報と、
    前記記録された時刻Ｔｉで取得された障害物情報と、を含む、
    請求項８に記載の非一時的な機械可読記憶媒体。
12. 前記車両の応答を示す情報は、前記車両の速度、加速度、減速度、及び加速度の変化率を含み、
    前記障害物情報は、障害物の位置を含む、
    請求項１０に記載の非一時的な機械可読記憶媒体。
13. 前記複数のラベルのそれぞれは、ラベル値「０」又は「１」を有し、
    「０」は安全でないことを示し、「１」は安全であることを示す、
    請求項９に記載の非一時的な機械可読記憶媒体。
14. 前記動作は、
    前記車両の運転統計データ及び環境データを収集した後に、収集された前記運転統計データ及び前記環境データをサーバに遠隔的に記憶するステップと、
    前記運転統計データ及び前記環境データから特徴を抽出する前に、収集された前記運転統計データ及び前記環境データを前記サーバから検索するステップと、を更に含む
    請求項８に記載の非一時的な機械可読記憶媒体。
15. データ処理システムであって、
    プロセッサと、
    前記プロセッサに接続されて命令を記憶するメモリ、を備え、
    前記命令が前記プロセッサにより実行される場合に、
    複数の運転シナリオのそれぞれについて、
    車両の一つ以上のセンサからのセンサデータ及び前記運転シナリオに応答して、前記車両が人間の運転手によって前記運転シナリオに応じて運転される時に、前記車両の運転統計データ及び環境データを収集するステップと、
    前記運転シナリオが完了すると、前記運転手に対して完了した運転シナリオのラベルを選択するように要求し、且つ前記運転手の選択に応じて選択されたラベルを記憶するステップと、
    所定の基準に基づいて、前記運転統計データ及び前記環境データから、前記運転シナリオ中の異なる時点で収集された前記運転統計データのいくつか及び前記環境データのいくつかを含む特徴を抽出し、続いて、前記抽出された特徴を複数の自動運転車両の自動運転の挙動に関する評価に利用するステップと、
    を含む動作を前記プロセッサに実行させる、
    データ処理システム。
16. 前記動作は、
    前記抽出された特徴及び複数のラベルを使用して、前記複数の運転シナリオにおける前記人間の運転手の運転挙動及び選択を連続的に学習して、機械学習モデルを訓練するステップ、を更に含む、
    請求項１５に記載のデータ処理システム。
17. 前記運転統計データのいくつかは、前記車両の応答を示す情報を含み、前記環境データのいくつかは、障害物情報を含む、
    請求項１５に記載のデータ処理システム。
18. 前記抽出された特徴は、各運転シナリオについて、
    前記運転シナリオにおける障害物を表す障害物識別子と、前記車両を表す車両識別子と、を含む識別子と、
    前記識別子のそれぞれに関連付けられたタイムスタンプであって、前記タイムスタンプは、前記車両が前記運転シナリオを通して運転されている間の異なる時点で記録された時刻Ｔｉ（ただし、ｉ≧０）を表すタイムスタンプと、
    記録された時刻Ｔｉで取得された前記車両の応答を示す情報と、
    前記記録された時刻Ｔｉで取得された障害物情報と、を含む、
    請求項１５に記載のデータ処理システム。
19. 前記車両の応答を示す情報は、前記車両の速度、加速度、減速度、及び加速度の変化率を含み、
    前記障害物情報は、障害物の位置を含む、
    請求項１７に記載のデータ処理システム。
20. 前記複数のラベルのそれぞれは、ラベル値「０」又は「１」を有し、
    「０」は安全でないことを示し、「１」は安全であることを示す、
    請求項１６に記載のデータ処理システム。
21. 前記動作は、
    前記車両の運転統計データ及び環境データを収集した後に、収集された前記運転統計データ及び前記環境データをサーバに遠隔的に記憶するステップと、
    前記運転統計データ及び前記環境データから特徴を抽出する前に、収集された前記運転統計データ及び前記環境データを前記サーバから検索するステップと、を更に含む、
    請求項１５に記載のデータ処理システム。
22. コンピュータプログラムであって、
    前記コンピュータプログラムがプロセッサにより実行される場合、請求項１〜７のいずれか一項に記載の方法を実行するコンピュータプログラム。

Images