DE102014112078A1 - Method for transforming an input image into an output image, driver assistance system and motor vehicle - Google Patents
Method for transforming an input image into an output image, driver assistance system and motor vehicle Download PDFInfo
- Publication number
- DE102014112078A1 DE102014112078A1 DE102014112078.7A DE102014112078A DE102014112078A1 DE 102014112078 A1 DE102014112078 A1 DE 102014112078A1 DE 102014112078 A DE102014112078 A DE 102014112078A DE 102014112078 A1 DE102014112078 A1 DE 102014112078A1
- Authority
- DE
- Germany
- Prior art keywords
- tiles
- input
- output
- image
- dimensions
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000000034 method Methods 0.000 title claims abstract description 33
- 230000001131 transforming effect Effects 0.000 title claims abstract description 12
- 230000009466 transformation Effects 0.000 claims abstract description 76
- 238000003384 imaging method Methods 0.000 claims abstract description 8
- 230000006870 function Effects 0.000 claims description 38
- 238000011156 evaluation Methods 0.000 claims description 15
- 238000013507 mapping Methods 0.000 claims description 7
- 238000005259 measurement Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 241000226585 Antennaria plantaginifolia Species 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/12—Panospheric to cylindrical image transformations
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
Die Erfindung betrifft ein Verfahren zum Transformieren eines Eingabebildes (7) in ein Ausgabebild (9). Das Eingabebild (7) wird mittels einer Kamera (3) eines Kraftfahrzeugs (1) bereitgestellt, und eine Transformationsfunktion (10), welche die Transformation von dem Eingabebild (7) zu dem Ausgabebild (9) beschreibt, wird bestimmt. Weiterhin werden Eingabekacheln (11), welche das Eingabebild (7) unterteilen, und Ausgabekacheln (12), welche das Ausgabebild (9) unterteilen, bereitgestellt. Bildpunkte der Eingabekacheln (11) werden zu Bildpunkten der Ausgabekacheln (12) anhand der Transformationsfunktion (10) zur Transformation des Eingabebildes (7) in das Ausgabebild (9) zugeordnet. Dabei wird eine Abbildungseigenschaft anhand der Transformationsfunktion (10) bestimmt und Abmessungen der Eingabekacheln (11) und/oder Abmessungen der Ausgabekacheln (12) werden abhängig von der Abbildungseigenschaft bestimmt.The invention relates to a method for transforming an input image (7) into an output image (9). The input image (7) is provided by a camera (3) of a motor vehicle (1), and a transformation function (10) describing the transformation from the input image (7) to the output image (9) is determined. Furthermore, input tiles (11) which divide the input image (7) and output tiles (12) which divide the output image (9) are provided. Pixels of the input tiles (11) are assigned to pixels of the output tiles (12) on the basis of the transformation function (10) for transforming the input image (7) into the output image (9). In this case, an imaging property is determined using the transformation function (10) and dimensions of the input tiles (11) and / or dimensions of the output tiles (12) are determined depending on the imaging property.
Description
Die Erfindung betrifft ein Verfahren zum Transformieren eines Eingabebildes in ein Ausgabebild. Das Eingabebild wird mittels einer Kamera eines Kraftfahrzeugs bereitgestellt. Eine Transformationsfunktion, welche die Transformation von dem Eingabebild zu dem Ausgabebild beschreibt, wird bestimmt. Zudem werden Eingabekacheln bereitgestellt, welche das Eingabebild unterteilen, und es werden Ausgabekacheln bereitgestellt, welche das Ausgabebild unterteilen. Weiterhin werden Bildpunkte der Eingabekacheln zu Bildpunkten der Ausgabekacheln anhand der Transformationsfunktion zur Transformation des Eingabebildes zu dem Ausgabebild zugeordnet. Die Erfindung betrifft außerdem ein Fahrerassistenzsystem für ein Kraftfahrzeug sowie ein Kraftfahrzeug mit einem Fahrerassistenzsystem. The invention relates to a method for transforming an input image into an output image. The input image is provided by means of a camera of a motor vehicle. A transformation function describing the transformation from the input image to the output image is determined. In addition, input tiles are provided which divide the input image, and output tiles are provided which divide the output image. Furthermore, pixels of the input tiles are assigned to pixels of the output tiles based on the transformation function for transforming the input image to the output image. The invention also relates to a driver assistance system for a motor vehicle and to a motor vehicle having a driver assistance system.
Verfahren zum Transformieren eines Eingabebildes in ein Ausgabebild sind aus dem Stand der Technik bekannt. Transformationsvorschriften zum Transformieren liegen dabei meist in Form einer Transformationsfunktion vor. Die Transformationsfunktion besitzt von Fall zu Fall individuelle Abbildungseigenschaften. Vorliegend gilt das Interesse auch einer Transformationsfunktion, welche auf einem Verzeichnungsmodell basiert. So werden mit der Transformationsfunktion beziehungsweise mit dem Verzeichnismodell Verzeichnungen in dem Eingabebild korrigiert und ein möglichst verzeichnungsfreies Ausgabebild nach der Transformation ausgegeben. Verzeichnungen sind optische Verzerrungen. Die Verzeichnungen können ihren Ursprung in der Wahl der entsprechenden Objektive haben. So können vor allem Zoom-Objektive ausgeprägte Verzeichnungen erzeugen. Zum Weitwinkel hin werden die Verzeichnungen tonnenförmig, während die Verzeichnungen zur Teleeinstellung hin oft kissenförmig werden. Die Verzeichnungen sind bei einer Brennweite für ein Objektiv immer gleich und rotationssymmetrisch. Fischaugenobjektive stellen beispielsweise Bilder mit starker tonnenförmiger Verzeichnung bereit. Methods of transforming an input image into an output image are known in the art. Transformation rules for transforming are usually in the form of a transformation function. The transformation function has individual mapping properties from case to case. In the present case, the interest also applies to a transformation function which is based on a distortion model. Thus, with the transformation function or with the directory model, distortions in the input image are corrected and a possible distortion-free output image is output after the transformation. Distortions are optical distortions. The distortions may have their origin in the choice of the corresponding lenses. In particular, zoom lenses can produce pronounced distortions. The distortions become barrel-shaped towards the wide angle, while the distortions for telephoto adjustment often become pillow-shaped. The distortions are always the same and rotationally symmetric at a focal length for a lens. Fisheye lenses, for example, provide images with heavy barrel distortion.
Es ist Aufgabe der Erfindung, ein Verfahren, ein Fahrerassistenzsystem sowie ein Kraftfahrzeug bereitzustellen, mit welchem beziehungsweise bei welchem die Transformation des Eingabebildes zu dem Ausgabebild besonders effektiv durchgeführt werden kann. It is an object of the invention to provide a method, a driver assistance system and a motor vehicle, with which or in which the transformation of the input image to the output image can be carried out particularly effectively.
Diese Aufgabe wird erfindungsgemäß durch ein Verfahren, durch ein Fahrerassistenzsystem sowie durch ein Kraftfahrzeug mit den Merkmalen gemäß den jeweiligen unabhängigen Patentansprüchen gelöst. This object is achieved by a method by a driver assistance system and by a motor vehicle with the features according to the respective independent claims.
Ein erfindungsgemäßes Verfahren dient zum Transformieren eines Eingabebildes in ein Ausgabebild. Das Eingabebild wird mittels einer Kamera eines Kraftfahrzeugs bereitgestellt, und eine Transformationsfunktion, welche die Transformation von dem Eingabebild zu dem Ausgabebild beschreibt, wird bestimmt. Weiterhin werden Eingabekacheln bereitgestellt, welche das Eingabebild unterteilen, und es werden Ausgabekacheln bereitgestellt, welche das Ausgabebild unterteilen. Bildpunkte der Eingabekacheln werden zu Bildpunkten der Ausgabekacheln anhand der Transformationsfunktion zur Transformation des Eingabebildes in das Ausgabebild zugeordnet. Erfindungsgemäß wird eine Abbildungseigenschaft anhand der Transformationsfunktion bestimmt, und abhängig von der Abbildungseigenschaft werden Abmessungen der Eingabekacheln und/oder Abmessungen der Ausgabekacheln bestimmt. A method according to the invention serves to transform an input image into an output image. The input image is provided by means of a camera of a motor vehicle, and a transformation function describing the transformation from the input image to the output image is determined. Furthermore, input tiles are provided which divide the input image, and output tiles are provided which divide the output image. Pixels of the input tiles are assigned to pixels of the output tiles based on the transformation function for transforming the input image into the output image. According to the invention, an imaging property is determined based on the transformation function, and depending on the imaging property, dimensions of the input tiles and / or dimensions of the output tiles are determined.
Durch das erfindungsgemäße Verfahren wird es also möglich, anhand der bestimmten Abbildungseigenschaft die Abmessungen der Eingabekacheln und/oder die Abmessungen der Ausgabekacheln zu bestimmen, insbesondere, bevor die Transformation ausgeführt worden ist. Die Abbilddungseigenschaft ist also eine bestimmte Eigenschaft von der Transformationsfunktion, welche Auskunft über das Verhalten der Transformationsfunktion gibt. So kann damit beispielsweise beschrieben werden, wie stark die Transformation sich auswirkt beziehungsweise wie weit Bildpunkte des Eingabebilds verschoben werden müssen um zu der vorgesehenen neuen Position in dem Ausgabebild zu gelangen. Im Stand der Technik werden für die Transformation fest vorgegebene Abmessungen der Eingabekacheln und/oder der Ausgabekacheln genutzt. Die Eingabekacheln und/oder die Ausgabekacheln können vorliegend Bereiche in dem Eingabebild bzw. Ausgabebild beschreiben, welche einen oder mehrere Bildpunkte umfassen. Aufgrund der veränderlich festgelegten Abmessungen beziehungsweise Größe der Eingabekacheln und/oder der Ausgabekacheln kann es vorkommen, dass manche Eingabekacheln nur zu einem geringen Teil für die Berechnung der Ausgabekacheln beteiligt sind. So besteht eine Ausgabekachel beispielsweise aus mehreren Eingabekacheln, welche zum Durchführen der Transformation alle in einen Speicher einer Auswerteeinheit geladen werden müssen. Es wird also im Stand der Technik eine große Menge Daten beziehungsweise Eingangsbilddaten in den Speicher verschoben, welche zum Teil gar nicht benötigt werden. The method according to the invention therefore makes it possible to determine the dimensions of the input tiles and / or the dimensions of the output tiles based on the particular imaging property, in particular before the transformation has been carried out. The mapping property is therefore a specific property of the transformation function, which provides information about the behavior of the transformation function. Thus, for example, it can be used to describe how strongly the transformation has an effect or how far pixels of the input image have to be shifted in order to arrive at the intended new position in the output image. In the prior art are for the Transformation fixed predetermined dimensions of the input tiles and / or the output tiles used. The input tiles and / or the output tiles may presently describe areas in the input image or output image that comprise one or more pixels. Due to the variably defined dimensions or size of the input tiles and / or the output tiles, it may happen that some input tiles are involved only to a small extent in the calculation of the output tiles. For example, an output tile consists of a plurality of input tiles, which must all be loaded into a memory of an evaluation unit in order to carry out the transformation. Thus, in the prior art, a large amount of data or input image data is shifted into the memory, some of which are not needed at all.
Vorzugsweise ist vorgesehen, dass als die Abbildungseigenschaft ein Grad der Verzeichnung des Eingabebildes beschrieben beziehungsweise charakterisiert wird. Dadurch wird es möglich, anhand des bestimmten Grades der Verzeichnung die Abmessungen der Eingabekacheln und/oder die Abmessungen der Ausgabekacheln zu bestimmen, insbesondere, bevor die Transformation ausgeführt worden ist. Im Stand der Technik werden für die Transformation fest vorgegebene Abmessungen der Eingabekacheln und/oder der Ausgabekacheln genutzt. Die Eingabekacheln und/oder die Ausgabekacheln können vorliegend Bereiche in dem Eingabebild bzw. Ausgabebild beschreiben, welche einen oder mehrere Bildpunkte umfassen. Aufgrund der veränderlich festgelegten Abmessungen beziehungsweise Größe der Eingabekacheln und/oder der Ausgabekacheln kann es vorkommen, dass manche Eingabekacheln nur zu einem geringen Teil für die Berechnung der Ausgabekacheln beteiligt sind. So besteht eine Ausgabekachel beispielsweise aus mehreren Eingabekacheln, welche zum Durchführen der Transformation alle in einen Speicher einer Auswerteeinheit geladen werden müssen. Es wird also im Stand der Technik eine große Menge Daten beziehungsweise Eingangsbilddaten in den Speicher verschoben, welche zum Teil gar nicht benötigt werden. Eine Korrektur der Verzeichnung kann also besonders effektiv ausgeführt werden. It is preferably provided that a degree of distortion of the input image is described or characterized as the imaging property. This makes it possible, on the basis of the determined degree of distortion, to determine the dimensions of the input tiles and / or the dimensions of the output tiles, in particular before the transformation has been carried out. In the prior art, fixed dimensions of the input tiles and / or the output tiles are used for the transformation. The input tiles and / or the output tiles may presently describe areas in the input image or output image that comprise one or more pixels. Due to the variably defined dimensions or size of the input tiles and / or the output tiles, it may happen that some input tiles are involved only to a small extent in the calculation of the output tiles. For example, an output tile consists of a plurality of input tiles, which must all be loaded into a memory of an evaluation unit in order to carry out the transformation. Thus, in the prior art, a large amount of data or input image data is shifted into the memory, some of which are not needed at all. A correction of the distortion can therefore be carried out particularly effectively.
Vor allem Datenbewegungen beziehungsweise Datenverschiebungen sind besonders zeitaufwendig. Dies ist insbesondere der Fall, wenn die Transformation mit einem SIMD-Verfahren (Single Instruction Multiple Data) durchgeführt wird. Das Transformieren beziehungsweise das Berechnen kann im Vergleich zu dem Bewegen von Daten beziehungsweise dem Verschieben von Daten schneller durchgeführt werden. Das erfindungsgemäße Verfahren ermöglicht also nun anhand des bestimmten Grades der Verzeichnung, welcher durch die Transformationsfunktion beziehungsweise das Verzeichnungsmodell vorliegt, ein Bestimmen der Abmessungen der Eingabekacheln und/oder der Abmessungen der Ausgabekacheln. Somit kann für jede Position in dem Eingabebild und/oder dem Ausgabebild eine optimale Abmessung beziehungsweise Größe der Eingabekacheln und/oder der Ausgabekacheln bereitgestellt werden. Optimalerweise werden nun die Abmessungen der Eingabekacheln und/oder deren Anzahl so bestimmt, dass diese möglichst vollständig, also mit einem großen Anteil in die Bestimmung beziehungsweise die Berechnung der jeweiligen Ausgabekachel eingehen. So ist es beispielsweise vorgesehen, dass, wenn die Eingabekacheln über eine jeweilige Ausgabekachel gelegt werden und ein Bereich, in welchem sich die Eingabekacheln und die Ausgabekachel nicht überlappen, minimiert wird. Above all, data movements or data shifts are particularly time-consuming. This is particularly the case when the transformation is performed with a SIMD (Single Instruction Multiple Data) method. Transforming can be done faster compared to moving data or moving data. The method according to the invention thus makes it possible to determine the dimensions of the input tiles and / or the dimensions of the output tiles on the basis of the specific degree of distortion which is present by the transformation function or the distortion model. Thus, for each position in the input image and / or the output image, an optimal size of the input tiles and / or the output tiles may be provided. Optimally, the dimensions of the input tiles and / or their number are now determined so that they are as complete as possible, ie enter into a large proportion in the determination or the calculation of the respective output tile. For example, it is contemplated that when the input tiles are laid over a respective output tile and an area where the input tiles and the output tile do not overlap is minimized.
Insbesondere ist vorgesehen, dass durch den Grad der Verzeichnung eine Abweichung von Positionen von Bildpunkten in dem Eingabebild zu Positionen von mittels der Transformationsfunktion transformierten Bildpunkten in dem Ausgabebild beschrieben wird. Der Grad der Verzeichnung beschreibt also, wie sehr sich die Position eines Bildpunktes des Eingabebildes zu der Position des Bildpunktes nach der Transformation in dem Ausgabebild geändert hat. Üblicherweise ist der Grad der Verzeichnung im Zentrum des Eingabebildes geringer als am Rand des Eingabebildes. Ein hoher Grad der Verzeichnung bedeutet also, dass die Abweichung von der Position groß ist. Es kann somit für jeden Bereich des Eingabebildes jeweils der zugehörige Grad der Verzeichnung bestimmt werden. In particular, it is provided that a deviation of positions of pixels in the input image to positions of pixels transformed by means of the transformation function in the output image is described by the degree of the distortion. The degree of distortion thus describes how much the position of a pixel of the input image has changed to the position of the pixel after the transformation in the output image. Usually, the degree of distortion in the center of the input image is less than at the edge of the input image. A high degree of distortion means that the deviation from the position is large. It can thus be determined for each area of the input image each of the associated degree of distortion.
Vorzugsweise ist vorgesehen, dass durch den Grad der Verzeichnung die Abweichung der Positionen der Bildpunkte in dem Eingabebild zu den Positionen der Bildpunkte in dem Ausgabebild entlang einer ersten Richtung und einer zur ersten Richtung senkrechten zweiten Richtung einer Bildebene des Eingabebildes beschrieben wird. Mit der ersten Richtung und der zweiten Richtung wird es möglich, die Abmessungen der Eingabekacheln und/oder der Abmessungen der Ausgabekacheln besonders einfach zu bestimmen. Die Eingabekacheln und/oder die Ausgabekacheln liegen vorzugsweise in Form von Rechtecken vor. Die Verwendung von Rechtecken hat in der Bildverarbeitung den Vorteil, dass damit eine eindeutige Grenze ausgewählt werden kann, falls das Rechteck auf zwei Seiten durch jeweils eine Zeile und auf zwei Seiten durch jeweils eine Spalte begrenzt ist. Die Matrix des Eingabebildes beziehungsweise des Ausgabebildes kann mit einem Rechteck, welches anhand zweier Zeilen und zweier Spalten begrenzt ist, besonders einfach und eindeutig ausgewählt werden. Die erste Richtung kann also nun verwendet werden, um eine Länge des Rechtecks beziehungsweise der Eingabekachel und/oder der Ausgabekachel zu bestimmen, während die zweite Richtung beispielsweise verwendet werden kann, um eine Breite des Rechtecks beziehungsweise der Eingabekachel und/oder der Ausgabekachel zu bestimmen. It is preferably provided that the degree of distortion describes the deviation of the positions of the pixels in the input image from the positions of the pixels in the output image along a first direction and a second direction of an image plane of the input image that is perpendicular to the first direction. With the first direction and the second direction, it becomes possible to particularly easily determine the dimensions of the input tiles and / or the dimensions of the output tiles. The input tiles and / or the output tiles are preferably in the form of rectangles. The advantage of using rectangles in image processing is that a unique boundary can be selected if the rectangle is delimited on two pages by one row and two pages by one column each. The matrix of the input image or of the output image can be selected in a particularly simple and unambiguous manner with a rectangle which is delimited by means of two rows and two columns. Thus, the first direction can now be used to determine a length of the rectangle or the input tile and / or the output tile, while the second direction can be used, for example, to determine a width of the rectangle or the input tile and / or the output tile.
Weiterhin ist vorgesehen, dass die Transformationsfunktion anhand einer Taylorreihe beschrieben wird und der Grad der Verzeichnung anhand von Koeffizienten der Taylorreihe bestimmt wird. Die Transformationsfunktion beziehungsweise das Verzeichnungsmodell kann also mit einer Taylorreihe beschrieben werden. Die Taylorreihe wiederum weist mehrere Koeffizienten auf. Anhand der Koeffizienten kann also ein Unterschied in die erste Richtung und in die zweite Richtung beziehungsweise der Grad der Verzeichnung bestimmt werden. Es kann also eine Aussage anhand der Parameter darüber getroffen werden, wie stark eine Linie in dem Eingabebild gekrümmt ist, welche in dem Ausgabebild als gerade vorliegt. Die Krümmung kann beispielsweise auch in die erste Richtung und in die zweite Richtung zerlegt werden. Somit können anhand der Koeffizienten die erste Richtung und die zweite Richtung des Grades der Verzeichnung bestimmt werden. Furthermore, it is provided that the transformation function is described on the basis of a Taylor series and the degree of distortion is determined on the basis of coefficients of the Taylor series. The transformation function or the distortion model can therefore be described with a Taylor series. The Taylor series in turn has several coefficients. Based on the coefficients, a difference in the first direction and in the second direction or the degree of distortion can thus be determined. Thus, a statement can be made based on the parameters of how much a line is curved in the input image which is considered straight in the output image. The curvature can for example also be decomposed in the first direction and in the second direction. Thus, the first direction and the second direction of the degree of distortion can be determined from the coefficients.
Weiterhin ist vorgesehen, dass die Abmessungen der Eingabekacheln und/oder die Abmessungen der Ausgabekacheln so bestimmt werden, dass die Anzahl der Eingabekacheln minimal ist. Es ist also beabsichtigt, dass vorzugsweise die Anzahl der für die Transformation beziehungsweise das Erstellen der Ausgabekachel notwendigen Eingabekacheln so gewählt wird, dass diese minimal ist. Es wird also versucht, die Eingabekacheln, welche zu der jeweiligen Ausgabekachel beitragen, minimal zu halten, um unnötige Datenbewegungen in dem Speicher der Auswerteeinheit zu vermeiden. Furthermore, it is provided that the dimensions of the input tiles and / or the dimensions of the output tiles are determined so that the number of input tiles is minimal. It is Thus, it is intended that preferably the number of input tiles necessary for the transformation or the creation of the output tile is chosen such that it is minimal. It is therefore attempted to keep the input tiles, which contribute to the respective output tile, to a minimum in order to avoid unnecessary data movements in the memory of the evaluation unit.
Insbesondere ist es vorgesehen, dass das Bestimmen der Abmessungen der Eingabekacheln und/oder der Abmessungen der Ausgabekacheln zusätzlich abhängig von einem Sichtfeld des Ausgabebildes durchgeführt wird. Bei vorliegendem Sichtfeld des Ausgabebildes, also einer Region von Interesse des Ausgabebildes, kann dementsprechend die Transformation und somit die Abmessungen der Eingabekacheln und/oder die Abmessungen der Ausgabekacheln angepasst werden. So ist in einem Eingabebild, welches beispielsweise mit einem Fischaugenobjektiv aufgenommen ist, üblicherweise ein Bereich mit beispielsweise Teilen des Kraftfahrzeugs, beispielsweise ein Stoßfänger und/oder ein Nummernschild, enthalten, welche nicht in das Ausgabebild transformiert werden müssen. Es ist also vorgesehen, dass der Sichtbereich, welcher in dem Eingabebild relevant ist, also wichtige beziehungsweise notwendige Informationen zeigt, auch in dem Ausgabebild bekannt ist und somit ausschließlich die Ausgabekacheln erzeugt beziehungsweise berechnet beziehungsweise transformiert werden, welche innerhalb des Sichtfeldes beziehungsweise des Sichtbereichs beziehungsweise der Region von Interesse angeordnet sind. Es werden somit Berechnungsschritte und Datenbewegungen im Speicher vermieden, wodurch die benötigte Zeit für die Transformation reduziert werden kann. In particular, it is provided that the determination of the dimensions of the input tiles and / or the dimensions of the output tiles is additionally performed as a function of a field of view of the output image. Given the present field of view of the output image, ie a region of interest of the output image, the transformation and thus the dimensions of the input tiles and / or the dimensions of the output tiles can accordingly be adapted. Thus, in an input image, which is taken for example with a fisheye lens, usually an area with, for example, parts of the motor vehicle, such as a bumper and / or a license plate, included, which need not be transformed into the output image. It is therefore provided that the field of view, which is relevant in the input image, ie important or necessary information, is also known in the output image and thus exclusively the output tiles are generated or calculated or transformed, which within the field of view or the field of view or the Region of interest are arranged. Thus, calculation steps and data movements in the memory are avoided, whereby the time required for the transformation can be reduced.
Weiterhin ist vorgesehen, dass die Abmessungen und/oder die Anzahl der Eingabekacheln und/oder die Abmessungen und/oder die Anzahl der Ausgabekacheln in Abhängigkeit einer zeitlichen Dauer eines schreibenden Speicherzugriffs auf einen Speicher einer Auswerteeinheit des Kraftfahrzeugs bestimmt werden. Das bedeutet, die Abmessungen und/oder die Anzahl der Eingabekacheln und/oder die Abmessungen und/oder die Anzahl der Ausgabekacheln werden vorzugsweise so bestimmt, dass die zeitliche Dauer eines schreibenden Schreibzugriffs minimiert wird. Zeitintensiv bei den Speicherzugriffen ist üblicherweise nicht der lesende Speicherzugriff, sondern der schreibende Speicherzugriff, also der Speicherzugriff, wenn neue Daten in den Speicher abgelegt werden beziehungsweise geschrieben werden. Somit ist vorzugsweise beabsichtigt, dass dieser schreibende Speicherzugriff minimal gehalten wird, um die Gesamtzeit für das Transformieren des Eingabebildes in das Ausgabebild so gering wie möglich zu halten. Furthermore, it is provided that the dimensions and / or the number of input tiles and / or the dimensions and / or the number of output tiles are determined as a function of a time duration of a write memory access to a memory of an evaluation unit of the motor vehicle. That is, the dimensions and / or the number of input tiles and / or the dimensions and / or the number of output tiles are preferably determined so that the time duration of a write write access is minimized. Time consuming in the memory accesses is usually not the read memory access, but the write memory access, so the memory access when new data is stored in the memory or be written. Thus, it is preferably intended that this write memory access be minimized to minimize the total time for transforming the input image into the output image.
Weiterhin ist vorgesehen, dass die Transformationsfunktion durch eine Lookup-Tabelle bereitgestellt wird. Die Lookup-Tabelle ist eine Umsetzungstabelle, welche häufig in der Informatik und in der Digitaltechnik verwendet wird, um Informationen statisch zu definieren und diese zur Laufzeit eines Programms – zur Vermeidung aufwendiger Berechnungen oder hohen Speicherbedarfs – zu benutzen. In der Lookup-Tabelle ist also jeweils die entsprechende Vorschrift für die jeweiligen Eingabekacheln zu den entsprechenden Ausgabekacheln. Es kann also beispielsweise für jede Position in dem Eingabebild und/oder dem Ausgabebild die Transformationsfunktion beziehungsweise eine Abbildungsvorschrift zur Verfügung gestellt werden. Es ist also nicht nötig, die Transformationsvorschrift für die Position der Eingabekachel und/oder der Ausgabekachel anhand der Transformationsfunktion zur Laufzeit zu bestimmen. Furthermore, it is provided that the transformation function is provided by a lookup table. The lookup table is a translation table that is often used in computer science and digital technology to statically define information and use it at runtime to avoid costly calculations or high memory requirements. In the lookup table, therefore, the appropriate rule for the respective input tiles is the corresponding output tiles. Thus, for example, the transformation function or a mapping rule can be provided for each position in the input image and / or the output image. It is therefore not necessary to determine the transformation rule for the position of the input tile and / or the output tile using the transformation function at runtime.
Weiterhin ist vorgesehen, dass die Transformationsfunktion eine Rückwärtszuordnung beschreibt, bei welcher jeder der Ausgabekacheln zumindest eine zugehörige Eingabekachel zugeordnet wird. Bei der Rückwärtszuordnung werden in dem Ausgabebild die Ausgabekacheln nacheinander, also kachelweise, durchlaufen, und für jede der Ausgabekacheln werden die zugehörigen beziehungsweise die beitragenden Eingabekacheln bereitgestellt. Es wird also bei der Rückwärtszuordnung für die jeweilige Ausgabekachel anhand der Transformationsfunktion bestimmt, welche und in welcher Form die Eingabekachel zu der Ausgabekachel beitragen. Vorteilhaft an der Rückwärtszuordnung ist, dass diese sicherstellt, dass jede der Ausgabekacheln bearbeitet werden beziehungsweise durch die Transformation einen Wert zugewiesen bekommen. It is further provided that the transformation function describes a backward assignment in which each of the output tiles is assigned at least one associated input tile. In the backward mapping, the output tiles in the output image are sequentially, ie, in tiles, through, and for each of the output tiles the corresponding or the contributing input tiles are provided. It is thus determined in the backward assignment for the respective output tile based on the transformation function, which and in what form the input tile contribute to the output tile. The advantage of the reverse assignment is that it ensures that each of the output tiles is processed or assigned a value by the transformation.
Weiterhin ist vorgesehen, dass die Rückwärtszuordnung anhand einer Vorwärtszuordnung, bei welcher jeder der Eingabekacheln zumindest eine zugehörige Ausgabekachel zugeordnet wird, bestimmt wird. Die Vorwärtszuordnung durchläuft das Eingabebild über alle Eingabekacheln, also eingabekachelweise, und transformiert diese Eingabekacheln an die durch die Transformationsvorschrift vorgegebene Position in dem Ausgabebild. Die Vorwärtszuordnung ist nichts anderes als eine zweidimensionale Matrix, welche die Zuordnung der Bildpunkte von dem Eingabebild zu dem Ausgabebild beschreibt. Anhand der Vorwärtszuordnung wird die Rückwärtszuordnung generiert, welche abhängig von den Eingabekacheln und/oder den Ausgabekacheln vorliegt. It is further provided that the backward assignment is determined on the basis of a forward assignment, in which each of the input tiles is assigned at least one associated output tile. The feedforward passes through the input image over all input tiles, ie input tile, and transforms these input tiles to the position specified by the transformation rule in the output image. The forward assignment is nothing but a two-dimensional matrix describing the mapping of the pixels from the input image to the output image. Based on the forward assignment, the backward assignment is generated, which is dependent on the input tiles and / or the output tiles.
Ein erfindungsgemäßes Fahrerassistenzsystem für ein Kraftfahrzeug umfasst eine Kamera und eine Auswerteeinheit, wobei die Auswerteeinheit dazu ausgelegt ist, ein erfindungsgemäßes Verfahren durchzuführen. A driver assistance system according to the invention for a motor vehicle comprises a camera and an evaluation unit, wherein the evaluation unit is designed to carry out a method according to the invention.
Vorzugsweise umfasst die Auswerteeinheit einen Speicher, der nach einem Ping-Pong-Verfahren betrieben wird und in welchem die Eingabekacheln gespeichert werden, um die Transformation durchzuführen. Das Ping-Pong-Verfahren ermöglicht einen Ping-Pong-Speicher der Auswerteeinheit. Der Ping-Pong-Speicher ist vorteilhaft, weil dieser als zweigeteilter Speicher vorliegen kann. So wird in dem einen Teil des Speichers auf die abgelegten Daten lesend zugegriffen, um diese im Zuge der Transformation zu benutzen, während in dem zweiten Teil die darauffolgend zu prozessierende Datenmenge geschrieben werden kann. Es kann also in dem ersten Teil des Ping-Pong-Speichers eine bestimmte Anzahl von Eingabekacheln vorhanden sein, welche in einem aktuellen Schritt prozessiert beziehungsweise transformiert werden, und in dem zweiten Teil des Ping-Pong-Speichers werden die Eingabekacheln für den Schritt nach dem aktuellen Schritt geschrieben, damit diese später für die Transformation schnell gelesen werde können und schnell zur Verfügung stehen. Wird danach auf den zweiten Teil des Ping-Pong-Speichers lesend zugegriffen, weil dieser für die Transformation genutzt wird, so kann der erste Teil des Speichers neu geschrieben werden. Vorteilhaft ist also eine Zeitersparnis beim Schreiben der Daten beziehungsweise der Eingabekacheln in dem Speicher der Auswerteeinheit. Die Transformation kann somit schneller ablaufen. Preferably, the evaluation unit comprises a memory which is operated according to a ping-pong method and in which the input tiles are stored in order to carry out the transformation. The ping-pong method enables a ping-pong memory of the evaluation unit. The ping-pong memory is advantageous because it can be present as a two-part memory. Thus, in the one part of the memory, the stored data is read-accessed for use in the course of the transformation, while in the second part the data amount to be processed subsequently can be written. Thus, there may be a certain number of input tiles in the first part of the ping-pong memory, which are processed in a current step, and in the second part of the ping-pong memory, the input tiles for the step after written current step, so that they can be read later for the transformation quickly and quickly available. If the second part of the ping-pong memory is subsequently read-accessed because it is used for the transformation, the first part of the memory can be rewritten. Thus, a time saving when writing the data or the input tiles in the memory of the evaluation unit is advantageous. The transformation can thus run faster.
Ein erfindungsgemäßes Kraftfahrzeug, insbesondere ein Personenkraftwagen, umfasst ein erfindungsgemäßes Fahrerassistenzsystem. An inventive motor vehicle, in particular a passenger car, comprises a driver assistance system according to the invention.
Die mit Bezug auf das erfindungsgemäße Verfahren vorgestellten bevorzugten Ausführungsformen und deren Vorteile gelten entsprechend für das erfindungsgemäße Fahrerassistenzsystem sowie für das erfindungsgemäße Kraftfahrzeug. The preferred embodiments presented with reference to the method according to the invention and their advantages apply correspondingly to the driver assistance system according to the invention and to the motor vehicle according to the invention.
Weitere Merkmale der Erfindung ergeben sich aus den Ansprüchen, den Figuren und der Figurenbeschreibung. Die vorstehend in der Beschreibung genannten Merkmale und Merkmalskombinationen, sowie die nachfolgend in der Figurenbeschreibung genannten und/oder in den Figuren alleine gezeigten Merkmale und Merkmalskombinationen sind nicht nur in der jeweils angegebenen Kombination, sondern auch in anderen Kombinationen oder in Alleinstellung verwendbar, ohne den Rahmen der Erfindung zu verlassen. Es sind somit auch Ausführungen von der Erfindung als umfasst und offenbart anzusehen, die in den Figuren nicht explizit gezeigt und erläutert sind, jedoch durch separierte Merkmalskombinationen aus den erläuterten Ausführungen hervorgehen und erzeugbar sind. Further features of the invention will become apparent from the claims, the figures and the description of the figures. The features and feature combinations mentioned above in the description, as well as the features and combinations of features mentioned below in the description of the figures and / or shown alone in the figures, can be used not only in the respectively specified combination but also in other combinations or in isolation, without the frame to leave the invention. Thus, embodiments of the invention are to be regarded as encompassed and disclosed, which are not explicitly shown and explained in the figures, however, emerge and can be produced by separated combinations of features from the embodiments explained.
Ausführungsbeispiele der Erfindung werden nachfolgend anhand schematischer Zeichnungen näher erläutert. Embodiments of the invention are explained in more detail below with reference to schematic drawings.
Dabei zeigen: Showing:
In
Die Kamera
Das in
Es ist also vorgesehen, dass die Abmessungen der Eingabekacheln
In
Um die Abmessungen der Eingabekacheln
Weiterhin kann eine Funktion L(r) bestimmt werden, welche eine Form des Verzeichnungsmodells definiert. L(r) kann beispielsweise mittels einer Taylorreihe approximiert werden. Somit ist:
Der Vektor k enthält also nun die Parameter beziehungsweise die Koeffizienten der Verzeichnung. Anhand der Koeffizienten k0 bis kN kann folglich der Grad der Verzeichnung bestimmt werden. The vector k thus now contains the parameters or the coefficients of the distortion. The degree of distortion can thus be determined on the basis of the coefficients k 0 to k N.
Anhand der Koeffizienten k0 bis kN kann also beispielsweise eine Verzeichnung beziehungsweise eine Stärke der Verzeichnung in die erste Richtung x und/oder in die zweite Richtung y bestimmt werden. So zeigt beispielsweise
Gemäß der
Claims (14)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102014112078.7A DE102014112078A1 (en) | 2014-08-22 | 2014-08-22 | Method for transforming an input image into an output image, driver assistance system and motor vehicle |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102014112078.7A DE102014112078A1 (en) | 2014-08-22 | 2014-08-22 | Method for transforming an input image into an output image, driver assistance system and motor vehicle |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102014112078A1 true DE102014112078A1 (en) | 2016-02-25 |
Family
ID=55273732
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102014112078.7A Withdrawn DE102014112078A1 (en) | 2014-08-22 | 2014-08-22 | Method for transforming an input image into an output image, driver assistance system and motor vehicle |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE102014112078A1 (en) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080292216A1 (en) * | 2007-05-24 | 2008-11-27 | Clive Walker | Method and system for processing images using variable size tiles |
US20100103264A1 (en) * | 2008-10-28 | 2010-04-29 | Honda Motor Co., Ltd. | Vehicle-surroundings displaying method and system |
US20110200271A1 (en) * | 2010-02-16 | 2011-08-18 | Mohammed Shoaib | Method and apparatus for high-speed and low-complexity piecewise geometric transformation of signals |
US20140009568A1 (en) * | 2012-07-03 | 2014-01-09 | Digitaloptcs Corporation Europe Limited | Method and System for Correcting a Distorted Input Image |
-
2014
- 2014-08-22 DE DE102014112078.7A patent/DE102014112078A1/en not_active Withdrawn
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080292216A1 (en) * | 2007-05-24 | 2008-11-27 | Clive Walker | Method and system for processing images using variable size tiles |
US20100103264A1 (en) * | 2008-10-28 | 2010-04-29 | Honda Motor Co., Ltd. | Vehicle-surroundings displaying method and system |
US20110200271A1 (en) * | 2010-02-16 | 2011-08-18 | Mohammed Shoaib | Method and apparatus for high-speed and low-complexity piecewise geometric transformation of signals |
US20140009568A1 (en) * | 2012-07-03 | 2014-01-09 | Digitaloptcs Corporation Europe Limited | Method and System for Correcting a Distorted Input Image |
Non-Patent Citations (5)
Title |
---|
DALOUKAS, K.; ANTONOPOULOS, C.; BELLAS, N.: Fisheye Lens Distortion Correction on Multicore and Hardware Accelerator Platforms. In: Proc. IEEE International Symposium on Parallel & Distributed Processing (IPDPS), 2010, S. 1-10 * |
DUCLOS, P. et al.: Image Processing on a SIMD/SPMD Architecture: OPSILA. In: Proc. IEEE 9th International Conference on Pattern Recognition, 1988, Vol. 1, S. 430-433 |
DUCLOS, P. et al.: Image Processing on a SIMD/SPMD Architecture: OPSILA. In: Proc. IEEE 9th International Conference on Pattern Recognition, 1988, Vol. 1, S. 430-433 * |
JOO, Y.; McKEOWN, N.: Doubling Memory Bandwidth for Network Buffers. IEEE INFOCOM ‘98, 1998, S. 808-815 |
JOO, Y.; McKEOWN, N.: Doubling Memory Bandwidth for Network Buffers. IEEE INFOCOM '98, 1998, S. 808-815 * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE102012001835B4 (en) | Vision system for a commercial vehicle for displaying legally required fields of vision of a main mirror and a wide-angle mirror | |
EP2843616A1 (en) | Optoelectronic device and method for recording rectified images | |
DE102010053458B4 (en) | Process for processing IR images and corresponding thermal imaging camera | |
DE102006023611A1 (en) | Camera-based system original image`s image data evaluating method, involves computing variance image and integral image assigned to pixels from image data without intermediate storage during reading of image sensor | |
DE102016116820A1 (en) | Device for correcting image distortion of a lens | |
DE102012223373A1 (en) | Apparatus and method for correcting image distortion from a rear camera | |
DE10156040A1 (en) | Method, device and computer program product for equalizing a scanned image | |
DE102015105529A1 (en) | A method of transforming an image of a virtual camera, computer program product, display system and motor vehicle | |
EP3073446B1 (en) | Method for representing the surroundings of a vehicle | |
EP3427224B1 (en) | Method, head-up display and output system for the perspective transformation and outputting of image content, and vehicle | |
DE102011007644A1 (en) | Method and device for determining values suitable for equalizing an image and for equalizing an image | |
DE102008046505B4 (en) | Process for image processing of stereo images | |
DE102009026983A1 (en) | Image processing method with a motion estimation and image processing arrangement | |
DE102017210258A1 (en) | Apparatus and method for compensating an image disturbance | |
EP3420533B1 (en) | Method for calibrating an optical measurement set-up | |
DE102010021221A1 (en) | Camera direction determining method for use in vehicle, involves reconstructing vehicle coordination system from points, and determining camera direction from rotation of camera-coordination system relative to vehicle coordination system | |
DE102014112078A1 (en) | Method for transforming an input image into an output image, driver assistance system and motor vehicle | |
DE102018100211A1 (en) | A method for generating a representation of an environment by moving a virtual camera towards an interior mirror of a vehicle; as well as camera setup | |
EP3561772B1 (en) | Method for calibrating an linescanning image recording unit | |
DE112017007815T5 (en) | Image processing device, image processing method and image processing program | |
DE102017216854B4 (en) | Method and device for evaluating correspondences of images, operation assistance method and operation device | |
EP3465608B1 (en) | Method and device for determining a transfer between two display images, and vehicle | |
DE112019002126T5 (en) | POSITION ESTIMATE DEVICE, POSITION ESTIMATE METHOD AND PROGRAM FOR IT | |
DE102018207976A1 (en) | Method and device for displaying a vehicle environment | |
DE102022209992A1 (en) | Apparatus and method for panoramic imaging |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R163 | Identified publications notified | ||
R005 | Application deemed withdrawn due to failure to request examination |