WO2022074896A1 - 作業機械の制御装置 - Google Patents
作業機械の制御装置 Download PDFInfo
- Publication number
- WO2022074896A1 WO2022074896A1 PCT/JP2021/026953 JP2021026953W WO2022074896A1 WO 2022074896 A1 WO2022074896 A1 WO 2022074896A1 JP 2021026953 W JP2021026953 W JP 2021026953W WO 2022074896 A1 WO2022074896 A1 WO 2022074896A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- range
- predetermined
- work machine
- image pickup
- height
- Prior art date
Links
- 238000003384 imaging method Methods 0.000 claims abstract description 4
- 239000003550 marker Substances 0.000 claims description 33
- 238000000034 method Methods 0.000 description 77
- 238000004891 communication Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000001514 detection method Methods 0.000 description 3
- 206010034719 Personality change Diseases 0.000 description 1
- 238000002485 combustion reaction Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
Images
Classifications
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
- E02F9/264—Sensors and their calibration for indicating the position of the work tool
- E02F9/265—Sensors and their calibration for indicating the position of the work tool with follow-up actions (e.g. control signals sent to actuate the work tool)
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/69—Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/20—Drives; Control devices
- E02F9/2025—Particular purposes of control systems not otherwise provided for
- E02F9/205—Remotely operated machines, e.g. unmanned vehicles
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
- E02F9/261—Surveying the work-site to be treated
- E02F9/262—Surveying the work-site to be treated with follow-up actions to control the work tool, e.g. controller
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/695—Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/183—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F3/00—Dredgers; Soil-shifting machines
- E02F3/04—Dredgers; Soil-shifting machines mechanically-driven
- E02F3/28—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
- E02F3/36—Component parts
- E02F3/42—Drives for dippers, buckets, dipper-arms or bucket-arms
- E02F3/43—Control of dipper or bucket position; Control of sequence of drive operations
- E02F3/435—Control of dipper or bucket position; Control of sequence of drive operations for dipper-arms, backhoes or the like
Definitions
- the present invention relates to a work machine control device for supporting remote control of the work machine.
- a device described in Patent Document 1 is known as a control device for a work machine.
- This control device includes a camera mounted on a hydraulic excavator, two motors that change the viewing angle range of the camera, a controller that controls the two motors, and three sensors that detect the angles of the boom, arm, and bucket. It is equipped with.
- This control device transmits a signal including an image captured by the camera to the remote control room during remote control of the work machine, whereby this image is displayed on the monitor of the remote control room. The operator can remotely control the work machine.
- This control device draws a straight line from the center of the camera to the tip of the bucket based on the detection signals of the three sensors during remote operation of the work machine, and from the relationship between this straight line and the viewing angle range of the camera, the bucket It is determined whether or not the tip is located within the viewing angle range of the camera. Then, when the tip of the bucket is out of the viewing angle range of the camera, the viewing angle range of the camera is changed to the maximum value. Then, it is determined again whether or not the tip of the bucket is within the changed viewing angle range, and when the tip of the bucket is out of the viewing angle range of the changed camera, the tip of the bucket is within the viewing angle range of the camera. The angle of the camera is controlled to enter.
- whether or not the tip of the bucket is out of the viewing angle range of the camera is determined in two stages before and after the change of the viewing angle range of the camera, so that the bucket is used. If the position change of is large, it takes time to change the angle of the camera, and the tip of the bucket may not be imaged by the camera. In addition, if the position of the bucket changes significantly, the angle of the camera may change frequently, in which case the operator will move the bucket as the image displayed on the monitor fluctuates frequently. It becomes difficult to recognize the tip. This problem occurs not only when the tip of the bucket is imaged but also when a predetermined part of the attachment such as a boom, an arm and a bucket is imaged.
- the present invention has been made to solve the above problems, and when a predetermined part of an attachment is imaged by an image pickup device, a state in which the predetermined part is not imaged while suppressing frequent changes in the posture of the image pickup device is generated. It is an object of the present invention to provide a control device for a work machine that can be suppressed and the operability can be improved.
- control device of the work machine of the present invention is within a predetermined viewing angle range in front of the work machine by the image pickup device provided in the work machine in order to support the remote operation of the work machine.
- a control device for a work machine that captures an image and transmits a signal containing the image to a remote point. It is a drive that is provided in the work machine and changes the viewing angle range of the image pickup device by changing the posture of the image pickup device. It is estimated that the predetermined part of the attachment of the device and the work machine deviates from the predetermined height range between the first height and the second height below the first height with respect to the work machine in one of the vertical directions.
- the predetermined part of the attachment is estimated to deviate from the predetermined height range in one of the vertical directions based on the judgment result of the judgment unit for determining whether or not the attachment is in the state of being It is characterized by including a control unit that controls a driving device so that the viewing angle range of the above can be changed in a direction that deviates from the viewing angle range.
- the determination unit determines the predetermined height between the first height when the predetermined part of the attachment of the work machine is based on the work machine and the second height below the first height. It is determined whether or not the machine is in a state presumed to deviate from the range in the vertical direction. Then, when the control unit is in a state where it is estimated that the predetermined portion of the attachment deviates from the predetermined height range in one of the vertical directions, the drive device is changed to the direction in which the viewing angle range of the image pickup device deviates. Be controlled. In this way, when the predetermined portion of the attachment is in a state where it is estimated that the predetermined height range is out of the predetermined height range, the viewing angle range of the image pickup device is changed.
- the remote control support system 1 of the present embodiment is composed of a plurality of work machines 10 (only one is shown), a remote control device 20, and the like.
- the work machine 10 and the remote control device 20 are configured to be able to communicate with each other via the network 4.
- the network 4 is composed of a wireless network or a wired network.
- the remote control device 20 is for the operator to remotely control the work machine 10, and is provided in the remote control room 2. As shown in FIG. 1, the remote control device 20 includes a remote control device 200, a remote input interface 210, a remote output interface 220, and the like.
- the remote control device 200 is composed of an arithmetic processing unit (single-core processor or multi-core processor or a processor core constituting the processor core), reads necessary data and software from a storage device such as a memory, and applies the data to the software. Executes the corresponding arithmetic processing.
- arithmetic processing unit single-core processor or multi-core processor or a processor core constituting the processor core
- the remote input interface 210 includes a remote control mechanism 211.
- the remote control mechanism 211 includes a traveling operation device, a turning operation device, a boom operation device, an arm operation device, a bucket operation device, and the like, and each operation device receives a rotation operation. Has a lever. The operation lever of the traveling operation device is operated to move the lower traveling body 11 of the work machine 10.
- the operation lever of the turning operation device is operated to move the turning mechanism of the work machine 10, and the operation lever of the boom operation device is operated to move the boom cylinder of the work machine 10.
- the operation lever of the arm operation device is operated to move the arm cylinder of the work machine 10, and the operation lever of the bucket operation device is operated to move the bucket cylinder of the work machine 10.
- the remote output interface 220 includes an image output device 221, a remote wireless communication device 222, a speaker (not shown), and the like.
- the image output device 221 is composed of a monitor. In the remote output interface 220, when an image signal described later is received via the remote wireless communication device 222, the image in the image signal is output to the image output device 221.
- the working machine 10 includes an actual machine control device 100, an actual machine input interface 110, an actual machine output interface 120, an operating mechanism 140, a driving device 150, and the like.
- the actual machine control device 100 corresponds to the control device, the determination unit, and the control unit.
- the actual machine control device 100 is composed of an arithmetic processing unit (single-core processor or multi-core processor or a processor core constituting the processor core), reads necessary data and software from a storage device such as a memory, and targets the data with the software. In addition to executing the arithmetic processing according to the above, the drive control processing described later is executed.
- arithmetic processing unit single-core processor or multi-core processor or a processor core constituting the processor core
- the work machine 10 is a crawler excavator type construction machine, and is a crawler type lower traveling body 11, an upper turning body 12 mounted on the lower traveling body 11 so as to be able to turn via a turning mechanism, and as a power source. It is equipped with an internal combustion engine (not shown).
- a cabin 13 (driver's cab) is provided on the front left side of the upper swivel body 12.
- a work attachment 140 is provided at the front center portion of the upper swivel body 12.
- the actual machine input interface 110 includes an actual machine operation mechanism 111, an image pickup device 112, a sensor device 113, and the like.
- the actual machine operation mechanism 111 includes a plurality of actual machine operation levers arranged in the same manner as the remote control mechanism 211 around the seat arranged inside the cabin 13.
- the cabin 13 is provided with a drive mechanism or a robot that receives a signal according to the operation mode of the remote control mechanism 211 and moves the actual machine operation lever based on the received signal.
- the image pickup device 112 is composed of, for example, a camera installed inside the cabin 13, and images an environment including at least a part of the operating mechanism 140 via the front window 13a and the ceiling window 13b.
- the sensor device 113 is composed of a boom angle sensor, an arm angle sensor, an image pickup device angle sensor, and the like. This boom angle sensor detects the boom angle, and this boom angle is the angle of the boom 141 with respect to the upper swing body 12.
- the arm angle sensor detects the arm angle, and this arm angle is the angle of the arm 142 with respect to the boom 141.
- the image pickup device angle sensor detects the image pickup device angle, and the image pickup device angle is the angle of the optical axis of the image pickup device 112 changed by the drive device 150.
- the actual machine output interface 120 includes an actual machine wireless communication device 121 for executing wireless communication with the remote control device 20.
- the work attachment 140 as an actuating mechanism includes a boom 141, an arm 142 and a bucket 143.
- the boom 141 is undulatingly mounted on the upper swing body 12 and is driven by a boom cylinder to rotate about a horizontal axis, whereby the boom angle is changed.
- the arm 142 is rotatably connected to the tip of the boom 141 and is driven by the arm cylinder to rotate around the horizontal axis, whereby the arm angle is changed.
- the bucket 143 is rotatably connected to the tip of the arm 142 and is driven by the bucket cylinder to rotate about the horizontal axis with respect to the arm 142.
- the drive device 150 changes the posture of the image pickup device 112, and is composed of a motor, a gear mechanism, and the like (not shown). As will be described later, the drive device 150 is controlled by the actual machine control device 100 to change the posture (angle) of the image pickup device 112 to the reference posture shown in FIG. 2A, the upper posture shown in FIG. 3A, and FIG. 4A. Change to 3 stages with the indicated lower posture.
- the optical axis of the image pickup device 112 is parallel to the bottom surface of the work machine 10, and the reference range which is the viewing angle range of the image pickup device 112 at that time.
- R1 is as shown in FIG. 2B. That is, the left and right ends of the reference range R1 are outside the left and right ends of the front window 13a of the cabin 13, the upper end substantially coincides with the upper end of the front window 13a, and the lower end is slightly closer to the center in the vertical direction of the front window 13a. It is configured to be in the lower position.
- H a predetermined height range
- connection center when the center (hereinafter referred to as “connection center”) C1 of the connection portion of the bucket 143 with respect to the arm 142 is located within this predetermined height range H, the connection center C1 can be imaged. Is set to.
- the connection center C1 corresponds to a predetermined portion of the attachment.
- the optical axis of the image pickup device 112 has a first predetermined angle ⁇ 1 minute as compared with the case where the posture of the image pickup device 112 is in the reference posture.
- the upper range R2 which is the viewing angle range of the image pickup apparatus 112, becomes as shown in FIG. 3B.
- the left and right ends of the upper range R2 are outside the left and right ends of the front window 13a and the ceiling window 13b of the cabin 13, covering the entire ceiling window 13b, and the lower end is the upper position of the front window 13a.
- the lower portion of the upper range R2 overlaps with the upper portion of the reference range R1.
- the upper range R2 is a position where the above-mentioned connection center C1 is located higher than the predetermined height range H and can be seen from above the center of the ceiling window 13b and the front window 13a in the vertical direction.
- the connection center C1 is set within a range in which an image can be taken.
- the optical axis of the image pickup device 112 has a second predetermined angle ⁇ 2 minutes as compared with the case where the posture of the image pickup device 112 is in the reference posture.
- the lower left range R3, which is the viewing angle range of the image pickup apparatus 112 becomes as shown in FIG. 4B.
- the left and right ends of the lower range R3 are outside the left and right ends of the front window 13a of the cabin 13, the upper end is slightly above the center in the vertical direction of the front window 13a, and the lower end is the front window 13a. It will be in a state that almost coincides with the lower end of.
- the substantially upper half of the lower range R3 overlaps with the substantially lower half of the reference range R1.
- the lower range R3 is set to a range in which the above-mentioned connection center C1 can be imaged when the above-mentioned connection center C1 is located at a position lower than the predetermined height range H and can be seen from the front window 13a. Has been done.
- the posture of the image pickup device 112 is changed in three stages between the above-mentioned reference posture, the upper posture, and the lower posture by controlling the drive device 150, and the actual machine control device 100 controls the posture. It is executed in a predetermined cycle.
- the drive condition determination process is executed (FIG. 5 / STEP1).
- This drive condition determination process determines the execution conditions of the three drive control processes described below, and the details thereof will be described later.
- the upper drive control flag F_UPPER indicates whether or not the execution condition of the upper drive control process described below is satisfied.
- the upper drive control process is executed (FIG. 5 / STEP3).
- the drive device 150 is controlled so as to change the posture of the image pickup device 112 from the reference posture to the upper posture.
- the posture change speed of the image pickup apparatus 112 is controlled according to the movement speed V of the connection center C1. Specifically, the larger the moving speed V of the connection center C1, the higher the posture changing speed of the image pickup apparatus 112 is controlled. In this case, the moving speed V of the connection center C1 is calculated based on the detection signal of the sensor device 113 described above. As described above, after the upper drive control process is executed, this process ends.
- the lower drive control process is executed (FIG. 5 / STEP5).
- the drive device 150 is controlled so as to change the posture of the image pickup device 112 from the reference posture to the lower posture.
- the posture change speed of the image pickup apparatus 112 is controlled in the same manner as the upper drive control process. That is, the larger the moving speed V of the connection center C1, the higher the posture changing speed of the image pickup apparatus 112 is controlled. As described above, after the lower drive control process is executed, this process ends.
- the reference drive control process is executed (FIG. 5 / STEP7).
- the drive device 150 is controlled so as to change the posture of the image pickup device 112 from the lower posture or the upper posture to the reference posture.
- the attitude change speed (that is, the rotational angular velocity) of the image pickup apparatus 112 is controlled in the same manner as the upper drive control process and the lower drive control process. That is, the larger the moving speed V of the connection center C1, the higher the posture changing speed of the image pickup apparatus 112 is controlled. As described above, after the reference drive control process is executed, this process ends.
- the switching condition determination process determines whether or not the condition for switching the posture of the image pickup apparatus 112 between the above-mentioned reference posture, upper posture, and lower posture is satisfied. Specifically, FIG. 7 It is executed as shown in.
- both the moving speed V and the height hc of the connection center C1 are calculated based on the detection result of the sensor device 113 described above. Further, the moving speed V is calculated as an absolute value of the speed. Further, the above Vref is a positive predetermined speed, and ⁇ is a positive predetermined value. When all of the above (f1) to (f2) are satisfied, the connection center C1 is in a state presumed to be outside the predetermined height range H described above.
- This lower switching condition is an execution condition of the above-mentioned lower drive control process.
- predetermined values to be compared with the absolute value V of the moving speed may be set to different values.
- predetermined values to be compared with the values h1-hc and the value hc-h2 may be set to different values.
- This reference switching condition is an execution condition of the upper drive control process for switching the posture of the image pickup apparatus 112 from the upper posture or the lower posture to the reference posture. In this case, when all of the following conditions (f5) to (f6) are satisfied, or when all of the following conditions (f7) to (f8) are satisfied, the reference switching condition is satisfied. In other cases, it is determined that the reference switching condition is not satisfied.
- predetermined values to be compared with the absolute value V of the moving speed may be set to different values from each other.
- predetermined values to be compared with the values hc-h1 and the value h2-hc may be set to different values.
- This image control process executes superimposition of the first labeled line L1 and the second labeled line L2 on the image captured by the image pickup device 112, and is executed by the actual machine control device 100 at a predetermined cycle. ..
- the first labeled line L1 corresponds to the first labeled image
- the second labeled line L2 corresponds to the second labeled image.
- captured image an image captured by the image pickup apparatus 112 (hereinafter referred to as “captured image”) is read (FIG. 8 / STEP50).
- the marker line superimposition process is executed (FIG. 8 / STEP51).
- this marker line superimposition process at least one of the first marker line L1 and the second marker line L2 is superimposed on the captured image.
- the first marker line L1 is a line indicating the first height h1 which is the upper limit of the predetermined height range H
- the second marker line L2 is the second height h2 which is the lower limit of the predetermined height range H. It is a line to show.
- the first marker line L1 and the second marker line L2 are the upper portion of the captured image in the reference range R1 and the upper portion, respectively. It is superimposed on the lower part.
- the posture of the image pickup apparatus 112 is the above-mentioned upper posture, as shown in FIG. 3B, the first marker line L1 is superimposed on the region overlapping with the reference range R1 of the upper range R2. ..
- the second marker line L2 overlaps with the reference range R1 in the upper portion of the lower range R3. Overlaid on the area.
- the posture of the image pickup apparatus 112 changes from the reference posture to the upper posture and the viewing angle range of the image pickup apparatus 112 changes from the reference range R1 to the upper range R2 by the execution of the upper drive control process described above, the first 1 The labeled line L1 is always superimposed on the image captured by the image pickup device 112.
- the posture of the image pickup device 112 changes from the upper posture to the reference posture, and the viewing angle range of the image pickup device 112 changes from the upper range R2 to the reference range R1.
- the first marker line L1 is always superimposed on the image captured by the image pickup device 112.
- the posture of the image pickup device 112 changes from the reference posture to the lower posture and the viewing angle range of the image pickup device 112 changes from the reference range R1 to the lower range R3 by executing the lower drive control process described above.
- the second marker line L2 is always superimposed on the image captured by the image pickup device 112.
- the posture of the image pickup device 112 changes from the lower posture to the reference posture, and the viewing angle range of the image pickup device 112 changes from the lower range R3 to the reference range R1. Also, the second labeled line L2 is always superimposed on the image captured by the image pickup apparatus 112.
- the labeled line superimposing process at least one of the first labeled line L1 and the second labeled line L2 is superimposed on the captured image of the image pickup apparatus 112.
- an image signal including an captured image in which at least one of the first labeled line L1 and the second labeled line L2 is superimposed as described above is transmitted to the remote control device 200 of the remote control device 20 (FIG. 8). / STEP52). After that, this process ends.
- the captured image of the image signal is output from the image output device 221 of the remote control device 20 to the operator 3.
- the operator 3 can remotely control the work machine 10 while visually recognizing the image near the connection center C1.
- the upper drive control process is performed. Will be executed.
- the viewing angle range of the image pickup apparatus 112 is changed from the reference range R1 to the upper range R2.
- the lower drive control process is executed.
- the viewing angle range of the image pickup apparatus 112 is changed from the reference range R1 to the lower range R3.
- the viewing angle range of the image pickup apparatus 112 is changed from the reference range R1 to the upper range R2 or the lower range R3. Unlike the conventional case, the viewing angle range of the image pickup apparatus 112 can be changed quickly, and the occurrence of a state in which the connection center C1 is not imaged can be suppressed. Further, as long as the connection center C1 does not deviate from the predetermined height range H, the viewing angle range of the image pickup apparatus 112 is not changed, so that frequent fluctuations of the image captured by the image pickup apparatus 112 can be suppressed.
- the posture change speed of the image pickup apparatus 112 in the upper drive control process and the lower drive control process is controlled so as to increase as the moving speed V of the connection center C1 increases, so that the connection center C1 is not imaged. Can be suppressed more reliably.
- the upper portion of the reference range R1 and the lower portion of the upper range R2 are configured to overlap each other, and the lower portion of the reference range R1 and the upper portion of the lower range R3 are configured to overlap each other. Therefore, it is possible to avoid the occurrence of a blind spot in the operator 3 who remotely controls the work machine 10 before and after switching the viewing angle range of the image pickup apparatus 112.
- the image pickup apparatus 112 is arranged in the cabin 13 of the work machine 10, and the upper range R2 and the lower range R3 are connected centers when the connection center C1 deviates from the predetermined height range H upward and downward, respectively. Since C1 is set in a range in which imaging is possible through the front window 13a and the ceiling window 13b of the cabin 13, even if the connection center C1 deviates from the predetermined height range H upward and downward, the work machine 10 can be operated.
- the remote-controlled operator 3 can refer to the image near the connection center C1 as an image viewed from the cabin 13 of the work machine 10. Thereby, the operator 3 can recognize the continuity of the image before and after the change of the viewing angle range of the image pickup apparatus 112 with the cabin 13 as a reference.
- the first marker line L1 indicating the first height h1 is the reference range in the captured image. It is displayed in the overlapping portion of the upper portion of R1 and the lower portion of the upper range R2.
- the second marker line indicating the second height h2 is set to the reference range R1. It is displayed superimposed on the overlapping portion of the upper portion and the lower portion of the upper range R2.
- the viewing angle range of the image pickup apparatus 112 is changed between the reference range R1 and the upper range R2 with reference to these first marker lines L1 and the second marker line, and when the reference range R1 and the lower side are changed.
- the operator 3 can be made to recognize the continuity of the captured image during and before and after the change.
- the actual machine control device 100 is used as the control device, but instead, the remote control device 200 provided in the remote control room 2 may be used as the control device, and the network 4 may be used.
- a server (not shown) provided so as to be able to communicate with the work machine 10 may be used as a control device.
- the embodiment is an example in which the actual machine control device 100 provided in the work machine 10 is used as the determination unit, but instead, the remote control device 200 provided in the remote control room 2 is used as the determination unit. It may be used, or a server (not shown) provided so as to be able to communicate with the work machine 10 via the network 4 may be used as the determination unit.
- the embodiment is an example in which the actual machine control device 100 provided in the work machine 10 is used as the control unit, but instead, the remote control device 200 provided in the remote control room 2 is used as the control unit. It may be used, or a server (not shown) provided so as to be able to communicate with the work machine 10 via the network 4 may be used as a control unit.
- connection center C1 is used as a predetermined part of the attachment of the work machine, but instead, the tip end portion or the predetermined part of the bucket 143 may be used as the predetermined part of the attachment, and the predetermined part of the arm 142 may be specified.
- the site may be a predetermined site of the attachment.
- the actual machine control device 100 may be configured to control the drive device 150, and vice versa, the actual machine control device 100 may be configured to control the drive device 150.
- first predetermined angle ⁇ 1 is set to an angle such that the connection center C1 is located in the predetermined region of the upper range R2 when the viewing angle range of the image pickup apparatus 112 is switched from the reference range R1 to the upper range R2.
- the second predetermined angle ⁇ 2 is set so that the connection center C1 is located in the predetermined region of the lower range R3 when the viewing angle range of the image pickup apparatus 112 is switched from the reference range R1 to the lower range R3. Just do it.
- the first marker line L1 which is a line indicating the first height h1 is used as the first marker image
- the second marker line L2 which is a line indicating the second height h2 is used as the second marker image.
- the first sign line L1 may be displayed at a position shifted in the vertical direction with respect to the first height h1
- the second sign line L2 may be displayed at a position shifted in the vertical direction with respect to the second height h2. It may be displayed.
- the first marker image and the second marker image may be a figure having a shape (for example, a rectangle, a circle, a triangle, etc.) instead of the line shown by the first marker line L1 or the second marker line L2. good.
- control unit determines the speed at which the viewing angle range of the image pickup device is changed to one of the vertical directions according to the moving speed of a predetermined portion of the attachment.
- the control unit controls the speed at which the viewing angle range of the image pickup device is changed to one of the vertical directions according to the moving speed of a predetermined portion of the attachment.
- the viewing angle range of can be changed at a speed according to the moving speed of a predetermined portion of the attachment.
- the drive device has a reference range in which the viewing angle range of the image pickup device can be imaged when the predetermined portion of the attachment is within the predetermined height range, and the center is the reference range. It is configured so that it can be changed between the upper range above the first predetermined angle from the center of the reference range and the lower range below the center by the second predetermined angle from the center of the reference range. It is preferable that the lower portion of the portion and the lower portion of the upper range are configured to overlap each other, and the lower portion of the reference range and the upper portion of the lower range are configured to overlap each other.
- the viewing angle range of the image pickup device is the reference range in which the predetermined portion of the attachment can be imaged when the predetermined portion is within the predetermined height range, and the center is larger than the center of the reference range. It is configured so that it can be changed between the upper range on the upper side by the first predetermined angle and the lower range on the lower side by the second predetermined angle from the center of the reference range.
- the upper part of the reference range and the lower part of the upper range are configured to overlap each other, and the lower part of the reference range and the upper part of the lower range are configured to overlap each other.
- the image pickup device is arranged in the cabin of the work machine, and the upper range and the lower range are when the predetermined portion of the attachment deviates from the predetermined height range upward and downward, respectively. It is preferable that the predetermined portion is set within a range in which an image can be taken through the window of the cabin.
- the image pickup device is arranged in the cabin of the work machine.
- the upper range and the lower range are set to a range in which the predetermined part of the attachment can be imaged through the window of the cabin when the predetermined part of the attachment deviates from the predetermined height range upward and downward, respectively.
- the operator who remotely controls the work machine refers to the image of the predetermined part of the attachment as an image viewed from the cabin of the work machine. Can be done.
- the operator can be made to recognize the continuity of the image before and after the change of the viewing angle range of the image pickup device with the cabin as a reference, and high operability when remotely controlling the work machine can be ensured.
- the control unit uses the first marker image as a reference in the image captured by the image pickup device when the viewing angle range of the image pickup device is changed between the reference range and the upper range. It is displayed superimposed on the overlapping portion of the upper part of the range and the lower part of the upper range, and is imaged by the image pickup device when the viewing angle range of the image pickup device is changed between the reference range and the lower range. It is preferable to further perform image control for displaying the second marker image superimposed on the overlapping portion of the upper portion of the reference range and the lower portion of the upper range.
- image control is further executed by the control unit.
- the first marker image is above the reference range and below the upper range. It is displayed in the overlapping part of the side part.
- the second labeled image is the upper part and the upper range of the reference range. It is displayed superimposed on the overlapping part of the lower part.
- the viewing angle range of the image pickup apparatus is changed between the reference range and the upper range, and between the quasi-range and the lower range with reference to these first and second labeled images.
- the operator can be made to recognize the continuity of the images during and before and after the change, and high operability when remotely operating the work machine can be ensured.
- the height of the predetermined portion of the attachment is equal to or less than the predetermined value at the distance between the height of one of the first height and the second height, and the predetermined portion.
- the control device of this work machine based on the distance between the height of the predetermined part and the first height or the second height, and the moving speed when the predetermined part moves toward the first height or the second height. Since it is determined whether or not the predetermined portion of the attachment is in a state where it is likely to deviate from the predetermined height range, the determination can be performed with high accuracy.
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Mining & Mineral Resources (AREA)
- Civil Engineering (AREA)
- General Engineering & Computer Science (AREA)
- Structural Engineering (AREA)
- Manipulator (AREA)
- Operation Control Of Excavators (AREA)
- Control Of Position Or Direction (AREA)
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
Abstract
作業機械10の実機制御装置100は、作業機械10の連結中心C1が所定高さ範囲Hを上下方向の一方に外れると推定される状態にあるか否かを判定し、連結中心C1が所定高さ範囲Hを上下方向の一方に外れると推定される状態にあるときには、撮像装置112の視野角範囲が外れる方向に変更されるように、駆動装置150を制御する。
Description
本発明は、作業機械の遠隔操作を支援するための作業機械の制御装置に関する。
従来、作業機械の制御装置として特許文献1に記載されたものが知られている。この制御装置は、油圧ショベルに搭載されたカメラと、カメラの視野角範囲を変更する2つのモータと、2つのモータを制御するコントローラと、ブーム、アーム及びバケットの角度を検出する3つのセンサなどを備えている。この制御装置は、作業機械の遠隔操作中、カメラで撮像された画像を含む信号を遠隔操室に送信するものであり、それにより、この画像が遠隔操作室のモニタに表示されることで、オペレータによる作業機械の遠隔操作が可能になる。
この制御装置では、作業機械の遠隔操作中、3つのセンサの検出信号に基づき、カメラの中心からバケットの先端までの直線を引き、この直線とカメラの視野角範囲内との関係から、バケットの先端がカメラの視野角範囲内に位置しているか否かが判定される。そして、バケットの先端がカメラの視野角範囲から外れているときには、カメラの視野角範囲がその最大値になるように変更される。次いで、バケットの先端が変更後の視野範囲に入っているか否かが再度判定され、バケットの先端が変更後のカメラの視野角範囲から外れているときには、バケットの先端がカメラの視野角範囲内に入るように、カメラの角度が制御される。
上記従来の制御装置によれば、バケットの先端がカメラの視野角範囲から外れているか否かの判定が、カメラの視野角範囲の変更前と変更後において2段階で実施される関係上、バケットの位置変化が大きい場合には、カメラの角度変更に時間を要してしまい、バケットの先端がカメラで撮像されない状態が発生してしまうことになる。さらに、バケットの位置変化が大きい場合には、カメラの角度が頻繁に変更される可能性があり、その場合には、モニタに表示される映像が頻繁に変動するのに伴い、オペレータがバケットの先端を認識するのが困難になってしまう。この問題は、バケットの先端部を撮像する場合に限らず、ブーム、アーム及びバケットなどのアタッチメントの所定部位を撮像する場合にも発生する。
本発明は、上記課題を解決するためになされたもので、アタッチメントの所定部位を撮像装置で撮像する場合において、撮像装置の姿勢の頻繁な変更を抑制しながら所定部位が撮像されない状態の発生を抑制することができ、操作性を向上させることができる作業機械の制御装置を提供することを目的とする。
上記目的を達成するために、本発明の作業機械の制御装置は、作業機械の遠隔操作を支援するために、作業機械に設けられた撮像装置によって作業機械の前方における所定の視野角範囲内の画像を撮像し、画像を含む信号を遠隔地点に送信する作業機械の制御装置であって、作業機械に設けられ、撮像装置の姿勢を変更することにより、撮像装置の視野角範囲を変更する駆動装置と、作業機械のアタッチメントの所定部位が作業機械を基準としたときの第1高さと第1高さよりも下方の第2高さとの間の所定高さ範囲を上下方向の一方に外れると推定される状態にあるか否かを判定する判定部と、判定部の判定結果に基づき、アタッチメントの所定部位が所定高さ範囲を上下方向の一方に外れると推定される状態にあるときには、撮像装置の視野角範囲が外れる方向に変更されるように、駆動装置を制御する制御部と、を備えていることを特徴とする。
この作業機械の制御装置によれば、判定部により、作業機械のアタッチメントの所定部位が作業機械を基準としたときの第1高さと第1高さよりも下方の第2高さとの間の所定高さ範囲を上下方向の一方に外れると推定される状態にあるか否かが判定される。そして、制御部により、アタッチメントの所定部位が所定高さ範囲を上下方向の一方に外れると推定される状態にあるときには、撮像装置の視野角範囲が外れる方向に変更されるように、駆動装置が制御される。このように、アタッチメントの所定部位が所定高さ範囲を外れると推定される状態にあるときに、撮像装置の視野角範囲が変更されるので、従来と異なり、撮像装置の視野角範囲を迅速に変更することができ、アタッチメントの所定部位が撮像されない状態の発生を抑制することができる。また、アタッチメントの所定部位が所定高さ範囲を外れない限り、撮像装置の視野角範囲が変更されないので、撮像装置によって撮像された画像の頻繁な変動を抑制することができる。以上により、作業機械を遠隔操作する際の操作性を向上させることができる。
以下、図面を参照しながら、本発明の一実施形態に係る制御装置及び遠隔操作支援システムについて説明する。図1に示すように、本実施形態の遠隔操作支援システム1は、複数の作業機械10(1つのみ図示)及び遠隔操作装置20などで構成されている。
作業機械10及び遠隔操作装置20は、ネットワーク4を介して相互に通信可能に構成されている。なお、ネットワーク4は、無線ネットワーク又は有線ネットワークで構成される。この遠隔操作装置20は、オペレータが作業機械10を遠隔操作するためのものであり、遠隔操作室2内に設けられている。図1に示すように、遠隔操作装置20は、遠隔制御装置200、遠隔入力インターフェース210及び遠隔出力インターフェース220などを備えている。
遠隔制御装置200は、演算処理装置(シングルコアプロセッサまたはマルチコアプロセッサもしくはこれを構成するプロセッサコア)により構成され、メモリなどの記憶装置から必要なデータ及びソフトウェアを読み取り、このデータを対象として当該ソフトウェアにしたがった演算処理を実行する。
遠隔入力インターフェース210は、遠隔操作機構211を備えている。この遠隔操作機構211には、走行用操作装置、旋回用操作装置、ブーム用操作装置、アーム用操作装置及びバケット用操作装置などが含まれており、各操作装置は、回動操作を受ける操作レバーを有している。走行用操作装置の操作レバーは、作業機械10の下部走行体11を動かすために操作される。
旋回用操作装置の操作レバーは、作業機械10の旋回機構を動かすために操作され、ブーム用操作装置の操作レバーは、作業機械10のブームシリンダを動かすために操作される。アーム用操作装置の操作レバーは作業機械10のアームシリンダを動かすために操作され、バケット用操作装置の操作レバーは作業機械10のバケットシリンダを動かすために操作される。
また、遠隔出力インターフェース220は、画像出力装置221、遠隔無線通信機器222及び図示しないスピーカなどを備えている。画像出力装置221は、モニタで構成されている。この遠隔出力インターフェース220では、後述する画像信号が遠隔無線通信機器222を介して受信された場合、画像信号内の画像が画像出力装置221に対して出力される。
図1に示すように、作業機械10は、実機制御装置100、実機入力インターフェース110、実機出力インターフェース120、作動機構140及び駆動装置150などを備えている。なお、本実施形態では、実機制御装置100が制御装置、判定部及び制御部に相当する。
この実機制御装置100は、演算処理装置(シングルコアプロセッサまたはマルチコアプロセッサもしくはこれを構成するプロセッサコア)により構成され、メモリなどの記憶装置から必要なデータ及びソフトウェアを読み取り、当該データを対象として当該ソフトウェアにしたがった演算処理を実行するとともに、後述する駆動制御処理などを実行する。
作業機械10は、クローラショベルタイプの建設機械であり、クローラ式の下部走行体11と、下部走行体11に旋回機構を介して旋回可能に搭載されている上部旋回体12と、動力源としての内燃機関(図示せず)などを備えている。上部旋回体12の前方左側部にはキャビン13(運転室)が設けられている。上部旋回体12の前方中央部には作業アタッチメント140が設けられている。
実機入力インターフェース110は、実機操作機構111、撮像装置112及びセンサ装置113などを備えている。実機操作機構111は、キャビン13の内部に配置されたシートの周囲に遠隔操作機構211と同様に配置された複数の実機操作レバーを備えている。遠隔操作機構211の操作態様に応じた信号を受信し、当該受信信号に基づいて当該実機操作レバーを動かす駆動機構またはロボットがキャビン13に設けられている。
撮像装置112は、例えばキャビン13の内部に設置されたカメラで構成されており、前方窓13a及び天井窓13bを介して作動機構140の少なくとも一部を含む環境を撮像する。
センサ装置113は、ブーム角度センサ、アーム角度センサ及び撮像装置角度センサなどで構成されている。このブーム角度センサは、ブーム角度を検出するものであり、このブーム角度は、上部旋回体12に対するブーム141の角度である。
また、アーム角度センサは、アーム角度を検出するものであり、このアーム角度は、ブーム141に対するアーム142の角度である。さらに、撮像装置角度センサは、撮像装置角度を検出するものであり、この撮像装置角度は、駆動装置150によって変更される撮像装置112の光軸の角度である。
実機出力インターフェース120は、遠隔操作装置20との間で無線通信を実行するための実機無線通信機器121を備えている。
作動機構としての作業アタッチメント140は、ブーム141、アーム142及びバケット143を備えている。ブーム141は、上部旋回体12に起伏可能に装着されており、ブームシリンダによって駆動されることにより水平軸回りに回動し、それにより、ブーム角が変更される。
また、アーム142は、ブーム141の先端に回動可能に連結されており、アームシリンダによって駆動されることによって水平軸回りに回動し、それにより、アーム角が変更される。さらに、バケット143は、アーム142の先端に回動可能に連結されており、バケットシリンダによって駆動されることにより、アーム142に対して水平軸回りに回動する。
一方、駆動装置150は、撮像装置112の姿勢を変更するものであり、図示しないモータ及びギヤ機構などで構成されている。駆動装置150は、後述するように、実機制御装置100によって制御されることにより、撮像装置112の姿勢(角度)を、図2Aに示す基準姿勢と、図3Aに示す上側姿勢と、図4Aに示す下側姿勢との間で3段階に変更する。
撮像装置112の姿勢が図2Aに示す基準姿勢になっている場合、撮像装置112の光軸は作業機械10の底面と並行になるとともに、その際の撮像装置112の視野角範囲である基準範囲R1は、図2Bに示すようになる。すなわち、基準範囲R1の左右両端がキャビン13の前方窓13aの左右両端よりも外側になり、上端が前方窓13aの上端とほぼ一致するとともに、下端が前方窓13aの上下方向における中央よりも若干下側の位置になるように構成されている。
また、基準範囲R1は、図2Aに示すように、作業機械10の底面からの第1高さh1とこれよりも低い第2高さh2との間の範囲を所定高さ範囲H(=h1-h2)とした場合において、アーム142に対するバケット143の連結部の中心(以下「連結中心」という)C1がこの所定高さ範囲H内に位置しているときには、連結中心C1を撮像可能な範囲に設定されている。なお、本実施形態では、連結中心C1がアタッチメントの所定部位に相当する。
一方、撮像装置112の姿勢が図3Aに示す上側姿勢になっている場合、撮像装置112の光軸は、撮像装置112の姿勢が基準姿勢にある場合と比べて、第1所定角度θ1分、図中の斜め左上がりに傾斜した状態になり、それに伴い、撮像装置112の視野角範囲である上側範囲R2は、図3Bに示すようになる。
すなわち、上側範囲R2の左右両端がキャビン13の前方窓13a及び天井窓13bの左右両端よりも外側になり、天井窓13b全体をカバーするとともに、下端が前方窓13aの上側の位置になる。これと同時に、上側範囲R2の下側部は、基準範囲R1の上側部と重複した状態となる。
また、上側範囲R2は、上述した連結中心C1が、所定高さ範囲Hよりも高い位置にあって天井窓13b及び前方窓13aの上下方向における中央よりも上側から見える位置にある場合には、この連結中心C1を撮像可能な範囲に設定されている。
一方、撮像装置112の姿勢が図4Aに示す下側姿勢になっている場合、撮像装置112の光軸は、撮像装置112の姿勢が基準姿勢にある場合と比べて、第2所定角度θ2分、図中の斜め左下がりの状態になり、それに伴い、撮像装置112の視野角範囲である下側範囲R3は、図4Bに示すようになる。
すなわち、下側範囲R3の左右両端がキャビン13の前方窓13aの左右両端よりも外側になり、上端が前方窓13aの上下方向における中央よりも若干上側の位置になるとともに、下端が前方窓13aの下端とほぼ一致する状態になる。これと同時に、下側範囲R3のほぼ上半部が基準範囲R1のほぼ下半部と重複した状態となる。
また、下側範囲R3は、上述した連結中心C1が、所定高さ範囲Hよりも低い位置にあって前方窓13aから見える位置にある場合には、この連結中心C1を撮像可能な範囲に設定されている。
次に、図5を参照しながら、駆動制御処理について説明する。この駆動制御処理は、駆動装置150を制御することにより、撮像装置112の姿勢を、前述した基準姿勢、上側姿勢及び下側姿勢の間で3段階に変更するものであり、実機制御装置100によって所定周期で実行される。
同図に示すように、まず、駆動条件判定処理が実行される(図5/STEP1)。この駆動条件判定処理は、以下に述べる3つの駆動制御処理の実行条件を判定するものであり、その詳細については後述する。
次いで、上側駆動制御フラグF_UPPERが「1」であるか否かが判定される(図5/STEP2)。この上側駆動制御フラグF_UPPERは、以下に述べる上側駆動制御処理の実行条件が成立しているか否かを表すものである。
この判定が肯定(図5/STEP2…YES)で、上側駆動制御処理の実行条件が成立しているときには、上側駆動制御処理が実行される(図5/STEP3)。この上側駆動制御処理では、撮像装置112の姿勢を基準姿勢から上側姿勢に変更するように、駆動装置150が制御される。
その際、撮像装置112の姿勢変更速度は、連結中心C1の移動速度Vに応じて制御される。具体的には、連結中心C1の移動速度Vが大きいほど、撮像装置112の姿勢変更速度がより大きくなるように制御される。この場合、連結中心C1の移動速度Vは、前述したセンサ装置113の検出信号に基づいて算出される。以上のように、上側駆動制御処理が実行された後、本処理が終了する。
一方、上述した判定が否定(図5/STEP2…NO)で、上側駆動制御処理の実行条件が不成立であるときには、下側駆動制御フラグF_DOWNが「1」であるか否かが判定される(図5/STEP4)。この下側駆動制御フラグF_DOWNは、以下に述べる下側駆動制御処理の実行条件が成立しているか否かを表すものである。
この判定が肯定(図5/STEP4…YES)で、下側駆動制御処理の実行条件が成立しているときには、下側駆動制御処理が実行される(図5/STEP5)。この下側駆動制御処理では、撮像装置112の姿勢を基準姿勢から下側姿勢に変更するように、駆動装置150が制御される。
その際、撮像装置112の姿勢変更速度は、上側駆動制御処理と同様に制御される。すなわち、連結中心C1の移動速度Vが大きいほど、撮像装置112の姿勢変更速度がより大きくなるように制御される。以上のように、下側駆動制御処理が実行された後、本処理が終了する。
一方、前述した判定が否定(図5/STEP4…NO)で、下側駆動制御処理の実行条件が不成立であるときには、基準駆動制御フラグF_CENTERが「1」であるか否かが判定される(図5/STEP6)。この基準駆動制御フラグF_CENTERは、以下に述べる基準駆動制御処理の実行条件が成立しているか否かを表すものである。
この判定が肯定(図5/STEP6…YES)で、基準駆動制御処理の実行条件が成立しているときには、基準駆動制御処理が実行される(図5/STEP7)。この下側駆動制御処理では、撮像装置112の姿勢を下側姿勢又は上側姿勢から基準姿勢に変更するように、駆動装置150が制御される。
その際、撮像装置112の姿勢変更速度(すなわち回転角速度)は、上側駆動制御処理及び下側駆動制御処理と同様に制御される。すなわち、連結中心C1の移動速度Vが大きいほど、撮像装置112の姿勢変更速度がより大きくなるように制御される。以上のように、基準駆動制御処理が実行された後、本処理が終了する。
一方、上述した判定が否定(図5/STEP6…NO)で、基準駆動制御処理の実行条件が不成立であるときには、そのまま本処理が終了する。
次に、図6及び図7を参照しながら、前述した駆動条件判定処理について説明する。この駆動条件判定処理では、図6に示すように、まず、上側駆動制御フラグF_UPPERが「1」であるか否かが判定される(図6/STEP10)。
この判定が否定(図6/STEP10…NO)で、上側駆動制御処理の実行条件が不成立であるときには、下側駆動制御フラグF_DOWNが「1」であるか否かが判定される(図6/STEP11)。この判定が否定(図6/STEP11…NO)で、下側駆動制御処理の実行条件が不成立であるときには、基準駆動制御フラグF_CENTERが「1」であるか否かが判定される(図6/STEP12)。
この判定が否定(図6/STEP12…NO)で、基準駆動制御処理の実行条件が不成立であるときには、切換条件判定処理が実行される(図6/STEP13)。この切換条件判定処理は、撮像装置112の姿勢を、前述した基準姿勢、上側姿勢及び下側姿勢の間で切り換える条件が成立したか否かを判定するものであり、具体的には、図7に示すように実行される。
同図に示すように、まず、撮像装置112が基準姿勢にあるか否かが判定される(図7/STEP30)。この判定が肯定(図7/STEP30…YES)で、撮像装置112が基準姿勢にあるときには、上側切換条件が成立しているか否かが判定される(図7/STEP31)。この上側切換条件は、前述した上側駆動制御処理の実行条件である。
この場合、以下の(f1)~(f2)の条件がいずれも成立しているときには、上側切換条件が成立していると判定され、それ以外のときには、上側切換条件が不成立であると判定される。
(f1)前述した連結中心C1の移動速度Vにおいて、V≧Vrefが成立していること。
(f2)連結中心C1の高さhcにおいて、h1-hc≦αが成立していること。
(f1)前述した連結中心C1の移動速度Vにおいて、V≧Vrefが成立していること。
(f2)連結中心C1の高さhcにおいて、h1-hc≦αが成立していること。
この場合、連結中心C1の移動速度V及び高さhcはいずれも、前述したセンサ装置113の検出結果に基づいて算出される。また、移動速度Vは、速度の絶対値として算出される。さらに、上記のVrefは、正の所定速度であり、αは正の所定値である。以上の(f1)~(f2)がいずれも成立している場合には、連結中心C1が、前述した所定高さ範囲Hを上側に外れると推定される状態にあることになる。
上述した判定が肯定(図7/STEP31…YES)で、上側切換条件が成立しているときには、それを表すために、上側駆動制御フラグF_UPPERに設定される(図7/STEP32)。その後、本処理が終了する。
一方、上述した判定が否定(図7/STEP31…NO)で、上側切換条件が不成立であるときには、下側切換条件が成立しているか否かが判定される(図7/STEP33)。この下側切換条件は、前述した下側駆動制御処理の実行条件である。
この場合、以下の(f3)~(f4)の条件がいずれも成立しているときには、下側切換条件が成立していると判定され、それ以外のときには、下側切換条件が不成立であると判定される。
(f3)V≧Vrefが成立していること。
(f4)hc-h2≦αが成立していること。
(f3)V≧Vrefが成立していること。
(f4)hc-h2≦αが成立していること。
以上の(f3)~(f4)の条件がいずれも成立している場合には、連結中心C1が前述した所定高さ範囲Hを下側に外れると推定される状態にあることになる。なお、以上の(f1)及び(f3)の条件において、移動速度の絶対値Vと比較する所定値を互いに異なる値に設定してもよい。さらに、以上の(f2)及び(f4)の条件において、値h1-hc及び値hc-h2と比較する所定値を互いに異なる値に設定してもよい。
上述した判定が肯定(図7/STEP33…YES)で、下側切換条件が成立しているときには、それを表すために、下側駆動制御フラグF_DOWNが「1」に設定される(図7/STEP34)。その後、本処理が終了する。
一方、上述した判定が否定(図7/STEP34…NO)で、下側切換条件が不成立であるときには、そのまま本処理が終了する。
一方、前述した判定が否定(図7/STEP30…NO)で、撮像装置112が基準姿勢にないとき、すなわち、撮像装置112が上側姿勢又は下側姿勢にあるときには、基準切換条件が成立しているか否かが判定される(図7/STEP35)。
この基準切換条件は、撮像装置112の姿勢を上側姿勢又は下側姿勢から基準姿勢に切り換えるための上側駆動制御処理の実行条件である。この場合、以下の(f5)~(f6)の条件がいずれも成立しているとき、又は以下の(f7)~(f8)の条件がいずれも成立しているときには、基準切換条件が成立していると判定され、それ以外のときには、基準切換条件が不成立であると判定される。
(f5)V≧Vrefが成立していること。
(f6)hc-h1≦αが成立していること。
(f7)V≧Vrefが成立していること。
(f8)h2-hc≦αが成立していること。
(f6)hc-h1≦αが成立していること。
(f7)V≧Vrefが成立していること。
(f8)h2-hc≦αが成立していること。
なお、以上の(f5)及び(f7)の条件において、移動速度の絶対値Vと比較する所定値を互いに異なる値に設定してもよい。さらに、以上の(f6)及び(f8)の条件において、値hc-h1及び値h2-hcと比較する所定値を互いに異なる値に設定してもよい。
上述した判定が肯定(図7/STEP35…YES)で、基準切換条件が成立しているときには、それを表すために、基準駆動制御フラグF_CENTERが「1」に設定される(図7/STEP36)。その後、本処理が終了する。
一方、上述した判定が否定(図7/STEP35…NO)で、基準切換条件が不成立であるときには、そのまま本処理が終了する。
図6に戻り、切換条件判定処理(図6/STEP13)を以上のように実行した後、駆動条件判定処理が終了する。
一方、前述した判定が肯定(図6/STEP12…YES)で、基準駆動制御処理の実行条件が成立しているとき、すなわち基準駆動制御処理が実行中であるときには、撮像装置112の姿勢が基準姿勢に到達したか否かが判定される(図6/STEP14)。
この判定が肯定(図6/STEP14…YES)で、撮像装置112の姿勢が基準姿勢に到達したときには、基準駆動制御処理を終了すべきであると判定され、それを表すために、基準駆動制御フラグF_CENTERが「0」に設定される(図6/STEP15)。その後、本処理が終了する。一方、上記の判定が否定(図6/STEP14…NO)で、撮像装置112の姿勢が基準姿勢に到達していないときには、そのまま本処理が終了する。
一方、前述した判定が肯定(図6/STEP11…YES)で、下側駆動制御処理の実行条件が成立しているとき、すなわち下側駆動制御処理が実行中であるときには、撮像装置112の姿勢が下側姿勢に到達したか否かが判定される(図6/STEP16)。
この判定が肯定(図6/STEP16…YES)で、撮像装置112の姿勢が下側姿勢に到達したときには、下側駆動制御処理を終了すべきであると判定され、それを表すために、下側駆動制御フラグF_DOWNが「0」に設定される(図6/STEP17)。その後、本処理が終了する。一方、上記の判定が否定(図6/STEP16…NO)で、撮像装置112の姿勢が下側姿勢に到達していないときには、そのまま本処理が終了する。
一方、前述した判定が肯定(図6/STEP10…YES)で、上側駆動制御処理の実行条件が成立しているとき、すなわち上側駆動制御処理が実行中であるときには、撮像装置112の姿勢が上側姿勢に到達したか否かが判定される(図6/STEP18)。
この判定が肯定(図6/STEP18…YES)で、撮像装置112の姿勢が上側姿勢に到達したときには、上側駆動制御処理を終了すべきであると判定され、それを表すために、上側駆動制御フラグF_UPPERが「0」に設定される(図6/STEP19)。その後、本処理が終了する。一方、上記の判定が否定(図6/STEP18…NO)で、撮像装置112の姿勢が上側姿勢に到達していないときには、そのまま本処理が終了する。
次に、図8を参照しながら、画像制御処理について説明する。この画像制御処理は、撮像装置112によって撮像された画像に対して、第1標識線L1及び第2標識線L2の重畳などを実行するものであり、実機制御装置100によって所定周期で実行される。なお、本実施形態では、第1標識線L1が第1標識画像に相当し、第2標識線L2が第2標識画像に相当する。
図8に示すように、まず、撮像装置112によって撮像された画像(以下「撮像画像」という)が読み込まれる(図8/STEP50)。
次いで、標識線重畳処理が実行される(図8/STEP51)。この標識線重畳処理では、上記の撮像画像に対して、第1標識線L1及び第2標識線L2の少なくとも一方が重畳される。この第1標識線L1は、所定高さ範囲Hの上限である第1高さh1を示す線であり、第2標識線L2は、所定高さ範囲Hの下限である第2高さh2を示す線である。
例えば、撮像装置112の姿勢が前述した基準姿勢になっている場合、図2Bに示すように、第1標識線L1及び第2標識線L2がそれぞれ、基準範囲R1内の撮像画像の上側部及び下側部に重畳される。
また、撮像装置112の姿勢が前述した上側姿勢になっている場合、図3Bに示すように、第1標識線L1が、上側範囲R2の基準範囲R1とオーバーラップしている領域に重畳される。
さらに、撮像装置112の姿勢が前述した下側姿勢になっている場合、図4Bに示すように、第2標識線L2が下側範囲R3の上側部の、基準範囲R1とオーバーラップしている領域に重畳される。
また、前述した上側駆動制御処理の実行により、撮像装置112の姿勢が基準姿勢から上側姿勢に変化し、撮像装置112の視野角範囲が基準範囲R1から上側範囲R2に変化する間においては、第1標識線L1が撮像装置112の撮像画像に常に重畳される。
これと同様に、前述した基準駆動制御の実行により、撮像装置112の姿勢が上側姿勢から基準姿勢に変化し、撮像装置112の視野角範囲が上側範囲R2から基準範囲R1に変化する間においても、第1標識線L1が撮像装置112の撮像画像に常に重畳される。
一方、前述した下側駆動制御処理の実行により、撮像装置112の姿勢が基準姿勢から下側姿勢に変化し、撮像装置112の視野角範囲が基準範囲R1から下側範囲R3に変化する間においては、第2標識線L2が撮像装置112の撮像画像に常に重畳される。
これと同様に、前述した基準駆動制御の実行により、撮像装置112の姿勢が下側姿勢から基準姿勢に変化し、撮像装置112の視野角範囲が下側範囲R3から基準範囲R1に変化する間においても、第2標識線L2が撮像装置112の撮像画像に常に重畳される。
以上のように、標識線重畳処理では、撮像装置112の撮像画像に対して、第1標識線L1及び第2標識線L2の少なくとも一方が重畳される。
次いで、上記のように第1標識線L1及び第2標識線L2の少なくとも一方が重畳された撮像画像を含む画像信号が、遠隔操作装置20の遠隔制御装置200に対して送信される(図8/STEP52)。その後、本処理が終了する。
このように、画像信号が遠隔操作装置20の遠隔制御装置200に対して送信された場合、画像信号の撮像画像が遠隔操作装置20の画像出力装置221からオペレータ3に出力される。それにより、オペレータ3は、連結中心C1付近の画像を視認しながら作業機械10を遠隔操作することができる。
以上のように、本実施形態の実機制御装置100によれば、上側切換条件が成立し、連結中心C1が所定高さ範囲Hを上側に外れると推定される場合には、上側駆動制御処理が実行される。それにより、撮像装置112の視野角範囲が基準範囲R1から上側範囲R2に変更される。また、下側切換条件が成立し、連結中心C1が所定高さ範囲Hを下側に外れると推定される場合には、下側駆動制御処理が実行される。それにより、撮像装置112の視野角範囲が基準範囲R1から下側範囲R3に変更される。
このように、連結中心C1が所定高さ範囲Hを外れると推定される状態にある場合、撮像装置112の視野角範囲が基準範囲R1から上側範囲R2又は下側範囲R3に変更されるので、従来と異なり、撮像装置112の視野角範囲を迅速に変更することができ、連結中心C1が撮像されない状態の発生を抑制することができる。さらに、連結中心C1が所定高さ範囲Hを外れない限り、撮像装置112の視野角範囲が変更されないので、撮像装置112によって撮像された画像の頻繁な変動を抑制することができる。
また、上側駆動制御処理及び下側駆動制御処理における撮像装置112の姿勢変更速度が、連結中心C1の移動速度Vが大きいほど、より大きくなるように制御されるので、連結中心C1が撮像されない状態の発生をより確実に抑制することができる。
さらに、基準範囲R1の上側部と上側範囲R2の下側部は互いに重なり合うように構成されているとともに、基準範囲R1の下側部と下側範囲R3の上側部は互いに重なり合うように構成されているので、撮像装置112の視野角範囲の切換前後において、作業機械10を遠隔操作するオペレータ3において死角が発生するのを回避することができる。
一方、撮像装置112が作業機械10のキャビン13内に配置され、上側範囲R2及び下側範囲R3はそれぞれ、連結中心C1が所定高さ範囲Hを上方及び下方にそれぞれ外れた際に、連結中心C1をキャビン13の前方窓13a及び天井窓13bを介して撮像可能な範囲に設定されているので、連結中心C1が所定高さ範囲Hを上方及び下方にそれぞれ外れた場合でも、作業機械10を遠隔操作するオペレータ3は、連結中心C1付近の画像を、作業機械10のキャビン13から眺めた画像として参照することができる。それにより、キャビン13を基準として、撮像装置112の視野角範囲の変更前後における画像の連続性をオペレータ3に認識させることができる。
また、画像制御処理では、撮像装置112の視野角範囲が基準範囲R1と上側範囲R2との間で変更される際、撮像画像において、第1高さh1を示す第1標識線L1が基準範囲R1の上側部と上側範囲R2の下側部の互いに重なり合う部分に表示される。これに加えて、撮像装置112の視野角範囲が基準範囲R1と下側範囲R3との間で変更される際、撮像画像において、第2高さh2を示す第2標識線を基準範囲R1の上側部と上側範囲R2の下側部の互いに重なり合う部分に重畳して表示される。したがって、これらの第1標識線L1及び第2標識線を基準として、撮像装置112の視野角範囲が基準範囲R1と上側範囲R2との間で変更される際、及び、基準範囲R1と下側範囲R3との間で変更される際において、変更中及び変更前後における撮像画像の連続性をオペレータ3に認識させることができる。
また、上側切換条件の成立/不成立の判定及び下側切換条の成立/不成立の判定はいずれも、連結中心C1の高さhcと第1高さh1又は第2高さh2との距離、及び連結中心C1の移動速度Vに基づいて実行されるので、これらの判定を精度よく実施することができる。以上により、オペレータ3が作業機械10を遠隔操作する際の操作性を向上させることができる。
なお、実施形態は、制御装置として、実機制御装置100を用いた例であるが、これに代えて、遠隔操作室2に設けられた遠隔制御装置200を制御装置として用いてもよく、ネットワーク4を介して作業機械10と通信可能に設けられたサーバ(図示せず)を制御装置として用いてもよい。
また、実施形態は、判定部として、作業機械10に設けられた実機制御装置100を用いた例であるが、これに代えて、遠隔操作室2に設けられた遠隔制御装置200を判定部として用いてもよく、ネットワーク4を介して作業機械10と通信可能に設けられたサーバ(図示せず)を判定部として用いてもよい。
さらに、実施形態は、制御部として、作業機械10に設けられた実機制御装置100を用いた例であるが、これに代えて、遠隔操作室2に設けられた遠隔制御装置200を制御部として用いてもよく、ネットワーク4を介して作業機械10と通信可能に設けられたサーバ(図示せず)を制御部として用いてもよい。
一方、実施形態は、連結中心C1を作業機械のアタッチメントの所定部位とした例であるが、これに代えて、バケット143の先端部又は所定部位をアタッチメントの所定部位としてもよく、アーム142の所定部位をアタッチメントの所定部位としてもよい。
また、撮像装置112の視野角範囲を基準範囲R1から上側範囲R2に変更する際の速度が、撮像装置112の視野角範囲を基準範囲R1から下側範囲R3に変更する際の速度よりも速くなるように、実機制御装置100が駆動装置150を制御するように構成してもよく、その逆になるように、実機制御装置100が駆動装置150を制御するように構成してもよい。
さらに、第1所定角度θ1は、撮像装置112の視野角範囲を基準範囲R1から上側範囲R2に切り換えた際に、連結中心C1が上側範囲R2の所定領域に位置するような角度に設定され、第2所定角度θ2は、撮像装置112の視野角範囲を基準範囲R1から下側範囲R3に切り換えた際に、連結中心C1が下側範囲R3の所定領域に位置するような角度に設定されていればよい。
また、実施形態は、第1標識画像として第1高さh1を示す線である第1標識線L1を用い、第2標識画像として第2高さh2を示す線である第2標識線L2を用いた例であるが、第1標識線L1と第2標識線L2がそれぞれ第1高さh1と第2標識線L2に一致することは必須ではない。例えば、第1標識線L1を第1高さh1に対して上下方向にずれた位置に表示してもよく、第2標識線L2を第2高さh2に対して上下方向にずれた位置に表示してもよい。また、第1標識画像と第2標識画像は、第1標識線L1や第2標識線L2に示されるような線に代えて、形状を有する図形(例えば、矩形、円形、三角形など)としてもよい。
本発明の作業機械の制御装置において、制御部は、撮像装置の視野角範囲を上下方向の一方に変更するときの速度を、アタッチメントの所定部位の移動速度に応じて決定することが好ましい。
この作業機械の制御装置によれば、制御部により、撮像装置の視野角範囲を上下方向の一方に変更するときの速度が、アタッチメントの所定部位の移動速度に応じて制御されるので、撮像装置の視野角範囲を、アタッチメントの所定部位の移動速度に応じた速度で変更することができる。それにより、アタッチメントの所定部位が撮像されない状態の発生をより確実に抑制することができ、作業機械を遠隔操作する際の操作性をさらに向上させることができる。
本発明の作業機械の制御装置において、駆動装置は、撮像装置の視野角範囲を、アタッチメントの所定部位が所定高さ範囲内にあるときに所定部位を撮像可能な基準範囲と、中心が基準範囲の中心よりも第1所定角度分、上側の上側範囲と、中心が基準範囲の中心よりも第2所定角度分、下側の下側範囲との間で変更可能に構成され、基準範囲の上側部と上側範囲の下側部は互いに重なり合うように構成されているとともに、基準範囲の下側部と下側範囲の上側部は互いに重なり合うように構成されていることが好ましい。
この作業機械の制御装置によれば、撮像装置の視野角範囲が、アタッチメントの所定部位が所定高さ範囲内にあるときに所定部位を撮像可能な基準範囲と、中心が基準範囲の中心よりも第1所定角度分、上側の上側範囲と、中心が基準範囲の中心よりも第2所定角度分、下側の下側範囲との間で変更可能に構成されている。そして、基準範囲の上側部と上側範囲の下側部は互いに重なり合うように構成されているとともに、基準範囲の下側部と下側範囲の上側部は互いに重なり合うように構成されているので、撮像装置の視野角範囲の切換前後において、作業機械を遠隔操作するオペレータにおいて死角が発生するのを回避することができる。それにより、高い操作性を確保することができる。
本発明の作業機械の制御装置において、撮像装置は、作業機械のキャビン内に配置され、上側範囲及び下側範囲はそれぞれ、アタッチメントの所定部位が所定高さ範囲を上方及び下方に外れた際に、所定部位をキャビンの窓を介して撮像可能な範囲に設定されていることが好ましい。
この作業機械の制御装置によれば、撮像装置が作業機械のキャビン内に配置されている。さらに、上側範囲及び下側範囲はそれぞれ、アタッチメントの所定部位が所定高さ範囲を上方及び下方にそれぞれ外れた際に、所定部位をキャビンの窓を介して撮像可能な範囲に設定されているので、アタッチメントの所定部位が所定高さ範囲を上方及び下方にそれぞれ外れた場合でも、作業機械を遠隔操作するオペレータは、アタッチメントの所定部位の画像を、作業機械のキャビンから眺めた画像として参照することができる。それにより、キャビンを基準として、撮像装置の視野角範囲の変更前後における画像の連続性をオペレータに認識させることができ、作業機械を遠隔操作する際の高い操作性を確保することができる。
本発明の作業機械の制御装置において、制御部は、撮像装置の視野角範囲が基準範囲と上側範囲との間で変更される際、撮像装置によって撮像された画像において、第1標識画像を基準範囲の上側部と上側範囲の下側部の互いに重なり合う部分に重畳して表示するとともに、撮像装置の視野角範囲が基準範囲と下側範囲との間で変更される際、撮像装置によって撮像された画像において、第2標識画像を基準範囲の上側部と上側範囲の下側部の互いに重なり合う部分に重畳して表示する画像制御をさらに実行することが好ましい。
この作業機械の制御装置によれば、制御部により画像制御がさらに実行される。この画像制御では、撮像装置の視野角範囲が基準範囲と上側範囲との間で変更される際、撮像装置によって撮像された画像において、第1標識画像が基準範囲の上側部と上側範囲の下側部の互いに重なり合う部分に表示される。これに加えて、撮像装置の視野角範囲が基準範囲と下側範囲との間で変更される際、撮像装置によって撮像された画像において、第2標識画像が基準範囲の上側部と上側範囲の下側部の互いに重なり合う部分に重畳して表示される。したがって、これらの第1標識画像及び第2標識画像を基準として、撮像装置の視野角範囲が基準範囲と上側範囲との間で変更される際、及び、準範囲と下側範囲との間で変更される際において、変更中及び変更前後における画像の連続性をオペレータに認識させることができ、作業機械を遠隔操作する際の高い操作性を確保することができる。
本発明の作業機械の制御装置において、判定部は、アタッチメントの所定部位の高さが第1高さ及び第2高さの一方の高さとの距離が所定値以下になっているとともに、所定部位が一方の高さに向かって移動する際の移動速度が所定速度以上であるときには、アタッチメントの所定部位が所定高さ範囲を上下方向の一方に外れると推定される状態にあると判定することが好ましい。
この作業機械の制御装置によれば、所定部位の高さと第1高さ又は第2高さとの距離、及び所定部位が第1高さ又は第2高さに向かう際の移動速度に基づいて、アタッチメントの所定部位が所定高さ範囲を外れそうな状態にあるか否かが判定されるので、その判定を精度よく実施することができる。
10 作業機械
13 キャビン
13a 前方窓(キャビンの窓)
13b 天井窓(キャビンの窓)
100 実機制御装置(制御装置、判定部、制御部)
112 撮像装置
150 駆動装置
C1 連結中心(アタッチメントの所定部位)
hc 連結中心の高さ(アタッチメントの所定部位の高さ)
V 連結中心の移動速度(アタッチメントの所定部位の移動速度)
Vref 所定速度
h1 第1高さ
h2 第2高さ
H 所定高さ範囲
α 所定値
R1 基準範囲
R2 上側範囲
R3 下側範囲
θ1 第1所定角度
θ2 第2所定角度
L1 第1標識線(第1標識画像)
L2 第2標識線(第2標識画像)
13 キャビン
13a 前方窓(キャビンの窓)
13b 天井窓(キャビンの窓)
100 実機制御装置(制御装置、判定部、制御部)
112 撮像装置
150 駆動装置
C1 連結中心(アタッチメントの所定部位)
hc 連結中心の高さ(アタッチメントの所定部位の高さ)
V 連結中心の移動速度(アタッチメントの所定部位の移動速度)
Vref 所定速度
h1 第1高さ
h2 第2高さ
H 所定高さ範囲
α 所定値
R1 基準範囲
R2 上側範囲
R3 下側範囲
θ1 第1所定角度
θ2 第2所定角度
L1 第1標識線(第1標識画像)
L2 第2標識線(第2標識画像)
Claims (6)
- 作業機械の遠隔操作を支援するために、当該作業機械に設けられた撮像装置によって当該作業機械の前方における所定の視野角範囲内の画像を撮像し、当該画像を含む信号を遠隔地点に送信する作業機械の制御装置であって、
前記作業機械に設けられ、前記撮像装置の姿勢を変更することにより、前記撮像装置の前記視野角範囲を変更する駆動装置と、
前記作業機械のアタッチメントの所定部位が当該作業機械を基準としたときの第1高さと当該第1高さよりも下方の第2高さとの間の所定高さ範囲を上下方向の一方に外れると推定される状態にあるか否かを判定する判定部と、
当該判定部の判定結果に基づき、前記アタッチメントの前記所定部位が前記所定高さ範囲を上下方向の一方に外れると推定される状態にあるときには、前記撮像装置の前記視野角範囲が当該外れる方向に変更されるように、前記駆動装置を制御する制御部と、
を備えていることを特徴とする作業機械の制御装置。 - 請求項1に記載の作業機械の制御装置において、
前記制御部は、前記撮像装置の前記視野角範囲を上下方向の一方に変更するときの速度を、前記アタッチメントの前記所定部位の移動速度に応じて決定することを特徴とする作業機械の制御装置。 - 請求項1又は2に記載の作業機械の制御装置において、
前記駆動装置は、前記撮像装置の前記視野角範囲を、前記アタッチメントの前記所定部位が前記所定高さ範囲内にあるときに当該所定部位を撮像可能な基準範囲と、中心が当該基準範囲の中心よりも第1所定角度分、上側の上側範囲と、中心が当該基準範囲の中心よりも第2所定角度分、下側の下側範囲との間で変更可能に構成され、
前記基準範囲の上側部と前記上側範囲の下側部は互いに重なり合うように構成されているとともに、前記基準範囲の下側部と前記下側範囲の上側部は互いに重なり合うように構成されていることを特徴とする作業機械の制御装置。 - 請求項3に記載の作業機械の制御装置において、
前記撮像装置は、前記作業機械のキャビン内に配置され、
前記上側範囲及び前記下側範囲はそれぞれ、前記アタッチメントの前記所定部位が前記所定高さ範囲を上方及び下方に外れた際に、当該所定部位を前記キャビンの窓を介して撮像可能な範囲に設定されていることを特徴とする作業機械の制御装置。 - 請求項3に記載の作業機械の制御装置において、
前記制御部は、前記撮像装置の前記視野角範囲が前記基準範囲と前記上側範囲との間で変更される際、前記撮像装置によって撮像された前記画像において、第1標識画像を前記基準範囲の上側部と前記上側範囲の下側部の互いに重なり合う部分に重畳して表示するとともに、前記撮像装置の前記視野角範囲が前記基準範囲と前記下側範囲との間で変更される際、前記撮像装置によって撮像された前記画像において、第2標識画像を前記基準範囲の上側部と前記上側範囲の下側部の互いに重なり合う部分に重畳して表示する画像制御をさらに実行することを特徴とする作業機械の制御装置。 - 請求項1ないし5のいずれかに記載の作業機械の制御装置において、
前記判定部は、前記アタッチメントの前記所定部位の高さが前記第1高さ及び前記第2高さの一方の高さとの距離が所定値以下になっているとともに、前記所定部位が当該一方の高さに向かって移動する際の移動速度が所定速度以上であるときには、前記アタッチメントの前記所定部位が前記所定高さ範囲を上下方向の一方に外れると推定される状態にあると判定することを特徴とする作業機械の制御装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP21877200.2A EP4199497A4 (en) | 2020-10-09 | 2021-07-19 | CONTROL DEVICE FOR WORKING MACHINE |
US18/025,960 US20230370568A1 (en) | 2020-10-09 | 2021-07-19 | Control device for work machine |
CN202180068788.8A CN116438355A (zh) | 2020-10-09 | 2021-07-19 | 作业机械的控制装置 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020-171168 | 2020-10-09 | ||
JP2020171168A JP2022062950A (ja) | 2020-10-09 | 2020-10-09 | 作業機械の制御装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2022074896A1 true WO2022074896A1 (ja) | 2022-04-14 |
Family
ID=81126422
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2021/026953 WO2022074896A1 (ja) | 2020-10-09 | 2021-07-19 | 作業機械の制御装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20230370568A1 (ja) |
EP (1) | EP4199497A4 (ja) |
JP (1) | JP2022062950A (ja) |
CN (1) | CN116438355A (ja) |
WO (1) | WO2022074896A1 (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09218713A (ja) * | 1996-02-09 | 1997-08-19 | Hitachi Constr Mach Co Ltd | 遠隔操縦機械のカメラ方向制御装置 |
JPH09270945A (ja) | 1996-03-29 | 1997-10-14 | Hitachi Constr Mach Co Ltd | 遠隔操縦機械のカメラ視野角制御装置 |
JP2002171438A (ja) * | 2000-11-29 | 2002-06-14 | Fuji Photo Optical Co Ltd | 自動追尾装置 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11560693B2 (en) * | 2017-05-05 | 2023-01-24 | J.C. Bamford Excavators Limited | Working machine |
JP7391502B2 (ja) * | 2018-02-20 | 2023-12-05 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP7500241B2 (ja) * | 2020-03-26 | 2024-06-17 | 住友重機械工業株式会社 | 作業機械の管理システム |
-
2020
- 2020-10-09 JP JP2020171168A patent/JP2022062950A/ja active Pending
-
2021
- 2021-07-19 WO PCT/JP2021/026953 patent/WO2022074896A1/ja unknown
- 2021-07-19 US US18/025,960 patent/US20230370568A1/en active Pending
- 2021-07-19 EP EP21877200.2A patent/EP4199497A4/en active Pending
- 2021-07-19 CN CN202180068788.8A patent/CN116438355A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09218713A (ja) * | 1996-02-09 | 1997-08-19 | Hitachi Constr Mach Co Ltd | 遠隔操縦機械のカメラ方向制御装置 |
JPH09270945A (ja) | 1996-03-29 | 1997-10-14 | Hitachi Constr Mach Co Ltd | 遠隔操縦機械のカメラ視野角制御装置 |
JP2002171438A (ja) * | 2000-11-29 | 2002-06-14 | Fuji Photo Optical Co Ltd | 自動追尾装置 |
Non-Patent Citations (1)
Title |
---|
See also references of EP4199497A4 |
Also Published As
Publication number | Publication date |
---|---|
EP4199497A4 (en) | 2024-01-03 |
JP2022062950A (ja) | 2022-04-21 |
US20230370568A1 (en) | 2023-11-16 |
EP4199497A1 (en) | 2023-06-21 |
CN116438355A (zh) | 2023-07-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2018043301A1 (ja) | 作業機械の画像表示システム | |
JP6217472B2 (ja) | フォークリフト作業支援装置 | |
US20140111648A1 (en) | Device For Monitoring Area Around Working Machine | |
US20160119589A1 (en) | Camera attitude detection device and work region line display device | |
JP7420733B2 (ja) | 表示制御システムおよび表示制御方法 | |
WO2020184065A1 (ja) | 建設機械 | |
WO2019181159A1 (ja) | 建設機械 | |
CN111386369B (zh) | 工程机械 | |
JP2875954B2 (ja) | 建設機械におけるカメラ自動追尾制御装置 | |
WO2022074896A1 (ja) | 作業機械の制御装置 | |
JP6714549B2 (ja) | 建設機械のセンサ搭載位置判定システム及び判定方法 | |
JP2019173407A (ja) | 作業機械 | |
JP2013002101A (ja) | 作業機械の視野補助装置 | |
JP7207127B2 (ja) | 作業機械の周囲監視装置 | |
WO2021240957A1 (ja) | 遠隔操作支援装置、遠隔操作支援システム及び遠隔操作支援方法 | |
JPH09193078A (ja) | 遠隔操縦機械のカメラ方向制御装置 | |
JP7128497B2 (ja) | 作業機械の画像表示システム | |
CN116257056A (zh) | 智能行走避障方法、系统、装置及其挖掘机 | |
JP7494470B2 (ja) | 建設機械の点検システム | |
JP3611394B2 (ja) | 作業機械のカメラ方向制御装置 | |
JP7346061B2 (ja) | ショベル | |
JPH09219811A (ja) | 遠隔操縦機械のカメラ方向制御装置 | |
JP6923144B2 (ja) | 作業機械の画像表示システム | |
WO2024204510A1 (ja) | 作業機械 | |
JP7544651B2 (ja) | 建設機械 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 21877200 Country of ref document: EP Kind code of ref document: A1 |
|
ENP | Entry into the national phase |
Ref document number: 2021877200 Country of ref document: EP Effective date: 20230313 |
|
NENP | Non-entry into the national phase |
Ref country code: DE |