KR20240076496A - Unmanned Parcel Storage Method and System for using Loading Optimization and Situation Assessment Module - Google Patents
Unmanned Parcel Storage Method and System for using Loading Optimization and Situation Assessment Module Download PDFInfo
- Publication number
- KR20240076496A KR20240076496A KR1020220157208A KR20220157208A KR20240076496A KR 20240076496 A KR20240076496 A KR 20240076496A KR 1020220157208 A KR1020220157208 A KR 1020220157208A KR 20220157208 A KR20220157208 A KR 20220157208A KR 20240076496 A KR20240076496 A KR 20240076496A
- Authority
- KR
- South Korea
- Prior art keywords
- parcel
- loading
- delivery box
- unmanned
- idle state
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/08—Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
-
- A—HUMAN NECESSITIES
- A47—FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
- A47G—HOUSEHOLD OR TABLE EQUIPMENT
- A47G29/00—Supports, holders, or containers for household use, not provided for in groups A47G1/00-A47G27/00 or A47G33/00
- A47G29/14—Deposit receptacles for food, e.g. breakfast, milk, or large parcels; Similar receptacles for food or large parcels with appliances for preventing unauthorised removal of the deposited articles, i.e. food or large parcels
- A47G29/30—Accessories, e.g. signalling devices, lamps, means for leaving messages
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
- G06Q10/047—Optimisation of routes or paths, e.g. travelling salesman problem
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Resources & Organizations (AREA)
- Economics (AREA)
- Tourism & Hospitality (AREA)
- Strategic Management (AREA)
- Multimedia (AREA)
- Marketing (AREA)
- General Business, Economics & Management (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Entrepreneurship & Innovation (AREA)
- Quality & Reliability (AREA)
- Operations Research (AREA)
- Development Economics (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Food Science & Technology (AREA)
- Game Theory and Decision Science (AREA)
- Signal Processing (AREA)
- Primary Health Care (AREA)
- Social Psychology (AREA)
- Human Computer Interaction (AREA)
- Psychiatry (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
적재 최적화 및 상황 판단 모듈을 사용한 무인 택배 보관 방법 및 시스템이 제시된다. 본 발명에서 제안하는 적재 최적화 및 상황 판단 모듈을 사용한 무인 택배 보관 시스템은 무인 택배함에 새로운 택배가 입고되면, 택배함 영상 장치로부터 수집되는 택배함 주위 영상에 기초하여 사용자가 택배함을 이용하지 않는 유휴 상태를 판단하는 상황 판단 모듈 및 유휴 상태일 경우 적재 공간, 택배의 무게, 택배 이동 경로에 따라 택배 적재 정보를 업데이트 하여 적재 이동을 지시하고 적재 이동을 수행한 후 대기상태로 변경하는 적재 최적화 모듈을 포함한다.An unmanned parcel storage method and system using a loading optimization and situation determination module is presented. The unmanned parcel storage system using the loading optimization and situation judgment module proposed in the present invention is based on the image around the parcel box collected from the delivery box imaging device when a new parcel is received in the unmanned delivery box, and the user does not use the delivery box. A situation determination module that determines the status and, when in an idle state, a loading optimization module that updates the package loading information according to the loading space, weight of the package, and the package movement path, instructs loading movement, and changes to standby state after performing the loading movement. Includes.
Description
본 발명은 적재 최적화 및 상황 판단 모듈을 사용한 무인 택배 보관 방법 및 시스템에 관한 것이다.The present invention relates to an unmanned parcel storage method and system using a loading optimization and situation determination module.
종래기술[1]에 따른 가변구조 무인택배 장치를 이용해 동적으로 우편을 저장할 수 있는 무인택배 장치(공개특허 제10-2013-0114495호)는 동적으로 저장 공간을 할당하는 무인 택배함으로 택배 보관 공간을 동적으로 할당하기 때문에 최대한으로 공간 효율적으로 사용할 수 있다는 장점이 있다. The unmanned delivery device (Public Patent No. 10-2013-0114495), which can dynamically store mail using a variable-structure unmanned delivery device according to the prior art [1], is an unmanned delivery box that dynamically allocates storage space, saving parcel storage space. Because it is allocated dynamically, it has the advantage of being able to use space as efficiently as possible.
종래기술[2]에 따른 스마트 택배보관함의 시간에 따른 오차의 누적을 방지하기 위해 카메라나 스캐닝 설비를 통해 체크하고, 빅데이터를 통해 유휴 시점을 획득해서 택배 정리를 수행하는 정리 방법 및 장치(공개특허 제10-2021-0090186호)와 같은 기술들은 가변하는 적재공간을 이용해 유휴 시간에 정리를 함으로써 보관에 관련된 결함을 최소화할 수 있어 효율적으로 택배를 보관할 수 있다. 예를 들어 택배의 수, 크기에 있어 장기간 구동으로 생기는 오차를 개선할 수 있다. 하지만, 상황에 따라 유연하게 정리하거나, 정리되어 빠르게 택배를 받을 수 없다. In order to prevent the accumulation of errors over time in smart parcel storage boxes according to the prior art [2], an organizing method and device (disclosed to the public) checks through cameras or scanning equipment, obtains idle points through big data, and performs parcel organizing. Technologies such as (Patent No. 10-2021-0090186) can minimize storage-related defects by using variable loading space to organize during idle time, allowing for efficient storage of parcels. For example, errors in the number and size of parcels that occur due to long-term operation can be improved. However, depending on the situation, it is not possible to organize flexibly or receive delivery quickly.
출입자의 영상, 음성 정보를 통해 신원을 파악해서 택배를 수령할 수 있게 관리할 수 있는 무인택배 관리시스템(공개특허 제10-2022-0055250호), 도어벨, 촬영장치, 모니터링 장치를 통해 도어 외부의 상황을 파악해 집 안에서 문 밖의 택배 도착 여부를 확인할 수 있는 보안시스템(등록특허 제10-2108185호)과 같은 기술들은 영상을 통해 이용자의 정보를 파악할 수 있는 시스템이나 무인 택배함이 아닌 택배를 수령 받는 장소에 이용되는 시스템으로 택배함에 대한 적용이 필요하다. An unmanned delivery management system (Public Patent No. 10-2022-0055250) that can manage the delivery by identifying the identity of the person entering through video and audio information, and outside the door through a doorbell, filming device, and monitoring device. Technologies such as a security system (Patent No. 10-2108185) that can determine the situation of the home and check whether a package has arrived outside the door are systems that can determine the user's information through video or receive the package rather than an unmanned delivery box. This system is used at receiving locations and needs to be applied to delivery boxes.
택배가 수령자에게 도착했을 때 부재 중인 경우 택배를 대리로 수령할 수 있는 장소는 아파트의 관리실과 같은 시설이 없는 곳은 부재 시 택배 수령을 위해 주변 편의점이나 가게 등을 이용하고 있다. 대리로 택배를 보관하는 시설의 경우 비효율적인 공간 낭비와 보관 중에 파손되거나 도난될 수 있는 위험에서 안전하지 못하다. 대리수령에도 안전하게 택배들을 관리할 수 있는 무인 택배함 시스템이 필요하다. 기존의 무인 택배함들은 정해진 공간의 로커형태로 되어있어서 많은 용량을 저장할 수 없고 공간의 낭비가 생길 수 있다. 도심지의 경우 빌라나 주택가에는 특히 무인 택배함을 설치할 공간이 부족할 수 있다. 따라서 공간효율적인 최적 정리가 가능한 무인 택배함이 필요하다. If the recipient is absent when the package arrives, a place where the recipient can receive the package on his/her behalf is an apartment management office. If there are no facilities such as an apartment management office, nearby convenience stores or shops are used to receive the package in the absence of the recipient. In the case of facilities that store parcels on behalf of others, they are not safe due to the inefficient waste of space and the risk of damage or theft during storage. An unmanned delivery box system that can safely manage parcels is also needed for proxy pickup. Existing unmanned delivery boxes are in the form of lockers with a fixed space, so they cannot store a lot of capacity and may result in waste of space. In urban areas, there may be a lack of space to install unmanned delivery boxes, especially in villas or residential areas. Therefore, there is a need for unmanned delivery boxes that can be space-efficient and optimally organized.
본 발명이 이루고자 하는 기술적 과제는 최적 적재 모듈을 통해 택배함 내부 배치를 공간효율에 맞게 정리하고, 상황 판단 모듈을 통해 사용자가 택배함을 이용하지 않는 유휴 시간을 판단하여 효율적으로 정리와 서비스 제공이 가능한 무인 택배 보관 방법 및 시스템을 제공하는데 있다. The technical task to be achieved by the present invention is to organize the internal arrangement of the delivery box to suit space efficiency through an optimal loading module, and to efficiently organize and provide service by determining idle time when the user does not use the delivery box through the situation judgment module. The goal is to provide a possible unmanned delivery storage method and system.
일 측면에 있어서, 본 발명에서 제안하는 적재 최적화 및 상황 판단 모듈을 사용한 무인 택배 보관 시스템은 무인 택배함에 새로운 택배가 입고되면, 택배함 영상 장치로부터 수집되는 택배함 주위 영상에 기초하여 사용자가 택배함을 이용하지 않는 유휴 상태를 판단하는 상황 판단 모듈 및 유휴 상태일 경우 적재 공간, 택배의 무게, 택배 이동 경로에 따라 택배 적재 정보를 업데이트 하여 적재 이동을 지시하고 적재 이동을 수행한 후 대기상태로 변경하는 적재 최적화 모듈을 포함한다. In one aspect, the unmanned parcel storage system using the loading optimization and situation determination module proposed in the present invention allows the user to deliver the parcel based on the image around the parcel box collected from the delivery box imaging device when a new parcel is received in the unmanned delivery box. The situation determination module determines the idle state when not in use, and when in the idle state, the parcel loading information is updated according to the loading space, the weight of the parcel, and the parcel movement path, and the loading movement is instructed and the loading movement is performed and then changed to a standby state. Includes a loading optimization module.
상기 상황 판단 모듈은 수집된 택배함 주위 영상에서 객체 검출을 통해 객체의 존재 여부와 영상 상의 위치를 파악하고, 검출된 객체마다의 행동을 인식하는 행동 인식 모듈 및 상기 행동 인식 모듈을 통해 얻은 객체의 행동 인식 정보에 기초하여 유휴 상태를 결정하는 유휴 상태 결정 모듈을 포함한다. The situation determination module determines the existence of an object and its location on the image by detecting objects in the collected images around the delivery box, and the action recognition module recognizes the behavior of each detected object and the behavior of the object obtained through the action recognition module. It includes an idle state determination module that determines the idle state based on behavior recognition information.
상기 행동 인식 모듈은 딥러닝 기반으로 설계되며 내부 레이어는 FCN(Fully Connected Network), CNN(Convolutional Neural Network), RNN(Recurrent Neural Network), 주의 모듈(Attention Module)을 포함하고, 검출된 객체의 행동을 인식하여 객체의 행동 인식 정보 및 영상 데이터를 라벨링하여 데이터 의존성을 해결하기 위한 전이 학습의 학습 데이터로 사용한다. The action recognition module is designed based on deep learning, and the internal layer includes Fully Connected Network (FCN), Convolutional Neural Network (CNN), Recurrent Neural Network (RNN), and Attention Module, and the behavior of the detected object. By recognizing and labeling the object's behavior recognition information and image data, it is used as learning data for transfer learning to resolve data dependency.
상기 유휴 상태 결정 모듈은 사용자가 택배함을 이용하고 있는 것으로 판단되는 경우 유휴 상태를 False로 결정하고 대기 상태로 전환하고, 사용자가 택배함을 이용하고 있지 않는 것으로 판단되는 경우 유휴 상태를 True로 결정하고 서비스를 제공하도록 한다. If the idle state determination module determines that the user is using the delivery box, it determines the idle state as False and switches to the standby state, and if it determines that the user is not using the delivery box, it determines the idle state as True. and provide services.
상기 적재 최적화 모듈은 상기 상황 판단 모듈을 통한 판단 결과가 유휴 상태일 경우 미리 저장된 택배 적재 정보에 기초하여 내부 택배 배치를 최적화하는 최적화 알고리즘 수행부 및 최적화 알고리즘에 따라 택배 배치가 최적화된 후 이동할 택배들에 대하여 택배 이동 경로를 지정하고 자동 운반 장치에 지시하여 택배를 이동시킴으로써 적재 최적화를 수행하는 택배 이동 경로 지정부를 포함한다. The loading optimization module includes an optimization algorithm performing unit that optimizes internal parcel placement based on pre-stored parcel loading information when the determination result through the situation determination module is in an idle state, and parcels to be moved after parcel placement is optimized according to the optimization algorithm. It includes a parcel movement path designation unit that performs load optimization by specifying the parcel movement path and instructing the automatic transport device to move the parcel.
상기 최적화 알고리즘 수행부는 현재 무인 택배함 내부의 택배 배치에 대한 맵 정보를 입력 받고, 상기 맵 정보는 실제 택배 배치 정보를 디지털화하고, 맵 구조는 실제 택배함의 형태에 따라 1D, 2D 또는 3D로 설계되며, 상기 배치 정보에서 두 택배 사이의 빈 공간을 제거하기 위해 빈 패킹(Bin Packing) 알고리즘을 사용한다. The optimization algorithm execution unit receives map information about the delivery arrangement inside the current unmanned delivery box, the map information digitizes the actual delivery arrangement information, and the map structure is designed in 1D, 2D, or 3D depending on the shape of the actual delivery box. , Bin Packing algorithm is used to remove empty space between two parcels from the batch information.
상기 택배 이동 경로 지정부는 택배 이동에 사용되는 자동 운반 장치에 소요되는 전력 소비 최소화를 위해 각 택배의 이동 동선 최소화와 택배 무게에 따른 위치 선정 및 택배 이동 동선을 가중치로 활용하여 택배 이동 경로를 지정하고, 각 택배의 위치 변화에 따른 이동 지시를 내릴 수 있는 맵 정보를 출력한다. The parcel movement path designation unit specifies the parcel movement path by minimizing the movement line of each parcel, selecting a location according to the weight of the parcel, and using the parcel movement line as a weight to minimize the power consumption required for the automatic transport device used to move the parcel. , Outputs map information that can give movement instructions according to changes in the location of each parcel.
또 다른 일 측면에 있어서, 본 발명에서 제안하는 적재 최적화 및 상황 판단 모듈을 사용한 무인 택배 보관 방법은 무인 택배함에 새로운 택배가 입고되면, 택배함 영상 장치로부터 수집되는 택배함 주위 영상에 기초하여 상황 판단 모듈을 통해 사용자가 택배함을 이용하지 않는 유휴 상태를 판단하는 단계 및 유휴 상태일 경우 적재 최적화 모듈을 통해 적재 공간, 택배의 무게, 택배 이동 경로에 따라 택배 적재 정보를 업데이트 하여 적재 이동을 지시하고 적재 이동을 수행한 후 대기상태로 변경하는 단계를 포함한다.In another aspect, the unmanned parcel storage method using the loading optimization and situation determination module proposed in the present invention determines the situation based on the images around the parcel box collected from the delivery box imaging device when a new parcel is received in the unmanned delivery box. Through the module, the user determines the idle state in which the delivery box is not used. If the delivery box is in an idle state, the loading optimization module updates the parcel loading information according to the loading space, the weight of the parcel, and the delivery route to instruct the loading movement. It includes the step of changing to a standby state after performing a loading movement.
본 발명의 실시예들에 따르면 영상 기반 행동인식을 활용한 무인 택배 보관 시스템을 통해 고객이 서비스 이용에 방해하지 않으면서 택배 적재를 최적화할 수 있다. 또한, 고객의 서비스 이용에 방해되지 않게 택배함 영상 장치로부터 수신 받은 택배함 주위 영상에서 객체의 행동을 인식하여 유휴 시간을 판단하고, 이를 통해, 고객이 불편함 없이 무인 택배함 서비스를 이용할 수 있다. 또한, 유휴 시간 동안 적재공간, 무게, 택배 이동 경로를 고려해 내부 적재 정보를 최적화함으로써 에너지 효율적이면서 동시에 공간 효율적인 무인 택배 서비스를 제공할 수 있다. According to embodiments of the present invention, parcel loading can be optimized without interfering with customer service use through an unmanned parcel storage system using image-based behavior recognition. In addition, in order to avoid interfering with the customer's use of the service, the idle time is determined by recognizing the behavior of objects in the video surrounding the delivery box received from the delivery box video device, and through this, the customer can use the unmanned delivery box service without any inconvenience. . In addition, it is possible to provide an energy-efficient and space-efficient unmanned delivery service by optimizing internal loading information by considering loading space, weight, and delivery path during idle time.
도 1은 본 발명의 일 실시예에 따른 적재 최적화 및 상황 판단 모듈을 사용한 무인 택배 보관 시스템의 구성을 나타내는 도면이다.
도 2는 본 발명의 일 실시예에 따른 상황 판단 모듈의 구성을 나타내는 도면이다.
도 3은 본 발명의 일 실시예에 따른 상황 판단 모듈의 전이학습을 설명하기 위한 도면이다.
도 4는 본 발명의 일 실시예에 따른 적재 최적화 모듈의 구성을 나타내는 도면이다.
도 5는 본 발명의 일 실시예에 따른 적재 최적화 모듈의 빈 패킹(Bin Packing) 알고리즘을 설명하기 위한 도면이다.
도 6은 본 발명의 일 실시예에 따른 적재 최적화 및 상황 판단 모듈을 사용한 무인 택배 보관 방법을 설명하기 위한 흐름도이다. Figure 1 is a diagram showing the configuration of an unmanned parcel storage system using a loading optimization and situation determination module according to an embodiment of the present invention.
Figure 2 is a diagram showing the configuration of a situation determination module according to an embodiment of the present invention.
Figure 3 is a diagram for explaining transfer learning of a situation determination module according to an embodiment of the present invention.
Figure 4 is a diagram showing the configuration of a loading optimization module according to an embodiment of the present invention.
Figure 5 is a diagram for explaining the bin packing algorithm of the loading optimization module according to an embodiment of the present invention.
Figure 6 is a flowchart illustrating an unmanned parcel storage method using a loading optimization and situation determination module according to an embodiment of the present invention.
이하, 본 발명의 실시 예를 첨부된 도면을 참조하여 상세하게 설명한다.Hereinafter, embodiments of the present invention will be described in detail with reference to the attached drawings.
도 1은 본 발명의 일 실시예에 따른 적재 최적화 및 상황 판단 모듈을 사용한 무인 택배 보관 시스템의 구성을 나타내는 도면이다. Figure 1 is a diagram showing the configuration of an unmanned parcel storage system using a loading optimization and situation determination module according to an embodiment of the present invention.
본 발명은 고객의 서비스 이용에 방해되지 않고 공간과 에너지를 고려한 적재 최적화가 가능한 영상 기반 행동 인식을 활용한 무인 택배 보관 시스템을 제안한다. 제안하는 시스템은 고객의 서비스 이용에 방해되지 않도록 택배함 영상 장치로부터 수신 받은 택배함 주위 영상에서 사용자의 행동을 인식하여 유휴시간을 판단하는 상황 판단 모듈(110)과 빈 패킹(Bin Packing)에 적재 공간과 이동 동선, 무게를 고려해 작동 에너지 효율을 최소화하는 적재 최적화를 수행하는 적재 최적화 모듈(120)을 포함한다. The present invention proposes an unmanned parcel storage system using image-based behavior recognition that can optimize loading considering space and energy without interfering with customer service use. The proposed system is loaded into the situation determination module 110 and bin packing, which determines idle time by recognizing the user's behavior in the video surrounding the delivery box received from the delivery box video device so as not to interfere with the customer's use of the service. It includes a loading optimization module 120 that performs loading optimization to minimize operating energy efficiency in consideration of space, movement line, and weight.
제안하는 적재 최적화 및 상황 판단 모듈을 사용한 무인 택배 보관 시스템은 무인 택배함에 새로운 택배가 입고된 후(111), 택배함 영상 장치(112)에서 수집된 영상 정보를 기반으로 상황 판단 모듈(110)이 유휴 상태를 판단한다. 그리고 유휴 상태일 경우 적재 최적화 모듈(120)을 통해 적재 공간, 택배의 무게, 택배 이동 경로를 포함하는 현재 보관함 내 적재 정보와 연계하여 택배를 보관할 위치를 지정하고, 택배 적재 이동 정보를 지시하여 자동 운반 장치(121)를 통한 적재 이동을 수행한다. 이동이 완료되면 적재 정보를 업데이트(122)함으로써 정리된 내용을 반영하고, 대기상태(123)로 변경된다. 만약, 적재 최적화 중간에 고객이 접근하여 상황 판단 모듈에서 유휴 상태가 False임을 출력하면서 당시 시점에서 진행 중인 최적화 적재 이동만 수행하고 다시 대기 상태(123)로 돌아가서 사용자 편의에 대한 불편함을 최소화한다. The unmanned parcel storage system using the proposed loading optimization and situation determination module is a situation determination module (110) based on the image information collected from the delivery box imaging device (112) after a new parcel is received in the unmanned delivery box (111). Determine the idle state. In addition, when in an idle state, the loading optimization module 120 specifies a location to store the parcel in conjunction with the current loading information in the storage box, including the loading space, weight of the parcel, and parcel movement path, and automatically instructs the parcel loading movement information. Load movement is performed through the transport device 121. When the movement is completed, the loading information is updated (122) to reflect the organized contents and changes to the standby state (123). If a customer approaches in the middle of loading optimization and the situation determination module outputs that the idle state is False, only the optimization loading movement that is in progress at that time is performed and the system returns to the standby state (123) to minimize user inconvenience.
제안하는 적재 최적화 및 상황 판단 모듈을 사용한 무인 택배 보관 시스템은 상황 판단 모듈(110) 및 적재 최적화 모듈(120)을 포함한다. The unmanned parcel storage system using the proposed loading optimization and situation determination module includes a situation determination module 110 and a loading optimization module 120.
상황 판단 모듈(110)은 무인 택배함에 새로운 택배가 입고되면, 택배함 영상 장치로부터 수집되는 택배함 주위 영상에 기초하여 사용자가 택배함을 이용하지 않는 유휴 상태를 판단한다. When a new parcel is delivered to the unmanned delivery box, the situation determination module 110 determines an idle state in which the user is not using the delivery box based on the image around the delivery box collected from the delivery box imaging device.
상황 판단 모듈(110)은 행동 인식 모듈 및 유휴 상태 결정 모듈을 포함한다. The situation determination module 110 includes an action recognition module and an idle state determination module.
행동 인식 모듈은 수집된 택배함 주위 영상에서 객체 검출을 통해 객체의 존재 여부와 영상 상의 위치를 파악하고, 검출된 객체마다의 행동을 인식한다. The behavior recognition module detects objects in the collected images around the delivery box, determines the existence of the object and its location in the image, and recognizes the behavior of each detected object.
상기 행동 인식 모듈은 딥러닝 기반으로 설계되며 내부 레이어는 FCN(Fully Connected Network), CNN(Convolutional Neural Network), RNN(Recurrent Neural Network), 주의 모듈(Attention Module)을 포함한다. 검출된 객체의 행동을 인식하여 객체의 행동 인식 정보 및 영상 데이터를 라벨링하여 데이터 의존성을 해결하기 위한 전이 학습의 학습 데이터로 사용한다. The action recognition module is designed based on deep learning, and the internal layers include Fully Connected Network (FCN), Convolutional Neural Network (CNN), Recurrent Neural Network (RNN), and Attention Module. The behavior of the detected object is recognized and the object's behavior recognition information and image data are labeled and used as learning data for transfer learning to resolve data dependency.
유휴 상태 결정 모듈은 상기 행동 인식 모듈을 통해 얻은 객체의 행동 인식 정보에 기초하여 유휴 상태를 결정한다. The idle state determination module determines the idle state based on the object's behavior recognition information obtained through the behavior recognition module.
유휴 상태 결정 모듈은 사용자가 택배함을 이용하고 있는 것으로 판단되는 경우 유휴 상태를 False로 결정하고 대기 상태로 전환한다. If the idle state determination module determines that the user is using the delivery box, it determines the idle state as False and switches to the standby state.
유휴 상태 결정 모듈은 사용자가 택배함을 이용하고 있지 않는 것으로 판단되는 경우 유휴 상태를 True로 결정하고 서비스를 제공하도록 한다. If the idle state determination module determines that the user is not using the delivery box, it determines the idle state as True and provides the service.
적재 최적화 모듈(120)은 유휴 상태일 경우 적재 공간, 택배의 무게, 택배 이동 경로에 따라 택배 적재 정보를 업데이트 하여 적재 이동을 지시하고 적재 이동을 수행한 후 대기상태로 변경한다. When in an idle state, the loading optimization module 120 updates the package loading information according to the loading space, the weight of the package, and the package movement path, instructs loading movement, performs the loading movement, and changes to a standby state.
적재 최적화 모듈(120)은 최적화 알고리즘 수행부 및 택배 이동 경로 지정부를 포함한다. The loading optimization module 120 includes an optimization algorithm execution unit and a parcel movement path designation unit.
최적화 알고리즘 수행부는 상기 상황 판단 모듈을 통한 판단 결과가 유휴 상태일 경우 미리 저장된 택배 적재 정보에 기초하여 내부 택배 배치를 최적화한다. The optimization algorithm execution unit optimizes the internal parcel arrangement based on pre-stored parcel loading information when the determination result through the situation determination module is in an idle state.
최적화 알고리즘 수행부는 현재 무인 택배함 내부의 택배 배치에 대한 맵 정보를 입력 받고, 상기 맵 정보는 실제 택배 배치 정보를 디지털화한다. 맵 구조는 실제 택배함의 형태에 따라 1D, 2D 또는 3D로 설계되며, 상기 배치 정보에서 두 택배 사이의 빈 공간을 제거하기 위해 빈 패킹(Bin Packing) 알고리즘을 사용한다. The optimization algorithm execution unit receives map information about the parcel placement inside the current unmanned delivery box, and the map information digitizes the actual parcel placement information. The map structure is designed in 1D, 2D, or 3D depending on the shape of the actual delivery box, and a bin packing algorithm is used to remove the empty space between two parcels from the placement information.
택배 이동 경로 지정부는 최적화 알고리즘에 따라 택배 배치가 최적화된 후 이동할 택배들에 대하여 택배 이동 경로를 지정하고 자동 운반 장치에 지시하여 택배를 이동시킴으로써 적재 최적화를 수행한다. The parcel movement path designator specifies the parcel movement path for the parcels to be moved after the parcel arrangement is optimized according to an optimization algorithm, and instructs the automatic transport device to move the parcels, thereby optimizing loading.
택배 이동 경로 지정부는 택배 이동에 사용되는 자동 운반 장치에 소요되는 전력 소비 최소화를 위해 각 택배의 이동 동선 최소화와 택배 무게에 따른 위치 선정 및 택배 이동 동선을 가중치로 활용하여 택배 이동 경로를 지정하고, 각 택배의 위치 변화에 따른 이동 지시를 내릴 수 있는 맵 정보를 출력한다. The parcel movement route designation unit specifies the parcel movement path by minimizing the movement path of each parcel, selecting a location based on the weight of the parcel, and using the parcel movement route as a weight to minimize the power consumption required by the automatic transport device used to move the parcel. It outputs map information that can give movement instructions according to changes in the location of each parcel.
도 2는 본 발명의 일 실시예에 따른 상황 판단 모듈의 구성을 나타내는 도면이다. Figure 2 is a diagram showing the configuration of a situation determination module according to an embodiment of the present invention.
본 발명의 실시예에 따른 상황 판단 모듈(210)은 무인 택배함에 새로운 택배가 입고되면, 택배함 영상 장치로부터 수집되는 택배함 주위 영상에 기초하여 사용자가 택배함을 이용하지 않는 유휴 상태를 판단한다. When a new parcel is received in an unmanned delivery box, the situation determination module 210 according to an embodiment of the present invention determines an idle state in which the user does not use the delivery box based on the image around the delivery box collected from the delivery box imaging device. .
상황 판단 모듈(210)은 사용자가 택배 보관함을 이용할 것인지, 이용하지 않을 것인지 카메라와 같은 영상 장치들을 이용해 택배함 주위 영상을 입력 받아 사용자가 그냥 지나가는지, 서있는지, 접근하는지와 같은 상황을 판단한다. 판단을 위해 영상 객체 검출 모델을 이용해 객체를 검출하고, 행동 인식 모듈을 통해 객체의 행동을 판단한다. 판단한 결과를 기반으로 사용자의 이용 유무에 대한 상황을 판단하는 것이다. The situation determination module 210 determines whether the user will or will not use the delivery locker, receives images around the delivery box using imaging devices such as a camera, and determines situations such as whether the user is just passing by, standing, or approaching. . For judgment, the object is detected using a video object detection model, and the object's behavior is judged through a behavior recognition module. Based on the judgment results, the status of the user's use is judged.
상황 판단 모듈(210)은 행동 인식 모듈(211) 및 유휴 상태 결정 모듈(212)을 포함한다. The situation determination module 210 includes an action recognition module 211 and an idle state determination module 212.
여기서, 상황 판단 모듈에 입력 데이터인 영상을 촬영하는 택배함 영상 장치는 무인 택배함의 주위(예를 들어, 전방)를 확인할 수 있도록 배치되어있으며, 야간에는 밝기를 확보하기 위해 조명 등을 활용할 수 있다. Here, the delivery box imaging device that captures the image that is input data to the situation determination module is arranged to check the surroundings (e.g., in front) of the unmanned delivery box, and lighting can be used to ensure brightness at night. .
행동 인식 모듈(211)은 수집된 택배함 주위 영상에서 객체 검출을 통해 객체의 존재 여부와 영상 상의 위치를 파악하고, 검출된 객체마다의 행동을 인식한다. The behavior recognition module 211 determines the existence of an object and its location on the image through object detection in the collected images around the delivery box, and recognizes the behavior of each detected object.
행동 인식 모듈(211)은 수신된 택배함 주위 영상에서 객체 검출을 통해 사용자의 존재 여부와 영상 상의 위치를 파악하고, 검출된 사용자마다의 행동을 인식한다. 여기서 객체(다시 말해, 사용자) 검출과 행동 인식에는 딥러닝 기반으로 설계되며 내부 레이어는 FCN(Fully Connected Network), CNN(Convolutional Neural Network), RNN(Recurrent Neural Network), 주위 모듈(Attention Module) 등을 활용한다. The behavior recognition module 211 detects the presence of a user and its location in the image through object detection in the image surrounding the received delivery box, and recognizes the behavior of each detected user. Here, object (i.e. user) detection and action recognition are designed based on deep learning, and the internal layers include FCN (Fully Connected Network), CNN (Convolutional Neural Network), RNN (Recurrent Neural Network), Attention Module, etc. Use .
상황 판단 모듈(210)의 행동 인식 모듈(211)은 딥러닝 기반의 기술을 사용하기 때문에 데이터에 의존적인 특성이 있다. 이 특성 때문에 새로운 환경에서는 행동 인식의 성능이 떨어질 수 있다. 이러한 요인은 배경 및 조명의 변화로 발생할 수 있다. 따라서, 설치된 위치에서 성능을 개선할 수 있는 방안이 필수적으로 요구된다. 행동 인식 모듈(211)의 전이 학습 과정에 대한 예시는 도 3을 참조하여 설명한다. The action recognition module 211 of the situation judgment module 210 has data-dependent characteristics because it uses deep learning-based technology. Because of this characteristic, the performance of action recognition may deteriorate in new environments. These factors can be caused by changes in background and lighting. Therefore, a method to improve performance at the installed location is essential. An example of the transfer learning process of the action recognition module 211 will be described with reference to FIG. 3.
유휴 상태 결정 모듈(212)은 상기 행동 인식 모듈(211)을 통해 얻은 객체의 행동 인식 정보에 기초하여 유휴 상태를 결정한다. The idle state determination module 212 determines the idle state based on the object's behavior recognition information obtained through the behavior recognition module 211.
유휴 상태 결정 모듈(212)은 사용자가 택배함을 이용하고 있는 것으로 판단되는 경우 유휴 상태를 False로 결정하고 대기 상태로 전환한다. If it is determined that the user is using the delivery box, the idle state determination module 212 determines the idle state as False and switches to the standby state.
유휴 상태 결정 모듈(212)은 사용자가 택배함을 이용하고 있지 않는 것으로 판단되는 경우 유휴 상태를 True로 결정하고 서비스를 제공하도록 한다.If it is determined that the user is not using the delivery box, the idle state determination module 212 determines the idle state as True and provides the service.
유휴 상태 결정 모듈(212)은 상황 판단 모듈(210)을 통해 얻은 사람의 행동 인식 정보를 바탕으로 유휴 상태를 결정한다. 여기서 행동 인식 정보는 행동 인식 모듈(211)을 거쳐 출력된 '접근하고 있음', '서있음', '걸어가고 있음' 등의 텍스트 정보를 포함한다. 이 정보들을 토대로 '접근하고 있음'과 같이 서비스를 이용하러 오는 내용으로 판단되는 정보는 유휴 상태를 False로 결정하고, '서있음', '걸어가고 있음' 과 같은 서비스를 이용하지 않는 내용으로 판단되는 정보는 유휴 상태를 True로 결정한다. 이를 통해 택배함의 유휴 시간을 상황에 따라 유연하게 판단하여 사용자가 택배함 이용을 위해 접근하면 바로 서비스를 제공하게 할 수 있다. The idle state determination module 212 determines the idle state based on human behavior recognition information obtained through the situation determination module 210. Here, the action recognition information includes text information such as 'approaching', 'standing', and 'walking' output through the action recognition module 211. Based on this information, information that is judged to be content that comes to use the service, such as 'approaching', determines the idle state to be False, and content that is judged to be content that does not use the service, such as 'standing' or 'walking', is determined to be false. The information determines the idle state as True. Through this, the idle time of the delivery box can be flexibly determined depending on the situation, allowing the service to be provided as soon as the user approaches to use the delivery box.
도 3은 본 발명의 일 실시예에 따른 상황 판단 모듈의 전이학습을 설명하기 위한 도면이다. Figure 3 is a diagram for explaining transfer learning of a situation determination module according to an embodiment of the present invention.
본 발명의 일 실시예에 따른 상황 판단 모듈의 행동 인식 모듈(300)은 딥러닝 기반의 기술을 사용하기 때문에 데이터에 의존적인 특성이 있다. 이 특성 때문에 새로운 환경에서는 행동 인식의 성능이 떨어질 수 있다. 이러한 요인은 배경 및 조명의 변화로 발생할 수 있다. 따라서, 설치된 위치에서 성능을 개선할 수 있는 방안이 필수적으로 요구된다. 이를 해결하기 위해 데이터 의존성을 해결하고 다양한 상황에 대응이 가능한 전이 학습을 통해 설치 환경에 적합한 모델로 업데이트한다. The action recognition module 300 of the situation determination module according to an embodiment of the present invention has data-dependent characteristics because it uses deep learning-based technology. Because of this characteristic, the performance of action recognition may deteriorate in new environments. These factors can be caused by changes in background and lighting. Therefore, a method to improve performance at the installed location is essential. To solve this, data dependencies are resolved and a model suitable for the installation environment is updated through transfer learning that can respond to various situations.
행동 인식 모듈(300)은 새로운 지역의 입력 영상(310) 및 새로운 학습 데이터(320)를 입력 받아 전이 학습을 수행한다. 예를 들어, 전이학습에 사용되는 데이터는 택배를 이용하러 온 사용자의 영상 데이터와 그 사용자가 택배함의 UI를 조작하게 되면 두 데이터를 라벨링하여 전이 학습의 학습 데이터로 사용할 수 있다. 학습 데이터를 이용하여 행동 인식 모듈(300)을 통해 전이 학습을 수행한 후 인식된 행동(330)을 결과로 출력할 수 있다. The action recognition module 300 receives an input image 310 of a new region and new learning data 320 and performs transfer learning. For example, the data used in transfer learning is video data of a user who came to use a delivery service, and when the user manipulates the UI of the delivery box, the two data can be labeled and used as learning data for transfer learning. Transfer learning can be performed through the behavior recognition module 300 using the learning data, and then the recognized behavior 330 can be output as a result.
도 4는 본 발명의 일 실시예에 따른 적재 최적화 모듈의 구성을 나타내는 도면이다. Figure 4 is a diagram showing the configuration of a loading optimization module according to an embodiment of the present invention.
상황 판단 모듈을 통해 사용자가 택배 보관함을 이용하지 않는 상황임을 판단하면, 본 발명의 실시예에 따른 적재 최적화 모듈(410)은 현재 보관함 내 적재 정보를 기반으로 내부 택배 배치를 최적화 알고리즘을 사용해 정리한다. 정리된 후 이동할 택배들에 대해서 이동 경로를 만들어내고 자동 운반 장치에 지시하고, 이동시킴으로써 적재 최적화를 수행한다. 만일 상황판단 모듈에서 사용자들의 접근을 판단하게 되면 실행하고자 했던 최적 적재 과정은 취소하고 이전 위치로 택배를 다시 옮긴다. If the situation determination module determines that the user is not using the delivery storage box, the loading optimization module 410 according to an embodiment of the present invention organizes the internal delivery arrangement using an optimization algorithm based on the current loading information in the storage box. . Load optimization is performed by creating a movement route for the parcels that will be moved after being organized, instructing the automatic transport device, and moving them. If the situation judgment module determines the user's approach, the optimal loading process that was intended to be executed is canceled and the parcel is moved back to the previous location.
적재 최적화 모듈(410)은 유휴 상태일 경우 적재 공간, 택배의 무게, 택배 이동 경로에 따라 택배 적재 정보를 업데이트 하여 적재 이동을 지시하고 적재 이동을 수행한 후 대기상태로 변경한다. When in an idle state, the loading optimization module 410 updates the package loading information according to the loading space, the weight of the package, and the package movement path, instructs loading movement, performs the loading movement, and changes to the standby state.
적재 최적화 모듈(120)은 최적화 알고리즘 수행부(411) 및 택배 이동 경로 지정부(412)를 포함한다. The loading optimization module 120 includes an optimization algorithm performing unit 411 and a parcel movement path designation unit 412.
최적화 알고리즘 수행부(411)는 상기 상황 판단 모듈을 통한 판단 결과가 유휴 상태일 경우 미리 저장된 택배 적재 정보에 기초하여 내부 택배 배치를 최적화한다. 현재 보관함 내 적재 정보를 입력으로 하여 최적화 알고리즘을 실행한다. 최적화 알고리즘은 내부 공간에 최대한 택배를 많이 적재할 수 있게 하기 위해 택배가 적재될 선반의 택배 간 간격을 최대한 없애면서, 최소한의 택배를 이동하게 하여 에너지 효율을 높일 수 있는 방향으로 작동된다.The optimization algorithm performing unit 411 optimizes the internal parcel arrangement based on pre-stored parcel loading information when the determination result through the situation determination module is in the idle state. The optimization algorithm is run using the current storage bin loading information as input. The optimization algorithm operates in a way to increase energy efficiency by moving the minimum number of packages while eliminating the gap between packages on the shelves where the packages will be loaded as much as possible in order to load as many packages as possible into the internal space.
최적화 알고리즘 수행부(411)는 현재 무인 택배함 내부의 택배 배치에 대한 맵 정보를 입력 받고, 상기 맵 정보는 실제 택배 배치 정보를 디지털화한다. 맵 구조는 실제 택배함의 형태에 따라 1D, 2D 또는 3D로 설계되며, 상기 배치 정보에서 두 택배 사이의 빈 공간을 제거하기 위해 빈 패킹(Bin Packing) 알고리즘을 사용한다. 본 발명의 실시예에 따른 빈 패킹(Bin Packing) 알고리즘은 도 5를 참조하여 더욱 상세히 설명한다. The optimization algorithm performing unit 411 receives map information about the current delivery arrangement inside the unmanned delivery box, and the map information digitizes the actual delivery arrangement information. The map structure is designed in 1D, 2D, or 3D depending on the shape of the actual delivery box, and a bin packing algorithm is used to remove the empty space between two parcels from the placement information. The bin packing algorithm according to an embodiment of the present invention will be described in more detail with reference to FIG. 5.
택배 이동 경로 지정부(412)는 최적화 알고리즘에 따라 택배 배치가 최적화된 후 이동할 택배들에 대하여 택배 이동 경로를 지정하고 자동 운반 장치에 지시하여 택배를 이동시킴으로써 적재 최적화를 수행한다. The parcel movement path designation unit 412 performs loading optimization by designating the parcel movement path for the parcels to be moved after the parcel arrangement is optimized according to an optimization algorithm and instructing the automatic transport device to move the parcels.
택배 이동 경로 지정부(412)는 택배 이동에 사용되는 자동 운반 장치에 소요되는 전력 소비 최소화를 위해 각 택배의 이동 동선 최소화와 택배 무게에 따른 위치 선정 및 택배 이동 동선을 가중치로 활용하여 택배 이동 경로를 지정하고, 각 택배의 위치 변화에 따른 이동 지시를 내릴 수 있는 맵 정보를 출력한다.In order to minimize the power consumption required for the automatic transport device used to move the parcel, the parcel movement path designation unit 412 minimizes the movement line of each parcel, selects a position according to the weight of the parcel, and uses the parcel movement route as a weight to determine the parcel movement path. Specify and output map information that can give movement instructions according to changes in the location of each parcel.
최적화 알고리즘을 통해 택배의 이동 경로가 지정되면 자동 운반 장치에 택배의 이동을 지시한다. 만일, 적재 최적화 모듈 작동 중에 상황 판단 모듈에서 사용자가 접근 중인 상황을 판단하면, 그 시점에서 진행 중이었던 택배의 이동은 중단되고 이전 위치로 다시 적재하여 보관함 내 적재 정보가 잘못 저장되지 않게 한다. 이러한 방법들을 통해 최대한 많은 택배를 적재할 수 있는 공간 효율적인 무인 택배 보관 시스템을 개발할 수 있다. Once the parcel's movement path is specified through an optimization algorithm, the automatic transport device is instructed to move the parcel. If the situation determination module determines the situation in which the user is approaching during operation of the loading optimization module, the movement of the parcel that was in progress at that point is stopped and loaded back to the previous location to prevent the loading information in the storage box from being stored incorrectly. Through these methods, it is possible to develop a space-efficient unmanned parcel storage system that can load as many parcels as possible.
도 5는 본 발명의 일 실시예에 따른 적재 최적화 모듈의 빈 패킹(Bin Packing) 알고리즘을 설명하기 위한 도면이다. Figure 5 is a diagram for explaining the bin packing algorithm of the loading optimization module according to an embodiment of the present invention.
잉여공간을 절약하기 위한 적재 최적화 모듈은 유휴 상태가 True일 때 작동된다. 적재 최적화 모듈은 현재 무인 택배함 내부의 택배 배치에 대한 맵 정보를 받는다. 여기서 맵 정보는 실제 택배 배치 정보를 디지털화하기 위해 택배함 제어시스템에서 받은 정보를 리스트나 튜플 같은 데이터 구조로 저장된다. 맵 구조는 실제 택배함의 형태에 따라 1D, 2D 혹은 3D로 설계될 수 있다. 그리고 이 배치 정보에서 두 택배 사이의 빈 공간을 제거하기 위해 빈 패킹(Bin Packing) 알고리즘을 사용한다. The load optimization module to save surplus space is activated when the idle state is True. The load optimization module receives map information about the parcel placement inside the current unmanned delivery box. Here, the map information is stored in a data structure such as a list or tuple of information received from the delivery box control system in order to digitize the actual delivery placement information. The map structure can be designed in 1D, 2D, or 3D depending on the shape of the actual delivery box. And from this batch information, a bin packing algorithm is used to remove the empty space between two parcels.
빈 패킹 알고리즘은 주어진 공간 안에 다양한 크기의 물건을 최대한 많이 넣기 위해 필요한 최소한의 가방 수를 계산하는 최적화 기법으로, 적재 공간의 최적화에 가장 알맞은 알고리즘이라고 볼 수 있다. 여기서, 택배 이동에 사용되는 자동 운반 장치에 소요되는 전력 소비 최소화를 위해 각 택배의 이동 동선 최소화와 무거운 택배는 아래쪽 위치에 저장하는 등 무게와 동선을 가중치로 활용하여 알고리즘이 설계될 수 있다. 이를 통해 내부 잉여 공간의 정리뿐만 아니라 전력 소모량을 절약할 수 있다. 적재 최적화 모듈의 출력은 각 택배의 위치 변화에 따른 이동 지시를 내릴 수 있는 맵 정보이다. 이후에는 맵 정보를 통해 적재 정보를 업데이트함으로써 변경된 택배 적재 정보를 시스템에 반영하고 무인 택배 보관 시스템의 상태가 대기상태로 변경된다. 하지만, 만일 적재 최적화 중 고객이 택배함 이용하게 된다면 불편함을 야기시킬 수 있다. 따라서, 사용자의 불편함을 최소화하기 위해 상황 판단 모듈이 인식하여 유휴 상태가 False가 될 때, 적재 최적화 모듈의 이동 지시는 현재 지시까지만 실행하고 대기 상태로 빠르게 돌아가 서비스를 제공한다.The bin packing algorithm is an optimization technique that calculates the minimum number of bags needed to put as many items of various sizes as possible in a given space, and can be considered the most appropriate algorithm for optimizing loading space. Here, in order to minimize the power consumption required for the automatic transport device used to move parcels, an algorithm can be designed using weight and movement routes as weights, such as minimizing the movement path of each parcel and storing heavy parcels in a lower location. This not only organizes excess internal space but also saves power consumption. The output of the load optimization module is map information that can give movement instructions according to changes in the location of each parcel. Afterwards, the changed parcel loading information is reflected in the system by updating the loading information through map information, and the status of the unmanned parcel storage system is changed to standby. However, if a customer uses the delivery box during load optimization, it may cause inconvenience. Therefore, in order to minimize user inconvenience, when the situation determination module recognizes the idle state and becomes False, the movement instructions of the loading optimization module are executed only up to the current instruction and quickly return to the standby state to provide service.
도 6은 본 발명의 일 실시예에 따른 적재 최적화 및 상황 판단 모듈을 사용한 무인 택배 보관 방법을 설명하기 위한 흐름도이다. Figure 6 is a flowchart illustrating an unmanned parcel storage method using a loading optimization and situation determination module according to an embodiment of the present invention.
제안하는 적재 최적화 및 상황 판단 모듈을 사용한 무인 택배 보관 방법은 무인 택배함에 새로운 택배가 입고되면, 택배함 영상 장치로부터 수집되는 택배함 주위 영상에 기초하여 상황 판단 모듈을 통해 사용자가 택배함을 이용하지 않는 유휴 상태를 판단하는 단계(610) 및 유휴 상태일 경우 적재 최적화 모듈을 통해 적재 공간, 택배의 무게, 택배 이동 경로에 따라 택배 적재 정보를 업데이트 하여 적재 이동을 지시하고 적재 이동을 수행한 후 대기상태로 변경하는 단계(620)를 포함한다. The proposed unmanned parcel storage method using the stacking optimization and situation judgment module is based on the situation judgment module based on the image around the box collected from the box imaging device when a new package is received in the unmanned delivery box, preventing the user from using the box. In the step 610 of determining an idle state, and in the case of an idle state, the package loading information is updated according to the loading space, the weight of the package, and the package movement path through the loading optimization module to instruct loading movement, perform the loading movement, and then wait. It includes a step 620 of changing the state.
단계(610)에서, 무인 택배함에 새로운 택배가 입고되면, 택배함 영상 장치로부터 수집되는 택배함 주위 영상에 기초하여 상황 판단 모듈을 통해 사용자가 택배함을 이용하지 않는 유휴 상태를 판단한다. In step 610, when a new parcel is received in the unmanned delivery box, an idle state in which the user does not use the delivery box is determined through a situation determination module based on the image around the delivery box collected from the delivery box imaging device.
상황 판단 모듈은 행동 인식 모듈 및 유휴 상태 결정 모듈을 포함한다. The situation determination module includes an action recognition module and an idle state determination module.
행동 인식 모듈은 수집된 택배함 주위 영상에서 객체 검출을 통해 객체의 존재 여부와 영상 상의 위치를 파악하고, 검출된 객체마다의 행동을 인식한다. The behavior recognition module detects objects in the collected images around the delivery box, determines the existence of the object and its location in the image, and recognizes the behavior of each detected object.
상기 행동 인식 모듈은 딥러닝 기반으로 설계되며 내부 레이어는 FCN(Fully Connected Network), CNN(Convolutional Neural Network), RNN(Recurrent Neural Network), 주의 모듈(Attention Module)을 포함한다. 검출된 객체의 행동을 인식하여 객체의 행동 인식 정보 및 영상 데이터를 라벨링하여 데이터 의존성을 해결하기 위한 전이 학습의 학습 데이터로 사용한다. The action recognition module is designed based on deep learning, and the internal layers include Fully Connected Network (FCN), Convolutional Neural Network (CNN), Recurrent Neural Network (RNN), and Attention Module. The behavior of the detected object is recognized and the object's behavior recognition information and image data are labeled and used as learning data for transfer learning to resolve data dependency.
유휴 상태 결정 모듈은 상기 행동 인식 모듈을 통해 얻은 객체의 행동 인식 정보에 기초하여 유휴 상태를 결정한다. The idle state determination module determines the idle state based on the object's behavior recognition information obtained through the behavior recognition module.
유휴 상태 결정 모듈은 사용자가 택배함을 이용하고 있는 것으로 판단되는 경우 유휴 상태를 False로 결정하고 대기 상태로 전환한다. If the idle state determination module determines that the user is using the delivery box, it determines the idle state as False and switches to the standby state.
유휴 상태 결정 모듈은 사용자가 택배함을 이용하고 있지 않는 것으로 판단되는 경우 유휴 상태를 True로 결정하고 서비스를 제공하도록 한다. If the idle state determination module determines that the user is not using the delivery box, it determines the idle state as True and provides the service.
단계(620)에서, 유휴 상태일 경우 적재 최적화 모듈을 통해 적재 공간, 택배의 무게, 택배 이동 경로에 따라 택배 적재 정보를 업데이트 하여 적재 이동을 지시하고 적재 이동을 수행한 후 대기상태로 변경한다. In step 620, when in an idle state, the parcel loading information is updated according to the loading space, the weight of the parcel, and the parcel movement path through the loading optimization module, a loading movement is instructed, and the loading movement is performed and then changed to a standby state.
적재 최적화 모듈은 최적화 알고리즘 수행부 및 택배 이동 경로 지정부를 포함한다. The loading optimization module includes an optimization algorithm execution unit and a parcel movement path designation unit.
최적화 알고리즘 수행부는 상기 상황 판단 모듈을 통한 판단 결과가 유휴 상태일 경우 미리 저장된 택배 적재 정보에 기초하여 내부 택배 배치를 최적화한다. The optimization algorithm execution unit optimizes the internal parcel arrangement based on pre-stored parcel loading information when the determination result through the situation determination module is in an idle state.
최적화 알고리즘 수행부는 현재 무인 택배함 내부의 택배 배치에 대한 맵 정보를 입력 받고, 상기 맵 정보는 실제 택배 배치 정보를 디지털화한다. 맵 구조는 실제 택배함의 형태에 따라 1D, 2D 또는 3D로 설계되며, 상기 배치 정보에서 두 택배 사이의 빈 공간을 제거하기 위해 빈 패킹(Bin Packing) 알고리즘을 사용한다. The optimization algorithm execution unit receives map information about the parcel placement inside the current unmanned delivery box, and the map information digitizes the actual parcel placement information. The map structure is designed in 1D, 2D, or 3D depending on the shape of the actual delivery box, and a bin packing algorithm is used to remove the empty space between two parcels from the placement information.
택배 이동 경로 지정부는 최적화 알고리즘에 따라 택배 배치가 최적화된 후 이동할 택배들에 대하여 택배 이동 경로를 지정하고 자동 운반 장치에 지시하여 택배를 이동시킴으로써 적재 최적화를 수행한다. The parcel movement path designator specifies the parcel movement path for the parcels to be moved after the parcel arrangement is optimized according to an optimization algorithm, and instructs the automatic transport device to move the parcels, thereby optimizing loading.
택배 이동 경로 지정부는 택배 이동에 사용되는 자동 운반 장치에 소요되는 전력 소비 최소화를 위해 각 택배의 이동 동선 최소화와 택배 무게에 따른 위치 선정 및 택배 이동 동선을 가중치로 활용하여 택배 이동 경로를 지정하고, 각 택배의 위치 변화에 따른 이동 지시를 내릴 수 있는 맵 정보를 출력한다. The parcel movement route designation unit specifies the parcel movement path by minimizing the movement path of each parcel, selecting a location based on the weight of the parcel, and using the parcel movement route as a weight to minimize the power consumption required by the automatic transport device used to move the parcel. It outputs map information that can give movement instructions according to changes in the location of each parcel.
본 발명의 실시예에 따른 무인 택배 보관 시스템의 기본 셀(Cell)은, 셀간 박스 전달 시 시간 및 동선 최적화가 가능하도록 설계될 수 있다. 예를 들어, 개폐 가능한 입구를 통해 택배 기사(예를 들어, 배달로봇)를 위한 고효율 입출고 방식을 이용할 수 있고, 또는 택배입고 시간(우체국 택배상자 기준, 벌크 입고 불가) 등을 효율 적으로 조절할 수 있다. The basic cell of the unmanned delivery storage system according to an embodiment of the present invention can be designed to enable time and movement optimization when delivering boxes between cells. For example, through an opening that can be opened and closed, a highly efficient loading and unloading method can be used for delivery drivers (e.g., delivery robots), or the delivery time (based on post office delivery boxes, bulk storage not possible) can be efficiently adjusted. there is.
본 발명의 실시예에 따른 기본 셀은 한 개 셀에 상온 및 냉장 기능 등을 포함하여 원하는 구성으로 제작될 수 있다. 상온 셀의 경우 개별 상온 전용 셀로서 이용 가능하고, 기능 추가 및 변경이 가능하다. 냉장 셀의 경우 개별 냉장 전용 셀로서 이용 가능하고, 기능 추가 및 변경이 가능하다. The basic cell according to an embodiment of the present invention can be manufactured with a desired configuration including room temperature and refrigeration functions in one cell. In the case of room temperature cells, they can be used as individual room temperature cells, and functions can be added or changed. In the case of refrigeration cells, they can be used as individual refrigeration-only cells, and functions can be added or changed.
본 발명의 실시예에 따른 기본 셀은 인공지능(AI) 가변식 랙(Rack) 구조로 설계 및 제작될 수 있다. 또한, 랙은 고정형이 아닌 가변식으로 화물의 크기에 맞게 조정 가능하며, 화물 입고부에 장착한 스캐너를 통해 화물 치수를 측정하고 이 정보를 운영 시스템에 전달하여 관리할 수 있다. 제안하는 시스템에 딥러닝의 인공지능(AI) 기술을 추가함으로써, 최적화한 화물 적재가 가능할 수 있다. 예를 들어, 화물 보관 후에도 인공지능(AI)으로 최적화한 화물 적재 자동 재배치가 가능하다. The basic cell according to an embodiment of the present invention can be designed and manufactured with an artificial intelligence (AI) variable rack structure. In addition, the rack is variable rather than fixed and can be adjusted to suit the size of the cargo, and can be managed by measuring cargo dimensions through a scanner mounted in the cargo reception area and transmitting this information to the operating system. By adding deep learning artificial intelligence (AI) technology to the proposed system, optimized cargo loading may be possible. For example, even after cargo storage, automatic rearrangement of cargo optimized by artificial intelligence (AI) is possible.
본 발명의 실시예에 따른 셀별 연결 형태는 각 셀이 단일 또는 복수의 셀이 연결된 형태로 배치될 수 있다. 뿐만 아니라 지상 및 지하를 포함하는 멀티 공간을 활용하여 더욱 확장된 영역을 이용한 셀별 연결 형태로 배치될 수도 있다. The connection type for each cell according to an embodiment of the present invention may be arranged so that each cell is single or multiple cells are connected. In addition, it can be deployed in a form of cell-by-cell connection using a more expanded area by utilizing multi-space including above ground and underground.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.The device described above may be implemented with hardware components, software components, and/or a combination of hardware components and software components. For example, devices and components described in embodiments may include, for example, a processor, a controller, an arithmetic logic unit (ALU), a digital signal processor, a microcomputer, a field programmable gate array (FPGA), etc. , may be implemented using one or more general-purpose or special-purpose computers, such as a programmable logic unit (PLU), a microprocessor, or any other device capable of executing and responding to instructions. A processing device may execute an operating system (OS) and one or more software applications that run on the operating system. Additionally, a processing device may access, store, manipulate, process, and generate data in response to the execution of software. For ease of understanding, a single processing device may be described as being used; however, those skilled in the art will understand that a processing device includes multiple processing elements and/or multiple types of processing elements. It can be seen that it may include. For example, a processing device may include a plurality of processors or one processor and one controller. Additionally, other processing configurations, such as parallel processors, are possible.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치에 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.Software may include a computer program, code, instructions, or a combination of one or more of these, which may configure a processing unit to operate as desired, or may be processed independently or collectively. You can command the device. Software and/or data may be used on any type of machine, component, physical device, virtual equipment, computer storage medium or device to be interpreted by or to provide instructions or data to a processing device. It can be embodied in . Software may be distributed over networked computer systems and stored or executed in a distributed manner. Software and data may be stored on one or more computer-readable recording media.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. The method according to the embodiment may be implemented in the form of program instructions that can be executed through various computer means and recorded on a computer-readable medium. The computer-readable medium may include program instructions, data files, data structures, etc., singly or in combination. Program instructions recorded on the medium may be specially designed and configured for the embodiment or may be known and available to those skilled in the art of computer software. Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks, and magnetic tapes, optical media such as CD-ROMs and DVDs, and magnetic media such as floptical disks. -Includes optical media (magneto-optical media) and hardware devices specifically configured to store and execute program instructions, such as ROM, RAM, flash memory, etc. Examples of program instructions include machine language code, such as that produced by a compiler, as well as high-level language code that can be executed by a computer using an interpreter, etc.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.As described above, although the embodiments have been described with limited examples and drawings, various modifications and variations can be made by those skilled in the art from the above description. For example, the described techniques are performed in a different order than the described method, and/or components of the described system, structure, device, circuit, etc. are combined or combined in a different form than the described method, or other components are used. Alternatively, appropriate results may be achieved even if substituted or substituted by an equivalent.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.Therefore, other implementations, other embodiments, and equivalents of the claims also fall within the scope of the claims described below.
Claims (14)
유휴 상태일 경우 적재 공간, 택배의 무게, 택배 이동 경로에 따라 택배 적재 정보를 업데이트 하여 적재 이동을 지시하고 적재 이동을 수행한 후 대기상태로 변경하는 적재 최적화 모듈
을 포함하는 무인 택배 보관 시스템. When a new parcel is delivered to the unmanned delivery box, a situation determination module that determines an idle state in which the user is not using the delivery box based on images around the delivery box collected from the delivery box imaging device; and
When in an idle state, the loading optimization module updates the parcel loading information according to the loading space, weight of the parcel, and parcel movement path, instructs loading movement, performs loading movement, and then changes to standby state.
An unmanned parcel storage system including.
상기 상황 판단 모듈은,
수집된 택배함 주위 영상에서 객체 검출을 통해 객체의 존재 여부와 영상 상의 위치를 파악하고, 검출된 객체마다의 행동을 인식하는 행동 인식 모듈; 및
상기 행동 인식 모듈을 통해 얻은 객체의 행동 인식 정보에 기초하여 유휴 상태를 결정하는 유휴 상태 결정 모듈
을 포함하는 무인 택배 보관 시스템. According to paragraph 1,
The situation determination module is,
A behavior recognition module that detects the presence of objects and their locations in the images through object detection in the collected images surrounding the delivery box, and recognizes the behavior of each detected object; and
An idle state determination module that determines the idle state based on the object's behavior recognition information obtained through the behavior recognition module.
An unmanned parcel storage system including.
상기 행동 인식 모듈은,
딥러닝 기반으로 설계되며 내부 레이어는 FCN(Fully Connected Network), CNN(Convolutional Neural Network), RNN(Recurrent Neural Network), 주의 모듈(Attention Module)을 포함하고,
검출된 객체의 행동을 인식하여 객체의 행동 인식 정보 및 영상 데이터를 라벨링하여 데이터 의존성을 해결하기 위한 전이 학습의 학습 데이터로 사용하는
무인 택배 보관 시스템. According to paragraph 2,
The behavior recognition module is,
It is designed based on deep learning, and the internal layers include Fully Connected Network (FCN), Convolutional Neural Network (CNN), Recurrent Neural Network (RNN), and Attention Module.
It recognizes the behavior of the detected object and uses it as learning data for transfer learning to resolve data dependency by labeling the object's behavior recognition information and image data.
Unmanned parcel storage system.
상기 유휴 상태 결정 모듈은,
사용자가 택배함을 이용하고 있는 것으로 판단되는 경우 유휴 상태를 False로 결정하고 대기 상태로 전환하고,
사용자가 택배함을 이용하고 있지 않는 것으로 판단되는 경우 유휴 상태를 True로 결정하고 서비스를 제공하도록 하는
무인 택배 보관 시스템. According to paragraph 2,
The idle state determination module,
If it is determined that the user is using the delivery box, the idle state is set to False and switched to the standby state.
If it is determined that the user is not using the delivery box, the idle state is set to True and the service is provided.
Unmanned parcel storage system.
상기 적재 최적화 모듈은,
상기 상황 판단 모듈을 통한 판단 결과가 유휴 상태일 경우 미리 저장된 택배 적재 정보에 기초하여 내부 택배 배치를 최적화하는 최적화 알고리즘 수행부; 및
최적화 알고리즘에 따라 택배 배치가 최적화된 후 이동할 택배들에 대하여 택배 이동 경로를 지정하고 자동 운반 장치에 지시하여 택배를 이동시킴으로써 적재 최적화를 수행하는 택배 이동 경로 지정부
를 포함하는 무인 택배 보관 시스템. According to paragraph 1,
The loading optimization module is,
an optimization algorithm performing unit that optimizes internal parcel placement based on pre-stored parcel loading information when the determination result through the situation determination module is in an idle state; and
After the parcel placement is optimized according to the optimization algorithm, the parcel movement path designation unit specifies the parcel movement path for the parcels to be moved and instructs the automatic transport device to move the parcels, thereby optimizing loading.
Unmanned parcel storage system including.
상기 최적화 알고리즘 수행부는,
현재 무인 택배함 내부의 택배 배치에 대한 맵 정보를 입력 받고, 상기 맵 정보는 실제 택배 배치 정보를 디지털화하고, 맵 구조는 실제 택배함의 형태에 따라 1D, 2D 또는 3D로 설계되며, 상기 배치 정보에서 두 택배 사이의 빈 공간을 제거하기 위해 빈 패킹(Bin Packing) 알고리즘을 사용하는
무인 택배 보관 시스템. According to clause 5,
The optimization algorithm performing unit,
Currently, map information about the delivery arrangement inside the unmanned delivery box is input, the map information digitizes the actual delivery arrangement information, the map structure is designed in 1D, 2D, or 3D according to the shape of the actual delivery box, and from the arrangement information Bin Packing algorithm is used to remove empty space between two parcels.
Unmanned parcel storage system.
상기 택배 이동 경로 지정부는,
택배 이동에 사용되는 자동 운반 장치에 소요되는 전력 소비 최소화를 위해 각 택배의 이동 동선 최소화와 택배 무게에 따른 위치 선정 및 택배 이동 동선을 가중치로 활용하여 택배 이동 경로를 지정하고, 각 택배의 위치 변화에 따른 이동 지시를 내릴 수 있는 맵 정보를 출력하는
무인 택배 보관 시스템. According to clause 5,
The courier movement route designation unit,
In order to minimize the power consumption of the automatic transport device used to move parcels, the movement path of each parcel is minimized, the location is selected according to the weight of the parcel, and the movement route of the parcel is used as a weight to specify the parcel movement path, and the position of each parcel is changed. Outputs map information that can give movement instructions according to
Unmanned parcel storage system.
유휴 상태일 경우 적재 최적화 모듈을 통해 적재 공간, 택배의 무게, 택배 이동 경로에 따라 택배 적재 정보를 업데이트 하여 적재 이동을 지시하고 적재 이동을 수행한 후 대기상태로 변경하는 단계
를 포함하는 무인 택배 보관 방법. When a new parcel is delivered to the unmanned delivery box, determining an idle state in which the user does not use the delivery box through a situation determination module based on images surrounding the delivery box collected from the delivery box imaging device; and
When in an idle state, the package loading information is updated according to the loading space, weight of the package, and package movement path through the loading optimization module to instruct loading movement, perform the loading movement, and then change to standby state.
Method of storing unmanned parcels including.
상기 무인 택배함에 새로운 택배가 입고되면, 택배함 영상 장치로부터 수집되는 택배함 주위 영상에 기초하여 상황 판단 모듈을 통해 사용자가 택배함을 이용하지 않는 유휴 상태를 판단하는 단계는,
상황 판단 모듈의 행동 인식 모듈이 상기 수집된 택배함 주위 영상에서 객체 검출을 통해 객체의 존재 여부와 영상 상의 위치를 파악하고, 검출된 객체마다의 행동을 인식하는 단계; 및
상황 판단 모듈의 유휴 상태 결정 모듈이 상기 행동 인식 모듈을 통해 얻은 객체의 행동 인식 정보에 기초하여 유휴 상태를 결정하는 단계
를 포함하는 무인 택배 보관 방법. According to clause 8,
When a new parcel is received in the unmanned delivery box, the step of determining an idle state in which the user does not use the delivery box through a situation determination module based on the image around the delivery box collected from the delivery box imaging device is,
A step where the behavior recognition module of the situation determination module detects objects in the collected images around the delivery box to determine whether an object exists and its location on the image, and recognizes the behavior of each detected object; and
A step in which the idle state determination module of the situation determination module determines the idle state based on the behavior recognition information of the object obtained through the behavior recognition module.
Method of storing unmanned parcels including.
상기 상황 판단 모듈의 행동 인식 모듈이 상기 수집된 택배함 주위 영상에서 객체 검출을 통해 객체의 존재 여부와 영상 상의 위치를 파악하고, 검출된 객체마다의 행동을 인식하는 단계는,
딥러닝 기반으로 동작되며 내부 레이어는 FCN(Fully Connected Network), CNN(Convolutional Neural Network), RNN(Recurrent Neural Network), 주의 모듈(Attention Module)을 포함하고,
검출된 객체의 행동을 인식하여 객체의 행동 인식 정보 및 영상 데이터를 라벨링하여 데이터 의존성을 해결하기 위한 전이 학습의 학습 데이터로 사용하는
무인 택배 보관 방법. According to clause 9,
The step of the behavior recognition module of the situation determination module detecting the presence of an object and its location on the image through object detection in the collected images around the delivery box, and recognizing the behavior of each detected object,
It operates based on deep learning, and the internal layers include FCN (Fully Connected Network), CNN (Convolutional Neural Network), RNN (Recurrent Neural Network), and Attention Module.
It recognizes the behavior of the detected object and uses it as learning data for transfer learning to resolve data dependency by labeling the object's behavior recognition information and image data.
How to store unmanned parcels.
상기 상황 판단 모듈의 유휴 상태 결정 모듈이 상기 행동 인식 모듈을 통해 얻은 객체의 행동 인식 정보에 기초하여 유휴 상태를 결정하는 단계는,
사용자가 택배함을 이용하고 있는 것으로 판단되는 경우 유휴 상태를 False로 결정하고 대기 상태로 전환하고,
사용자가 택배함을 이용하고 있지 않는 것으로 판단되는 경우 유휴 상태를 True로 결정하고 서비스를 제공하도록 하는
무인 택배 보관 방법. According to clause 9,
The step of the idle state determination module of the situation determination module determining the idle state based on the behavior recognition information of the object obtained through the behavior recognition module,
If it is determined that the user is using the delivery box, the idle state is set to False and switched to the standby state.
If it is determined that the user is not using the delivery box, the idle state is set to True and the service is provided.
How to store unmanned parcels.
상기 유휴 상태일 경우 적재 최적화 모듈을 통해 적재 공간, 택배의 무게, 택배 이동 경로에 따라 택배 적재 정보를 업데이트 하여 적재 이동을 지시하고 적재 이동을 수행한 후 대기상태로 변경하는 단계는,
적재 최적화 모듈의 최적화 알고리즘 수행부가 상기 상황 판단 모듈을 통한 판단 결과가 유휴 상태일 경우 미리 저장된 택배 적재 정보에 기초하여 내부 택배 배치를 최적화하는 단계; 및
적재 최적화 모듈의 택배 이동 경로 지정부가 최적화 알고리즘에 따라 택배 배치를 최적화한 후 이동할 택배들에 대하여 택배 이동 경로를 지정하고 자동 운반 장치에 지시하여 택배를 이동시킴으로써 적재 최적화를 수행하는 단계
를 포함하는 무인 택배 보관 방법. According to clause 8,
In the case of the idle state, the step of updating the parcel loading information according to the loading space, weight of the parcel, and parcel movement path through the loading optimization module to instruct loading movement and changing to the standby state after performing the loading movement is,
A step of optimizing internal parcel placement based on pre-stored parcel loading information when the optimization algorithm execution unit of the loading optimization module determines that the situation determination module is in an idle state; and
A step in which the parcel movement path designation unit of the loading optimization module optimizes the parcel placement according to an optimization algorithm, then specifies the parcel movement path for the parcels to be moved and instructs the automatic transport device to move the parcels, thus performing loading optimization.
Method of storing unmanned parcels including.
상기 적재 최적화 모듈의 최적화 알고리즘 수행부가 상기 상황 판단 모듈을 통한 판단 결과가 유휴 상태일 경우 미리 저장된 택배 적재 정보에 기초하여 내부 택배 배치를 최적화하는 단계는,
현재 무인 택배함 내부의 택배 배치에 대한 맵 정보를 입력 받고, 상기 맵 정보는 실제 택배 배치 정보를 디지털화하고, 맵 구조는 실제 택배함의 형태에 따라 1D, 2D 또는 3D로 설계되며, 상기 배치 정보에서 두 택배 사이의 빈 공간을 제거하기 위해 빈 패킹(Bin Packing) 알고리즘을 사용하는
무인 택배 보관 방법. According to clause 12,
The step of optimizing internal parcel placement based on pre-stored parcel loading information when the optimization algorithm execution unit of the loading optimization module determines that the situation determination module is in an idle state includes:
Currently, map information about the delivery arrangement inside the unmanned delivery box is input, the map information digitizes the actual delivery arrangement information, and the map structure is designed in 1D, 2D or 3D according to the shape of the actual delivery box, and from the arrangement information Bin Packing algorithm is used to remove empty space between two parcels.
How to store unmanned parcels.
상기 적재 최적화 모듈의 택배 이동 경로 지정부가 최적화 알고리즘에 따라 택배 배치를 최적화한 후 이동할 택배들에 대하여 택배 이동 경로를 지정하고 자동 운반 장치에 지시하여 택배를 이동시킴으로써 적재 최적화를 수행하는 단계는,
택배 이동에 사용되는 자동 운반 장치에 소요되는 전력 소비 최소화를 위해 각 택배의 이동 동선 최소화와 택배 무게에 따른 위치 선정 및 택배 이동 동선을 가중치로 활용하여 택배 이동 경로를 지정하고, 각 택배의 위치 변화에 따른 이동 지시를 내릴 수 있는 맵 정보를 출력하는
무인 택배 보관 방법.According to clause 12,
The step of performing loading optimization by the parcel movement path designation unit of the loading optimization module optimizing the parcel placement according to an optimization algorithm, then specifying the parcel movement path for the parcels to be moved and instructing the automatic transport device to move the parcels,
In order to minimize the power consumption of the automatic transport device used to move parcels, the movement path of each parcel is minimized, the location is selected according to the weight of the parcel, and the movement route of the parcel is used as a weight to specify the parcel movement path, and the position of each parcel is changed. Outputs map information that can give movement instructions according to
How to store unmanned parcels.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020220157208A KR102796501B1 (en) | 2022-11-22 | 2022-11-22 | Unmanned Parcel Storage Method and System for using Loading Optimization and Situation Assessment Module |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020220157208A KR102796501B1 (en) | 2022-11-22 | 2022-11-22 | Unmanned Parcel Storage Method and System for using Loading Optimization and Situation Assessment Module |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20240076496A true KR20240076496A (en) | 2024-05-30 |
KR102796501B1 KR102796501B1 (en) | 2025-04-15 |
Family
ID=91276044
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020220157208A Active KR102796501B1 (en) | 2022-11-22 | 2022-11-22 | Unmanned Parcel Storage Method and System for using Loading Optimization and Situation Assessment Module |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102796501B1 (en) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20130114495A (en) | 2012-04-09 | 2013-10-18 | 한국전자통신연구원 | Apparatus for dynamic allocation unmanned postal delivery machine and method for allocation thereof |
JP2017004047A (en) * | 2015-06-04 | 2017-01-05 | 株式会社日立システムズ | Availability confirmation apparatus, availability confirmation program, and availability confirmation method |
KR101900237B1 (en) * | 2017-10-20 | 2018-09-19 | 주식회사 삼진엘앤디 | On-site judgment method using situation judgment data on acquired images |
KR102108185B1 (en) | 2020-01-02 | 2020-05-08 | (주)에이치티비젼 | Security system equipped with second camera |
KR20210090186A (en) | 2018-10-16 | 2021-07-19 | 썬전 하이브 박스 테크놀로지 컴퍼니 리미티드 | Delivery box arrangement method and device, delivery box and storage medium |
KR20210136608A (en) * | 2020-05-08 | 2021-11-17 | 삼성에스디에스 주식회사 | Apparatus for determining arrangement of objects in space and method thereof |
KR20220055250A (en) | 2020-10-26 | 2022-05-03 | 한국생산기술연구원 | A motion recognition-based manless parcel delivery system and control method thereof |
-
2022
- 2022-11-22 KR KR1020220157208A patent/KR102796501B1/en active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20130114495A (en) | 2012-04-09 | 2013-10-18 | 한국전자통신연구원 | Apparatus for dynamic allocation unmanned postal delivery machine and method for allocation thereof |
JP2017004047A (en) * | 2015-06-04 | 2017-01-05 | 株式会社日立システムズ | Availability confirmation apparatus, availability confirmation program, and availability confirmation method |
KR101900237B1 (en) * | 2017-10-20 | 2018-09-19 | 주식회사 삼진엘앤디 | On-site judgment method using situation judgment data on acquired images |
KR20210090186A (en) | 2018-10-16 | 2021-07-19 | 썬전 하이브 박스 테크놀로지 컴퍼니 리미티드 | Delivery box arrangement method and device, delivery box and storage medium |
KR102108185B1 (en) | 2020-01-02 | 2020-05-08 | (주)에이치티비젼 | Security system equipped with second camera |
KR20210136608A (en) * | 2020-05-08 | 2021-11-17 | 삼성에스디에스 주식회사 | Apparatus for determining arrangement of objects in space and method thereof |
KR20220055250A (en) | 2020-10-26 | 2022-05-03 | 한국생산기술연구원 | A motion recognition-based manless parcel delivery system and control method thereof |
Also Published As
Publication number | Publication date |
---|---|
KR102796501B1 (en) | 2025-04-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10710806B2 (en) | Item retrieval using a robotic drive unit | |
US10661311B2 (en) | Automated tote routing system and methods | |
US10053288B1 (en) | Pickup locations with modifiable storage compartment configurations and corresponding door operations | |
US10339491B2 (en) | Mobile pickup units | |
US20190233212A1 (en) | Inventory system with efficient operator handling of inventory items | |
US10192189B2 (en) | Mobile pickup locations | |
JP2023531540A (en) | Goods inventory method, device, warehouse robot, and warehouse system | |
CN110472909A (en) | Intelligent distribution system, method, server, robot and storage medium | |
US10746348B2 (en) | Systems and methods for delivering and securing a magnetic package delivered by a drone onto a magnetic delivery platform | |
JP6763809B2 (en) | Route determination device, route determination method and route determination program | |
US20180190054A1 (en) | Mobile Locker Bank Systems and Methods | |
CN111325499A (en) | Article delivery method and device, robot and storage medium | |
US20200151982A1 (en) | Systems and methods for secure delivery, transfer, storage, and retrieval of items | |
CN111523918A (en) | Commodity clustering method, commodity clustering device, commodity clustering equipment and storage medium | |
JP2020173667A (en) | Delivery system, management server, program, and management method | |
KR102796501B1 (en) | Unmanned Parcel Storage Method and System for using Loading Optimization and Situation Assessment Module | |
US20230139689A1 (en) | Vision and control systems for robotic pack stations | |
CN113298472B (en) | Method and device for recycling articles, electronic equipment and storage medium | |
CN110610341A (en) | An intelligent warehouse, a method for dispatching items from the intelligent warehouse, and a method for picking up items from the intelligent warehouse | |
CN113095750A (en) | Unmanned express receiving and dispatching system, express dispatching method and express receiving method | |
WO2020217662A1 (en) | Home delivery box, home delivery system, flying body, and home delivery method | |
CN111768138A (en) | A picking method, device, equipment and medium | |
CN111950945A (en) | Box control method, device, storage medium and electronic device | |
CN111942801A (en) | Article distribution method and device, storage medium and electronic device | |
CN114358695A (en) | Express delivery method, system, electronic device and computer-readable storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PA0109 | Patent application |
Patent event code: PA01091R01D Comment text: Patent Application Patent event date: 20221122 |
|
PA0201 | Request for examination | ||
PG1501 | Laying open of application | ||
E902 | Notification of reason for refusal | ||
PE0902 | Notice of grounds for rejection |
Comment text: Notification of reason for refusal Patent event date: 20240828 Patent event code: PE09021S01D |
|
E701 | Decision to grant or registration of patent right | ||
PE0701 | Decision of registration |
Patent event code: PE07011S01D Comment text: Decision to Grant Registration Patent event date: 20250403 |
|
GRNT | Written decision to grant | ||
PR0701 | Registration of establishment |
Comment text: Registration of Establishment Patent event date: 20250411 Patent event code: PR07011E01D |
|
PR1002 | Payment of registration fee |
Payment date: 20250411 End annual number: 3 Start annual number: 1 |
|
PG1601 | Publication of registration |