KR102254653B1 - 레거시 서비스를 이용한 데이터 라벨링 시스템 및 방법 - Google Patents
레거시 서비스를 이용한 데이터 라벨링 시스템 및 방법 Download PDFInfo
- Publication number
- KR102254653B1 KR102254653B1 KR1020190072185A KR20190072185A KR102254653B1 KR 102254653 B1 KR102254653 B1 KR 102254653B1 KR 1020190072185 A KR1020190072185 A KR 1020190072185A KR 20190072185 A KR20190072185 A KR 20190072185A KR 102254653 B1 KR102254653 B1 KR 102254653B1
- Authority
- KR
- South Korea
- Prior art keywords
- data
- job
- labeling
- server
- unit
- Prior art date
Links
- 238000002372 labelling Methods 0.000 title claims abstract description 448
- 238000000034 method Methods 0.000 title claims abstract description 66
- 230000008569 process Effects 0.000 claims abstract description 38
- 238000007689 inspection Methods 0.000 claims description 74
- 238000004891 communication Methods 0.000 claims description 42
- 238000012545 processing Methods 0.000 claims description 25
- 238000013480 data collection Methods 0.000 claims description 15
- 238000012544 monitoring process Methods 0.000 claims description 12
- 230000004044 response Effects 0.000 claims description 4
- 230000009471 action Effects 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 10
- 230000000694 effects Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
-
- G06K9/00442—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0639—Performance analysis of employees; Performance analysis of enterprise or organisation operations
- G06Q10/06395—Quality analysis or management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Business, Economics & Management (AREA)
- Human Resources & Organizations (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Economics (AREA)
- Strategic Management (AREA)
- Tourism & Hospitality (AREA)
- Entrepreneurship & Innovation (AREA)
- Development Economics (AREA)
- Software Systems (AREA)
- Marketing (AREA)
- Educational Administration (AREA)
- General Business, Economics & Management (AREA)
- Game Theory and Decision Science (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Primary Health Care (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
본 발명은 데이터 라벨링 시스템 및 방법에 관한 것으로, 더욱 상세하게는 기존의 데이터 라벨링 작업을 처리하는 다수의 서비스 제공자를 고객으로 모집하여 상기 서비스 제공자의 수요측 플랫폼(Demand Side Platform: DSP) 서버들로부터 데이터 라벨링 작업을 수신하여 통합 관리하고, 온라인을 통해 레거시 서비스를 제공하는 레거시 시스템의 가입자들을 데이터 라벨링 작업자로 모집하여 데이터 라벨링 작업을 수행할 수 있도록 네트워크화된 레거시 서비스를 이용한 데이터 라벨링 시스템 및 방법에 관한 것이다.
Description
본 발명은 데이터 라벨링 시스템 및 방법에 관한 것으로, 더욱 상세하게는 기존의 데이터 라벨링 작업을 처리하는 다수의 서비스 제공자를 고객으로 모집하여 상기 서비스 제공자의 수요측 플랫폼(Demand Side Platform: DSP) 서버들로부터 데이터 라벨링 작업을 수신하여 통합 관리하고, 온라인을 통해 레거시 서비스를 제공하는 레거시 시스템의 가입자들을 데이터 라벨링 작업자로 모집하여 데이터 라벨링 작업을 수행할 수 있도록 네트워크화된 레거시 서비스를 이용한 데이터 라벨링 시스템 및 방법에 관한 것이다.
일반적으로, 기계학습에 있어서, 학습방법 및 알고리즘 이상으로 중요한 것은 학습을 위한 학습데이터이다. 따라서 양질의 학습데이터를 많이 확보하는 것은 기계학습에 매우 중요하다.
학습데이터를 얻기 위해서는 로우데이터(Raw Data)와 로우데이터에 대한 라벨링 정보가 필요하다.
통상적으로 라벨링 작업은 사람에 의해 수행되므로 기계학습을 연구하거나 개발하는 곳에서는 라벨링 작업만을 수행하기 위한 별도의 인력을 보유한다. 이런 경우 인력을 보유하는 데만도 많은 시간이 소유되며, 그 인건비 또한 많이 소요되는 문제점이 있었다.
하지만 라벨링 작업은 전문지식이 없이도 누구나 할 수 있는 일인 경우가 많으므로, 인건비의 절감을 위해 인터넷을 통해 다수의 작업자에게 로우데이터를 분배하고, 로우데이터에 대한 라벨링 작업에 따른 보수를 온라인으로 지급하는 형태의 플랫폼 기술이 개발되어 적용되고 있다. 예를 들면, 아마존(Amazon)의 메커니컬 터크(Mechanical Turk) 등이 있다.
하지만 기존의 플랫폼 기술의 경우 작업자가 성실하게 라벨링을 수행했는지 검수하는 과정이 없어, 학습데이터의 신뢰도를 보장할 수 없는 문제점이 있었다.
이러한 학습데이터의 신뢰도를 보장하기 위해 대한민국 등록특허 제10-1887415호 [데이터 라벨링 작업 검수방법 및 프로그램](이하 "선행특허"라 함)은 작업자에 의해 수행된 라벨링 데이터를 별도의 검수자가 온라인을 통해 검수를 수행하고 검수된 학습데이터에 대해서만 보상을 제공하는 기술을 개시하고 있다.
그러나 온라인 플랫폼을 통해 데이터 라벨링을 수행하고, 온라인 플랫폼을 통해 획득된 라벨링 데이터에 대한 검수 작업을 수행하는 선행특허 및 종래 데이터 라벨링 시스템은 서비스 제공자들 각자가 라벨링 작업을 위한 별도의 서비스를 제공하기 위한 시스템을 구축하여야 하며, 구축된 시스템에서 라벨링 작업을 수행하기 위한 작업자를 온라인을 통해 일일이 모집하여야 하므로 초기 시스템 구축 비용이 많이 소요되고, 작업자를 모집하는 데 어려움이 있으며, 작업자를 모아 작업을 수행하는 데 많은 시간이 소요되는 문제점이 있었다.
따라서 본 발명의 목적은 기존의 데이터 라벨링 작업을 처리하는 다수의 서비스 제공자를 고객으로 모집하여 상기 서비스 제공자의 수요측 플랫폼(Demand Side Platform: DSP) 서버들로부터 데이터 라벨링 작업을 수신하여 통합 관리하고, 온라인을 통해 레거시 서비스를 제공하는 레거시 시스템의 가입자들을 데이터 라벨링 작업자로 모집하여 데이터 라벨링 작업을 수행할 수 있도록 네트워크화된 레거시 서비스를 이용한 데이터 라벨링 시스템 및 방법을 제공함에 있다.
상기와 같은 목적을 달성하기 위한 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 시스템은: 고객사가 의뢰한 데이터 라벨링 작업을 수신받아 등록하고 등록된 데이터 라벨링 작업을 제공하며, 제공된 데이터 라벨링 작업에 대한 라벨링된 작업 데이터를 수신받고, 수신된 작업 데이터에 대한 검수를 수행하여 검수 통과 시 상기 작업 데이터를 작성한 가입자에게 리워드를 제공하는 공급측 플랫폼 서버; 및 레거시 서비스에 대한 다수의 가입자에 대한 가입자 정보를 저장하여 관리하고, 레거시 서비스를 상기 가입자들에게 제공하고, 레거시 서비스의 제공 중 가입자로부터 데이터 라벨링 작업의 요청이 발생되면 상기 가입자 단말부인 작업자 단말부로 상기 공급측 플랫폼 서버에서 제공되는 라벨링 작업이 작업자 단말부로 제공되도록 하는 적어도 하나 이상의 레거시 서버인 출판 서버를 포함하는 것을 특징으로 한다.
상기 시스템은: 고객사가 의뢰한 데이터 라벨링 작용 요청에 따라 데이터 라벨링 작업을 생성하여 상기 공급측 플랫폼 서버로 제공하고, 상기 공급측 플랫폼 서버로부터 작업데이터를 수신받아 고객사에게 제공하는 적어도 하나 이상의 수요측 플랫폼 서버를 더 포함하는 것을 특징으로 한다.
상기 공급측 플랫폼 서버는, 상기 수요측 플랫폼 서버 및 출판 서버와 데이터 통신을 수행하는 공급측 서버 통신부; 등록된 하나 이상의 수요측 플랫폼 서버에 대한 수요측 플랫폼 서버정보를 포함하는 수요측 플랫폼 서비스 제공자의 서비스 제공자 정보를 저장하여 적어도 하나 이상의 수요측 플랫폼을 등록하고 있는 DSP 등록 DB, 출판 서버에 대한 정보인 출판자 정보를 저장하여 출판 서버를 등록하고 있는 출판자 등록 DB, 적어도 하나 이상의 상기 데이터 라벨링 작업을 저장하는 작업 DB 및 검수 전 및 검수 완료 작업 데이터를 저장하고 검수 완료 작업 데이터의 검수 통과 여부 정보를 저장하는 작업 데이터 DB를 포함하는 공급측 서버 저장부; 및 고객사 및 등록된 상기 수요측 플랫폼 서비스 제공자의 수요측 플랫폼 서버 중 어느 하나 이상으로부터 데이터 라벨링 작업을 상기 공급측 서버 통신부를 통해 수신받아 상기 작업 DB에 저장하고 상기 공급측 서버 통신부를 통해 등록된 상기 출판 서버의 가입자인 작업자의 작업자 단말부로 상기 데이터 라벨링 작업을 제공하며, 상기 작업자 단말부로 제공한 데이터 라벨링 작업에 대한 작업 데이터 및 작업자 정보를 수신받아 상기 작업 데이터 DB에 저장한 후, 검수가 완료되면 검수가 통과된 작업 데이터의 작업자에게 리워드를 제공하는 공급측 서버 제어부를 포함하는 것을 특징으로 한다.
상기 공급측 서버 제어부는, 서비스 제공자 정보를 상기 DSP 등록 DB에 저장하여 하나 이상의 수요측 플랫폼을 등록하는 DSP 등록부 및 상기 출판자 정보를 저장하여 적어도 하나 이상의 출판 서버를 등록하는 출판자 등록부를 포함하는 등록부; 상기 DSP 등록부에 의해 등록된 수요측 플랫폼의 수요측 플랫폼 서버로부터 데이터 라벨링 작업 및 고객사로부터 데이터 라벨링 작업 요청 정보 중 어느 하나 이상을 수신받아 데이터 라벨링 작업을 상기 작업 DB에 저장하여 등록하는 라벨링 작업 등록부; 등록된 상기 출판 서버를 통해 작업자 단말부로 상기 데이터 라벨링 작업을 제공하는 라벨링 작업 처리부; 상기 적어도 하나 이상의 출판 서버의 가입자인 작업자의 작업자 단말부로부터 데이터 라벨링 작업에 대한 작업 데이터 및 작업자 정보를 수신받아 상기 작업 데이터 DB에 저장하는 라벨링 작업 데이터 수집부; 상기 작업 데이터 DB에 저장된 작업 데이터에 대한 검수를 진행하여 검수 완료 및 검수 통과 여부 정보를 작업 데이터 DB에 저장하는 작업 데이터 검수부; 및 상기 검수 통과 여부 정보에 의해 검수 통과된 작업 데이터를 판별하고, 검수 통과된 작업 데이터에 대한 작업자 정보의 작업자인 해당 출판 서버의 가입자에게 리워드를 제공하는 리워드 제공부를 포함하는 것을 특징으로 한다.
상기 라벨링 작업 처리부는, 상기 작업 DB에 저장되는 데이터 라벨링 작업들을 등록된 상기 출판 서버로 제공하여 상기 출판 서버가 제공받은 데이터 라벨링 작업 중 작업자 단말부를 통해 선택되는 데이터 라벨링 작업을 작업자 단말부로 제공하도록 하며, 상기 라벨링 작업 데이터 수집부는, 제공된 데이터 라벨링 작업에 대한 작업 데이터를 상기 출판 서버로부터 수신받는 것을 특징으로 한다.
상기 라벨링 작업 처리부는, 출판 서버의 가입자인 작업자의 작업자 단말부의 데이터 라벨링 작업 요청에 의해 상기 출판 서버로부터 라벨링 작업 요청 이벤트가 발생하는지를 모니터링하는 라벨링 작업 요청 이벤트 모니터링부; 상기 출판 서버와 연동하여 상기 작업자 단말부의 작업자 정보를 획득하고 상기 작업자 단말부와 접속하는 작업자 접속 처리부; 및 상기 접속된 작업자 단말부로 상기 작업 DB에 등록된 데이터 라벨링 작업 중 하나를 선택할 수 있는 데이터 라벨링 작업 선택 수단을 작업자 단말부로 제공하고, 상기 데이터 라벨링 작업 선택 수단을 통해 선택된 데이터 라벨링 작업을 상기 작업자 단말부로 제공하는 작업 업무 제공부를 포함하되, 상기 라벨링 작업 데이터 수집부는, 상기 작업자 단말부로부터 상기 제공된 데이터 라벨링 작업에 대한 작업 데이터를 수집하는 것을 특징으로 한다.
상기 출판 서버는, 유무선 데이터통신망을 통해 상기 공급측 플랫폼 서버 및 작업자 단말부와 데이터 통신을 수행하는 출판서버 통신부; 다수의 가입자에 대한 작업자 단말부 정보를 포함하는 가입자 정보를 저장하는 가입자 DB를 포함하는 출판서버 저장부; 및 레거시 서비스에 대한 다수의 가입자에 대한 가입자 정보를 상기 가입자 DB에 저장하여 관리하고, 레거시 서비스를 상기 가입자들에게 제공하고, 상기 출판서버 통신부를 통해 레거시 서비스의 제공 중 가입자로부터 데이터 라벨링 작업의 요청이 발생되면 상기 가입자 단말부인 작업자 단말부로 상기 공급측 플랫폼 서버에서 제공되는 라벨링 작업이 작업자 단말부로 제공되도록 하는 출판서버 제어부를 포함하는 것을 특징으로 한다.
상기 출판서버 제어부는, 레거시 서비스에 대한 다수의 가입자에 대한 가입자 정보를 저장하여 관리하고, 레거시 서비스를 상기 가입자들에게 제공하고, 상기 레거시 서비스 중 라벨링 작업 이벤트의 발생 여부를 모니터링하는 앱 서비스 모듈; 및 상기 앱 서비스 모듈을 통해 라벨링 작업 이벤트가 발생되어 가입자로부터 데이터 라벨링 작업의 요청이 발생된 것으로 판단되면 활성화되어 상기 가입자 단말부인 작업자 단말부로 상기 공급측 플랫폼 서버에서 제공되는 라벨링 작업이 작업자 단말부로 제공되도록 하는 라벨링 모듈을 포함하는 것을 특징으로 한다.
상기 출판서버 저장부는, 데이터 라벨링 작업을 저장하는 작업 DB를 더 포함하되, 상기 앱 서비스 모듈은, 레거시 서비스 중 출판서버 통신부를 통해 공급측 플랫폼 서버로부터 데이터 라벨링 작업이 수신되면 출판서버 저장부의 상기 작업 DB에 저장하여 등록하는 라벨링 작업 등록부를 더 포함하되, 상기 라벨링 모듈은, 상기 라벨링 작업 이벤트에 의한 데이터 라벨링 작업 요청이 발생되면 상기 작업 DB에 등록된 데이터 라벨링 작업 중 어느 하나를 선택할 수 있는 데이터 라벨링 작업 선택 수단을 상기 라벨링 작업 이벤트를 발생시킨 작업자 단말부로 제공하고, 상기 데이터 라벨링 작업 선택 수단을 통해 하나의 데이터 라벨링 작업이 선택되면 선택된 데이터 라벨링 작업을 상기 출판서버 통신부를 통해 상기 작업자 단말부로 제공하는 작업 제공부; 상기 제공된 데이터 라벨링 작업에 대한 작업 데이터를 상기 작업자 단말부로부터 수신하여 획득하는 라벨링 작업 데이터 획득부; 획득된 상기 작업 데이터를 상기 출판서버 통신부를 통해 공급측 플랫폼 서버로 제공하는 작업 데이터 제공부를 포함하는 것을 특징으로 한다.
상기 공급측 플랫폼 서버는, 검수에 통과한 상기 작업 데이터를 작성한 가입자의 가입자 정보 및 상기 작업 데이터에 대한 리워드 정보를 출판 서버로 제공하고, 상기 라벨링 모듈은, 상기 가입자 정보 및 리워드 정보를 수신하여 상기 가입자 정보의 가입자에게 상기 리워드 정보에 대응하는 상기 레거시 서비스 시 제공되는 포인트로 리워드를 제공하는 리워드 획득부를 더 포함하는 것을 특징으로 한다.
상기와 같은 목적을 달성하기 위한 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 방법은: 공급측 플랫폼 서버가 고객사가 의뢰한 데이터 라벨링 작업을 수신받아 등록하는 데이터 라벨링 작업 등록 과정; 상기 공급측 플랫폼 서버가 등록된 데이터 라벨링 작업을 레거시 서비스를 제공하는 하나 이상의 레거시 서버인 출판 서버에 의해 상기 레거시 서비스에 가입한 가입자의 가입자 단말기인 작업자 단말부로 제공되도록 하는 데이터 라벨링 작업 제공 과정; 상기 공급측 플랫폼 서버가 데이터 라벨링 작업을 제공받은 작업자 단말부로부터 작업 데이터를 수신받아 작업자 단말부의 가입자에 대해 저장하는 작업 데이터 수집 과정; 상기 공급측 플랫폼 서버가 상기 작업 데이터를 검수하고 검수 통과 여부 정보를 해당 작업 데이터에 맵핑하여 저장하는 검수 과정; 및 상기 공급측 플랫폼 서버가 상기 검수 통과 여부 정보에 의해 검수 통과된 작업 데이터에 대해 해당 데이터 라벨링 작업에 할당된 리워드를 상기 가입자에게 제공하는 리워드 제공 과정을 포함하는 것을 특징으로 한다.
상기 방법은: 상기 공급측 플랫폼 서버가 적어도 하나 이상의 고객사로부터 적어도 하나 이상의 데이터 라벨링 작업을 요청받아 저장하고 있는 하나 이상의 수요측 플랫폼 서버 및 다수의 가입자를 보유하고 있는 레거시 서비스를 제공하는 레거시 서버인 하나 이상의 출판 서버를 등록하는 등록 과정을 더 포함하되, 상기 데이터 라벨링 작업 등록 과정은, 고객사의 요청에 의해 데이터 라벨링 작업을 생성하거나, 상기 수요측 플랫폼 서버로부터 데이터 라벨링 작업을 수신받아 등록하고, 상기 데이터 라벨링 작업 제공 과정은, 상기 등록된 하나 이상의 출판 서버를 통해 각 출판 서버에 대한 가입자 중 데이터 라벨링 작업을 요청한 가입자를 작업자로 하여 상기 작업자의 작업자 단말부로 제공하는 것을 특징으로 한다.
상기 라벨링 작업 제공 과정은, 상기 공급측 플랫폼 서버가 등록된 데이터 라벨링 작업을 상기 각 출판 서버로 제공하는 라벨링 작업 출판 서버 등록 단계; 및 상기 각 출판 서버가 레거시 서비스의 제공 중 상기 작업자 단말부로부터 라벨링 작업 요청 이벤트가 발생되면 등록된 적어도 하나 이상의 데이터 라벨링 작업 중 어느 하나를 선택할 수 있는 데이터 라벨링 작업 선택 수단을 상기 작업자 단말부로 제공하고, 상기 출판 서버가 작업자 단말부로부터 하나의 데이터 라벨링 작업을 선택받고 선택된 데이터 라벨링 작업을 작업자 단말부로 제공하는 라벨링 작업 제공 단계를 포함하되, 상기 작업 데이터 수집 과정은, 상기 출판 서버가 상기 작업자 단말부로 제공된 데이터 라벨링 작업에 대한 작업 데이터를 수집하여 상기 공급측 플랫폼 서버로 전송하는 작업 데이터 중계 수집 단계; 및 상기 공급측 플랫폼 서버가 상기 각 출판 서버들로부터 작업자 단말부로 제공된 데이터 라벨링 작업에 대한 가입자 정보 및 작업 데이터를 수신받는 작업 데이터 수집 단계를 포함하는 것을 특징으로 한다.
상기 등록 과정에서 상기 공급측 플랫폼 서버가 출판 서버의 등록 시 출판 서버의 특성 정보를 더 수신받아 저장하되, 상기 라벨링 작업 출판 서버 등록 단계는, 상기 공급측 플랫폼 서버가 등록된 데이터 라벨링 작업을 등록된 출판 서버의 특성 정보별로 분류하는 데이터 라벨링 작업 분류 단계; 및 상기 공급측 플랫폼 서버가 분류된 데이터 라벨링 작업을 분류된 해당 특성 정보의 출판 서버로 제공하는 작업 등록 단계를 포함하는 것을 특징으로 한다.
상기 라벨링 작업 제공 과정은, 상기 각 출판 서버가 레거시 서비스의 제공 중 가입자의 가입자 단말부로부터 라벨링 작업 요청 이벤트가 발생되면 상기 가입자 단말부를 작업자 단말부로 상기 공급측 플랫폼 서버에 연동시키는 공급측 플랫폼 서버 연동 단계; 및 상기 작업자 단말부와 연결된 공급측 플랫폼 서버가 상기 작업자단말부로 적어도 하나 이상의 등록된 데이터 라벨링 작업 중 하나를 선택할 수 있는 데이터 라벨링 작업 선택 수단을 제공하고, 데이터 라벨링 작업 선택 수단을 통해 하나의 데이터 라벨링 작업이 선택되면 선택된 데이터 라벨링 작업을 상기 작업자 단말부로 전송하는 데이터 라벨링 작업 제공 단계를 포함하되, 상기 작업 데이터 수집 과정은, 상기 공급측 플랫폼 서버가 상기 작업자 단말부로 제공된 데이터 라벨링 작업에 대한 작업 데이터를 수집하는 것을 특징으로 한다.
상기 리워드 제공 과정은, 상기 공급측 플랫폼 서버가 상기 검수 통과 여부 정보에 의해 검수 통과된 작업 데이터에 대해 해당 데이터 라벨링 작업에 할당된 리워드를 상기 가입자에게 할당하는 작업 리워드 할당 단계; 상기 공급측 플랫폼 서버가 상기 가입자에게 할당된 리워드를 상기 가입자가 가입하고 있는 레거시 서비스의 포인트로 전환하는 레거시 서비스 포인트 환전 단계; 상기 공급측 플랫폼 서버가 상기 환전된 레거시 서비스 포인트를 상기 레거시 서비스를 제공하는 출판 서버로 제공하는 레거시 서비스 포인트 제공 단계; 및 상기 출판 서버가 환전된 상기 레거시 서비스 포인트를 상기 가입자의 계정에 저장하여 제공하는 레거시 서비스 포인트 지급 단계를 포함하는 것을 특징으로 한다.
상기 리워드 제공 과정은, 상기 공급측 플랫폼 서버가 상기 검수 통과 여부 정보에 의해 검수 통과된 작업 데이터에 대해 해당 데이터 라벨링 작업에 할당된 리워드를 상기 가입자에게 할당하는 작업 리워드 할당 단계; 상기 공급측 플랫폼 서버가 할당된 리워드를 상기 레거시 서비스를 제공하는 출판 서버로 제공하는 리워드 제공 단계; 상기 출판 서버가 상기 가입자에게 할당된 리워드를 상기 레거시 서비스의 포인트로 환전하는 레거시 서비스 포인트 환전 단계; 및 상기 출판 서버가 환전된 상기 레거시 서비스 포인트를 상기 가입자의 계정에 저장하여 제공하는 레거시 서비스 포인트 지급 단계를 포함하는 것을 특징으로 한다.
본 발명은 레거시 서비스에 가입된 가입자들을 로우데이터를 라벨링할 작업자로 활용할 수 있으므로 별도의 라벨링 작업자를 모집할 필요가 없는 효과가 있으며, 이로 인해 라벨링 작업자를 모집하는데 걸리는 시간, 인력 및 비용을 절약할 수 있는 효과가 있다.
또한, 본 발명은 온라인을 통해 각각의 데이터 라벨링 서비스를 제공하는 서비스 제공자의 수요측 플랫폼을 하나의 네트워크로 구성할 수 있으므로 더 많은 라벨링 작업을 확보할 수 있는 효과가 있다.
또한, 본 발명은 레거시 서비스 가입자가 데이터 라벨링 작업에 대한 작업 비용을 자신이 서비스를 받는 레거시 서비스에서 제공되는 포인트로 지급받을 수 있으므로 포인트의 활용도를 높일 수 있고, 가입자를 작업자로 쉽게 유입시킬 수 있는 효과가 있다.
또한, 본 발명은 많은 라벨링 작업을 확보할 수 있고, 레거시 서비스의 수많은 가입자를 작업자로 모집할 수 있으므로, 레거시 서비스 가입자는 더 많은 포인트를 획득할 수 있는 수단을 제공받을 수 있고, 라벨링 작업 제공자인 고객 및 데이터 라벨링 서비스 제공자는 더 저렴하게 라벨링 작업을 수행할 수 있는 효과가 있다.
도 1은 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 시스템의 구성을 나타낸 도면이다.
도 2는 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 시스템을 개념적으로 나타낸 도면이다.
도 3은 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 시스템의 공급측 플랫폼 서버의 상세 구성을 나타낸 도면이다.
도 4는 본 발명에 일실시예에 따른 레거시 서비스를 이용한 데이터 라벨링 시스템의 공급측 플랫폼 서버의 라벨링 작업 처리부의 구성을 나타낸 도면이다.
도 5는 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 시스템의 출판 서버의 상세 구성을 나타낸 도면이다.
도 6은 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 방법 중 데이터 라벨링 작업 등록 방법을 나타낸 절차도이다.
도 7은 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 방법 중 제1실시예에 따른 레거시 서비스를 이용한 데이터 라벨링 서비스 제공 방법을 나타낸 절차도이다.
도 8은 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 방법 중 제2실시예에 따른 레거시 서비스를 이용한 데이터 라벨링 서비스 제공 방법을 나타낸 절차도이다.
도 2는 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 시스템을 개념적으로 나타낸 도면이다.
도 3은 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 시스템의 공급측 플랫폼 서버의 상세 구성을 나타낸 도면이다.
도 4는 본 발명에 일실시예에 따른 레거시 서비스를 이용한 데이터 라벨링 시스템의 공급측 플랫폼 서버의 라벨링 작업 처리부의 구성을 나타낸 도면이다.
도 5는 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 시스템의 출판 서버의 상세 구성을 나타낸 도면이다.
도 6은 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 방법 중 데이터 라벨링 작업 등록 방법을 나타낸 절차도이다.
도 7은 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 방법 중 제1실시예에 따른 레거시 서비스를 이용한 데이터 라벨링 서비스 제공 방법을 나타낸 절차도이다.
도 8은 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 방법 중 제2실시예에 따른 레거시 서비스를 이용한 데이터 라벨링 서비스 제공 방법을 나타낸 절차도이다.
이하 첨부된 도면을 참조하여 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 시스템의 구성 및 동작을 상세히 설명하고, 상기 시스템에서의 레거시 서비스를 이용한 데이터 라벨링 방법을 설명한다.
이하의 설명에서 레거시 서비스는 기존에 이미 제공되고 있는 서비스를 의미하고, 레거시 서버는 상기 레거시 서비스를 제공하는 서버를 의미한다. 레거시 서비스는 기존의 모바일 단말기에 어플리케이션(Application: 이하 "앱(APP)"이라 함)을 통해 제공되는 서비스일 수 있을 것이다. 그러나 모바일 단말기용 어플리케이션에만 한정되는 것은 아니며, 컴퓨터 단말기용 어플리케이션일 수도 있을 것이다. 특히 상기 레거시 서비스는 서비스의 실행에 따른 포인트를 리워드로 제공하는 서비스인 것이 바람직할 것이다.
또한, 이하의 설명에서 데이터 라벨링 작업은 라벨링을 수행하여야 할 로우데이터, 로우데이터에서 어떤 것을 라벨링하여야 하는지를 나타내는 라벨링 설명 정보 및 라벨링을 위한 라벨링 수단을 포함하는 것을 의미한다. 예를 들어, 상기 로우데이터는 이미지, 음성 등이 될 수 있으며, 상기 라벨링 설명 정보는 상기 로우데이터가 이미지인 경우 이미지 내의 특정 아이템을 선택하고 그 아이템에 대해 라벨링을 입력 또는 선택하도록 설명하는 정보일 수 있으며, 상기 라벨링 수단은 상기 로우데이터인 이미지에서 특정 아이템을 선택할 수 있도록 하고, 그 아이템에 대한 라벨링을 입력 또는 선택할 수 있도록 하는 수단일 수 있을 것이다.
도 1은 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 시스템의 구성을 나타낸 도면이고, 도 2는 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 시스템을 개념적으로 나타낸 도면이다. 이하 도 1 및 도 2를 참조하여 설명한다.
본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 시스템은 공급측 플랫폼(Supply Side Platform: SSP) 서버(200)(이하 상세한 설명에서 "SSP 서버"라 함) 및 하나 이상의 출판(Publisher) 서버(300)를 포함하되, 실시예에 따라 적어도 하나 이상의 수요측 플랫폼(Demand Side Platform: DSP) 서버(100)(이하 상세한 설명에서 "DSP 서버"라 함)를 더 포함할 수 있을 것이다.
DSP 서버(100), SSP 서버(200) 및 출판 서버(300)는 유무선 데이터통신망(40)을 통해 연결되어 상호 데이터 통신을 수행한다.
상기 유무선 데이터통신망(40)은 와이파이(WiFi)망을 포함하는 인터넷망, 3세대(3 Generation: 3G), 4G, 5G 등을 포함하는 이동통신망, 와이브로망, 전용망 등 중 어느 하나 이상이 결합되어 있는 통신망이다.
상기 SSP 서버(200) 및 하나 이상의 출판 서버(300)는 인테넷망의 로컬망(Local Area Network: LAN)을 통해 연결될 수도 있을 것이다.
DSP 서버(100)는 고객사로부터 데이터 라벨링 작업 요청을 받아 온라인을 통해 데이터 라벨링 작업을 작업자에게 제공하여 데이터 라벨링 처리에 따른 작업 데이터를 수집하여 고객사에게 제공하는 데이터 라벨링 서비스를 제공하는 데이터 라벨링 서비스 제공자의 서버이다.
DSP 서버(100)는 고객사로부터 데이터 라벨링 작업에 대한 의뢰를 받아 데이터 라벨링 작업을 생성하여 등록하고, 등록된 데이터 라벨링 작업을 SSP 서버(200)로 제공하고, 제공된 데이터 라벨링 작업에 대한 작업 데이터를 수신받아 해당 고객사에 대해 저장한다. 저장된 상기 작업 데이터는 고객사로 제공될 것이다.
SSP 서버(200)는 고객사로부터 직접 데이터 라벨링 작업에 대한 의뢰를 받아 데이터 라벨링 작업을 생성하여 등록하거나 적어도 하나 이상의 등록된 DSP 서버(100)로부터 생성된 데이터 라벨링 작업을 수신받아 저장할 수도 있을 것이다. 상기 데이터 라벨링 작업은 관리자에 의해 생성될 수도 있고, 고객사 관리자가 입력하는 정보에 의해 자동 생성하도록 구성될 수도 있을 것이다.
SSP 서버(200)는 등록된 데이터 라벨링 작업을 적어도 하나 이상의 출판 서버(300) 및 작업자 단말부(400)를 통해 작업자에게 제공하고, 작업자가 작업자 단말부(400)를 통해 상기 제공된 데이터 라벨링 작업을 수행하여 생성되는 작업 데이터를 획득하여 저장한 후, 해당 고객사 또는 DSP 서버(100)로 제공한다.
SSP 서버(200)는 제1실시예에 따라 출판 서버(300)들로 등록된 데이터 라벨링 작업 모두 또는 일부를 제공하여 출판 서버(300)에 의해 데이터 라벨링 작업이 처리될 수 있도록 구성될 수도 있고, 제2실시예에 따라 출판 서버(300)의 중계에 의해 작업자 단말부(400)들과 직접 연결되어 저장된 데이터 라벨링 작업을 작업자 단말부(400)로 직접 제공하여 처리하도록 구성될 수도 있을 것이다.
SSP 서버(200)는 저장된 각 데이터 라벨링 작업의 처리에 대한 리워드(보상)를 정의하고 있으며, 해당 데이터 라벨링 작업을 처리하여 작업 데이터를 성공적으로 업로드한 작업자에게 리워드를 제공한다. 상기 리워드는 현금일 수도 있고, 작업자가 가입자로 속해 있는 출판 서버(300)에서 제공되는 레거시 서비스에서 지급되는 포인트일 수도 있을 것이다.
SSP 서버(200)는 제공된 데이터 라벨링 작업에 대해 수신된 작업 데이터에 대해 검수를 수행하고, 검수 성공 여부에 따른 검수 성공 여부 정보를 해당 작업 데이터에 맵핑하여 저장한다.
검수를 수행하는 경우, SSP 서버(200)는 검수에 성공한 작업 데이터에 대해서만 리워드를 제공하도록 구성되는 것이 바람직할 것이다.
출판 서버(300)는 레거시 서비스를 제공하는 레거시 서버로서, 레거시 서비스에 가입한 다수의 가입자에 가입자 정보를 저장하는 가입자 DB(311)를 포함하고 있으며, 본 발명에 따라 상기 레거시 서비스를 이용 중인 가입자 중 본인의 선택에 의해 SSP 서버(200)에 등록된 데이터 라벨링 작업을 요청한 가입자를 데이터 라벨링 작업을 처리할 작업자로 설정하고, 상기 작업자로 설정된 가입자가 상기 가입자의 단말부인 작업자 단말부(400)를 통해 데이터 라벨링 작업을 처리할 수 있도록 한다. 상기 레거시 서비스는 특정 앱에 의해 제공되는 서비스일 수 있으며, 상기 앱은 일 예로, 캐쉬슬라이드(Cashslide), 탭탭큐브(TapTapCube), 스텝업(StepUp) 등의 모바일 앱이 될 수 있을 것이다. 또한, 상기 앱은 윈도우 기반의 컴퓨터 단말기 앱일 수도 있을 것이다.
출판 서버(300)는 제1실시예에 따라 SSP 서버(200)로부터 적어도 하나 이상의 데이터 라벨링 작업을 수신받아 저장하고, 레거시 서비스를 이용 중인 가입자에 의한 라벨링 작업 요청 이벤트의 발생 시 저장된 데이터 라벨링 작업 중 선택된 데이터 라벨링 작업을 가입자의 단말부인 작업자 단말부(400)로 제공하고, 그에 따른 작업 데이터를 작업자 단말부(400)로부터 수신받아 SSP 서버(200)로 제공한다.
출판 서버(300)는 제2실시예에 따라 레거시 서비스를 이용 중인 가입자에 의한 라벨링 작업 요청 이벤트가 발생되면 작업자 단말부(400)를 SSP 서버(200)와 접속시켜 SSP 서버(200)에 등록된 데이터 라벨링 작업 중 가입자가 선택하는 데이터 라벨링 작업을 처리하여 작업 데이터를 업로드할 수 있도록 한다.
작업자 단말부(400)는 출판 서버(300)가 제공하는 레거시 서비스에 가입된 가입자의 가입자 단말부로 본 발명의 데이터 라벨링 작업을 수행하는 단말부이다.
작업자 단말부(400)는 데스크톱 컴퓨터, 개인용 컴퓨터, 노트북 등의 컴퓨터 단말기(410) 또는 3G, 4G, 5G 등의 이동통신망을 통해 인터넷 서비스를 제공받을 수 있는 스마트폰, 스마트 패드 등의 스마트 단말기(420) 등이 될 수 있을 것이다.
작업자 단말부(400)는 레거시 서비스를 제공받기 위한 앱이 설치되어 있으며, 상기 앱은 레거시 서비스 중 제1실시예에 따라 SSP 서버(200)가 제공하는 데이터 라벨링 작업을 수신받아 저장하고, 레거시 서비스 중 가입자의 데이터 라벨링 작업을 요청할 수 있는 데이터 라벨링 작업 요청 메뉴 및 버튼 등을 포함하고, 데이터 라벨링 작업 요청에 따른 데이터 라벨링 작업 선택 수단 및 데이터 라벨링 작업 처리 수단 등을 포함하는 소프트웨어 개발 키트(Software Development Kit: SDK) 형태 등의 서브 앱을 포함하고 있을 것이다.
또한, 상기 앱은 본 발명의 제2실시예에 따라 레거시 서비스 중 가입자의 데이터 라벨링 작업을 요청할 수 있는 데이터 라벨링 작업 요청 메뉴 및 버튼 등을 포함하고, 데이터 라벨링 작업 요청에 따른 작업자 단말부(400)와 SSP 서버(200)를 연동시키는 소프트웨어 개발 키트(Software Development Kit: SDK) 형태 등의 서브 앱을 포함하고 있을 것이다.
도 3은 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 시스템의 공급측 플랫폼 서버의 상세 구성을 나타낸 도면이고, 도 4는 본 발명에 제1실시예에 따른 레거시 서비스를 이용한 데이터 라벨링 시스템의 공급측 플랫폼 서버의 라벨링 작업 처리부의 구성을 나타낸 도면이다.
도 3 및 도 4를 참조하면, SSP 서버(200)는 공급측서버 저장부(210), 공급측서버 통신부(220) 및 공급측서버 제어부(230)를 포함한다.
공급측서버 저장부(210)는 DSP 등록 DB(211), 작업 DB(212), 출판자 등록 DB(213) 및 작업 데이터 DB(214)를 포함하며, 실시예에 따라 작업자 DB(215)를 더 포함할 수도 있을 것이다.
상기 DSP 등록 DB(211)는 DSP 서버(100)의 서버 정보 및 DSP 서비스 제공자 정보를 포함하는 DSP 등록 정보를 저장한다.
작업 DB(212)는 상기 DSP 등록 DB(211)에 저장되어 등록된 DSP 서버(100)들이 등록 요청한 데이터 라벨링 작업 및 고객사의 요청에 의해 생성된 데이터 라벨링 작업을 저장한다.
출판자 등록 DB(213)는 데이터 라벨링 작업을 처리하기 위한 레거시 서비스를 제공하는 출판 서버(300)의 서버 정보를 저장한다. 상기 서버 정보는 상기 출판 서버(300)의 접속 정보 및 상기 출판 서버(300)의 특성 정보인 출판 서버 특성 정보를 포함할 수 있을 것이다. 상기 출판 서버 특성 정보는 상기 레거시 서비스에 대한 특성 정보로서, 독서, 게임, 광고, 정보 공유, 메신저 등과 같은 정보가 될 수 있을 것이다.
작업 데이터 DB(214)는 상기 작업 DB(212)에 등록된 데이터 라벨링 작업 중 어느 하나 이상에 대해 수행된 작업 데이터 및 작업 데이터를 업로드한 작업자인 가입자의 가입자 정보를 저장한다. 상기 가입자 정보는 해당 가입자가 가입되어 있는 레거시 서비스를 제공하는 출판 서버(300)의 출판 서버 식별정보를 포함할 것이다.
또한, 작업 데이터 DB(214)는 작업자가 업로드한 작업 데이터의 검수 수행 여부 및 검수 성공 여부 정보를 포함한다.
상기 작업자 DB(215)는 데이터 라벨링 작업을 수행한 가입자의 가입자 정보 및 해당 가입자의 검수 성공 횟수 및 총 지급 리워드 등을 포함하는 라벨링 작업 수행 평가 정보 등을 저장할 수 있을 것이다.
공급측서버 통신부(220)는 유무선 데이터통신망(40)에 유선으로 접속하여 공급측서버 제어부(230)가 유무선 데이터통신망(40)에 접속되어 있는 DSP 서버(100), 출판 서버(300), 작업자 단말부(400) 등과 데이터 통신을 수행할 수 있도록 한다.
공급측서버 제어부(230)는 등록부(240), 라벨링 작업 등록부(250), 라벨링 작업 처리부(260), 라벨링 작업 데이터 수집부(270), 작업 데이터 검수부(280) 및 리워드 제공부(290)를 포함하여 본 발명에 따른 SSP 서버(200)의 전반적인 동작을 제어한다.
구체적으로, 등록부(240)는 DSP 등록부(241) 및 출판자 등록부(242)를 포함하여 DSP 서버(100) 및 출판자인 출판 서버(300)를 등록한다.
DSP 등록부(241)는 공급측서버 통신부(220)를 통해 관리자 단말부(미도시) 또는 DSP 서버(100)로부터 DSP 서버(100)의 서버 정보 및 DSP 서비스 제공자 정보를 포함하는 DSP 등록 정보를 수신받아 상기 DSP 등록 DB(211)에 저장하여 해당 DSP 서버(100)를 등록한다.
출판자 등록부(242)는 공급측서버 통신부(220)를 통해 관리자 단말부 또는 출판 서버(300)로부터 서버 정보 및 출판 서버 특성 정보를 포함하는 출판자 등록 정보를 출판자 등록 DB(213)에 저장하여 적어도 하나 이상의 출판 서버(300)를 등록한다.
상기 출판자 등록부(242)는 출판 서버(300) 등록 시 출판 서버(300)에 본 발명에 따른 데이터 라벨링 작업 서비스를 제공하기 위한 SDK 형태의 서브 앱을 설치하도록 구성될 수도 있을 것이다.
라벨링 작업 등록부(250)는 생성되거나 DSP 등록 DB(211)에 등록된 DSP 서버(100)들로부터 수신되는 데이터 라벨링 작업을 작업 DB(212)에 저장하여 등록한다.
라벨링 작업 처리부(260)는 등록된 상기 출판 서버를 통해 작업자 단말부(400)로 상기 데이터 라벨링 작업을 제공한다.
라벨링 작업 처리부(260)는 제1실시예에 따라 작업 DB(212)에 저장된 데이터 라벨링 작업들을 출판 서버(300)로 제공한다. 이때 라벨링 작업 처리부(260)는 작업 DB(212)에 저장된 모든 데이터 라벨링 작업들을 각 출판 서버(300)로 제공할 수도 있고, 출판 서버(300)의 출판 서버 특성정보에 대응하는 특성별로 데이터 라벨링 작업들을 분류하고, 특성별로 분류된 데이터 라벨링 작업을 해당 특성에 대응하는 출판 서버 특성 정보를 가지는 출판 서버(300)로 제공하도록 구성될 수도 있을 것이다.
라벨링 작업 처리부(260)는 제2실시예에 따라 라벨링 작업 요청 이벤트 모니터링부(261), 작업자 접속 처리부(262) 및 작업 업무 제공부(263)를 포함하여 출판 서버(300)의 연동 처리에 의한 작업자 단말부(400)와 직접 접속하여 데이터 라벨링 작업을 작업자 단말부(400)로 제공하여 처리될 수 있도록 한다.
구체적으로 라벨링 작업 요청 이벤트 모니터링부(261)는 출판 서버(300)의 가입자인 작업자의 작업자 단말부(400)의 데이터 라벨링 작업 요청에 의해 상기 출판 서버(300)로부터 라벨링 작업 요청 이벤트가 발생하는지를 모니터링한다.
상기 작업자 접속 처리부(262)는 상기 출판 서버(300)와 연동하여 상기 작업자 단말부(400)의 작업자 정보(=가입자 정보)를 획득하고 상기 작업자 단말부(400)와 접속한다.
작업 업무 제공부(263)는 상기 접속된 작업자 단말부(400)로 상기 작업 DB(212)에 등록된 데이터 라벨링 작업들 중 하나를 선택할 수 있는 데이터 라벨링 작업 선택 수단을 작업자 단말부(400)로 제공하고, 상기 데이터 라벨링 작업 선택 수단을 통해 선택된 데이터 라벨링 작업을 상기 작업자 단말부(400)로 제공한다.
라벨링 작업 데이터 수집부(270)는 상기 라벨링 작업 처리부(260)를 통해 작업자 단말부(400)로 제공된 데이터 라벨링 작업에 대해 해당 작업자 단말부(400)로부터 작업 데이터 및 작업자 정보(가입자 정보)를 수집하여 작업 데이터 DB(214)에 저장한다.
작업 데이터 검수부(280)는 작업 데이터가 작업 데이터 DB(214)에 저장되면 이를 미리 등록된 검수자의 검수자 단말부(미도시)로 제공하여 통지하고, 접속한 검수자 단말부로 작업 데이터를 제공하며, 제공된 작업 데이터에 대한 검수 정보를 검수자 단말부로부터 입력받아 검수 여부 정보 및 검수 통과 여부 정보를 생성하여 해당 작업 데이터에 맵핑하여 저장한다.
리워드 제공부(290)는 상기 작업 데이터 DB(214)에 저장된 작업 데이터 중 검수되고 검수 통과된 작업 데이터에 대해 상기 작업 데이터에 대해 미리 설정된 리워드를 상기 작업 데이터를 업로드한 작업자에게 할당한다.
리워드 제공부(290)는 작업자에게 할당된 리워드를 그대로 출판 서버(300)로 제공하여 해당 작업자, 즉 가입자의 계정에 적립되도록 할 수도 있고, 상기 작업자가 가입한 레거시 서비스에서 사용되는 포인트로 환전한 후 해당 출판 서버(300)로 제공하여 상기 가입자의 계정에 적립되도록 할 수도 있을 것이다.
도 5는 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 시스템의 출판 서버의 상세 구성을 나타낸 도면이다.
출판 서버(300)는 출판서버 저장부(310), 출판서버 통신부(320) 및 출판서버 제어부(330)를 포함한다.
출판서버 저장부(310)는 다수의 가입자에 대한 가입자 정보를 저장하는 가입자 DB(311) 및 상기 가입자 DB(311)에 저장된 가입자 정보의 가입자별 계정이 구성되고 상기 계정에 해당 가입자에 대한 리워드를 적립하는 가입자 리워드 DB(312)를 포함하며, 실시예에 따라 데이터 라벨링 작업을 수행하기로 동의한 동의정보를 포함하는 가입자에 대한 작업자 전환 정보를 저장하는 작업자 전환 DB(313) 및 SSP 서버(200)로부터 수신한 데이터 라벨링 작업을 저장하는 작업 DB(314)를 더 포함할 수 있을 것이다.
상기 작업자 전환 DB(313)는 작업자로 전환하여 수행한 데이터 라벨링 작업에 대한 정보, 데이터 라벨링 작업의 처리에 따라 업로드한 작업 데이터 정보 및 그에 따라 보상받은 리워드 정보 등을 더 포함할 수 있을 것이다. 상기 작업 데이터 정보는 데이터 라벨링 작업 다운로드 일자, 작업 데이터 업로드 일자, 작업 데이터 검수 성공 여부 정보 등이 포함될 수 있을 것이다.
출판서버 통신부(320)는 유무선 데이터통신망(40)에 유선으로 접속하여 상기 유무선 데이터통신망(40)에 접속한 SSP 서버(200) 및 작업자 단말부(400)와 데이터 통신을 수행할 수 있도록 한다.
출판서버 제어부(330)는 앱 서비스 모듈(340) 및 라벨링 모듈(350)을 포함하여 본 발명에 따른 출판 서버(300)의 전반적인 동작을 제어한다.
구체적으로 설명하면, 앱 서비스 모듈(340)은 레거시 서비스를 제공하기 위한 전반적인 동작을 처리하는 앱 서비스부(341), 상기 레거시 서비스 중 메뉴 및 서비스 앱에서 제공되는 그래픽 사용자 인터페이스 수단에 표시된 데이터 라벨링 작업 요청 버튼 등 중 어느 하나의 선택에 의한 라벨링 작업 이벤트가 발생되는지를 모니터링하고, 라벨링 작업 이벤트의 발생 시 상기 라벨링 모듈(350)을 활성화시키는 라벨링 작업 이벤트 모니터링부(343)를 포함한다.
제1실시예에 따라 앱 서비스 모듈(340)은 상기 레거시 서비스 중 SSP 서버(200)로부터 데이터 라벨링 작업의 등록 요청이 발생되는지를 모니터링하고, 데이터 라벨링 작업의 등록 요청 발생 시 SSP 서버(200)로부터 데이터 라벨링 작업을 수신받아 작업 DB(314)에 저장하는 라벨링 작업 등록부(342)를 더 포함할 것이다.
라벨링 모듈(350)은 본 발명의 제1실시예에 따라 작업 제공부(351), 라벨링 작업 데이터 획득부(352) 및 작업 데이터 제공부(353)를 포함하고, 실시예에 따라 리워드 획득부(354)를 더 포함할 수 있을 것이다.
상기 작업 제공부(351)는 라벨링 작업 이벤트 모니터링부(343)에 라벨링 모듈(350)이 활성화되면 작업 DB(314)에 저장된 데이터 라벨링 작업 중 하나를 선택할 수 있는 데이터 라벨링 작업 선택 수단을 작업자 단말부(400)로 제공하고, 상기 데이터 라벨링 작업 선택 수단을 통해 하나의 데이터 라벨링 작업이 선택되면 선택된 데이터 라벨링 작업을 작업자 단말부(400)로 제공한다.
작업 데이터 획득부(352)는 상기 데이터 라벨링 작업에 작업자 단말부(400)로 제공된 후 상기 데이터 라벨링 작업에 대해 작업자 단말부(400)로부터 입력되는 작업 데이터를 획득하여 작업 데이터 제공부(353)로 제공한다.
작업 데이터 제공부(353)는 상기 작업 데이터 획득부(352)에서 획득된 작업 데이터 및 작업 데이터를 제출한 작업자 정보, 즉 가입장 정보를 출판서버 통신부(320)를 통해 SSP 서버(200)로 제공한다.
리워드 획득부(354)는 상기 작업 데이터에 대한 리워드를 SSP 서버(200)로부터 수신받아 상기 작업 데이터를 제출한 작업자인 가입자의 계정에 누적하여 저장한다. 상기 리워드는 실시예에 따라 SSP 서버(200)에서 정의된 포인트일 수도 있고, 출판 서버(300)가 제공하는 레거시 서비스에서 사용되는 포인트일 수도 있을 것이다.
상기 리워드 획득부(354)는 실시예에 따라 상기 리워드가 SSP 서버(200)에서 정의된 포인트인 경우 해당 출판 서버(300)가 제공하는 레거시 서비스에서 사용되는 포인트로 환전한 후 상기 작업자의 계정에 누적하여 저장할 수도 있을 것이다.
제2실시예에 따라 라벨링 모듈(350)은 라벨링 작업 이벤트 모니터링부(343)를 통해 라벨링 작업 이벤트의 발생 시 활성화되어 상기 라벨링 작업 이벤트를 발생시킨 작업자 단말부(400)와 SSP 서버(200)를 접속시켜 SSP 서버(200)를 통해 데이터 라벨링 작업을 제공받을 수 있도록 처리한다.
도 6은 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 방법 중 데이터 라벨링 작업 등록 방법을 나타낸 절차도이다.
도 6을 참조하면, DSP 서버(100)는 고객사의 요청에 따른 데이터 라벨링 작업이 등록되는지를 모니터링한다(S111).
상기 모니터링 중에 데이터 라벨링 작업이 등록되면 DSP 서버(100)는 등록된 데이터 라벨링 작업을 포함하는 라벨링 작업 등록 요청 정보를 SSP 서버(200)로 전송한다(S113).
SSP 서버(200)는 라벨링 작업 등록 이벤트가 발생되는지를 모니터링한다(S115).
라벨링 작업 등록 이벤트가 발생되면 SSP 서버(200)는 상기 라벨링 작업 등록 이벤트가 DSP 서버(100)로부터 수신되는 라벨링 작업 등록 요청 정보에 의한 것인지 고객사의 직접적인 데이터 라벨링 작업 요청에 따른 데이터 라벨링 작업의 생성에 의한 것인지를 판단한다(S117).
상기 라벨링 작업 등록 이벤트가 DSP 서버(100)로부터 수신되는 라벨링 작업 등록 요청 정보에 의한 것이면 SSP 서버(200)의 공급측서버 제어부(230)는 상기 라벨링 작업 등록 요청 정보에 포함된 데이터 라벨링 작업을 작업 DB(212)에 저장하여 등록한다(S119).
반면, 고객의 직접적인 요청에 의한 것이면 공급측서버 제어부(230)는 라벨링 작업 등록 수단을 고객사 관리자의 단말기(미도시) 또는 본 발명에 따른 SSP 서버(200) 관리자의 단말기(미도시)로 제공하고(S121), 상기 관리자의 단말기를 통해 데이터 라벨링 작업에 대한 등록 요청이 발생되는지를 검사한다(S123).
데이터 라벨링 작업 등록 요청이 발생되면 공급측서버 제어부(230)는 관리자의 단말기로부터 데이터 라벨링 등록 수단을 통해 생성된 데이터 라벨링 작업을 작업 DB(212)에 저장하여 등록한다(S125).
도 7은 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 방법 중 제1실시예에 따른 레거시 서비스를 이용한 데이터 라벨링 서비스 제공 방법을 나타낸 절차도이다.
도 7을 참조하면, SSP 서버(200)는 라벨링 작업 등록 이벤트가 발생하는지를 검사한다(S211). 상기 라벨링 작업 등록 이벤트는 상술한 바와 같이 DSP 서버(100)로부터 라벨링 작업 등록 요청 정보가 수신되거나 고객사의 직접적인 요청에 의한 데이터 라벨링 작업의 생성 시 발생될 수 있을 것이다.
라벨링 작업 등록 이벤트가 발생되면 SSP 서버(200)의 공급측서버 제어부(230)는 작업 DB(212)에 등록되어 있는 모든 데이터 라벨링 작업, 일부 데이터 라벨링 작업, 또는 새롭게 등록된 데이터 라벨링 작업을 출판 서버(300)들로 전송한다(S213).
출판 서버(300)는 SSP 서버(200)로부터 데이터 라벨링 작업이 수신되면 출판서버 저장부(310)의 작업 DB(314)에 저장하여 등록한다(S215).
적어도 하나 이상의 데이터 라벨링 작업을 등록하고 있는 출판 서버(300)는 접속하여 레거시 서비스를 이용 중인(S201) 작업자의 작업자 단말부(400)에 의해 라벨링 작업 요청 이벤트가 발생되는지를 모니터링하고(S217), 라벨링 작업 요청 이벤트가 발생되면 데이터 라벨링 작업 선택 수단을 작업자 단말부(400)로 제공한다(S219).
상기 라벨링 작업 선택 수단을 작업자 단말부(400)로 제공한 후, 출판서버 제어부(330)는 상기 라벨링 작업 선택 수단을 통해 하나의 데이터 라벨링 작업이 선택되는지를 검사하고(S223), 작업자 단말부(400)로부터 상기 데이터 라벨링 작업 선택 수단을 통해 하나의 데이터 라벨링 작업이 선택되면(S221) 선택된 데이터 라벨링 작업을 작업자 단말부(400)로 제공한다(S225).
상기 출판서버 제어부(330)는 상기 데이터 라벨링 작업의 제공 후, 상기 작업자 단말부(400)로부터 제공된 상기 데이터 라벨링 작업에 대한 작업 데이터가 수신되는지를 모니터링하고(S229), 작업자 단말부(400)로부터 작업 데이터가 수신되면(S227) SSP 서버(200)로 수신된 작업 데이터는 전송한다(S231).
상기 작업 데이터를 수신한 SSP 서버(200)의 공급측서버 제어부(230)는 상기 작업 데이터에 대한 검수를 수행한다(S233). 상기 검수는 상술한 바와 같이 전문가인 관리자에 의해 수행될 수도 있고, 데이터 라벨링 작업별로 미리 정의된 검수 규칙에 따라 자동 수행될 수도 있을 것이다.
상기 수신된 데이터 라벨링 작업에 대한 검수가 수행되면 공급측서버 제어부(230)는 검수 성공 여부를 판단하고(S235), 검수 실패 시 출판 서버(300)를 통해 작업자 단말부(400)로 검수 실패를 통지한다(S237, S239).
반면, 검수에 성공하면 공급측서버 제어부(230)는 검수된 작업 데이터의 데이터 라벨링 작업에 대해 미리 설정된 리워드를 상기 작업 데이터를 업로드한 작업자에게 할당하고(S241), 할당된 리워드를 해당 출판 서버(300)로 지급한다(S243).
상기 출판 서버(300)의 출판서버 제어부(330)는 SSP 서버(200)로부터 리워드가 수신되면 해당 작업자인 가입자의 계정에 리워드를 저장하여 리워드의 지급을 완료한다(S245). 이때, 상술한 바와 같이 상기 리워드는 상기 출판 서버(300)에서 제공되는 레거시 서비스에 사용되는 리워드, 즉 포인트로 환전되어 제공될 수 있을 것이다.
도 8은 본 발명에 따른 레거시 서비스를 이용한 데이터 라벨링 방법 중 제2실시예에 따른 레거시 서비스를 이용한 데이터 라벨링 서비스 제공 방법을 나타낸 절차도이다.
도 8을 참조하면, 출판 서버(300)의 출판서버 제어부(330)는 시스템에 접속하여(S311) 레거시 서비스를 이용 중인 가입자의 작업자 단말부(400)로부터 라벨링 작업 요청 이벤트가 발생되는지를 모니터링한다(S313).
임의의 가입자의 작업 단말부(400)로부터 라벨링 작업 요청 이벤트가 발생되면 출판서버 제어부(330)는 상기 가입자를 데이터 라벨링 작업자로 전환하여 상기 작업자 단말부(400) 및 SSP 서버(200)를 연동시켜 SSP 서버(200)와 작업자 단말부(400)를 접속시킨다(S315, S317).
작업자 단말부(400)와 접속된 SSP 서버(200)의 공급측서버 제어부(230)는 라벨링 작업 선택 수단을 작업자 단말부(400)로 제공하고(S319), 데이터 라벨링 작업이 선택되는지를 검사한다(S323).
상기 데이터 라벨링 작업의 선택 여부 모니터링 중 작업자가 선택된 데이터 라벨링 작업 선택 정보를 수신되면(S321), 공급측 서버 제어부(230)는 선택된 데이터 라벨링 작업을 직접 작업자 단말부(400)로 제공한다(S325).
상기 데이터 라벨링 작업을 작업자 단말부(400)로 제공한 공급측서버 제어부(230)는 상기 데이터 라벨링 작업에 대한 작업 데이터가 수신되는지를 모니터링하고(S329), 상기 모니터링 중에 작업자 단말부(400)로부터 작업 데이터가 수신되면(S327), 수신된 작업 데이터에 대한 검수를 수행한(S331) 후 검수 성공 여부를 판단한다(S333).
검수에 실패하면 공급측서버 제어부(230)는 작업자 단말부(400)로 검수 실패를 통지하고(S335), 검수에 성공하면 작업 데이터의 데이터 라벨링 작업에 대응하여 미리 설정된 리워드를 상기 출판 서버(300)로 지급한다(S339).
출판 서버(300)의 출판서버 제어부(330)는 SSP 서버(200)로부터 리워드가 지급되면 해당하는 작업자, 즉 가입자의 계정에 상기 리워드를 저장하여 리워드 지급을 완료한다(S341).
상기 리워드의 지급 완료 후 출판 서버(300)는 작업자 단말부(400)와 SSP 서버(200) 간의 접속 연동을 종료하고(S343), 작업자 단말부(400)와 직접 접속하여(S345) 리워드 정보를 제공한다(S347).
한편, 본 발명은 전술한 전형적인 바람직한 실시예에만 한정되는 것이 아니라 본 발명의 요지를 벗어나지 않는 범위 내에서 여러 가지로 개량, 변경, 대체 또는 부가하여 실시할 수 있는 것임은 당해 기술분야에서 통상의 지식을 가진 자라면 용이하게 이해할 수 있을 것이다. 이러한 개량, 변경, 대체 또는 부가에 의한 실시가 이하의 첨부된 특허청구범위의 범주에 속하는 것이라면 그 기술사상 역시 본 발명에 속하는 것으로 보아야 한다.
40: 유무선 데이터통신망 100: 수요측 플랫폼 서버(DSP 서버)
200: 공급측 플랫폼 서버(SSP 서버)
210: 공급측서버 저장부 211: DSP 등록 DB
212: 작업 DB 213: 출판자 등록 DB
214: 작업 데이터 DB 215: 작업자 DB
220: 공급측서버 통신부 230: 공급측서버 제어부
240: 등록부 241: DSP 등록부
242: 출판자 등록부 250: 라벨링 작업 등록부
260: 라벨링 작업 처리부
261: 라벨링 작업 요청 이벤트 모니터링부
262: 작업자 접속 처리부 263: 작업 업무 제공부
270: 라벨링 작업 데이터 수집부
280: 작업 데이터 검수부 290: 리워드 제공부
300: 출판 서버 310: 출판서버 저장부
311: 가입자 DB 312: 가입자 리워드 DB
313: 작업자 전환 DB 314: 작업 DB
320: 출판서버 통신부 330: 출판서버 제어부
340: 앱 서비스 모듈 341: 앱 서비스부
342: 라벨링 작업 등록부 343: 라벨링 작업 이벤트 모니터링부
350: 라벨링 모듈 351: 작업 제공부
352: 라벨링 작업 데이터 획득부 353: 작업 데이터 제공부
354: 리워드 획득부 400: 작업자 단말부
200: 공급측 플랫폼 서버(SSP 서버)
210: 공급측서버 저장부 211: DSP 등록 DB
212: 작업 DB 213: 출판자 등록 DB
214: 작업 데이터 DB 215: 작업자 DB
220: 공급측서버 통신부 230: 공급측서버 제어부
240: 등록부 241: DSP 등록부
242: 출판자 등록부 250: 라벨링 작업 등록부
260: 라벨링 작업 처리부
261: 라벨링 작업 요청 이벤트 모니터링부
262: 작업자 접속 처리부 263: 작업 업무 제공부
270: 라벨링 작업 데이터 수집부
280: 작업 데이터 검수부 290: 리워드 제공부
300: 출판 서버 310: 출판서버 저장부
311: 가입자 DB 312: 가입자 리워드 DB
313: 작업자 전환 DB 314: 작업 DB
320: 출판서버 통신부 330: 출판서버 제어부
340: 앱 서비스 모듈 341: 앱 서비스부
342: 라벨링 작업 등록부 343: 라벨링 작업 이벤트 모니터링부
350: 라벨링 모듈 351: 작업 제공부
352: 라벨링 작업 데이터 획득부 353: 작업 데이터 제공부
354: 리워드 획득부 400: 작업자 단말부
Claims (17)
- 고객사가 의뢰한 데이터 라벨링 작업을 수신받아 등록하고 등록된 데이터 라벨링 작업을 제공하며, 제공된 데이터 라벨링 작업에 대한 라벨링된 작업 데이터를 수신받고, 수신된 작업 데이터에 대한 검수를 수행하여 검수 통과 시 상기 작업 데이터를 작성한 가입자에게 리워드를 제공하는 공급측 플랫폼 서버; 및
레거시 서비스에 대한 다수의 가입자에 대한 가입자 정보를 저장하여 관리하고, 레거시 서비스를 상기 가입자들에게 제공하고, 레거시 서비스의 제공 중 가입자로부터 데이터 라벨링 작업의 요청이 발생되면 상기 가입자 단말부인 작업자 단말부로 상기 공급측 플랫폼 서버에서 제공되는 라벨링 작업이 작업자 단말부로 제공되도록 하는 적어도 하나 이상의 레거시 서버인 출판 서버를 포함하되,
고객사가 의뢰한 데이터 라벨링 작용 요청에 따라 데이터 라벨링 작업을 생성하여 상기 공급측 플랫폼 서버로 제공하고, 상기 공급측 플랫폼 서버로부터 작업데이터를 수신받아 고객사에게 제공하는 적어도 하나 이상의 수요측 플랫폼 서버를 더 포함하는 것을 특징으로 하는 레거시 서비스를 이용한 데이터 라벨링 시스템.
- 삭제
- 제1항에 있어서,
상기 공급측 플랫폼 서버는,
상기 수요측 플랫폼 서버 및 출판 서버와 데이터 통신을 수행하는 공급측 서버 통신부;
등록된 하나 이상의 수요측 플랫폼 서버에 대한 수요측 플랫폼 서버정보를 포함하는 수요측 플랫폼 서비스 제공자의 서비스 제공자 정보를 저장하여 적어도 하나 이상의 수요측 플랫폼을 등록하고 있는 DSP 등록 DB, 출판 서버에 대한 정보인 출판자 정보를 저장하여 출판 서버를 등록하고 있는 출판자 등록 DB, 적어도 하나 이상의 상기 데이터 라벨링 작업을 저장하는 작업 DB 및 검수 전 및 검수 완료 작업 데이터를 저장하고 검수 완료 작업 데이터의 검수 통과 여부 정보를 저장하는 작업 데이터 DB를 포함하는 공급측 서버 저장부; 및
고객사 및 등록된 상기 수요측 플랫폼 서비스 제공자의 수요측 플랫폼 서버 중 어느 하나 이상으로부터 데이터 라벨링 작업을 상기 공급측 서버 통신부를 통해 수신받아 상기 작업 DB에 저장하고 상기 공급측 서버 통신부를 통해 등록된 상기 출판 서버의 가입자인 작업자의 작업자 단말부로 상기 데이터 라벨링 작업을 제공하며, 상기 작업자 단말부로 제공한 데이터 라벨링 작업에 대한 작업 데이터 및 작업자 정보를 수신받아 상기 작업 데이터 DB에 저장한 후, 검수가 완료되면 검수가 통과된 작업 데이터의 작업자에게 리워드를 제공하는 공급측 서버 제어부를 포함하는 것을 특징으로 하는 레거시 서비스를 이용한 데이터 라벨링 시스템.
- 제3항에 있어서,
상기 공급측 서버 제어부는,
서비스 제공자 정보를 상기 DSP 등록 DB에 저장하여 하나 이상의 수요측 플랫폼을 등록하는 DSP 등록부 및 상기 출판자 정보를 저장하여 적어도 하나 이상의 출판 서버를 등록하는 출판자 등록부를 포함하는 등록부;
상기 DSP 등록부에 의해 등록된 수요측 플랫폼의 수요측 플랫폼 서버로부터 데이터 라벨링 작업 및 고객사로부터 데이터 라벨링 작업 요청 정보 중 어느 하나 이상을 수신받아 데이터 라벨링 작업을 상기 작업 DB에 저장하여 등록하는 라벨링 작업 등록부;
등록된 상기 출판 서버를 통해 작업자 단말부로 상기 데이터 라벨링 작업을 제공하는 라벨링 작업 처리부;
상기 적어도 하나 이상의 출판 서버의 가입자인 작업자의 작업자 단말부로부터 데이터 라벨링 작업에 대한 작업 데이터 및 작업자 정보를 수신받아 상기 작업 데이터 DB에 저장하는 라벨링 작업 데이터 수집부;
상기 작업 데이터 DB에 저장된 작업 데이터에 대한 검수를 진행하여 검수 완료 및 검수 통과 여부 정보를 작업 데이터 DB에 저장하는 작업 데이터 검수부; 및
상기 검수 통과 여부 정보에 의해 검수 통과된 작업 데이터를 판별하고, 검수 통과된 작업 데이터에 대한 작업자 정보의 작업자인 해당 출판 서버의 가입자에게 리워드를 제공하는 리워드 제공부를 포함하는 것을 특징으로 하는 레거시 서비스를 이용한 데이터 라벨링 시스템.
- 제4항에 있어서,
상기 라벨링 작업 처리부는,
상기 작업 DB에 저장되는 데이터 라벨링 작업들을 등록된 상기 출판 서버로 제공하여 상기 출판 서버가 제공받은 데이터 라벨링 작업 중 작업자 단말부를 통해 선택되는 데이터 라벨링 작업을 작업자 단말부로 제공하도록 하며,
상기 라벨링 작업 데이터 수집부는,
제공된 데이터 라벨링 작업에 대한 작업 데이터를 상기 출판 서버로부터 수신받는 것을 특징으로 하는 레거시 서비스를 이용한 데이터 라벨링 시스템.
- 제4항에 있어서,
상기 라벨링 작업 처리부는,
출판 서버의 가입자인 작업자의 작업자 단말부의 데이터 라벨링 작업 요청에 의해 상기 출판 서버로부터 라벨링 작업 요청 이벤트가 발생하는지를 모니터링하는 라벨링 작업 요청 이벤트 모니터링부;
상기 출판 서버와 연동하여 상기 작업자 단말부의 작업자 정보를 획득하고 상기 작업자 단말부와 접속하는 작업자 접속 처리부; 및
상기 접속된 작업자 단말부로 상기 작업 DB에 등록된 데이터 라벨링 작업 중 하나를 선택할 수 있는 데이터 라벨링 작업 선택 수단을 작업자 단말부로 제공하고, 상기 데이터 라벨링 작업 선택 수단을 통해 선택된 데이터 라벨링 작업을 상기 작업자 단말부로 제공하는 작업 업무 제공부를 포함하되,
상기 라벨링 작업 데이터 수집부는,
상기 작업자 단말부로부터 상기 제공된 데이터 라벨링 작업에 대한 작업 데이터를 수집하는 것을 특징으로 하는 레거시 서비스를 이용한 데이터 라벨링 시스템.
- 고객사가 의뢰한 데이터 라벨링 작업을 수신받아 등록하고 등록된 데이터 라벨링 작업을 제공하며, 제공된 데이터 라벨링 작업에 대한 라벨링된 작업 데이터를 수신받고, 수신된 작업 데이터에 대한 검수를 수행하여 검수 통과 시 상기 작업 데이터를 작성한 가입자에게 리워드를 제공하는 공급측 플랫폼 서버; 및
레거시 서비스에 대한 다수의 가입자에 대한 가입자 정보를 저장하여 관리하고, 레거시 서비스를 상기 가입자들에게 제공하고, 레거시 서비스의 제공 중 가입자로부터 데이터 라벨링 작업의 요청이 발생되면 상기 가입자 단말부인 작업자 단말부로 상기 공급측 플랫폼 서버에서 제공되는 라벨링 작업이 작업자 단말부로 제공되도록 하는 적어도 하나 이상의 레거시 서버인 출판 서버를 포함하되,
상기 출판 서버는,
유무선 데이터통신망을 통해 상기 공급측 플랫폼 서버 및 작업자 단말부와 데이터 통신을 수행하는 출판서버 통신부;
다수의 가입자에 대한 작업자 단말부 정보를 포함하는 가입자 정보를 저장하는 가입자 DB를 포함하는 출판서버 저장부; 및
레거시 서비스에 대한 다수의 가입자에 대한 가입자 정보를 상기 가입자 DB에 저장하여 관리하고, 레거시 서비스를 상기 가입자들에게 제공하고, 상기 출판서버 통신부를 통해 레거시 서비스의 제공 중 가입자로부터 데이터 라벨링 작업의 요청이 발생되면 상기 가입자 단말부인 작업자 단말부로 상기 공급측 플랫폼 서버에서 제공되는 라벨링 작업이 작업자 단말부로 제공되도록 하는 출판서버 제어부를 포함하는 것을 특징으로 하는 레거시 서비스를 이용한 데이터 라벨링 시스템.
- 제7항에 있어서,
상기 출판서버 제어부는,
레거시 서비스에 대한 다수의 가입자에 대한 가입자 정보를 저장하여 관리하고, 레거시 서비스를 상기 가입자들에게 제공하고, 상기 레거시 서비스 중 라벨링 작업 이벤트의 발생 여부를 모니터링하는 앱 서비스 모듈; 및
상기 앱 서비스 모듈을 통해 라벨링 작업 이벤트가 발생되어 가입자로부터 데이터 라벨링 작업의 요청이 발생된 것으로 판단되면 활성화되어 상기 가입자 단말부인 작업자 단말부로 상기 공급측 플랫폼 서버에서 제공되는 라벨링 작업이 작업자 단말부로 제공되도록 하는 라벨링 모듈을 포함하는 것을 특징으로 하는 레거시 서비스를 이용한 데이터 라벨링 시스템.
- 제8항에 있어서,
상기 출판서버 저장부는,
데이터 라벨링 작업을 저장하는 작업 DB를 더 포함하되,
상기 앱 서비스 모듈은,
레거시 서비스 중 출판서버 통신부를 통해 공급측 플랫폼 서버로부터 데이터 라벨링 작업이 수신되면 출판서버 저장부의 상기 작업 DB에 저장하여 등록하는 라벨링 작업 등록부를 더 포함하되,
상기 라벨링 모듈은,
상기 라벨링 작업 이벤트에 의한 데이터 라벨링 작업 요청이 발생되면 상기 작업 DB에 등록된 데이터 라벨링 작업 중 어느 하나를 선택할 수 있는 데이터 라벨링 작업 선택 수단을 상기 라벨링 작업 이벤트를 발생시킨 작업자 단말부로 제공하고, 상기 데이터 라벨링 작업 선택 수단을 통해 하나의 데이터 라벨링 작업이 선택되면 선택된 데이터 라벨링 작업을 상기 출판서버 통신부를 통해 상기 작업자 단말부로 제공하는 작업 제공부;
상기 제공된 데이터 라벨링 작업에 대한 작업 데이터를 상기 작업자 단말부로부터 수신하여 획득하는 라벨링 작업 데이터 획득부;
획득된 상기 작업 데이터를 상기 출판서버 통신부를 통해 공급측 플랫폼 서버로 제공하는 작업 데이터 제공부를 포함하는 것을 특징으로 하는 레거시 서비스를 이용한 데이터 라벨링 시스템.
- 제9항에 있어서,
상기 공급측 플랫폼 서버는,
검수에 통과한 상기 작업 데이터를 작성한 가입자의 가입자 정보 및 상기 작업 데이터에 대한 리워드 정보를 출판 서버로 제공하고,
상기 라벨링 모듈은,
상기 가입자 정보 및 리워드 정보를 수신하여 상기 가입자 정보의 가입자에게 상기 리워드 정보에 대응하는 상기 레거시 서비스 시 제공되는 포인트로 리워드를 제공하는 리워드 획득부를 더 포함하는 것을 특징으로 하는 레거시 서비스를 이용한 데이터 라벨링 시스템.
- 공급측 플랫폼 서버가 고객사가 의뢰한 데이터 라벨링 작업을 수신받아 등록하는 데이터 라벨링 작업 등록 과정;
상기 공급측 플랫폼 서버가 등록된 데이터 라벨링 작업을 레거시 서비스를 제공하는 하나 이상의 레거시 서버인 출판 서버에 의해 상기 레거시 서비스에 가입한 가입자의 가입자 단말기인 작업자 단말부로 제공되도록 하는 데이터 라벨링 작업 제공 과정;
상기 공급측 플랫폼 서버가 데이터 라벨링 작업을 제공받은 작업자 단말부로부터 작업 데이터를 수신받아 작업자 단말부의 가입자에 대해 저장하는 작업 데이터 수집 과정;
상기 공급측 플랫폼 서버가 상기 작업 데이터를 검수하고 검수 통과 여부 정보를 해당 작업 데이터에 맵핑하여 저장하는 검수 과정; 및
상기 공급측 플랫폼 서버가 상기 검수 통과 여부 정보에 의해 검수 통과된 작업 데이터에 대해 해당 데이터 라벨링 작업에 할당된 리워드를 상기 가입자에게 제공하는 리워드 제공 과정을 포함하되,
상기 공급측 플랫폼 서버가 적어도 하나 이상의 고객사로부터 적어도 하나 이상의 데이터 라벨링 작업을 요청받아 저장하고 있는 하나 이상의 수요측 플랫폼 서버 및 다수의 가입자를 보유하고 있는 레거시 서비스를 제공하는 레거시 서버인 하나 이상의 출판 서버를 등록하는 등록 과정을 더 포함하고,
상기 데이터 라벨링 작업 등록 과정은,
고객사의 요청에 의해 데이터 라벨링 작업을 생성하거나, 상기 수요측 플랫폼 서버로부터 데이터 라벨링 작업을 수신받아 등록하고,
상기 데이터 라벨링 작업 제공 과정은,
상기 등록된 하나 이상의 출판 서버를 통해 각 출판 서버에 대한 가입자 중 데이터 라벨링 작업을 요청한 가입자를 작업자로 하여 상기 작업자의 작업자 단말부로 제공하는 것을 특징으로 하는 레거시 서비스를 이용한 데이터 라벨링 방법.
- 삭제
- 제11항에 있어서,
상기 라벨링 작업 제공 과정은,
상기 공급측 플랫폼 서버가 등록된 데이터 라벨링 작업을 상기 각 출판 서버로 제공하는 라벨링 작업 출판 서버 등록 단계; 및
상기 각 출판 서버가 레거시 서비스의 제공 중 상기 작업자 단말부로부터 라벨링 작업 요청 이벤트가 발생되면 등록된 적어도 하나 이상의 데이터 라벨링 작업 중 어느 하나를 선택할 수 있는 데이터 라벨링 작업 선택 수단을 상기 작업자 단말부로 제공하고, 상기 출판 서버가 작업자 단말부로부터 하나의 데이터 라벨링 작업을 선택받고 선택된 데이터 라벨링 작업을 작업자 단말부로 제공하는 라벨링 작업 제공 단계를 포함하되,
상기 작업 데이터 수집 과정은,
상기 출판 서버가 상기 작업자 단말부로 제공된 데이터 라벨링 작업에 대한 작업 데이터를 수집하여 상기 공급측 플랫폼 서버로 전송하는 작업 데이터 중계 수집 단계; 및
상기 공급측 플랫폼 서버가 상기 각 출판 서버들로부터 작업자 단말부로 제공된 데이터 라벨링 작업에 대한 가입자 정보 및 작업 데이터를 수신받는 작업 데이터 수집 단계를 포함하는 것을 특징으로 하는 레거시 서비스를 이용한 데이터 라벨링 방법.
- 제13항에 있어서,
상기 등록 과정에서 상기 공급측 플랫폼 서버가 출판 서버의 등록 시 출판 서버의 특성 정보를 더 수신받아 저장하되,
상기 라벨링 작업 출판 서버 등록 단계는,
상기 공급측 플랫폼 서버가 등록된 데이터 라벨링 작업을 등록된 출판 서버의 특성 정보별로 분류하는 데이터 라벨링 작업 분류 단계; 및
상기 공급측 플랫폼 서버가 분류된 데이터 라벨링 작업을 분류된 해당 특성 정보의 출판 서버로 제공하는 작업 등록 단계를 포함하는 것을 특징으로 하는 레거시 서비스를 이용한 데이터 라벨링 방법.
- 제11항에 있어서,
상기 라벨링 작업 제공 과정은,
상기 각 출판 서버가 레거시 서비스의 제공 중 가입자의 가입자 단말부로부터 라벨링 작업 요청 이벤트가 발생되면 상기 가입자 단말부를 작업자 단말부로 상기 공급측 플랫폼 서버에 연동시키는 공급측 플랫폼 서버 연동 단계; 및
상기 작업자 단말부와 연결된 공급측 플랫폼 서버가 상기 작업자단말부로 적어도 하나 이상의 등록된 데이터 라벨링 작업 중 하나를 선택할 수 있는 데이터 라벨링 작업 선택 수단을 제공하고, 데이터 라벨링 작업 선택 수단을 통해 하나의 데이터 라벨링 작업이 선택되면 선택된 데이터 라벨링 작업을 상기 작업자 단말부로 전송하는 데이터 라벨링 작업 제공 단계를 포함하되,
상기 작업 데이터 수집 과정은,
상기 공급측 플랫폼 서버가 상기 작업자 단말부로 제공된 데이터 라벨링 작업에 대한 작업 데이터를 수집하는 것을 특징으로 하는 레거시 서비스를 이용한 데이터 라벨링 방법.
- 제11항에 있어서,
상기 리워드 제공 과정은,
상기 공급측 플랫폼 서버가 상기 검수 통과 여부 정보에 의해 검수 통과된 작업 데이터에 대해 해당 데이터 라벨링 작업에 할당된 리워드를 상기 가입자에게 할당하는 작업 리워드 할당 단계;
상기 공급측 플랫폼 서버가 상기 가입자에게 할당된 리워드를 상기 가입자가 가입하고 있는 레거시 서비스의 포인트로 전환하는 레거시 서비스 포인트 환전 단계;
상기 공급측 플랫폼 서버가 상기 환전된 레거시 서비스 포인트를 상기 레거시 서비스를 제공하는 출판 서버로 제공하는 레거시 서비스 포인트 제공 단계; 및
상기 출판 서버가 환전된 상기 레거시 서비스 포인트를 상기 가입자의 계정에 저장하여 제공하는 레거시 서비스 포인트 지급 단계를 포함하는 것을 특징으로 하는 레거시 서비스를 이용한 데이터 라벨링 방법.
- 제11항에 있어서,
상기 리워드 제공 과정은,
상기 공급측 플랫폼 서버가 상기 검수 통과 여부 정보에 의해 검수 통과된 작업 데이터에 대해 해당 데이터 라벨링 작업에 할당된 리워드를 상기 가입자에게 할당하는 작업 리워드 할당 단계;
상기 공급측 플랫폼 서버가 할당된 리워드를 상기 레거시 서비스를 제공하는 출판 서버로 제공하는 리워드 제공 단계;
상기 출판 서버가 상기 가입자에게 할당된 리워드를 상기 레거시 서비스의 포인트로 환전하는 레거시 서비스 포인트 환전 단계; 및
상기 출판 서버가 환전된 상기 레거시 서비스 포인트를 상기 가입자의 계정에 저장하여 제공하는 레거시 서비스 포인트 지급 단계를 포함하는 것을 특징으로 하는 레거시 서비스를 이용한 데이터 라벨링 방법.
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020190025398 | 2019-03-05 | ||
KR20190025398 | 2019-03-05 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20200106804A KR20200106804A (ko) | 2020-09-15 |
KR102254653B1 true KR102254653B1 (ko) | 2021-05-21 |
Family
ID=72450653
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020190072185A KR102254653B1 (ko) | 2019-03-05 | 2019-06-18 | 레거시 서비스를 이용한 데이터 라벨링 시스템 및 방법 |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102254653B1 (ko) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20230159190A (ko) | 2022-05-13 | 2023-11-21 | 주식회사 하이퍼놀로지 | 학습 데이터 셋을 제작하기 위한 데이터 세분화 라벨링 작업 및 보상 시스템 |
KR20230159189A (ko) | 2022-05-13 | 2023-11-21 | 주식회사 하이퍼놀로지 | 학습 데이터 셋을 제작하기 위한 데이터 분류 라벨링 작업 및 보상 시스템 |
KR20230159191A (ko) | 2022-05-13 | 2023-11-21 | 주식회사 하이퍼놀로지 | 학습 데이터 셋을 제작하기 위한 데이터 객체탐지 라벨링 작업 및 보상 시스템 |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102320856B1 (ko) * | 2021-02-26 | 2021-11-02 | 인그래디언트 주식회사 | 의료 영상 라벨링 데이터를 위한 배수 비교 검수 방법 및 이를 이용한 시스템 |
KR20230162379A (ko) * | 2022-05-20 | 2023-11-28 | 주식회사 피앤씨솔루션 | 증강현실 글래스 장치를 이용한 데이터 라벨링 방법 및 시스템 |
KR102585322B1 (ko) * | 2022-10-26 | 2023-10-06 | 주식회사 데이터메이커 | 불안정한 인터넷 환경에서 원활한 데이터 라벨링을 위한 클라이언트 장치 및 이를 포함하는 데이터 라벨링 시스템 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150356488A1 (en) | 2014-06-09 | 2015-12-10 | Microsoft Corporation | Evaluating Workers in a Crowdsourcing Environment |
KR101696139B1 (ko) * | 2016-03-31 | 2017-01-13 | 이충근 | 콜센터 서비스 시스템 및 그것을 이용한 작업자 매칭 방법 |
KR101887415B1 (ko) * | 2017-11-21 | 2018-08-10 | 주식회사 크라우드웍스 | 데이터 라벨링 작업 검수방법 및 프로그램 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101772199B1 (ko) * | 2015-10-30 | 2017-09-01 | (주)유미테크 | 크라우드 소싱 기반 지식 검증 시스템 |
-
2019
- 2019-06-18 KR KR1020190072185A patent/KR102254653B1/ko active IP Right Grant
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150356488A1 (en) | 2014-06-09 | 2015-12-10 | Microsoft Corporation | Evaluating Workers in a Crowdsourcing Environment |
KR101696139B1 (ko) * | 2016-03-31 | 2017-01-13 | 이충근 | 콜센터 서비스 시스템 및 그것을 이용한 작업자 매칭 방법 |
KR101887415B1 (ko) * | 2017-11-21 | 2018-08-10 | 주식회사 크라우드웍스 | 데이터 라벨링 작업 검수방법 및 프로그램 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20230159190A (ko) | 2022-05-13 | 2023-11-21 | 주식회사 하이퍼놀로지 | 학습 데이터 셋을 제작하기 위한 데이터 세분화 라벨링 작업 및 보상 시스템 |
KR20230159189A (ko) | 2022-05-13 | 2023-11-21 | 주식회사 하이퍼놀로지 | 학습 데이터 셋을 제작하기 위한 데이터 분류 라벨링 작업 및 보상 시스템 |
KR20230159191A (ko) | 2022-05-13 | 2023-11-21 | 주식회사 하이퍼놀로지 | 학습 데이터 셋을 제작하기 위한 데이터 객체탐지 라벨링 작업 및 보상 시스템 |
KR102691018B1 (ko) | 2022-05-13 | 2024-08-05 | 주식회사 하이퍼놀로지 | 학습 데이터 셋을 제작하기 위한 데이터 분류 라벨링 작업 및 보상 시스템 |
Also Published As
Publication number | Publication date |
---|---|
KR20200106804A (ko) | 2020-09-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102254653B1 (ko) | 레거시 서비스를 이용한 데이터 라벨링 시스템 및 방법 | |
CN101151593B (zh) | 自治计算:利用动作策略进行操作的管理代理 | |
US8195525B2 (en) | Method and apparatus upgrade assistance using critical historical product information | |
US20150120388A1 (en) | Work and quality management system, device and method | |
König et al. | Integrating robotic process automation into business process management | |
KR102041040B1 (ko) | 합리적 음식 배달 서비스 관리 시스템 및 방법 | |
KR102319193B1 (ko) | 광고 마케팅 업무 관리 방법 및 시스템 | |
US20180189344A1 (en) | Onboarding portal for cloud platform | |
KR20150127103A (ko) | 정보 제공장치, 시공업자 관리장치, 정보 제시장치, 프로그램, 통신 시스템 및 정보 제공방법 | |
CN103250168A (zh) | 自动打印机的仪表盘 | |
US20190312793A1 (en) | Transformation platform | |
Rachmawati et al. | Web-Based Ticketing System Helpdesk Application Using CodeIgniter Framework (Case Study: PT Commonwealth Life) | |
US20130278963A1 (en) | Collecting data for a print service provider | |
US20220278949A1 (en) | Systems and methods for rapid electronic messaging testing and positional impact assessment in a prospect electronic messaging series | |
KR20210085863A (ko) | 클라우드 시스템에서 원자재 그룹 구매 추천 장치 및 방법 | |
Myrodia et al. | Configuration lifecycle management–an assessment of the benefits based on maturity | |
KR100428070B1 (ko) | 정보 시스템의 운영상태 체크 시스템 및 방법, 그프로그램의 소스를 기록한 기록매체 | |
CN113674798B (zh) | 蛋白质组学数据的分析系统 | |
KR100848409B1 (ko) | 잉여 리소스 매칭 시스템 및 그 방법 | |
KR102441841B1 (ko) | 혜택 정보를 제공하는 전자 장치 및 그 방법 | |
KR20200023869A (ko) | 3 스텝 기반의 생산 지원 매칭 시스템 및 방법 | |
KR20230114899A (ko) | 광고 및 마케팅 효과 결정 시스템 및 그 결정방법 | |
CN113269661B (zh) | 保洁服务管理方法、装置和电子设备 | |
US20240281735A1 (en) | Methods for real-time optimizing of procurement of computing equipment and devices thereof | |
KR101925549B1 (ko) | 온라인 회계 처리 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right |