[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

CN105144109A - 分布式数据中心技术 - Google Patents

分布式数据中心技术 Download PDF

Info

Publication number
CN105144109A
CN105144109A CN201480014044.8A CN201480014044A CN105144109A CN 105144109 A CN105144109 A CN 105144109A CN 201480014044 A CN201480014044 A CN 201480014044A CN 105144109 A CN105144109 A CN 105144109A
Authority
CN
China
Prior art keywords
data center
region
specific
request
action
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201480014044.8A
Other languages
English (en)
Other versions
CN105144109B (zh
Inventor
C·金
Y·A·哈利迪
G·瑟里亚纳拉亚南
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Technology Licensing LLC
Original Assignee
Microsoft Technology Licensing LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Technology Licensing LLC filed Critical Microsoft Technology Licensing LLC
Publication of CN105144109A publication Critical patent/CN105144109A/zh
Application granted granted Critical
Publication of CN105144109B publication Critical patent/CN105144109B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/12Avoiding congestion; Recovering from congestion
    • H04L47/125Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Information Transfer Between Computers (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Computer And Data Communications (AREA)

Abstract

对应于世界的特定区域的区域性数据中心系统。该数据中心系统包括多个数据中心,每个被配置成使得对于服务的特定于区域的请求可被数据中心中的任意数据中心满足。数据中心中的一个或多个还可对接收到的特定于区域的请求执行负载平衡。为了执行负载平衡,进行接收的数据中心可自己处理该请求,但是在一些情况下可确定该请求要被区域性数据中心系统内的另一数据中心来处理。

Description

分布式数据中心技术
背景
“云计算”是用于允许对可配置计算资源(例如,网络、服务器、存储、应用和服务)的共享池的普遍、方便、按需网络访问的模型。可配置计算资源的共享池可经由虚拟化而被快速地供应,并可利用低管理努力或服务提供商交互来释放,并随后相应被缩放。云计算模型可由各种特性(如按需自服务、广泛网络访问、资源池、快速灵活性、测量服务等)、服务模型(如软件即服务(“SaaS”)、平台即服务(“PaaS”)、基础结构即服务(“IaaS”))以及部署模型(如私有云、社区云、公共云、混合云等)组成。实现云计算模型的环境通常被称为云计算环境。
云计算环境可包括多个数据中心,每个数据中心都具有大量的计算资源,诸如处理能力、存储器、存储、和带宽等。数据中心可以例如是雇佣了数百个个人并包括可能数百或数千个服务器机架的复杂商业场所。每个数据中心位于世界的特定区域内,并且对于对区域或等待时间敏感的云服务,倾向于支持在该特定区域中提供的云服务。尽管数据中心可以是非常大的,但是随着对于云计算的需求在该区域中增加,对数据中心的利用也可增加到该数据中心的大部分被使用的时刻。
简要概述
本文中描述的至少一个实施例涉及对应于世界的特定区域的区域性数据中心系统。该数据中心系统包括多个数据中心,每个被配置成使得对于服务的特定于区域的请求可被数据中心中的任意数据中心满足。数据中心中的一个或多个还可对接收到的特定于区域的请求执行负载平衡。为了执行负载平衡,进行接收的数据中心可自己处理该请求,但是在一些情况下可确定该请求要被区域性数据中心系统内的一个或多个其他数据中心处理。对这种区域性数据中心系统的使用允许该系统作为单个数据中心,同时减少数据中心中的任一个将用尽计算资源的风险。
提供概述以便以简化形式介绍将在以下详细描述中进一步描述的一些概念的选集。本发明内容并非旨在标识所要求保护的主题的关键特征或必要特征,也不旨在用于帮助确定所要求保护的主题的范围。
附图简述
为了描述可以获得本发明的上文所列举的及其他优点和特征的方式,下面将通过参考附图来呈现对各实施例的更具体的描述。可以理解,这些附图只描绘了示例实施例,并且因此不被认为是对其范围的限制,将通过使用附图并利用附加特征和细节来描述和解释各实施例,在附图中:
图1抽象地示出可在其中采用本文所述的一些实施例的计算系统;
图2抽象地示出其中多个客户端与具有多个数据中心的云计算环境交互的环境;
图3A示出了包括多个数据中心的区域性数据中心系统,每个数据中心被配置成使得对于对应于特定区域的服务的请求可被该区域性数据中心系统内的数据中心中的任意数据中心处理和满足;
图3B示出处理特定于区域的服务请求所涉及的相关联的流程,其中进行接收的数据中心选择进行处理的数据中心;
图3C示出了区域性数据中心系统以及用于进行接收的数据中心针对其将另一数据中心选为进行处理的数据中心的特定于区域的服务请求所涉及的相关联的流程;
图4示出了用于区域性数据中心系统内的任意数据中心的对对应于特定区域的特定于区域的请求执行负载平衡的方法的流程图;以及
图5示出了用于将附加的数据中心添加到区域性数据中心系统的方法的流程图。
详细描述
根据本文描述的至少一个实施例,描述了区域性数据中心系统。区域性数据中心包括对应于世界的特定区域的多个数据中心,使得每个组成数据中心可处理对于服务的特定于区域的请求。数据中心中的一个或多个还可对接收到的特定于区域的请求执行负载平衡。为了执行负载平衡,进行接收的数据中心可自己处理该请求,但是在一些情况下可确定该请求要被区域性数据中心系统内的一个或多个其他数据中心来处理。
将参考图1来描述对计算系统的一些介绍性讨论。然后,将参考图2至5来描述区域性数据中心的原理。
计算系统现在越来越多地采取多种多样的形式。例如,计算系统可以是手持式设备、电器、膝上型计算机、台式计算机、大型机、分布式计算系统或甚至常规上不被认为是计算系统的设备。在本说明书以及权利要求书中,术语“计算系统”被广义地定义为包括任何设备或系统(或其组合),该设备或系统包含至少一个物理有形的处理器以及其上能具有可由处理器执行的计算机可执行指令的物理有形的存储器。存储器可以采取任何形式,并可以取决于计算系统的性质和形式。计算系统可以分布在网络环境中,并可包括多个组分计算系统。
如图1所示,在其最基本的配置中,计算系统100通常包括至少一个处理单元102和存储器104。存储器104可以是物理系统存储器,该物理系统存储器可以是易失性、非易失性、或两者的某种组合。术语“存储器”也可在此用来指示诸如物理存储介质这样的非易失性大容量存储器。如果计算系统是分布式的,则处理、存储器和/或存储能力也可以是分布式的。如此处所使用的那样,术语“模块”或“组件”可以指在计算系统上执行的软件对象或例程。此处所描述的不同组件、模块、引擎,以及服务可以实现为在计算系统上执行的对象或进程(例如,作为分开的线程)。
在随后的描述中,参考由一个或多个计算系统执行的动作描述了各实施例。如果这样的动作是以软件实现的,则执行动作的相关联计算系统的一个或多个处理器响应于已经执行了计算机可执行指令来引导计算系统的操作。这样的操作的示例涉及对数据的操纵。计算机可执行指令(以及被操纵的数据)可被存储在计算系统100的存储器104中。计算系统100还可包含允许计算系统100例如通过网络110与其他消息处理器通信的通信信道108。
在此描述的各实施例可包括或利用专用或通用计算机,该专用或通用计算机包括诸如例如一个或多个处理器和系统存储器等计算机硬件,如以下更详细讨论的。本文中描述的各实施例还包括用于承载或存储计算机可执行指令和/或数据结构的物理和其他计算机可读介质。这样的计算机可读介质可以是可由通用或专用计算机系统访问的任何可用介质。存储计算机可执行指令的计算机可读介质是物理存储介质。承载计算机可执行指令的计算机可读介质是传输介质。由此,作为示例而非限制,本发明的各实施例可包括至少两种显著不同的计算机可读介质:计算机存储介质和传输介质。
计算机存储介质包括RAM、ROM、EEPROM、CD-ROM或其他光盘存储、磁盘存储或其他磁存储设备、或可用于存储计算机可执行指令或数据结构形式的所需程序代码装置且可由通用或专用计算机访问的任何其他介质。
“网络”被定义为使得电子数据能够在计算机系统和/或模块和/或其它电子设备之间传输的一个或多个数据链路。当信息通过网络或另一个通信连接(硬连线、无线、或者硬连线或无线的组合)传输或提供给计算机时,该计算机将该连接适当地视为传输介质。传输介质可以包括可用于携带计算机可执行指令或数据结构形式的期望程序代码装置并可被通用或专用计算机访问的网络和/或数据链路。上述的组合应当也被包括在计算机可读介质的范围内。
此外,在到达各种计算机系统组件之后,计算机可执行指令或数据结构形式的程序代码资料可从传输介质自动传输到计算机存储介质(或反之亦然)。例如,通过网络或数据链路接收到的计算机可执行指令或数据结构可以在网络接口模块(例如,“NIC”)内的RAM中被缓冲,然后最终被传输至计算机系统RAM和/或计算机系统处的较不易失性的计算机存储介质。因而,应当理解,计算机存储介质可被包括在还利用(或甚至主要利用)传输介质的计算机系统组件中。
计算机可执行指令例如包括,当在处理器处执行时使通用计算机、专用计算机、或专用处理设备执行某一功能或某组功能的指令和数据。计算机可执行指令可以是例如二进制代码、诸如汇编语言之类的中间格式指令、或甚至源代码。尽管用结构特征和/或方法动作专用的语言描述了本主题,但可以理解,所附权利要求书中定义的主题不必限于上述特征或动作。更具体而言,上述特征和动作是作为实现权利要求的示例形式而公开的。
本领域的技术人员将理解,本发明可以在具有许多类型的计算机系统配置的网络计算环境中实践,这些计算机系统配置包括个人计算机、台式计算机、膝上型计算机、消息处理器、手持式设备、多处理器系统、基于微处理器的或可编程消费电子设备、网络PC、小型计算机、大型计算机、移动电话、PDA、寻呼机、路由器、交换机等等。本发明也可在其中通过网络链接(或者通过硬连线数据链路、无线数据链路,或者通过硬连线和无线数据链路的组合)的本地和远程计算机系统两者都执行任务的分布式系统环境中实施。在分布式系统环境中,程序模块可位于本地和远程存储器存储设备两者中。
图2抽象地示出了在其中可采用本文中描述的原理的环境200。环境200包括使用接口202与云计算环境210交互的多个客户端201。环境200被示为具有三个客户端201A、201B和201C,但省略号201D表示本文中描述的原理并不受限于通过接口202与云计算环境210进行交互的客户端的数目。云计算环境210可按需向客户端201提供服务,并由此从云计算环境210接收服务的客户端201的数目可随时间改变。
每个客户端201可以例如被结构化成如以上针对图1的计算系统100所描述的那样。替换地或另外地,客户端可以是通过接口202与云计算环境210进行交互的应用或其他软件模块。接口202可以是按以下方式定义的应用程序接口:即能够使用该应用程序接口的任何计算系统或软件都可与云计算环境210进行通信。
云计算环境可以是分布式的,并且甚至可以分布在世界各地,和/或具有跨多个组织拥有的组件。在该说明书和下面的权利要求书中,“云计算”被定义为用于允许对可配置计算资源(例如,网络、服务器、存储、应用和服务)的共享池的按需网络访问的模型。“云计算”的定义不限于可从这样的模型(在被合适地部署时)中获得的任何其他多个优点。
例如,云计算当前被用于市场,以便提供对可配置计算资源的共享池的普遍存在且方便的按需访问。此外,可配置计算资源的共享池可经由虚拟化而被快速地供应,并可利用低管理努力或服务提供商干预来发布,并随后因此被缩放。
云计算模型可由各种特性组成,诸如按需自服务、广泛网络访问、资源池、快速灵活性、测定的服务等。云计算模型还可形成各种服务模型,诸如例如软件即服务(“SaaS”)、平台即服务(“PaaS”)以及基础结构即服务(“IaaS”)。云计算模型还可以使用不同的部署模型来部署,诸如私有云、社区云、公共云和混合云等。在该描述和权利要求书中,“云计算环境”是其中采用了云计算的环境。
系统210包括多个数据中心211,每个数据中心都包括相应的计算资源,诸如处理、存储器、存储、和带宽等。数据中心211包括较大的数据中心211A、211B和211C,但省略号211D表示不存在关于在数据中心分组211内的原始数据中心的数目的限制。同样,数据中心211包括较小的数据中心211a到211i,但省略号211j表示不存在关于在数据中心分组211内的较小的数据中心的数目的限制。数据中心211中的每一个可包括或许非常大量的主机计算系统,这些主机计算系统可各自被结构化为如以上针对图1的计算系统100所描述的。数据中心211可地理地分布,并且如果云计算环境200横跨地球的话,或许甚至分布在整个世界。
云计算环境200还包括服务212。在示出的示例中,服务200包括五个不同的服务212A、212B、212C、212D和212E,但是省略号212F表示本文中描述的原理并不受限于在系统210中的服务的数目。服务协调系统213与数据中心211和服务212进行通信,以由此提供客户端201所请求的服务以及可作为所请求的服务的先决条件的其他服务(诸如认证、和计费等)。
图3A示出了区域性数据中心系统300,该区域性数据中心系统300包括多个数据中心,该多个数据中心中的每一个被配置为使得对于对应于特定区域的服务的请求(此后也被称为“特定于区域的请求”或“特定于区域的服务请求”)可被该区域性数据中心系统内的任意数据中心来处理和满足。示出的系统300被显示为包括5个数据中心301到305。然而,这仅仅是出于示例的目的。椭圆306表示本文中描述的原理应用到包括多个组成数据中心的任意数据中心系统,而不管这样的组成数据中心的数量如何。
每个数据中心之间的通信被验证以在特定等待时间包络内操作,使得数据中心之间的通信以一定概率以低于特定阈值的等待时间来操作。特定等待时间阈值较佳地为足够小到提交特定于区域的服务请求的一般客户不能显著地辨别出区域性数据中心系统由多个分布式数据中心而不是由单个数据中心构成。例如,等待时间阈值可以是几毫秒的量级或更少。由此,即使数据中心301到306可能被分布为相互离开数英里,但是从客户的视点而言它们可能看上去就像单个数据中心那样操作。
数据中心不需要具有相同的大小,但是可按区域性数据中心系统300的拥有者和/或管理员期望的任意方式来被调整大小。例如,在一个实施例中,区域可开始仅具有单个较大的数据中心。接着,随着在该特定区域中需求的增加,附加的数据中心可被添加。在这种情况下,也许附加的数据中心在计算能力方面可以比原始较大的数据中心更小。例如,在图3中,数据中心301被显示为比较小的数据中心302到305更大。也许数据中心301是该区域的原始数据中心,而数据中心302到305是随着该特定区域中需求的增加而被后续添加的。在一个实施例中,数据中心302到305中的至少一个相比于原始数据中心301而言可能具有不到一半的计算能力。用于将附加的数据中心添加到区域性数据中心系统的方法将在以下关于图5来描述。例如,数据中心301可以是图2的数据中心211A,而数据中心302到305可以例如是图2的数据中心211a、211b、211c和211d。替换地,从服务协调系统213的视点而言,数据中心系统300在概念上可被认为是单个数据中心。
图4示出了用于区域性数据中心系统内的任意数据中心对对应于特定区域的特定于区域的请求执行负载平衡的方法400的流程图。由于方法400可在图3A的区域性数据中心系统300内执行,因此现将频繁参考图3A来描述方法400。
例如,区域性数据中心300的数据中心执行方法400。在图3A中,数据中心301相对于该数据中心301接收到的特定于区域的服务请求来执行该方法。然而,本文中描述的原理没有被限制到该数据中心的被配置成接收针对被区域性数据中心系统300服务的特定区域的特定于区域的服务请求的特定子集。例如,也许数据中心301是区域性数据中心系统300中唯一一个接收要在区域性数据中心系统300内被满足的特定于区域的服务请求的数据中心。在另一极端,也许区域性数据中心系统300的所有数据中心可能都接收要在区域性数据中心系统300内被满足的特定于区域的服务请求。在之间,也许只有区域性数据中心系统300中的数据中心的子集可接收要在区域性数据中心系统300内被满足的特定于区域的服务请求。不管如何,方法400可由区域性数据中心系统300内被配置成接收这样的请求的任意数据中心来同时地执行。
参考图3A和3B的特定示例,如由箭头310表示的,数据中心301接收针对被区域性数据中心系统300服务的特定区域的特定于区域的服务请求(动作401)。这些特定于区域的服务请求310可被区域性数据中心系统300内的任意数据中心来满足。
进行接收的数据中心(即,接收特定于区域的服务请求的数据中心)接着对对被接收到的特定于区域的服务请求中的至少一些的处理执行负载平衡(动作410)。例如,可以存在某个理由来不对一些特定于区域的服务请求执行负载平衡。例如,一些请求可能是状态敏感的,并依赖于存在于数据中心中的特定一个数据中心内的数据或其他状态。然而,对于其他被数据中心接收到的特定于区域的服务请求,数据中心对对该特定于区域的服务请求的处理执行负载平衡(动作410)。例如,参考图3A,数据中心301对对传入的特定于区域的服务请求310的处理执行负载平衡。
参考图4,动作410的内容涉及作为对对特定于区域的服务请求的处理执行负载平衡(动作410)的一部分的动作。例如,作为该负载平衡的一部分,进行接收的数据中心选择数据中心中的一个或多个来实际执行对特定于区域的服务请求的处理(动作411)。所选的数据中心在此处将还被称为“进行处理的数据中心”。
例如,参考图3A,如箭头311表示的,进行接收的数据中心301可能针对特定于区域的服务请求中的一些将其自身选为进行处理的数据中心。替换地或附加地,进行接收的数据中心301还可针对特定于区域的服务请求中的一些将数据中心302选为进行处理的数据中心并将这样的特定于区域的服务请求转发到数据中心302,如箭头312表示的。进行接收的数据中心301还可针对特定于区域的服务请求中的一些将数据中心303选为进行处理的数据中心并将这样的特定于区域的服务请求转发到数据中心303,如箭头313表示的。进行接收的数据中心301还可针对特定于区域的服务请求中的一些将数据中心304选为进行处理的数据中心并将这样的特定于区域的服务请求转发到数据中心304,如箭头314表示的。进行接收的数据中心301还可针对特定于区域的服务请求中的一些将数据中心305选为进行处理的数据中心并将这样的特定于区域的服务请求转发到数据中心305,如箭头315表示的。
进行接收的数据中心接着以藉此特定于区域的服务请求被转发到处理中心的方式来执行负载平衡(动作420)。对于那些要被进行处理的数据中心处理的请求,这些请求中的一些可经由区域性数据中心的另一数据中心来分派,即使在进行接收和进行处理的数据中心之间存在直接通信信道。例如,当将请求传送到进行处理的数据中心时,进行接收的数据中心可使用随机化或循环二阶段通信。这样允许对区域性数据中心系统内的所有数据中心之间的带宽更高效的利用。
参考图4,动作420的内容涉及作为对将特定于区域的服务请求转发到进行处理的数据中心执行负载平衡(动作420)的一部分的动作。负载平衡的级别可例如发生在协议栈中的网络级。动作420的内容可针对要对特定于区域的服务请求的处理做出贡献的一个或多个数据中心中的每一个来执行。
如果进行处理的数据中心与进行接收的数据中心相同(判定框421中的“是”),则进行接收的数据中心将自己进行处理并满足特定于区域的服务请求的全部或部分(动作430)。在这个情况下,由于不涉及数据中心间的通信,所以将不执行针对请求的该部分的转发过程的实质负载平衡。
如果进行处理的数据中心不同于进行接收的数据中心(判定框421中的“否”),则进行接收的数据中心接着确定是否一中间数据中心要被用于转发特定于区域的服务请求(判定框422)。如果否(判定框422中的“否”),则负载平衡通过将特定于区域的请求转发到进行处理的数据中心(动作423)而不首先从中间数据中心反射来被进一步执行。如果中间数据中心要被用于转发特定于区域的服务请求(判定框422中的“是”),则进行接收的数据中心选择中间数据中心(动作424),并将特定于区域的请求转发到该中间数据中心(动作425)以反射到进行处理的数据中心(动作423),特定于区域的服务请求在该进行处理的数据中心被处理(动作430)。
图3B示出了区域性数据中心系统300以及用于进行接收的数据中心301针对其将数据中心304选为进行处理的数据中心的特定于区域的服务请求所涉及的相关联的流。所得到的转发操作被图3A中的箭头314抽象地表示。然而,图3B示出了存在各种方式来在协议栈的网络级对特定于区域的服务请求的从进行接收的数据中心301到进行处理的数据中心304的转发进行负载平衡。现在将参考图400的方法400来解释图3B中的各个流。回想,在每个情况下,进行接收的数据中心301将特定于区域的服务请求转发到进行处理的数据中心304。
箭头322A和322B表示以下情况:其中数据中心302被选为中间数据中心(动作424),由此如箭头322A表示的服务请求被转发到中间数据中心302(动作425),并如箭头322B表示的被反射到进行处理的数据中心304(动作423)。
箭头323A和323B表示以下情况:其中数据中心303被选为中间数据中心(动作424),由此如箭头323A表示的服务请求被转发到中间数据中心303(动作425),并如箭头323B表示的被反射到进行处理的数据中心304(动作423)。
箭头324表示以下情况:其中没有中间数据中心被选择(判定框422中的“否”),由此特定于区域的服务请求被转发到进行处理的数据中心304(动作423)而不使用中间数据中心。
箭头325A和325B表示以下情况:其中数据中心305被选为中间数据中心(动作424),由此如箭头325A表示的服务请求被转发到中间数据中心305(动作425),并如箭头325B表示的被反射到进行处理的数据中心304(动作423)。
图3C示出了区域性数据中心系统300以及用于进行接收的数据中心301针对其将数据中心303选为进行处理的数据中心的特定于区域的服务请求所涉及的相关联的流。所得到的转发操作被图3A中的箭头313抽象地表示。然而,图3C示出了存在各种方式来在协议栈的网络级对特定于区域的服务请求的从进行接收的数据中心301到进行处理的数据中心303的转发进行负载平衡。现在将参考图400的方法400来解释图3C中的各个流程。
箭头332A和332B表示以下情况:其中数据中心302被选为中间数据中心(动作424),由此如箭头332A表示的服务请求被转发到中间数据中心302(动作425),并如箭头332B表示的被反射到进行处理的数据中心303(动作423)。
箭头333表示以下情况:其中没有中间数据中心被选择(判定框422中的“否”),由此特定于区域的服务请求被转发到进行处理的数据中心303(动作423)而不使用中间数据中心。
箭头334A和334B表示以下情况:其中数据中心304被选为中间数据中心(动作424),由此如箭头334A表示的服务请求被转发到中间数据中心304(动作425),并如箭头334B表示的被反射到进行处理的数据中心303(动作423)。
箭头335A和335B表示以下情况:其中数据中心305被选为中间数据中心(动作424),由此如箭头335A表示的服务请求被转发到中间数据中心305(动作425),并如箭头335B表示的被反射到进行处理的数据中心303(动作423)。
如之前提到的,在图3A到3C的示例中,也许数据中心301是对特定区域进行服务的原始数据中心,并接着之后的数据中心302到305被添加以满足需求。图5示出了用于在对对应于特定区域的特定于区域的服务请求进行服务的区域性数据中心系统中增加多个数据中心的方法500的流程图。
决定要在该特定区域中被容忍的等待时间阈值(动作501)。例如,该等待时间阈值可以是对区域性数据中心系统的拥有者或管理员而言可接受的任意值,但是在一个实施例中为几毫秒或更少。
方法300还包括确定一个或多个现有的数据中心高于一利用率(动作502)。这个确定应当较佳地被足够快地做出以在现有的数据中心被完全利用之前能做好准备来执行方法500的剩余部分。这个动作502被显示为与对等待时间阈值的决定(动作502)并行,这是因为在动作501和502之间没有时间依赖性。
任选地,方法300还包括构建附加的数据中心(动作503)。该构建(动作503)被显示为与对等待时间阈值的决定(动作501)和对利用率的确定并行,这是因为在动作501、502和503之间没有严格的时间依赖性,除了那些已经提到的:动作502较佳地提前发生,使得动作503(如果必要的话)可在对现有的(诸)数据中心的完全利用已经达到之前来被执行。
方法500还包括配置该附加的数据中心以处理对应于该特定区域的特定于区域的服务请求(动作505)。这并不意味着该附加的数据中心实际上接收这样的请求,仅意味着它能够处理这样的请求(如果它们被接收到的话)。
任选地,方法500还包括在该附加的数据中心和区域性数据中心系统的一个或多个现有的数据中心之间实际地建立一个或多个通信信道中的至少一部分(动作504)。再次,在这个动作504和其他动作501到503之间没有严格的时间关系,并由此这个动作再次被显示为并行。
方法500还包括测量该附加的数据中心和区域性数据中心系统的一个或多个现有的数据中心之间的网络等待时间以确保该附加的数据中心的等待时间低于等待时间阈值(动作506)。一旦被确保,区域性数据中心可作为整体可被配置使得被区域性数据中心系统接收到的特定于区域的服务请求中的至少一些被路由到该附加的数据中心以供处理(动作507)。
因此,描述了区域性数据中心系统,其中该系统可对外呈现为单个数据中心。此外,该数据中心可随着需求增加用附加的数据中心来被动态地扩充。本发明可具体化为其它具体形式而不背离其精神或本质特征。所描述的实施例在所有方面都应被认为仅是说明性而非限制性的。因此,本发明的范围由所附权利要求书而非前述描述指示。在权利要求书的等价物的含义和范围内的所有变化应被包含在其范围内。

Claims (10)

1.一种系统,包括:
多个数据中心,被配置成使得对于对应于特定区域的服务的特定于区域的请求能被所述多个数据中心中的任意数据中心满足,所述多个数据中心包括至少第一、第二和第三数据中心;
其中所述第一数据中心被配置成通过执行至少以下来对对应于所述特定区域并被所述第一数据中心接收到的多个特定于区域的请求执行负载平衡:
对于被所述第一数据中心接收到的所述特定于区域的请求中的至少一些,所述第一数据中心确定所述特定于区域的请求要被所述第二数据中心处理的动作。
2.根据权利要求1所述的系统,其特征在于,对于对应于所述特定区域并被所述第一数据中心接收到的所述多个特定于区域的请求中的至少一些,所述第一数据中心进一步被配置成执行以下:
将所述特定于区域的请求转发到所述第三数据中心以反射到所述第二数据中心的动作。
3.根据权利要求2所述的系统,其特征在于,对于所述第一数据中心确定为要被所述第二数据中心处理的所述特定于区域的请求中的至少一些,所述负载平衡通过执行将所述特定于区域的请求转发到所述第二数据中心而无需首先从所述第三数据中心反射的动作来被进一步执行。
4.根据权利要求1所述的系统,其特征在于,被所述第一数据中心接收到的所述特定于区域的请求中的至少一些被所述第一数据中心处理,而不使用所述第二或所述第三数据中心。
5.根据权利要求1所述的系统,其特征在于,所述第一数据中心被进一步配置成通过执行至少以下来执行所述负载平衡:
对于被所述第一数据中心接收到的特定于区域的请求中的至少一些,所述第一数据中心确定所述特定于区域的请求要被所述第三数据中心处理的动作;以及
对于所述第一数据中心确定要被所述第三数据中心处理的所述特定于区域的请求中的至少一些,将所述特定于区域的请求转发到所述第二数据中心以反射到所述第三数据中心的动作。
6.根据权利要求1所述的系统,其特征在于,所述第一、第二和第三数据中心中的每一个已经被验证为在等待时间包络内操作,其中所述等待时间包络内的所述数据中心中的任意数据中心之间的通信方面的等待时间被验证为低于特定阈值。
7.根据权利要求1所述的系统,其特征在于,所述负载平衡在协议栈的网络层被执行。
8.一种方法,包括:
在第一数据中心处接收对对应于特定区域的服务的多个特定于区域的请求的动作,其中所述多个特定于区域的服务请求可被包括所述第一数据中心、第二数据中心和第三数据中心在内的多个数据中心中的任意数据中心满足;以及
对于接收到的所述多个特定于区域的服务请求中的至少一些,所述第一数据中心通过执行以下来对接收到的所述多个特定于区域的服务请求中的至少一些执行负载平衡的动作:
对于经负载平衡的多个特定于区域的服务请求中的至少一些,确定所述第二数据中心要处理该请求的动作。
9.根据权利要求8所述的方法,其特征在于,所述第一数据中心执行负载平衡的动作还包括:
对于所述第一数据中心确定要被所述第二数据中心处理的所述多个特定于区域的服务请求中的至少一些,将所述特定于区域的请求转发到所述第三数据中心以反射到所述第二数据中心的动作。
10.根据权利要求9所述的方法,其特征在于,所述第一、第二和第三数据中心中的每一个已经被验证为在等待时间包络内操作,其中所述等待时间包络内的所述数据中心中的任意数据中心之间的通信方面的等待时间被验证为低于特定阈值。
CN201480014044.8A 2013-03-13 2014-03-05 分布式数据中心技术 Active CN105144109B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US13/801,964 US9276860B2 (en) 2013-03-13 2013-03-13 Distributed data center technology
US13/801,964 2013-03-13
PCT/US2014/020834 WO2014158909A1 (en) 2013-03-13 2014-03-05 Distributed data center technology

Publications (2)

Publication Number Publication Date
CN105144109A true CN105144109A (zh) 2015-12-09
CN105144109B CN105144109B (zh) 2019-05-14

Family

ID=50390232

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201480014044.8A Active CN105144109B (zh) 2013-03-13 2014-03-05 分布式数据中心技术

Country Status (7)

Country Link
US (1) US9276860B2 (zh)
EP (1) EP2972854B1 (zh)
JP (1) JP2016510929A (zh)
CN (1) CN105144109B (zh)
BR (1) BR112015019943A2 (zh)
RU (1) RU2015138726A (zh)
WO (1) WO2014158909A1 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107770086A (zh) * 2017-03-13 2018-03-06 平安科技(深圳)有限公司 基于集中控制器及dci设备的负载均衡的方法及装置
CN109923833A (zh) * 2016-11-02 2019-06-21 微软技术许可有限责任公司 用于pstn服务的数据中心质心度量计算
CN115269184A (zh) * 2018-08-17 2022-11-01 威睿公司 函数即服务(faas)执行分配器

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10244080B2 (en) * 2013-03-15 2019-03-26 VCE IP Holding Company LLC Accessing multiple converged IT infrastructures
US10200499B1 (en) 2015-01-30 2019-02-05 Symantec Corporation Systems and methods for reducing network traffic by using delta transfers
CN107113244B (zh) * 2015-06-27 2020-11-17 华为技术有限公司 一种数据转发的方法、装置和系统
US10187485B1 (en) * 2015-09-28 2019-01-22 Symantec Corporation Systems and methods for sending push notifications that include preferred data center routing information
US11138168B2 (en) 2017-03-31 2021-10-05 Bank Of America Corporation Data analysis and support engine
CN110019528A (zh) * 2017-12-26 2019-07-16 中国移动通信集团湖北有限公司 数据库操作负载均衡方法、装置、设备及介质
CN110071949B (zh) * 2018-01-23 2022-05-24 阿里巴巴集团控股有限公司 一种跨地理区域管理计算应用的系统、方法和装置
US11240156B2 (en) 2019-09-06 2022-02-01 Netflix, Inc. Techniques for steering network traffic to regions of a cloud computing system

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6249801B1 (en) * 1998-07-15 2001-06-19 Radware Ltd. Load balancing
US20100036956A1 (en) * 2007-04-04 2010-02-11 Fujitsu Limited Load balancing system
CN102316157A (zh) * 2010-07-09 2012-01-11 Sap股份公司 通过经纪进行的云计算结构

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6647408B1 (en) 1999-07-16 2003-11-11 Novell, Inc. Task distribution
US7853953B2 (en) * 2005-05-27 2010-12-14 International Business Machines Corporation Methods and apparatus for selective workload off-loading across multiple data centers
US7822889B2 (en) 2007-08-27 2010-10-26 International Business Machines Corporation Direct/indirect transmission of information using a multi-tiered full-graph interconnect architecture
US8566362B2 (en) 2009-01-23 2013-10-22 Nasuni Corporation Method and system for versioned file system using structured data representations
US8924569B2 (en) 2009-12-17 2014-12-30 Intel Corporation Cloud federation as a service
KR101473317B1 (ko) * 2010-12-23 2014-12-17 주식회사 케이티 클라우드 컴퓨팅 시스템 및 클라우드 컴퓨팅 시스템에서의 트래픽 분산 방법 및 제어 방법
US10142406B2 (en) * 2013-03-11 2018-11-27 Amazon Technologies, Inc. Automated data center selection

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6249801B1 (en) * 1998-07-15 2001-06-19 Radware Ltd. Load balancing
US20100036956A1 (en) * 2007-04-04 2010-02-11 Fujitsu Limited Load balancing system
CN102316157A (zh) * 2010-07-09 2012-01-11 Sap股份公司 通过经纪进行的云计算结构

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109923833A (zh) * 2016-11-02 2019-06-21 微软技术许可有限责任公司 用于pstn服务的数据中心质心度量计算
CN109923833B (zh) * 2016-11-02 2022-03-01 微软技术许可有限责任公司 用于pstn服务的数据中心质心度量计算
CN107770086A (zh) * 2017-03-13 2018-03-06 平安科技(深圳)有限公司 基于集中控制器及dci设备的负载均衡的方法及装置
WO2018166111A1 (zh) * 2017-03-13 2018-09-20 平安科技(深圳)有限公司 基于集中控制器及dci设备的负载均衡的方法、系统、电子装置及计算机可读存储介质
CN115269184A (zh) * 2018-08-17 2022-11-01 威睿公司 函数即服务(faas)执行分配器
CN115269184B (zh) * 2018-08-17 2023-07-14 威睿公司 函数即服务(faas)执行分配器

Also Published As

Publication number Publication date
RU2015138726A3 (zh) 2018-03-14
EP2972854A1 (en) 2016-01-20
EP2972854B1 (en) 2019-07-31
US20140280818A1 (en) 2014-09-18
BR112015019943A2 (pt) 2017-07-18
US9276860B2 (en) 2016-03-01
CN105144109B (zh) 2019-05-14
WO2014158909A1 (en) 2014-10-02
JP2016510929A (ja) 2016-04-11
RU2015138726A (ru) 2017-03-15

Similar Documents

Publication Publication Date Title
CN105144109A (zh) 分布式数据中心技术
Varghese et al. Challenges and opportunities in edge computing
US9667749B2 (en) Client-initiated leader election in distributed client-server systems
Ge et al. GA-based task scheduler for the cloud computing systems
CN104395889A (zh) 使用边缘数据中心的应用增强
CN109783472A (zh) 表数据的迁移方法、装置、计算机设备和存储介质
CN104428752A (zh) 将虚拟机流卸载至物理队列
Chen et al. Latency minimization for mobile edge computing networks
US11005925B2 (en) Load balancing with power of random choices
US20160150517A1 (en) Managing task in mobile device
CN108829519A (zh) 基于云平台的任务调度方法、云平台及计算机可读存储介质
CN116991560A (zh) 针对语言模型的并行调度方法、装置、设备及存储介质
CN112953993A (zh) 资源调度方法、设备、网络系统及存储介质
CN112948114B (zh) 边缘计算方法和边缘计算平台
US11676574B2 (en) Duration based task monitoring of artificial intelligence voice response systems
US20120197960A1 (en) System and method for executing a cloud computing task
CN116701004A (zh) 云函数开发方法、装置、电子装置和存储介质
CN117082477A (zh) 任务处理方法和装置、系统、存储介质及电子设备
CN116760881B (zh) 配电终端的系统配置方法、装置、存储介质及电子设备
CN112394944B (zh) 分布式开发方法、装置、存储介质及计算机设备
Mehta et al. A crowd-cloud architecture for big data analytics
US20230273813A1 (en) Schedule management for machine learning model-based processing in computing environment
WO2024198986A1 (zh) 一种数据处理的方法及相应装置
WO2024151764A1 (en) Systems and methods for mapping, migrating, and/or processing data over a network
CN116107633A (zh) 数据运算系统、数据运算方法、计算设备以及存储介质

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant