CN1255728C - 协同高速缓存服务器负载均衡方法 - Google Patents

协同高速缓存服务器负载均衡方法 Download PDF

Info

Publication number
CN1255728C
CN1255728C CNB998118281A CN99811828A CN1255728C CN 1255728 C CN1255728 C CN 1255728C CN B998118281 A CNB998118281 A CN B998118281A CN 99811828 A CN99811828 A CN 99811828A CN 1255728 C CN1255728 C CN 1255728C
Authority
CN
China
Prior art keywords
cache
cooperatig
request
load
server
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
CNB998118281A
Other languages
English (en)
Other versions
CN1322315A (zh
Inventor
凯文·M·乔丹
吴坤龙
俞士纶
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of CN1322315A publication Critical patent/CN1322315A/zh
Application granted granted Critical
Publication of CN1255728C publication Critical patent/CN1255728C/zh
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load

Abstract

在一种包括例如代理高速缓存服务器的协同高速缓存服务器的集合的系统中，如果被请求对象没有在本地找到，则一个请求可以被转发到一个协同高速缓存服务器。例如如果由于引用不均衡而检测到过载状况，一些对象由所有客户机所需，并且包含这些热点对象的高速缓存服务器由于被转发请求而过载。相应地，通过把一些或所有转发的请求从一个过载高速缓存服务器转移到一个较小负载的服务器而均衡负载。集中和分布的负载均衡环境都被描述。

Description

协同高速缓存服务器负载均衡方法
本发明涉及在协同高速缓存服务器之间的负载均衡方法，特别涉及基于负载状态和从协同高速缓存服务器(cooperating cache server)发出请求的频率的负载均衡方法。
万维网的使用发展成指数增长。结果，用于访问Web对象的响应时间变得令人不满意地缓慢。用于改进Web访问时间的一个方法是在浏览器和源发Web服务器之间采用一个或多个代理高速缓存服务器。代理高速缓存服务器的例子是包括一组运行微软的Windows NTTM的PC服务器，例如出自IBM(国际商用机器公司)的NETFINITYTM服务器；以及运行IBM的AIXTM操作系统的工作站服务器，例如IBMRS/6000TM或SP/2TM。实际上，越来越多的组织，例如因特网服务提供商(ISP)和公司使用一组协同代理高速缓存服务器来提高响应时间以及减小因特网的通信量。一组协同高速缓存服务器在可靠性和性能方面比单个高速缓存服务器具有明显优点。如果一个服务器发生故障，请求仍然可以由其它协同高速缓存服务器来提供服务。请求可以在服务器之间分配，因此增加可扩缩性。最后，集合的高速缓存容量大得多，使得更加可能在其中一个高速缓存服务器中找到被请求的对象。
利用协同高速缓存服务器，由于高速缓存不中(cache miss)而造成不能够在本地对请求提供服务，则该请求可以被转发到另一个存储被请求的对象高速缓存服务器。结果，有两种请求可以到达高速缓存服务器：直接请求和转发请求。直接请求是直接从客户接收的请求。转发请求是从用户的利益考虑由于在高速缓存服务器上高速缓存不中而来自其它协同高速缓存服务器的请求。如果一台服务器刚好包含大多数客户目前感兴趣的急需(或“热点”)对象，有了在高速缓存服务器之间转发的请求，该高速缓存服务器可能容易变得过载，造成高速缓存服务器之间的不均衡的工作负载。由于许多高速缓存服务器等待同一个过载的高速缓存服务器来响应转发给它的请求，则不均衡的工作负载造成性能瓶颈。因此需要一种方式来执行在一组代理高速缓存服务器之间的动态负载均衡。本发明针对于这种需求。
负载均衡传统地是通过前端调度程序完成的。该调度程序在高速缓存服务器中“平均分配”输入的直接请求。例如，通过使用映射表可以在域名服务器(DNS)级完成负载均衡，如Sun Microsystems的NETRATM所做的(“Sun Microsystems的白皮书中“Proxy CacheServer，Product Overview”， http：//www.sun.com/)。在一簇服务器中的负载均衡也可以通过前端路由器完成，如IBM提供的NETDISPATCHERTM(例如，1997年5月，RC20853，IBM研究报告，G.Goldszmidt和G.Hunt所做的“Net Dispatcher：A TCP ConnectionRouter”)。这里，输入的请求被NETDISPATCHERTM分配给负载最小的服务器。然而，这些传统的方法只分配“直接请求”而不是针对由于太多的对热点对象的请求被同时转发到同一代理服务所造成的负载不均衡问题。本发明针对此需求。
协同高速缓存，或者远程高速缓存，已经被用在分布文件系统中，以提高系统性能(参见由M.D.Dahlin等人所著的“协同高速缓存：使用远程客户机存储器来提高文件系统性能”，关于操作系统设计和应用的第一次讨论会的会议录，pp.1-14，1994)。在此，分布于局域网上的工作站的集合的文件高速缓存协同工作，以形成一个更加有效的整体文件高速缓存。每个工作站文件高速缓存不但是由本地请求所引用的对象，而且还是可能由来自远程工作站的请求所引用的对象。在本地高速缓存不中时，一个本地请求可能被发送到其它可以获得一个副本的客户工作站，如果能找到这种工作站的话。否则，该对象从对象服务器获得。在此强调的主要是如何在更新时保持高速缓存的一致性，以及如何通过把局部替换的对象转移到另一个工作站的高速缓存而保持高-速缓存命中率。在此没有动态负载均衡。
协同高速缓存还被用于集合的代理高速缓存服务器中，以减少存取时间。在一个高速缓存不中时，不直接通过广域网到达源发Web服务器，而是一个同速高速缓存服务器把该请求转发以从一个局域网或区域网中的协同高速缓存服务器获得该对象。例如，在SQUID系统中一个本地高速缓存不中时，一个高速缓存服务器把一个请求多点传送(使用因特网高速缓存协议(ICP))到一组其它高速缓存服务器(参见由D.Wessels等人所著的“Squid因特网对象高速缓存”，http：//squid.nlanr.net/)。如果它们的高速缓存中包含所请求的对象，则这些协同高速缓存服务器用一个消息表明这种情况。所请求的对象然后从第一个响应该请求的协同高速缓存服务器获得，而不是从因特网上的源发Web服务器获得。但是，如果在超时周期之后没有响应，则所请求对象将从源发Web服务器获得。由于转发请求而可能在一个高速缓存服务器中出现负载不均衡。
代替多点传送，CRISP系统使用一种逻辑中央目录，来定位在另一个代理服务器上被高速缓存的对象(参见由S.Gadde等人所著的“用于可缩放的因特网高速缓存的目录结构”，杜克大学计算机科学系，技术报告CS-1997-18，1997)。在此，在一个高速缓存不中时，高速缓存服务器向目录服务器请求该对象。利用高速缓存对象存储器的中心知识，目录服务器把这种请求发送到其高速缓存中包含该对象的服务器。如果找到该对象的话，则该对象被发送到发出请求的服务器，而源发服务器继续高速缓存该对象。如果没有一个高速缓存具有所请求对象的副本，则发出请求的服务器通过因特网(可能通过一个广域网)从源发Web服务器获得该对象。由于后续请求被转发到这个高速缓存服务器，因此这也可能在该高速缓存服务器中造成负载不均衡。
在一个协同高速缓存服务器上定位一个对象的另一种方法是通过哈希函数(hash function)。一个例子是高速缓存阵列路由协议(CARP)(参见V.Valloppillil和K.W.Ross所著的“高速缓存阵列路由协议V1.0”，因特网草案， http：//ircache.nlanr.net/Cache/ICP/draft-vinod -carp-v1-03.txt，1998年2月)。在CARP中，整个对象空间在协同高速缓存服务器中分区，每个高速缓存服务器使用一个分区。当一个请求由高速缓存服务器从配置的客户浏览器接收时，一个哈希函数被应用到来自该请求的一个关键字，例如URL或者目的IP地址，以识别该分区。如果该哈希分区被分配给发出请求的高速缓存服务器，则该请求在本地解决。否则，它被转发送到在被识别分区中的适当的高速缓存服务器。
SQUID、CRISP和CARP使用其它代理服务器的高速缓存来减少必须通过广域网来寻找不中的对象的可能性。它们在用于定位高速缓存中包含被请求对象的副本的一个协同高速缓存服务器的机制上是不同的。每个高速缓存服务器处理两种请求：直接请求和转发请求。直接请求是直接由连接到该代理服务器的浏览器所发出的请求。转发请求是由高速缓存中没有被请求对象的协同高速缓存服务器所发出的请求。在任何情况下，根据在给定时刻一个代理服务器高速缓存的对象类型，其CPU可能由于忙于处理直接和转发请求而过载。
根据上述需要，本发明的一个方面是提供一种高速缓存服务器负载均衡方法，其中包括如下步骤：响应在一个协同高速缓存服务器上的一个对象的高速缓存不中，从该协同高速缓存服务器接收被转发请求；以及根据负载状况和要求该对象的转发频率把一个或多个要求该对象的所述转发请求在协同高速缓存服务器之间转移。
本发明另一个方面提供一种在协同高速缓存服务器的集合中均衡负载的方法，其中每个高速缓存服务器可以接收直接请求和转发请求，并且在一个高速缓存不中时，一个请求可以转发到一个高速缓存所述对象的拥有高速缓存服务器，该方法包括如下步骤：对于所述协同高速缓存服务器监视负载状况以及转发频率；以及根据负载状况和转发频率中的变化，把一个或多个转发请求从一个协同高速缓存服务器转移到第二个高速缓存服务器。
例如，在一种包括协同代理高速缓存服务器的集合的系统中，如果在本地没有找到被请求对象时，一个请求可以被转发到另一个协同服务器。不是通过因特网从源发Web服务器获得该对象，而是一个高速缓存服务器可以在局域网或内部网中从一个协同高速缓存服务器获得一个副本。访问一个对象的平均响应时间可以通过该协同高速缓存服务器而大大改进。但是，由于引用不对称，一些对象可能被所有客户所要求。结果，包含这些热点对象的代理高速缓存服务器可能由于来自其它代理高速缓存服务器的转发请求而变得过载，产生一个性能瓶颈。根据本发明，我们提出一种用于协同代理高速缓存服务器的集合的负载均衡方法，它是通过把一些或所有转发请求从一个过载的高速缓存服务器转移到另一个负载较小的服务器而实现的。
根据本发明的高速缓存服务器负载均衡方法的一个例子包括如下步骤：响应在一个协同高速缓存服务器上的一个对象的高速缓存不中，从该协同高速缓存服务器接收被转发的请求；以及根据负载状况和要求该对象的转发频率把一个或多个要求该对象的所述转发请求在协同高速缓存服务器之间转移。
本发明还包括如下特点：定期监视该拥有高速缓存服务器的负载状况以及转发频率；以及响应该监视情况，主动把一个或多个要求被高速缓存的对象的后续转发请求从该拥有高速缓存服务器转移到一个或多个协同高速缓存服务器。另外，转移步骤还包括响应一个被转发请求的接收，检查负载状况和转发频率。在一个例子中，协同高速缓存服务器的负载状况是到达所述协同高速缓存服务器的所述被转发请求的计数值和直接请求的计数值的加权和。在另一个例子中，高速缓存信息被保持在：每个对象级；或者对象的分区级。
本实施例包括用于执行负载均衡的各种实现方式，包括集中和分布环境以及其各种混合形式。例如，分布的负载监视器可以用于监视并保持局部负载状况，转发频率和在每个协同高速缓存服务器上对于被高速缓存对象的拥有信息。该协同高速缓存服务器可以定期交换和保持一个或多个：负载状况信息；转发频率；以及拥有信息。例如，协同高速缓存服务器可以通过随着一个或多个转发请求和响应，搭载(piggyback)负载状况信息、转发频率以及拥有信息中的一种或多种来交换信息。
在另一个例子中，一个过载协同高速缓存服务器可以识别一个较小负载的协同高速缓存服务器；并且把一个转移请求和高速缓存对象的副本传送到该较小负载的协同高速缓存服务器(然后该服务器高速缓存该对象)，使得要求该对象的后续请求将不被转发。另外，一个过载的协同高速缓存服务器可以把该转移请求传送到该较小负载的协同高速缓存服务器，然后响应该转移请求，该较小负载的服务器从源发对象服务器获得该对象的副本。在另一个例子中，该拥有高速缓存服务器可以把转移请求消息多点传送到一个或多个其它协同高速缓存服务器，使得后续的转发请求被转移。
在本发明的一个完整分布应用中，每个协同高速缓存服务器包括一个分布的负载监视器，用于监视和本地维护负载状况，并且还可以在一个高速缓存表的本地副本中或者通过一个哈希函数保持转发频率和拥有信息。该协同高速缓存服务器可以通过高速缓存表的本地副本或哈希函数的方式而改变拥有信息。
本发明还包括其它特征，把对该对象的拥有权改变为在至少两个协同高速缓存服务器之间的共享拥有权，并且把后续的对象请求转发到一个或多个该对象的较小负载的共享拥有者。如果检测到对于一个共享对象的负载状况减小，则共享拥有权可以合并，对应于在负载状况中的减小。
在另一个例子中，根据负载状况和转发频率转移一个或多个转发请求的转移可以通过把该对象的副本从该拥有高速缓存服务器传送到一个或多个协同高速缓存服务器而实现，使得后续请求将不被转发(只要该对象保留在该接收方的高速缓存中)。
根据本实施例的集中环境的一个例子包括：用于为协同高速缓存服务器维护转发频率和负载状况的中心逻辑负载监视器。该负载监视器可以包括一个逻辑目录服务器，用于维护一个用于监控在该高速缓存服务器上的负载的一个负载表以及一个用于监视转发频率和定位对象的高速缓存表(或者哈希函数)。目录服务器接收对于一个在其它高速缓存服务器中本地不中的对象的对象定位请求，并且把要求本地不中的对象的请求转发。目录服务器通过操纵基于一个给定对象的负载和转换频率的高速缓存表，响应要求对象位置的请求，在协同高速缓存服务器之间对请求进行负载均衡。
参照下文的描述、所附权利要求以及结合附图，本发明的这些和其它特点、方面和优点将得到更好的理解，其中：
图1a以方框图的形式示出采用代理高速缓存服务器的集合的一种系统的例子，其中可以应用根据本发明的集中负载均衡逻辑；
图1b以方框图的形式示出采用代理高速缓存服务器的集合的一种系统的例子，其中可以应用根据本发明的分布负载均衡逻辑；
图2a-b示出用于对由图1a-b中所示的负载监视器所维护的两个表的数据格式；
图3示出用于负载监视器响应由于一个高速缓存不中而来自一个高速缓存服务器的请求的逻辑流程的一个例子；以及
图4示出用于高速缓存服务器响应要求一个对象的请求的逻辑流程的一个例子。
下面将对用于集中和分布结构的本发明的负载均衡逻辑的例子进行描述。图1a示出采用代理高速缓存服务器的集合的一个系统的方框图的例子，其中可以应用本发明中提出的集中负载均衡逻辑。如图所示，该系统包括代理高速缓存服务器150的集合。尽管仅仅示出一级的高速缓存服务器，但是在此可以有多级高速缓存服务器150。通常，这些代理高速缓存服务器可以通过局域网(LAN)或者区域网或者内部网140相互连接。每个高速缓存服务器还连接到广域网(WAN)或者因特网110。通过WAN，这些代理高速缓存服务器可以到达115源发Web服务器，要求不能在它们的高速缓存中本地地找到的对象。
根据本实施例，一个逻辑负载监视器120包括一个负载均衡逻辑130，用于监视协同高速缓存服务器150的负载状况和转发频率(图2a)并且为它们提供负载均衡。如下文所述，各种负载监视器120的特征可以：驻留在一个或多个高速缓存服务器中；在高速缓存服务器之间复制和分布；或者驻留在另一个专用系统中，例如个人计算机(PC)服务器或工作站。在集中系统结构中，负载监视器120在指导请求125转发到高速缓存服务器中，可以执行中央目录功能。一个或多个浏览器160可以连接到每个高速缓存服务器150。直接请求155从例如运行常规浏览器160的计算机这样的客户机发送到配置的高速缓存服务器150。如果可以在本地找到所请求的对象，则它被返回到该浏览器。否则，该高速缓存服务器150把一条消息传送到负载监视器120。负载监视器120的各种实现例子将在下文中更加具体描述。如果不存在负载不均衡状况或趋势，则负载监视器120把该请求125转发到拥有所请求对象的高速缓存服务器150。该拥有高速缓存服务器然后把所请求对象例如通过LAN140发送到发出请求的高速缓存服务器。
如果实际负载不均衡情况被识别，或者根据负载趋势而预测到，则负载监视器120开始一个从过载高速缓存服务器向一个或多个低负载(或者较小负载)的服务器转发请求的转移。如下文更具体的描述，拥有权的转移可以根据服务器150的负载状况和转发频率以及其它因素。
图2a-b示出由负载监视器所维护的两个表的数据格式。如图所示，该表包括一个负载表102和一个高速缓存表101。本领域内的技术人员将认识到可以使用一个表格或者各种其它数据结构来代替或等价替换。负载表102包括每个(A、B、C...1022)高速缓存服务器150的负载状况1021，使得过载或低负载服务器可被识别。通常，负载状况1021可以通过检测每个高速缓存服务器而定期更新。一个高速缓存服务器的负载可以是转发请求数与直接请求数的加权和。过载高速缓存服务器150可以用任何常规技术而识别。例如，负载监视器可以在过去的时间间隔中计算所有代理高速缓存服务器的平均负载。过载的高速缓存服务器可以是具有超过上述平均负载之上的一个阈值的负载的服务器。根据本实施例，负载均衡考虑到过载量，以及由于被高速缓存对象的转发频率1011而造成的负载。这样，负载监视器可以确定是否要继续把一些或所有转发请求从一个过载高速缓存服务器C10213转移到一个低负载服务器A 10211。高速缓存表1011包括一个对象或一部分对象的转发频率1011和拥有权1012信息。如下文所述，拥有权可以单独在A中10122，或者在两个或更多的协同高速缓存服务器之间共享10121、10123。转发频率1011表示用于一个对象的请求已经通过负载监视器转发的次数。除了转发频率1011之外，高速缓存表101还可以维护时间戳1013，而时间戳表示用于一个对象的请求被转发的最近时间。另外，用于一个对象或分区1010的高速缓存信息可以包括在给定时间段(计数/时间)上对于通过负载监视器120的对象标识或分区标识1010的转发频率。对象的分区1010另外可以根据关于对象标识符的哈希函数，或者可以根据在Web服务器上组织对象的目录结构。在一个分区的情况下，属于一个分区的任何对象将被负载监视器所转发。拥有权的转移可以根据服务器的负载状况、转发频率1011和其它信息，例如时间戳信息。
图3示出响应由于一个高速缓存不中而来自高速缓存服务器150的请求由负载监视器120所执行的步骤的逻辑流程的一个例子。如图所示，在图201中，检查所请求对象/分区可以在高速缓存表中找到。如果为否，在步骤202中，为该对象/分区创建一个新的条目，并且一个高速缓存服务器被指定为拥有者。在该条目位于高速缓存表中之后，在步骤203中，转发频率1011被更新，例如，加1。然后，负载监视器检查负载表102，以在步骤204中察看该拥有者当前是否过载(以及看转发频率1011是否为一个重要的因素)。如果为是，在步骤205中，负载监视器找到一个低负载(或者较小负载)的高速缓存服务器，并且把其指定为所请求对象的新的(或共享的)拥有者10122。在高速缓存表101中对于该对象的拥有权信息1012被相应地更新。本领域内的技术人员将认识到该逻辑流程可以在该高速缓存表101中包括共享的10123或分级别的拥有权1012或采用其它数据结构。该请求(可能带有被请求对象的副本)然后可以在步骤206中被转发125到一个新的单独的10122(或者共享的10123)的拥有者。另外，新的拥有者可以被请求从源发对象服务器获得115一个对象的副本，例如，通过因特网110。本领域内的技术人员将认识到，负载检查步骤204可以被主动执行，即，定期地或者响应一个对于给定对象标识/分区标识1010以及高速缓存服务器(拥有权1012)的被识别的至少部分由于较高转发频率1011所造成的过载或过载倾向1021。如果是这样的话，则在步骤205，负载监视器找到一个低负载(或者较小负载的)高速缓存服务器，把其指定为所请求对象的新的(或者共享的)拥有者，并且可能如上文所述把该对象的一个副本发送到该新的(或者共享的)拥有者。相反，如果在步骤208中一个共享的拥有权模型被使用，当对于共享拥有的对象(p10101)的负载状况10211和转发步骤10111下降到预定阈值，在步骤209中，共享的拥有权(B，A10121)可以合并到单个拥有权，并且其中一个副本被从该高速缓存服务器A10121中清除，例如，为另一个热点对象腾出空间。
图4示出当对于一个对象的请求被直接155从浏览器160接收或者从负载监视器120转发125接收时用于一个缓冲服务器的逻辑流程的例子。如图所示，在步骤301中，首先检查被请求对象是否可以在其本地高速缓存中找到。如果为是，在步骤302中，它返回该对象并且该过程结束，在步骤306中。否则，在步骤303中，检查该请求是一个直接请求还是一个转发请求。如果它是一个直接请求，则在步骤304中，该请求被发送到负载监视器并且该过程结束，在步骤306中。另一方面，如果该请求是一个转发请求，在步骤305中，高速缓存服务器将从源发Web服务器取得该对象并且返回该对象。然后该过程结束，在步骤306。
现在参照图1a和2a-b，例如假设，一个连接到高速缓存服务器C10223的浏览器160请求155一个对象p10101。从高速缓存表101中，可以看出对象p10101没有被高速缓存在服务器C上，但是它高速缓存在(“被拥有”)高速缓存服务器B上(假设B，A10121最初仅仅由B所指定)。响应对象p的高速缓存不中，服务器C10223把一个请求发送到负载监视器120要求对象p。根据在服务器B上要求p10101的请求的负载状况10212以及转发频率1011，负载监视器可以把该请求转发到服务器B，请求它把对象p的副本发送到服务器C。或者，如果服务器B当前为过载或者它趋向过载，则负载监视器可以通过找到一个低负载(或者较小负载)的服务器来作为一个新的(或者如在B，A10121中共享的)对象p的拥有者，而把转发请求转移。然后，该请求被转发到对于该对象的新的(或者共享的，例如A)拥有服务器。请注意，即使在拥有权转移之后，对象p的副本仍然在服务器B的高速缓存中，并且仍然可以处理来到服务器B的直接请求。但是，在该例子中，将来对于对象p的所有转发请求(或者在共享拥有权的情况下可能是一些请求)将被转移到服务器A。另外，在共享拥有权B，A10121的情况下，对于对象p10101的将来的转发的请求可以被发送到较小负载的服务器。
现在，根据本实施例的负载均衡方法用于代理高速缓存服务器的集合已经进行了描述，其中一个逻辑中央目录被用于定位一个对象，但是各种变型将被考虑。本发明可以适用于对这些系统获得负载均衡。
例如，本发明可以用于对协同代理高速缓存服务器的集合执行负载均衡，其中每个高速缓存服务器150多点传送到一协同高速缓存服务器列表，以定位本地不中的对象的副本。在这种情况下，没有任何特定的拥有权信息需要被保持在该系统中的任何地方。但是，在此也不能保证从协同高速缓存服务器找到一个对象。假设一个逻辑负载监视器120被用于维护所有代理高速缓存服务器的负载状况1021并且与每个高速缓存服务器共享此信息。负载均衡可以通过从该协同服务器列表中排除过载的服务器而实现，其中一个高速缓存服务器把其请求(也称为转移请求)多点传送到该高速缓存服务器的列表上。结果，仅仅较小负载的高速缓存服务器将接收被转发请求125。
另一个替换是一种用于协同代理高速缓存服务器的集合的负载均衡方法，其中一个哈希函数被用于定位本地不中的对象的一个副本。在这种情况下，对象空间可以被在该协同代理高速缓存服务器150中分区，一个分区用于每个高速缓存服务器。为了通过转移被转发请求而实现负载均衡，可以改变哈希函数，使得被转发请求不能到达过载服务器。一个优选的方法是把对象空间散列为大量存储段(bucket)，比代理高速缓存服务器的总数大的多。这些散列存储段然后被分配给高速缓存服务器，目的是在它们之间均衡负载。可以定期地把一个或多个散列存储段从一个过载服务器转移到一个低负载服务器，有效地改变哈希函数。
在任何一种情况中，协同高速缓存服务器的负载状况可以把转发频率作为要素直接包括到所计算的负载状况中。例如，负载状况可以是到所述协同高速缓存服务器的所述转发请求的计数值以及直接请求的计数值的加权和。另外，负载监视器可以分别维护对于每个协同高速缓存服务器的整体转发频率。
现在参照图1b和2a-b，另一个变型是分布的负载监视器120，即，其中一些或所有负载监视器被在高速缓存服务器150上重复。在一个例子中，分布的负载监视器包括协同高速缓存服务器150的本地负载状况信息1021(如下文所述，可能是所有(A，B，C...1022)的负载状况)。分布的负载监视器120’最好还包括具有对于每个对象标识/分区标识1010的转发频率1011和拥有权1012的高速缓存表101。另外，一个哈希函数，如上文所述，可以分布并存储在该高速缓存服务器中。负载状况信息1021和/或高速缓存信息101：可以被定期交换；当存在状态改变时(拥有权或者在负载状况中的重大改变)；或者搭载高速缓存转发请求和响应。负载状况1021信息还可以具有一个与用于跟踪或其它目的相关的时间戳(未示出)。
在此，如果一个高速缓存服务器150具有一个高速缓存不中，则本地负载监视器120’在其本地高速缓存表101中查找被请求对象的拥有权，并且把该请求转发到该拥有高速缓存服务器。另外，哈希函数可以应用于来自该请求的一个关键字，例如URL(统一资源定位符)或者目的IP地址，以识别该分区，然后该请求被转发到正确的高速缓存服务器。当被转发请求(即，来自具有高速缓存不中的一个高速缓存服务器)被接收时，该拥有高速缓存服务器把它识别为一个转发请求(例如，通过把它识别为来自与一个客户机相对的另一个高速缓存服务器)，并且把其转发频率1011信息更新为可应用(图3，步骤203)。如果表明一个过载倾向或状况(步骤204)，该拥有高速缓存服务器可以用一个转移请求和所高速缓存对象的副本来响应发出请求的高速缓存服务器。另外，发出请求的高速缓存服务器可以通过内部网、广域网或因特网110从源发对象服务器获得一个副本。在任何情况中，当转发服务器高速缓存该对象的一个副本时，只要该对象保留在高速缓存中，该服务器不再发出转发请求(步骤301，302)，从而成比例地减小该拥有服务器上的负载。另外，该拥有高速缓存服务器可以把一个转移请求消息多点传送到一个或多个其它协同高速缓存服务器150，使得后续的转发请求被转移，例如，通过更新高速缓存表的本地副本或者修改哈希函数(步骤205)。在这一点，其它高速缓存服务器可以把它们的请求转发到新的拥有者(或者转发到两个或多个高速缓存服务器150的最小负载拥有者，如果拥有权为共享的话)，如高速缓存表101的本地副本中所示。当源发高速缓存拥有者的负载下降到一个可接受的水平(步骤204)，例如，由一个阈值所示，该共享拥有信息可以被合并到其原始状态(例如，B，A 10121->B)。
在用于所有高速缓存服务器(A，B，C...1022)的负载状况信息1021被完全分布的情况下，发出请求的高速缓存服务器可以主动检查拥有服务器的负载状况(以及相关时间戳)(步骤204)，即，在转发该请求之前。如果过载，则发出请求的服务器可以从拥有服务器(或者通过内联网或因特网110从源发服务器)要求该对象的一个副本，并且可能要求一个负载状况确认。该拥有高速缓存服务器可以更新其高速缓存表101或者修改希函数，以指示新的共享拥有权(步骤205)。然后，发出请求的服务器(或者拥有服务器)可以把一个消息多点传送到所有其它高速缓存服务器150，指示该对象的新的共享拥有权，并且可能包括一个更新的负载状况。在这一点，其它高速缓存服务器将更新它们的高速缓存表，或者修改哈希函数，以指示新的共享拥有权(步骤202)，并且可以把它们的请求(步骤206)转发到共享拥有权的两个或多个高速缓存服务器150的较小负载的拥有者，如高速缓存表101的本地副本中所示。当共享的高速缓存拥有者的负载已经降低到一个可接受的水平(步骤204和208)，例如，如一个阈值所示，则拥有权信息可以合并到其原始状态，在步骤209中。
本发明的一个优选实施例包括如下特征，即可以作为实际体现在计算机程序产品或者程序存储设备上，用于在具有高速缓存服务器150的处理器(未示出)或者实现负载监视器120的其它计算机上执行的软件而实现，例如在上述集中模式中。例如，以流行的面向对象的计算机可执行代码实现的软件，例如JAVA语言，提供跨越不同平台的可移植性。本领域内的技术人员将认识到还可以采用许多其它编译或解释，面向过程和/或面向对象(OO)编程环境，包括REXX、C、C++和Smalltalk语言，但不限于此。
本领域内的技术人员还认识到本实施例的方法可以是体现在磁性、电、光或者其它持久编程和/或数据存储设备上的软件，其中包括但不限于：磁盘、直接存取存储设备(DASD)、磁泡存储器；磁带；光盘格式，例如CD-ROM和DVD；以及其它持久(也称为非易失)存储设备，例如磁芯存储器、ROM、PROM、闪存器、或者电池供电的RAM。本领域内的技术人员将认识到在本发明的精神和范围内，在服务器120’的存储器中的一个或多个部分可以直接通过磁盘(未示出)、网络、其它服务器而存取和保存，或者可以在多个服务器上分布。
总而言之，在包括协同高速缓存服务器，例如代理高速缓存服务器，的集合的系统中，如果所请求对象不能在本地找到，则该请求可以被转发到协同高速缓存服务器。如果例如由于引用不均衡而造成过载状况被检测，即所有客户机所要求一些对象，则包含这些热点对象的高速缓存服务器由于转发请求而过载。相应地，通过把一些或所有的转发请求从过载的高速缓存服务器转移到较小负载的服务器而均衡负载。集中和分布的负载均衡环境都已描述。
尽管我们已经描述了本发明的优选实施例及其替代，但是本领域内的技术人员应当知道，现在和将来都可以进行各种改进和增强，而这些改进落在下文的权利要求的范围中。这些权利要求应当被认为是保持对第一次公开的本发明的适当保护。

Claims (35)

1.一种高速缓存服务器负载均衡方法，其中包括如下步骤：
接收响应来自多个协同高速缓存服务器之一上的一个对象的高速缓存不中而从该协同高速缓存服务器转发的转发请求；以及
根据动态保持的服务器负载状况和转发频率，把一个或多个要求该对象的所述转发请求在协同高速缓存服务器之间转移，所述转发频率包括对该对象的请求已经被转发的次数。
2.根据权利要求1所述的方法，所述转移步骤还包括如下步骤：
定期监视一个拥有高速缓存服务器的负载状况和转发频率；以及
响应所述监视的结果，主动地把一个或多个用于被高速缓存对象的后续的转发的请求从该拥有高速缓存服务器转移到一个或多个所述协同高速缓存服务器。
3.根据权利要求1或2所述的方法，所述转移步骤进一步包括响应转发的请求检查负载状况和转发频率的步骤。
4.根据权利要求1或2所述的方法，其中所述转移步骤包括把对于该对象的拥有权改变为在两个或多个所述协同高速缓存服务器之间的共享拥有权。
5.根据权利要求4所述的方法，其中进一步包括响应负载状况中的改变把所述共享拥有权合并的步骤。
6.根据权利要求1所述的方法，其中进一步包括本地监视在每个协同高速缓存服务器上的负载的步骤。
7.根据权利要求6所述的方法，其中进一步骤包括如下步骤：
一个分布负载监视器监视并维护在所述每个协同高速缓存服务器上的本地负载状况、转发频率以及对于所高速缓存对象的拥有权信息。
8.根据权利要求7所述的方法，其中进一步包括如下步骤：
所述协同高速缓存服务器定期交换和维护一个或多个：负载状况信息；转发频率；以及拥有权信息。
9.根据权利要求7所述的方法，其中进一步包括如下步骤：
所述协同高速缓存服务器通过搭载一个或多个被转发请求和响应，而交换一个或多个：负载状况信息；转发频率；以及拥有权信息。
10.根据权利要求1或2所述的方法，其中进一步包括如下步骤：
接收一个转发的请求并且更新转发频率。
11.根据权利要求7、8或9所述的方法，其中进一步包括如下步骤：
识别一个较小负载的协同高速缓存服务器；以及
把一个或多个：转移请求；以及高速缓存对象的一个副本，传送到所述较小负载的协同高速缓存服务器。
12.根据权利要求11所述的方法，其中进一步包括如下步骤：
所述较小负载的协同高速缓存服务器接收所述转移请求；以及
所述较小负载的协同高速缓存服务器响应所述转移请求，从一个源发对象服务器要求该对象的一个副本。
13.根据权利要求11所述的方法，其中该副本是通过一个或多个内联网、广域网或因特网而获得。
14.根据权利要求1或2所述的方法，其中进一步包括如下步骤：把一个转移请求信息多点传送到一个或多个其它协同高速缓存服务器，使得后续的转发信息被转移。
15.根据权利要求14所述的方法，其中进一步包括如下步骤：
协同高速缓存服务器维护一个高速缓存表的本地副本并且修改一个哈希函数；以及
该协同高速缓存服务器通过：更新一个高速缓存表的本地副本；以及修改一个哈希函数，而修改拥有权信息。
16.根据权利要求15所述的方法，其中进一步包括如下步骤：
把对于该对象的拥有权改变为在至少两个所述协同高速缓存服务器之间的共享拥有权；以及
所述协同高速缓存服务器将后续对象请求转发到该对象的一个或多个较小负载的共享拥有者。
17.根据权利要求16所述的方法，其中进一步包括如下步骤：
检测对于一个共享对象的负载状况的下降；以及
响应负载状况的下降，合并该共享的拥有权。
18.根据权利要求1或2所述的方法，其中所述转移一个或多个所述转发的请求包括如下步骤：
把该对象的一个副本从拥有一个高速缓存服务器传送到一个或多个所述协同高速缓存服务器；以及
所述协同高速缓存服务器接收并高速缓存该对象的副本。
19.根据权利要求1或2所述的方法，其中进一步包括如下步骤：
在过去的时间间隔中计算每个高速缓存服务器的负载状况；
在过去的时间间隔中计算所有高速缓存服务器的平均负载；以及
查找超过所述平均负载之上的一个阈值的高速缓存服务器。
20.根据权利要求1或2所述的方法，其中所述协同高速缓存服务器的负载状况可以是到所述协同高速缓存服务器的所述转发的请求的计数值与直接请求的计数值的加权和。
21.根据权利要求1或2所述的方法，其中进一步包括如下步骤：在一个或多个：每个对象级；以及对象的一个分区级，维护高速缓存信息。
22.根据权利要求21所述的方法，其中所述对象级或所述分区的所述高速缓存信息包括与该对象相关的转发频率。
23.根据权利要求22所述的方法，其中进一步包括如下步骤：
一个分布的负载监视器监视并本地维护在每个高速缓存服务器上的负载状况、转发频率以及对于高速缓存对象的拥有权信息。
24.根据权利要求23所述的方法，其中进一步包括如下步骤：
所述协同高速缓存服务器定期的交换一个或多个负载状况，转发频率和拥有权信息。
25.根据权利要求22所述的方法，其中进一步包括如下步骤：
所述协同高速缓存服务器通过搭载一个或多个被转发请求和响应，而交换一个或多个：负载状况；转发频率；以及拥有权信息。
26.一种在协同高速缓存服务器的集合中均衡负载的方法，其中每个高速缓存服务器可以接收直接请求和转发请求，并且在一个高速缓存不中时，一个请求可以被转发到高速缓存所述对象的一个拥有高速缓存服务器，该方法包括如下步骤：
对所述协同高速缓存服务器监视负载状况和转发频率，所述转发频率包括对该对象的请求已经被转发的次数；以及
根据负载状况和转换频率中的改变，把已经被转发的一个或多个转发的请求从一个协同高速缓存服务器转移到第二个协同高速缓存服务器。
27.根据权利要求26所述的方法，其中所述监视负载状况的步骤包括如下步骤：
在过去的时间间隔中计算每个高速缓存服务器的负载状况；
在过去的时间间隔中计算所有代理高速缓存服务器的平均负载；以及
查找超过高于所述平均的负载的一个阈值的那些代理高速缓存服务器。
28.根据权利要求26或27所述的方法，其中所述转移步骤可以响应如下一种或多种情况而执行：来自所述协同高速缓存服务器的转发的请求；以及定期监视负载状况和转换频率。
29.根据权利要求26或27所述的方法，其中进一步包括如下步骤：集中的逻辑负载监视器为该协同高速缓存服务器维护转发频率和负载状况。
30.根据权利要求26或27所述的方法，其中所述高速缓存服务器的负载状况可以是到所述高速缓存服务器的转发的请求的计数值与直接请求的计数值的加权和。
31.根据权利要求26或27所述的方法，其中进一步包括在每个对象级或在对象的一个分区级维护高速缓存信息的步骤。
32.根据权利要求31所述的方法，其中所述对象级或分区级的高速缓存信息包括通过所述负载监视器到达所述对象的请求的转发频率。
33.根据权利要求26或27所述的方法，其中所述协同高速缓存服务器包括协同代理高速缓存服务器。
34.根据权利要求26或27所述的方法，其中进一步包括如下步骤：
一个逻辑目录服务器维护一个高速缓存表和一个负载表；
所述高速缓存服务器向所述目录服务器查询对于一个本地不中的对象在另一个高速缓存服务器中的对象的位置；以及
响应对于对象位置的请求，所述目录服务器通过操纵所述高速缓存表在所述高速缓存服务器中负载均衡请求。
35.根据权利要求29所述的方法，其中进一步包括如下步骤：
每个高速缓存服务器多点传送到一列表中的协同高速缓存服务器，以定位一个本地不中的对象的副本；以及
所述转移步骤包括从用于多点传送的相邻高速缓存服务器的子集中排除过载的高速缓存服务器的步骤。
CNB998118281A 1998-10-09 1999-10-08 协同高速缓存服务器负载均衡方法 Expired - Lifetime CN1255728C (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US09/169,223 1998-10-09
US09/169,223 US6438652B1 (en) 1998-10-09 1998-10-09 Load balancing cooperating cache servers by shifting forwarded request

Publications (2)

Publication Number Publication Date
CN1322315A CN1322315A (zh) 2001-11-14
CN1255728C true CN1255728C (zh) 2006-05-10

Family

ID=22614704

Family Applications (1)

Application Number Title Priority Date Filing Date
CNB998118281A Expired - Lifetime CN1255728C (zh) 1998-10-09 1999-10-08 协同高速缓存服务器负载均衡方法

Country Status (13)

Country Link
US (1) US6438652B1 (zh)
EP (1) EP1119808A1 (zh)
JP (2) JP3989682B2 (zh)
KR (1) KR100473671B1 (zh)
CN (1) CN1255728C (zh)
AU (1) AU6114499A (zh)
CA (1) CA2343802C (zh)
CZ (1) CZ20011281A3 (zh)
HU (1) HU224787B1 (zh)
IL (1) IL141973A (zh)
PL (1) PL195958B1 (zh)
TW (1) TW444458B (zh)
WO (1) WO2000022526A1 (zh)

Families Citing this family (300)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AP9901621A0 (en) * 1997-01-13 1999-09-30 John Overton Automated system for image archiving.
US7103640B1 (en) 1999-09-14 2006-09-05 Econnectix, Llc Network distributed tracking wire transfer protocol
US7233978B2 (en) * 1998-07-08 2007-06-19 Econnectix, Llc Method and apparatus for managing location information in a network separate from the data to which the location information pertains
US6993034B1 (en) * 1998-10-15 2006-01-31 International Business Machines Corporation Cluster destination address table—IP routing for clusters
US6691165B1 (en) * 1998-11-10 2004-02-10 Rainfinity, Inc. Distributed server cluster for controlling network traffic
US6553376B1 (en) * 1998-11-18 2003-04-22 Infolibria, Inc. Efficient content server using request redirection
US6490615B1 (en) * 1998-11-20 2002-12-03 International Business Machines Corporation Scalable cache
JP2000163288A (ja) * 1998-11-30 2000-06-16 Nec Corp データ記憶システム、データ再配置方法及び記録媒体
US8225002B2 (en) 1999-01-22 2012-07-17 Network Disk, Inc. Data storage and data sharing in a network of heterogeneous computers
US6801949B1 (en) 1999-04-12 2004-10-05 Rainfinity, Inc. Distributed server cluster with graphical user interface
US6975937B1 (en) * 1999-05-11 2005-12-13 Christopher Kantarjiev Technique for processing customer service transactions at customer site using mobile computing device
US7177825B1 (en) 1999-05-11 2007-02-13 Borders Louis H Integrated system for ordering, fulfillment, and delivery of consumer products using a data network
WO2000068856A2 (en) 1999-05-11 2000-11-16 Webvan Group, Inc. Electronic commerce enabled delivery system and method
US7146505B1 (en) 1999-06-01 2006-12-05 America Online, Inc. Secure data exchange between date processing systems
US6751191B1 (en) 1999-06-29 2004-06-15 Cisco Technology, Inc. Load sharing and redundancy scheme
US7185114B1 (en) * 1999-08-07 2007-02-27 Shrikumar Hariharasubrahmanian Virtual memory systems and methods
US6667980B1 (en) 1999-10-21 2003-12-23 Sun Microsystems, Inc. Method and apparatus for providing scalable services using a packet distribution table
US7401115B1 (en) * 2000-10-23 2008-07-15 Aol Llc Processing selected browser requests
JP3463803B2 (ja) * 1999-11-09 2003-11-05 松下電器産業株式会社 クラスタサーバ装置
US6681251B1 (en) * 1999-11-18 2004-01-20 International Business Machines Corporation Workload balancing in clustered application servers
US6405252B1 (en) * 1999-11-22 2002-06-11 Speedera Networks, Inc. Integrated point of presence server network
US7523181B2 (en) 1999-11-22 2009-04-21 Akamai Technologies, Inc. Method for determining metrics of a content delivery and global traffic management network
US7925713B1 (en) * 1999-11-22 2011-04-12 Akamai Technologies, Inc. Method for operating an integrated point of presence server network
US7590739B2 (en) * 1999-11-22 2009-09-15 Akamai Technologies, Inc. Distributed on-demand computing system
US6694358B1 (en) 1999-11-22 2004-02-17 Speedera Networks, Inc. Performance computer network method
US6754699B2 (en) 2000-07-19 2004-06-22 Speedera Networks, Inc. Content delivery and global traffic management network system
US7349979B1 (en) * 1999-12-02 2008-03-25 Cisco Technology, Inc. Method and apparatus for redirecting network traffic
US6799202B1 (en) * 1999-12-16 2004-09-28 Hachiro Kawaii Federated operating system for a server
US6754706B1 (en) 1999-12-16 2004-06-22 Speedera Networks, Inc. Scalable domain name system with persistence and load balancing
US6769008B1 (en) 2000-01-10 2004-07-27 Sun Microsystems, Inc. Method and apparatus for dynamically altering configurations of clustered computer systems
US6735206B1 (en) 2000-01-10 2004-05-11 Sun Microsystems, Inc. Method and apparatus for performing a fast service lookup in cluster networking
US6748437B1 (en) 2000-01-10 2004-06-08 Sun Microsystems, Inc. Method for creating forwarding lists for cluster networking
US6587866B1 (en) * 2000-01-10 2003-07-01 Sun Microsystems, Inc. Method for distributing packets to server nodes using network client affinity and packet distribution table
US6757836B1 (en) 2000-01-10 2004-06-29 Sun Microsystems, Inc. Method and apparatus for resolving partial connectivity in a clustered computing system
US6789213B2 (en) * 2000-01-10 2004-09-07 Sun Microsystems, Inc. Controlled take over of services by remaining nodes of clustered computing system
US6862613B1 (en) 2000-01-10 2005-03-01 Sun Microsystems, Inc. Method and apparatus for managing operations of clustered computer systems
US6735205B1 (en) 2000-01-10 2004-05-11 Sun Microsystems, Inc. Method and apparatus for fast packet forwarding in cluster networking
US6839829B1 (en) 2000-01-18 2005-01-04 Cisco Technology, Inc. Routing protocol based redundancy design for shared-access networks
US7058007B1 (en) 2000-01-18 2006-06-06 Cisco Technology, Inc. Method for a cable modem to rapidly switch to a backup CMTS
US6823377B1 (en) * 2000-01-28 2004-11-23 International Business Machines Corporation Arrangements and methods for latency-sensitive hashing for collaborative web caching
US6850968B1 (en) * 2000-02-01 2005-02-01 Service Co. Reduction of network server loading
US6865601B1 (en) * 2000-02-11 2005-03-08 Hewlett-Packard Development Company L.P. Method for allocating web sites on a web server cluster based on balancing memory and load requirements
US7313616B1 (en) * 2000-02-17 2007-12-25 International Business Machines Corporation Web site management in a world wide web communication network through periodic reassignment of the server computers designated for respective web documents related to document weight based on byte count and program content
US7162539B2 (en) * 2000-03-16 2007-01-09 Adara Networks, Inc. System and method for discovering information objects and information object repositories in computer networks
US7552233B2 (en) * 2000-03-16 2009-06-23 Adara Networks, Inc. System and method for information object routing in computer networks
US7565450B2 (en) * 2000-03-16 2009-07-21 Adara Networks Inc. System and method for using a mapping between client addresses and addresses of caches to support content delivery
US7650376B1 (en) * 2000-03-27 2010-01-19 Blumenau Trevor I Content distribution system for distributing content over a network, with particular applicability to distributing high-bandwidth content
US7058706B1 (en) 2000-03-31 2006-06-06 Akamai Technologies, Inc. Method and apparatus for determining latency between multiple servers and a client
US6862623B1 (en) * 2000-04-14 2005-03-01 Microsoft Corporation Capacity planning for server resources
AU2001253613A1 (en) * 2000-04-17 2001-10-30 Circadence Corporation System and method for shifting functionality between multiple web servers
US6980533B1 (en) * 2000-04-19 2005-12-27 Lucent Technologies Inc. Load balancing technique for a wireless internet access system
US6970425B1 (en) * 2000-04-27 2005-11-29 At&T Corp. Method and apparatus for throttling and distributing data transmissions across a network
US7343422B2 (en) 2000-04-28 2008-03-11 Adara Networks, Inc. System and method for using uniform resource locators to map application layer content names to network layer anycast addresses
US7577754B2 (en) * 2000-04-28 2009-08-18 Adara Networks, Inc. System and method for controlling access to content carried in a caching architecture
US7908337B2 (en) * 2000-04-28 2011-03-15 Adara Networks, Inc. System and method for using network layer uniform resource locator routing to locate the closest server carrying specific content
US7725596B2 (en) * 2000-04-28 2010-05-25 Adara Networks, Inc. System and method for resolving network layer anycast addresses to network layer unicast addresses
US6611906B1 (en) * 2000-04-30 2003-08-26 Hewlett-Packard Development Company, L.P. Self-organizing hardware processing entities that cooperate to execute requests
US6598140B1 (en) * 2000-04-30 2003-07-22 Hewlett-Packard Development Company, L.P. Memory controller having separate agents that process memory transactions in parallel
EP1154356A1 (en) * 2000-05-09 2001-11-14 Alcatel Caching of files during loading from a distributed file system
US7240283B1 (en) 2000-11-10 2007-07-03 Narasimha Rao Paila Data transmission and rendering techniques implemented over a client-server system
US6757796B1 (en) * 2000-05-15 2004-06-29 Lucent Technologies Inc. Method and system for caching streaming live broadcasts transmitted over a network
AU2001265075A1 (en) * 2000-05-26 2001-12-11 Infolibria, Inc. High performance efficient subsystem for data object storage
US20080005275A1 (en) * 2000-06-02 2008-01-03 Econnectix, Llc Method and apparatus for managing location information in a network separate from the data to which the location information pertains
US7143128B1 (en) * 2000-06-08 2006-11-28 International Business Machines Corporation Interactive data processor controlled display interface for tracking of allocated messages in a dynamic workload balancing communication system
US6738614B1 (en) * 2000-06-19 2004-05-18 1477.Com Wireless, Inc. Method and system for communicating data to a wireless device
US6704781B1 (en) * 2000-06-27 2004-03-09 Intel Corporation System and method for content caching implementing compensation for providing caching services
US6999988B2 (en) * 2000-07-13 2006-02-14 Lucent Technologies Inc. Method and system for data layout and replacement in distributed streaming caches on the Internet
AU2002222964A1 (en) * 2000-07-19 2002-01-30 Speedera Networks, Inc. Content delivery and global traffic management across a network system
US7653706B2 (en) 2000-07-19 2010-01-26 Akamai Technologies, Inc. Dynamic image delivery system
US8060581B2 (en) 2000-07-19 2011-11-15 Akamai Technologies, Inc. Dynamic image delivery system
US7912978B2 (en) 2000-07-19 2011-03-22 Akamai Technologies, Inc. Method for determining metrics of a content delivery and global traffic management network
US7346676B1 (en) 2000-07-19 2008-03-18 Akamai Technologies, Inc. Load balancing service
US8341297B2 (en) 2000-07-19 2012-12-25 Akamai Technologies, Inc. Latencies and weightings in a domain name service (DNS) system
US7725602B2 (en) 2000-07-19 2010-05-25 Akamai Technologies, Inc. Domain name resolution using a distributed DNS network
US6804077B1 (en) * 2000-07-25 2004-10-12 Certance Llc Method and apparatus for reinitializing a tape drive after a power loss
US7454516B1 (en) * 2000-08-03 2008-11-18 Microsoft Corporation Scalable virtual partitioning of resources
US7177945B2 (en) * 2000-08-04 2007-02-13 Avaya Technology Corp. Non-intrusive multiplexed transaction persistency in secure commerce environments
US7711790B1 (en) 2000-08-24 2010-05-04 Foundry Networks, Inc. Securing an accessible computer system
GB2366406A (en) * 2000-09-01 2002-03-06 Ncr Int Inc Downloading and uploading data in information networks
US7454500B1 (en) * 2000-09-26 2008-11-18 Foundry Networks, Inc. Global server load balancing
US7657629B1 (en) * 2000-09-26 2010-02-02 Foundry Networks, Inc. Global server load balancing
US9130954B2 (en) * 2000-09-26 2015-09-08 Brocade Communications Systems, Inc. Distributed health check for global server load balancing
JP2002108840A (ja) * 2000-09-28 2002-04-12 Toshiba Corp 分散型注文受付システム、受付サーバ、コンテンツサーバ、分散型注文受付方法及びコンピュータプログラム製品
JP2002123435A (ja) * 2000-10-17 2002-04-26 Hitachi Ltd 情報提供装置および方法
US6950849B1 (en) * 2000-11-01 2005-09-27 Hob Gmbh & Co. Kg Controlling load-balanced access by user computers to server computers in a computer network
JP2002140202A (ja) * 2000-11-01 2002-05-17 Hitachi Ltd 情報配信システムおよびその負荷分散方法
US6785707B2 (en) * 2000-11-14 2004-08-31 Bitfone Corp. Enhanced multimedia mobile content delivery and message system using cache management
US20020069241A1 (en) * 2000-12-06 2002-06-06 Girija Narlikar Method and apparatus for client-side proxy selection
US7233914B1 (en) 2000-12-27 2007-06-19 Joyo Wijaya Technique for implementing item substitution for unavailable items relating to a customer order
US7035911B2 (en) 2001-01-12 2006-04-25 Epicrealm, Licensing Llc Method and system for community data caching
US7188145B2 (en) 2001-01-12 2007-03-06 Epicrealm Licensing Llc Method and system for dynamic distributed data caching
US7024479B2 (en) * 2001-01-22 2006-04-04 Intel Corporation Filtering calls in system area networks
US6990667B2 (en) * 2001-01-29 2006-01-24 Adaptec, Inc. Server-independent object positioning for load balancing drives and servers
US7155515B1 (en) * 2001-02-06 2006-12-26 Microsoft Corporation Distributed load balancing for single entry-point systems
US7193968B1 (en) * 2001-02-08 2007-03-20 Cisco Technology, Inc. Sample netflow for network traffic data collection
JP2002251313A (ja) * 2001-02-23 2002-09-06 Fujitsu Ltd キャッシュサーバ及び分散キャッシュサーバシステム
US7555561B2 (en) * 2001-03-19 2009-06-30 The Aerospace Corporation Cooperative adaptive web caching routing and forwarding web content data broadcasting method
US7308423B1 (en) 2001-03-19 2007-12-11 Franklin Goodhue Woodward Technique for handling sales of regulated items implemented over a data network
US20020184327A1 (en) * 2001-05-11 2002-12-05 Major Robert Drew System and method for partitioning address space in a proxy cache server cluster
US7584418B2 (en) 2001-05-31 2009-09-01 Oracle International Corporation Methods, systems, and articles of manufacture for prefabricating an information page
US20020184612A1 (en) * 2001-06-01 2002-12-05 Hunt Joseph R. Runtime configurable caching for component factories
US7899911B2 (en) * 2001-06-07 2011-03-01 Intel Corporation Method and apparatus to retrieve information in a network
US7881208B1 (en) 2001-06-18 2011-02-01 Cisco Technology, Inc. Gateway load balancing protocol
US7117242B2 (en) * 2001-06-20 2006-10-03 Hewlett-Packard Development Company, L.P. System and method for workload-aware request distribution in cluster-based network servers
US8041814B2 (en) * 2001-06-28 2011-10-18 International Business Machines Corporation Method, system and computer program product for hierarchical load balancing
US7610357B1 (en) * 2001-06-29 2009-10-27 Cisco Technology, Inc. Predictively responding to SNMP commands
US20030014596A1 (en) * 2001-07-10 2003-01-16 Naohiko Irie Streaming data cache for multimedia processor
US7274659B2 (en) 2001-07-27 2007-09-25 Western Digital Ventures, Inc. Providing streaming media data
US20030028583A1 (en) * 2001-07-31 2003-02-06 International Business Machines Corporation Method and apparatus for providing dynamic workload transition during workload simulation on e-business application server
US20030041215A1 (en) * 2001-08-27 2003-02-27 George Robert T. Method and apparatus for the utilization of distributed caches
EP1423972A1 (en) * 2001-08-27 2004-06-02 Koninklijke Philips Electronics N.V. Cache method
US6973536B1 (en) * 2001-08-31 2005-12-06 Oracle Corporation Self-adaptive hybrid cache
US6721845B1 (en) * 2001-09-24 2004-04-13 Lsi Logic Corporation Algorithm for maintaining maximum streaming performance of mirrored disks
US7769823B2 (en) 2001-09-28 2010-08-03 F5 Networks, Inc. Method and system for distributing requests for content
US6839758B2 (en) * 2001-09-28 2005-01-04 Intel Corporation Network processor for cache array routing
US7373644B2 (en) * 2001-10-02 2008-05-13 Level 3 Communications, Llc Automated server replication
US7761594B1 (en) * 2001-10-15 2010-07-20 Netapp, Inc. Method and apparatus for forwarding requests in a cache hierarchy based on user-defined forwarding rules
US20030079027A1 (en) * 2001-10-18 2003-04-24 Michael Slocombe Content request routing and load balancing for content distribution networks
WO2003039143A1 (fr) * 2001-10-30 2003-05-08 Nikon Corporation Appareil d'accumulation d'images, appareil de support d'accumulation d'images, systeme d'accumulation d'images, appareil de commande d'images, appareil de stockage d'images
US7984110B1 (en) * 2001-11-02 2011-07-19 Hewlett-Packard Company Method and system for load balancing
US7734726B2 (en) * 2001-11-27 2010-06-08 International Business Machines Corporation System and method for dynamically allocating processing on a network amongst multiple network servers
US20030105830A1 (en) * 2001-12-03 2003-06-05 Duc Pham Scalable network media access controller and methods
KR100426306B1 (ko) * 2001-12-11 2004-04-08 한국전자통신연구원 인트라 도메인내에서의 ｓｉｐ 서버간 로드 분산 처리 방법
US6772161B2 (en) * 2001-12-19 2004-08-03 Hewlett-Packard Development Company, L.P. Object-level migration in a partition-based distributed file system
US6775673B2 (en) * 2001-12-19 2004-08-10 Hewlett-Packard Development Company, L.P. Logical volume-level migration in a partition-based distributed file system
US6775672B2 (en) * 2001-12-19 2004-08-10 Hewlett-Packard Development Company, L.P. Updating references to a migrated object in a partition-based distributed file system
US6687793B1 (en) * 2001-12-28 2004-02-03 Vignette Corporation Method and system for optimizing resources for cache management
JP2003296226A (ja) * 2002-04-05 2003-10-17 Hitachi Ltd ウェブアクセス提供方法およびサーバ装置
US8819252B1 (en) 2002-05-03 2014-08-26 Foundry Networks, Llc Transaction rate limiting
US8554929B1 (en) * 2002-05-03 2013-10-08 Foundry Networks, Llc Connection rate limiting for server load balancing and transparent cache switching
US7707295B1 (en) * 2002-05-03 2010-04-27 Foundry Networks, Inc. Connection rate limiting
JP2003323329A (ja) * 2002-05-07 2003-11-14 Fujitsu Ltd 分散ファイル管理方法及びプログラム
US20040010786A1 (en) * 2002-07-11 2004-01-15 Microsoft Corporation System and method for automatically upgrading a software application
US7334124B2 (en) * 2002-07-22 2008-02-19 Vormetric, Inc. Logical access block processing protocol for transparent secure file storage
US6931530B2 (en) 2002-07-22 2005-08-16 Vormetric, Inc. Secure network file access controller implementing access control and auditing
US6678828B1 (en) * 2002-07-22 2004-01-13 Vormetric, Inc. Secure network file access control system
US7086061B1 (en) 2002-08-01 2006-08-01 Foundry Networks, Inc. Statistical tracking of global server load balancing for selecting the best network address from ordered list of network addresses based on a set of performance metrics
US7676576B1 (en) 2002-08-01 2010-03-09 Foundry Networks, Inc. Method and system to clear counters used for statistical tracking for global server load balancing
US7574508B1 (en) 2002-08-07 2009-08-11 Foundry Networks, Inc. Canonical name (CNAME) handling for global server load balancing
US7162579B2 (en) * 2002-08-19 2007-01-09 Aristos Logic Corporation Asymmetrical load balancing for mirrored storage volumes
US7552223B1 (en) 2002-09-16 2009-06-23 Netapp, Inc. Apparatus and method for data consistency in a proxy cache
US7171469B2 (en) * 2002-09-16 2007-01-30 Network Appliance, Inc. Apparatus and method for storing data in a proxy cache in a network
US7284030B2 (en) * 2002-09-16 2007-10-16 Network Appliance, Inc. Apparatus and method for processing data in a network
US7143288B2 (en) * 2002-10-16 2006-11-28 Vormetric, Inc. Secure file system server architecture and methods
US7353538B2 (en) * 2002-11-08 2008-04-01 Federal Network Systems Llc Server resource management, analysis, and intrusion negation
US7986625B2 (en) * 2002-12-10 2011-07-26 International Business Machines Corporation Resource-aware system, method and program product for managing request traffic based on a management policy
KR100901622B1 (ko) * 2002-12-13 2009-06-08 주식회사 케이티 디렉토리 트래픽 부하 감소를 위해 로컬 캐슁 기법을이용한 사용자 정보 검색 방법
US7349997B2 (en) * 2003-01-15 2008-03-25 Hewlett-Packard Development Company, L.P. Dynamic command filter
US20040215703A1 (en) * 2003-02-18 2004-10-28 Xiping Song System supporting concurrent operation of multiple executable application operation sessions
US7636917B2 (en) * 2003-06-30 2009-12-22 Microsoft Corporation Network load balancing with host status information
US20050027862A1 (en) * 2003-07-18 2005-02-03 Nguyen Tien Le System and methods of cooperatively load-balancing clustered servers
US9584360B2 (en) * 2003-09-29 2017-02-28 Foundry Networks, Llc Global server load balancing support for private VIP addresses
US8655755B2 (en) * 2003-10-22 2014-02-18 Scottrade, Inc. System and method for the automated brokerage of financial instruments
CN1879081B (zh) * 2003-11-04 2011-07-13 汤姆森许可贸易公司 用于下载服务的热点处的高速缓存服务器
US7543041B2 (en) * 2003-11-12 2009-06-02 International Business Machines Corporation Pattern based web services using caching
US8572249B2 (en) * 2003-12-10 2013-10-29 Aventail Llc Network appliance for balancing load and platform services
US20050188055A1 (en) * 2003-12-31 2005-08-25 Saletore Vikram A. Distributed and dynamic content replication for server cluster acceleration
US7631081B2 (en) * 2004-02-27 2009-12-08 International Business Machines Corporation Method and apparatus for hierarchical selective personalization
CN100370770C (zh) * 2004-03-03 2008-02-20 华为技术有限公司 实现网络长连接倒换的方法
JPWO2005086003A1 (ja) * 2004-03-08 2008-01-24 アネックスシステムズ株式会社 データベース・システム
US8782654B2 (en) 2004-03-13 2014-07-15 Adaptive Computing Enterprises, Inc. Co-allocating a reservation spanning different compute resources types
JP4147198B2 (ja) * 2004-03-23 2008-09-10 株式会社日立製作所 ストレージシステム
US20060064478A1 (en) * 2004-05-03 2006-03-23 Level 3 Communications, Inc. Geo-locating load balancing
US8089972B2 (en) 2004-05-03 2012-01-03 Level 3 Communications, Llc Registration redirect server
US7496651B1 (en) 2004-05-06 2009-02-24 Foundry Networks, Inc. Configurable geographic prefixes for global server load balancing
US7584301B1 (en) 2004-05-06 2009-09-01 Foundry Networks, Inc. Host-level policies for global server load balancing
JP4190455B2 (ja) * 2004-05-11 2008-12-03 富士通株式会社 負荷分散装置及びプログラム
US20070266388A1 (en) 2004-06-18 2007-11-15 Cluster Resources, Inc. System and method for providing advanced reservations in a compute environment
CN100359891C (zh) * 2004-06-30 2008-01-02 中兴通讯股份有限公司 一种通过缓存提高多媒体消息中心业务处理性能的方法
US7660897B2 (en) * 2004-08-03 2010-02-09 International Business Machines Corporation Method, system, and program for distributing application transactions among work servers
US8176490B1 (en) 2004-08-20 2012-05-08 Adaptive Computing Enterprises, Inc. System and method of interfacing a workload manager and scheduler with an identity manager
US7423977B1 (en) 2004-08-23 2008-09-09 Foundry Networks Inc. Smoothing algorithm for round trip time (RTT) measurements
KR101078484B1 (ko) * 2004-08-30 2011-10-31 주식회사 케이티 부하를 고려한 네트워크 관리시스템 및 관리방법
US8346956B2 (en) 2004-10-29 2013-01-01 Akamai Technologies, Inc. Dynamic image delivery system
CA2586763C (en) 2004-11-08 2013-12-17 Cluster Resources, Inc. System and method of providing system jobs within a compute environment
US20060123217A1 (en) * 2004-12-07 2006-06-08 International Business Machines Corporation Utilization zones for automated resource management
US8768350B2 (en) 2004-12-09 2014-07-01 Level 3 Communications, Llc Systems and methods for locating endpoints in a communication network
US7734019B1 (en) * 2004-12-09 2010-06-08 Level 3 Communications, Llc Systems and methods for third party emergency call termination
US9843557B2 (en) 2004-12-09 2017-12-12 Level 3 Communications, Llc Systems and methods for dynamically registering endpoints in a network
US7877547B2 (en) * 2004-12-29 2011-01-25 International Business Machines Corporation Method, system and circuit for efficiently managing a cache storage device
JP4963794B2 (ja) * 2005-03-10 2012-06-27 株式会社日立製作所 情報処理システム及び方法
US8863143B2 (en) 2006-03-16 2014-10-14 Adaptive Computing Enterprises, Inc. System and method for managing a hybrid compute environment
US9075657B2 (en) 2005-04-07 2015-07-07 Adaptive Computing Enterprises, Inc. On-demand access to compute resources
US7685289B2 (en) * 2005-03-15 2010-03-23 International Business Machines Corporation Method and apparatus for proxying initial client requests to support asynchronous resource initialization
US9231886B2 (en) 2005-03-16 2016-01-05 Adaptive Computing Enterprises, Inc. Simple integration of an on-demand compute environment
CN100461806C (zh) * 2005-04-07 2009-02-11 华为技术有限公司 一种语音增值业务数据信息处理方法
US20060248547A1 (en) * 2005-04-14 2006-11-02 International Business Machines Corporation Multi-level cache apparatus and method for enhanced remote invocation performance
US7895308B2 (en) * 2005-05-11 2011-02-22 Tindall Steven J Messaging system configurator
TWI314823B (en) * 2005-06-24 2009-09-11 Era Digital Media Co Distributed streaming server
US8549513B2 (en) 2005-06-29 2013-10-01 Microsoft Corporation Model-based virtual system provisioning
US8849752B2 (en) * 2005-07-21 2014-09-30 Google Inc. Overloaded communication session
US8943180B1 (en) 2005-07-29 2015-01-27 8X8, Inc. Server-based service configuration system and approach
CN100440891C (zh) * 2005-12-26 2008-12-03 北京航空航天大学 均衡网格负载的方法
KR100862659B1 (ko) * 2006-01-04 2008-10-10 삼성전자주식회사 인터넷 스토리지에 접근하는 방법 및 장치
US7624168B2 (en) * 2006-02-02 2009-11-24 Hostway Corporation Multi-layer system for scalable hosting platform
US7685367B2 (en) * 2006-03-08 2010-03-23 Microsoft Corporation Multi-cache cooperation for response output caching
JP5200204B2 (ja) 2006-03-14 2013-06-05 ディブエックス リミテッド ライアビリティー カンパニー 高信頼性システムを含む連合型デジタル権限管理機構
JP2007257357A (ja) * 2006-03-23 2007-10-04 Fujitsu Ltd サーバおよび接続先サーバ切替制御方法
US9049268B2 (en) 2006-05-05 2015-06-02 Microsoft Technology Licensing, Llc Global provisioning of millions of users with deployment units
US7970856B2 (en) * 2006-06-02 2011-06-28 International Business Machines Corporation System and method for managing and distributing assets over a network
JP2008059315A (ja) * 2006-08-31 2008-03-13 Hitachi Ltd 負荷分散方法及び計算機システム
CN100466551C (zh) * 2006-09-20 2009-03-04 杭州华三通信技术有限公司 一种实现负载均衡的方法和一种负载均衡设备
US7996421B2 (en) * 2007-01-03 2011-08-09 International Business Machines Corporation Method, computer program product, and system for coordinating access to locally and remotely exported file systems
US9794310B2 (en) * 2007-01-11 2017-10-17 Samsung Electronics Co., Ltd. Meta data information providing server, client apparatus, method of providing meta data information, and method of providing content
US8700759B2 (en) 2007-01-19 2014-04-15 International Business Machines Corporation Autonomic optimization of presence server performance
KR100892885B1 (ko) * 2007-03-08 2009-04-09 (주)에임투지 로드 밸런싱 시스템의 요청 배정 장치 및 로드 밸런싱 방법
US8209417B2 (en) * 2007-03-08 2012-06-26 Oracle International Corporation Dynamic resource profiles for clusterware-managed resources
US8676223B2 (en) * 2007-03-23 2014-03-18 Qualcomm Incorporated Backhaul communication for interference management
WO2008138008A1 (en) * 2007-05-08 2008-11-13 Riverbed Technology, Inc A hybrid segment-oriented file server and wan accelerator
US8086674B2 (en) * 2007-06-21 2011-12-27 Research In Motion Limited Attachment server network for viewing attachments on a portable electronic device
US8615008B2 (en) 2007-07-11 2013-12-24 Foundry Networks Llc Duplicating network traffic through transparent VLAN flooding
KR101467558B1 (ko) * 2007-07-26 2014-12-01 엘지전자 주식회사 그래픽데이터 처리 장치 및 방법
US7958200B2 (en) * 2007-08-14 2011-06-07 International Business Machines Corporation Methods, computer program products, and apparatuses for providing remote client access to exported file systems
US8041773B2 (en) 2007-09-24 2011-10-18 The Research Foundation Of State University Of New York Automatic clustering for self-organizing grids
US8248928B1 (en) 2007-10-09 2012-08-21 Foundry Networks, Llc Monitoring server load balancing
US20090138220A1 (en) * 2007-11-28 2009-05-28 Bell Jr Robert H Power-aware line intervention for a multiprocessor directory-based coherency protocol
JP5169178B2 (ja) * 2007-11-29 2013-03-27 ソニー株式会社 配信サーバおよび配信サーバにおけるコンテンツ配信方法
US20090144404A1 (en) * 2007-12-04 2009-06-04 Microsoft Corporation Load management in a distributed system
US20090150536A1 (en) * 2007-12-05 2009-06-11 Microsoft Corporation Application layer congestion control
JP4973560B2 (ja) * 2008-03-26 2012-07-11 富士通株式会社 サーバおよび接続先サーバ切替制御方法
JP2008259215A (ja) * 2008-04-14 2008-10-23 Nikon Corp 画像管理装置
US20090307329A1 (en) * 2008-06-06 2009-12-10 Chris Olston Adaptive file placement in a distributed file system
JP5187017B2 (ja) 2008-06-18 2013-04-24 富士通株式会社 分散ディスクキャッシュシステム及び分散ディスクキャッシュ方法
JP2010049502A (ja) * 2008-08-21 2010-03-04 Hitachi Ltd ストレージサブシステム、及びこれを有するストレージシステム
WO2010080911A1 (en) 2009-01-07 2010-07-15 Divx, Inc. Singular, collective and automated creation of a media guide for online content
JP5417944B2 (ja) * 2009-04-02 2014-02-19 ソニー株式会社 配信サーバ、配信サーバにおけるコンテンツ配信方法、コンテンツ配信システムおよびコンテンツ配信方法
US20110040893A1 (en) * 2009-08-14 2011-02-17 Broadcom Corporation Distributed Internet caching via multiple node caching management
CN101668046B (zh) 2009-10-13 2012-12-19 成都市华为赛门铁克科技有限公司 资源缓存方法及其装置、系统
US11720290B2 (en) 2009-10-30 2023-08-08 Iii Holdings 2, Llc Memcached server functionality in a cluster of data processing nodes
US10877695B2 (en) 2009-10-30 2020-12-29 Iii Holdings 2, Llc Memcached server functionality in a cluster of data processing nodes
US20110131341A1 (en) * 2009-11-30 2011-06-02 Microsoft Corporation Selective content pre-caching
JP5723888B2 (ja) 2009-12-04 2015-05-27 ソニック アイピー， インコーポレイテッド 基本ビットストリーム暗号材料伝送システムおよび方法
JP4995296B2 (ja) * 2010-03-11 2012-08-08 株式会社日立製作所 計算機システムおよびキャッシュ制御方法
US9043385B1 (en) * 2010-04-18 2015-05-26 Viasat, Inc. Static tracker
US8392368B1 (en) * 2010-08-27 2013-03-05 Disney Enterprises, Inc. System and method for distributing and accessing files in a distributed storage system
US20120054440A1 (en) * 2010-08-31 2012-03-01 Toby Doig Systems and methods for providing a hierarchy of cache layers of different types for intext advertising
US8549148B2 (en) 2010-10-15 2013-10-01 Brocade Communications Systems, Inc. Domain name system security extensions (DNSSEC) for global server load balancing
US9465885B2 (en) * 2010-12-03 2016-10-11 Salesforce.Com, Inc. Method and system for providing information to a mobile handheld device from a database system
KR101544480B1 (ko) * 2010-12-24 2015-08-13 주식회사 케이티 복수 개의 프락시 서버를 포함하는 분산 저장 시스템 및 그 오브젝트 관리 방법 및 컴퓨터에 의하여 독출가능한 저장 매체
CN102118433A (zh) * 2010-12-27 2011-07-06 网宿科技股份有限公司 多层次的分布式集群系统
US9247312B2 (en) 2011-01-05 2016-01-26 Sonic Ip, Inc. Systems and methods for encoding source media in matroska container files for adaptive bitrate streaming using hypertext transfer protocol
KR101191544B1 (ko) 2011-01-21 2012-10-15 엔에이치엔(주) 캐시 클라우드 구조를 이용한 캐시 시스템 및 캐싱 서비스 제공 방법
US8612550B2 (en) 2011-02-07 2013-12-17 Microsoft Corporation Proxy-based cache content distribution and affinity
US8768979B2 (en) * 2011-05-25 2014-07-01 International Business Machines Corporation In-memory data grid hash scheme optimization
US9244745B2 (en) * 2011-06-16 2016-01-26 Kodak Alaris Inc. Allocating tasks by sending task-available messages requesting assistance with an image processing task from a server with a heavy task load to all other servers connected to the computer network
US8862814B2 (en) 2011-08-10 2014-10-14 International Business Machines Corporation Video object placement for cooperative caching
US9467708B2 (en) 2011-08-30 2016-10-11 Sonic Ip, Inc. Selection of resolutions for seamless resolution switching of multimedia content
US8964977B2 (en) 2011-09-01 2015-02-24 Sonic Ip, Inc. Systems and methods for saving encoded media streamed using adaptive bitrate streaming
US8909922B2 (en) 2011-09-01 2014-12-09 Sonic Ip, Inc. Systems and methods for playing back alternative streams of protected content protected using common cryptographic information
JP5850057B2 (ja) * 2011-09-07 2016-02-03 日本電気株式会社 コンテンツ配信システム、制御装置およびコンテンツ配信方法
US9083710B1 (en) * 2012-01-03 2015-07-14 Google Inc. Server load balancing using minimally disruptive hash tables
US8595239B1 (en) 2012-01-03 2013-11-26 Google Inc. Minimally disruptive hash table
KR101434887B1 (ko) * 2012-03-21 2014-09-02 네이버 주식회사 네트워크 스위치를 이용한 캐시 시스템 및 캐시 서비스 제공 방법
CN103580903A (zh) * 2012-08-02 2014-02-12 人人游戏网络科技发展（上海）有限公司 识别服务器系统中的热点和可能故障的方法、设备和系统
US9246998B2 (en) 2012-10-16 2016-01-26 Microsoft Technology Licensing, Llc Load balancer bypass
CN103810189B (zh) * 2012-11-08 2018-06-05 腾讯科技（深圳）有限公司 一种热点消息处理方法及系统
US9385915B2 (en) * 2012-11-30 2016-07-05 Netapp, Inc. Dynamic caching technique for adaptively controlling data block copies in a distributed data processing system
US9191457B2 (en) 2012-12-31 2015-11-17 Sonic Ip, Inc. Systems, methods, and media for controlling delivery of content
US9313510B2 (en) 2012-12-31 2016-04-12 Sonic Ip, Inc. Use of objective quality measures of streamed content to reduce streaming bandwidth
US10397292B2 (en) 2013-03-15 2019-08-27 Divx, Llc Systems, methods, and media for delivery of content
US9906785B2 (en) 2013-03-15 2018-02-27 Sonic Ip, Inc. Systems, methods, and media for transcoding video data according to encoding parameters indicated by received metadata
US9094737B2 (en) 2013-05-30 2015-07-28 Sonic Ip, Inc. Network video streaming with trick play based on separate trick play files
CN103297528B (zh) * 2013-06-05 2016-08-24 北京奇虎科技有限公司 一种获取票务信息的方法和装置
CN103345432B (zh) * 2013-06-07 2016-12-28 深圳中兴网信科技有限公司 多核cpu过载检测装置和多核cpu过载检测方法
US10091282B2 (en) * 2013-06-12 2018-10-02 Sap Se Metadata-driven dynamic load balancing in multi-tenant systems
US9967305B2 (en) 2013-06-28 2018-05-08 Divx, Llc Systems, methods, and media for streaming media content
JP6252158B2 (ja) 2013-12-17 2017-12-27 富士通株式会社 通信システム、通信装置および通信方法
US9565138B2 (en) 2013-12-20 2017-02-07 Brocade Communications Systems, Inc. Rule-based network traffic interception and distribution scheme
US20150188758A1 (en) * 2013-12-31 2015-07-02 Sonic Ip, Inc. Flexible network configuration in a content distribution network
US9584617B2 (en) 2013-12-31 2017-02-28 Successfactors, Inc. Allocating cache request in distributed cache system based upon cache object and marker identifying mission critical data
US9648542B2 (en) 2014-01-28 2017-05-09 Brocade Communications Systems, Inc. Session-based packet routing for facilitating analytics
US10924542B2 (en) * 2014-02-27 2021-02-16 Verizon Patent And Licensing Inc. Content delivery system
US9866878B2 (en) 2014-04-05 2018-01-09 Sonic Ip, Inc. Systems and methods for encoding and playing back video at different frame rates using enhancement layers
CN105025042B (zh) * 2014-04-16 2019-06-28 中国移动通信集团河北有限公司 一种确定数据信息的方法及系统、代理服务器
US9871855B2 (en) * 2014-09-19 2018-01-16 Facebook, Inc. Balancing load across cache servers in a distributed data store
CN104601720A (zh) * 2015-01-30 2015-05-06 乐视网信息技术（北京）股份有限公司 一种缓存访问控制方法及装置
CN104683459B (zh) * 2015-02-13 2018-05-11 华为技术有限公司 一种发送业务数据的方法和存储系统
US9866478B2 (en) 2015-03-23 2018-01-09 Extreme Networks, Inc. Techniques for user-defined tagging of traffic in a network visibility system
US10771475B2 (en) 2015-03-23 2020-09-08 Extreme Networks, Inc. Techniques for exchanging control and configuration information in a network visibility system
US10911353B2 (en) 2015-06-17 2021-02-02 Extreme Networks, Inc. Architecture for a network visibility system
US10129088B2 (en) 2015-06-17 2018-11-13 Extreme Networks, Inc. Configuration of rules in a network visibility system
US9755945B2 (en) * 2015-04-01 2017-09-05 Verizon Digital Media Services Inc. Stream publishing and distribution capacity testing
US10530688B2 (en) 2015-06-17 2020-01-07 Extreme Networks, Inc. Configuration of load-sharing components of a network visibility router in a network visibility system
US10057126B2 (en) 2015-06-17 2018-08-21 Extreme Networks, Inc. Configuration of a network visibility system
CN104994152B (zh) * 2015-06-30 2018-11-09 中国科学院计算技术研究所 一种Web协同缓存系统和方法
CN105376332A (zh) * 2015-12-14 2016-03-02 江苏名通信息科技有限公司 一种用于手机游戏服务器的负荷迁徙方法
US10091075B2 (en) 2016-02-12 2018-10-02 Extreme Networks, Inc. Traffic deduplication in a visibility network
US10999200B2 (en) 2016-03-24 2021-05-04 Extreme Networks, Inc. Offline, intelligent load balancing of SCTP traffic
US10362134B2 (en) * 2016-08-15 2019-07-23 Verizon Digital Media Services Inc. Peer cache filling
US10567259B2 (en) 2016-10-19 2020-02-18 Extreme Networks, Inc. Smart filter generator
US11138178B2 (en) * 2016-11-10 2021-10-05 Futurewei Technologies, Inc. Separation of computation from storage in database for better elasticity
US10171614B2 (en) * 2017-02-09 2019-01-01 International Business Machines Corporation Cache memory balancing based on moving object prediction
US10498795B2 (en) 2017-02-17 2019-12-03 Divx, Llc Systems and methods for adaptive switching between multiple content delivery networks during adaptive bitrate streaming
CN107025270A (zh) * 2017-03-09 2017-08-08 珠海昊星自动化系统有限公司 一种分布式高性能高并发大数据系统
JP6862977B2 (ja) * 2017-03-22 2021-04-21 富士通株式会社 通信制御プログラム、通信制御方法、および通信制御装置
CN107707597A (zh) * 2017-04-26 2018-02-16 贵州白山云科技有限公司 一种突发热点访问均衡处理方法及装置
US10721719B2 (en) * 2017-06-20 2020-07-21 Citrix Systems, Inc. Optimizing caching of data in a network of nodes using a data mapping table by storing data requested at a cache location internal to a server node and updating the mapping table at a shared cache external to the server node
KR102071955B1 (ko) * 2018-06-07 2020-03-02 주식회사 티맥스소프트 분산 캐시 환경에서 멀티캐스트를 수행하는 방법 및 이를 이용한 분산 캐시 서버
JP7310378B2 (ja) * 2019-07-08 2023-07-19 富士通株式会社 情報処理プログラム、情報処理方法、および情報処理装置
KR102166036B1 (ko) * 2019-12-13 2020-10-15 (주)교림소프트 인공 지능 기반 캐시 관리 시스템

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5511208A (en) * 1993-03-23 1996-04-23 International Business Machines Corporation Locating resources in computer networks having cache server nodes
JPH0855072A (ja) * 1994-08-12 1996-02-27 Matsushita Electric Ind Co Ltd ネットワークシステムとデータ処理システムとデータ蓄積方法
JPH08235127A (ja) * 1995-02-28 1996-09-13 Chugoku Nippon Denki Software Kk 自動負荷分散方法および装置
US6047309A (en) * 1995-10-02 2000-04-04 International Business Machines Corporation Recording observed and reported response characteristics at server and/or client nodes in a replicated data environment, and selecting a server to provide data based on the observed and/or reported response characteristics
JPH09179820A (ja) * 1995-12-26 1997-07-11 Mitsubishi Electric Corp 負荷分散方式及び方法
JP3190813B2 (ja) * 1996-02-15 2001-07-23 日本電気株式会社 配信システム
JP3422400B2 (ja) * 1996-03-28 2003-06-30 三菱電機株式会社 分散処理システム
US5935207A (en) * 1996-06-03 1999-08-10 Webtv Networks, Inc. Method and apparatus for providing remote site administrators with user hits on mirrored web sites
JP3481054B2 (ja) * 1996-07-04 2003-12-22 シャープ株式会社 ゲートウェイ装置、クライアント計算機およびそれらを接続した分散ファイルシステム
US6185601B1 (en) * 1996-08-02 2001-02-06 Hewlett-Packard Company Dynamic load balancing of a network of client and server computers
US5787470A (en) * 1996-10-18 1998-07-28 At&T Corp Inter-cache protocol for improved WEB performance
US6026474A (en) * 1996-11-22 2000-02-15 Mangosoft Corporation Shared client-side web caching using globally addressable memory
US6173311B1 (en) * 1997-02-13 2001-01-09 Pointcast, Inc. Apparatus, method and article of manufacture for servicing client requests on a network
US5933849A (en) * 1997-04-10 1999-08-03 At&T Corp Scalable distributed caching system and method
US6167438A (en) * 1997-05-22 2000-12-26 Trustees Of Boston University Method and system for distributed caching, prefetching and replication
US6070191A (en) * 1997-10-17 2000-05-30 Lucent Technologies Inc. Data distribution techniques for load-balanced fault-tolerant web access
US6167427A (en) * 1997-11-28 2000-12-26 Lucent Technologies Inc. Replication service system and method for directing the replication of information servers based on selected plurality of servers load
US6141759A (en) * 1997-12-10 2000-10-31 Bmc Software, Inc. System and architecture for distributing, monitoring, and managing information requests on a computer network
US6122666A (en) * 1998-02-23 2000-09-19 International Business Machines Corporation Method for collaborative transformation and caching of web objects in a proxy network
US6112279A (en) * 1998-03-31 2000-08-29 Lucent Technologies, Inc. Virtual web caching system
US6078960A (en) * 1998-07-03 2000-06-20 Acceleration Software International Corporation Client-side load-balancing in client server network
US6253230B1 (en) * 1998-09-22 2001-06-26 International Business Machines Corporation Distributed scalable device for selecting a server from a server cluster and a switched path to the selected server

Also Published As

Publication number Publication date
HUP0104250A3 (en) 2002-04-29
HUP0104250A2 (hu) 2002-02-28
EP1119808A1 (en) 2001-08-01
PL195958B1 (pl) 2007-11-30
AU6114499A (en) 2000-05-01
IL141973A0 (en) 2002-03-10
PL347159A1 (en) 2002-03-25
WO2000022526A1 (en) 2000-04-20
CZ20011281A3 (cs) 2001-10-17
CA2343802A1 (en) 2000-04-20
US6438652B1 (en) 2002-08-20
JP2007220140A (ja) 2007-08-30
JP3989682B2 (ja) 2007-10-10
KR100473671B1 (ko) 2005-03-08
TW444458B (en) 2001-07-01
HU224787B1 (en) 2006-02-28
IL141973A (en) 2005-11-20
CA2343802C (en) 2004-04-20
CN1322315A (zh) 2001-11-14
KR20010075542A (ko) 2001-08-09
JP2002527818A (ja) 2002-08-27
US20020026560A1 (en) 2002-02-28

Similar Documents

Publication Publication Date Title
CN1255728C (zh) 协同高速缓存服务器负载均衡方法
US6490615B1 (en) Scalable cache
US6823377B1 (en) Arrangements and methods for latency-sensitive hashing for collaborative web caching
US6173322B1 (en) Network request distribution based on static rules and dynamic performance data
US7908337B2 (en) System and method for using network layer uniform resource locator routing to locate the closest server carrying specific content
US20060155857A1 (en) Deterministic session state management within a global cache array
KR100318779B1 (ko) 인터넷에서의동적경로배정방법및장치
US20090248871A1 (en) Server and connecting destination server switch control method
US20060080388A1 (en) System and method for workload-aware request distribution in cluster-based network servers
JP2017536606A (ja) コンテンツ配信ネットワークにおけるロングテールコンテンツ処理
WO2001056248A2 (en) Method and system for symmetrically distributed adaptive matching of partners
Loukopoulos et al. An overview of data replication on the Internet
Ramaswamy et al. Scalable delivery of dynamic content using a cooperative edge cache grid
KR20030014513A (ko) 서버 부하의 분산을 위한 클라이언트 데이터 공유 시스템및 그 방법
EP1277327B1 (en) System and method for using network layer uniform resource locator routing to locate the closest server carrying specific content
Liang et al. Transparent distributed web caching
Kim et al. Efficient resource management for the P2P Web caching
Faour et al. Weblins: A scalable WWW cluster-based server
Malhis Distributed HTTP Database System DisHDaS
Kim et al. Efficient and tailored resource management for the P2P web caching
Alqaralleh et al. A proactive method for content distribution in a data indexed DHT overlay
Sivasubramanian et al. Web replica hosting systems design
Shen CORP: A COoperative file Replication Protocol for structured P2P networks
Shin et al. Directory-based coordinated caching in shared web proxies
Wang et al. An adaptive model for building service-partition system

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CX01 Expiry of patent term

Granted publication date: 20060510

CX01 Expiry of patent term