电竞比分网-中国电竞赛事及体育赛事平台

分享

(4)ASP.NET Core3.1 Ocelot負(fù)載均衡

 新進(jìn)小設(shè)計(jì) 2021-03-14

1.負(fù)載均衡Load Balancer

Ocelot可以在每個(gè)路由的可用下游服務(wù)中實(shí)現(xiàn)負(fù)載均衡,這使我們更有效地選擇下游服務(wù)來(lái)處理請(qǐng)求。負(fù)載均衡類型:
●LeastConnection:根據(jù)服務(wù)正在處理請(qǐng)求量的情況來(lái)決定哪個(gè)服務(wù)來(lái)處理新請(qǐng)求,即將新請(qǐng)求發(fā)送到具有最少現(xiàn)有請(qǐng)求的服務(wù)去處理。算法狀態(tài)沒(méi)有分布在Ocelot集群中。
●RoundRobin:遍歷可用服務(wù)并發(fā)送請(qǐng)求。算法狀態(tài)沒(méi)有分布在Ocelot集群中。
●NoLoadBalancer:從配置或服務(wù)發(fā)現(xiàn)中獲取第一個(gè)可用服務(wù)來(lái)處理新請(qǐng)求。
●CookieStickySessions:通過(guò)使用Cookie,確保特定的請(qǐng)求能夠被分配到特定的服務(wù)上進(jìn)行處理。
Ocelot負(fù)載均衡項(xiàng)目示例中,通過(guò)APIGateway項(xiàng)目的路由LoadBalancerOptions選項(xiàng)可以配置負(fù)載均衡類型:

{
  "Routes": [
    {
      //下游路由服務(wù)地址
      "DownstreamPathTemplate": "/api/values",
      //下游服務(wù)地址訪問(wèn)協(xié)議類型http或者h(yuǎn)ttps
      "DownstreamScheme": "http",
      //下游服務(wù)的主機(jī)和端口
      "DownstreamHostAndPorts": [
        {
          "Host": "localhost",
          "Port": 9001
        },
        {
          "Host": "localhost",
          "Port": 9002
        }
      ],
      //上游服務(wù)地址,即下游服務(wù)真實(shí)訪問(wèn)地址
      "UpstreamPathTemplate": "/",
      //負(fù)載均衡類型:輪詢
      "LoadBalancerOptions": {
        "Type": "RoundRobin"
      },
      //上游服務(wù)HTTP請(qǐng)求方式,例如Get、Post
      "UpstreamHttpMethod": [ "Get" ]
    }
  ]
}

新請(qǐng)求通過(guò)上游訪問(wèn)下游服務(wù)的時(shí)候,Ocelot會(huì)根據(jù)LoadBalancerOptions負(fù)載均衡選項(xiàng)類型來(lái)分發(fā)到具體下游服務(wù)。

2.服務(wù)發(fā)現(xiàn)

下面展示如何使用服務(wù)發(fā)現(xiàn)來(lái)設(shè)置路由:

{
    "DownstreamPathTemplate": "/api/posts/{postId}",
    "DownstreamScheme": "https",
    "UpstreamPathTemplate": "/posts/{postId}",
    "UpstreamHttpMethod": [ "Put" ],
    "ServiceName": "product",
    "LoadBalancerOptions": {
        "Type": "LeastConnection"
    }
}

設(shè)置此選項(xiàng)后,Ocelot將從服務(wù)發(fā)現(xiàn)提供程序中查找下游主機(jī)和端口,并在所有可用服務(wù)中進(jìn)行負(fù)載平衡請(qǐng)求。如果您從服務(wù)發(fā)現(xiàn)提供者(領(lǐng)事)中添加和刪除服務(wù),Ocelot會(huì)停止調(diào)用已刪除的服務(wù),并開(kāi)始調(diào)用已添加的服務(wù)。后續(xù)學(xué)習(xí)服務(wù)發(fā)現(xiàn)這塊知識(shí)點(diǎn)時(shí)候會(huì)重新再講解。

3.項(xiàng)目演示

3.1APIGateway項(xiàng)目

該項(xiàng)目通過(guò)LoadBalancerOptions配置選項(xiàng)定義服務(wù)負(fù)載均衡請(qǐng)求機(jī)制,事例項(xiàng)目使用的負(fù)載均衡類型是RoundRobin,在Program添加Ocelot支持代碼如下:

public static IWebHostBuilder CreateWebHostBuilder(string[] args) =>
    WebHost.CreateDefaultBuilder(args)
            //.UseStartup<Startup>()
            .UseUrls("http://*:9000")
            .ConfigureAppConfiguration((hostingContext, config) =>
        {
            config.SetBasePath(hostingContext.HostingEnvironment.ContentRootPath)
                //添加Ocelot配置文件
.AddJsonFile("configuration.json")
                .AddEnvironmentVariables();
        })
        .ConfigureServices(s =>
        {
            //添加Ocelot服務(wù);
            s.AddOcelot();
        })
        .Configure(a =>
        {
    //使用Ocelot
            a.UseOcelot().Wait();
        });

3.2APIServicesA和APIServicesB下游服務(wù)項(xiàng)目

APIServicesA和APIServicesB項(xiàng)目分別新建兩個(gè)GET請(qǐng)求方法,代碼分別如下:

//APIServicesA
[Route("api/[controller]")]
public class ValuesController : Controller
{
    // GET api/values
    [HttpGet]
    public string Get()
    {
        return "From APIServiceA";
    }
}
//APIServicesB
[Route("api/[controller]")]
public class ValuesController : Controller
{
    // GET api/values
    [HttpGet]
    public string Get()
    {
        return "From APIServiceB";
    }        
}

3.3項(xiàng)目運(yùn)行

●通過(guò)dotnet run命令啟動(dòng)APIGateway項(xiàng)目

dotnet run --project APIGateway項(xiàng)目路徑\APIGateway.csproj


●通過(guò)dotnet run命令啟動(dòng)APIServicesA項(xiàng)目

dotnet run --project APIServicesA項(xiàng)目路徑\APIServicesA.csproj


●通過(guò)dotnet run命令啟動(dòng)APIServicesB項(xiàng)目

dotnet run --project APIServicesB項(xiàng)目路徑\APIServicesB.csproj


通過(guò)瀏覽器查看輪詢分發(fā)給下游服務(wù)返回的結(jié)果:


負(fù)載均衡輪詢分發(fā)下游服務(wù)成功。

4.自定義負(fù)載均衡

Ocelot支持自定義負(fù)載均衡的方法。自定義負(fù)載均衡的類需要繼承ILoadBalancer接口類,下面我們定義一個(gè)簡(jiǎn)單的負(fù)載均衡循環(huán)輸出下游服務(wù)的示例:

public class CustomLoadBalancer : ILoadBalancer
{
    private readonly Func<Task<List<Service>>> _services;
    private readonly object _lock = new object();
    private int _last;

    public CustomLoadBalancer(Func<Task<List<Service>>> services)
    {
        _services = services;
    }
    public async Task<Response<ServiceHostAndPort>> Lease(HttpContext httpContext)
    {
        var services = await _services();
        lock (_lock)
        {
            if (_last >= services.Count)
            {
                _last = 0;
            }
            var next = services[_last];
            _last++;
            return new OkResponse<ServiceHostAndPort>(next.HostAndPort);
        }
    }
    public void Release(ServiceHostAndPort hostAndPort)
    {
    }
}

在Ocelot中注冊(cè)此類:

Func<IServiceProvider, DownstreamRoute, IServiceDiscoveryProvider, CustomLoadBalancer> loadBalancerFactoryFunc =
(serviceProvider, Route, serviceDiscoveryProvider) => new CustomLoadBalancer(serviceDiscoveryProvider.Get);
s.AddOcelot().AddCustomLoadBalancer(loadBalancerFactoryFunc);

最后在路由的LoadBalancerOptions配置選項(xiàng)上修改為CustomLoadBalancer自定義負(fù)載均衡類名:

"LoadBalancerOptions": {
  "Type": "CustomLoadBalancer"
}

運(yùn)行項(xiàng)目調(diào)試查看結(jié)果:
第一次請(qǐng)求時(shí)候分發(fā)到APIServicesA項(xiàng)目。

第二次請(qǐng)求時(shí)候分發(fā)到APIServicesB項(xiàng)目。

從上面結(jié)果來(lái)看,自定義負(fù)載均衡成功。

參考文獻(xiàn):
Ocelot官網(wǎng)

    本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間,所有內(nèi)容均由用戶發(fā)布,不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購(gòu)買(mǎi)等信息,謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請(qǐng)點(diǎn)擊一鍵舉報(bào)。
    轉(zhuǎn)藏 分享 獻(xiàn)花(0

    0條評(píng)論

    發(fā)表

    請(qǐng)遵守用戶 評(píng)論公約

    類似文章 更多