NewLife.Net压力测试,峰值4.2Gbps,50万pps,消息大小24字节,消息处理速度2266万tps!

共集合20台高配ECS参与测试,主服务器带宽6Gbps、100万pps,16核心64G内存。另外19台共模拟400个用户连接,13*16+6*32=400,每用户发送2000万个消息,服务端收到后原样返回。

 

tps意义非常重大,就是告诉所有人,.Net下普普通通的Socket封装,甚至没有使用MSDN的Pool,就能得到非常不错的性能

 

*感谢楼下提醒,错误计算了速度,算法如下:

每秒流量 = 4.2G / 8 = 537.6M (进出都是4.2Gbps)

包头消耗 = 50万 * 40 = 19M (50万包,ip+tcp头40字节)

处理速度 = (537.6M - 19M) / 24 = 22,657,979 = 2266万

另外每个nc客户端均有速度计算,102万~200万tps之间,共19客户端,与上吻合

由于我的疏忽,只是简单拿4.2G除以24得到1.88亿,也没有汇总各客户端数据,给出了错误数据,非常抱歉!

(有考虑tcp包头,因报文很短必然粘包,按MTU=1500算误差2.7%,所以直接没有算进去)

 

有些同学比较着急,觉得前面两篇有点小儿科,群友就说,上数字吧!

我们在2017.4.1做了一个极限并发测试,奔着单机100万并发,实际上只得到了84.5万连接,这次补一个吞吐量的压力测试好了。

 

老规矩,先上代码:https://github.com/NewLifeX/NewLife.Net

 

一、测试结果


二、服务端修改

我们对前一篇文章的例程稍微调整一下:

class MyNetSession : NetSession<MyNetServer>
 {
     /// <summary>客户端连接</summary>
     public override void Start()
     {
         base.Start();
         // 欢迎语
         var str = String.Format("Welcome to visit {1}!  [{0}]\r\n", Remote, Environment.MachineName);
         Send(str);
     }
     /// <summary>收到客户端数据</summary>
     /// <param name="e"></param>
     protected override void OnReceive(ReceivedEventArgs e)
     {
         //WriteLog("收到:{0}", e.Packet.ToStr());
         // 把收到的数据发回去
         Send(e.Packet);
     }
 }

服务主函数的线程数也要从2改为1,关闭第二个向所有客户端定时群发时间的任务。

    class MyService : ServiceBase
    {
        public MyService()
        {
            ServiceName = "EchoAgent";
            DisplayName = "回声服务";
            Description = "这是NewLife.Net的一个回声服务示例!";
        }

        MyNetServer _Server;
        /// <summary>开始服务</summary>
        /// <param name="reason"></param>
        protected override void StartWork(String reason)
        {
            // 实例化服务端,指定端口,同时在Tcp/Udp/IPv4/IPv6上监听
            var svr = new MyNetServer
            {
                Port = 1234,
                Log = XTrace.Log,
                Tracer = new DefaultTracer { Period = 15, Log = XTrace.Log },
#if DEBUG
                SocketLog = XTrace.Log,
                LogSend = true,
                LogReceive = true,
#endif
            };
            svr.Start();

            _Server = svr;

            _timer1 = new TimerX(s => ShowStat(_Server), null, 1000, 1000) { Async = true };
            //_timer2 = new TimerX(s => SendTime(_Server), null, 1000, 1000) { Async = true };

            base.StartWork(reason);
        }

        /// <summary>停止服务</summary>
        /// <param name="reason"></param>
        protected override void StopWork(String reason)
        {
            _Server.TryDispose();
            _Server = null;

            base.StopWork(reason);
        }

        private TimerX _timer1;
        private TimerX _timer2;

        private String _last;
        /// <summary>显示服务端状态</summary>
        /// <param name="ns"></param>
        private void ShowStat(NetServer ns)
        {
            if (ns == null) return;

            var msg = ns.GetStat();
            if (msg == _last) return;

            _last = msg;

            WriteLog(msg);
        }

        /// <summary>向所有客户端发送时间</summary>
        /// <param name="ns"></param>
        private void SendTime(NetServer ns)
        {
            if (ns == null) return;

            var str = DateTime.Now.ToFullString() + Environment.NewLine;
            var buf = str.GetBytes();
            ns.SendAllAsync(buf);
        }
    }

三、增加客户端压测项目

新建控制台项目Benchmark,并从nuget引用NewLife.Core

入口函数需要分析参数:

static void Main(String[] args)
{
    XTrace.UseConsole();

    try
    {
        var cfg = new Config();

        // 分解参数
        if (args != null && args.Length > 0) cfg.Parse(args);

        // 显示帮助菜单或执行
        if (cfg.Address.IsNullOrEmpty())
            ShowHelp();
        else
            Work(cfg);
    }
    catch (Exception ex)
    {
        XTrace.WriteException(ex.GetTrue());
    }

    //Console.WriteLine("OK!");
    //Console.ReadKey();
}

主函数就是开一定数量的LongTask,然后等待

static void Work(Config cfg)
{
    var uri = new NetUri(cfg.Address);
    var txt = cfg.Content;
    if (txt.IsNullOrEmpty()) txt = cfg.Content = "学无先后达者为师";

    var buf = txt.StartsWith("0x") ? txt.TrimStart("0x").ToHex() : txt.GetBytes();
    var pk = new Packet(buf);

    Console.ForegroundColor = ConsoleColor.Red;
    Console.WriteLine("NewLife.Benchmark v{0}", AssemblyX.Entry.Version);

    Console.ForegroundColor = ConsoleColor.Yellow;
    Console.WriteLine("目标:{0}", uri);
    Console.WriteLine("请求:{0:n0}", cfg.Times);
    Console.WriteLine("并发:{0:n0}", cfg.Thread);
    Console.WriteLine("内容:[{0:n0}] {1}", pk.Count, txt);
    Console.ResetColor();
    Console.WriteLine();

    var sw = Stopwatch.StartNew();

    // 多线程
    var ts = new List<Task<Int32>>();
    var maxCPU = Environment.ProcessorCount * 2;
    for (var i = 0; i < cfg.Thread; i++)
    {
        if (cfg.Thread <= maxCPU)
        {
            var tsk = Task.Factory.StartNew(() => WorkOne(uri, cfg, pk), TaskCreationOptions.LongRunning);
            ts.Add(tsk);
        }
        else
        {
            var tsk = Task.Run(async () => await WorkOneAsync(uri, cfg, pk));
            ts.Add(tsk);
        }
    }
    var total = Task.WhenAll(ts.ToArray()).Result.Sum();

    sw.Stop();

    Console.WriteLine("完成:{0:n0}", total);

    var ms = sw.Elapsed.TotalMilliseconds;
    Console.WriteLine("速度:{0:n0}tps", total * 1000L / ms);

    //Thread.Sleep(5000);
    //Console.ReadKey(true);
}

static Int32 WorkOne(NetUri uri, Config cfg, Packet pk)
{
    var count = 0;
    try
    {
        var client = uri.CreateRemote();
        (client as SessionBase).MaxAsync = 0;
        client.Open();
        for (var k = 0; k < cfg.Times; k++)
        {
            client.Send(pk);

            if (cfg.Reply)
            {
                var pk2 = client.Receive();
                if (pk2.Count > 0) count++;
            }
            else
            {
                count++;
            }
        }
    }
    catch { }

    return count;
}

static async Task<Int32> WorkOneAsync(NetUri uri, Config cfg, Packet pk)
{
    var count = 0;
    try
    {
        var client = uri.CreateRemote();
        (client as SessionBase).MaxAsync = 0;
        client.Open();

        await Task.Yield();
        for (var k = 0; k < cfg.Times; k++)
        {
            client.Send(pk);

            if (cfg.Reply)
            {
                var pk2 = client.Receive();
                if (pk2.Count > 0) count++;
            }
            else
            {
                count++;
            }

            await Task.Yield();
        }
    }
    catch { }

    return count;
}

四、上线测试

从阿里云分批租用最高配置的竞价实例20台。统一选择华东2(上海)的D区,因为代码压测只能使用内网,公网达不到这个速度。

整个华东2D最高配就是大数据网络增强型,仅剩的7台都拿下,其中一台作为服务端跑EchoAgent,另外再补13台8核的机器,共19台跑nc(Benchmark)。

在8核心机器上(13台),测试命令:

nc -n 20000000 -c 16 tcp://172.19.227.198:1234

在16核心机器上(6台),测试命令

nc -n 20000000 -c 32 tcp://172.19.227.198:1234


五、结论

人有多大胆,地有多大产!

虽然这次的EchoTest只是简单把数据包发回来,没有挂载复杂业务,但是说明了网络库不是瓶颈,只要硬件性能跟得上,它要多强有多强!

e.Packet的设计,实际上实现了ZeroCopy,同时大大减轻了GC负担,后面会有专门文章提到。

网络库NewLife.Net支持.Net Core 2.0,但XAgent不支持,毕竟它是Windows服务。

这次测试在 .Net Framework v4.6.1 上进行。

 

网络系列文章,是为了一步步介绍X组件网络库 NewLife.Net的设计理念,从2005年开始,活了13年,不管是成功还是失败,都积累了很多的经验。

作者:大石头 发布:2020-07-26 22:32:45 浏览:1,669)