客户端SDK性能问题

[Lucifer-ck]

RPC调用

SDK接口

性能测试

客户端封装成SDK后，性能测试压力上不去了，像这种将客户端RPC调用封装成SDK接口的形式，客户端要如何调用才能保证像下面这种直接在RPC调用时进行并发请求产生的压力呢？

直接使用thread池调用时，也是相同的结果。

[poor-circle]

你把SDK_GenerateKeyPair_ECC封装成了一个同步阻塞调用的函数，然后放到线程池里面执行，那么线程就会被同步阻塞，并发上限等于线程池中的线程数，导致高并发场景下的性能下降。
解决办法：

1. 把SDK_GenerateKeyPair_ECC的返回值改成协程，同时co_await request_rpc_pool(...而不是syncAwait(request_rpc_pool(...
2. 如果SDK_GenerateKeyPair_ECC对外不想或不能提供同步接口（例如封装成C接口），那可以将其封装成future再使用异步回调模式：

async_simple::coro::Lazy<int> SDK_GenerateKeyPair_ECC(...);
async_simple::coro::Future<int> SDK_GenerateKeyPair_ECC_async(...) {
   async_simple::coro::Promise<int> p;
   auto fut=p.getFuture();
   my_work().start([p=std::move(p)](auto && ret){
        p.set_value(ret.value());
   });
   co_return fut;
}
Lazy<void> call() {
    //....
    for (std::size_t i=0;i<10000;++i) {
       auto future = SDK_GenerateKeyPair_ECC_async();
       // 除非有重计算任务，否则直接等待future即可。
       co_await std::move(future);
    }
}

[shenxuebing]

我们需要对外提供标准的c同步接口，根据标准中定义的接口参数，无法自定义接口参数，那这种使用同步异步回调就不行了吧？另外测试过程中发现如果用两台客户端压一个客户端是可以将性能拉满的。单客户端只是封装了同步接口后压测性能就有损耗，线程池内的线程数量多配置点。性能反而下来了。这种情况有没有更好解决方案

[qicosmos]

同步接口的话，可以创建多个client代理，内部使用同一个client pool也行，几个client就相当于几个并发，并发高一点就能拉满了。

[Lucifer-ck]

外部逻辑完全是同步的标准C接口，那使用syncAwait同步等待，性能是不是完全就比不上协程批量调用这种，有没有什么其他的解决方案呢？

[qicosmos]

同步也行，多线程并发去调用client pool 去发请求就行了。

[shenxuebing]

同步也行，多线程并发去调用client pool 去发请求就行了。

封装同步接口，内部使用client pool和协程调用服务端接口，外部用ThreadPool调用同步接口性能上不去，如果用协程方式调用同步接口，性能比ThreadPool高20-30%，现在看还是客户端调度问题导致性能上不去，有没有什么好的方案。

[qicosmos]

client pool 数量设置大一点，比如设置为100，外面多线程调用时，线程数设置大一些试试，比如将你现在的并发请求的线程数翻倍。

[shenxuebing]

client pool 数量设置大一点，比如设置为100，外面多线程调用时，线程数设置大一些试试，比如将你现在的并发请求的线程数翻倍。

也不好使呢，默认是200，调整这个参数几乎对性能没有什么影响，如何让客户端同步方式调度不阻塞io呢