Spring同步与异步REST控制器

Question

我尝试查看Spring同步REST控制器与同一控制器的异步版本之间的区别。

每个控制器都做同样的事情：获取一个RequestBody并将其保存在Mongo数据库中。

@RestController
@RequestMapping ("/api/1/ticks")
public class TickController {

    @Autowired
    private TickManager tickManager;

    @RequestMapping (method = RequestMethod.POST)
    public ResponseEntity save(@RequestBody List<Tick> ticks) {
        tickManager.save(ticks);

        return new ResponseEntity(HttpStatus.OK);
    }

    @RequestMapping (value = "/async", method = RequestMethod.POST)
    public @ResponseBody Callable<ResponseEntity> saveAsync(@RequestBody List<Tick> ticks) {
        return () -> {
            tickManager.save(ticks);

            return new ResponseEntity(HttpStatus.OK);
        };
    }
}

tickManager仅对tickRepository具有依赖性，只需要调用子层即可。

tickRepository基于Spring Data Mongodb：

@Repository
public interface TickRepository extends MongoRepository<Tick, String> {}

我使用加特林（Gatling）测试那些控制器。 这是我的情况：

import io.gatling.core.Predef._
import io.gatling.http.Predef._
import scala.concurrent.duration._

class TicksSaveSyncSimulation extends Simulation {

  val rampUpTimeSecs = 20
  val testTimeSecs   = 5
  val noOfUsers      = 1000
  val minWaitMs      = 1000 milliseconds
  val maxWaitMs      = 3000 milliseconds

  val baseURL      = "http://localhost:9080"
  val requestName  = "ticks-save-sync-request"
  val scenarioName = "ticks-save-sync-scenario"
  val URI          = "/api/1/ticks"

  val httpConf = http.baseURL(baseURL)

  val http_headers = Map(
    "Accept-Encoding" -> "gzip,deflate",
    "Content-Type" -> "application/json;charset=UTF-8",
    "Keep-Alive" -> "115"
  )

  val scn = scenario(scenarioName)
    .repeat(100) {  
      exec(
        http(requestName)
          .post(URI)
          .headers(http_headers)
          .body(StringBody(
            """[{
              |  "type": "temperature",
              |  "datas": {}
              |}]""".stripMargin))
          .check(status.is(200))
      )
    }

  setUp(scn.inject(rampUsers(1000) over (1 seconds))).protocols(httpConf)
}

我尝试了几种情况，同步版本每秒处理的请求总是比异步版本多2倍。 当我增加用户数量时，这两个版本会崩溃。

我试图覆盖异步版本的taskExecutor，但没有成功：

@Configuration
public class TaskExecutorConfig implements AsyncConfigurer {

    @Override
    public Executor getAsyncExecutor() {
        ThreadPoolTaskExecutor taskExecutor = new ThreadPoolTaskExecutor();
        taskExecutor.setMaxPoolSize(1000);
        taskExecutor.setThreadNamePrefix("LULExecutor-");
        taskExecutor.initialize();
        return taskExecutor;
    }

    @Override
    public AsyncUncaughtExceptionHandler getAsyncUncaughtExceptionHandler() {
        return new SimpleAsyncUncaughtExceptionHandler();
    }
}

我认为看到异步实现有所不同。 我究竟做错了什么？

Answer 1

您的测试似乎有缺陷。 在管道的一端（这里是您的控制器）不阻塞，而在另一端阻塞（ tickManager.save确实看起来像是阻塞调用），这没有任何意义。 您只需支付进入ThreadPoolTaskExecutor的额外费用。

然后，通常来说，当您的所有任务都非常快时（例如勾号），您将不会从非阻塞架构中获得任何收益。 当某些任务花费更长的时间时，您可以期望获得收益，因此，您不想浪费资源（线程，CPU周期）只是等待它们完成，而您想同时使用它们来执行其他任务。

关于Too many open files异常，您可能尚未正确调整操作系统以进行负载测试，请查看相关文档 。 您还很有可能在同一主机上运行您的应用程序和Gatling（可能还有您的数据库），这很不好，因为它们会争夺资源。