配置函数的并发处理
函数并发概述
默认情况下，每个函数实例同一时刻只处理一个请求。函数收到并发请求时，例如并发三个请求，FunctionGraph会启动三个函数实例处理请求。FunctionGraph提供了单实例多并发能力，可以在一个实例上并发处理多个请求。
函数的单实例多并发适合处理逻辑中有较长时间等待下游服务响应的场景，也适合函数逻辑中初始化时间较长的场景。
单实例多并发具备以下优势：
- 降低冷启动概率，优化函数处理时延：例如并发三个请求，不配置单实例多并发，FunctionGraph默认启动三个实例处理请求，会有三次冷启动。若配置了单实例支持三并发，三个并发请求，FunctionGraph只启动一个实例处理请求，减少了两次冷启动。
- 减少总请求处理时长，节省费用：单实例单并发下，多个请求的总处理时长为每个请求的处理时长相加。单实例多并发下，同一个实例对并发的多个请求的计费时间为，从第一个请求开始处理计时，到最后一个并发的请求处理结束计一次时长费用。
FunctionGraph会根据实际的请求情况自动弹性伸缩函数实例，并发变高时，会分配更多的函数实例来处理请求，并发减少时，相应的实例也会变少。
函数实例数=函数并发数/该函数的单实例并发数。
- 函数并发数：指某一刻该函数同时执行的请求数。
- 该函数的单实例并发数：指单个实例最多允许的函数并发数，即函数并发配置界面的“单实例并发数”。
单实例单并发与单实例多并发的对比
当一个函数执行需要花费5秒，若配置为单实例单并发，三次函数调用请求分别在三个函数实例执行，总执行时长为15秒。
若配置为单实例多并发，设置单实例并发数为5，即单个实例最多支持5个并发请求，如果有三次函数调用请求，将在一个实例内并发处理，总执行时间为5秒。
单实例并发数大于1，在您设置的“单函数最大实例数”范围内，超过单实例并发处理能力时会自动扩容新实例。
|
对比项 |
单实例单并发 |
单实例多并发 |
|---|---|---|
|
日志打印 |
不涉及。 |
Node.js使用console.info()函数，Python使用print()函数，Java使用System.out.println()函数打印日志，该方式会把当前请求的Request ID包含在日志内容中。 当多请求在同一个实例并发处理时，当前请求可能有很多个，继续使用这些函数打印日志会导致Request ID错乱。此时应该使用context.getLogger()，获取一个日志输出对象，通过这个日志输出对象打印日志。例如Python： log = context.getLogger()
log.info("test") |
|
共享变量 |
不涉及。 |
单实例多并发处理时，修改共享变量会导致错误。这要求您在编写函数时，对于非线程安全的变量修改要进行互斥保护。 |
|
监控指标 |
按实际情况进行监控。 |
相同负载下，函数的实例数明显减少。 |
|
流控错误 |
不涉及。 |
请求数超过实例可处理能力时，FunctionGraph会对请求进行流控。Body中的ErrorCode为“FSS.0429” ，响应头中的Status为429 ，错误信息提示：Your request has been controlled by overload sdk, please retry later。 |
约束与限制
- 该功能仅FunctionGraph v2版本支持。
- 当前仅通过空白函数和函数模板创建的HTTP函数，以及通过容器镜像创建的函数支持“单实例并发数”配置。
- 如果其他方式创建的存量函数仍有“单实例并发数”配置，当该配置修改为1时，后续将不再支持修改。
- 其他方式创建的函数如需使用单实例多并发功能，请提交工单申请白名单开通。
- 对于Python函数，由于Python GIL锁导致实例上的线程被绑定到一个核上，造成多并发无法使用多核，即使配置更大资源规格也无法提升函数处理性能。
- 对于Node.js函数，由于V8引擎的单进程单线程，造成多并发无法使用多核，即使配置更大资源规格也无法提升函数处理性能。
配置单实例多并发
- 登录函数工作流控制台，在左侧的导航栏选择“函数 > 函数列表”。
- 单击函数的名称，进入函数详情页。
- 在“设置”页签下选择“并发”。
- 在并发页面设置函数的并发配置。
图1 并发基础配置
表2 并发参数说明 参数
说明
单实例并发数
单个函数实例支持的请求并发数。
约束说明：
- 当前仅通过空白函数和函数模板创建的“HTTP函数”，以及通过容器镜像创建的函数支持“单实例并发数”参数配置，其他方式创建的函数无该配置参数。
- 若该参数已设置为“1”，则后续将不再展示该参数，并且无法再次修改；若该参数设置大于1，则会继续展示该参数。
取值范围：
1~1000
默认取值：
1
单函数最大实例数
单个函数最大可启用的按量实例数量。
约束说明：
- 超过实例数处理能力的请求会被直接丢弃，而不是重试。
- 超过实例数处理能力导致的请求错误不会直接显示在函数日志中，可通过配置函数的异步调用策略来获取错误详细信息。
取值范围：
-1或1~1000的整数，-1表示不限制实例数。
默认取值：
400
- 完成后单击“保存”保存并发配置。
