各位好,问题是这样的。
现在是部署到Windows Server上的IIS上,但是偶尔有高并发请求,看下来高峰时候1秒有500多的并发请求,然后IIS就开始排队了导致网页转圈了
各位朋友有没有什么建议可以有效提高IIS的并发能力,自托管的方式会不会提升并发能力呢,谢谢.
1秒有500多的并发请求
对IIS是小菜一碟,是代码的并发处理能力问题,建议检查代码中是否充分使用异步
好的,谢谢站长. 不知道有没有什么并发问题查看瓶颈工具可以推荐的,谢谢。
现在使用的是aspnetboilerplate, .netcore 5.0,请求的响应速度并不算慢,看logs “ Request finished in 623.6488ms” 一个请求在几百毫秒可以处理完成
异步在项目中可以异步的地方都异步了,并不是没有使用。加上使用了MessageQueue,其实处理速度不慢的。
适用的IIS版本:IIS 7.0, IIS 7.5, IIS 8.0
适用的Windows Server版本:Windows Server 2008, Windows Server 2008 R2, Windows Server 2012
1、应用程序池(Application Pool)的设置:
[1] General->Queue Length设置为65535(队列长度所支持的最大值)
[2] Process Model->Idle Time-out设置为0(不让应用程序池因为没有请求而回收)
[3] Recycling->Regular Time Interval设置为0(禁用应用程序池定期自动回收)
2、.Net Framework相关设置
[1] 在machine.config中将
< processModel autoConfig="true" />
改为
<processModel enable="true" requestQueueLimit="100000"/>
(保存后该设置立即生效)
[2] 打开C:WindowsMicrosoft.NETFramework64v4.0.30319ConfigBrowsersDefault.browser,找到<defaultBrowser id="Wml" parentID="Default" >,注释<capabilities>部分,然后在命令行中运行aspnet_regbrowsers -i。以解决text/vnd.wap.wml问题。
设置命令:
c:/windows/system32/inetsrv/appcmd.exe set config /section:serverRuntime /appConcurrentRequestLimit:100000
设置结果:
< serverRuntime appConcurrentRequestLimit="100000" />
(保存后该设置立即生效)
4、http.sys的设置
注册表设置命令1(将最大连接数设置为10万):
reg add HKLM/System/CurrentControlSet/Services/HTTP/Parameters /v MaxConnections /t REG_DWORD /d 100000
注册表设置命令2(解决Bad Request - Request Too Long问题):
reg add HKEY_LOCAL_MACHINE/SYSTEM/CurrentControlSet/services/HTTP/Parameters /v MaxFieldLength /t REG_DWORD /d 32768
reg add HKEY_LOCAL_MACHINE/SYSTEM/CurrentControlSet/services/HTTP/Parameters /v MaxRequestBytes /t REG_DWORD /d 32768
(需要在命令行运行 net stop http & net start http & iisreset 使设置生效)
5、针对负载均衡场景的设置
在Url Rewrite Module中增加如下的规则:
注意事项:添加该URL重写规则会造成IIS内核模式缓存不工作,详见微软的坑:Url重写竟然会引起IIS内核模式缓存不工作。
6、 设置Cache-Control为public
在web.config中添加如下配置:
<configuration>
<system.webServer>
<staticContent>
<clientCache cacheControlCustom="public" />
</staticContent>
</system.webServer>
</configuration>
在machine.config的<processModel>中添加如下设置:
< processModel enable="true" maxWorkerThreads="100" maxIoThreads="100" minWorkerThreads="50" minIoThreads="50"/>
让IIS同时支持10万个请求数
通过对IIS7的配置进行优化,调整IIS7应用池的队列长度,请求数限制,TCPIP连接数等方面,从而使WEB服务器的性能得以提升,保证WEB访问的访问流畅。
站点碰到如下问题:
Error Summary:
HTTP Error 503.2 - Service Unavailable
The serverRuntime@appConcurrentRequestLimit setting is being exceeded.
Detailed Error Information:
Module IIS Web Core
Notification BeginRequest
Handler StaticFile
Error Code 0x00000000
由于之前使用的是默认配置,服务器最多只能处理5000个同时请求,今天下午由于某种情况造成同时请求超过5000,从而出现了上面的错误。
为了避免这样的错误,我们根据相关文档调整了设置,让服务器从设置上支持10万个并发请求。
具体设置如下:
1. 调整IIS 7应用程序池队列长度
将原来的队列长度由默认值 1000 改为 65535。当然这里的队列长度你可以根据自己的 访问用户1.5 来设置,例如:有2000用户,此处就可以设置为3000(3000=2000用户数1.5)。
2. 调整IIS 7的appConcurrentRequestLimit设置
由原来的默认5000改为100000。
[1] 在cmd中执行:
c:/windows/system32/inetsrv/appcmd.exe set config /section:serverRuntime /appConcurrentRequestLimit:100000
[2] 在%systemroot%/System32/inetsrv/config/applicationHost.config中可以查看到该设置:
<serverRuntime appConcurrentRequestLimit="100000" />
3. 调整machine.config中的processModel>requestQueueLimit的设置
[1] 单击“开始”,然后单击“运行”,或者 windows + R。
[2] 在“运行”对话框中,键入 notepad %systemroot%/Microsoft.Net/Framework64/v4.0.30319/CONFIG/machine.config,然后单击“确定”。(不同的.NET版本路径不一样,可以选择你自己当前想设置的.NET版本的config)
[3] 找到如下所示的 processModel 元素:<processModel autoConfig="true" />
[4] 将 processModel 元素替换为以下值:<processModel enable="true" requestQueueLimit="15000" />
[5] 保存并关闭 Machine.config 文件。
由原来的默认5000改为100000。
<configuration>
<system.web>
<processModel enable="true" requestQueueLimit="100000"/>
参考文章:http://technet.microsoft.com/en-us/library/dd425294(office.13).aspx
4. 修改注册表,调整IIS 7支持的同时TCPIP连接数
由原来的默认5000改为100000。在cmd中执行:
reg add HKLM/System/CurrentControlSet/Services/HTTP/Parameters /v MaxConnections /t REG_DWORD /d 100000
可在注册表中查看
5. 运行命令使用设置生效
net stop http & net start http & iisreset
是要提高并发能力,这些没什么意义。队列设置的再长并发能力不够还是一样的要排队
@菜鸟飞不动: 可以根据服务器CPU设置最大工作进程
谢谢。目前已经设置了4个工作进程了。目前准备用Benchmark测试一下performance试试看。
建议部署到centos
.NET Core 跨平台实战
麻烦问一下,centos下并发会有比较大的提升吗,目前正式的服务器还是Windows的,估计切换到centos有点困难.
@菜鸟飞不动:
建议使用centos.目前使用dotcore部署基本都是linux.
当然,你这种情况可能是@dudu大佬说的,你的代码没有使用异步。你的服务器都是多核的,充分利用一下。并发编程是什么鬼
@戎"码"一生: 现在使用的是aspnetboilerplate, .netcore 5.0,请求的响应速度并不算慢,看logs “ Request finished in 623.6488ms” 一个请求在几百毫秒可以处理完成
异步在项目中可以异步的地方都异步了,并不是没有使用。加上使用了MessageQueue,其实处理速度不慢的。
托管与不托管,部署到windows还是linux跟并发没半毛钱关系
关键是你代码是否对并发做处理了
对于查询的数据用缓存
对于插入的数据用锁
操作系统都不一样,怎么没关系。目前生产环境的部署主流就是centos。使用的人多了,遇到的情况,解决方案自然多。
@戎"码"一生: 你真的看懂我要表达的意思吗
@不知道风往哪儿吹: 我知道你的意思。我只是提供部署方案的另一种选项。你说的是代码层面的。
跟并发关系应该还是有的。比如IIS和nginx的处理并发的能力肯定也是有差别的。部署是不是自托管性能也是有区别的,网上也看到过相关测试。
再加个服务器,如果代码实在是优化不了了
public class GCMiddleware
{
private readonly RequestDelegate _next;
public GCMiddleware(RequestDelegate next)
{
_next = next;
}
public async Task Invoke(HttpContext httpContext)
{
await _next(httpContext);
GC.Collect(2, GCCollectionMode.Forced, true);
GC.WaitForPendingFinalizers();
}
}
可以加个GC中间件试试
app.UseMiddleware<GCMiddleware>();
其实并非是iis并发不够,如果并发高了可能是你业务处理慢了.造成阻塞,排队现象,
现在使用的是aspnetboilerplate, .netcore 5.0,请求的响应速度并不算慢,看logs “ Request finished in 623.6488ms” 一个请求在几百毫秒可以处理完成。
– 菜鸟飞不动 3年前