<div dir="ltr">5k req/s is very low, I was able to achieve ~12-16k with a vm with 2 cores and 8Gb, albeit our hit ratio was higher, around 90% (and it was a stress test).<div><br></div><div>One of the things I had to disable for our test was an iptables rule for max new connections per second that we had to avoid some ddos, check to see if you have some external limiting factor like that.</div>

</div><div class="gmail_extra"><br><br><div class="gmail_quote">On Sat, Apr 26, 2014 at 4:10 AM, Jason Price <span dir="ltr"><<a href="mailto:japrice@gmail.com" target="_blank">japrice@gmail.com</a>></span> wrote:<br>

<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Note: this isn't a varnish question, per se, because varnish indicates it isn't the problem.  <div><br></div><div>

What OS parameters has the community found valuable to tweak?</div><div><br></div><div>Varnish 3.0.5, running on a c3.4xlarge amazon instance.  16 'cores', 30gb ram, amazon linux (aka RHEL 6ish) and half of a 10gb card to play with.  Very recent linux kernel.</div>


<div><br></div><div>We see approximately 50% cache hit.  Payload is approximately 3.5kBytes compressed.  Response times are averaging 10 milliseconds... Backend response time is around 17-20 milliseconds.  We aren't seeing any lru_nuked objects, so the cache is sized appropriately for the cachability of the data (we can only cache for 15ish minutes due to the nature of the data).</div>


<div><br></div><div>Threads set to 4k per thread pool.  Two thread pools, increased sess-workspace.  I see queued messages in varnish stat, but I never see dropped messages, and I don't see the thread count getting near max of 8k (usually hovers around 3300-3500).  We have a very high requests to connections ratio (approximately 100:1).</div>


<div><br></div><div>Vmod for url coding is in play, and occasionally some syslog messages.</div><div><br></div>Tcp socket reuse and recycle got us some improvement.  I've also played with the txqueuelen on the network interface, and a couple other related parameters to little avail.<div>


<br></div><div>Anything I can do?</div><span class="HOEnZb"><font color="#888888"><div><br></div><div>-Jason</div>
</font></span><br>_______________________________________________<br>
varnish-misc mailing list<br>
<a href="mailto:varnish-misc@varnish-cache.org">varnish-misc@varnish-cache.org</a><br>
<a href="https://www.varnish-cache.org/lists/mailman/listinfo/varnish-misc" target="_blank">https://www.varnish-cache.org/lists/mailman/listinfo/varnish-misc</a><br></blockquote></div><br><br clear="all"><div><br></div>-- <br>

Jorge Nerín<br><<a href="mailto:jnerin@gmail.com">jnerin@gmail.com</a>>
</div>