Ja, aber dann brauch ich einen NGINX für den https->http ...

Für was brauchst Du den NGINX? Für die SSL Terminierung?

... und apache für http/php;

Was hat Varnish damit zu tun? Irgendeinen Webserver brauchst Du doch eh. Varnish ist doch egal was da für ein Webserver läuft.

das Problem ist nicht der Webserver sondern die schrägen Queries von mylittleforum (leider).

Schon klar. Aber 99.9% der Requests hier dürften Read Requests sein. Und die kannst Du doch wunderbar im Varnish abfangen, die brauchen nicht auf die Datenbank durchschlagen.

--
"Der Computer ist die logische Weiterentwicklung des Menschen: Intelligenz ohne Moral." (John Osborne)
"Der Gutmensch ist die logische Rückentwicklung des Menschen: Moral ohne Intelligenz." (unbekannt)