Wie Server mit möglichst geringer Latenz in die AWS Cloud finden

SteigerMP

Banned
Registriert
Juli 2013
Beiträge
393
Guten Abend,

momentan arbeite ich mit 2 Freunden an einem Projekt für das wir einen Server benötigen, der möglichst geringe Latenzzeiten zu mehreren Webseiten hat. Auf dem Server wird ein Windows Server 2019 System laufen und ein Programm, welches in regelmäßigen Abständen möglichst schnell Daten von mehreren Webseiten scrapen und dann verarbeiten soll. Aufgrund der Aktualität, zählt (fast) jede Millisekunde.

Das Problem an der Sache: einige Webseiten liegen in Deutschland, andere in der AWS Cloud in USA. Ich hatte bereits die Webseiten in der AWS Cloud angeschrieben, wo deren Seiten gehostet sind aber entweder gab es keine hilfreiche Antwort oder es heißt, dass die Seiten in der Amazon Cloud liegen.

Nun habe ich mich mal umgeschaut und muss feststellen, dass die AWS Server an verschiedenen Standorten weltweit angemietet werden können und im 24/7 vergleichsweise sehr teuer sind. Angedacht ist ein Server mit 8 Kernen, 32GB Ram, SSD und min. 1Gbit Anbindung. Mehrere Server weltweit anmieten wird auch schnell sehr teuer und die Synchronisation der Server untereinander wird sehr schwierig bis unmöglich.

Meine letzte Idee wäre es einen Server in Deutschland anzumieten, der ohne viele Hops innerhalb Deutschland und rüber in die Staaten kommt. Die beste Variante wäre wohl ein Serveranbieter, der direkt an DE-CIX in Frankfurt angebunden ist. Die wenigen Anbieter sind allerdings auch super teuer. Die günstigeren Anbieter haben ihre Server zwar in Frankfurt aber es ist nicht klar, ob sie direkt an DE-CIX angebunden sind (wie bspw. Datafabrik).

Ich habe selbst einen Webspace bei Netcup, die auch günstige und performante Server anbieten aber scheinbar in Karlsruhe ihr Rechenzentrum haben. Ich weiß nicht, wie es mit deren Anbindung an DE-CIX bzw. die USA aussieht und wie viel Unterschied es ausmacht bei Netcup in Karlsruhe oder Datafabrik in Frankfurt zu hosten.

Lange Rede kurzer Sinn, gibt es eine Möglichkeit die Latenz verschiedener Hoster mit bestimmten Webseiten abzugleichen? Speedtest net bietet so etwas in der Art ja an. Die haben mehrere Server weltweit für ihre Geschwindigkeitsmessungen. Allerdings kann ich nicht zich Server in Deutschland und Amerika anmieten um die Latenzzeiten zu testen.

Habt ihr eine Lösung für das Problem parat oder kommen wir nicht drumherum einen Server in Deutschland und einen in Amerika anzumieten für die bestmögliche Latenz? Wenn ja, wie viel Unterschied macht es denn aus, einen Server von Netcup aus Karlsruhe im Vergleich zu einem aus Frankfurt zu nehmen? Oder kennt ihr vielleicht sogar Serveranbieter, die direkt an DE-CIX hängen und keine astronomischen Preise verlangen?
 
Du kommst nicht herum, dir Server zu suchen, die idealerweise im gleichen Rechenzentrum wie dein Ziel sitzt. Alles andere ist sehr viel Glücksspiel.

Ich sage es mal so, web seiten scrapen ist schon langsam genug, dass dich da einstellige/zweistellige Millisekunden wahrscheinlich eh nicht mehr interessieren werden.
 
  • Gefällt mir
Reaktionen: M-X
Du wirst nicht um mindestens zwei Server rumkommen wenn du US und EU gut abdecken willst. GGf kannst du ja die Hoster fragen ob sie einen Latenz Test machen?

Auf https://www.webhostlist.de/ kannst du eine Kostenlose Ausschreibung starten, da können Sich dann Anbieter melden. Habe damit sehr gute Erfahrungen gemacht wenn die Anforderungen von dem Standard abweichen. Ggf auch Linux nutzen um Windows Lizenz kosten zu sparen? DIe sind bei Servern nämlich nicht billig.
 
Rein der Neugier halber kannst du etwas über das Projekt erzählen?

Du kannst davon ausgehen, dass die Hyperscaler alle eine exzellente Anbindung an DE-CIX haben. Hier kannst du die Latenzen der verschiedenen Azure Regionen sehen. Keiner der Hoster wird auf deine Anfrage antworten, seien wir mal ehrlich, die machen mehr Geld mit anderen Anfragen.

Alle Hyperscaler bieten dir 30 Tage Trials an. Nutze das um herauszufinden ob einer der großen dir passt. Ansonsten musst du dir kleine individuelle Anbieter suchen.
 
Es gibt bei AWS die Möglichkeit einen kostenlosen Account zu erstellen.

Dabei gibt es zwar nur eine Micro-Instanz kostenlos (auch ohne Windows, sondern ein AMI-Linux ist dabei), es wäre aber eine Möglichkeit die Latenzen zu testen.
Da du diese Instanz einreißen und in einer anderen Zone (eu-central-1a, ohio, washington oder sonstwo) wieder aufbauen kannst, könntest du damit schon mal kostengünstig testen.
 
Tornhoof schrieb:
Du kommst nicht herum, dir Server zu suchen, die idealerweise im gleichen Rechenzentrum wie dein Ziel sitzt. Alles andere ist sehr viel Glücksspiel.

Ich sage es mal so, web seiten scrapen ist schon langsam genug, dass dich da einstellige/zweistellige Millisekunden wahrscheinlich eh nicht mehr interessieren werden.
Macht es denn einen großen Unterschied im Serversegment hinsichtlich der Latenz, wenn Server A im RZ Frankfurt und Server B im RZ Berlin bspw. steht? Ich weiß auch nicht genau, ob es wichtiger ist, weniger Hops zwischen den beiden Servern zu haben oder die reine Distanz in Kilometern. Es soll ja auch Möglichkeiten geben die Verbindung mittels DNS zu optimieren.

Scrapen im Sinne von bis zu 100 Seiten in festen Intervallen (teilweise jede Stunde oder jede Minute abfragen). Wir wollen nicht tausende Abfragen pro Sekunde oder Minute auf irgendwelchen Seiten stellen. Deswegen begrenzt sich unser Scraping auch nur auf wenige Webseiten.


M-X schrieb:
Du wirst nicht um mindestens zwei Server rumkommen wenn du US und EU gut abdecken willst. GGf kannst du ja die Hoster fragen ob sie einen Latenz Test machen?

Auf https://www.webhostlist.de/ kannst du eine Kostenlose Ausschreibung starten, da können Sich dann Anbieter melden. Habe damit sehr gute Erfahrungen gemacht wenn die Anforderungen von dem Standard abweichen. Ggf auch Linux nutzen um Windows Lizenz kosten zu sparen? DIe sind bei Servern nämlich nicht billig.

Danke für den Tipp. Die Seite werde ich mir mal anschauen.
Das Programm wird für Windows entwickelt, daher ist ein Server mit Windows Voraussetzung. Die Lizenzen sind teuer, daher versuchen wir einen Anbieter zu finden, auf dem wir unsere eigene Windows Server 2019 Lizenz nutzen können.


D1rty schrieb:
Rein der Neugier halber kannst du etwas über das Projekt erzählen?

Du kannst davon ausgehen, dass die Hyperscaler alle eine exzellente Anbindung an DE-CIX haben. ...

Das aktuelle Projekt ist ein Cryptocoin Analyser. Dieser greift in regelmäßigen Abständen auf Börsen zurück und scraped den aktuellen Wert sowie die Veränderungen im Vergleich zum vorherigen Datenabgleich. Daraus werden auf dem Server Diagramme und Prognosen erstellt. Wenn das gut funktioniert, soll das Prinzip auch auf andere Bereiche ausgeweitet werden. Es handelt sich um Spaßprojekt, daher wollen und können wir keine Unmengen an Geld reinstecken.

AWS, Azure und die Google Cloud sind halt sehr teuer im 24/7 Betrieb. Am Anfang sollte das testweise aber stemmbar sein, sollten die Server tatsächlich stündlich abgerechnet werden. Zumindest bietet Amazon dieses Modell an. Da das Programm noch nicht fertig ist, muss der Server aktuell noch nicht 24/7 laufen.


Sless schrieb:
Es gibt bei AWS die Möglichkeit einen kostenlosen Account zu erstellen.
...
Danke! Werde ich mal testen.
 
Zurück
Oben