Einführung
Wir haben in letzter Zeit Tests mit 10 Gigabit Ethernet (10GbE) durchgeführt und dabei ein paar Erfahrungen gesammelt.
Aktuell steht der Markt für Netzwerktechnologie vor einem kleinen Umbruch.
Zwar gibt es schon länger 10GbE, jedoch waren die Preise dafür immer noch recht hoch.
Das lag einerseits daran, dass die ersten Vertreter nur mittels Glasfasertechnologie
angeboten wurden, erst 2006 wurde der Standard 802.3an (10GBASE-T über Kupfer) verabschiedet.
Er erfuhr jedoch in der Gebäudeverkabelung kaum Verbreitung, da die vorhandenen Qualitäten oft nicht ausreichend waren (Cat-5 statt der benötigten Cat-6/6a). In Rechenzentren wurden Server daher eher mittels SFP+ Direct Attach miteinander verbunden.
Erst 2016 änderte sich die Situation, als mit 802.3bz (auch bekannt als NBase-T) ein Standard verabschiedet wurde, der 2.5, 5 und 10 Gigabit über Kupferkabel übertragen kann. Dieser wird benötigt, um über alte Cat-5-Verkabelungen das sogenannte Wave-2-WLAN anzubinden. Im WLAN-Umfeld sind inzwischen Datenraten von 1300 MBit/s und mehr verfügbar, die über herkömmliche Gigabit-Verbindungen
nicht mehr in voller Bandbreite bedient werden können. Um Access Points mit derartigen Geschwindigkeiten anzubinden,
werden mehr als ein Gigabit benötigt. Andererseits soll dies auch über alte Cat-5-Kupferkabel
erfolgen können, die eigentlich nicht für 10GbE geeignet sind.
Die "alten" Karten
Die 10GbE Karten, die 802.2bz noch nicht beherrschen, waren:
- Intel X540-T1/T2 (Linux-Treiber ixbge)
- Broadcom NetXtreme (Linux-Treiber bnx2x)
Die Broadcom-Karten wurden in verschiedenen OEM-Karten verbaut, z.B. von Lenovo und Dell. Sie sollen aber angeblich gern Temperaturprobleme haben und werden z.T. mit aktiver Kühlung angeboten
Die Intel-Karten sind fast End-Of-Life und werden deshalb aktuell z.T. sehr günstig abverkauft, u.a. aus China. Sie wurden u.a. von QNAP in diversen NAS optional angeboten.
Neue Karten und Chipsätze mit NBase-T
- Tehuti TN401 - eine der ersten bezahlbaren Karten für NBase-T, u.a. angeboten von DeLOCK und Buffalo
- Intel X550-T1/T2: Dies ist der Nachfolger zur X540, der wesentliche Unterschied ist die NBase-T-Fähigkeit
- Aquantia AC107: Dies ist ein ganz frischer Chipsatz, der offenbar sehr günstig ist. Er wird auf neueren Mainboards verbaut (teilweise als abgespeckte Variante AC108, der nur 2.5 und 5 Gigabit beherrscht) und von ASUS auf der XG-C100C für nur ca. 100€.
- Realtek 8125G - ein Einsteigerchipsatz, der nur 2.5 Gigabit beherrscht, aber sehr billig ist. Er wird auf vielen besseren Mainboards eingesetzt und verursacht gegenüber ähnlichen Mainboards ohne den Chip kaum Mehrkosten (ca. 20€ Differenz zwischen Asrock Z390 Phantom Gaming 6 und Z390 Extreme 4).
Treiber und Tricks
Mit der Verfügbarkeit der Asus XG-C100C werden vermutlich die Preise in diesem Segment in den nächsten Monaten stark sinken. Allerdings hat der Treiber bzw. die Firmware noch Probleme, die die Stabilität einschränken. Mit dem Einstieg von Realtek in das Segment Mitte 2018 wird dieser Abwärtstrend verstärkt.
Da die aktuell verfügbaren Intel 5x0-Tx-Modelle teilweise für ähnlich günstige Preise wie das Asus-Modell gehandelt werden, empfehlen wir aktuell noch erstere. Dafür spricht auch die sehr reife Treiberunterstützung bei Intel, die u.a. mit
SR-IOV für virtuelle Maschinen entscheidende Vorteile bietet - entsprechende Hardware vorausgesetzt.
Bei den Intel-Karten sollte man darauf achten, die Anzahl Puffer vom Standardwert 512 auf 4096 zu erhöhen - in unseren Tests brachte das fast eine Verdopplung des Durchsatzes.
Switches
Bei den Switches sind die Preise ebenfalls noch weit oben. Einerseits beherschen noch wenige Switches NBase-T, andererseits ist es noch vergleichsweise teuer, wenn viele Ports benötigt werden.
Diese Switches sind aktuell erwähnenswert:
- Asus XG-U2008 für nur ca. 250€, hat aber nur 2x 10GbE Ports und diese ohne NBase-T, er ist auch nicht managebar
- Netgear ProSAFE M4200, dieser Switch bietet sogar PoE zusätzlich an, kostet aber ca. 1200€ und ist nur per Windows-App managebar
- Ubiquiti Edgeswitch 16 XG, dieser kostet ca. 530€, hat 4x 10GbE plus 12x SFP+ - er soll allerdings Qualitätsprobleme haben. Benötigt man mehr als 4 Ports, muss man SFP+-Module nachrüsten.
- Ubiquiti Unifiswitch 16 XG, dieser kostet ca. 550€ und ist fast identisch mit dem anderen Unifi-Switch.
- Buffalo MP2008/MP2012 für ca. 530€/780€, der einzige bezahlbare managebare NBase-T Switch mit mehr als 4 Ports.
- Mikrotik CRS328-24P-4S+RM, ab ca. 325€ mit 4 SFP+ Einschüben und PoE.
- Cisco SG350X-24P, ab 550€ mit 2x10 GbE und 2xSFP+.
- Ubiquiti Unifi USW Enterprise 24 PoE, dieser Switch hat 2x SFP+ und 12x 1 GbE + 12x 2.5 GbE.
- Ubiquiti Unifi USW Aggregation, dieser bietet 8x SFP+ und ist sehr günstig.
Die übrigen 10GbE Switches lassen sich so charakterisieren: Entweder sie sind extrem teuer oder sie bieten nur einen oder zwei 10GbE Einspeiseports und verteilen dann z.B. auf 24x Gigabit.
Bis auf die ganz teuren Exemplare (Enterprise-Switches von HP und Dell) beherrschen sie auch noch kein NBase-T.
Wir haben den USW Enterprise 24 PoE und den Unifi USW Aggregation im Einsatz, die sich sehr einfach managen lassen.
SFP+ Module
Die Module gibt es von verschiedenen Herstellern, u.a. Ubiquiti, Mikrotik und andere. Einige Modelle sind dabei
offenbar baugleich (Ipolex, Hifiber und QSFPTEK), da sie auf dem Marvell 88X3300 basieren.
Ein Test diverser Module findet sich
hier.
Die aktuell vertriebenen Modul-Versionen beherrschen fast alle auch NBase-T, obwohl damit z.T. nicht geworben wird.
Zu Verbindung bei kurzen Strecken, z.B. für Switches untereinander gibt es auch DAC-Kabel, die wesentlich
günstiger und stromsparender sind als zwei SFP+-Module mit einem Kupferkabel.
Will man SFP+ für Server nutzen, gibt es dafür PCIe-Adapter wie den Intel X520-DA1.
Ergebnisse
Die Ergebnisse unserer ersten Tests mit den Asus-Karten waren vielversprechend - die Geschwindigkeit von Datentransfers war viel höher als mit Gigabit Ethernet (500 MByte/s vs. 108 MByte/s). Die Verbindungen kamen zu unserer Überraschung trotz unserer Cat-5-Verkabelung durchweg mit 10 Gigabit/s zustande. Man kann vorerst auf die Anschaffung eines Switches verzichten und nur eine Windows-Workstation am Server per Bridge-Interface anbinden, da sich die Preise für Switches
vermutlich mit der Ankunft neuer Produkte deutlich nach unten entwickeln werden und dann hoffentlich
auch bezahlbare NBase-T-Produkte mit Power-Over-Ethernet verfügbar werden.
Nachtrag
Wie wir inzwischen herausgefunden haben, ist eine stabile 10-GBase-T Verbindung mit Cat-5-Verkabelung bis zu einer Maximallänge
von ca. 25m möglich, dazu sollten aber die Patchkabel und insbesondere die Enddosen Cat-6-geeignet sein.
Eine Verbindung über ca. 17m, die öfter Aussetzer zeigte und per automatischer Aushandlung nur 5-GBase-T beherrschte,
wurde durch Ersatz der alten Cat-5-Wanddose erst vollständig 10-GBase-T-fähig.
Aufgrund der aktuellen Strompreise sollte man bedenken, dass 10 GBit/s über Ethernet ca. 2-3 Watt
pro Seite (!) benötigt.
Ein Watt Verbrauch im Dauerbetrieb kostet bei 0,30€ pro Kilowattstunde bereits 2,63€!
Wo es möglich ist, sollte man also auf DAC-Kabel zurückgreifen. Aktuell sind bereits viele Switches und PCs mit 2.5 GBit/s
verfügbar - oft genug reicht diese Geschwindigkeit aus und der Stromverbrauch pro Port ist deutlich niedriger.