Infrastruktur für ArbeitsPlatzSysteme - RRZ Universität Hamburg
Infrastruktur für ArbeitsPlatzSysteme - RRZ Universität Hamburg
Infrastruktur für ArbeitsPlatzSysteme - RRZ Universität Hamburg
Erfolgreiche ePaper selbst erstellen
Machen Sie aus Ihren PDF Publikationen ein blätterbares Flipbook mit unserer einzigartigen Google optimierten e-Paper Software.
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der<br />
<strong>Universität</strong> <strong>Hamburg</strong><br />
Katharina Swekis<br />
Gruppe APS - <strong>Infrastruktur</strong> <strong>für</strong> <strong>ArbeitsPlatzSysteme</strong><br />
06.05.2010
• Vorgeschichte<br />
Agenda<br />
• ZSI – technische Umsetzung<br />
• Nutzen <strong>für</strong> die <strong>Universität</strong><br />
• Perspektive<br />
• Kontakt<br />
• Backup/Archiv-System<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 2
Vorgeschichte<br />
• Ziel: zentraler Speicher <strong>für</strong> die <strong>Universität</strong><br />
• Beteiligt: APS, ZD, Netzwerk<br />
• Zeitachse:<br />
– Konzept 2007<br />
– Antrag 2008<br />
– letzte Infoveranstaltung im Februar 2009<br />
– Ausschreibung 2009<br />
– Integration und Umzug 2010<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 3
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Insel-<br />
Landschaft<br />
Regionales<br />
Rechenzentrum<br />
Seite 4
• Lösung:<br />
Vorgeschichte<br />
– Konsolidierung (zentraler Speicher und<br />
SAN)<br />
– Virtualisierung (intelligente<br />
Abstraktionsschicht, Flexibilität)<br />
– Erweitertes B/A-System � Extra-Folien<br />
• Stufenweise Umsetzung<br />
– 1. Stufe: Aufbau<br />
– 2. Stufe: Ausbau<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 5
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 6
Vorgeschichte<br />
• HBFG-Antrag<br />
• Europaweite Ausschreibung: Dell GmbH<br />
• EVB-IT-Systemvertrag<br />
– Gesamtlösung aus einer Hand<br />
• Umzug in den NSR (Ende 2010 ?)<br />
• Support<br />
– 24*7*365<br />
– 2 oder 4 Stunden Reaktion<br />
– Vor Ort<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 7
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 8
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
ZSI<br />
Seite 9
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
ZSI<br />
Regionales<br />
Rechenzentrum<br />
Seite 10
ZSI – technische Umsetzung<br />
• Zwei Speichersysteme von emc²/Dell<br />
– CX4-480<br />
– Redundant aufgebaut<br />
– 30 TB FC RAID5 und RAID10<br />
– 80 TB SATA II RAID6<br />
– Je 4*8 Gbit/s FC Frontend<br />
• 8 Gbit/s FC-SAN aus 4 Brocade Switches<br />
– 2*64 und 2*24 Ports<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 11
ZSI – technische Umsetzung<br />
• Zwei Virtualisierungscluster<br />
– Hardware: 4*Poweredge R900 von Dell<br />
• Je 8*8 GBit/s FC und 4*Gigabit Ethernet<br />
– Software: IPStor von Falconstor<br />
• Lizenziert: 1 PB Basis, 20 TB Snapshots<br />
• Referenzen: GWDG, HU-Berlin, Uni-<br />
Magdeburg, Spiegel-Verlag, WAZ,…<br />
• Basis, FC und iSCSI Target, Spiegelung,<br />
SED, Online Migration, Snapshots<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 12
Ressource Management<br />
Virtual<br />
disks<br />
Physical disks<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
• Create volumes of any<br />
size from across<br />
physical disk resources<br />
• Physical LUN and<br />
virtual devices up to<br />
16TB each<br />
• Expand volumes as<br />
needed<br />
• Storage pooling<br />
designates sets of<br />
physical disks for<br />
specific tasks<br />
• Decreased risk of<br />
operator error<br />
Regionales<br />
Rechenzentrum<br />
Seite 13<br />
13
Tier 1: Reserved<br />
for Oracle<br />
production<br />
Storage pooling<br />
Oracle Exchange Files Archives<br />
Tier 2: General<br />
production disk<br />
Tier 2:<br />
Reserved for<br />
Snapshots<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Tier 3:<br />
Virtualized<br />
JBOD<br />
Regionales<br />
Rechenzentrum<br />
Seite 14<br />
14
ZSI – technische Umsetzung<br />
• Hohe Verfügbarkeit<br />
– Redundanz, Qualität<br />
– Service-Vertrag<br />
– Überwachung (Mail, Nagios)<br />
– Sicheres Managementnetz<br />
– Provisorische Failover-Tests halbjährlich<br />
– Updates bei Bedarf<br />
– Wartungszeiten: 7-9 und 19-21, WE<br />
– Test-System, 4-Augen-Prinzip<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 15
ZSI – technische Umsetzung<br />
• Hohe Performance: 8 Gbit/s FC-SAN<br />
• Speicherklassen<br />
– Zugriff über iSCSI und FC<br />
– Platten FC (RAID5 und 10), SATA II (RAID6)<br />
• Hohe Skalierbarkeit: Storage, Server<br />
• Flexibilität<br />
– Virtuelle LUNs, Thin Provisioning, Online<br />
Migration<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 16
Nutzen <strong>für</strong> die <strong>Universität</strong><br />
Was habe ich davon?<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 17
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 18
Nutzen <strong>für</strong> die <strong>Universität</strong><br />
• Bereits integriert Server:<br />
– VMWare (ESXi4)<br />
– Novell-Cluster (OES/NetWare)<br />
– Groupware-Cluster (OES/SLES)<br />
– iPrint-Cluster (OES/NetWare)<br />
– ZCM-Cluster (OES/SLES)<br />
– Lecture2Go (SLES)<br />
– SUB (Windows 2008 und Solaris 10) über<br />
iSCSI<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 19
Nutzen <strong>für</strong> die <strong>Universität</strong><br />
• Anbindung weiterer Server:<br />
– Backup/Archiv-Server<br />
– Mail-Server<br />
– Fiona<br />
– MyCore<br />
– eLearning<br />
– SharePoint<br />
– …<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 20
Nutzen <strong>für</strong> die <strong>Universität</strong><br />
• File-Services: z.B. UHH-Disk<br />
• Content-Management: z.B MyCore, Fiona<br />
• Postfächer: z.B. Mail-Server, Groupware<br />
• Vorlesungsdatenbank: Lecture2Go<br />
• Image Datenbank: ZCM-Cluster<br />
• Software-Sammlung: ZCM-Cluster<br />
• Virtuelle Maschinen: VMWare<br />
• Archiv: erweitertes Backup/Archiv-System<br />
• … weitere<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 21
• Beispiel UHH-Disk:<br />
Nutzen <strong>für</strong> die <strong>Universität</strong><br />
– File-Services, Novell-Cluster (NSS, NCS)<br />
– Große Nachfrage!<br />
– 300GB in 2002, 8TB in 2010, 40TB in 2011<br />
– Home-Verzeichnisse (etwa 60.000)<br />
• Von 100MB auf 2 bzw. 5 GB<br />
– Gruppen- und Projekt-Verzeichnisse<br />
• Von GB bis TB möglich<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 22
• Beispiel UHH-Disk:<br />
Nutzen <strong>für</strong> die <strong>Universität</strong><br />
– Zugriff: Mac, Windows, Linux, WebDAV<br />
– www.rrz.uni-hamburg.de -> UHH-Disk<br />
– Performant, Lastverteilung<br />
– Ausfallsicher, stufenlos skalierbar<br />
– differenzierte Rechte<br />
– Datensicherung mit Backup/Archiv-System<br />
– Virenscan mit Sophos Antivirus<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 23
Nutzen <strong>für</strong> die <strong>Universität</strong><br />
• Neu: Speicher als Block-Device oder LUN<br />
– Für Arbeitsgruppen-Server<br />
– Mit iSCSI, später mit Fibre Channel<br />
– SUB bereits angebunden (iSCSI)<br />
– Voraussetzungen zu schaffen<br />
• Hardware, Software, Netz<br />
• Beschaffung, Updates, Verkabelung<br />
• Tests<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 24
Nutzen <strong>für</strong> die <strong>Universität</strong><br />
• Voraussetzungen:<br />
– iSCSI:<br />
• dedizierte Netzkarte oder iSCSI-Karte<br />
• iSCSI-VLAN<br />
• Initiator<br />
– Fibre Channel:<br />
• FC-HBA redundant (zwei oder dual-port)<br />
• Multipathing (native oder von Falconstor)<br />
• FC-SAN<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 25
Perspektive<br />
Längerfristig:<br />
– 2. Stufe: Ausbau<br />
– Anforderungs- und Markt-Analyse<br />
– HBFG-Antrag (bis Ende 2010?)<br />
• Speicherkapazität (auf 1 PB? SAS?<br />
SATA?)<br />
• SAN (Portanzahl?)<br />
• Speichervirtualisierung (Lizenzen?<br />
Funktionalität?)<br />
• Zweiter Standort, Spiegelung<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 26
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 27
Kontakt<br />
• Mailadresse:<br />
zentraler-speicher@rrz.uni-hamburg.de<br />
• Web-Seite:<br />
http://www.rrz.uni-hamburg.de/projects/zsi.html<br />
• Service-Line: 42838 7790<br />
rrz.serviceline@rrz.uni-hamburg.de<br />
• ZSI: Katharina Swekis, Björn Rackoll, Günther<br />
Schwarz<br />
• Möglichst frühzeitig Bedarf melden (auch<br />
Schätzungen!)<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 28
Fragen?<br />
ENDE<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 29
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der<br />
<strong>Universität</strong> <strong>Hamburg</strong><br />
Backup-/Archiv-System<br />
Björn Rackoll<br />
Gruppe Zentrale Dienste<br />
06.05.2010
Agenda<br />
Backup/Archiv-System<br />
• Ist-Zustand<br />
• Perspektiven (kurz- und langfristig)<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 31
Backup-/Archiv-System heute<br />
• Backup-Server mit AIX 5.3 und TSM 5.5<br />
• 2 TSM-Instanzen, je ca. 100 GB Datenbank<br />
• 850 Clients, ca. 250 TB Daten<br />
• Plattenpool: 3,4 TB<br />
• Bandroboter: 12 Laufwerke (Jaguar 1 und 2)<br />
• Tape- und Copypool: 1200 Kassetten (je 300/500/700<br />
GB unkomprimiert)<br />
• Zuwachs ca. 70 Kassetten pro Quartal (gemittelt aus den<br />
letzten 24 Monaten)<br />
• Copypool im Tresor<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 32
Backup-/Archiv-System heute<br />
• Backup/Archiv-System<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 33
Strategische Überlegungen<br />
• In Zukunft weniger Daten auf Clients, mehr zentral im<br />
<strong>RRZ</strong><br />
• Kapazität des Backup-/Archiv-Systems ist gekoppelt an<br />
ZSI-Kapazität<br />
• Zusätzlich zu berücksichtigen: Auf (TSM-)Clients bereits<br />
gelöschte Daten, zusätzliche Versionen, Image-Backups,<br />
…<br />
• Datenzuwachs schwer zu prognostizieren<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 34
Perspektive - kurzfristig<br />
• Kauf TSM-Server und Bandroboter<br />
– Sicherstellung des Betriebs<br />
– Verteilung Server/Roboter auf 2 Brandabschnitte<br />
• Neue Sicherungsmechanismen:<br />
– LAN-Free-Backups (<strong>für</strong> große Dateien)<br />
– Image-Backups (zur schnellen Wiederherstellung von<br />
ganzen Laufwerken)<br />
– Kombiniert mit inkrementellen Backups ermöglichen<br />
Images schnelle Laufwerks-Wiederherstellung als<br />
auch Wiederherstellung einzelner Dateien<br />
– Online-Datenbank-Backup<br />
• Aufbau TSM-Cluster<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 35
Perspektive - mittelfristig<br />
• TSM-Upgrade 5.5 -> 6.2<br />
– DB2-Backend => Sicherstellung weiteren Wachstums<br />
– Möglichkeit Push-Updates des TSM-Clients<br />
(Windows)<br />
– Inkrementelles Backup des Windows System State<br />
– Simultanes Schreiben bei Migration/Kopie der<br />
Primärdaten<br />
– SSL <strong>für</strong> Client-Backup <strong>für</strong> weitere Betriebssysteme<br />
(Windows und AIX bereits heute möglich)<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 36
Perspektive - langfristig<br />
• HBFG-Antrag Ende 2010 (geplant):<br />
– Kapazitätserhöhung des Backup-/Archiv-Systems,<br />
sich orientierend an der ZSI-Erweiterung<br />
– Ersatz <strong>für</strong> TSM-Server und Roboter aus R. 23,<br />
Ausbau Roboter NSR<br />
– Zusätzlich großer Plattencache bzw. VTL<br />
– Zweiter Standort auf dem Campus zur Verbesserung<br />
der Datensicherheit<br />
– Nach Möglichkeit redundante Anbindung ans UHH-<br />
Backbone<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 37
Perspektive - langfristig<br />
• Neues Projekt Archivsystem<br />
– Bisher nur TSM-Archivfunktion, unflexibel, kaum<br />
genutzt<br />
– Was soll archiviert werden?<br />
– Wie soll archiviert werden?<br />
– (Teil-)Durchsuchbarkeit des Archivs<br />
– Zugriffsrechte<br />
– Aufbewahrungszeiten <strong>für</strong> Dokumente<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 38
Fragen?<br />
ZSI<br />
Zentrale Speicher<strong>Infrastruktur</strong> der <strong>Universität</strong> <strong>Hamburg</strong><br />
Regionales<br />
Rechenzentrum<br />
Seite 39