\"/
\"/ \"/    

is.muni.cz na novém hardware

Michal Brandejs, Jan Kasprzak, Miroslav Křipač, FI MU
Ročník XV - číslo 1, říjen 2004
Citace: M. Brandejs, J. Kasprzak, M. Křipač. is.muni.cz na novém hardware. Zpravodaj ÚVT MU. ISSN 1212-0901, 2004, roč. XV, č. 1, s. 5-7.
verze pro tisk: PDF
Tematické zařazení: Hardware, Informační systémy MU
 předchozí článek | následující článek 

Na konci měsíce srpna 2004 byli studenti o víkendu bez funkčního Informačního systému1. V té době migroval is.muni.cz ze starého na nový hardware. Přesněji, migroval pouze jeho databázový stroj. Ten byl však do té doby nejužším místem celého systému.

Jak tento nový hardware vypadá? Provoz Informačního systému is.muni.cz zajišťuje sada počítačů. Operace v jednom počítači (nebo též uzlu) provádí jeden nebo více procesorů. Počítače bezprostředně patřící systému is.muni.cz jsou namontovány ve třech stojanech, které jsou umístěny v klimatizovaném sále ÚVT v budově Fakulty informatiky. Klimatizace, resp. chlazení je pro provoz důležité, protože tepelný výkon souboru asi 38 procesorů na malém prostoru je velký.

Počítače is.muni.cz jsou napájeny z nepřetržitých zdrojů napájení UPS (uninterruptible power supplies). UPS počítače napájí ze svých baterií a současně baterie trvale dobíjí z elektrické sítě. UPS jsou zálohovány pro případ déletrvajícího výpadku elektrické sítě motorgenerátorem (diesel agregát), který se startuje krátkou dobu po výpadku napájení. Infrastrukturu (klimatizace, UPS, motorgenerátor) poskytuje Ústav výpočetní techniky Masarykovy univerzity v Brně. ÚVT MU taktéž systému poskytuje fyzickou ostrahu, tzn. dovoluje k systému přístup jen vyjmenovanému okruhu povolaných osob.

 
Počítače aplikačního clusteru a rozdělovací počítače
 
Obrázek 1: Počítače aplikačního clusteru a rozdělovací počítače
 

Počítače is.muni.cz se funkčně dělí do několika skupin. Jsou tu počítače:

Celková cena základního technického vybavení is.muni.cz (tzn. databázového a aplikačního clusteru, rozdělovacích počítačů a počítačů souborového úložiště) nepřesahuje 8 mil. Kč. Konfigurace zahrnuje 38 procesorů, 56 GB operační paměti a 5 TB diskové kapacity. V době psaní tohoto textu se systémem běžně pracuje 33813 aktivních uživatelů, tzn. vydělíme-li cenu počtem uživatelů, vychází 236 Kč ceny technického vybavení na jednoho uživatele.

Počítače databázového clusteru a souborového úložiště
 
Obrázek 2: Počítače databázového clusteru a souborového úložiště
 

Nejnovější počítačovou sadou jsou počítače databázového clusteru a počítače souborového úložiště. Každý z těchto počítačů je sestaven z modulů osazených dvěma 64bitovými procesory Itanium 2. Databázový cluster provozujeme ve dvou-uzlovém zapojení. Počet procesorů v obou uzlech databázového clusteru není stejný. Předpokládáme, že v dobách zvýšené zátěže systému - např. boje o lukrativní zkušební termíny nebo seminární skupiny na některé z fakult - budeme směřovat soutěžní operace na uzel s méně procesory a ostatní operace na uzel s více procesory. Oba uzly sdílí jedno diskové pole. Diskové pole je připojeno celkem čtyřmi kanály, vždy dvěma ke každému uzlu databázového clusteru. Propojení je vedeno optickými vlákny. Každý z uzlů databázového clusteru je napájen z jiného rozvodu energie, diskové pole je ze dvou zdrojů energie napájeno současně. Data se ukládají současně na více než jeden disk v diskovém poli. Pokud dojde k výpadku či poškození jednoho disku, nedojde tak ke ztrátě zaznamenaných údajů.

Ostatní procesory počítačů v prvním stojanu jsou využity na správu distribuovaného souborového úložiště is.muni.cz. Distribuované souborové úložiště je provozováno vlastní technologií týmu vývojářů is.muni.cz.

V dalších dvou stojanech jsou namontovány počítače aplikačního clusteru, rozdělovací počítače, komunikační a monitorovací prvky. Rozdělovací počítače jsou dva. Oba se vzájemně monitorují a v případě výpadku jednoho z nich jej druhý během několika sekund plně zastoupí. Úkolem rozdělovacích počítačů je rozdělovat požadavky uživatelů, které předávají uživatelské webové prohlížeče, na jednotlivé počítače aplikačního clusteru. Počty procesorů aplikačního clusteru se v čase mění. V době psaní tohoto textu bylo v aplikačním clusteru zapojeno 10 procesorů.

Všechny komponenty výpočetního systému is.muni.cz jsou minimálně zdvojeny. Rozdělovací počítače jsou dva, uzly databázového clusteru jsou dva, diskové pole je zdvojeno interně, uzlů aplikačního clusteru je celá řada. V bezporuchovém či bezproblémovém provozu poskytují uživatelům služby všechny komponenty. V případě výpadku některé z komponent dochází k převzetí funkce komponentami ostatními.

Počítače aplikačního clusteru jsou vybaveny technologií na vzdálené odpojování včetně vypnutí a opětného zapnutí napájecího napětí. Rovněž stroje aplikačního clusteru jsou rozděleny tak, aby byly rovnoměrně rozloženy mezi dva nezávislé napájecí okruhy. S firmware (BIOSem) každého počítače aplikačního clusteru mohou správci taktéž komunikovat vzdáleně prostřednictvím počítačové sítě. Celý výpočetní komplex je navrhován tak, aby veškeré základní operace bylo možné provádět bez fyzické přítomnosti správce. Vzdálený přístup ke strojům je nezbytný už jenom proto, že v dosahu není žádná klávesnice, žádný monitor a žádná myš.

Jednotlivé počítače aplikačního clusteru s rozdělovači a s oběma uzly databázového clusteru komunikují uzavřenou počítačovou sítí přenosovou rychlostí 1 Gb/s. Spojení je realizováno přepínači.

Operační systém všech počítačů celého systému je Linux. Software webového serveru je Apache. Databáze databázového clusteru je Oracle. Aplikační programové vybavení počítačů aplikačního clusteru a rozdělovacích počítačů je napsáno v programovacím jazyce Perl s využitím řady volně dostupných modulů. Tvůrcem aplikačního programového vybavení jsou pracovníci z týmu vývoje is.muni.cz v rámci CVT FI MU.

V době psaní tohoto článku (15. září 2004) má nový hardware is.muni.cz za sebou již první zátěžovou zkoušku hromadného přihlašování do seminárních skupin v pondělí v 17:00. V prvních minutách po 17:00 systém počítal asi 9500 webových stránek za 5 minut, a to bez pozorovatelné zvýšené doby odezvy. Na starém hardware maximální počet stránek za 5 minut byl asi 2500, a to s dlouhou dobou odezvy.

Související články a fotografie lze nalézt na http://is.muni.cz/clanky/.

setting
1 Informační systém is.muni.cz provozuje pro Masarykovu univerzitu její Fakulta informatiky, a to tým pracovníků Centra výpočetní techniky FI MU.
... zpět do textu
Zpět na začátek
ÚVT MU, poslední změna 14.11.2011