GPU-ñåðâåð Lenovo ThinkSystem SR680a V4
Lenovo ThinkSystem SR680a V4 - âûñîêîïðîèçâîäèòåëüíûé GPU-ñåðâåð äëÿ ÈÈ è HPC
Lenovo ThinkSystem SR680a V4 - ñòîå÷íûé GPU-ñåðâåð ôîðì-ôàêòîðà 8U, ðàçðàáîòàííûé äëÿ íàèáîëåå ðåñóðñîåìêèõ çàäà÷ èñêóññòâåííîãî èíòåëëåêòà, ãåíåðàòèâíîãî ÈÈ è âûñîêîïðîèçâîäèòåëüíûõ âû÷èñëåíèé HPC. Ñèñòåìà îáúåäèíÿåò äâà ïðîöåññîðà Intel Xeon 6 è ïëàòôîðìó NVIDIA HGX B300 NVL8 ñ âîñåìüþ GPU, îáåñïå÷èâàÿ âûñîêóþ âû÷èñëèòåëüíóþ ïëîòíîñòü è ïðîèçâîäèòåëüíîñòü ïðè ðàáîòå ñ áîëüøèìè ìàññèâàìè äàííûõ.
Lenovo ïîçèöèîíèðóåò ThinkSystem SR680a V4 êàê ñïåöèàëèçèðîâàííóþ ïëàòôîðìó äëÿ îáó÷åíèÿ áîëüøèõ ÿçûêîâûõ ìîäåëåé LLM, Generative AI, ìîäåëèðîâàíèÿ, ñèìóëÿöèé, ðåíäåðèíãà, ôèíàíñîâûõ âû÷èñëåíèé è íàó÷íûõ èññëåäîâàíèé. Ñåðâåð èìååò âîçäóøíîå îõëàæäåíèå è ðàññ÷èòàí íà ýêñïëóàòàöèþ â êîðïîðàòèâíûõ ÖÎÄ è âûñîêîïðîèçâîäèòåëüíûõ âû÷èñëèòåëüíûõ èíôðàñòðóêòóðàõ.
Ïðîèçâîäèòåëüíàÿ äâóõïðîöåññîðíàÿ àðõèòåêòóðà Intel Xeon 6
Lenovo ThinkSystem SR680a V4 îñíàùàåòñÿ äâóìÿ ïðîöåññîðàìè Intel Xeon 6700P-series ñ P-ÿäðàìè. Ïîääåðæèâàþòñÿ CPU ñ êîëè÷åñòâîì ÿäåð äî 86 íà ïðîöåññîð è 172 ïîòîêàìè, ÷àñòîòîé ÿäåð äî 2,7 ÃÃö è TDP äî 350 Âò. Ìåæäó ïðîöåññîðàìè ïðåäóñìîòðåíî äî ÷åòûðåõ ñîåäèíåíèé Intel UPI ñî ñêîðîñòüþ äî 24 GT/s.
Ïðîöåññîðíàÿ àðõèòåêòóðà îáåñïå÷èâàåò íåîáõîäèìûå ðåñóðñû äëÿ ïîäãîòîâêè äàííûõ è âûïîëíåíèÿ CPU-çàâèñèìûõ îïåðàöèé, äîïîëíÿÿ ïðîèçâîäèòåëüíîñòü ãðàôè÷åñêîé ïîäñèñòåìû â ñëîæíûõ AI- è HPC-íàãðóçêàõ.
NVIDIA HGX B300 NVL8 — âîñåìü GPU äëÿ çàäà÷ èñêóññòâåííîãî èíòåëëåêòà
Êëþ÷åâîé îñîáåííîñòüþ Lenovo SR680a V4 ÿâëÿåòñÿ èíòåãðèðîâàííûé âû÷èñëèòåëüíûé êîìïëåêñ NVIDIA HGX B300 NVL8, âêëþ÷àþùèé âîñåìü âûñîêîïðîèçâîäèòåëüíûõ GPU NVIDIA B300. Êàæäûé óñêîðèòåëü îñíàùàåòñÿ 288 ÃÁ ïàìÿòè HBM3e ñ ïðîïóñêíîé ñïîñîáíîñòüþ ïàìÿòè 7,7 ÒÁ/ñ. TDP êàæäîãî GPU ñîñòàâëÿåò 1100 Âò.
Äëÿ âûñîêîñêîðîñòíîãî îáìåíà èíôîðìàöèåé ìåæäó ãðàôè÷åñêèìè ïðîöåññîðàìè èñïîëüçóåòñÿ NVIDIA NVLink ñ ïîëíîñâÿçíîé òîïîëîãèåé è ïðîïóñêíîé ñïîñîáíîñòüþ äî 1,8 ÒÁ/ñ. Âûñîêîïðîèçâîäèòåëüíàÿ ìåæêîìïîíåíòíàÿ àðõèòåêòóðà îñîáåííî âàæíà ïðè ðàñïðåäåë¸ííîì îáó÷åíèè êðóïíûõ ìîäåëåé, êîãäà âû÷èñëèòåëüíàÿ çàäà÷à è äàííûå îáðàáàòûâàþòñÿ ñðàçó íåñêîëüêèìè GPU.
Òàêàÿ êîíôèãóðàöèÿ äåëàåò GPU-ñåðâåð Lenovo ThinkSystem SR680a V4 ïîäõîäÿùåé ïëàòôîðìîé äëÿ îáó÷åíèÿ áîëüøèõ ÿçûêîâûõ ìîäåëåé, ãåíåðàòèâíîãî èñêóññòâåííîãî èíòåëëåêòà, ñëîæíîãî ìàøèííîãî îáó÷åíèÿ è âû÷èñëèòåëüíûõ çàäà÷ HPC.
Äî 4 ÒÁ îïåðàòèâíîé ïàìÿòè DDR5
Ñåðâåð ðàñïîëàãàåò 32 ñëîòàìè DIMM — ïî 16 íà êàæäûé ïðîöåññîð. Ïîääåðæèâàåòñÿ ïàìÿòü Lenovo TruDDR5 RDIMM, à ìàêñèìàëüíûé îáúåì îïåðàòèâíîé ïàìÿòè ñîñòàâëÿåò 4 ÒÁ ïðè èñïîëüçîâàíèè 32 ìîäóëåé RDIMM ïî 128 ÃÁ.
Êàæäûé ïðîöåññîð èìååò âîñåìü êàíàëîâ ïàìÿòè ñ ïîääåðæêîé äâóõ DIMM íà êàíàë. Ïðè óñòàíîâêå îäíîãî ìîäóëÿ íà êàíàë ïàìÿòü ìîæåò ðàáîòàòü íà ñêîðîñòè äî 6400 ÌÃö, ïðè äâóõ RDIMM íà êàíàë — äî 5200 ÌÃö.
Áîëüøîé îáúåì è âûñîêàÿ ïðîïóñêíàÿ ñïîñîáíîñòü îïåðàòèâíîé ïàìÿòè ïîçâîëÿþò ýôôåêòèâíî îáñëóæèâàòü èíòåíñèâíûå ïîòîêè äàííûõ, õàðàêòåðíûå äëÿ AI, Deep Learning è íàó÷íûõ âû÷èñëåíèé.
PCIe Gen5 è âûñîêîñêîðîñòíàÿ ñåòåâàÿ èíôðàñòðóêòóðà
Äëÿ ïîäêëþ÷åíèÿ äîïîëíèòåëüíûõ óñòðîéñòâ ñåðâåð ïðåäëàãàåò ÷åòûðå ñëîòà PCIe Gen5 x16 FHHL è îäèí ñëîò OCP ñ èíòåðôåéñîì PCIe Gen5 x16.
Îñîáîå âíèìàíèå â SR680a V4 óäåëåíî âûñîêîñêîðîñòíûì ñåòåâûì ñîåäèíåíèÿì. Ñåðâåð îñíàùàåòñÿ âîñåìüþ èíòåðôåéñàìè OSFP 800 Ãáèò/ñ, ïîçâîëÿþùèìè îðãàíèçîâàòü ïðÿìûå ñåòåâûå ñîåäèíåíèÿ GPU. Òàêàÿ àðõèòåêòóðà íåîáõîäèìà äëÿ ìàñøòàáèðîâàíèÿ AI-èíôðàñòðóêòóðû è ïîñòðîåíèÿ âû÷èñëèòåëüíûõ êëàñòåðîâ, îáúåäèíÿþùèõ íåñêîëüêî GPU-ñåðâåðîâ.
Âûñîêîïðîèçâîäèòåëüíàÿ NVMe-ïîäñèñòåìà õðàíåíèÿ
Äëÿ ëîêàëüíîãî õðàíåíèÿ äàííûõ Lenovo ThinkSystem SR680a V4 èìååò äî âîñüìè îòñåêîâ 2,5" ñ ãîðÿ÷åé çàìåíîé, ïðåäíàçíà÷åííûõ äëÿ NVMe-íàêîïèòåëåé ñ èíòåðôåéñîì PCIe 5.0 x4.
Êðîìå òîãî, ñåðâåð ïîääåðæèâàåò äî äâóõ NVMe M.2 ñ ãîðÿ÷åé çàìåíîé, êîòîðûå ìîãóò èñïîëüçîâàòüñÿ â êà÷åñòâå çàãðóçî÷íûõ íàêîïèòåëåé. Äëÿ M.2 ïðåäóñìîòðåíà ïîääåðæêà àïïàðàòíîãî RAID 0/1 ïðè èñïîëüçîâàíèè ñîîòâåòñòâóþùåãî êîìïëåêòà Lenovo.
Âûñîêîñêîðîñòíûå NVMe-íàêîïèòåëè ïîçâîëÿþò ñîêðàòèòü çàäåðæêè ïðè ÷òåíèè è ïåðåäà÷å áîëüøèõ íàáîðîâ äàííûõ ê CPU è GPU, ÷òî îñîáåííî âàæíî ïðè îáó÷åíèè íåéðîñåòåé è ðàáîòå ñ êðóïíûìè AI-ìîäåëÿìè.
Âîçäóøíîå îõëàæäåíèå è ðåçåðâèðîâàíèå ïèòàíèÿ
Íåñìîòðÿ íà âûñîêóþ ïëîòíîñòü GPU, ThinkSystem SR680a V4 èñïîëüçóåò âîçäóøíóþ ñèñòåìó îõëàæäåíèÿ. Ñåðâåð îñíàùàåòñÿ øåñòüþ ôðîíòàëüíûìè è ïÿòíàäöàòüþ çàäíèìè äâóõðîòîðíûìè âåíòèëÿòîðàìè. Ïîääåðæèâàåòñÿ ðåçåðâèðîâàíèå îõëàæäåíèÿ N+1.
Äëÿ ýëåêòðîïèòàíèÿ èñïîëüçóþòñÿ áëîêè ïèòàíèÿ CFFv5 ìîùíîñòüþ 3200 Âò ñ óðîâíåì ýôôåêòèâíîñòè Titanium. Àðõèòåêòóðà ïðåäóñìàòðèâàåò ðåçåðâèðîâàíèå áëîêîâ ïèòàíèÿ N+N, ÷òî ïîâûøàåò äîñòóïíîñòü ñèñòåìû ïðè ýêñïëóàòàöèè â êðèòè÷åñêè âàæíûõ âû÷èñëèòåëüíûõ ñðåäàõ.
Óïðàâëåíèå Lenovo XClarity
Äëÿ ìîíèòîðèíãà è óäàëåííîãî àäìèíèñòðèðîâàíèÿ èñïîëüçóåòñÿ âñòðîåííûé êîíòðîëëåð Lenovo XClarity Controller 3 (XCC3). Îí îáåñïå÷èâàåò ôóíêöèè ñåðâèñíîãî ïðîöåññîðà, ìîíèòîðèíãà îáîðóäîâàíèÿ, óäàëåííîé êîíñîëè, óïðàâëåíèÿ âèäåî, êëàâèàòóðîé, ìûøüþ è íàêîïèòåëÿìè.
Öåíòðàëèçîâàííûå èíñòðóìåíòû óïðàâëåíèÿ Lenovo ïîçâîëÿþò èíòåãðèðîâàòü SR680a V4 â êîðïîðàòèâíóþ ñåðâåðíóþ èíôðàñòðóêòóðó è êîíòðîëèðîâàòü ñîñòîÿíèå âû÷èñëèòåëüíûõ ðåñóðñîâ ÖÎÄ.
Îáëàñòè ïðèìåíåíèÿ Lenovo ThinkSystem SR680a V4
Lenovo ThinkSystem SR680a V4 ïðåäíàçíà÷åí ïðåæäå âñåãî äëÿ íàèáîëåå òðåáîâàòåëüíûõ AI- è HPC-íàãðóçîê. Ñåðâåð ìîæåò ïðèìåíÿòüñÿ äëÿ ñëåäóþùèõ çàäà÷:
- èñêóññòâåííûé èíòåëëåêò è ìàøèííîå îáó÷åíèå;
- îáó÷åíèå áîëüøèõ ÿçûêîâûõ ìîäåëåé LLM;
- ãåíåðàòèâíûé èñêóññòâåííûé èíòåëëåêò Generative AI;
- îáó÷åíèå è ýêñïëóàòàöèÿ íåéðîííûõ ñåòåé;
- âûñîêîïðîèçâîäèòåëüíûå âû÷èñëåíèÿ HPC;
- ìîäåëèðîâàíèå è ñëîæíûå ñèìóëÿöèè;
- ðåíäåðèíã;
- îáðàáîòêà è àíàëèç áîëüøèõ ìàññèâîâ äàííûõ;
- ôèíàíñîâûå âû÷èñëåíèÿ;
- íàó÷íûå è èññëåäîâàòåëüñêèå çàäà÷è.
Lenovo ThinkSystem SR680a V4 ïðåäñòàâëÿåò ñîáîé ñïåöèàëèçèðîâàííûé 8U GPU-ñåðâåð äëÿ èñêóññòâåííîãî èíòåëëåêòà è HPC, ñî÷åòàþùèé äâà ïðîöåññîðà Intel Xeon 6, âîñåìü óñêîðèòåëåé NVIDIA B300, äî 4 ÒÁ DDR5, NVMe PCIe 5.0 è âûñîêîñêîðîñòíûå ñåòåâûå èíòåðôåéñû. Òàêàÿ àðõèòåêòóðà îðèåíòèðîâàíà íà îðãàíèçàöèè, êîòîðûì íåîáõîäèìà âûñîêàÿ ïëîòíîñòü GPU-âû÷èñëåíèé äëÿ îáó÷åíèÿ LLM, Generative AI, ìàøèííîãî îáó÷åíèÿ, íàó÷íîãî ìîäåëèðîâàíèÿ è äðóãèõ ðåñóðñî¸ìêèõ çàäà÷.
