Ñîðòèðîâêà ÀßÖåía

GPU-ñåðâåð Lenovo ThinkSystem SR680a V4

Lenovo ThinkSystem SR680a V4 — âûñîêîïðîèçâîäèòåëüíûé GPU-ñåðâåð ôîðì-ôàêòîðà 8U, ðàçðàáîòàííûé äëÿ ãåíåðàòèâíîãî èñêóññòâåííîãî èíòåëëåêòà, îáó÷åíèÿ êðóïíûõ ìîäåëåé, íàó÷íûõ âû÷èñëåíèé è ñëîæíîãî ìîäåëèðîâàíèÿ. Àðõèòåêòóðà ñåðâåðà îáåñïå÷èâàåò âûñîêîñêîðîñòíîé îáìåí äàííûìè ìåæäó ïðîöåññîðàìè, ãðàôè÷åñêèìè óñêîðèòåëÿìè è ñåòåâûìè àäàïòåðàìè.

 

Lenovo ThinkSystem SR680a V4 - âûñîêîïðîèçâîäèòåëüíûé GPU-ñåðâåð äëÿ ÈÈ è HPC

Lenovo ThinkSystem SR680a V4 - ñòîå÷íûé GPU-ñåðâåð ôîðì-ôàêòîðà 8U, ðàçðàáîòàííûé äëÿ íàèáîëåå ðåñóðñîåìêèõ çàäà÷ èñêóññòâåííîãî èíòåëëåêòà, ãåíåðàòèâíîãî ÈÈ è âûñîêîïðîèçâîäèòåëüíûõ âû÷èñëåíèé HPC. Ñèñòåìà îáúåäèíÿåò äâà ïðîöåññîðà Intel Xeon 6 è ïëàòôîðìó NVIDIA HGX B300 NVL8 ñ âîñåìüþ GPU, îáåñïå÷èâàÿ âûñîêóþ âû÷èñëèòåëüíóþ ïëîòíîñòü è ïðîèçâîäèòåëüíîñòü ïðè ðàáîòå ñ áîëüøèìè ìàññèâàìè äàííûõ.

Lenovo ïîçèöèîíèðóåò ThinkSystem SR680a V4 êàê ñïåöèàëèçèðîâàííóþ ïëàòôîðìó äëÿ îáó÷åíèÿ áîëüøèõ ÿçûêîâûõ ìîäåëåé LLM, Generative AI, ìîäåëèðîâàíèÿ, ñèìóëÿöèé, ðåíäåðèíãà, ôèíàíñîâûõ âû÷èñëåíèé è íàó÷íûõ èññëåäîâàíèé. Ñåðâåð èìååò âîçäóøíîå îõëàæäåíèå è ðàññ÷èòàí íà ýêñïëóàòàöèþ â êîðïîðàòèâíûõ ÖÎÄ è âûñîêîïðîèçâîäèòåëüíûõ âû÷èñëèòåëüíûõ èíôðàñòðóêòóðàõ.

Ïðîèçâîäèòåëüíàÿ äâóõïðîöåññîðíàÿ àðõèòåêòóðà Intel Xeon 6

Lenovo ThinkSystem SR680a V4 îñíàùàåòñÿ äâóìÿ ïðîöåññîðàìè Intel Xeon 6700P-series ñ P-ÿäðàìè. Ïîääåðæèâàþòñÿ CPU ñ êîëè÷åñòâîì ÿäåð äî 86 íà ïðîöåññîð è 172 ïîòîêàìè, ÷àñòîòîé ÿäåð äî 2,7 ÃÃö è TDP äî 350 Âò. Ìåæäó ïðîöåññîðàìè ïðåäóñìîòðåíî äî ÷åòûðåõ ñîåäèíåíèé Intel UPI ñî ñêîðîñòüþ äî 24 GT/s.

Ïðîöåññîðíàÿ àðõèòåêòóðà îáåñïå÷èâàåò íåîáõîäèìûå ðåñóðñû äëÿ ïîäãîòîâêè äàííûõ è âûïîëíåíèÿ CPU-çàâèñèìûõ îïåðàöèé, äîïîëíÿÿ ïðîèçâîäèòåëüíîñòü ãðàôè÷åñêîé ïîäñèñòåìû â ñëîæíûõ AI- è HPC-íàãðóçêàõ.

NVIDIA HGX B300 NVL8 — âîñåìü GPU äëÿ çàäà÷ èñêóññòâåííîãî èíòåëëåêòà

Êëþ÷åâîé îñîáåííîñòüþ Lenovo SR680a V4 ÿâëÿåòñÿ èíòåãðèðîâàííûé âû÷èñëèòåëüíûé êîìïëåêñ NVIDIA HGX B300 NVL8, âêëþ÷àþùèé âîñåìü âûñîêîïðîèçâîäèòåëüíûõ GPU NVIDIA B300. Êàæäûé óñêîðèòåëü îñíàùàåòñÿ 288 ÃÁ ïàìÿòè HBM3e ñ ïðîïóñêíîé ñïîñîáíîñòüþ ïàìÿòè 7,7 ÒÁ/ñ. TDP êàæäîãî GPU ñîñòàâëÿåò 1100 Âò.

Äëÿ âûñîêîñêîðîñòíîãî îáìåíà èíôîðìàöèåé ìåæäó ãðàôè÷åñêèìè ïðîöåññîðàìè èñïîëüçóåòñÿ NVIDIA NVLink ñ ïîëíîñâÿçíîé òîïîëîãèåé è ïðîïóñêíîé ñïîñîáíîñòüþ äî 1,8 ÒÁ/ñ. Âûñîêîïðîèçâîäèòåëüíàÿ ìåæêîìïîíåíòíàÿ àðõèòåêòóðà îñîáåííî âàæíà ïðè ðàñïðåäåë¸ííîì îáó÷åíèè êðóïíûõ ìîäåëåé, êîãäà âû÷èñëèòåëüíàÿ çàäà÷à è äàííûå îáðàáàòûâàþòñÿ ñðàçó íåñêîëüêèìè GPU.

Òàêàÿ êîíôèãóðàöèÿ äåëàåò GPU-ñåðâåð Lenovo ThinkSystem SR680a V4 ïîäõîäÿùåé ïëàòôîðìîé äëÿ îáó÷åíèÿ áîëüøèõ ÿçûêîâûõ ìîäåëåé, ãåíåðàòèâíîãî èñêóññòâåííîãî èíòåëëåêòà, ñëîæíîãî ìàøèííîãî îáó÷åíèÿ è âû÷èñëèòåëüíûõ çàäà÷ HPC.

Äî 4 ÒÁ îïåðàòèâíîé ïàìÿòè DDR5

Ñåðâåð ðàñïîëàãàåò 32 ñëîòàìè DIMM — ïî 16 íà êàæäûé ïðîöåññîð. Ïîääåðæèâàåòñÿ ïàìÿòü Lenovo TruDDR5 RDIMM, à ìàêñèìàëüíûé îáúåì îïåðàòèâíîé ïàìÿòè ñîñòàâëÿåò 4 ÒÁ ïðè èñïîëüçîâàíèè 32 ìîäóëåé RDIMM ïî 128 ÃÁ.

Êàæäûé ïðîöåññîð èìååò âîñåìü êàíàëîâ ïàìÿòè ñ ïîääåðæêîé äâóõ DIMM íà êàíàë. Ïðè óñòàíîâêå îäíîãî ìîäóëÿ íà êàíàë ïàìÿòü ìîæåò ðàáîòàòü íà ñêîðîñòè äî 6400 ÌÃö, ïðè äâóõ RDIMM íà êàíàë — äî 5200 ÌÃö.

Áîëüøîé îáúåì è âûñîêàÿ ïðîïóñêíàÿ ñïîñîáíîñòü îïåðàòèâíîé ïàìÿòè ïîçâîëÿþò ýôôåêòèâíî îáñëóæèâàòü èíòåíñèâíûå ïîòîêè äàííûõ, õàðàêòåðíûå äëÿ AI, Deep Learning è íàó÷íûõ âû÷èñëåíèé.

PCIe Gen5 è âûñîêîñêîðîñòíàÿ ñåòåâàÿ èíôðàñòðóêòóðà

Äëÿ ïîäêëþ÷åíèÿ äîïîëíèòåëüíûõ óñòðîéñòâ ñåðâåð ïðåäëàãàåò ÷åòûðå ñëîòà PCIe Gen5 x16 FHHL è îäèí ñëîò OCP ñ èíòåðôåéñîì PCIe Gen5 x16.

Îñîáîå âíèìàíèå â SR680a V4 óäåëåíî âûñîêîñêîðîñòíûì ñåòåâûì ñîåäèíåíèÿì. Ñåðâåð îñíàùàåòñÿ âîñåìüþ èíòåðôåéñàìè OSFP 800 Ãáèò/ñ, ïîçâîëÿþùèìè îðãàíèçîâàòü ïðÿìûå ñåòåâûå ñîåäèíåíèÿ GPU. Òàêàÿ àðõèòåêòóðà íåîáõîäèìà äëÿ ìàñøòàáèðîâàíèÿ AI-èíôðàñòðóêòóðû è ïîñòðîåíèÿ âû÷èñëèòåëüíûõ êëàñòåðîâ, îáúåäèíÿþùèõ íåñêîëüêî GPU-ñåðâåðîâ.

Âûñîêîïðîèçâîäèòåëüíàÿ NVMe-ïîäñèñòåìà õðàíåíèÿ

Äëÿ ëîêàëüíîãî õðàíåíèÿ äàííûõ Lenovo ThinkSystem SR680a V4 èìååò äî âîñüìè îòñåêîâ 2,5" ñ ãîðÿ÷åé çàìåíîé, ïðåäíàçíà÷åííûõ äëÿ NVMe-íàêîïèòåëåé ñ èíòåðôåéñîì PCIe 5.0 x4.

Êðîìå òîãî, ñåðâåð ïîääåðæèâàåò äî äâóõ NVMe M.2 ñ ãîðÿ÷åé çàìåíîé, êîòîðûå ìîãóò èñïîëüçîâàòüñÿ â êà÷åñòâå çàãðóçî÷íûõ íàêîïèòåëåé. Äëÿ M.2 ïðåäóñìîòðåíà ïîääåðæêà àïïàðàòíîãî RAID 0/1 ïðè èñïîëüçîâàíèè ñîîòâåòñòâóþùåãî êîìïëåêòà Lenovo.

Âûñîêîñêîðîñòíûå NVMe-íàêîïèòåëè ïîçâîëÿþò ñîêðàòèòü çàäåðæêè ïðè ÷òåíèè è ïåðåäà÷å áîëüøèõ íàáîðîâ äàííûõ ê CPU è GPU, ÷òî îñîáåííî âàæíî ïðè îáó÷åíèè íåéðîñåòåé è ðàáîòå ñ êðóïíûìè AI-ìîäåëÿìè.

Âîçäóøíîå îõëàæäåíèå è ðåçåðâèðîâàíèå ïèòàíèÿ

Íåñìîòðÿ íà âûñîêóþ ïëîòíîñòü GPU, ThinkSystem SR680a V4 èñïîëüçóåò âîçäóøíóþ ñèñòåìó îõëàæäåíèÿ. Ñåðâåð îñíàùàåòñÿ øåñòüþ ôðîíòàëüíûìè è ïÿòíàäöàòüþ çàäíèìè äâóõðîòîðíûìè âåíòèëÿòîðàìè. Ïîääåðæèâàåòñÿ ðåçåðâèðîâàíèå îõëàæäåíèÿ N+1.

Äëÿ ýëåêòðîïèòàíèÿ èñïîëüçóþòñÿ áëîêè ïèòàíèÿ CFFv5 ìîùíîñòüþ 3200 Âò ñ óðîâíåì ýôôåêòèâíîñòè Titanium. Àðõèòåêòóðà ïðåäóñìàòðèâàåò ðåçåðâèðîâàíèå áëîêîâ ïèòàíèÿ N+N, ÷òî ïîâûøàåò äîñòóïíîñòü ñèñòåìû ïðè ýêñïëóàòàöèè â êðèòè÷åñêè âàæíûõ âû÷èñëèòåëüíûõ ñðåäàõ.

Óïðàâëåíèå Lenovo XClarity

Äëÿ ìîíèòîðèíãà è óäàëåííîãî àäìèíèñòðèðîâàíèÿ èñïîëüçóåòñÿ âñòðîåííûé êîíòðîëëåð Lenovo XClarity Controller 3 (XCC3). Îí îáåñïå÷èâàåò ôóíêöèè ñåðâèñíîãî ïðîöåññîðà, ìîíèòîðèíãà îáîðóäîâàíèÿ, óäàëåííîé êîíñîëè, óïðàâëåíèÿ âèäåî, êëàâèàòóðîé, ìûøüþ è íàêîïèòåëÿìè.

Öåíòðàëèçîâàííûå èíñòðóìåíòû óïðàâëåíèÿ Lenovo ïîçâîëÿþò èíòåãðèðîâàòü SR680a V4 â êîðïîðàòèâíóþ ñåðâåðíóþ èíôðàñòðóêòóðó è êîíòðîëèðîâàòü ñîñòîÿíèå âû÷èñëèòåëüíûõ ðåñóðñîâ ÖÎÄ.

Îáëàñòè ïðèìåíåíèÿ Lenovo ThinkSystem SR680a V4

Lenovo ThinkSystem SR680a V4 ïðåäíàçíà÷åí ïðåæäå âñåãî äëÿ íàèáîëåå òðåáîâàòåëüíûõ AI- è HPC-íàãðóçîê. Ñåðâåð ìîæåò ïðèìåíÿòüñÿ äëÿ ñëåäóþùèõ çàäà÷:

  • èñêóññòâåííûé èíòåëëåêò è ìàøèííîå îáó÷åíèå;
  • îáó÷åíèå áîëüøèõ ÿçûêîâûõ ìîäåëåé LLM;
  • ãåíåðàòèâíûé èñêóññòâåííûé èíòåëëåêò Generative AI;
  • îáó÷åíèå è ýêñïëóàòàöèÿ íåéðîííûõ ñåòåé;
  • âûñîêîïðîèçâîäèòåëüíûå âû÷èñëåíèÿ HPC;
  • ìîäåëèðîâàíèå è ñëîæíûå ñèìóëÿöèè;
  • ðåíäåðèíã;
  • îáðàáîòêà è àíàëèç áîëüøèõ ìàññèâîâ äàííûõ;
  • ôèíàíñîâûå âû÷èñëåíèÿ;
  • íàó÷íûå è èññëåäîâàòåëüñêèå çàäà÷è.

Lenovo ThinkSystem SR680a V4 ïðåäñòàâëÿåò ñîáîé ñïåöèàëèçèðîâàííûé 8U GPU-ñåðâåð äëÿ èñêóññòâåííîãî èíòåëëåêòà è HPC, ñî÷åòàþùèé äâà ïðîöåññîðà Intel Xeon 6, âîñåìü óñêîðèòåëåé NVIDIA B300, äî 4 ÒÁ DDR5, NVMe PCIe 5.0 è âûñîêîñêîðîñòíûå ñåòåâûå èíòåðôåéñû. Òàêàÿ àðõèòåêòóðà îðèåíòèðîâàíà íà îðãàíèçàöèè, êîòîðûì íåîáõîäèìà âûñîêàÿ ïëîòíîñòü GPU-âû÷èñëåíèé äëÿ îáó÷åíèÿ LLM, Generative AI, ìàøèííîãî îáó÷åíèÿ, íàó÷íîãî ìîäåëèðîâàíèÿ è äðóãèõ ðåñóðñî¸ìêèõ çàäà÷.

��������� ���