DPU คืออะไร ? Data Processing Unit ชิปประมวลผลจาก NVIDIA เอาไว้ทำอะไร ?

Data Processing Unit (DPU) คืออะไร ?

ในโลกของคอมพิวเตอร์ เมื่อกล่าวถึง "ชิปประมวลผล" เราก็มักจะนึกถึง หน่วยประมวลผลกลาง (CPU) หรือที่ทำหน้าที่เป็นชิปประมวลผลหลัก หรือไม่ก็ หน่วยประมวลผลกราฟิก (GPU) ที่ทำหน้าที่ประมวลผลงานด้านกราฟิกเป็นหลัก เป็นต้น

โดย CPU หรือที่บ่อยครั้ง ที่มันถูกเรียกว่า "โปรเซสเซอร์ (Processor)" มันได้ถูกพัฒนาขึ้นมาในช่วงยุค ค.ศ. 1950 (พ.ศ. 2493) หน้าที่ของมันเปรียบได้กับมันสมองของคอมพิวเตอร์ ต่อมาในช่วงปี ค.ศ. 1970 (พ.ศ. 2513) ก็เริ่มมีการพัฒนาชิป GPU ขึ้นมาเพื่อเพิ่มประสิทธิภาพในการประมวลผลด้านกราฟิกให้กับคอมพิวเตอร์

และล่าสุด ในปี ค.ศ. 2020 (พ.ศ. 2563) ค่าย NVIDIA ได้เปิดตัวชิป Data Processing Unit (DPU) ออกมา มันคืออะไร ? ทำหน้าที่ต่างจาก CPU และ GPU อย่างไร ? มาหาคำตอบกันได้ในบทความนี้

CPU คืออะไร ?

เพื่อให้เข้าใจหน้าที่ของ DPU ได้ง่ายขึ้น เรามาเริ่มจากการปูพื้นฐานให้เข้าใจหน้าที่ของ CPU และ GPU กันก่อนน่าจะดีกว่า

CPU ทำหน้าที่เหมือนเป็นสมองที่ช่วยให้คอมพิวเตอร์สามารถประมวลผลคำสั่งที่เราป้อนเข้าไปได้ ภายใน CPU ประกอบขึ้นด้วยแผงวงจร และชิปจำนวนมหาศาล เพื่อแปลคำสั่ง, ประมวลผล และทำงานตามคำสั่งที่ตัวระบบปฏิบัติการหรือซอฟต์แวร์ได้มอบหมายมา ซึ่งในจุดนี้มันรวมไปถึงการป้อนชุดคำสั่งให้ GPU ด้วย

ภาพจาก : https://tech4gamers.com/intel-13th-gen-processors-specifications-leaked/

GPU คืออะไร ? (What is GPU ?)

มาต่อกันที่ในส่วนของ Graphics Processing Unit (GPU) ชิปตัวนี้ถูกสร้างขึ้นมาเพื่อเติมเต็มการทำงานของ CPU ในแง่ของรูปแบบการทำงานกับข้อมูลแล้วมันก็มีความคล้ายคลึงกัน เพียงแต่ว่า GPU จะเน้นไปที่การประมวลผลงานด้านกราฟิกเป็นหลัก

การออกแบบชิปก็มีความแตกต่างกันมาก CPU จะมีจำนวนคอร์ไม่มากนัก เช่น Intel i9-13900K จะมีอยู่ 24 คอร์ หรือ AMD Ryzen Threadripper 3990X ก็มีอยู่ 64 คอร์ ในขณะที่การ์ดจอจะมีคอร์จำนวนมากถึงหลายพันคอร์ เพื่อคำนวณชุดคำสั่งจำนวนมหาศาลได้พร้อม ๆ กัน ซึ่งเป็นสิ่งที่จำเป็นต่อการประมวลผลงานกราฟิกที่ต้องคำนวณค่าหลายอย่าง หรือจะเป็นการฝึกฝน AI ก็ต้องอาศัยคอร์จำนวนมากเช่นกัน

จากที่ว่ามา GPU จึงไม่ได้มีหน้าที่แค่ไว้ประมวลผลกราฟิก หรือเล่นเกมเท่านั้น มันยังถูกใช้เป็นตัวประมวลผลหลักในการทำงานของ Data center และ Computational science (วิทยาการคำนวณ หรือการคำนวณทางวิทยาศาสตร์)

NVIDIA RTX 4090
ภาพจาก : https://techgage.com/article/nvidia-geforce-rtx-4090-the-new-rendering-champion/

DPU คืออะไร ? (What is DPU ?)

ถึงตอนนี้ เราน่าจะพอเข้าใจแล้วว่า เสาหลักในการประมวลผลของคอมพิวเตอร์ ก็จะมี CPU ที่เปรียบเสมือนศูนย์กลางด้านการคำนวณ โดยที่มี GPU มาค่อยช่วยสนับสนุนการประมวลผลงานที่มีความซับซ้อน แต่ตอนนี้ กำลังมีเสาหลักต้นใหม่ นั่นก็คือ "DPU" หรือชื่อเต็มๆ ของมันคือ "Data Processing Unit" นั่นเอง

เกร็ดความรู้ : DPU นี้ ทาง NVIDIA จะเรียกว่า BlueField Data Processing Units (DPUs)
ส่วน Intel เรียกว่า Intel Infrastructure Processing Unit (Intel IPU)
ทางด้าน AMD ตั้งชื่อว่า Distributed Services Card (DSC) 

สำหรับ DPU นั้นได้ ถูกสร้างขึ้นมาช่วยลดภาระงานด้านเครือข่าย และการสื่อสาร ซึ่งเดิมทีทาง CPU จะเป็นผู้รับผิดชอบ โดยตัว DPU จะมีคอร์ประมวลผลทำงานร่วมกับฮาร์ดแวร์เร่งความเร็ว และมีอินเทอร์เฟซเครือข่ายประสิทธิภาพสูงเพื่อรองรับข้อมูลปริมาณมหาศาล ด้วยโครงสร้างทางสถาปัตยกรรมแบบใหม่นี้ ทำให้ DPU สามารถช่วยให้ข้อมูลถูกรับ และส่งไปยังตำแหน่งที่ต้องการได้อย่างแม่นยำ และรวดเร็ว

NVIDIA BlueField-3 DPU
ภาพจาก : https://www.nvidia.com/en-us/networking/products/data-processing-unit/

สำหรับบุคคลทั่วไป DPU อาจเป็นเรื่องไกลตัว เพราะ DPU ถูกออกแบบมาเพื่อใช้ในการประมวลผลข้อมูลภายใน Data center (ศูนย์ข้อมูล) เป็นหลัก หน้าที่ของมันจะเน้นไปที่การรับส่งข้อมูล, ลดขนาดข้อมูล, รักษาความปลอดภัยให้ข้อมูล, วิเคราะห์ข้อมูล รวมไปถึงการเข้ารหัส และบีบอัดข้อมูลด้วย หน้าที่ทั้งหมดที่ว่ามานี้เดิมที CPU จะเป็นผู้รับผิดชอบ แต่พอมี DPU เข้ามาแทนที่ ก็จะทำให้ CPU สามารถนำทรัพยากรไปประมวลด้านการทำงานของแอปพลิเคชันแทนได้

นอกจากนี้ DPU ยังสามารถระบุตำแหน่งของ Server Node ได้ดีกว่าระบบเก่า ช่วยให้การแบ่งปันข้อมูลภายใน Data-Centric Infrastructure มีประสิทธิภาพสูงกว่าเดิมมาก เพิ่มความเร็วในการเข้าถึง และแลกเปลี่ยนข้อมูล

จากทั้งหมดที่ว่า จึงไม่น่าแปลกที่ DPU จึงนิยมใช้ในงานที่มีการประมวลผลข้อมูลขนาดใหญ่ ไม่ว่าจะเป็นศูนย์ข้อมูล (Data Center), บนระบบคลาวด์ (Cloud Computing) หรือใน Supercomputers กันเป็นหลัก

หน้าที่หลักของ DPU คืออะไร ? (What is the main function of DPU ?)

อ้างอิงจากข้อมูลของ NVIDIA ได้ระบุเอาไว้ว่า DPU จะประกอบไปด้วยคุณสมบัติสำคัญอยู่ 3 ด้าน คือ การประมวลผล, ระบบเครือข่าย และการเร่งความเร็ว

โดย DPU จะเป็น ชิปแบบ SoC (System on a Chip) ที่มีองค์ประกอบหลัก 3 อย่าง

1. ส่วนใหญ่จะเป็นชิป สถาปัตยกรรม ARM ที่รองรับมาตรฐานอุตสาหกรรม, ประสิทธิภาพสูง, Software-programmable, เป็น CPU แบบมัลติคอร์ และทำงานร่วมกับชิป SoC อื่น ๆ
2. มีอินเทอร์เฟซเครือข่ายประสิทธิภาพสูง สามารถรับส่ง และประมวลข้อมูลระหว่างเครือข่าย ระหว่าง GPU และ CPU ได้อย่างรวดเร็ว
3. มีความยืดหยุ่น ตัวเอนจิ้นเร่งความเร็วสามารถปรับแต่งให้ทำงานร่วมกับซอฟต์แวร์ หรือแอปพลิเคชันต่าง ๆ ได้

คุณสมบัติสำคัญของ Data Processing Unit (DPU)

แม้ DPU จะมีคุณสมบัติการทำงานหลายอย่าง แต่มันจะมีคุณสมบัติหลัก ๆ ที่เหมือนกันทุกรุ่น ดังต่อไปนี้

• รองรับเครือข่ายความเร็วสูง ส่วนใหญ่ตัวอินเทอร์เฟซจะรองรับได้ 100 Gbps - 200 Gbps
• มีระบบ Packet processing ความเร็วสูง และมักจะรองรับการปรับแต่ง Programmable Logic ได้
• มี CPU หลายคอร์
• มีตัวควบคุมหน่วยความจำ (Memory Controller) โดยอาจเป็น DDR4 หรือ DDR5
• มีระบบเร่งความเร็ว Accelerators ในตัว
• รองรับ PCIe 4.0
• มีเครื่องมือบริหารจัดการ และระบบรักษาความปลอดภัย
• มีระบบปฏิบัติการของตัวเอง ที่ทำงานแยกจากระบบของโฮสต์

ตารางเปรียบเทียบระหว่าง CPU, GPU และ DPU (CPU, GPU and DPU Comparison Table)

สำหรับสถานการณ์ในตอนนี้ CPU, GPU และ DPU เริ่มวางรากฐานให้กับโครงสร้างการคำนวณทางคอมพิวเตอร์ที่ต้องรับมือกับปริมาณข้อมูลขนาดใหญ่ อันสืบเนื่องมาจากความซับซ้อนของงานที่มากขึ้นกว่าแต่ก่อน ซึ่งในขณะนี้ มันเพิ่งจะถูกเริ่มนำมาปรับใช้กับ Data center 

แต่ด้วยความที่เทคโนโลยีนี้มันช่วยลดภาระของ CPU ไปได้มากพอสมควร ในอนาคตที่ฮาร์ดแวร์ของ PC แรงขึ้น และข้อมูลมีขนาดใหญ่ขึ้นเช่น การรับชมเนื้อหา หรือเล่นเกมระดับ 8K รวมไปถึงการประมวลผลด้านกราฟิกที่เราจะเห็นได้ว่า AI เริ่มเข้ามามีบทบาทสำคัญมากขึ้นเรื่อย ๆ ก็เลยไม่น่าแปลกใจ ถ้าหาก DPU จะกลายเป็นฮาร์ดแวร์อีกชิ้นที่ถูกเพิ่มเข้ามาใน PC ในอนาคต