Remote Direct Memory Access (RDMA)

Published on April 15, 2023
Remote Direct Memory Access (RDMA)

Remote Direct Memory Access เป็นเทคโนโลยีที่ทำให้เครื่องคอมพิวเตอร์ที่เชื่อมต่อกันในระบบเครือข่าย ทำการแลกเปลี่ยนข้อมูลที่อยู่ในหน่วยความจำได้โดยตรง และ ไม่จำเป็นที่จะต้องอาศัย cache ใน CPU หรือว่า ระบบปฏิบัติการ RDMA นั้นจะช่วยให้ throughput และ ประสิทธิภาพ เพราะว่า มันช่วยให้มีการปล่อยทรัพยากรนั้นทำได้เร็วขึ้น ทำให้อัตราการส่งข้อมูลนั้นเร็วขึ้น และ latency น้อยลง เพราะฉะนั้นทำให้ทั้งความเร็วในการส่งข้อมูลในระบบเครือข่ายและทั้งการทำงานของ storage นั้นดีขึ้นอย่างมาก

RDMA นั้นมีการใช้ protocol เพื่อที่จะทำให้การส่งข้อมูลทั้ง เข้า และ ออก ระหว่างมีปรสิทธิภาพด้วยการใช้ transport protocol ภายใน network card เลย โดยเราจะเรียกว่า RDMA over Converged Ethernet (RoCE) เพื่อให้เกิดการสื่อสารระหว่าง Network Card

 

แสดงการไหลของข้อมูล RDMA

รูปที่ 1 แสดงการไหลของข้อมูล RDMA

 

RDMA นั้นใช้หลักการที่เรียกว่า zero-copy ซึ่งหลักการก็คือ การอ่านหน่วยความจำของ เครื่องคอมพิวเตอร์ที่ 1 และทำการเขียนไปในหน่วยความจำของเครื่องที่ 2  โดย bypass ระดับชั้น kernel ของระบบปฏิบัติการ ในคอมพิวเตอร์ทั้งสองเครื่อง หลักการของ RDMA นั้นถูกใช้อย่างกว้างขวางใน high-performance computing (HPC) และ hyperconverged (HCI) นอกจากนั้น ก็ยังมีการใช้งานในระบบ cluster และ database ที่จำเป็นต้องใช้ latency ต่ำๆ

การที่เราจะใช้ RDMA ได้นั้นจำเป็นที่จะต้องใช้ NIC ที่สนับสนุน RDMA และ จะต้องใช้ network protocol ซึ่งปัจจุบัน มีอยู่หลายตัวดังต่อไปนี้

  • RDMA over Converged Network (RoCE) ซึ่งเป็นหนึ่งใน protocol ที่จะทำให้ RDMA ทำงานได้บน ethernet โดยปัจจุบัน คือ version 2 (RoCEv2) มันทำงานอยู่บน protocol UDP และ IP อีกชั้นหนึ่ง โดย RoCEv2 นั้นเป็น routable protocol และ ปัจจุบันมันเป็น Protocol ที่แพร่หลายที่สุด ในการใช้งาน RDMA
  • Internet Wide Arewa RDMA Protocol (iWARP) สำหรับ iWARP จะใช้ TCP หรือ SCTP ในการส่งข้อมูล โดยผู้ที่พัฒนา iWARP คือ The Internet Engineering Task Force และ มันทำงานได้โดย ที่ไม่จำเป็นจะต้องอาศัยการสนับสนุน จากทั้ง application และ OS เลย
  • InfiniBand สำหรับ InfiniBand นั้นสนับสนุน RDMA โดย InfiniBand นั้นได้รับความนิยมอย่างกว้างขวางใน HPC เพราะด้วยความที่มันสนับสนุนความเร็วสูงอย่างมาก เช่น 200Gbps

ในปัจจุบันนั้น มีผู้ผลิตหลายรายในตลาดที่ออกผลิตภัณฑ์ที่สนับสนุน RDMA ออกมาในตลาด เช่น

  • Broadcom and Emulex adapters
  • DELL EMC PowerEdge Server
  • Marvell FastLinQ 45000 Ethernet NICs
  • Nvidia ConnectX network adapters และ InfiniBand
  • Chelsio Terminator 6 iWARAP adapters

 

RDMA ที่มีการใช้ flash-based SSDs และ NVDIMMs

สำหรับ flash storage นั้นเป็นระบบ ที่มีความเร็วสูงกว่า storage system ที่ใช้ disk เป็นอย่างมาก แต่อย่างไรก็ตาม แต่อย่างไรก็ตามซอฟต์แวร์ที่รองรับนั้นก็อาจจะเกิดสภาวะคอขวดขึ้นได้

 

Installing PostgreSQL v17 on Ubuntu 24.04

PostgreSQL นั้นเป็น Opensource database ที่โดดเด่นที่สุดในปัจจุบัน ด้วยการพัฒนาที่ยาวนาน และ การได้รับการยอมรับอย่างกว้างขวาง วันนี้เราจะพาไปดูฟีเจอร์ใหม่ๆ พร้อมการติดตั้ง...

Read more »

การเปลี่ยนไอพีใน Ceph Node ใน Proxmox VE Cluster

การเปลี่ยนแปลงไอพีของ Ceph Storage ใน Proxmox VE Cluster สำหรับการเปลี่ยนแปลง IP ของ...

Read more »

Configuring Multiple VLANs in Proxmox VE Host

การตั้งค่าหลาย VLAN ใน Proxmox VE สำหรับการกำหนด VLAN หลายตัว (Multiple VLAN)...

Read more »

Changing IP Addresses of Proxmox VE Nodes

การเปลี่ยนแปลงไอพีของ Proxmox VE Cluster Nodes สำหรับการเปลี่ยนแปลง IP นั้นบางครั้งก็จำเป็น เพราะว่า เช่นไอพีคลาสเดิม...

Read more »

Creating Proxmox VE Cluster

สำหรับ Proxmox VE นั้นแน่นอนว่าสนับสนุนการทำ Clustering ในตัวอยู่แล้วเพื่อทำให้ระบบมี การจัดการทรัพยากรของเซิร์ฟเวอร์หลายเครื่องได้อย่างมีประสิทธิภาพ และเพิ่มความสามารถในการสำรองข้อมูล, การย้ายเครื่องเสมือน (VM)...

Read more »

Updating ML30 Gen10 Firmware with ILOREST

แน่นอนว่าการอัพเดท firmware ของทั้ง BIOS และอุปกรณ์ที่เกี่ยวข้องทั้งหมดใน Server นั้นเป็นสิ่งจำเป็นอย่างยิ่ง เพราะว่า เพื่อความปลอดภัย และ...

Read more »