GPU 간의 데이터 전송 (parallelization)

  • NVLink

    • Nvidia GPU만 가능
    • 메모리 공유 가능
    • NVSwitch
      • multicast + @ 가능
  • InfiniBand

    • RDMA
    • 개방형 표준 (여러 제조사 장비 조합해서 사용 가능)
    • 먼 거리 커버 가능