Network

이 글은 NHN FORWARD 22 "HPC 인프라 구축하기"를 보고 작성한 글입니다. HPC(High-Performance Computing)HPC는 여러 개의 고성능 컴퓨터 자원을 네트워크로 연결하여 하나의 슈퍼컴퓨터처럼 동작하도록 설계된 환경이다. 대규모 병렬 연산을 수행하며, AI·딥러닝·과학 계산·데이터 분석 등의 분야에서 필수적으로 사용된다.딥러닝 모델의 크기가 기하급수적으로 증가함에 따라, HPC 인프라의 성능과 네트워크 최적화가 중요한 요소로 부각되고 있다. HPC 구성 요소Management SwitchHPC 시스템 내 다양한 노드와 스위치에 접근하기 위한 관리 네트워크모든 관리용 케이블이 이 스위치에 연결됨Out-of-Band관리망(Management Network)과 연결되는 별도의 ..

HTTP/3은 웹의 차세대 전송 프로토콜로, 기존의 TCP 기반 프로토콜 대신 QUIC(Quick UDP Internet Connections)이라는 UDP 기반 프로토콜을 사용해 더 빠르고 안전한 데이터 전송을 제공한다. HTTP/3은 이전 버전들에 비해 성능이 대폭 개선되었으며, 연결 성립 시간 단축, 지연 시간 감소, 멀티플렉싱 최적화와 같은 다양한 이점을 갖고 있다. 특히, HTTP/3은 인터넷 연결 환경이 불안정할 때도 안정적인 데이터 전송을 유지할 수 있어, 모바일 환경이나 대규모 트래픽을 다루는 서비스에서 큰 장점을 발휘한다.HTTP/3의 등장 배경HTTP/3은 기존의 웹 전송 방식이 가진 한계를 극복하기 위해 등장하였다. HTTP/1.x는 초기 웹 환경에서 큰 성공을 거두었지만, 점점 복잡..

gRPC는 Google이 개발한 고성능 오픈소스 RPC(Remote Procedure Call) 프레임워크로, 주로 대기 시간이 짧고 데이터 처리량이 높은 네트워크 통신을 위해 설계되었다. HTTP/2를 기반으로 동작하며, 데이터 직렬화에는 Protocol Buffers를 사용하여 기존의 JSON, XML보다 더 효율적인 통신을 가능하게 한다. gRPC를 이해하기 위해서는 먼저 RPC 개념을 알아보자.RPC(Remote Procedure Call)RPC는 원격 프로시저 호출(Remote Procedure Call)의 약자로, 분산된 시스템에서 서로 다른 주소 공간에 있는 프로세스 간에 통신을 할 수 있도록 도와주는 기술이다. 쉽게 말해, 로컬에서 함수를 호출하듯이 원격 서버의 함수를 호출하는 개념이다. ..

SmartNIC: Network Interface CardSmartNIC(Smart Network Interface Card)는 전통적인 네트워크 인터페이스 카드(NIC)보다 더 고급 기능을 제공하는 장치로, 데이터 센터 네트워킹, 보안, 스토리지를 효율적이고 유연하게 처리할 수 있는 프로그래밍 가능한 하드웨어 가속기이다. SmartNIC는 서버 CPU에서 처리하던 네트워크 트래픽 관리, 보안 작업, 데이터 암호화 등 다양한 작업을 오프로드하여 분산 애플리케이션의 성능을 최적화하는 데 중요한 역할을 한다. 가속기(Accelerator)는 CPU에서 처리하던 특정 작업을 FPGA, GPU, NPU 같은 특화된 하드웨어로 오프로드해 소프트웨어 실행 속도를 대폭 향상시키는 장치이다. 가속기 내부의 하드웨어 로..

FD.io 프로젝트의 핵심 기술로, Vector Packet Processing(VPP)에 대해 소개해보고자 한다. VPP란 무엇인가FD.io의 VPP(Vector Packet Processor)는 벡터 패킷 처리 기술을 활용하여 고성능 패킷 처리를 지원하는 가상 라우터/스위치이다. VPP는 L2에서 L4까지의 네트워크 계층 기능을 제공하며, 네트워크 인프라에서 빠르고 효율적인 패킷 처리를 가능하게 한다. 이 기술은 FD.io 프로젝트의 오픈소스로 공개되었으며, 시스코(Cisco)도 이 프로젝트에 적극적으로 참여하고 있다.  VPP는 시스코가 20년 넘게 사용해 온 검증된 기술로, 약 3년 전에 오픈소스로 공개되었다. 네트워크 카드를 통해 데이터 플레인에서 패킷을 전달하는 데 매우 적합한 기술이며, 오픈..