14강. VCSEL이란 무엇인가? AI 데이터센터가 VCSEL에 주목하는 이유

유트 2026년 8월 18일 최종 수정 8월 25일 읽는 시간 약 19분

VCSEL이란 무엇인가?

VCSEL(Vertical-Cavity Surface-Emitting Laser)은 우리말로 수직 공진 표면 발광 레이저라고 합니다.

VCSEL은 일반적인 반도체 레이저와 달리 반도체 웨이퍼 표면을 향해 수직으로 빛을 방출하는 구조를 가지고 있습니다. 작은 크기와 낮은 소비전력, 높은 변조 속도, 배열 제작의 용이성 때문에 데이터센터의 광통신과 광인터커넥트에서 중요한 광원으로 사용되어 왔습니다.

특히 최근 AI 데이터센터에서는 GPU와 GPU, 서버와 스위치 사이에서 이동하는 데이터가 급격히 증가하면서 전기 신호를 빛으로 바꾸어 전달하는 광인터커넥트 기술의 중요성이 커지고 있습니다.

그리고 그 중심에서 다시 주목받고 있는 광원이 바로 VCSEL입니다.

VCSEL은 일반 레이저와 무엇이 다를까?

레이저는 기본적으로 빛을 증폭하는 활성 영역과 빛을 가두는 공진기(cavity)를 필요로 합니다.

일반적인 가장자리 방출 레이저인 EEL(Edge-Emitting Laser)은 칩의 가장자리 방향으로 빛을 방출합니다.

반면 VCSEL은 이름 그대로 수직 방향으로 빛을 방출합니다.

구조를 단순하게 표현하면 다음과 같습니다.

일반적인 Edge-Emitting Laser

활성층
↓
←←← 레이저 광
칩의 측면으로 방출

VCSEL

상부 DBR
↓
활성층
↓
하부 DBR
↓
↑ 레이저 광
웨이퍼 표면 방향으로 방출

이러한 구조적 차이가 VCSEL의 제조 방식과 활용 분야를 크게 바꿔 놓았습니다.

VCSEL의 핵심 구조

VCSEL의 가장 중요한 부분은 두 개의 DBR(Distributed Bragg Reflector)과 그 사이에 위치한 활성 영역(Active Region)입니다.

DBR은 여러 층의 반도체 박막을 반복적으로 쌓아 만든 거울과 같은 구조입니다.

이 구조는 특정 파장의 빛을 강하게 반사시켜 공진기 내부에 빛을 가둘 수 있도록 합니다.

VCSEL의 기본 구조는 다음과 같이 이해할 수 있습니다.

상부 DBR

↓

활성 영역 / 다중 양자우물(MQW)

↓

하부 DBR

↓

기판

전류가 활성 영역에 공급되면 전자와 정공이 재결합하면서 광자가 발생합니다.

이 광자는 DBR 사이에서 반복적으로 반사되면서 증폭되고, 충분한 광이득이 발생하면 레이저 발진이 시작됩니다.

그리고 일부 빛은 위쪽으로 빠져나오면서 레이저 출력이 됩니다.

DBR은 왜 필요한가?

레이저에서는 빛이 한 번 발생했다고 바로 레이저가 되는 것이 아닙니다.

빛을 공진기 안에 가두고 반복적으로 왕복시키면서 충분히 증폭시켜야 합니다.

DBR은 바로 이 역할을 합니다.

DBR은 서로 다른 굴절률을 가진 반도체 물질을 여러 층 반복해서 쌓은 구조입니다.

각 층에서 반사된 빛이 특정 파장에서 서로 강화되도록 설계할 수 있습니다.

따라서 VCSEL에서는 DBR이 일종의 초소형 광학 거울 역할을 합니다.

VCSEL은 어떻게 빛을 발생시킬까?

VCSEL의 동작을 단계별로 살펴보면 어렵지 않습니다.

1단계. 전류 공급

VCSEL에 전류를 공급하면 활성 영역으로 전자와 정공이 주입됩니다.

2단계. 전자와 정공의 재결합

활성 영역에서 전자와 정공이 재결합하면서 광자가 발생합니다.

3단계. 광공진

발생한 광자는 상·하부 DBR 사이에서 반복적으로 반사됩니다.

4단계. 광증폭

공진 조건이 맞으면 광자가 계속 증폭되면서 레이저 발진 조건에 도달합니다.

5단계. 수직 방향 방출

공진기 위쪽의 DBR을 통해 일부 빛이 외부로 빠져나오면서 레이저 광이 됩니다.

즉,

전류 → 전자·정공 재결합 → 광자 발생 → 공진 → 광증폭 → 수직 방향 레이저 출력

이라는 과정으로 이해할 수 있습니다.

VCSEL이 데이터센터에 적합한 이유

VCSEL은 데이터센터 광통신에서 오랫동안 중요한 역할을 해왔습니다.

특히 850nm VCSEL + 다중모드 광섬유(MMF) 조합은 짧은 거리의 데이터센터 광링크에서 널리 활용되어 왔습니다.

VCSEL이 주목받은 이유는 여러 가지가 있습니다.

① 낮은 소비전력

VCSEL은 작은 활성 영역을 사용하기 때문에 광통신용 광원으로 효율적으로 설계할 수 있습니다.

AI 데이터센터에서는 수많은 광송신기가 동시에 작동하기 때문에 개별 소자의 전력 차이가 전체 시스템 전력에 큰 영향을 줄 수 있습니다.

② 높은 변조 속도

데이터를 광신호로 전송하기 위해서는 레이저의 출력 자체를 매우 빠르게 변화시킬 수 있어야 합니다.

VCSEL은 고속 직접 변조가 가능하기 때문에 데이터센터 광인터커넥트에 적합합니다.

③ 작은 크기

VCSEL은 매우 작은 영역에서 제작할 수 있습니다.

따라서 여러 개의 VCSEL을 하나의 VCSEL array로 집적할 수 있습니다.

④ 웨이퍼 단위 제조

VCSEL은 표면 방향으로 빛을 방출하기 때문에 웨이퍼 공정에서 소자를 제작하고 검사하기가 상대적으로 유리합니다.

이는 대량생산과 비용 절감 측면에서도 중요한 장점입니다.

⑤ 배열 제작이 쉽다

하나의 레이저만 사용하는 것이 아니라 여러 VCSEL을 배열로 구성하면 여러 개의 광채널을 동시에 사용할 수 있습니다.

예를 들어,

VCSEL 8개

↓

8개의 광채널

↓

광섬유

와 같은 병렬 구조를 만들 수 있습니다.

왜 850nm VCSEL이 많이 사용될까?

VCSEL을 설명할 때 자주 등장하는 숫자가 바로 850nm입니다.

850nm는 근적외선 영역의 파장입니다.

데이터센터에서는 850nm VCSEL과 다중모드 광섬유를 조합해 비교적 짧은 거리의 고속 데이터 통신을 구현할 수 있습니다.

특히 데이터센터 내부에서는 수 km가 넘는 장거리 통신보다 수십~수백 m 수준의 짧은 거리에서 높은 데이터 전송률을 확보하는 것이 중요한 경우가 많습니다.

이러한 환경에서는 850nm VCSEL이 경제성과 성능 사이에서 좋은 균형을 제공합니다.

실제로 VCSEL 기반 데이터센터 인터커넥트는 오랫동안 850nm와 다중모드 광섬유를 중심으로 발전해 왔습니다.

VCSEL Array는 왜 중요한가?

AI 데이터센터에서는 하나의 광채널만으로는 충분하지 않습니다.

GPU와 서버가 처리하는 데이터가 급증하면서 더 높은 총 전송 용량이 필요하기 때문입니다.

그래서 여러 개의 VCSEL을 나란히 배치한 VCSEL Array가 사용됩니다.

예를 들어 8개의 VCSEL을 사용한다면 각각의 광원을 독립적인 채널로 사용할 수 있습니다.

VCSEL 1 → Channel 1

VCSEL 2 → Channel 2

VCSEL 3 → Channel 3

VCSEL 4 → Channel 4

…

VCSEL 8 → Channel 8

여러 채널을 동시에 사용하면 하나의 레이저가 처리해야 하는 데이터 속도를 지나치게 높이지 않으면서도 전체 전송 용량을 크게 높일 수 있습니다.

이러한 병렬화는 AI 데이터센터의 광인터커넥트에서 매우 중요한 개념입니다.

PAM-4는 VCSEL 속도를 어떻게 높이는가?

최근 고속 광통신에서는 PAM-4(Pulse Amplitude Modulation 4-level)라는 변조 방식이 중요해지고 있습니다.

기존의 NRZ 방식은 기본적으로 두 가지 신호 레벨을 사용합니다.

0 → 낮은 신호

1 → 높은 신호

반면 PAM-4는 네 가지 신호 레벨을 사용합니다.

따라서 한 번의 심볼에 2비트 정보를 표현할 수 있습니다.

이론적으로 같은 심볼 속도에서 NRZ보다 더 많은 데이터를 전송할 수 있다는 장점이 있습니다.

하지만 PAM-4는 신호 간 간격이 좁아지기 때문에 잡음과 왜곡에 더 민감합니다.

따라서 VCSEL의 선형성, 잡음, 대역폭 등이 더욱 중요해집니다.

최근 연구에서도 850nm VCSEL의 PAM-4 전송 성능과 모드 잡음 억제가 중요한 연구 주제로 다뤄지고 있습니다. 2026년 연구에서는 비대칭 산화 개구 구조를 이용해 모드 간 비팅 잡음을 줄이고 50Gb/s PAM-4 링크에서 낮은 TDECQ 패널티를 확보하는 방법이 제시됐습니다.

VCSEL의 가장 큰 문제는 무엇일까?

VCSEL이 많은 장점을 가지고 있지만 해결해야 할 문제도 있습니다.

대표적인 문제가 바로 온도입니다.

레이저는 온도 변화에 영향을 받습니다.

온도가 올라가면 다음과 같은 특성이 변할 수 있습니다.

발진 파장 변화
문턱전류 변화
출력 감소
변조 특성 변화
신뢰성 저하

특히 데이터센터에서는 수많은 GPU와 CPU가 동시에 작동하기 때문에 내부 온도가 높아질 수 있습니다.

따라서 차세대 VCSEL에서는 고온에서도 안정적으로 동작하는 구조가 중요합니다.

또한 데이터 속도가 증가할수록 VCSEL의 변조 대역폭과 잡음 특성도 중요해집니다.

VCSEL과 실리콘 포토닉스는 경쟁 관계일까?

여기서 중요한 질문이 하나 있습니다.

“실리콘 포토닉스가 발전하면 VCSEL은 사라지는 것 아닐까?”

꼭 그렇지는 않습니다.

VCSEL과 실리콘 포토닉스는 서로 다른 장점을 가지고 있으며, 실제 시스템에서는 서로 결합될 수도 있습니다.

VCSEL은 효율적인 광원 역할을 하고,

실리콘 포토닉스는 빛을 칩 내부에서 이동시키고 변조하거나 여러 광채널을 처리하는 역할을 할 수 있습니다.

즉,

VCSEL

→ 빛을 만든다.

실리콘 포토닉스

→ 빛을 이동·변조·처리한다.

광섬유

→ 빛을 멀리 전달한다.

이러한 구조가 미래 광인터커넥트의 중요한 구성 요소가 될 수 있습니다.

실제로 VCSEL을 실리콘 포토닉 집적회로(PIC)에 결합하는 연구도 진행되고 있으며, 최근 리뷰에서는 VCSEL의 소형화·저전력·높은 변조 대역폭과 집적 가능성이 주요 장점으로 정리되고 있습니다.

AI 데이터센터에서 VCSEL이 다시 주목받는 이유

AI는 기존의 일반적인 데이터센터보다 훨씬 많은 데이터를 필요로 합니다.

특히 대규모 AI 모델을 학습시키려면 수많은 GPU가 동시에 계산해야 합니다.

예를 들어 GPU 1번에서 계산한 데이터를 GPU 2번으로 보내고, GPU 3번에서 처리한 결과를 GPU 4번으로 보내야 할 수 있습니다.

이 과정이 반복되면서 GPU 사이의 데이터 통신량이 크게 증가합니다.

여기서 문제가 발생합니다.

GPU의 연산 속도는 매우 빠른데 데이터를 이동시키는 속도가 이를 따라가지 못하면 전체 시스템 성능이 제한될 수 있습니다.

이것을 흔히 데이터 이동 병목(Data Movement Bottleneck)이라고 설명할 수 있습니다.

그래서 AI 데이터센터에서는

GPU

↓

고속 전기 인터페이스

↓

광 트랜시버

↓

광섬유

↓

다른 GPU / 스위치

와 같은 광통신 구조가 중요해지고 있습니다.

2026년 연구: VCSEL 기반 CPO가 AI/ML을 겨냥하다

VCSEL 기술은 단순히 기존 데이터센터에서 사용되는 광원에 머물지 않고 CPO(Co-Packaged Optics)와 결합하는 방향으로 발전하고 있습니다.

CPO는 광소자와 ASIC 또는 GPU 같은 고성능 칩을 가능한 한 가까운 위치에 배치하는 기술입니다.

칩과 광인터페이스 사이의 전기적 거리를 줄이면 고속 신호가 이동하는 과정에서 발생하는 손실과 전력 부담을 줄이는 데 도움이 될 수 있습니다.

2026년 Journal of Lightwave Technology에 발표된 연구에서는 850nm VCSEL array를 사용하는 8채널 CPO 트랜시버를 AI/ML 애플리케이션을 목표로 개발했습니다.

연구에서는 채널당 106Gb/s PAM-4, 8채널 동시 동작을 평가했으며, 100m OM4 광섬유 링크에서 8채널 동시 동작 시 KP4-FEC 기준 이하의 BER을 확인했습니다.

또한 측정된 전력 소비는 3.8W 수준, 링크 에너지는 4.5pJ/bit까지 보고됐습니다.

이 연구는 VCSEL이 앞으로도 AI 데이터센터의 고속 광인터커넥트에서 활용될 가능성을 보여주는 사례입니다.

VCSEL과 CPO를 연결하면 어떻게 될까?

전체 시스템을 단순화하면 다음과 같이 생각할 수 있습니다.

AI GPU / ASIC

↓

CPO 패키지

↓

VCSEL Array

↓

광신호

↓

광섬유

↓

다른 GPU / 스위치

즉 VCSEL은 AI 연산을 직접 수행하는 프로세서가 아닙니다.

대신 AI 프로세서가 만들어낸 대량의 데이터를 빠르게 이동시키는 광통신의 출발점 역할을 합니다.

이 점이 매우 중요합니다.

AI 반도체의 성능은 단순히 TOPS나 FLOPS만으로 결정되는 것이 아닙니다.

연산 성능 + 메모리 대역폭 + 네트워크 대역폭 + 데이터 이동 에너지

를 함께 고려해야 합니다.

VCSEL은 이 가운데 데이터 이동과 광통신이라는 부분을 담당할 수 있습니다.

VCSEL의 미래는 어디로 향할까?

앞으로 VCSEL 기술은 크게 네 가지 방향으로 발전할 가능성이 있습니다.

1. 더 높은 변조 속도

AI 데이터센터의 데이터 전송량이 증가하면서 100Gb/s급 이상의 채널 기술이 중요해지고 있습니다.

2. 더 낮은 에너지 소비

데이터센터에서는 수많은 광채널이 동시에 작동하기 때문에 pJ/bit 수준의 에너지 효율이 중요해지고 있습니다.

3. 고밀도 VCSEL Array

여러 VCSEL을 집적해 하나의 광모듈에서 더 많은 데이터를 동시에 전송하는 방향입니다.

4. CPO와의 결합

VCSEL을 GPU·ASIC과 가까운 위치에 배치해 전기적 연결 거리를 줄이고 광인터커넥트의 효율을 높이는 방향입니다.

2026년 OFC에서는 19코어 다중코어 광섬유와 backside-emitting VCSEL/PD array를 결합한 고대역폭 데이터센터용 광인터커넥트 구조도 발표됐습니다. 연구진은 이를 향후 GPU 광인터커넥트로 확장할 가능성을 제시했습니다.

VCSEL에서 광컴퓨팅까지

14강에서 중요한 것은 VCSEL 자체만 이해하는 것이 아닙니다.

지금까지 우리가 살펴본 기술 흐름을 연결하면 다음과 같습니다.

반도체

↓

III-V 화합물 반도체

↓

반도체 레이저

↓

나노레이저

↓

VCSEL

↓

광통신

↓

광인터커넥트

↓

실리콘 포토닉스

↓

광컴퓨팅

↓

AI 반도체

12강에서 살펴본 나노레이저가 초소형 광원으로 발전하고, 13강에서는 III-V 반도체와 실리콘을 결합하는 방법을 살펴봤습니다.

14강의 VCSEL은 이러한 광원을 실제 데이터 통신 시스템에서 어떻게 활용할 수 있는가를 보여주는 중요한 사례입니다.

그리고 다음 단계에서는 빛을 단순히 데이터를 전달하는 데 사용하는 것을 넘어, 빛 자체를 계산에 활용하는 광컴퓨팅으로 발전할 수 있습니다.

마무리

VCSEL은 겉보기에는 매우 작은 반도체 레이저에 불과해 보입니다.

하지만 실제로는 데이터센터의 고속 통신을 구성하는 중요한 광원입니다.

특히 850nm VCSEL은 다중모드 광섬유와 결합해 데이터센터 내부의 짧은 거리 광통신에서 오랫동안 활용되어 왔으며, 최근에는 고속 PAM-4와 VCSEL array, CPO 기술을 중심으로 새로운 발전이 이루어지고 있습니다.

AI 시대에는 GPU의 연산 성능뿐만 아니라 GPU와 GPU 사이에서 데이터를 얼마나 빠르고 효율적으로 이동시키는가가 중요합니다.

이 때문에 VCSEL은 앞으로도 AI 데이터센터의 광인터커넥트 기술에서 중요한 역할을 할 가능성이 있습니다.

특히 VCSEL + CPO + 광섬유 + 실리콘 포토닉스가 결합되면 고속 AI 데이터센터를 위한 새로운 광통신 구조가 만들어질 수 있습니다.

결국 VCSEL은 단순한 레이저가 아니라,

AI 시대의 데이터 이동을 빛으로 바꾸는 핵심 광원

이라고 볼 수 있습니다.

핵심 내용 정리

VCSEL이란?

수직 방향으로 빛을 방출하는 반도체 레이저입니다.

왜 850nm가 중요한가?

데이터센터의 단거리 광통신에서 VCSEL과 다중모드 광섬유를 조합하기에 적합한 대표적인 파장대이기 때문입니다.

왜 VCSEL Array가 필요한가?

여러 개의 광채널을 병렬로 사용해 전체 데이터 전송량을 높일 수 있기 때문입니다.

왜 AI 데이터센터에서 중요해지는가?

GPU와 GPU, GPU와 스위치 사이의 데이터 이동량이 증가하면서 고속·저전력 광인터커넥트가 중요해지고 있기 때문입니다.

앞으로 어떤 기술과 결합할까?

VCSEL은 CPO, 실리콘 포토닉스, 광섬유 기술과 결합하면서 AI 데이터센터용 광인터커넥트로 발전할 가능성이 있습니다.

참고문헌 및 최신 연구

Pan, G. et al., “Harnessing the capabilities of VCSELs: unlocking the potential for advanced integrated photonic devices and systems,” Light: Science & Applications 13, 229 (2024).
“Latest advances in VCSEL technology for next-generation data center network,” Chinese Optics Letters 22, 111401 (2024). VCSEL의 구조, 고속 변조, 단일모드 제어, 장파장 VCSEL 및 배열 패키징을 다룬 리뷰입니다.
Nagashima, K. et al., “A High-Density Energy-Efficient 850-nm VCSEL-Based 106-Gb/s × 8-Channel CPO Transceiver for AI/ML Applications,” Journal of Lightwave Technology 44, 955–966 (2026).
“Noise Improvement in High-Speed VCSELs for PAM-4 Transmission With Low TDECQ Penalties,” Journal of Lightwave Technology (2026). 850nm VCSEL의 PAM-4 전송에서 모드 비팅 잡음을 줄이는 방법을 연구했습니다.
Zhang, W. & Hu, M., “Multicore Fiber Coupled Backside-Emitting VCSEL/PD Arrays for High-Bandwidth Optical Interconnects in Data Center,” OFC 2026.