21강. 광컴퓨팅이란 무엇인가? 전자가 아닌 빛으로 계산하는 AI

유트 2026년 8월 22일 최종 수정 8월 25일 읽는 시간 약 20분

전자가 아닌 빛으로 계산하는 AI

AI 반도체의 성능을 결정하는 요소는 단순히 트랜지스터의 개수만이 아닙니다. 최근에는 연산량, 데이터 이동, 메모리 대역폭, 전력 소비가 함께 중요한 문제가 되고 있습니다.

20강에서는 GPU와 AI 가속기 사이의 데이터를 빠르게 이동시키는 광인터커넥트를 살펴봤습니다.

그렇다면 한 단계 더 나아가 이런 질문을 할 수 있습니다.

“데이터를 빛으로 보내는 것뿐만 아니라, 빛 자체로 계산할 수는 없을까?”

이 질문에서 출발한 기술이 바로 광컴퓨팅(Optical Computing 또는 Photonic Computing)입니다.

광컴퓨팅은 전자 대신 광자(photon)가 가진 빛의 세기, 위상, 파장, 간섭, 회절 등의 물리적 특성을 계산에 활용하는 기술입니다.

특히 AI에서 반복적으로 발생하는 행렬곱과 같은 연산을 광학적으로 처리하면 높은 병렬성과 낮은 지연시간을 활용할 가능성이 있습니다. 2025년 npj Nanophotonics 리뷰에서도 광신경망이 광자의 높은 대역폭과 병렬성을 이용해 AI 연산을 수행하는 유망한 하드웨어 가속기라고 정리했습니다.

전자 컴퓨터는 어떻게 계산할까?

우리가 사용하는 CPU와 GPU는 기본적으로 전자 신호를 이용합니다.

트랜지스터가 전류의 흐름을 제어하면서 0과 1을 표현하고, 수많은 트랜지스터가 논리연산과 산술연산을 수행합니다.

GPU에서는 수많은 연산 유닛을 병렬로 배치하여 AI에 필요한 행렬 연산을 빠르게 처리합니다.

예를 들어 AI 신경망에서는 다음과 같은 계산이 반복됩니다.

입력 데이터 × 가중치 → 출력

이를 수학적으로 표현하면 행렬곱(Matrix Multiplication)이 됩니다.

문제는 AI 모델이 커질수록 행렬의 크기도 커지고 연산 횟수도 급격하게 증가한다는 것입니다.

따라서 기존 전자식 컴퓨팅만으로 AI 성능을 계속 높이는 데에는 전력과 데이터 이동이라는 문제가 따라옵니다.

빛으로 계산한다는 것은 무슨 뜻일까?

빛은 단순히 데이터를 전달하는 역할만 하는 것이 아닙니다.

빛은 물리적으로 서로 더해지고, 간섭하고, 분리되고, 위상이 변할 수 있습니다.

이러한 물리적 현상을 계산에 이용할 수 있습니다.

예를 들어 두 개의 광신호를 합치면 빛의 세기가 변합니다.

빛의 위상을 조절하면 특정 신호는 강화되고 다른 신호는 약해질 수 있습니다.

즉 광학 시스템 자체가 일종의 물리적 계산기 역할을 할 수 있습니다.

이를 AI 연산과 연결하면 다음과 같은 구조가 가능합니다.

전기 데이터

↓

광변조

↓

광신호

↓

광학 연산

↓

광검출

↓

전기 데이터

이것이 광컴퓨팅의 기본적인 개념입니다.

왜 하필 AI에서 광컴퓨팅이 주목받을까?

AI 연산에는 반복적인 수학 계산이 매우 많습니다.

특히 딥러닝에서는 행렬곱과 벡터 연산이 핵심적인 역할을 합니다.

예를 들어 다음과 같은 연산을 생각할 수 있습니다.

Y = W × X

W는 가중치 행렬이고 X는 입력 데이터입니다.

GPU는 수많은 전자 연산 유닛을 이용해 이 계산을 수행합니다.

하지만 광컴퓨팅에서는 빛의 물리적 특성을 이용하여 여러 입력을 동시에 처리할 수 있습니다.

따라서 광학적으로 구현된 행렬곱에서는 병렬성(parallelism)이 중요한 장점이 됩니다.

2024년 Light: Science & Applications 리뷰에서는 광신경망이 높은 병렬성과 낮은 지연시간을 활용할 수 있으며, AI 연산을 위한 새로운 컴퓨팅 패러다임으로 연구되고 있다고 설명했습니다.

빛의 ‘병렬성’이 중요한 이유

전자식 프로세서에서도 병렬 처리는 가능합니다.

GPU가 대표적인 사례입니다.

하지만 빛은 하나의 광경로에서 여러 정보를 동시에 표현할 수 있습니다.

예를 들어 서로 다른 파장을 이용하면

λ1 → 데이터 A

λ2 → 데이터 B

λ3 → 데이터 C

λ4 → 데이터 D

처럼 여러 데이터를 동시에 전달할 수 있습니다.

여기에 빛의 세기와 위상까지 활용하면 하나의 광학 시스템에서 더욱 다양한 정보를 표현할 수 있습니다.

이러한 특성은 WDM과도 연결됩니다.

19강에서 살펴본 WDM이 데이터를 여러 파장으로 나누어 전달하는 기술이었다면, 광컴퓨팅에서는 이러한 광학적 자유도를 계산에 활용하는 방향으로 발전시킬 수 있습니다.

광컴퓨팅에서 행렬곱은 어떻게 이루어질까?

AI에서 가장 중요한 계산 가운데 하나가 행렬곱입니다.

간단한 예를 들어보겠습니다.

입력값이

X = [x₁, x₂, x₃]

이고 가중치가

W = [w₁, w₂, w₃]

라고 생각해 보겠습니다.

신경망의 한 뉴런에서는 다음과 같은 계산을 수행합니다.

y = x₁w₁ + x₂w₂ + x₃w₃

전자식 컴퓨터에서는 곱셈과 덧셈을 각각 수행합니다.

광학 시스템에서는 빛의 세기나 위상을 이용해 이러한 가중치 연산을 물리적으로 구현할 수 있습니다.

즉,

빛의 입력

↓

광학적 가중치

↓

빛의 결합

↓

광학적 합산

↓

출력

이라는 구조가 가능합니다.

이 때문에 광컴퓨팅은 특히 행렬-벡터 곱(Matrix-Vector Multiplication)에 적합한 구조로 오랫동안 연구되어 왔습니다.

간섭을 이용하면 계산할 수 있다

광컴퓨팅에서 매우 중요한 개념이 간섭(Interference)입니다.

두 개의 빛이 만나면 서로 강화되거나 약화될 수 있습니다.

이를 각각

보강간섭

상쇄간섭

이라고 합니다.

빛의 위상을 적절하게 조절하면 원하는 계산 결과를 만들 수 있습니다.

이러한 원리를 이용하면 광신경망에서 특정 입력에 높은 가중치를 주거나 낮은 가중치를 주는 것과 비슷한 기능을 구현할 수 있습니다.

따라서 빛의 간섭은 단순한 광학 현상을 넘어 계산 자원으로 활용될 수 있습니다.

MZI는 광컴퓨팅의 중요한 구성 요소다

앞서 18강에서 마이크로링 공진기를 살펴봤습니다.

광컴퓨팅에서는 또 다른 중요한 소자가 있습니다.

바로 MZI(Mach-Zehnder Interferometer)입니다.

MZI는 입력된 빛을 두 개의 경로로 나눈 다음 다시 결합합니다.

두 경로를 이동하는 동안 빛의 위상을 조절하면 최종적으로 출력되는 빛의 세기가 달라집니다.

개념적으로 보면

입력 광신호

↓

빛을 두 경로로 분리

↓

각 경로의 위상 조절

↓

다시 결합

↓

출력 광신호

의 구조입니다.

이러한 특성을 이용하면 광신호의 가중치를 조절할 수 있습니다.

그래서 MZI는 광행렬연산과 광신경망에서 중요한 구성 요소로 활용됩니다.

2025년 npj Nanophotonics 리뷰에서도 MZI mesh와 마이크로링 공진기 기반 weight bank가 집적 광신경망의 대표적인 선형 연산 구조로 소개됩니다.

마이크로링 공진기도 광컴퓨팅에 활용된다

18강에서 배운 Microring Resonator도 광컴퓨팅에서 중요한 역할을 합니다.

마이크로링은 특정 파장의 빛에 공진하는 특성을 가지고 있습니다.

따라서 특정 파장만 선택하거나 빛의 세기를 조절하는 데 활용할 수 있습니다.

이를 여러 개 연결하면

파장 λ1 → 가중치 1

파장 λ2 → 가중치 2

파장 λ3 → 가중치 3

처럼 여러 광채널을 동시에 처리할 수 있습니다.

즉 18강에서 배운 마이크로링 공진기가 21강에서는 광학 계산 요소로 다시 등장합니다.

광컴퓨팅과 광인터커넥트는 어떻게 다를까?

20강에서 살펴본 광인터커넥트와 광컴퓨팅을 혼동해서는 안 됩니다.

두 기술 모두 빛을 이용하지만 목적이 다릅니다.

광인터커넥트

빛으로 데이터를 이동시키는 기술

광컴퓨팅

빛의 물리적 특성을 이용해 계산하는 기술

예를 들어

GPU A → 광인터커넥트 → GPU B

라면 데이터 이동이 목적입니다.

반면

입력 광신호 → 광학 행렬연산 → 출력 광신호

라면 계산이 목적입니다.

하지만 미래 AI 시스템에서는 이 두 기술이 결합될 가능성이 높습니다.

광컴퓨팅의 핵심 장점은 무엇일까?

광컴퓨팅의 장점은 크게 네 가지로 정리할 수 있습니다.

높은 병렬성

여러 광신호를 동시에 처리할 수 있습니다.

낮은 지연시간 가능성

빛이 광학 회로를 통과하는 과정에서 계산이 물리적으로 수행될 수 있기 때문에 매우 빠른 처리가 가능합니다.

높은 대역폭

파장, 위상, 세기 등 다양한 광학적 자유도를 활용할 수 있습니다.

데이터 이동 감소 가능성

계산을 데이터가 이동하는 장소에서 직접 수행할 수 있다면 전자식 시스템에서 발생하는 데이터 이동 비용을 줄일 가능성이 있습니다.

2024년 Nature Reviews Electrical Engineering에서는 광자 기반 뉴로모픽 시스템이 높은 속도와 집적된 병렬 선형 연산을 활용할 가능성이 있다고 분석하면서도, 전기-광 변환과 광학적 비선형성 등의 문제를 중요한 과제로 제시했습니다.

그런데 광컴퓨팅에는 중요한 약점도 있다

광컴퓨팅이 GPU를 곧바로 대체할 수 있는 것은 아닙니다.

가장 중요한 이유 중 하나는 빛 자체로 모든 AI 연산을 처리하기 어렵기 때문입니다.

특히 신경망에는 행렬곱뿐만 아니라 비선형 활성화 함수가 필요합니다.

예를 들어

ReLU

Sigmoid

Softmax

등의 연산이 있습니다.

빛은 선형적인 광학 연산에서는 매우 강력하지만, 복잡한 비선형 연산을 구현하는 것은 상대적으로 어렵습니다.

따라서 현재의 광 AI 시스템은 전자회로와 광학회로를 함께 사용하는 광·전자 하이브리드 구조가 중요한 방향으로 연구되고 있습니다.

광-전 변환이 또 다른 병목이 될 수 있다

광컴퓨팅에서 중요한 문제가 하나 더 있습니다.

바로 Optical-to-Electrical Conversion, 즉 광전 변환입니다.

AI 시스템이

전자 → 광자 → 계산 → 전자

와 같은 구조를 반복한다면 변환 과정에서 에너지와 시간이 추가될 수 있습니다.

따라서 광컴퓨팅의 장점을 제대로 활용하려면 불필요한 광·전 변환을 줄이는 것이 중요합니다.

2024년 Nature Reviews Electrical Engineering은 광컴퓨팅 구조를 광·전 변환이 어느 단계에서 발생하는지에 따라 분류하면서, 광전 변환과 광학 비선형성의 구현을 핵심적인 기술 과제로 지적했습니다.

아날로그 광컴퓨팅과 디지털 컴퓨팅의 차이

현재 연구되는 많은 광컴퓨팅 시스템은 아날로그 연산의 특성을 이용합니다.

전자식 디지털 컴퓨터에서는 숫자를 정확한 디지털 값으로 표현합니다.

반면 아날로그 광컴퓨터에서는 빛의 세기나 위상 등의 연속적인 물리량을 계산에 활용할 수 있습니다.

이 방식은 매우 빠른 계산을 가능하게 할 수 있지만 노이즈와 정밀도가 중요한 문제가 됩니다.

2025년 Nature Communications 연구에서는 이러한 문제를 해결하기 위해 디지털-아날로그 하이브리드 행렬곱 프로세서를 제안했으며, 실험적인 광학 프로세서에서 16비트 정밀도를 구현하고 이미지 처리와 MNIST 숫자 인식 등을 검증했습니다.

이 연구는 광컴퓨팅이 단순히 “빛은 빠르다”라는 개념에서 끝나는 것이 아니라 정확도와 효율성을 동시에 확보해야 실제 AI 시스템이 될 수 있다는 점을 보여줍니다.

2025년 Nature가 보여준 광컴퓨팅의 방향

광컴퓨팅 분야에서 주목할 만한 연구도 있습니다.

2025년 Nature에는 “Universal photonic artificial intelligence acceleration”이라는 연구가 발표됐습니다.

이 연구는 특정한 한 가지 AI 작업만을 위한 광학 시스템이 아니라 다양한 AI 연산을 가속하는 방향을 다룬 연구입니다.

또한 2025년 9월 Nature에는 “Analog optical computer for AI inference and combinatorial optimization” 연구가 발표됐습니다.

연구진은 아날로그 전자회로와 3차원 광학 시스템을 결합해 AI 추론과 조합최적화 문제를 처리하는 광학 컴퓨터를 제시했습니다.

이러한 연구는 광컴퓨팅이 단순한 실험실 수준의 개념을 넘어 실제 AI 계산과 최적화 문제를 처리하는 하드웨어로 발전하고 있음을 보여주는 사례입니다.

2026년에는 행렬곱의 범위도 넓어지고 있다

광컴퓨팅의 중요한 연구 방향 중 하나는 행렬곱을 더욱 효율적으로 수행하는 것입니다.

2026년 Nature Photonics에서는 빛을 한 번 통과시키는 과정에서 행렬-행렬 곱과 텐서-행렬 곱을 병렬로 수행하는 광학 접근법이 소개됐습니다.

기존 광컴퓨팅에서는 벡터-행렬 곱이 주요 대상이었지만, 행렬-행렬 연산을 더욱 직접적으로 처리하려는 방향으로 연구가 확장되고 있습니다.

이는 AI 모델이 커질수록 중요한 의미를 가집니다.

광컴퓨팅과 나노레이저는 어떻게 연결될까?

12강에서 우리는 나노레이저를 살펴봤습니다.

그리고 13강에서는 III-V 반도체와 실리콘 포토닉스의 결합을 살펴봤습니다.

16강부터는 실리콘 포토닉스, 광도파로, 마이크로링, WDM, 광인터커넥트를 차례대로 살펴봤습니다.

이제 이 기술들이 하나의 시스템으로 연결됩니다.

반도체

↓

나노기술

↓

반도체 레이저

↓

나노레이저

↓

실리콘 포토닉스

↓

광도파로

↓

마이크로링 / MZI

↓

WDM

↓

광인터커넥트

↓

광컴퓨팅

↓

광신경망

↓

포토닉 AI

이것이 지금까지 1강부터 21강까지 이어온 기술적 흐름입니다.

광컴퓨팅의 미래는 ‘빛만 사용하는 컴퓨터’가 아니다

광컴퓨팅을 이해할 때 가장 중요한 부분입니다.

미래의 AI 컴퓨터가 반드시 모든 연산을 빛으로 처리하는 완전한 광컴퓨터가 될 필요는 없습니다.

오히려 현실적인 방향은

전자 + 광자

를 결합하는 것입니다.

전자회로는 메모리와 제어, 비선형 연산 등에 강점을 가지고 있습니다.

광학회로는 높은 대역폭과 병렬 선형 연산에 강점을 가지고 있습니다.

따라서 각각의 장점을 결합하는 것입니다.

이를 광·전자 하이브리드 컴퓨팅이라고 볼 수 있습니다.

프로그래머블 광컴퓨팅으로 발전할 수 있을까?

또 하나 중요한 방향은 재구성 가능성(Reconfigurability)입니다.

GPU는 소프트웨어를 변경하면 다양한 AI 모델을 실행할 수 있습니다.

광컴퓨팅도 다양한 AI 모델을 처리하려면 광학 회로의 가중치와 연결 구조를 변경할 수 있어야 합니다.

2025년 Nature Reviews Physics에서는 프로그래머블 메타표면을 이용한 광 AI가 이러한 확장성 문제를 해결할 가능성이 있다고 분석했습니다.

특히 대규모 광 AI 시스템에서는 전자회로와의 공동 집적, 3D 적층, 대량 제조가 중요한 요소가 될 수 있다고 설명합니다.

광컴퓨팅은 GPU를 대체할까?

현재 단계에서 “광컴퓨터가 곧 GPU를 완전히 대체한다”라고 말하는 것은 과도한 주장입니다.

광컴퓨팅은 분명한 장점을 가지고 있지만 해결해야 할 문제가 많습니다.

대표적인 문제는

광전 변환

광학 비선형성

정밀도

메모리

열 관리

제조 수율

프로그래밍

대규모 집적

등입니다.

따라서 가까운 미래에는 GPU를 완전히 없애기보다는 GPU와 광가속기가 서로 다른 역할을 수행하는 하이브리드 AI 시스템이 더욱 현실적인 방향으로 볼 수 있습니다.

21강 핵심 정리

광인터커넥트가 빛으로 데이터를 이동시키는 기술이라면 광컴퓨팅은 한 단계 더 나아가 빛을 계산에 이용하는 기술입니다.

AI에서는 특히 행렬곱과 같은 반복적인 선형 연산을 광학적으로 처리할 수 있다는 점이 중요합니다.

빛은

높은 병렬성

높은 대역폭

낮은 지연시간 가능성

이라는 장점을 가지고 있습니다.

하지만

광전 변환

비선형 연산

정밀도

메모리

확장성

등의 문제가 해결되어야 합니다.

따라서 미래의 AI 반도체는 단순한 전자식 GPU만으로 구성되기보다는

전자회로 + 실리콘 포토닉스 + 광인터커넥트 + 광가속기

가 결합되는 형태로 발전할 가능성이 있습니다.

그리고 다음 22강에서는 광컴퓨팅의 핵심 응용 분야로 들어가겠습니다.

바로 “광신경망(PNN)은 어떻게 AI의 행렬연산을 빛으로 처리하는가?”입니다.

21강 참고문헌

Zhang, H. et al. “Integrated platforms and techniques for photonic neural networks.” npj Nanophotonics 2, 40 (2025).
Fu, T. et al. “Optical neural networks: progress and challenges.” Light: Science & Applications 13, 263 (2024).
Farmakidis, N., Dong, B. & Bhaskaran, H. “Integrated photonic neuromorphic computing: opportunities and challenges.” Nature Reviews Electrical Engineering 1, 358–373 (2024).
Bente, I. et al. “The potential of multidimensional photonic computing.” Nature Reviews Physics 7, 439–450 (2025).
Abou-Hamdan, L. et al. “Programmable metasurfaces for future photonic artificial intelligence.” Nature Reviews Physics 7, 331–347 (2025).
Meng, X. et al. “Digital-analog hybrid matrix multiplication processor for optical neural networks.” Nature Communications 16, 7465 (2025).
Kalinin, K. P. et al. “Analog optical computer for AI inference and combinatorial optimization.” Nature 645, 354–361 (2025).
Ahmed, S. R. et al. “Universal photonic artificial intelligence acceleration.” Nature (2025).
“Multiplying matrices in a single pass with light.” Nature Photonics 20, 3–4 (2026).