22강. 광신경망(PNN)이란 무엇인가? AI의 행렬연산을 빛으로 처리한다
AI의 행렬연산을 빛으로
AI 반도체의 핵심은 결국 얼마나 많은 데이터를 얼마나 빠르고 효율적으로 계산할 수 있는가에 있습니다.
21강에서는 전자가 아닌 빛을 이용해 계산하는 광컴퓨팅(Photonic Computing)의 기본 원리를 살펴봤습니다.
이번 22강에서는 그 기술을 AI에 직접 연결해 보겠습니다.
바로 광신경망(Photonic Neural Network, PNN 또는 Optical Neural Network, ONN)입니다.
광신경망은 인공신경망의 연산을 광학 회로에서 수행하도록 설계한 컴퓨팅 구조입니다. 특히 AI에서 반복적으로 발생하는 행렬곱(Matrix Multiplication)을 빛의 간섭, 위상, 세기, 파장 등의 물리적 특성을 이용해 처리하는 것이 핵심입니다.
최근 연구에서는 단순한 개념 검증을 넘어 실제 집적 광칩에서 신경망 연산과 AI 추론을 수행하려는 연구가 빠르게 진행되고 있습니다. 2025년 Nature에는 ResNet과 BERT 같은 AI 모델을 광 프로세서에서 실행한 연구가 발표됐으며, 이는 광 AI가 단순한 실험실 개념에서 실제 AI 가속기로 발전하고 있음을 보여주는 중요한 사례입니다.
광신경망은 왜 필요한가?
AI 모델의 크기가 커지면서 필요한 계산량도 급격하게 증가하고 있습니다.
이미지 인식, 음성 인식, 생성형 AI, 대규모 언어 모델 등은 수많은 행렬 연산을 반복합니다.
간단하게 표현하면 다음과 같습니다.
입력 데이터 × 가중치 = 출력 데이터
신경망의 한 층에서 수천 개, 수만 개의 숫자를 계산하고 이것을 여러 층에서 반복합니다.
GPU는 이러한 계산을 병렬로 처리하도록 만들어졌기 때문에 현재 AI 산업의 핵심 프로세서가 되었습니다.
하지만 AI 모델이 계속 커지면서 또 다른 문제가 나타납니다.
연산 자체뿐만 아니라 데이터를 이동시키는 데에도 상당한 에너지와 시간이 필요하다는 것입니다.
광신경망은 이러한 문제에 대한 새로운 하드웨어 접근법 가운데 하나입니다.
2025년 npj Nanophotonics 리뷰는 신경망의 핵심 연산인 행렬곱과 컨볼루션을 광학적으로 처리할 수 있다는 점 때문에 광신경망이 AI 하드웨어 가속기로 연구되고 있다고 설명합니다.
광신경망이란 무엇인가?
광신경망을 쉽게 표현하면 다음과 같습니다.
인공신경망 + 광학회로 = 광신경망
일반적인 인공신경망에서는 전자회로가 입력값과 가중치를 계산합니다.
광신경망에서는 이 과정의 일부를 빛으로 수행합니다.
전체적인 구조는 다음과 같습니다.
입력 데이터
↓
전기 신호 → 광신호 변환
↓
광학적 행렬연산
↓
광학적 비선형 연산
↓
광검출
↓
출력 데이터
이 구조에서 가장 중요한 부분은 가운데에 있는 광학적 행렬연산입니다.
빛은 여러 경로를 동시에 이동할 수 있고, 서로 간섭할 수 있으며, 파장과 위상을 조절할 수 있습니다.
이러한 물리적 특성을 이용하면 AI의 행렬연산을 광학적으로 구현할 수 있습니다.
인공신경망의 핵심은 행렬곱이다
광신경망을 이해하려면 먼저 일반적인 신경망의 계산을 알아야 합니다.
하나의 뉴런이 다음과 같은 입력을 받는다고 생각해 보겠습니다.
x₁, x₂, x₃
그리고 각각의 가중치가
w₁, w₂, w₃
라고 하면 뉴런은 다음과 같은 계산을 수행합니다.
y = x₁w₁ + x₂w₂ + x₃w₃
이것은 결국
곱셈 + 덧셈
입니다.
신경망의 규모가 커지면 이러한 계산이 수십억 번 이상 반복될 수 있습니다.
그래서 AI 반도체에서는 행렬곱을 얼마나 효율적으로 수행하느냐가 매우 중요합니다.
광신경망은 바로 이 부분을 빛의 물리적 특성을 이용해 처리하려는 것입니다.
빛으로 곱셈을 할 수 있을까?
처음 들으면 이상하게 느껴질 수 있습니다.
빛이 어떻게 숫자를 곱할 수 있을까요?
핵심은 빛의 세기와 위상을 정보로 사용하는 것입니다.
예를 들어 특정 광신호의 세기를 입력 데이터로 사용하고, 광학 소자의 투과율이나 위상 변화를 가중치처럼 사용하면 입력 신호를 조절할 수 있습니다.
여러 개의 광신호를 결합하면 서로 더해지거나 상쇄될 수 있습니다.
결과적으로 광학 시스템에서
입력 × 가중치 → 합산
과 유사한 물리적 과정이 발생합니다.
이러한 원리가 광학 행렬곱의 기본적인 개념입니다.
광행렬곱에 대한 Light: Science & Applications 리뷰에서는 평면 광학, Mach-Zehnder interferometer, WDM 등 다양한 방법으로 광학 행렬곱을 구현하는 연구가 발전해 왔다고 정리합니다.
광신경망에서 빛의 간섭은 왜 중요한가?
광신경망에서 중요한 물리현상 중 하나가 간섭(Interference)입니다.
두 개의 빛이 만나면 위상 관계에 따라 빛이 강해지거나 약해질 수 있습니다.
이를
보강간섭
과
상쇄간섭
이라고 합니다.
이 현상을 이용하면 빛의 출력을 조절할 수 있습니다.
AI에서는 이 조절 과정이 가중치(weight)를 구현하는 데 활용될 수 있습니다.
즉,
광신호의 세기
광신호의 위상
광학 소자의 특성
을 조절해 AI의 가중치 연산을 구현하는 것입니다.
이것이 광신경망이 단순히 “빛을 이용해 데이터를 전달하는 기술”과 다른 이유입니다.
MZI는 광신경망의 중요한 계산 구조다
21강에서 살펴본 MZI(Mach-Zehnder Interferometer)가 다시 등장합니다.
MZI는 입력된 빛을 두 개의 경로로 나누고 다시 합치는 구조입니다.
두 경로에서 빛의 위상을 조절하면 최종 출력이 달라집니다.
개념적으로 보면 다음과 같습니다.
입력 광신호
↓
광신호 분리
↓
두 광경로의 위상 조절
↓
광신호 결합
↓
출력
여러 개의 MZI를 연결하면 하나의 큰 광학 행렬을 구성할 수 있습니다.
이를 MZI mesh라고 합니다.
MZI mesh는 광신경망에서 행렬변환을 구현하는 대표적인 방법 가운데 하나입니다. 2025년 npj Nanophotonics 리뷰에서도 MZI 기반 구조가 집적 광신경망의 핵심 플랫폼 중 하나로 다뤄집니다.
마이크로링 공진기도 AI 가중치를 구현할 수 있다
18강에서 살펴본 Microring Resonator 역시 광신경망에서 활용할 수 있습니다.
마이크로링 공진기는 특정 파장의 빛과 강하게 상호작용하는 특성을 가지고 있습니다.
이 특성을 이용하면 특정 파장의 빛을 선택하거나 통과시키는 정도를 조절할 수 있습니다.
예를 들어 여러 파장의 광신호가 동시에 들어온다고 생각해 보겠습니다.
λ₁
λ₂
λ₃
λ₄
각각의 파장에 대해 통과시키는 정도를 다르게 설정하면 각각 다른 가중치를 적용하는 것과 비슷한 기능을 만들 수 있습니다.
따라서
WDM + Microring + Photodetector
를 결합하면 여러 광채널을 동시에 처리하는 광신경망 구조를 만들 수 있습니다.
2025년 Nature Communications 연구에서도 마이크로링 변조기 배열을 이용한 광학 행렬곱 프로세서가 구현됐습니다. 해당 연구의 칩에는 20개의 cascaded microring modulator가 사용됐습니다.
WDM은 광신경망의 병렬성을 높인다
19강에서 배운 WDM(Wavelength Division Multiplexing)은 22강에서 더욱 중요한 의미를 갖습니다.
WDM은 서로 다른 파장의 빛을 하나의 광경로에서 동시에 사용하는 기술입니다.
예를 들어
λ₁ → 데이터 1
λ₂ → 데이터 2
λ₃ → 데이터 3
λ₄ → 데이터 4
처럼 여러 데이터를 동시에 처리할 수 있습니다.
이러한 특성을 광신경망에 활용하면 하나의 광회로에서 여러 계산을 병렬로 수행할 수 있습니다.
즉,
한 개의 계산
에서
여러 개의 계산을 동시에 수행
하는 방향으로 확장할 수 있습니다.
이것이 광신경망의 중요한 장점 가운데 하나입니다.
광신경망의 핵심 구조는 선형연산과 비선형연산이다
신경망은 단순히 행렬곱만 수행하는 것이 아닙니다.
일반적인 신경망에서는 크게
선형연산
과
비선형 활성화 함수
가 반복됩니다.
예를 들어
행렬곱 → ReLU → 행렬곱 → ReLU
와 같은 구조입니다.
광학적으로는 행렬곱 같은 선형연산을 구현하는 것이 상대적으로 쉽습니다.
문제는 비선형성(nonlinearity)입니다.
빛은 기본적으로 선형적인 방식으로 전파되기 때문에 AI에서 필요한 복잡한 비선형 함수를 구현하려면 별도의 광학 소자나 전자회로가 필요할 수 있습니다.
이것이 광신경망의 중요한 기술적 과제입니다.
광신경망에서 비선형성이 어려운 이유
AI 신경망에서 비선형 활성화 함수는 매우 중요합니다.
대표적으로
ReLU
Sigmoid
Tanh
Softmax
등이 있습니다.
이러한 비선형 함수가 없다면 신경망의 여러 층을 쌓아도 복잡한 패턴을 표현하는 능력이 제한됩니다.
따라서 진정한 의미의 광신경망을 만들기 위해서는
광학적 선형연산
뿐만 아니라
광학적 비선형연산
도 구현해야 합니다.
최근에는 이 문제를 해결하기 위한 연구도 진행되고 있습니다.
2025년 Nature Computational Science에는 완전한 광집적 뉴런(photonic integrated neuron)을 구현한 연구가 발표됐습니다. 연구진은 실리콘 나이트라이드 기반 광칩에서 Kerr 효과를 이용해 비선형 활성화와 시공간 연산을 구현했으며, 최대 240 ps 수준의 지연시간을 보고했습니다.
광신경망은 실제 AI를 실행할 수 있을까?
이제 가장 중요한 질문입니다.
실제로 AI 모델을 광칩에서 실행할 수 있을까요?
2025년 Nature에 발표된 Universal photonic artificial intelligence acceleration 연구는 이 질문에 중요한 실험 결과를 제시했습니다.
연구진은 광 프로세서를 이용해
ResNet
BERT
그리고
Atari 강화학습
등의 AI 작업을 수행했습니다.
논문에서는 기존 광 AI 연구가 단순한 벤치마크에 제한되는 경우가 많았던 것과 달리 다양한 AI 모델을 실행하고, 전자식 AI 가속기와 경쟁할 수 있는 수준으로 광 프로세서의 활용 범위를 확장하는 것을 목표로 했습니다.
이는 광신경망 연구에서 상당히 중요한 변화입니다.
단순한 행렬곱에서 실제 신경망으로
초기 광컴퓨팅 연구에서는 비교적 단순한 행렬곱이나 분류 작업이 많이 연구됐습니다.
하지만 최근에는 연구 방향이 점점 복잡해지고 있습니다.
행렬곱
↓
신경망 층
↓
여러 층의 신경망
↓
실제 AI 모델
↓
AI 추론 시스템
으로 발전하고 있습니다.
2024년 Nature Photonics에서는 여러 개의 광 프로세서 유닛과 비선형 활성화 기능을 하나의 광집적회로에 통합한 광신경망이 발표됐습니다.
연구진은 3개 층과 6개 뉴런으로 구성된 딥신경망을 실험했으며, 시스템에서 선형 및 비선형 연산을 모두 수행하고 410 ps의 지연시간을 보고했습니다.
이러한 연구는 광신경망이 단순한 광학 행렬곱에서 실제 신경망 구조로 발전하고 있다는 것을 보여줍니다.
광신경망의 가장 큰 장점은 무엇인가?
광신경망의 장점은 크게 네 가지로 정리할 수 있습니다.
높은 병렬성
여러 광신호를 동시에 처리할 수 있습니다.
높은 대역폭
빛은 매우 높은 주파수 대역을 활용할 수 있으며, 여러 파장을 동시에 사용할 수 있습니다.
낮은 지연시간 가능성
광학 회로를 통과하는 과정에서 연산이 물리적으로 이루어질 수 있습니다.
에너지 효율 가능성
특정 선형연산을 전자회로 대신 광학적으로 수행하면 연산에 필요한 에너지를 줄일 가능성이 있습니다.
2025년 Nature Reviews Physics에서는 광신경망이 높은 병렬성과 낮은 전력 소비를 활용해 에너지 효율, 지연시간, 처리량 측면에서 기존 디지털 신경망과 경쟁할 가능성이 있다고 평가합니다.
하지만 광신경망에도 해결해야 할 문제가 있다
광신경망이 GPU보다 무조건 좋은 것은 아닙니다.
현재 가장 중요한 문제 가운데 하나가 정밀도입니다.
광학 시스템에서는
광원 잡음
검출기 잡음
광손실
온도 변화
소자 편차
등이 계산 정확도에 영향을 줄 수 있습니다.
특히 아날로그 방식으로 행렬곱을 수행하면 작은 오차가 여러 계산 단계에서 누적될 수 있습니다.
2025년 Nature Communications 연구는 이러한 문제를 해결하기 위해 디지털-아날로그 하이브리드 행렬곱 구조를 제안했습니다.
실험용 광 프로세서에서 16비트 정밀도를 구현하고, MNIST 숫자 인식 및 YOLO 객체 검출 적용 가능성까지 검증했습니다.
광전 변환도 중요한 문제다
광신경망이 아무리 빠르더라도
전자 → 광자 → 전자
변환을 지나치게 많이 수행하면 장점이 줄어들 수 있습니다.
예를 들어
GPU
↓
전기 데이터
↓
광변환
↓
광학 연산
↓
광검출
↓
전기 데이터
라는 과정이 반복된다면 광학 연산의 장점 일부가 변환 과정에서 상쇄될 수 있습니다.
따라서 광신경망의 발전에서는 광학 영역에서 가능한 많은 연산을 처리하고 불필요한 변환을 줄이는 것이 중요합니다.
2024년 Nature Reviews Electrical Engineering에서도 광 뉴로모픽 시스템에서 광전 변환이 어디에서 발생하는지가 시스템의 에너지 효율과 구조를 결정하는 중요한 요소라고 설명합니다.
광신경망은 GPU를 대체할까?
현재 단계에서 그렇게 단정하기는 어렵습니다.
GPU는 이미
소프트웨어 생태계
메모리 시스템
프로그래밍 환경
대규모 제조
AI 프레임워크
등이 매우 잘 구축되어 있습니다.
반면 광신경망은 아직
정밀도
비선형성
메모리
재구성 가능성
광전 변환
대규모 집적
등에서 해결해야 할 문제가 있습니다.
따라서 현실적인 방향은 GPU를 완전히 없애는 것보다는 전자식 AI 가속기와 광 AI 가속기가 서로 다른 작업을 담당하는 하이브리드 시스템이 될 가능성이 높습니다.
광신경망과 실리콘 포토닉스의 관계
지금까지 작성한 16강부터 22강까지의 흐름을 연결하면 더욱 이해하기 쉽습니다.
16강
실리콘 포토닉스
↓
17강
광도파로
↓
18강
마이크로링 공진기
↓
19강
WDM
↓
20강
AI 데이터센터 광인터커넥트
↓
21강
광컴퓨팅
↓
22강
광신경망
즉 광신경망은 갑자기 등장한 기술이 아닙니다.
앞에서 배운 실리콘 포토닉스의 여러 구성요소를 AI 계산에 활용하는 단계라고 볼 수 있습니다.
광신경망과 나노레이저는 어떻게 연결될까?
12강에서 살펴본 나노레이저도 다시 연결됩니다.
광신경망에는 먼저 빛을 만들어내는 광원이 필요합니다.
그 빛을 실리콘 포토닉스 회로로 보내고,
레이저
↓
광변조기
↓
광도파로
↓
MZI / Microring
↓
광검출기
와 같은 구조를 만들 수 있습니다.
따라서 나노레이저와 실리콘 포토닉스가 발전하면 광신경망의 소형화와 집적화에도 영향을 줄 수 있습니다.
이것이 지금까지 작성한 콘텐츠가
반도체 → 나노기술 → 나노레이저 → 실리콘 포토닉스 → 광컴퓨팅 → 광신경망
이라는 하나의 기술적 흐름을 갖는 이유입니다.
앞으로의 광신경망은 어떻게 발전할까?
앞으로의 연구에서는 단순히 광학 행렬곱을 빠르게 하는 것만으로는 충분하지 않습니다.
다음 단계는
더 많은 AI 모델
더 높은 정밀도
더 작은 광칩
더 낮은 전력
더 적은 광전 변환
더 높은 집적도
를 동시에 달성하는 것입니다.
2025년 Light: Science & Applications에는 end-to-end on-chip photonic neural network inference를 확장하는 연구도 발표됐습니다. 이는 광신경망이 개별적인 광학 부품의 실험을 넘어 하나의 칩에서 입력부터 추론까지 연결하는 방향으로 발전하고 있음을 보여줍니다.
또한 2025년 Nature Communications에서는 나노포토닉 매질을 이용해 64 μm² 규모의 초소형 광학 신경망 구조를 구현하고 Iris 분류와 손글씨 인식 실험을 수행한 연구도 발표됐습니다.
22강 핵심 정리
광신경망은 빛을 이용해 인공신경망의 연산을 수행하는 AI 하드웨어 기술입니다.
특히 AI에서 가장 많은 계산량을 차지하는 행렬곱을 광학적으로 수행하는 것이 핵심입니다.
광신경망에서는
MZI
Microring Resonator
WDM
Optical Waveguide
Photodetector
등의 광소자를 결합해 입력과 가중치를 광학적으로 처리할 수 있습니다.
광신경망의 장점은
높은 병렬성
높은 대역폭
낮은 지연시간 가능성
높은 에너지 효율 가능성
입니다.
하지만
정밀도
비선형성
메모리
광전 변환
대규모 집적
등은 여전히 해결해야 할 과제입니다.
최근 Nature와 Nature Photonics, Nature Communications, npj Nanophotonics 등의 연구에서 실제 광칩을 이용한 AI 모델 실행과 광신경망 집적이 계속 발전하고 있다는 점은 주목할 만합니다.
그리고 다음 단계에서는 한 가지 중요한 질문이 남습니다.
“인간의 뇌처럼 스파이크와 이벤트를 이용해 계산한다면 광컴퓨팅은 어떻게 달라질까?”
다음 23강에서는 뉴로모픽 컴퓨팅과 광컴퓨팅을 결합한 ‘광 뉴로모픽 컴퓨팅’을 살펴보겠습니다.
22강 참고문헌
- Zhang, H. et al. “Integrated platforms and techniques for photonic neural networks.” npj Nanophotonics 2, 40 (2025).
- “Optical neural networks: progress and challenges.” Light: Science & Applications 13 (2024).
- Ahmed, S. R. et al. “Universal photonic artificial intelligence acceleration.” Nature 640, 368–374 (2025).
- Meng, X. et al. “Digital-analog hybrid matrix multiplication processor for optical neural networks.” Nature Communications 16, 7465 (2025).
- “Single-chip photonic deep neural network with forward-only training.” Nature Photonics (2024).
- “A complete photonic integrated neuron for nonlinear all-optical computing.” Nature Computational Science (2025).
- “Scaling up for end-to-end on-chip photonic neural network inference.” Light: Science & Applications 14, 328 (2025).
- Farmakidis, N., Dong, B. & Bhaskaran, H. “Integrated photonic neuromorphic computing: opportunities and challenges.” Nature Reviews Electrical Engineering 1, 358–373 (2024).
- “Direct tensor processing with coherent light.” Nature Photonics (2025).
- Guo, X. et al. “High computational density nanophotonic media for machine learning inference.” Nature Communications 16, 10297 (2025).
유트
