빛이 행렬을 계산하는 날: 광자 AI 칩이 데이터센터 전력 1/100에 도전한다

1. Future Diary (2029년 10월 23일, 경기도 성남시 판교 제2테크노밸리 광자 AI 데이터센터)

“이 서버는 더 빨리 계산하는 게 아니라 계산하러 가는 길을 없앱니다. 전기 신호가 메모리와 연산기 사이를 왕복하는 동안 여기서는 빛이 한 번 지나가며 곱셈과 덧셈을 끝냅니다.” — 국내 광자 가속기 스타트업의 시스템 아키텍트 윤서진

오전 8시 17분, 판교 데이터센터의 랙 전면에는 푸른색 대신 가느다란 주황색 상태등이 켜져 있었다. 광자 AI 서버의 광원 모듈이 동작한다는 표시였다. 윤서진 시스템 아키텍트는 기존 GPU 랙 옆에서 손바닥 만한 광자 가속기 카트리지를 꺼냈다. 상단의 실리콘 포토닉스 인터포저 안에서는 여러 파장의 빛이 거의 보이지 않을 정도로 빠르게 흔들리고 있었다.

그는 테스트용 언어모델의 다음 토큰 요청을 실행했다. 전자 가속기에서는 메모리의 가중치가 전기 신호로 이동해 곱셈·누산 유닛을 거친다. 광자 카드에서는 레이저의 여러 파장에 입력과 가중치를 실은 뒤, 마하-젠더 간섭계 배열에서 빛을 보강·상쇄시켜 행렬-벡터 곱을 만든다. 포토다이오드가 결과를 전류로 바꾸자 첫 토큰이 나타났다. 계측기에는 광학 코어의 짧은 지연시간이 표시됐지만 윤 씨는 “이 수치는 칩의 광학 코어 기준입니다. 랙 전체에서 1,000배라고 광고하면 안 됩니다”라고 말했다.

오후에는 512개 세션을 동시에 돌렸다. 광자 랙의 열은 레이저 드라이버와 전원 변환기 주변에 집중됐다. 가속기·광원·메모리·냉각을 합친 전력은 같은 조건의 전자 랙보다 낮았지만 목표인 1/100은 특정 배치와 정적 가중치 구간에서만 접근했다. 빛이 전기를 대체한 것이 아니라, 데이터가 메모리와 연산기 사이를 오가는 병목을 일부 우회한 결과였다.

저녁에는 한 광원 채널의 온도를 올려 자동 재보정 시험을 했다. 소프트웨어가 기준 신호를 다시 주입해 간섭계 위상을 맞추는 동안 출력 분포가 잠시 흔들렸다. 광자는 빠르지만 패키지와 보정 회로는 느리고 예민했다. 2029년의 광자 AI 칩은 전자 반도체의 종말이 아니라, 반복적인 행렬 연산의 일부를 빛에 맡기는 하이브리드 서버의 시작에 가까웠다.

2. 핵심 요약 (Quick Overview & TL;DR)

항목	핵심 내용
핵심 기술	실리콘 포토닉스의 마하-젠더 간섭계·마이크로링 변조기·파장분할다중화로 행렬 연산을 수행하고 전자 제어부가 메모리·정규화·출력을 담당하는 하이브리드 광전자 프로세서
예상 상용화 시점	2029년 데이터센터 추론·통신·라이다처럼 낮은 지연과 반복적인 행렬 연산이 중요한 영역부터 서버 카드로 확산
현재 기술 수준 (2026)	Lightmatter는 2025년 65.5 TOPS 실증을 공개했고 Lightelligence·Stanford는 64×64 광학 행렬-벡터 칩과 1GHz급 동작을 보고했다
결정적 전환	연산 유닛의 클록 경쟁에서 메모리와 연산기 사이의 데이터 이동 횟수와 거리를 줄이는 경쟁으로 중심축 이동
해결 과제	ADC·DAC·레이저 전력, 아날로그 잡음, 온도 보정, 광원 수율, HBM·소프트웨어 호환성, 시스템 단위 벤치마크

전력 1/100과 속도 1,000배는 모든 AI 모델에서 보장되는 제품 수치가 아니다. 광학 코어의 특정 커널에서 가능한 목표치이며 최종 비교는 동일 모델·배치·정밀도·메모리·냉각 조건에서 측정해야 한다.

3. 현재 상황 및 기술적 토대 (2026년 기준)

딥러닝의 큰 계산 덩어리는 행렬 곱이다. 광자 프로세서는 입력 벡터를 광파의 세기·위상·시간 슬롯·파장에 매핑하고 가중치 행렬을 간섭계의 분기비와 위상 지연 또는 공진기의 투과율로 표현한다. 빛이 여러 경로로 나뉘었다 합쳐질 때 출력 세기는 입력과 가중치의 곱을 합산한 값에 대응한다. 파장분할다중화는 같은 광 경로에 여러 채널을 실어 병렬성을 높인다.

하지만 최신 장치도 순수한 올-옵티컬 컴퓨터는 아니다. 레이저 드라이버, 변조기, 포토다이오드, ADC·DAC, SRAM·HBM, 제어 프로세서가 함께 묶인 광전자 시스템이다. MIT 연구진은 단일 칩 광신경망에서 행렬 연산과 비선형 활성화를 한 칩 안에 결합해 나노초급 지연을 시연했다. 층마다 신호를 전기적으로 꺼냈다가 다시 빛으로 만드는 횟수를 줄인 것이 핵심이다.

아날로그 광학의 약점은 정밀도다. 간섭계를 여러 개 통과하면 광손실·잡음·크로스토크가 누적된다. 따라서 2029년 가속기는 모든 값을 32비트로 처리하기보다 4~8비트 입력, 블록 단위 스케일링, 양자화 인식 학습, 디지털 보정을 함께 사용할 가능성이 높다. 디지털-아날로그 하이브리드 MVM 연구는 16비트 이미지 처리와 실제 객체 검출에서 광학 연산의 정밀도 문제를 다루며 광학과 전자 신호 처리를 섞는 설계가 현실적인 경로임을 보여준다.

글로벌 실증과 산업계 동향

Lightmatter의 Universal photonic artificial intelligence acceleration은 여러 칩을 하나의 패키지에 통합해 65.5 TOPS의 ABFP16 연산을 수행하고 ResNet·BERT·Atari 강화학습을 실행했다. 공개된 78W 전기 입력과 1.6W 광 입력은 중요한 기준선이지만 데이터센터 전체 전력이 1/100이 된다는 뜻은 아니다. 변환기·메모리·냉각과 워크로드의 측정 경계를 따로 봐야 한다.

Lightelligence와 Stanford의 대규모 저지연 광자 가속기는 64×64 광학 행렬-벡터 칩에 1만6천 개 이상의 광자 소자를 집적하고 1GHz 동작과 약 3ns 주기 지연을 보고했다. 이는 범용 LLM 완제품이라기보다 낮은 지연이 중요한 반복형 커널과 최적화 문제에서 광학의 장점을 보여준 실증이다.

KAIST·DGIST의 MEMS 기반 프로그래머블 광자 배열은 위상과 결합비를 조정하는 소자의 대기 전력을 낮추는 방향을 제시했다. 이런 연구는 광학 코어 자체보다 제어 회로가 전력을 잡아먹는 문제를 줄이는 데 중요하다. 산업 경쟁의 승자는 가장 빠른 광학 소자보다 광원·전자 제어·메모리·컴파일러·검증 도구를 함께 공급하는 회사가 될 가능성이 높다.

4. 실현 가능성을 높이는 동력과 병목

기술 실현을 앞당기는 동력

1. AI 데이터센터의 전력 벽

생성형 AI가 커질수록 MAC 자체보다 HBM과 가속기 사이의 데이터 이동이 전력과 지연을 좌우한다. 광 인터커넥트와 광자 MVM 코어를 메모리 가까이에 배치하면 같은 데이터를 여러 전기 스위치로 이동시키는 횟수를 줄일 수 있다.

2. CMOS 제조와 첨단 패키징의 결합

실리콘 포토닉스는 CMOS 파운드리와 결합할 수 있고 광자 칩을 2.5D·3D 패키지의 한 다이로 취급할 수 있다. 2029년에는 광원·광자 다이·전자 제어 다이·HBM을 함께 검증하는 패키지 플랫폼이 핵심 경쟁력이 될 것이다.

3. 낮은 정밀도를 수용하는 AI 소프트웨어

양자화·지식 증류·하드웨어 인식 학습은 광학 아날로그 연산에 우호적이다. 검색·추천·비전 전처리·음성 인식처럼 입력과 가중치가 반복되는 추론은 FP32 범용 연산보다 토큰당 에너지와 지연을 먼저 최적화할 여지가 크다.

넘어야 할 장벽

1. 광학 코어와 서버 전체의 수치는 다르다

레이저를 켜고 전기 데이터를 광 신호로 바꾸며 결과를 ADC로 읽어 HBM에 다시 쓰는 비용을 빼면 효율 수치는 달라진다. 1/100과 1,000배를 주장하려면 동일 모델·배치·정밀도·냉각 조건과 측정 경계를 공개해야 한다.

2. 온도·잡음·수율이 회로를 흔든다

실리콘의 굴절률은 온도에 따라 변하고 마이크로링 공진기는 파장 변화에 민감하다. 양산품에는 온도 센서, 기준 광원, 자동 재보정, 출력 오류 감지 회로가 필요하다. 보정 회로가 늘수록 광자 코어의 저전력 이점은 줄어든다.

3. 범용 소프트웨어와 안전 인증이 뒤따라야 한다

CUDA 모델을 광학 데이터플로로 옮기려면 연산 그래프 분할, 정밀도 배정, 비선형 함수 매핑, 장애 채널 우회가 필요하다. 차량·통신 장비에 들어가려면 광원 고장과 출력 드리프트를 감지하는 기능 안전 검증도 통과해야 한다.

5. 산업과 생활의 변화

광자 코어 설계사, 레이저·변조기 업체, 실리콘 포토닉스 파운드리, HBM·첨단 패키징 업체, 광학 컴파일러 기업이 하나의 공급망으로 묶인다. 클라우드 사업자는 GPU 시간당 요금 대신 모델별 토큰당 에너지와 지연시간을 계약하는 추론 서비스를 제공할 수 있다. 금융 리스크 계산, 통신 신호 처리, 라이다 전처리, 추천 시스템처럼 반복적인 행렬 연산이 먼저 시장을 만든다.

사용자가 체감하는 변화는 광자를 보는 것이 아니다. 통역 이어버드의 응답 지연이 줄고 차량의 센서-판단 루프가 짧아지며 개인 비서가 클라우드 왕복 없이 더 많은 추론을 수행하는 방식으로 나타난다. 동시에 광전자 패키지 테스트 엔지니어, 레이저 수명 분석가, 광학 컴파일러 개발자, 아날로그 오류 보정 모델 엔지니어가 새로운 직무로 자리 잡는다.

6. 자주 묻는 질문 (FAQ)

Q1. 광자 AI 반도체가 2029년에 전자 반도체를 대체하나요?

A. 아닙니다. 행렬 곱과 광 인터커넥트처럼 광학에 유리한 구간만 광자 코어가 맡고 메모리·제어·분기·정밀 누산은 전자 회로가 담당하는 하이브리드 구조가 주류일 가능성이 높습니다.

Q2. 전력 1/100과 속도 1,000배는 실제 제품의 보장 수치인가요?

A. 아닙니다. 특정 광학 커널의 목표치에 가깝습니다. 레이저·ADC·DAC·메모리·냉각을 포함한 시스템 전체에서는 모델과 배치에 따라 훨씬 작아질 수 있으며 동일한 워크로드와 측정 경계가 공개될 때만 비교할 수 있습니다.

Q3. 어떤 AI 서비스에서 먼저 쓰이나요?

A. 반복적인 행렬 연산과 초저지연이 중요한 데이터센터 추론, 통신 신호 처리, 라이다·센서 전처리, 추천, 일부 금융 최적화에서 먼저 쓰일 가능성이 높습니다. 대규모 모델의 모든 학습과 범용 운영체제 작업을 광자 칩 하나로 처리하는 시나리오는 2029년에도 현실성이 낮습니다.