진화하는 Rowhammer: DDR5와 PRAC조차 뚫리는 하드웨어 보안의 임계점

1. 메모리 미세화와 로우해머 위협의 재림

그동안 하드웨어 보안 업계는 DDR5의 등장이 Rowhammer(로우해머) 위협의 종말을 고할 것이라 믿어왔어요. 제조사들이 메모리 내부에 탑재한 Target Row Refresh(TRR) 기술이 철옹성 같은 방어막을 형성해줄 것이라는 기대 덕분이었지요.

하지만 최근 발표된 일련의 연구들은 이러한 믿음이 얼마나 위험한 낙관론이었는지를 여실히 보여주고 있어요. 우리는 이제 ‘하드웨어는 안전하다’는 맹목적인 신뢰에서 벗어나, 더욱 교묘해진 공격 벡터를 직시해야 할 시점에 서 있습니다.

기술적 관점에서의 핵심 분석

2025년 보안 생태계를 뒤흔든 핵심 위협 중 하나는 바로 Phoenix(피닉스) 공격의 등장이에요. 이 공격 기법은 기존 TRR이 채택한 샘플링 기반 방어 로직의 허점을 정밀하게 파고들어 비트 플립(Bit-flip)을 유도합니다.

특히 SK하이닉스의 DDR5 모듈 15종을 대상으로 진행된 전수 테스트 결과, 모든 모델이 Phoenix 공격에 취약하다는 사실이 밝혀졌어요. 이는 제조사가 블랙박스 형태로 숨겨놓은 보안 완화책이 얼마나 쉽게 무너질 수 있는지를 상징적으로 보여줍니다.

“제조사의 폐쇄적인 방어 전략은 보안의 불투명성을 가중시킬 뿐, 결코 근본적인 해결책이 될 수 없습니다. 이제는 하드웨어 보안 모델을 ‘신뢰’에서 ‘검증’의 영역으로 옮겨야 합니다.”

2. DDR5 TRR 하드웨어 방어 기술의 붕괴

공격의 범위는 비단 시스템 메인 메모리에만 국한되지 않아요. 토론토 대학교 연구진이 발표한 ‘GPUBreach’는 GPU의 GDDR6 메모리 역시 Rowhammer 공격으로부터 자유롭지 않다는 점을 입증해냈습니다.

GPU 메모리의 오염은 단순히 데이터 변조를 넘어, 시스템의 루트(Root) 권한을 탈취당할 수 있는 치명적인 경로를 제공해요. 이는 고성능 컴퓨팅(HPC)과 AI 인프라를 운영하는 클라우드 사업자들에게 전례 없는 수준의 위협으로 다가오고 있습니다.

3. PRAC 및 실무적 방어 전략의 실효성

이러한 보안 사각지대를 해결하기 위해 마이크로소프트는 PRAC(Per-Row Activation Counting)라는 야심 찬 기술을 제안했어요. Project STEMA(Panopticon) 기술에 기반한 이 방식은 DRAM 내에서 각 행의 활성화 횟수를 직접 카운팅하여 공격을 사전에 차단하고자 합니다.

하지만 PRAC 역시 표준화 과정에서의 진통으로 인해 현장 적용에는 한계가 있는 상황이에요. 제이덱(JEDEC) 표준의 공백과 제조사별 구현 방식의 차이는 공격자들에게 또 다른 우회 경로를 제공하는 빌미가 되고 있습니다.

4. 미래의 실리콘 레벨 메모리 보안 아키텍처

우리는 이제 하드웨어 보안을 바라보는 시각을 근본적으로 바꾸어야 해요. CVE-2025-6202 식별자로 대표되는 최신 취약점들은 더 이상 소프트웨어 패치만으로는 완벽히 해결될 수 없다는 사실을 경고하고 있습니다.

실무적으로 가장 확실한 대응책은 성능 하락을 감수하더라도 메모리 리프레시 주기(tREFI)를 기존보다 3배 이상 단축하는 것이에요. 약 8.4%의 성능 손실이 발생하겠지만, 데이터 무결성과 시스템 안정성을 담보하기 위해서는 피할 수 없는 선택지라 할 수 있습니다.

나아가 기업의 CTO와 보안 아키텍트들은 ‘Zero Trust’ 기반의 하드웨어 검증 체계를 구축해야 합니다. 제조사의 홍보 문구에 의존하기보다는, 독립적인 보안 감사를 통해 자사 하드웨어의 취약성을 상시 점검하는 프로세스가 필요해요.

스위스 국립 사이버 보안 센터(NCSC)의 책임 있는 공개 프로세스처럼, 글로벌 보안 생태계와의 긴밀한 협력도 필수적입니다. 정보의 불균형을 해소하고 위협 정보를 실시간으로 공유할 때 비로소 하드웨어 보안의 임계점을 넘어설 수 있기 때문이지요.

하드웨어 보안은 멈춰있는 성벽이 아니라, 공격자와 방어자가 끊임없이 수 싸움을 벌이는 동적인 전장입니다. DDR5와 PRAC가 보여준 한계를 교훈 삼아, 우리는 더욱 견고하고 투명한 보안 생태계를 설계해 나가야 할 것입니다.