컨텍스트 윈도우이란?

사전적 정의 (Dictionary Definition)

인공지능 모델이 한 번의 추론 과정에서 동시에 처리하고 이해할 수 있는 데이터의 최대 범위를 의미합니다. 텍스트의 최소 단위인 토큰(Token)의 개수로 크기가 결정되며, 모델이 대화의 맥락이나 입력된 정보를 얼마나 광범위하게 참조할 수 있는지를 나타내는 작업 기억 공간의 지표입니다.

실무 사용 예시 (Practical Use Case)

수백 페이지 분량의 법률 계약서나 기술 문서를 한 번에 입력하여 전체 내용을 요약하거나, 복잡한 소프트웨어 프로젝트의 소스 코드 전체를 업로드하여 시스템 간의 의존성을 분석하고 오류를 수정하는 과정에서 핵심적으로 활용됩니다.

관련 단어 (Related Words)

토큰(Token), 거대 언어 모델(LLM), 주의 집중 메커니즘(Attention Mechanism)