컨텍스트 윈도우Context Window
Context Window
모델이 한 번의 처리에서 참고할 수 있는 정보의 최대 범위예요.
쉽게 비유하면
책상 위에 한꺼번에 펼쳐 놓을 수 있는 자료의 양과 같아요.
조금 더 자세히
시스템 지시, 대화 기록, 문서, 도구 결과 등이 이 범위를 차지해요. 보통 토큰으로 표시하며, 많은 모델에서는 생성할 출력까지 고려해 공간을 배분해야 해요.
한도를 넘으면 요청이 거절되거나 앱이 일부를 자르거나 요약할 수 있어요. 범위 안에 들어간 정보도 모델이 모두 정확히 활용한다는 보장은 없어요.
왜 생겼나요
긴 대화와 문서를 다루려면 정보량과 연산 비용을 관리해야 해서, 모델이 한 번에 다룰 수 있는 범위를 구분해요.
어떻게 작동하나요
- 1. 구성 지시문, 대화, 참고 자료를 모아요.
- 2. 예산 확인 입력량과 필요한 출력 공간을 모델 한도와 비교해요.
- 3. 정보 정리 필요한 내용만 검색하거나 요약해서 전달해요.
활용 예시
- 회의록 여러 개 함께 분석
- 긴 대화 이어 가기
- 여러 파일을 참고한 코드 수정
흔한 오해
컨텍스트 윈도우가 크면 영구적으로 기억하나요?
현재 처리에서 참고할 공간일 뿐이에요. 장기 기억은 앱이 별도로 저장하고 다시 불러오는 구조가 필요해요.
이렇게 쓰여요
문서 분석 설계
자료가 길 때 “컨텍스트 윈도우에 전부 넣기보다 필요한 부분을 검색해서 넘기자”라고 이야기할 수 있어요.
관련 용어
함께 보면 좋은 용어
최종 업데이트