맥락과 기억

복습: RTCF 프레임워크

3레슨에서 우리는 역할-작업-맥락-형식으로 구조화된 프롬프트를 배웠어요. 그런데 혼자 던지는 프롬프트뿐만 아니라, AI와 계속 대화할 때는 어떻게 해야 할까요?

바로 맥락이 더 깊어져야 해요.

이 레슨이 끝나면 여러분은 이것들을 할 수 있어요:

AI의 메모리가 어떻게 제한되어 있는지 이해하기
맥락 제공을 완벽하게 하기
Few-shot 프롬프팅으로 예시만 보여줘도 AI가 따라 하게 하기
긴 대화에서 AI를 제대로 방향 지키게 하기

AI의 기억은 어떻게 작동할까요?

여기서 중요한 사실을 알아야 해요: AI는 현재 대화에 있는 것만 “기억"해요. 과거 대화는 영구적으로 사라져요.

2레슨에서 배운 컨텍스트 윈도우를 기억하나요? AI가 한 번에 볼 수 있는 모든 텍스트의 양이 정해져 있다는 거요.

당신이 “안녕, 이게 뭐하는 건데?” 하고 물었고, AI가 답했어요. 그럼 지금 컨텍스트는:

당신이 한 말
AI가 한 말

이 둘이 전부예요.

당신이 다시 “근데 왜 그렇게 작동해?” 하고 물으면:

당신이 한 말 (처음)
AI가 한 말 (처음)
당신이 한 말 (두 번째)
AI가 한 말 (두 번째)

이제 이 네 가지가 다 컨텍스트에 들어가요. 그리고 AI는 이 전체를 새로 읽고 답변을 만들어요. 긴 역사를 기억하는 게 아니라, 매번 새로 읽는 거죠.

왜 이게 중요한가?

대화가 길어질수록, 컨텍스트 공간이 줄어들어요. 그래서:

처음에 제공한 맥락이 점점 “멀어져"요 — 최근 메시지들이 더 영향력이 커요
AI가 원래 목표를 잊을 수 있어요 — 특히 많은 질문을 하거나, 깊이 들어갈 때
너무 많은 정보를 제공하면 낭비돼요 — 처음엔 없던 정보가 나중에 필요할 수 있어요

맥락 제공의 기술: 효과적인 방법들

효과적으로 맥락을 제공하는 몇 가지 방법을 알아봐요:

방법	언제 써요	예시
시스템 메시지	대화의 기본 성격을 정할 때	“당신은 한국 IT 전문가예요. 항상 해요체로 말해요.”
배경 정보 블록	처음에 한 번만 필요한 정보들	“우리 팀: 5명, 기술 스택: React, Node.js, MongoDB”
목표 선언	뭘 하려고 하는지 명시	“우리의 목표는 사용자 경험을 개선하는 거야.”
역할 명시	AI가 어떤 입장에서 도와야 하는지	“당신은 이 프로젝트의 기술 리더역할을 해 줄래.”
제약 명시	피해야 할 것들을 명확히	“기술적으로 복잡한 설명은 피하고, 비기술자도 이해할 수 있게 해 줄래.”

Few-Shot 프롬프팅: 말보다 보여주기

대화하다 보면 이런 상황이 있어요. “이런 스타일로 해 줄래” 하고 설명해 봤는데, 계속 설명과 다르게 돌려줘요.

여기가 Few-Shot 프롬프팅이 빛나는 순간이에요.

Long 설명 쓰고 구체적인 예시 1~3개를 보여주세요. AI는 예시에서 패턴을 배우는 게 훨씬 빨라요.

실제 비교:

❌ 설명만 하는 방식:

“우리 팀의 회의 노트를 정리해 줄래. 각 주제마다 결정 사항, 액션 아이템, 담당자를 분리해서 정리해 줄래. 너무 길지 말고 핵심만 넣어 줄래.”

✅ Few-shot 방식:

“우리 팀의 회의 노트를 정리해 줄래. 이런 형식으로:
주제: [주제명]
결정: [뭘 결정했나]
액션: [누가 뭘 할 건가]
담당자: [누가]
예시:
주제: 3월 마케팅 캠페인
결정: SNS 중심으로 진행하기로 했어요
액션: 콘텐츠 캘린더 만들기, 디자인 템플릿 정하기
담당자: 마케팅팀 리더 (김미영), 디자인팀 (박준호)
주제: 제품 버그 수정
결정: 심각한 것 3개부터 먼저 고치기로
액션: 버그 트래킹 시스템에 우선순위 입력하기
담당자: 개발팀 (이준명)
이 방식으로 정리해 줄 수 있어?”

두 번째 방식이 훨씬 더 명확하죠? AI가 “아, 이렇게 구조를 만들어야 하는구나” 하고 바로 이해해요.

긴 대화 관리하기

실제로 AI와 긴 프로젝트를 할 때, 이런 전략들이 도움이 돼요:

1. 처음에 맥락을 완전히 설정해요

당신의 목표, 제약, 기대를 분명히 말해요
“지금부터 우리가 [프로젝트명]을 해 볼 거야. 목표는 [뭔가]. 당신의 역할은 [뭔가]야”

2. 중간에 목표를 상기시켜요

대화가 길어지면: “다시 정리하면, 우리 원래 목표는 [뭔가]였어. 지금까지 [뭘] 했고, 다음으로 [뭘] 해야 해”
AI가 길을 잃었을 때는 부드럽게 방향을 다시 잡아 줘요

3. 새로운 화제로 들어갈 때 명확하게 해요

“이제 새로운 주제인데… [주제 설명]”
이전 맥락과 다르다는 걸 알려줘요

4. 정말 중요한 정보는 계속 포함시켜요

특정 제약, 전제 조건, 중요한 배경은 여러 번 언급해도 괜찮아요
AI에게는 “또 나왔네” 느낌이 아니라 “아, 계속 중요하다는 거네” 느낌이 들어요

5. 긴 대화는 끊을 생각도 해 봐요

한 대화가 정말 길어지면, 새로운 대화를 시작하고 이전 대화의 결과를 요약해서 붙여넣는 것도 나쁘지 않아요
컨텍스트를 깔끔하게 리셋할 수 있거든요

직접 해보기: 맥락 로딩 연습

지금 한 번 해봐요. 당신이 AI와 나눌 실제 복잡한 프로젝트를 생각하고:

처음 메시지를 작성해 봐요 (전체 맥락 포함)
- 목표는 뭔가?
- 제약은?
- AI의 역할은?
- 어디서부터 시작할 건가?
두 번째 질문을 준비해 봐요 (앞의 답변을 받은 후)
- 처음 맥락의 중요한 부분을 다시 언급해야 하나?
- 아니면 이미 충분한가?
세 번째 질문을 준비해 봐요 (더 깊이 들어갈 때)
- 새로운 방향이라면, 이전 맥락이 계속 필요한가?
- 목표를 다시 상기시켜 줘야 하나?

이렇게 생각해 봤으면, 실제로 한 번 시험해 봐요. 결과가 당신의 기대와 맞는지 확인해 봐요.

핵심 정리

AI의 메모리는 현재 대화에서만 작동해요 — 과거 대화는 사라져요
맥락을 효과적으로 제공하는 방법들이 있어요 (시스템 메시지, 배경 정보, 목표 선언 등등)
Few-shot 프롬프팅은 말보다 예시를 보여주는 게 훨씬 강력해요
긴 대화에서는 중간중간 목표를 상기시키고 중요한 맥락을 반복해요
맥락 관리가 좋아질수록, AI의 답변의 질과 일관성이 훨씬 좋아져요

다음 레슨 미리보기

이제 당신은 AI와 깊이 있는 대화를 나눌 수 있어요. 5레슨에서는 AI에게 원하는 형식으로 답변을 받아내는 기법들을 배워봅시다. 이메일, 리스트, JSON, 마크다운—뭐든 원하는 형식으로 받을 수 있어요. 기대해 봐요!