AI가 앞에 한 말을 잊을 때: 긴 대화 관리하는 법
한 대화에서 오래 작업하다 보면 이상한 순간이 옵니다. 처음에 분명 "존댓말로"라고 했는데 어느새 반말 섞인 답이 나오고, 앞에서 정한 제목을 다른 이름으로 부르고, 이미 뺀 내용을 다시 넣습니다. AI가 갑자기 대충 일하는 것처럼 보이지만 대개 대화가 길어져서 생기는 일입니다.
왜 앞의 내용을 놓칠까
AI는 대화를 이어 갈 때 지금까지 오간 내용을 함께 읽고 답합니다. 그런데 한 번에 다룰 수 있는 분량에는 한계가 있고, 그 한계는 서비스와 요금제마다 다릅니다. 대화가 아주 길어지면 앞부분이 잘려 나가거나, 한계 안에 있더라도 오래전 내용이 덜 반영되는 일이 생깁니다.
사람도 두 시간짜리 회의 끝무렵에는 처음에 정한 걸 헷갈리곤 합니다. 차이가 있다면 AI는 헷갈렸다는 티를 잘 내지 않는다는 점입니다. 그래서 답이 미묘하게 어긋나기 시작했다면 대화 길이를 의심해 보는 게 좋습니다.
이런 신호가 보이면
긴 대화에서 흔히 보이는 신호가 있습니다.
- 처음에 정한 말투나 형식이 슬그머니 바뀐다
- 앞에서 정한 이름, 숫자, 용어를 다르게 쓴다
- 이미 고친 부분을 고치기 전 상태로 되돌린다
- 같은 제안을 여러 번 반복한다
하나만 보이면 지적하고 넘어가면 되지만, 여러 개가 겹치기 시작하면 정리할 때가 된 겁니다.
지적할 때는 무엇이 달라졌는지 구체적으로 말해 주세요. "아까랑 다르잖아"보다 "제목을 '봄 축제 안내'로 정했는데 지금은 '봄맞이 행사'로 바뀌었어. 원래대로 돌려 줘"라고 하면 바로 고쳐집니다. 막연하게 지적하면 AI가 엉뚱한 부분을 고치기도 합니다. 고칠 대상이 분명할수록 다른 부분은 건드리지 않고 그 부분만 바뀝니다.
중요한 조건은 다시 한 번 적기
가장 간단한 방법은 중요한 조건을 다시 알려 주는 것입니다.
다시 한 번 정리할게. 대상은 초등학생 학부모, 말투는 존댓말, 한 문단은 세 문장 이내야. 이 조건대로 방금 쓴 문단을 고쳐 줘.
조건을 다시 적는 데 몇 초면 충분하고, 그 뒤로 몇 차례는 답이 안정됩니다. 작업 중간중간 이렇게 짚어 주면 처음 정한 방향에서 크게 벗어나지 않습니다.
중간 정리를 부탁하기
대화가 길어졌다 싶으면 지금까지 정한 내용을 AI에게 정리해 달라고 하세요.
지금까지 우리가 정한 걸 정리해 줘. 확정된 것, 아직 고민 중인 것, 버리기로 한 것으로 나눠서.
정리된 목록을 읽어 보면 AI가 무엇을 기억하고 무엇을 놓쳤는지 한눈에 보입니다. 틀린 부분이 있으면 바로잡고, 이 목록을 기준으로 작업을 이어 가면 됩니다. 정리본은 메모장에 따로 저장해 두세요. 나중에 같은 작업을 이어 할 때 그대로 쓸 수 있습니다.
새 대화로 옮기는 법
조건을 다시 적어도 답이 계속 어긋난다면 새 대화를 여는 편이 빠릅니다. 이때 처음부터 다시 설명하지 말고 앞에서 만든 정리본을 들고 가세요.
이전 대화에서 하던 작업을 이어서 할게. 지금까지 정한 내용은 아래와 같아. 이걸 기준으로 다음 단계인 3장 초안부터 써 줘.
정리본 아래에 지금까지 완성된 결과물을 붙이면 새 대화에서도 같은 흐름으로 작업할 수 있습니다. 이전 대화의 긴 주고받기가 사라져서 오히려 답이 깔끔해지는 경우가 많습니다. 새 대화에서 첫 답을 받으면 정리본의 조건이 잘 반영됐는지 먼저 확인하고, 빠진 게 있으면 그 자리에서 짚어 주세요. 이전 대화는 지우지 말고 남겨 두면 나중에 옛 버전이 필요할 때 다시 찾아볼 수 있습니다.
새 대화를 너무 자주 여는 것도 문제입니다. 첫 답이 별로라는 이유만으로 새 채팅을 열면 그동안 쌓은 맥락을 잃습니다. 짧은 대화에서는 그 자리에서 고쳐 달라고 하는 게 낫고, 새 대화는 대화가 정말 길어졌을 때 쓰는 카드입니다. 그 자리에서 고치는 요령은 첫 답이 별로일 때에 정리해 두었습니다.
길어진 대화에서 확인할 것
긴 대화 끝에 받은 결과물은 한 번 더 살펴보세요. 특히 숫자와 이름은 앞에서 정한 것과 같은지 확인이 필요합니다. 대화 초반에 "예산은 300만 원"이라고 했는데 마지막 정리본에 다른 숫자가 들어가 있는 경우가 생각보다 흔합니다.
이럴 때 AI에게 스스로 점검을 시키는 방법도 있습니다.
이 대화 처음에 내가 준 조건들과 지금 결과물을 비교해서, 조건과 다른 부분이 있으면 알려 줘.
AI가 앞부분을 이미 놓친 상태라면 이 점검도 완벽하지 않습니다. 그래서 가장 확실한 건 내가 메모해 둔 조건과 직접 대조하는 것입니다. 중요한 작업일수록 처음 정한 조건을 대화 밖에 따로 적어 두세요.
처음부터 길어질 작업이라면
책 한 권 분량의 원고나 여러 장으로 된 보고서처럼 처음부터 길어질 게 뻔한 작업이라면 시작할 때 구조를 나눠 두면 편합니다. 목차를 먼저 정하고, 장마다 새 대화를 열되 첫 메시지에 전체 목차와 공통 조건을 붙이는 식입니다. 대화가 장별로 나뉘어 있으면 나중에 특정 부분을 다시 찾을 때도 수월합니다.
대화방이 여러 개로 늘어나면 이름을 붙여 두는 습관이 도움이 됩니다. "보고서 3장"처럼 알아볼 수 있게 이름을 바꿔 두면 다음 날 찾는 시간이 줄어듭니다. 대화 목록을 정리하는 요령은 AI 대화방 정리법에서 더 다뤘습니다.
중간 정리를 자주 부탁하는 사람이라면 AI 대화 연말 결산의 자주 쓴 말버릇에 '정리해줘'가 올라와 있을지도 모릅니다. 대화 중에 "다시", "이어서"로 다듬는 비율은 'AI 조련 실력'의 '다듬기' 항목에서 볼 수 있습니다.