어디까지 맡기고 어디서 멈추나 — 경계 선긋기

AI에게 무엇을 맡길지 정하기 전에, 맡기지 않을 것부터 적습니다. 되돌릴 수 없는 외부 행동, 평판과 신앙의 입장이 걸린 공개, 내가 지켜 온 관행 — 이 셋을 「멈추는 선」 세 줄로 적어 AI 대화 첫머리에 붙입니다. 설치할 것은 없고, 10분이면 됩니다.

AI가 일을 척척 해내는 모습을 보면, 다 맡기고 싶어집니다. 그 전에 먼저 그어 둘 선이 있습니다.

이 칸을 마치면, AI 대화 첫머리에 붙일 「멈추는 선」 세 줄을 갖게 됩니다. 설치할 것은 없습니다. 종이 한 장과, 지금 쓰는 AI 채팅 창이면 됩니다.

저는 강의 하나를 이 문장으로 닫았습니다. 맡기되, 도장은 사람이 찍습니다. 그 강의의 설문에서 AI에게 절대 맡기면 안 되는 일을 물었더니, 답이 「최종」과 「사람」으로 모였습니다. 세 줄은 도장을 찍을 자리를 미리 정해 두는 일입니다.

첫째 줄은 되돌릴 수 없는 외부 행동입니다. 보내기, 공개하기, 영구 삭제처럼, 한 번 나가면 거둘 수 없는 일입니다. 기준은 하나, 틀렸을 때 되돌릴 수 있는가입니다.

둘째 줄은 평판과 신앙의 입장이 걸린 공개입니다. 내 이름과 신앙의 입장이 드러나는 글은, 밖에 내기 전에 AI가 먼저 묻게 합니다.

셋째 줄은 내가 지켜 온 관행입니다. 저는 성경 본문을 늘 개역개정으로 씁니다. 그런데 AI가 저작권을 이유로, 선의로 다른 역본을 넣은 적이 있습니다. 문제는 역본이 아니라, 그 선택을 AI가 대신 바꿨다는 데 있었습니다. 관행은 내가 정하고, AI는 바꾸기 전에 묻습니다.

이 아틀라스도 같은 선을 지킵니다. 저장소를 만들고, 처음 올리고, 공개로 바꾸는 버튼은 사람이 누릅니다.

처음 하는 분이 놓치기 쉬운 것이 하나 있습니다. 대화 첫머리에 붙인 세 줄은, 그 대화 안에서만 통한다고 생각하세요. 새 대화를 열 때마다 다시 붙입니다.

대화마다 붙이는 이 세 줄은, 나중에 AI가 늘 읽는 규칙서로 옮겨 갑니다. 다음 칸에서는 그 규칙서를 「누구로서, 왜」에서 시작하는 순서를 봅니다. 막히면 이 페이지 아래 묻기 칸에 남겨 주세요.

세 줄 한눈에

첫째 줄의 기준은 「권한을 줄까 말까」가 아니라 「틀렸을 때 되돌릴 수 있나」입니다. 되돌릴 수 있는 일은 되돌리기 수단(예: 스냅샷)을 먼저 만들어 두고 넓게 맡깁니다. 밖으로 나가는 것(동기화·발송·발행)은 되돌릴 수 없으니 따로 묶어 두고, 감수할지는 사람이 정합니다.

셋째 줄은 AI가 선의로 바꿀 때가 문제입니다. 저작권·안전·효율 같은 좋은 이유가 있어도, 관행을 바꾸기 전에는 먼저 묻게 합니다. 성경 본문이라면 역본을 바꾸지 말고 장·절 참조로 두거나, 내가 붙여 준 본문을 쓰겠다고 먼저 말하게 합니다.

빈 양식: 멈추는 선 세 줄 양식 (stop_lines.txt)

선을 그으면, 나머지는 맡길 수 있다

선이 분명하면 나머지는 단계마다 묻지 않고 진행하게 해도 됩니다. 제작자는 이렇게 씁니다.

• 「계속 진행」이라고 하면, 그 대화 안에서는 단계마다 확인받지 않고 AI가 스스로 판단해 이어 간다.
• 단, 세 줄에 걸리는 것은 여전히 먼저 묻는다.
• 갈림길에서는 멈추지 않고 「○○ 쪽으로 진행합니다」처럼 한 줄로 알리고 간다.
• 스스로 정한 것은 끝에 「자체 판단으로 ○○ 함」으로 적어 보고한다.
• 이 약속은 그 대화 안에서만 통한다. 새 대화에서는 다시 처음 흐름으로 돌아간다.

지우기 전에 먼저 보는 것

「필요 없어 보인다」던 것을 지울 뻔한 적이 있습니다. 쓰지 않는 설정처럼 보인 것이 실제로 돌아가는 구성이었고, 정보가 비어 「깨진 잔해」로 보인 큰 녹화 파일은 다섯 시간 가까운 회의 녹화였습니다. 그래서 영구 삭제 앞에서는 세 가지를 먼저 봅니다.

• 기록을 먼저 찾아본다 — 이것을 만들었거나 쓴다고 적어 둔 곳이 있는가.
• 내용을 직접 열어 본다 — 이름·크기·빈 정보만으로 판정하지 않는다.
• 열려 있는 것을 먼저 확인한다 — 앱을 강제로 닫기 전에 열린 문서가 있는지 보고, 있으면 닫지 않고 묻는다.

함께 그을 선 — 무엇을 넣어도 되나

멈추는 선이 「AI가 할 일」의 경계라면, 이것은 「AI에게 넣을 것」의 경계입니다(강의, 가공).

잘 모르겠으면 🔴로 칩니다. 헷갈리는 동안은 넣지 않습니다.

더 읽기

• 역할보다 정체성이 먼저 — AI 규칙서의 첫 줄은 WHY — 다음 칸. 규칙서를 「누구로서, 왜」에서 시작하는 순서.
• 권한은 막는 게 아니라 되돌릴 수 있게 — 되돌리기 가능성이 기준 — 첫째 줄의 기준 「틀렸을 때 되돌릴 수 있나」를 더 깊게.
• 내 AI에게 나를 알려주는 한 장 — CLAUDE.md — 대화마다 붙이던 설명을 파일 한 장으로 옮기는 곳.

출처: 강의(가공) · 강의 설문(가공) · 제작자의 작업 기록에서 일반화한 교훈.