AI와 일하는 법, ‘시켜먹기’ 대신 ‘같이 일하기’로 바꾸세요
AI 써보라는 말은 많이 듣는데, 막상 열어두면 뭘 시켜야 할지 모르겠다는 분들 많죠. 자판기처럼 시키는 방식으로는 결과가 안 나옵니다. 동료처럼 같이 일하는 법과 흔한 실수 5가지, 잘 쓰는 사람들의 패턴을 정리했습니다.

2편: AI 시대 경력직 파트타임
3편: AI가 대체하는 건 업무다
4편: AI 리스킬링, 기다리면 지는 이유
5편: AI 리터러시, 연봉 56%의 가치
▶ 6편: AI와 일하는 법 (이 글)
대부분의 회사에서, 그리고 인터넷 곳곳에서 "AI 써라, AI 써라" 하는 말을 많이 듣습니다. 그런데 막상 ChatGPT나 Claude를 열어두고 나면, 뭘 어떻게 시켜야 할지 막막했던 경험, 다들 한 번쯤 있으실 겁니다. AI와 일하는 법은 단순한 도구 사용법이 아니라, 일하는 방식 자체에 관한 이야기입니다.
"보고서 만들어줘"라고 한 줄 던져보고, 결과가 영 아니어서 "역시 AI는 별거 아니네" 하고 창을 닫아버린 적도 있을 겁니다. AI가 별거 아닌 게 아니라, 사용 방식이 잘못된 경우가 대부분입니다. MIT Sloan 연구에 따르면 AI 결과물 품질의 절반은 모델 성능이 아니라 사용자의 프롬프트 방식에 달려 있습니다. 같은 AI라도 어떻게 쓰느냐에 따라 결과가 몇 배씩 달라지는 셈입니다.
AI와 일하는 법 — 자판기가 아니라 동료입니다
가장 흔한 실수가 AI를 자판기처럼 대하는 것입니다. 동전 넣으면 음료 나오듯, 명령 한 줄 던지면 완성된 결과가 튀어나올 거라 기대하는 거죠.
AI야, 이번 분기 매출 보고서 만들어줘.
이런 식으로 던졌을 때 좋은 결과가 나올 리 없습니다. AI는 자판기가 아니라 "같이 일하는 동료"에 가깝기 때문입니다.
직원에게 일을 맡기는 상황을 생각해 봅시다. "보고서 만들어줘" 한 마디만 하고 자리를 뜨지는 않을 겁니다. 어떤 형식이 필요한지, 어떤 데이터를 써야 하는지, 누구에게 보고할 건지 같은 맥락을 먼저 공유합니다. AI와 일하는 법도 똑같습니다.
AI 쓸 때 가장 자주 하는 실수 5가지
실제 업무에서 관찰해 보면, AI를 잘 못 쓰는 사람들은 비슷한 실수를 반복합니다.
| 실수 유형 | 잘못된 예시 | 결과 |
|---|---|---|
| 맥락 없이 던지기 | "메일 답장 써줘" | 어디서 본 듯한 일반론 |
| AI의 되묻기 무시 | AI: "어떤 톤으로?" → "그냥 해줘" | 상황에 안 맞는 결과 |
| 모호한 피드백 | "이상해, 다시 해줘" | 같은 실수 반복 |
| 한 번에 다 시키기 | "사업계획서 전체 써줘" | 깊이 없는 개요 |
| 검증 없이 사용 | 숫자·통계 그대로 인용 | 잘못된 정보 확산 |
특히 다섯 번째, 검증 없이 그대로 쓰는 건 꽤 위험한 습관입니다. 2026년 연구에 따르면 AI의 일반 과제 환각률(hallucination rate)은 15~52%에 달합니다. AI는 그럴듯하게 틀린 숫자를 만들어내는 데 능숙하기 때문에, 통계나 수치는 반드시 한 번 더 확인해야 합니다.
잘 쓰는 사람과 못 쓰는 사람의 결정적 차이
같은 도구를 써도 결과가 달라지는 이유는 단순합니다. 적절한 맥락을 구조적으로 주는가의 차이입니다.
나쁜 프롬프트
고객 항의 메일에 답장해줘.
이렇게 던지면 AI는 일반적인 사과 템플릿을 뽑아냅니다. 누가 봐도 "AI가 쓴 티" 나는 그런 메일이죠.
좋은 프롬프트
아래는 우리 고객이 보낸 항의 메일입니다. [메일 본문 붙여넣기]
이 분은 3년 된 장기 고객이고, 반복 구매 비율이 높은 분입니다. 사과 + 구체적 해결방안(환불 또는 교환 옵션 제시) + 재발 방지 약속을 포함해서 답장 초안을 써주세요. 톤은 너무 격식 차리지 말고, 진심이 느껴지는 정중한 정도면 좋겠습니다.
같은 AI에게 같은 종류의 일을 시켰지만, 결과 품질은 비교가 안 됩니다. 핵심은 AI가 일을 잘하도록 필요한 정보를 구조적으로 전달하는 것입니다. 2026년 프롬프트 엔지니어링 연구에 따르면 맥락은 많을수록 좋은 게 아니라, 적절한 맥락을 150~300단어 정도로 구조적으로 줄 때 최상의 결과가 나옵니다.
AI와 일하는 법 — 3가지 핵심 스킬
수많은 시행착오 끝에 정리한 핵심 스킬은 세 가지입니다.
- 대화 설계 능력: 한 번에 완벽한 답을 기대하지 말고, "질문 → AI 되묻기 → 초안 → 피드백 → 수정"의 흐름을 자연스럽게 받아들이는 능력
- 자료 제공 능력: 메일 원문, 화면 캡처, 관련 문서를 그대로 붙여넣어 AI가 판단할 재료를 충분히 주는 능력. AI 지침을 파일로 관리하면 달라지는 것들에서 자세히 다뤘습니다
- 업무 설명 능력: "내가 지금 무슨 일을 하고 있는지"를 AI에게 설명할 수 있는 능력 — 사실상 가장 중요한 스킬
세 번째가 가장 어렵습니다. AI를 잘 쓰는 사람은 프롬프트를 잘 쓰는 사람이 아니라, 자기 업무를 잘 설명할 줄 아는 사람입니다. 개발자와 대화하는 법에서 다뤘던 "상대방이 이해할 수 있도록 맥락을 전달하는 능력"과 본질적으로 같습니다.
AI와 일하는 법 — 업무 설명이 핵심입니다
BCG의 2025년 보고서에 따르면, AI 도구 사용률은 빠르게 증가했지만 실질적 성과로 이어지지 않는 경우가 많았습니다. ManpowerGroup 조사에서도 AI를 접한 직장인의 56%가 별도 교육 없이 방치되고 있었습니다. 도구 접근성이 아니라 활용 방식이 병목인 셈입니다.
AI와 일하는 법의 핵심을 한 줄로 줄이면 이렇습니다.
AI 활용 능력 = 프롬프트 기술이 아니라, 자기 업무를 설명하는 능력
내가 지금 무슨 일을 왜 하고 있는지, 어떤 결과물이 필요한지, 누가 볼 건지, 어떤 톤이어야 하는지를 명확하게 설명할 수 있다면, 어떤 AI를 써도 결과는 일정 수준 이상으로 나옵니다. 반대로 자기 일을 본인도 명확하게 설명 못 하는 상태에서 AI에게 던지면, 최신 모델을 써도 결과는 비슷하게 애매합니다.
5편에서 다룬 AI 리터러시의 56% 프리미엄도 결국 이 능력에서 비롯됩니다. 도구를 다루는 기술이 아니라, 업무를 구조화하고 전달하는 능력이 연봉 차이를 만드는 것입니다.
AI와 일하는 법, 정리
AI와 일하는 법은 새로운 기술 학습이라기보다 일하는 방식의 전환에 가깝습니다. 자판기에 동전 넣듯 명령 한 줄 던지는 방식으로는 AI의 진짜 가치를 끌어내기 어렵습니다. 오늘부터는 AI를 "동료"로 대해보시길 권합니다. 맥락을 공유하고, 자료를 구조적으로 주고, 되묻는 질문에 성실히 답하고, 결과에 구체적으로 피드백하면 됩니다. 이 흐름이 손에 익는 순간, AI와 일하는 법을 진짜로 체득한 셈입니다.