기업 AI 교육: ChatGPT 계정 지급에서 업무 정착까지

모든 직원에게 ChatGPT나 Claude 계정을 나눠 주는 것은 쉬운 일입니다. 어려운 것은 사람들이 그것을 실제 업무에, 매주, 안전하게 쓰게 만드는 일입니다. AI가 일상 업무의 일부가 되도록 팀을 교육하는 방법과, 교육이 끝난 뒤에도 그 상태를 유지하는 방법을 정리했습니다.

핵심 요약

기업 AI 교육은 계정 지급이 아니라 매주의 습관을 만들 때 효과가 있습니다. 직무별 실제 업무로 연습하고, 탄탄한 프롬프트 작성 기본기 몇 가지를 가르치고, 승인된 도구와 절대 공유하면 안 되는 데이터를 명시한 한 장짜리 AI 사용 가이드라인을 만들고, AI를 회사 시스템에 연결할 때는 읽기 전용 권한과 사람의 확인부터 시작하고, 교육이 끝난 뒤에도 질문에 답해 줄 사람을 두십시오.

계정만 나눠 주면 왜 정착하지 않을까

계정만으로는 AI가 정착하지 않습니다. 대부분의 직원에게 네 가지가 빠져 있기 때문입니다. 분명한 출발점, 분명한 규칙, 좋은 첫 결과, 그리고 연습할 시간입니다. 흔한 패턴은 이렇습니다. 회사가 라이선스를 사고, 시연회를 열고, 기다립니다. 호기심 많은 몇 명은 매일 AI를 쓰지만, 나머지는 한 번 써 보고 뻔한 답을 받은 뒤 포기합니다. 이유는 예측 가능합니다.

분명한 출발점이 없습니다. “AI로 생산성을 높이세요”는 업무가 아닙니다. 사람들은 자신의 이메일, 보고서, 엑셀에서 AI가 통하는 것을 직접 봐야 합니다.
규칙이 불분명합니다. AI 도구에 무엇을 공유해도 되는지 아무도 말해 주지 않으면 신중한 직원은 아예 쓰지 않고, 덜 신중한 직원은 무엇이든 붙여 넣습니다.
첫 결과가 형편없습니다. 막연한 한 줄짜리 요청에는 막연한 답이 돌아오고, 사람들은 이 도구가 자기 업무에는 쓸모없다고 결론 내립니다.
연습할 시간이 없습니다. 새로운 습관에는 조금이나마 보장된 시간과, 막혔을 때 물어볼 사람이 필요합니다.

직무별 실제 업무에서 시작하기

AI 교육은 일반적인 시연이 아니라 팀마다 시간을 잡아먹는 반복 업무를 중심으로 짜야 합니다. 그러니 교육 전에 팀마다 그런 업무를 적어 달라고 요청하십시오. 대표적인 출발점은 다음과 같습니다.

영업: 공개 정보로 잠재 고객 조사하기, 첫 연락 이메일 초안 쓰기, 통화 전 질문 준비하기, 회의 메모를 다음 할 일로 정리하기.
고객 지원: 자주 묻는 질문에 회사 어조로 답변 초안 쓰기, 고객 메시지 번역하기, 긴 문의 이력 요약하기.
운영·관리: 엑셀 데이터 정리하기, 수식 작성하기, 인보이스나 납품서에서 세부 정보 추출하기, 업무 절차와 체크리스트 초안 쓰기.
경영진: 긴 보고서 요약하기, 회의 안건과 회의록 준비하기, 의사결정 선택지 비교하기, 계획의 빈틈 검토하기.

직무마다 자주 하고, 위험이 낮고, 확인하기 쉬운 업무를 두세 개 고르십시오. 거창한 프로젝트보다 초반의 작은 성공이 더 중요합니다. 민감한 데이터와 자동 실행은 규칙과 도구가 갖춰질 때까지 미뤄 두십시오.

오래 남는 프롬프트 작성 기본기

일상 업무 대부분은 일곱 가지 프롬프트 습관으로 해결됩니다. 맥락 주기, 원하는 결과 설명하기, 자료 제공하기, 예시 보여 주기, 반복해서 다듬기, AI가 먼저 질문하게 하기, 결과 검증하기입니다. 긴 요령 목록은 필요 없습니다. OpenAI의 ChatGPT 프롬프트 엔지니어링 모범 사례와 Anthropic의 Claude 프롬프트 작성 모범 사례는 모두 명확하게 쓰고 맥락을 주는 것을 첫째로 꼽습니다. Anthropic은 Claude를 “여러분의 규범과 워크플로에 대한 맥락이 부족한, 뛰어나지만 새로 입사한 직원”으로 생각하라고 제안합니다. 일곱 가지 습관은 다음과 같습니다.

맥락을 주십시오. 내가 누구이고, 결과물을 누가 읽으며, 왜 필요한지 알려 주십시오. “온라인 가구 쇼핑몰의 고객 지원 담당자입니다. 이 고객은 배송 지연에 화가 나 있습니다”라고 쓰면 “답장 써 줘”보다 훨씬 좋은 초안이 나옵니다.
원하는 결과를 설명하십시오. 분량, 형식, 어조, 언어, 넣을 것과 뺄 것을 적으십시오.
자료를 제공하십시오. AI가 짐작하기를 기대하지 말고, 데이터 규칙의 범위 안에서 텍스트를 붙여 넣거나 파일을 첨부하십시오.
마음에 드는 이메일이나 보고서의 예시를 보여 주십시오.
반복해서 다듬으십시오. 첫 답은 초안으로 보고, 더 짧게, 더 격식 있게, 표로 바꿔 달라고 요청하십시오.
AI가 먼저 묻게 하십시오. “시작하기 전에 필요한 질문이 있으면 먼저 물어봐 줘”라고 하면 빠진 정보가 드러나는 경우가 많습니다.
검증하십시오. AI 어시스턴트는 틀린 사실을 자신 있게 말할 수 있습니다. 이름, 숫자, 날짜, 그리고 고객에게 나갈 모든 내용을 확인하십시오. 보낸 사람이 책임집니다.

슬라이드가 아니라 참가자 각자의 실제 업무로 가르치십시오. 그래야 모두가 다음 날 다시 쓸 프롬프트를 최소 하나씩 들고 돌아갑니다.

데이터 보안과 한 장짜리 AI 사용 가이드라인

회사 데이터를 지키는 가장 간단한 방법은 쉬운 말로 쓴 한 장짜리 사내 AI 사용 가이드라인입니다. 규칙이 분명하면 사람들은 AI를 덜 쓰는 게 아니라 더 기꺼이 씁니다. 가이드라인은 다섯 가지 질문에 답해야 합니다.

어떤 도구와 계정이 승인되었는가? 회사가 관리하는 비즈니스·엔터프라이즈 요금제에는 관리자 기능이 있습니다. OpenAI의 엔터프라이즈 개인정보 보호 약속은 기본적으로 ChatGPT Business, ChatGPT Enterprise, API 플랫폼의 데이터로 모델을 학습시키지 않는다고 밝히며, Anthropic의 개인정보 보호 센터는 기본적으로 Claude for Work, Anthropic API 같은 상용 제품의 입력이나 출력을 모델 학습에 사용하지 않는다고 밝힙니다. 개인용 계정은 사용자 각자의 설정에 따라 달라지므로, 승인하는 도구마다 현재 약관을 읽어 보십시오.
절대 붙여 넣으면 안 되는 것은? 비밀번호와 접근 키, 해당 용도로 승인된 도구가 아니라면 고객이나 직원의 개인정보, 기밀 계약서와 비밀유지계약(NDA) 대상 정보.
괜찮은 것은? 공개 정보, 직접 쓴 초안, 익명화한 예시, 위험이 낮은 사내 문서.
결과물은 누가 검토하는가? 고객에게 나가기 전에 사람이 무엇을 확인해야 하는지, AI가 혼자 내리면 안 되는 결정은 무엇인지 정하십시오.
어디에 물어보는가? 질문과 실수 보고를 받을 담당자나 채널을 정하십시오.

EU에 있는 사람의 개인정보를 다룬다면, 그 데이터를 AI 도구에 넣을 때도 GDPR이 그대로 적용됩니다. 공급사마다 데이터 처리 약관을 검토하십시오.

EU AI 법(AI Act)에도 제4조에 AI 리터러시 조항이 있습니다. AI 시스템을 제공하거나 사용하는 조직은 직원과 조직을 대신해 그 시스템을 쓰는 사람들의 지식과 사용 맥락을 고려해, 그들의 AI 리터러시를 지원하는 조치를 취해야 합니다. 이 조항은 2025년 2월 2일부터 적용되고 있으며, 2026년 7월 개정으로 원래의 “충분한 수준”의 AI 리터러시를 보장할 의무가 이를 지원할 의무로 바뀌었고, 특정 개인에게 특정 수준을 보장할 필요는 없다고 명시되었습니다. 제4조가 누구에게 적용되고 어떻게 집행되는지는 EU AI 법 제4조: AI 리터러시 교육은 의무인가?에서 설명합니다. 교육과 가이드라인을 기록으로 남겨 두는 것은 회사가 한 일을 보여 주는 합리적인 방법입니다.

ChatGPT, Claude, 아니면 다른 도구? 자사 업무로 시험하기

ChatGPT, Claude, 그 밖의 어시스턴트 중에서 고르는 가장 믿을 만한 방법은 순위표가 아니라 자사의 실제 업무로 해 보는 작은 시험입니다. ChatGPT, Claude, 구글 제미나이(Gemini), 마이크로소프트 코파일럿(Copilot)은 저마다 강점이 있고, 모두 자주 바뀝니다. 시험은 네 단계입니다.

써도 되는 샘플 자료가 있는 실제 업무를 몇 개 고르십시오.
검토 중인 도구마다 같은 프롬프트를 실행하십시오.
그 업무를 실제로 하는 사람들에게 정확도, 어조, 수정이 얼마나 필요했는지 평가하게 하십시오.
실무 측면을 확인하십시오. 사용하는 언어, 이미 쓰는 도구(Microsoft 365, Google Workspace, CRM)와의 연동, 관리자 기능, 데이터 약관, 사용자당 비용입니다.

주력 어시스턴트 하나와 특정 업무용 보조 어시스턴트 하나로 결론이 날 수도 있습니다. 둘 다 승인된 도구라면 괜찮습니다. 프롬프트 습관은 도구가 바뀌어도 그대로 통하므로, 나중에 도구를 바꿔도 교육은 헛되지 않습니다. 세 서비스의 기업용 요금제, 데이터 학습 여부, 관리 기능은 챗GPT vs 클로드 vs 제미나이 기업용 요금제 비교에서 정리했습니다.

채팅을 넘어: AI를 회사 데이터에 연결하기

AI를 회사 데이터에 연결한다는 것은 직원이 여러 시스템과 채팅 창 사이에서 복사해 붙여 넣는 대신, 부여한 권한 안에서 어시스턴트가 회사 정보를 직접 다루게 하는 것입니다. 공유 드라이브를 검색하고, ERP에서 주문을 조회하고, CRM에서 고객 이력을 확인하는 식입니다.

이 연결에 널리 쓰이는 방법이 MCP(Model Context Protocol)입니다. MCP는 Anthropic이 처음 공개했고 지금은 리눅스 재단(Linux Foundation) 산하의 오픈 프로젝트가 된 개방형 표준으로, AI 어시스턴트가 도구와 데이터 소스에 연결하는 공통 방식을 정의합니다. 시스템이 MCP 서버를 통해 할 수 있는 일을 공개하면, Claude나 ChatGPT처럼 MCP를 지원하는 어시스턴트가 부여된 권한 안에서 그것을 사용할 수 있습니다. 많이 쓰는 업무 도구에는 기성 커넥터가 있고, 사내 시스템용 커넥터는 직접 만들 수 있습니다. MCP 서버의 작동 방식과 API와의 차이는 MCP 서버란? MCP와 API 차이에서 설명합니다.

실제 시스템에 연결하면 위험도 커집니다. MCP 공식 명세(영문)의 보안 원칙은 사용자가 모든 데이터 접근과 작업에 명시적으로 동의하고 이를 이해해야 하며, AI 애플리케이션은 어떤 도구를 호출하기 전에든 사용자의 명시적 동의를 받아야 한다고 말합니다. 실무에서는 조심스럽게 시작하십시오.

위험이 낮은 데이터에 대한 읽기 전용 접근부터 시작하십시오.
어시스턴트에게 그것을 쓰는 직원보다 많은 권한을 주지 마십시오.
데이터를 바꾸거나 고객에게 연락하는 모든 작업 전에 사람의 확인을 거치게 하십시오.
커넥터는 신뢰할 수 있는 출처에서만 설치하십시오. AI가 읽는 콘텐츠에는 AI를 속이려는 숨은 지시가 들어 있을 수 있습니다.
무엇에 접근했는지 기록을 남겨 검토할 수 있게 하십시오.

교육에서는 연결된 어시스턴트가 각 직원을 대신해 무엇을 보고 무엇을 할 수 있는지도 다뤄야 합니다.

정착 정도를 측정하고 이어 가기

AI 활용을 측정하고 이어 가는 일은 교육 이후에 일어나는 다섯 가지에 달려 있습니다. 챔피언, 공유 프롬프트 라이브러리, 후속 세션, 간단한 지표, 최신 상태의 가이드라인입니다. 워크숍 한 번만으로 습관이 바뀌는 경우는 드뭅니다.

챔피언. 팀마다 열정적인 사람을 한두 명 정해 질문을 모으고, 사례를 공유하고, 동료를 돕게 하고, 그럴 시간을 주십시오.
공유 프롬프트 라이브러리. 검증된 프롬프트를 직무별로 공유 문서에 모으거나 도구 안(프로젝트, 맞춤 어시스턴트)에 저장하십시오. 각 프롬프트에 업무, 좋은 결과물의 예시, 담당자를 함께 적으십시오.
후속 세션. 사람들이 연습해 본 뒤 다시 모이십시오. 잘된 것을 돌아보고, 안 된 것을 고치고, 다음 업무 묶음을 추가하십시오.
간단한 지표. 승인된 도구를 꾸준히 쓰는 사람이 몇 명인지(비즈니스 요금제는 보통 관리 콘솔에서 보여 줍니다), 검증된 프롬프트가 있는 반복 업무가 몇 개인지 추적하고, 특정 업무에서 절약한 시간을 팀이 추정하게 하십시오. 실제 이메일의 전후 비교가 차트보다 더 많은 것을 말해 줍니다.
가이드라인을 최신으로 유지하십시오. 도구, 약관, 규정이 바뀌면 함께 고치고, 바뀌었다는 사실을 알리십시오.

자주 묻는 질문

직원이 AI 어시스턴트를 쓰려면 기술 지식이 필요한가요?

아니요. 일상적인 사용은 쉬운 말로 요청을 쓰고 답을 검토하는 것입니다. 필요한 것은 판단력입니다. 어떤 업무가 AI에 맞는지, 맥락을 어떻게 주는지, 결과를 어떻게 확인하는지입니다. AI를 사내 시스템에 연결하는 것은 기술 프로젝트지만, 그것을 쓰는 데는 코딩이 필요 없습니다.

회사 정보를 ChatGPT나 Claude에 붙여 넣어도 안전한가요?

계정과 정보의 종류에 따라 다릅니다. OpenAI와 Anthropic은 비즈니스·엔터프라이즈 요금제의 데이터를 기본적으로 모델 학습에 쓰지 않는다고 밝히고 있으며, 개인용 계정은 각자의 설정에 따라 달라집니다. 승인된 도구라도 가이드라인을 따르십시오. 비밀번호는 넣지 말고, 개인정보나 기밀 정보는 그 용도로 승인된 도구에만 넣어야 합니다.

우리 팀은 ChatGPT와 Claude 중 무엇을 써야 하나요?

순위표에 기대지 말고 자사 업무로 둘 다 시험해 보십시오. 같은 실제 프롬프트를 각각 실행하고, 그 업무를 하는 사람들이 결과를 평가하게 한 뒤, 연동, 데이터 약관, 비용을 따져 보십시오.

UsualMatrix는 팀마다 실제 업무를 중심으로 한 실습형 기업 AI 교육을 진행하고, MCP로 AI를 회사 시스템에 연결합니다. 전 세계 고객과 함께 일하며 중국어, 스페인어, 영어로 소통합니다. AI 솔루션 서비스를 살펴보시거나 문의하기에서 팀에 대해 이야기해 주십시오.

참고: 이 글에서 EU AI 법과 GDPR에 관한 부분은 게시 시점의 일반 정보이며 법률 자문이 아닙니다. 조직에 무엇이 적용되는지는 변호사나 개인정보 보호 전문가에게 확인하십시오.