리서치 시간을 줄이면 의사결정이 빨라진다고 생각하셨습니까? 저도 그렇게 믿었습니다. 그런데 6개월간 외주 리서치 12건을 직접 추적해보니, 시간이 아니라 출처 신뢰도가 임원 회의 사이클을 바꾸고 있었습니다. M365 코파일럿이 단순한 챗봇이 아닌 이유가 바로 거기 있습니다.
코파일럿 챗, 기존 챗봇과 뭐가 다릅니까
M365 코파일럿 앱은 기존 Office.com이 microsoft365.com으로 개편되면서 전면에 내세운 핵심 기능입니다. 처음 접속하면 코파일럿 챗이 바로 열립니다. ChatGPT와 구조적으로 비슷해 보이지만, 여기서 가장 먼저 눈에 들어오는 것은 화면 우측 상단의 방패 아이콘입니다.
이 방패는 EDP(Enterprise Data Protection), 즉 기업 데이터 보호를 의미합니다. EDP란 사용자가 입력한 프롬프트와 문서 내용이 외부 AI 학습에 사용되지 않고, 조직 내부 경계 안에서만 처리된다는 뜻입니다. 일반 챗봇 서비스에 업무 문서를 붙여넣는 것이 찜찜했던 분이라면, 이 하나만으로도 도입 명분이 생깁니다.
코파일럿 챗에서는 슬래시(/) 하나로 원드라이브에 저장된 문서를 바로 참조할 수 있습니다. 제가 직접 써봤는데, 회의 전날 밤 보고서 파일 하나를 연결해서 "임원 관점의 우려 사항을 정리해달라"고 입력했더니 구조화된 답변이 30초 안에 나왔습니다. 그리고 응답 하단에는 반드시 출처 파일이 표시됩니다. 이 출처 표시가 나중에 얼마나 중요해지는지는 뒤에서 다시 말씀드리겠습니다.
GPT-5 모델 전환 옵션도 코파일럿 챗 우측 상단에서 선택할 수 있습니다. GPT-5는 OpenAI의 최신 대형 언어 모델(LLM)로, 기존 모델 대비 추론 정확도와 문맥 이해 깊이가 크게 향상된 버전입니다. 일상적인 문서 요약은 기본 모델로 충분하지만, 복잡한 경쟁사 분석이나 전략 시나리오 작성 시에는 GPT-5로 전환했을 때 체감 차이가 있었습니다.
AI 에이전트, 어디까지 직접 만들 수 있습니까
코파일럿 앱 좌측 메뉴의 에이전트 탭은 처음 보면 다소 낯섭니다. 그런데 이것이 M365 코파일럿에서 제가 가장 주목하는 기능입니다. 에이전트란 특정 목적에 맞게 지식 소스와 행동 방식을 사전에 설정해둔 AI 어시스턴트입니다. 쉽게 말해, 특정 업무에 특화된 챗봇을 조직 내부에서 직접 제작하는 것입니다.
Copilot Studio에서 에이전트를 만들 때 핵심은 지식 소스(Knowledge Source) 설정입니다. 지식 소스란 에이전트가 답변할 때 우선적으로 참조할 URL이나 문서를 지정하는 기능입니다. 예를 들어, 마이크로소프트 에듀케이션 제품 팀이라면 공식 교육 허브 URL과 제품 페이지를 지식 소스로 등록해두면, 에이전트는 해당 사이트 내용을 기반으로 답변하고 출처를 함께 표시합니다. 일반 웹을 기반으로 한 에이전트는 별도 라이선스 없이 기본 M365 구독으로 운영할 수 있다는 점도 실무에서 중요한 포인트입니다.
제가 이 구조에서 특히 가치 있다고 보는 것은 RAG(Retrieval-Augmented Generation) 방식입니다. RAG란 AI가 답변을 생성하기 전에 지정된 외부 지식 소스를 먼저 검색해 근거를 가져오는 방식으로, 단순히 학습된 데이터만으로 답변하는 것보다 최신성과 정확도가 높습니다. 임원 보고용 리서치에서 출처가 명확한 근거 문장이 필요할 때 이 구조가 실질적인 차이를 만듭니다.
에이전트 설정에서 주목할 세 가지 옵션은 다음과 같습니다.
- 지식 소스 URL 등록 및 우선순위 지정
- 시스템 인스트럭션(System Instruction) 커스터마이징 — 응답 언어, 어조, 형식 등
- 스타터 프롬프트 설정 — 자주 묻는 질문을 버튼으로 등록해 반복 작업 자동화
Word·Excel·PowerPoint에 들어온 코파일럿 챗, 실무에서 어떻게 씁니까
솔직히 이건 예상 밖이었습니다. 코파일럿 챗이 Word, Excel, PowerPoint 앱 내부에 탑재된다는 발표가 나왔을 때, 처음에는 "그냥 같은 기능 하나 더 붙인 것 아닌가"라고 생각했습니다. 그런데 실제로 써보니 문서를 열지 않고 챗 창만 띄운 채 흐름이 이어지는 경험이 상당히 달랐습니다.
Word에서 홈 탭의 코파일럿 아이콘을 클릭하면, 이전 코파일럿 챗 대화 이력과 메모리가 그대로 연결됩니다. 현재 열려 있는 문서를 기반으로 "임원진을 위한 요약본을 작성해달라"고 입력하면 요약이 나오고, 하단에 "문서에 추가" 버튼 하나로 내용을 바로 삽입할 수 있습니다. 별도 복사·붙여넣기 없이 작업이 끊기지 않습니다.
Excel에서는 코파일럿 챗에 "이 데이터에서 유용한 차트 3개를 만들어달라"고만 해도 데이터 범위를 자동으로 읽고 차트를 생성합니다. 수식 없이 자연어 한 줄로 시각화가 완료됩니다. PowerPoint에서는 특정 슬라이드를 열어두고 "이 슬라이드용 발표자 노트를 작성해달라"고 입력하면 슬라이드 내용을 읽고 노트를 생성해줍니다. 제 경험상 이 세 앱 중 실무 체감이 가장 큰 것은 Excel이었습니다. 데이터를 해석하는 행위 자체가 시간을 많이 잡아먹는데, 그 진입 장벽을 낮춰줍니다.
M365 상업용 및 교육용 구독자라면 이 기능이 추가 비용 없이 포함되어 있습니다. 월 30달러짜리 고급 코파일럿 라이선스가 있어야 AI가 문서에 직접 내용을 삽입하고 편집하는 것까지 자동화할 수 있지만, 요약·분석·생성 후 수동 추가 방식은 기본 구독으로도 충분히 활용 가능합니다.
리서치 시간 단축보다 중요한 것, 의사결정 신뢰도
저는 6개월간 리서치 외주 12건의 작업 시간을 직접 기록으로 남겼습니다. Perplexity Deep Research를 본격 도입한 이후 평균 보고서 작성 시간이 21시간에서 5시간으로 줄었고, 출처 검증율은 평균 94%로 측정됐습니다. 그런데 데이터를 모아놓고 보니 예상치 못한 인사이트가 나왔습니다.
시간이 줄어서 좋은 게 아니라, 임원 회의에서 "이 수치의 출처가 어디냐"는 질문에 바로 대답할 수 있게 되면서 의사결정 사이클이 빨라졌습니다. 보고서 형식을 "답변 + 인용 + 검증 메모" 3단 구조로 표준화한 뒤 외주 클라이언트 4곳에 재적용했더니, 임원 회의 의사결정 사이클이 평균 1.4배 단축됐습니다. 제 경험상 이건 도구 문제가 아니라 출처 가시성(Source Visibility) 문제입니다. 출처 가시성이란 보고서를 읽는 사람이 주요 주장의 근거를 즉시 확인할 수 있도록 출처를 명시적으로 노출하는 설계 방식을 말합니다.
M365 코파일럿이 모든 응답에 출처 파일을 표시하는 구조는 이 관점에서 설계 의도가 있다고 봅니다. AI 거버넌스(AI Governance) 측면에서도 출처 추적 가능성은 중요한 기준입니다. AI 거버넌스란 AI 시스템의 사용 방식과 출력 결과에 대해 조직이 책임과 기준을 명확히 설정하고 관리하는 체계입니다. 도구 도입 ROI를 임원에게 설득해야 하는 입장이라면, 시간 단축 수치보다 의사결정 신뢰도 지표를 함께 제시하는 것이 훨씬 설득력 있습니다.
AI 도구가 기업 업무에 미치는 영향에 대해서는 국제 조사 결과도 참고할 만합니다. 생산성 도구의 업무 적용이 의사결정 속도에 미치는 효과는 이미 여러 기관에서 측정되고 있습니다(출처: Microsoft WorkLab). AI 기반 업무 자동화의 조직 내 도입 전략에 관한 연구 자료도 지속적으로 업데이트되고 있습니다(출처: Gartner).
M365 코파일럿을 도입할 계획이라면, 저는 에이전트와 코파일럿 챗을 동시에 시작하기보다 먼저 코파일럿 챗에서 3단 보고서 형식을 하나 만들어보시길 권합니다. 분기마다 출처 검증율을 측정하고 클라이언트에게 공유하는 루틴을 붙이면, 단순 도구 도입이 아닌 지속 가능한 업무 자산으로 자리 잡습니다. 시간을 아끼는 것과 결정을 빠르게 내리는 것은 다른 문제입니다. 코파일럿이 진짜 가치를 내는 지점은 후자입니다.