Microsoft
Microsoft Foundry
AI 모델을 고르고, 우리 데이터에 맞게 다듬고, 에이전트로 만들어 운영하는 Microsoft의 AI 플랫폼입니다. NVIDIA Nemotron 같은 개방형 모델도 같은 곳에서 배포하고, Entra·Purview·Defender로 에이전트를 보호합니다.
- 무엇인가
- AI 모델과 에이전트를 만들고 운영하는 Microsoft 플랫폼
- 모델
- OpenAI · 오픈 모델 · NVIDIA Nemotron 등 한곳에서
- 실행 위치
- Azure 클라우드, 사내 Azure Local (미리 보기)
- 보안
- Entra Agent ID · Purview · Defender 연동
AI를 만드는 일보다 운영하는 일이 더 어렵습니다
모델 하나로 데모를 만드는 것은 금방입니다. 어려운 것은 그다음입니다. 어떤 모델을 쓸지, 우리 데이터를 어디까지 보게 할지, 에이전트가 무슨 일을 했는지 누가 확인할지. Foundry는 모델 선택부터 에이전트 운영과 보안까지 한곳에서 다루도록 만든 Microsoft의 AI 플랫폼입니다.
무엇을 하나
- 모델 카탈로그: OpenAI 모델부터 개방형 모델까지 수천 개 중에서 고릅니다. NVIDIA Nemotron의 Nano·Super·Ultra와 음성 인식·안전 모델도 여기에 있습니다
- 에이전트 운영: Foundry Agent Service로 도구와 데이터를 오가며 일하는 에이전트를 만들고, 무엇을 했는지 관찰합니다
- 사내 지식 연결 (Foundry IQ): SharePoint, OneLake, Azure Blob Storage, 웹을 하나의 지식 기반으로 묶어 여러 에이전트가 함께 씁니다. 질문을 나눠 여러 곳을 동시에 찾고 출처와 함께 답하며, 원본의 접근 권한과 Purview 민감도 라벨을 지켜 그 사람이 볼 수 있는 내용만 돌려줍니다. 일부 기능은 정식 출시, 일부는 미리 보기 단계입니다
- 업무 도구와 연결: Foundry에 배포한 모델을 Copilot Studio 프롬프트에 연결하거나, Copilot Studio 에이전트가 Foundry 에이전트에게 일을 넘깁니다
- 보안 연동: 에이전트마다 Entra Agent ID로 신원을 주고, Purview 데이터 보호 정책을 AI 대화에도 적용하며, 탈옥 시도 같은 위협은 Defender에서 봅니다
Nemotron을 Microsoft 환경에서 쓰는 세 가지 길
| 방법 | 어디서 돌아가나 | 이런 경우에 |
|---|---|---|
| Foundry 모델 카탈로그 | Azure 클라우드의 NVIDIA GPU | 서버 구축 없이 빨리 시작하고 싶을 때 |
| Foundry Local on Azure Local (미리 보기) | 사내 서버·폐쇄망 | 데이터를 사내에 두어야 할 때 |
| Copilot Studio 연결 | Foundry에 배포한 모델을 호출 | 업무 담당자가 만든 에이전트에 모델을 붙일 때 |
어느 길이든 같은 Microsoft 계정과 보안 정책 안에서 운영됩니다. Microsoft 365와 Entra를 이미 쓰는 회사라면 AI만 따로 관리할 필요가 없습니다.
어떻게 시작하나
- 과제와 위치 결정무엇을 할지, 데이터를 클라우드에 둘지 사내에 둘지 정합니다.
- 모델 비교Nemotron과 다른 후보 모델을 같은 과제로 비교합니다.
- 에이전트 구축선택한 모델로 에이전트를 만들고 사내 데이터·업무 도구와 연결합니다.
- 보안 적용과 운영Entra·Purview·Defender 정책을 걸고 운영을 시작합니다.
TDG와 함께
TDG는 Microsoft 공식 파트너로서 우리 회사 AI 구축하기에서 Foundry를 클라우드 쪽 선택지로 제안합니다. 모델 후보는 NVIDIA Nemotron 같은 개방형 모델까지 함께 비교하고, AI가 읽는 데이터의 범위와 에이전트 권한은 우리 회사 AI 데이터 보호에서 함께 정합니다.
정보 출처: Microsoft 공식 블로그 Microsoft at NVIDIA GTC (2026. 3), Microsoft Foundry 블로그 Foundry Local (2026. 6), Microsoft Learn Copilot Studio에서 Foundry 모델 사용, What is Foundry IQ?.자주 묻는 질문
- Copilot Studio와 무엇이 다른가요?
- Copilot Studio는 업무 담당자가 코드 없이 에이전트를 만드는 도구이고, Foundry는 개발자가 모델을 고르고 다듬어 에이전트를 만들고 운영하는 플랫폼입니다. Foundry에 배포한 모델을 Copilot Studio 프롬프트에 연결하거나, Copilot Studio 에이전트가 Foundry 에이전트에게 일을 넘기는 방식으로 함께 씁니다.
- 데이터를 클라우드에 올리지 않고도 쓸 수 있나요?
- Foundry Local on Azure Local은 사내 서버에서 모델과 에이전트를 운영하는 플랫폼으로, 현재 미리 보기 단계입니다. 정식 출시 전이므로 사내 실행이 꼭 필요하면 적용 범위와 일정을 함께 검토합니다.
- Nemotron을 Foundry에서 쓰면 무엇이 좋은가요?
- 모델 서버를 직접 꾸리지 않고 Azure의 NVIDIA GPU 위에 바로 배포할 수 있고, Microsoft 365·Entra를 쓰는 회사라면 같은 계정과 보안 정책 안에서 에이전트를 운영할 수 있습니다.
Microsoft 다른 제품
보안Entra
회사 계정의 출입문을 지키는 Microsoft의 ID·접근 관리 제품군입니다. 누가, 어떤 기기로, 어디서 접속하는지 보고 문을 열지 정하며, 임직원과 협력사는 물론 앱과 AI 에이전트의 계정까지 같은 정책으로 관리합니다.
자세히 보기보안AIPurview
회사 데이터가 어디에 있고 얼마나 민감한지 찾아 라벨을 붙이고, 메일·USB·웹 업로드·생성형 AI로 새지 않게 정책으로 막습니다. 데이터 보안, 데이터 거버넌스, 규정 준수를 한 제품군에서 다룹니다.
자세히 보기보안Sentinel
회사 곳곳의 보안 로그를 클라우드 한곳에 모아 흩어진 경보를 하나의 공격 흐름으로 읽어내고, 반복되는 대응은 자동으로 처리하는 Microsoft의 클라우드 SIEM입니다.
자세히 보기AIMicrosoft 365 Copilot
Word, Excel, PowerPoint, Outlook, Teams 안에서 일하는 업무용 AI입니다. 회사 메일·문서·회의 내용을 근거로 답하되, 직원이 원래 볼 수 있는 자료 안에서만 답합니다.
자세히 보기AICopilot Studio
코딩 없이 업무용 AI 에이전트와 자동화 흐름을 만드는 Microsoft의 로우코드 도구입니다. 회사 데이터와 시스템에 연결하고, Teams·Microsoft Copilot·웹사이트 등 직원과 고객이 있는 곳에 배포합니다.
자세히 보기AI보안Agent 365
회사 안에서 일하는 AI 에이전트를 한 목록에 모아 보고(Observe), 권한과 수명 주기를 관리하고(Govern), 데이터 유출과 위협으로부터 지킵니다(Secure). Microsoft 에이전트뿐 아니라 협력사 SaaS·다른 클라우드·PC의 에이전트까지 다룹니다.
자세히 보기보안AISecurity Copilot
보안 담당자가 생성형 AI의 도움으로 경보를 요약하고, 위협을 조사하고, 조사 쿼리와 보고서를 빠르게 만드는 보안 전용 AI입니다. Defender·Sentinel·Entra·Intune 안에서 바로 쓰거나 단독 화면에서 씁니다.
자세히 보기데이터AIFabric
흩어진 회사 데이터를 OneLake 한곳에 모아 수집·가공·분석·보고까지 처리하는 Microsoft의 데이터 플랫폼입니다. Copilot과 Fabric IQ로 AI가 회사 데이터를 이해하고 쓰게 만들고, Microsoft Foundry와 연결됩니다.
자세히 보기Foundry 도입을 검토 중이신가요?
TDG 전문 엔지니어가 현재 환경을 진단하고 가장 적합한 솔루션과 기술지원 서비스를 제안해 드립니다.