MS Foundry IQ, 에이전트용 기업 지식 플랫폼 대규모 업데이트 서버리스, 보안, Agentic 검색까지

들어가며: 에이전트 개발의 진짜 병목은 '지식 인프라'

AI 에이전트를 실제 서비스에 배포하려면 단순히 에이전트 로직만 잘 짠다고 끝나지 않습니다. 문서, 이메일, 회의 기록, 운영 데이터, 웹 실시간 정보까지 — 에이전트가 활용할 지식 레이어를 안정적으로 구축하는 것이 더 어려운 과제죠. 특히 기업 환경에서는 안정성, 확장성, 데이터 접근 제어, 답변 품질, 보안, 콘텐츠 수집을 동시에 해결해야 합니다.

Microsoft가 최근 발표한 Foundry IQ 업데이트는 바로 이 문제를 겨냥합니다. 기업의 집단 지능(Company IQ)을 문서, 이메일, 미팅, 운영 데이터, 웹에서 끌어와 에이전트에 연결해 주는 지식 플랫폼인데요. 이번 글에서는 Foundry IQ의 주요 신기능과 실무 적용 관점을 정리해 보겠습니다.

주요 업데이트 요약

이번 발표의 핵심은 크게 5가지로 볼 수 있습니다.

Foundry IQ Serverless: 인프라 걱정 없이 시작하기

에이전트 워크로드는 버스트하고 이벤트 중심입니다. 수백 개의 스텝을 몇 초에 실행하다가 몇 시간 동안 유휴 상태로 있을 수 있죠. 기존 프로비저닝 방식은 이런 패턴에 비효율적입니다.

Foundry IQ Serverless는 클러스터 관리, 용량 예약, 유휴 비용 없이 즉시 검색 증강 생성(RAG)을 제공합니다. 개발자 티어가 공개 프리뷰로 제공되며, 컴퓨팅과 스토리지 사용량에 따라 과금됩니다.

과금 단위는 CU(Compute Units) 이며, CPU, 메모리, 스토리지 I/O를 기반으로 1분 단위로 계산됩니다. 예를 들어 서버리스 티어는 시간당 CU 요금과 GB/월 스토리지 요금이 별도로 책정됩니다.

# 예시: 서버리스 비용 추정 (West Central US 기준)
- 컴퓨팅: 시간당 $0.288 * 사용 시간
- 스토리지: GB당 월 $0.239 * 인덱스 크기
# 유휴 시간에는 컴퓨팅 비용이 0으로 스케일링됩니다.

주의: 2026년 9월 13일부터 과금이 시작됩니다. 더 이상 필요 없는 서비스는 삭제해야 비용을 피할 수 있습니다.

새 지식 소스: 여러 시스템을 하나의 지식베이스로

기존에는 각 데이터 소스별로 커스텀 커넥터를 만들고, 권한 모델과 검색 패턴을 개별적으로 처리해야 했습니다. Foundry IQ는 이를 단일 지식베이스로 통합합니다.

• Work IQ: 이메일, 미팅, 파일, Teams 메시지 등 조직 신호를 통합
• Fabric IQ: 데이터 에이전트와 온톨로지(비즈니스 엔티티, 관계, 규칙)를 쿼리
• File Search: 파일 직접 업로드
• Azure SQL: 관계형 데이터 연결
• MCP Server: Model Context Protocol 기반 지식 제공

Microsoft Web IQ: 실시간 웹 컨텍스트 추가

에이전트가 최신 정보가 필요할 때, 웹 검색을 연결하는 것은 지연 시간과 컴플라이언스 문제를 동반합니다. Microsoft Web IQ는 LLM 워크플로우에 최적화된 웹 검색 API를 제공하며, 퍼블리셔 선호도를 존중하고, 165ms 미만의 지연 시간과 데이터 보존 없음을 보장합니다. Foundry IQ와 결합하면 내부 지식과 외부 웹 컨텍스트를 하나의 검색 엔진으로 활용할 수 있습니다.

지식베이스 GA: 프로덕션 준비 완료

이제 Foundry IQ 지식베이스는 일반 사용 가능(GA) 상태입니다. SLA, 컴플라이언스 인증, 안정적인 API, 네트워크 격리, 기본 적용되는 ID 및 정책을 제공합니다.

특히 Foundry IQ MCP 서버는 지식베이스를 원격 MCP 서버로 노출하여, Claude, ChatGPT, LangChain, Microsoft Agent Framework 등 어떤 MCP 호환 호스트에서도 접근할 수 있습니다. 이는 에이전트 생태계 전반에서 지식베이스를 재사용할 수 있게 해줍니다.

Agentic 검색 품질 개선

최신 에이전틱 검색 엔진은 답변 품질 벤치마크를 최대 20% 개선했고, 단일 RAG 대비 리콜을 최대 54% 향상시켰습니다. 서버 사이드 토큰 캐싱과 쿼리 배칭을 통해 토큰 소비를 줄이면서도 품질을 유지합니다.

보안 업데이트: 데이터 레이어에서 권한 보장

보안은 애플리케이션 코드가 아니라 데이터 레이어에서 처리해야 합니다. 새 프리뷰 기능으로는 테넌트 간 고객 관리 키(CMK), Purview 민감도 라벨 감사, SharePoint 권한 증분 동기화, APIM 지원 등이 포함됩니다. 이를 통해 라벨 기반 접근 제어가 종단 간 유지됩니다.

데이터 파이프라인: 문서 전체를 이해하는 수집

문서의 표, 다이어그램, 이미지까지 에이전트가 이해할 수 있도록, 레이아웃 인식 수집과 이미지 풍부화 기능이 프리뷰로 제공됩니다. Azure Content Understanding 청킹은 이미지를 텍스트로 변환해 의미적으로 정확한 표현을 만듭니다.

한국 개발 생태계에서의 적용 맥락

국내 기업에서 AI 에이전트를 도입할 때 가장 큰 걸림돌 중 하나는 사내 문서와 데이터의 분산입니다. 카카오, 네이버, 삼성 등 대기업뿐 아니라 스타트업도 노션, 구글 드라이브, 사내 위키, ERP 등 여러 시스템을 사용하는데, Foundry IQ처럼 단일 지식베이스로 통합하면 에이전트 개발 속도가 크게 빨라질 수 있습니다. 다만, 국내 클라우드 규제(예: 금융권 데이터 주권)와 보안 요구사항을 고려해 온프레미스 또는 프라이빗 엔드포인트 구성이 필요한 경우가 많으므로, 도입 전 충분한 검토가 필요합니다.

이 기술의 한계 또는 주의사항

• 비용 예측 어려움: 서버리스는 스케일 투 제로가 되지만, 갑작스러운 트래픽 증가 시 비용이 급증할 수 있습니다.
• 초기 프리뷰 기능의 안정성: 일부 기능(예: Work IQ, Fabric IQ)은 아직 프리뷰라서 API 변경 가능성이 있습니다.
• 의존성: MCP 서버가 표준이지만, 아직 모든 에이전트 프레임워크가 완벽히 호환되는 것은 아닙니다.
• 보안 설정 복잡성: 민감도 라벨과 권한 동기화를 제대로 설정하지 않으면 데이터 유출 위험이 있습니다.

결론: 에이전트 개발의 새로운 기준

Foundry IQ는 기업 지식을 에이전트에 연결하는 문제를 플랫폼 차원에서 해결합니다. 서버리스로 인프라 부담을 줄이고, 다양한 데이터 소스를 통합하며, MCP 표준으로 생태계와의 호환성을 확보했습니다. 특히 보안을 데이터 레이어에 내장한 점은 엔터프라이즈 도입에 중요한 신뢰를 줍니다.

다음 단계로는 Foundry IQ MCP 서버를 직접 프로토타입에 연결해 보고, 조직의 데이터 소스를 하나씩 통합해 보는 것을 추천합니다. 또한 PyTorch 분산 학습 가이드와 같은 기술과 결합하면, 대규모 에이전트 시스템의 성능과 확장성을 동시에 잡을 수 있을 것입니다.

함께 보면 좋은 글

• 컴퓨터 비전 + 생성형 AI로 현장 안전 모니터링 자동화 AWS 서버리스 실전 가이드

원문 보기

핵심 코드: Foundry IQ MCP 서버 연결 예시

# Foundry IQ MCP 서버를 LangChain에 연결하는 간단한 예시
# 먼저 MCP 서버 URL을 환경 변수로 설정하세요.

import os
from langchain_mcp_adapters import load_mcp_server
from langchain.agents import AgentExecutor, create_openai_tools_agent
from langchain_openai import ChatOpenAI

# MCP 서버 연결
mcp_server_url = os.environ["FOUNDRY_IQ_MCP_URL"]
server = await load_mcp_server(mcp_server_url)

# 에이전트 생성
tools = server.get_tools()
llm = ChatOpenAI(model="gpt-4o")
agent = create_openai_tools_agent(llm, tools, system_prompt="당신은 기업 지식베이스를 활용하는 AI 에이전트입니다.")

executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

# 질문 실행
result = await executor.ainvoke({"input": "최근 분기 매출이 어땠어?"})
print(result["output"])

심화 팁: Agentic 검색 최적화

• 쿼리 배칭: 여러 질문을 하나의 배치로 묶어 토큰 소비를 줄이세요.
• 서버 사이드 캐싱: 다중 턴 대화에서 반복되는 컨텍스트를 캐시에 저장하세요.
• 리트리버 설정: 낮은 노력(effort) 티어로 시작해 필요 시 높이세요.

한국 개발자 실무 적용 포인트

• MCP 서버 도입: 기존 MCP 호환 도구(예: Claude Desktop, Cursor)와 연동해 생산성을 높일 수 있습니다.
• 보안 설정: Purview 민감도 라벨을 활용해 문서별 접근 제어를 강화하세요.
• 비용 모니터링: Azure 포털의 "Scale + Cost" 탭에서 사용량을 주기적으로 확인하세요.

결론 및 다음 단계

Foundry IQ는 에이전트 개발의 지식 인프라 문제를 해결하는 강력한 도구입니다. 이번 업데이트의 핵심은 서버리스, 데이터 소스 통합, MCP 표준 지원, 보안 강화로 요약할 수 있습니다.

다음 단계로:

1. Foundry 포털에서 지식베이스를 만들고, MCP 서버를 연결해 보세요.
2. 조직의 데이터 소스를 하나씩 추가하며 권한 설정을 테스트하세요.
3. 비용과 성능을 모니터링하며 프로덕션 배포를 준비하세요.

이 글이 도움이 되었다면, 아래 '함께 보면 좋은 글'도 확인해 보세요.