Partner · AI
온잇츠에이아이
금융권 폐쇄망에서 사내 전용 LLM과 AI 에이전트를 설계부터 구축, 운영까지 직접 수행해 온 기업용 프라이빗 AI 전문 기업입니다.
- 분야
- 기업용 프라이빗 AI (내부망·온프레미스)
- 제품
- Probe(문서 질의응답·AI 에이전트) · Orbit(AI 인프라 관리)
- 강점
- 금융권 폐쇄망 구축·운영 경험
- TDG와 함께
- TDG 책임 아래 LLM·에이전트 구현
한마디로
온잇츠에이아이는 회사 안에서만 돌아가는 AI를 만드는 회사입니다. 외부 AI 서비스에 데이터를 보낼 수 없는 금융권 폐쇄망에서 사내 전용 LLM과 AI 에이전트를 직접 설계하고 구축해, 지금까지 운영하고 있습니다.
- Probe: 사내 문서 질의응답과 AI 에이전트
- Orbit: GPU·NPU·CPU 자원과 놀고 있는 인프라를 찾아 관리
왜 이 파트너인가
규제가 있는 산업은 퍼블릭 클라우드 AI를 그대로 쓰기 어렵습니다. 데이터 반출이 막혀 있고, 망분리와 금융 규제 대응이 따로 남습니다. 온잇츠에이아이는 이 조건에서 AI를 실제로 운영해 온 경험이 있습니다. 대규모 서버 환경에서 AI로 유휴 자원을 찾아내는 기술 논문은 국제 AI 학회 AAAI 2026 Summer Symposium에 채택되었습니다.
함께 제공하는 것
| 영역 | 내용 |
|---|---|
| AX 컨설팅 · 진단 | AI 활용 방향과 요구사항 정리, PoC 범위와 도입 로드맵 |
| 폐쇄망 AI 인프라 | GPU 서버·네트워크·보안 구축, 개발·검증·운영 환경 분리 |
| 사내 전용 LLM | 폐쇄망 안 LLM 셋업, 모델 벤치마크와 선정, 커스터마이징 |
| Enterprise RAG | 사내 문서 기반 지식 검색, 근거·출처가 붙는 답변 |
| AI 에이전트 | 업무 Q&A, 코드 에이전트, 업무 자동화 에이전트 |
| 운영 · 유지보수 | AI 서비스 운영·재학습, 인프라 운영과 SLA |
모든 영역은 TDG가 계약과 책임을 지는 하나의 프로그램으로 제공됩니다.
TDG가 맡는 것
- 과제 정의: 1차 상담에서 AI로 무엇을 할지 함께 정하고 프로젝트를 설계합니다
- 보안 설계: AI가 읽는 데이터의 범위, 에이전트 권한, 망분리를 보안 회사의 기준으로 설계합니다
- Microsoft 환경: Microsoft 공식 파트너로서 Entra·Purview 등 기존 보안 체계와 AI를 연결합니다
- 시스템 연계와 운영: SSO·그룹웨어·문서관리 연계, 인프라 운영과 SLA를 맡습니다
- 단일 창구: 계약, 일정, 품질, 결과에 대한 책임이 모두 TDG 한 곳에 있습니다
진행 방식
- 진단 · 설계요구사항을 정리하고 목표 아키텍처와 PoC 범위를 정합니다.
- 기반 구축GPU 인프라와 사내 전용 LLM 환경을 만듭니다.
- 서비스 구축문서 검색(RAG)과 에이전트를 구현하고 품질·보안을 검증합니다.
- 운영 · 확산연 단위 운영으로 넘기고 적용 범위를 넓힙니다.
작게 시작해 성과를 확인하고 넓히는 단계별 구성은 우리 회사 AI 구축하기의 T1 · T2 · T3과 같습니다.
정보 출처: 온잇츠에이아이 홈페이지, TDG·온잇츠에이아이 공동 제안 자료.자주 묻는 질문
- 데이터를 밖으로 보내지 않고 AI를 쓸 수 있나요?
- 그것이 이 협력의 출발점입니다. 사내 전용 LLM과 문서 검색, 에이전트를 고객의 내부망·폐쇄망 안에 통째로 구축합니다. 고객 서버에 직접 설치하거나 어플라이언스 형태로 제공합니다.
- 구축과 운영을 다른 회사가 맡으면 책임은 누가 지나요?
- TDG가 집니다. TDG가 과제 정의부터 보안 설계, 시스템 연계, 운영까지 프로젝트 전체를 이끌고, 온잇츠에이아이는 그 안에서 사내 전용 LLM과 에이전트를 구현합니다. 계약도 TDG 한 곳과 맺습니다.
온잇츠에이아이 협력 프로젝트, TDG가 한 창구로 맡습니다
TDG 전문 엔지니어가 현재 환경을 진단하고 가장 적합한 솔루션과 기술지원 서비스를 제안해 드립니다.