SGSoftGrid Lab상담하기
💡 추천 대상: 보안이 중요한 연구소·공공기관, 내부망 폐쇄형 AI 구축 기업

회사 데이터가 머무는 곳에,
온프레미스 AI 서버를 함께 구축합니다

하드웨어만 납품하지 않습니다. 고객 업무에 맞는 OEM 장비를 조달하고, 로컬 AI·RAG·업무 시스템을 설치해 실제 사용 가능한 사내 AI 환경으로 인계합니다.

우리 회사 인프라 구성 상담용도별 제품군 비교

Private AI stack

LOCAL
  1. 01
    OEM AI 서버

    국내 보증 · GPU · 암호화 저장

  2. 02
    로컬 AI·RAG

    회사 문서 · 검색 · 답변 근거

  3. 03
    업무 시스템

    AI Office · 에이전트 · 기존 API

  4. 04
    운영 관리

    권한 · 로그 · 백업 · 업데이트

Selected lineup

용도에 맞춘 세 가지 제품군

기본 권장안은 128GB 통합 메모리의 Compact AI Box입니다. 속도, 호환성, 동시 사용량이 더 중요할 때만 상위 구성을 선택합니다.

기본 권장

Standard

Compact AI Box

Dell Pro Max GB10 / 동급 DGX Spark OEM

  • 128GB 통합 메모리
  • 2TB·4TB NVMe
  • 10GbE
  • DGX OS

적합한 경우

문서 RAG, SoftGrid AI Office, 상시 업무 에이전트를 사무실에서 조용하고 낮은 전력으로 운영할 때

확인: Arm64 환경이므로 기존 프로그램과 문서 처리 도구의 호환성을 파일럿에서 확인합니다.

Performance

x86 AI Workstation

국내 OEM RTX 5090 워크스테이션

  • 32GB GDDR7
  • x86 Linux
  • 128GB 시스템 메모리 권장
  • 4TB NVMe 권장

적합한 경우

중소형 모델의 빠른 응답, OCR·비전, 기존 x86 프로그램 연동과 내부 AI 개발을 함께 수행할 때

확인: GPU 전력과 발열이 높아 설치 장소, 소음, 파워와 냉각 구성을 먼저 확인합니다.

Professional

Enterprise AI Workstation

RTX PRO 6000 Blackwell OEM 워크스테이션

  • 96GB GDDR7 ECC
  • MIG 지원
  • x86 Linux
  • 전문가용 보증

적합한 경우

더 큰 모델, 여러 업무의 동시 실행, ECC 메모리와 기업용 하드웨어 지원이 필요할 때

확인: 장비 가격과 소비전력이 높아 실제 동시 사용량을 측정한 뒤 견적으로 제공합니다.

제품명과 사양은 공급사 재고에 따라 동급 OEM 모델로 변경될 수 있습니다. 모델·문서량·동시 사용량을 확인한 뒤 장비비와 구축비를 분리해 견적합니다.

Compare

장비 구성 비교

동시 사용 인원과 모델 크기에 따라 맞는 구성이 달라집니다. 아래는 판단 기준이며, 대표 업무로 PoC를 해서 실제 응답속도와 메모리 사용량을 측정한 뒤 확정합니다.

표를 옆으로 밀면 나머지 구성을 볼 수 있습니다.

기준Compact AI Box (GB10 / DGX Spark 동급)RTX 5090 워크스테이션RTX PRO 6000 워크스테이션
AI용 메모리128GB 통합 메모리 (CPU·GPU 공유)32GB GDDR796GB GDDR7 ECC
CPU 구조Arm64x86x86
강점큰 모델을 한 대에 올리는 여유, 저전력·저소음중소형 모델의 빠른 응답, OCR·비전, 기존 x86 프로그램 호환큰 모델과 여러 업무 동시 실행, MIG 분할, 기업용 보증
주의할 점일부 x86 전용 프로그램 호환성 확인 필요, 응답속도는 고성능 GPU보다 낮음GPU 전력·발열이 높아 설치 장소와 전원 확인 필요장비 가격과 소비전력이 높아 실제 사용량 측정 후 결정
잘 맞는 경우사무실 문서 RAG, AI Office, 소규모 연구 분석개발팀 코드 보조, 비전·OCR, 사내 AI 개발부서 단위 동시 사용, 큰 모델 운영, 장기 운영 서버

Use cases

이런 상황에서 도입합니다

연구기관 · 데이터 분석

연구데이터를 외부 클라우드로 보내지 않고 AI로 분석하고 싶을 때

내부망 서버에 로컬 모델과 분석 환경(Python·R, 기존 SAS 작업과의 연계)을 함께 구성합니다. 연구원 3-5명 규모는 Compact AI Box 1대부터 검토합니다.

개발팀 · 사내 코드 AI

개발팀 20-30명이 소스코드를 외부로 보내지 않고 코드 보조 AI를 쓰고 싶을 때

C/C++·HDL 등 사내 코드와 문서를 대상으로 코드 보조·검색을 구성합니다. 동시 사용량과 모델 크기에 따라 워크스테이션 구성을 정하고, 파일럿에서 응답속도를 측정한 뒤 확정합니다.

공공 · 방산 · 폐쇄망

인터넷이 차단된 폐쇄망에서 생성형 AI를 써야 할 때

모델·패키지·업데이트를 오프라인 반입 절차로 설치하고, 외부 통신 없이 동작하도록 구성합니다. 계정·접근 로그·백업을 보안 지침에 맞춰 설정합니다.

Included

서버 한 대가 아니라 운영 가능한 환경

01

장비 조달

국내 인증·보증이 확인된 OEM 완제품과 필요한 스토리지를 선정합니다.

02

AI 실행 환경

GPU 드라이버, 컨테이너, 로컬 모델과 내부 API를 설치합니다.

03

회사 지식 RAG

문서 수집, 검색, 권한과 답변 근거 표시를 고객 데이터에 맞게 구성합니다.

04

업무 시스템 연결

SoftGrid AI Office, 운영 자동화, 기존 시스템 API를 연결합니다.

05

보안·백업

계정, 접근 범위, 로그, 암호화 저장과 복구 절차를 설정합니다.

06

운영 유지보수

상태 점검, 장애 대응, 모델·드라이버 업데이트와 지식 갱신을 지원합니다.

Safe procurement

직접 조립 판매보다
인증된 OEM 조달부터

초기에는 KC 인증과 국내 A/S가 확인된 완제품을 사용합니다. 하드웨어 보증은 제조사·공급사가, AI 시스템 구축과 운영은 SoftGrid Lab이 담당하도록 책임을 나눕니다.

  1. 01업무·보안 진단데이터 위치, 외부 전송 범위, 사용자와 필요한 모델을 확인합니다.
  2. 02장비 PoC대표 문서와 업무로 호환성·응답속도·메모리 사용량을 측정합니다.
  3. 03현장 설치내부망, 계정, 모델, RAG, 업무 시스템과 백업을 구성합니다.
  4. 04운영 인계관리자 교육과 장애·복구 절차를 전달하고 유지보수를 시작합니다.

Leadership & Architecture

20년+ 실전 현장·산업 소프트웨어 아키텍트

화려한 발표용 PPT나 설명뿐인 제안서가 아닙니다.현장 실무자와 작업자가 실제로 매일 편리하게 쓰는 실용적 소프트웨어를 직접 설계합니다.

아키텍트와 직접 상담하기
CHIEF ARCHITECTSOFTGRID LAB

김동오 대표 | Industrial Software & AI Systems Architect

“설비 통신과 로컬 제어부터 최신 LLM 파이프라인까지, 현장과 인공지능 사이의 끊어진 기술 간극을 연결합니다. 비싼 거대 시스템을 강요하는 대신, 당장 현장의 비효율을 해결하는 파일럿 중심의 아키텍처를 제시합니다.”

Direct Consultation

대표 아키텍트 직접 진단

중간 영업자 없이 1:1 기술 분석

INDUSTRIAL & HMI

산업 통신 · 장비 HMI 제어

EV 충전기 제어, OCPP·Modbus 통신, ARM Linux 기반 로컬 관제 및 설비 자동화 시스템을 직접 설계하고 현장에 구축했습니다.

  • 장비 통신 프로토콜 설계
  • 현장 HMI 및 관제 콘솔
  • 실시간 임베디드 운영

AI SYSTEMS & RAG

LLM RAG · 퀀트 아키텍처

대규모 비정형 기술 문서 검색 파이프라인(RAG), 5,000종목 퀀트 트레이딩 알고리즘, CS 자동화 스튜디오를 구축·운영합니다.

  • 현장 지식 RAG 엔진
  • 유저 컨펌형 시그널 알림
  • 고속 데이터 파이프라인

LEGACY AX TRANSFORMATION

레거시 시스템 점진적 AX 전환

기존 운영을 멈추거나 전면 재건축하지 않고, 노후화된 현장 시스템·ERP에 AI와 자동화를 단계적으로 접목합니다.

  • 무중단 점진적 전환 설계
  • 기존 DB·API 통합
  • 실무자 맞춤형 UI/UX

※ 모든 구축 및 파일럿 프로젝트는 대표 아키텍트가 직접 설계 및 핵심 로직 검증을 주도합니다.

기술 진단 및 견적 문의 →

FAQ

자주 묻는 질문

DGX Spark(또는 동급 GB10) 1대로 몇 명이 쓸 수 있나요?
모델 크기, 질문 길이, 동시에 질문하는 인원에 따라 달라집니다. 문서 RAG·업무 에이전트처럼 동시 요청이 많지 않은 용도는 1대로 시작하는 경우가 많고, 개발팀 코드 보조처럼 동시 요청이 많으면 RTX 5090·RTX PRO 6000 워크스테이션이나 여러 대 구성을 검토합니다. 대표 업무로 PoC를 해서 실제 사용량을 측정한 뒤 권장 구성을 확정합니다.
인터넷이 안 되는 폐쇄망에도 설치할 수 있나요?
가능합니다. 모델 파일, 컨테이너 이미지, 드라이버를 오프라인 반입 절차로 설치하고 외부 통신 없이 동작하도록 구성합니다. 이후 모델·보안 업데이트도 같은 반입 절차로 진행합니다.
회사 데이터가 외부로 나가지 않나요?
모델과 검색 인덱스가 사내 서버에서 동작하므로 문서와 질문이 외부 AI 서비스로 전송되지 않습니다. 외부 전송이 필요한 기능은 진단 단계에서 범위를 정하고, 기본값은 차단입니다.
개발팀 코드 보조(C/C++·HDL)나 연구데이터 분석(Python·R·SAS)에도 쓸 수 있나요?
쓸 수 있습니다. 다만 언어와 업무에 따라 맞는 모델이 다르고, Arm64 장비는 일부 프로그램 호환성 확인이 필요합니다. 대표 코드·데이터로 파일럿을 해서 품질과 호환성을 확인한 뒤 도입 범위를 정합니다.
견적은 언제 확정되나요?
최근 반도체 수급 이슈로 GPU·메모리·SSD 가격 변동이 커서, 사용 인원·용도·환경을 확인한 뒤 그 시점 단가로 장비비와 구축비를 분리해 확정 견적을 드립니다.
장비만 구매하고 설치는 직접 해도 되나요?
KC 인증과 국내 A/S가 확인된 OEM 완제품을 조달하고, AI 실행 환경·RAG·업무 연결·운영까지 함께 구축하는 것을 기본으로 합니다. 범위는 진단에서 고객 상황에 맞게 조정합니다.

Related work

관련 구축·운영 사례

SoftGrid Lab이 실제 현장에서 설계·개발하고 검증한 관련 사례입니다.

전체 사례 보기 →
AI 서버 인프라 진단무료 · 결과는 문서로 드립니다

먼저 인프라 진단을 받아보세요

보유 데이터, 사용 인원, 원하는 업무를 남겨주시면 적합한 장비 구성과 개략 견적을 정리해 드립니다. 구성 1건 기준으로 무료이고, 문서로 남겨 드립니다.

  • ✓인프라 진단 · 개략 견적 (구성 1건 기준 · 무료)

현장 실측이나 여러 구성 비교가 필요하면 그때부터 유료 진단입니다. 그 경우에도 정식 계약 시 진단비 전액을 계약금에서 차감합니다.

도입 여지가 없으면 유료 제안하지 않습니다. 맞지 않으면 여기서 끝입니다.

ceo@softgridlab.kr