기술 철학과 접근 방식
AI 에이전트를 실제 산업에 연계할 때 발생할 수 있는 보안, 정확도, 제어 불능의 리스크를 차단하기 위해 baruAI가 고수하는 기본 설계 원칙입니다.
왜 단순한 AI 도입은 매번 실패할까요?
시중에 등장하는 범용 AI 모델은 매우 영리하지만, 기업의 고유한 시스템 환경이나 특수한 도메인 언어를 기본적으로 알지 못합니다. 또한 100%의 무결성을 보장하지 못하기 때문에 이를 그대로 업무 파이프라인에 연결하면 데이터 훼손이나 법률 및 보안 사고로 이어집니다.
baruAI는 단순한 모델 튜닝이나 챗봇 생성이 아닌, **시스템이 안전하게 움직일 수 있도록 에이전트를 결합해 주는 제어 설계(Harness Engineering)**를 중시합니다. 실패할 수 있는 기술의 경계선 위에, 실패하지 않도록 설계된 소프트웨어 통제 장치를 구축하는 것이 우리의 핵심 가치입니다.
baruAI의 4대 설계 원칙
1. 가역성 및 안전구역 설정 (Sandboxed Action)
에이전트가 데이터나 외부 인프라에 접근해 액션을 수행할 때, 절대 즉각적 파괴 작업(하드웨어 제어권 탈취, 원본 데이터베이스 즉시 삭제 등)을 직접 수행하게 하지 않습니다. 모든 자동화 수행 동작은 임시 환경 혹은 사람이 통제할 수 있는 중간 검토 버퍼 영역에서 먼저 대기하며 안전성을 확보합니다.
2. 엄격한 데이터 맥락 제공 (Context Isolation)
AI 모델에게 광범위한 접근 권한을 임의로 제공하지 않습니다. 해결하려는 문제에 필요한 데이터만 엄격하게 슬라이싱하여 제공하며, 지식베이스(RAG) 검색 범위를 구조화하여 할루시네이션(환각)을 예방합니다.
3. 의사결정의 인간 독점 (Human in the Loop)
업무의 실행 속도를 비약적으로 늘리되, 법률적 리스크, 재무 거래 최종 체결, 파트너 관계 조율 등 중대한 가치 판단이 요구되는 최종 단계는 인간이 확인하고 승인하도록 중간 검증 필터(Harness Gateway)를 결합합니다.
4. 가설 기반의 기동성 있는 검증 (PDCA Cycle)
거대한 시스템 설계에 수개월을 소비하기 전, 가장 마찰 비용이 크고 해결 시 임팩트가 뚜렷한 영역을 선정해 2~4주 만에 작동형 시제품을 완성하여 실제 필드 데이터로 피드백 루프를 돌립니다.
Harness (제어 설계) 예시
[입력 프롬프트] → [보안/규칙 필터] → [맥락 주입 RAG] → [AI 추론 및 실행안 도출] → [가상 환경 샌드박스 검증] → [인간 최종 검토 및 승인] → [실제 ERP 반영]
프로젝트 설계 진단하기