어텐션랩, NIPA 오픈소스 AI·SW 과제 참여… 산업 운영 데이터 추론 엔진 개발
노형석 기자
작성일 2026-07-07 08:03
본문

본 과제는 2026년 5월 1일부터 12월 31일까지 진행되며, 생성형 AI 및 대규모 언어모델(LLM) 서비스 운영 시 발생하는 응답 지연, 반복 컨텍스트 처리, GPU 자원 사용 최적화 등의 문제를 해결하기 위한 오픈소스 AI 인프라 고도화에 초점을 맞춘다. 특히 산업 설비, 통신망, 에너지 인프라 등 운영 환경에서 SCADA와 같은 현장 데이터를 AI가 해석 가능한 형태로 전환하고, 이를 실제 운영 판단으로 연결하는 기술의 중요성이 부각되고 있다.
어텐션랩이 개발하는 Agentic TUI는 운영자가 자연어 명령을 통해 AI 게이트웨이의 상태를 확인하고, 설정, 모니터링, 장애 대응 등의 흐름을 관리할 수 있도록 지원하는 터미널 인터페이스다. 이를 통해 복잡한 API 호출이나 설정 절차에 대한 부담을 줄이고, GPU 상태, 요청 큐, 응답 지연 등 주요 지표를 직관적으로 파악할 수 있는 운영 환경을 구현하는 것을 목표로 한다.
또한, 어텐션랩은 SCADA 데이터를 활용한 추론 엔진 개발을 통해 설비 이벤트, 상태 변화, 장애 징후 등 산업 운영 데이터를 구조화하고, 운영자가 이해할 수 있는 원인 분석과 대응 판단을 지원할 계획이다. 이는 현장 운영 데이터를 단순 조회하거나 시각화하는 수준을 넘어, 이상 상황을 해석하고 의사결정을 지원하는 AI 운영 계층으로 발전시키는 데 기여할 것으로 기대된다.
이번 과제의 기술 목표에는 LLM 추론 응답 지연 감소를 위한 Prefix-aware Routing, GPU Resource-aware Scheduling, KV Cache-aware Inference Optimization 등이 포함된다. 어텐션랩은 운영자 인터페이스와 산업 운영 데이터 기반 추론 계층 개발을 담당하며, AI 게이트웨이 기술이 실제 산업 현장에서 활용될 수 있는 운영 경험과 판단 구조를 구현하는 데 기여할 방침이다.
어텐션랩은 이번 과제를 통해 기존에 축적해온 LLM 기반 리즈닝 엔진, Multi-LLM 오케스트레이션, 데이터 구조화 기술을 산업 인프라 운영 영역으로 확장하고, 제조, 인프라, 공공 운영 환경에서 활용 가능한 AI 리즈닝 엔진 기술 기반을 강화할 계획이다.
기사 공유하기
