[AI 기술] 프롬프트 대화에서 자율 실행으로: Agentic AI가 바꿀 개발 아키텍처

대화형 LLM과 Agentic AI의 본질 차이

기존 대화형 LLM이 입력된 텍스트 맥락에 따라 확률적으로 다음 단어를 생성하는 단방향 구조였다면, Agentic AI는 ‘모델 + 도구 + 환경’이 끊임없이 상호작용하며 피드백을 주고받는 선순환 루프 시스템입니다. 에이전트는 단순히 답변을 내뱉고 멈추는 대신, ‘상황 인지 및 추론 -> 도구 호출 -> 결과 관찰 -> 재추론’으로 이어지는 인지적 피드백 루프를 목표가 달성될 때까지 스스로 반복 수행합니다.

구체적인 예시로, “주말 동안 발생한 결제 서버 에러 원인을 찾아줘”라는 과업을 가정해 봅시다. 기존의 대화형 LLM은 “일반적으로 서버 로그를 확인하고 DB 연결 상태를 점검하세요”라는 원론적인 텍스트 가이드만 제공합니다. 반면 Agentic AI는 상황별 분기를 스스로 타며 행동합니다. 첫째, 스스로 셸 도구를 호출해 에러 로그를 직접 읽습니다. 둘째, 로그에서 데이터베이스 타임아웃 오류를 발견하면 즉시 DB 모니터링 API를 호출하여 상태를 확인합니다. 셋째, 만약 DB가 정상이라면 네트워크 지연 쪽으로 가설을 수정하여 핑 테스트를 수행한 뒤 종합 결과를 보고합니다.

Anthropic 연구팀은 「Building Effective Agents」에서 이처럼 AI가 개입하는 아키텍처를 규칙 기반 워크플로우와 완전한 자율 제어형 에이전트로 명확히 구별합니다. 순차적으로 작업을 처리하는 프롬프트 체이닝, 입력값에 따라 경로를 분기하는 라우팅, 다수의 작업을 동시에 실행하는 병렬화, 그리고 중앙 모델이 하위 워커 모델에 작업을 위임하는 오케스트레이터-워커 패턴처럼 개발자가 사전에 짜놓은 다중 경로 안에서 LLM이 선택만 하는 것이 워크플로우입니다. 반면 에이전트는 정해진 하드코딩 경로 없이 LLM이 매 순간 다음 행동과 도구 사용을 동적으로 결정합니다. 즉, 과거의 결정론적 로직에서 비결정론적 목표 해결 아키텍처로의 전환이 이 변화의 핵심입니다.

서비스 개발 아키텍처의 변화

자율 실행 도입 시 체크할 리스크

주요 아키텍처 리스크는 크게 비용과 안전성 문제로 나뉩니다.

기존 LLM API 호출과 Agentic AI의 차이

단순 API 호출은 질문과 답변이 1:1로 매칭되는 단일 입출력인 반면, Agentic AI는 목표 달성까지 ‘추론-실행-평가’ 루프를 자체 반복합니다. 첫 시도에서 에러가 발생했을 때 즉시 포기하지 않고, 에러 로그를 분석해 실패 원인을 반성한 뒤 환경으로부터 얻은 결과값을 바탕으로 새로운 도구를 꺼내어 2차, 3차 재시도를 이어가는 자율적 끈기가 가장 결정적인 차이입니다.

모든 로직을 에이전트로 전환해야 하는가

명확한 비즈니스 로직은 기존 코드로 유지하고, 복잡한 맥락 추론 영역에만 선택 적용하는 것이 유리합니다. 부가세를 정산하거나 사번으로 권한을 체크하는 등 100% 예측 가능한 영역은 기존의 결정론적 코드를 유지해야 속도 저하와 계산 실수를 막습니다. 반대로 비정형 인보이스 문서에서 핵심 계약 조건을 추출해 상황별로 회계 시스템에 자동 기입하는 등, 유연한 맥락 추론이 필수적인 영역에만 에이전트를 투입하는 하이브리드 아키텍처가 필요합니다. 오버엔지니어링을 피하고 가장 단순한 구조부터 도입하는 것이 권장됩니다.