AI 에이전트란? 챗봇에서 ‘일하는 AI’로 넓어지는 역할

AI 에이전트란 무엇인가요?

AI 에이전트란 목표에 맞춰 필요한 행동과 도구를 선택하고, 실행 결과를 확인하며 작업을 이어가는 AI 시스템입니다. 질문에 답하는 데서 더 나아가 사용자가 맡긴 목표를 달성하도록 실제 작업까지 수행하는 것이 핵심입니다.

최근 주목받는 형태는 대규모 언어모델(LLM)에 도구와 실행 관리 기능을 연결한 시스템입니다. 모델이 요청을 해석하고 다음 행동을 판단하면, 연결된 도구가 정보를 조회하거나 데이터를 변경합니다. 실행 관리 기능은 작업 상태와 결과를 추적하며 다음 단계로 이어지도록 돕습니다.

이 글에서 다루는 LLM 기반 에이전트가 모든 업무를 사람 없이 완수하는 것은 아닙니다. 자율적으로 처리하는 범위는 설계와 권한에 따라 달라지며, 사람의 판단이나 승인이 필요한 단계도 포함됩니다. Google Cloud 개념 설명

챗봇과 무엇이 다른가요?

회의 일정 잡기를 예로 들어볼게요. 답변 중심 챗봇은 일정 조율 방법이나 안내 메시지 초안을 제공하고, 에이전트는 허용된 범위에서 일정 조회와 등록까지 이어갈 수 있습니다.

이 표는 기능 차이를 보여주는 전형적인 비교입니다. 실제 제품에는 대화 기능과 작업 실행 기능이 함께 들어갈 수 있어요. 채팅창이 있다고 답변만 하는 시스템은 아니며, 검색 기능이 있다고 모두 에이전트인 것도 아닙니다.

구분할 때는 도구의 유무뿐 아니라 상황에 맞춰 다음 행동을 선택하고, 실행 결과에 따라 작업을 이어가는지 살펴봐야 합니다. Anthropic 설계 가이드

목표를 받아 실제 작업을 수행하는 과정

“다음 주 팀 회의 30분을 잡아주세요”라는 가상 요청을 살펴보겠습니다. 캘린더가 연결되어 있고, 일정을 등록하기 전에는 사용자 승인을 받도록 설정했다고 가정합니다.

1. 목표 파악: 참석자, 날짜 범위, 회의 길이를 확인합니다. 참석자가 불분명하면 먼저 사용자에게 물어봅니다.
2. 행동 선택: 공통으로 가능한 시간을 찾기 위해 참석자들의 일정 조회가 필요하다고 판단합니다.
3. 캘린더 조회: 접근이 허용된 캘린더를 조회하고, 조건에 맞는 30분짜리 빈 시간 중 후보를 고릅니다.
4. 승인 후 등록: 후보 시간과 참석자를 보여주고 승인을 요청합니다. 승인받으면 도구를 호출해 일정을 등록합니다.
5. 결과 확인: 등록 성공 여부와 저장된 시간·참석자를 확인한 뒤, 일정 링크나 등록 정보를 사용자에게 전달합니다.

이 과정이 항상 한 번에 끝나지는 않습니다. 공통으로 빈 시간이 없으면 기간을 넓히거나 참석자를 조정할 수 있는지 물어보고, 바뀐 조건으로 다시 조회합니다. 등록에 실패했다면 완료했다고 알리지 않고 원인을 확인해야 해요. 이처럼 결과를 확인하고 다음 행동을 정하는 반복 구조가 에이전트의 핵심입니다. Anthropic 실행 구조 및 활용 설명

어디까지 맡기고 무엇을 확인해야 하나요?

에이전트에게 일을 맡길 때는 요청 내용과 함께 실행 범위를 정해야 합니다. 계정을 연결해도 제공되는 도구와 허용된 권한 밖의 작업까지 수행할 수는 없습니다.

• 도구와 권한: 어떤 정보를 읽고, 무엇을 생성·수정·삭제할 수 있는지 확인합니다.
• 변경 전 승인: 일정 등록처럼 다른 사람이나 시스템에 영향을 주는 작업은 어느 단계에서 승인받을지 정합니다.
• 완료 증거: “처리했습니다”라는 답변에 더해 등록 기록이나 변경된 파일로 실제 결과를 확인합니다.
• 중단 조건: 반복 실패, 실행 횟수 초과, 조건 불충족 시 멈추고 사람에게 판단을 넘기도록 설정합니다.

잘못된 판단이 실제 변경으로 이어질 수 있고, 반복 실행은 비용과 대기 시간을 늘릴 수 있습니다. 맡기는 범위가 넓어질수록 사람이 확인할 지점과 멈출 조건을 구체적으로 정해야 합니다. Anthropic의 실행 제한 권고