AI 원리와 개념, LLM에서 에이전트까지

⏱ 약 10분

AI 도구를 쓰다 보면 LLM, 에이전트, 에이전틱 루프 같은 낯선 용어가 계속 등장하죠. 핵심 개념 시리즈 3편 중 첫 번째인 이 글에서는 도구 이전의 원리, 즉 "AI가 어떻게 일을 하는가"를 정리합니다. 외울 필요는 없습니다. 나중에 헷갈릴 때 돌아와서 찾아보는 사전처럼 쓰시면 됩니다.

WHY — 왜 원리부터 보나요?

원리를 모르면 도구가 마법처럼 느껴지고, 마법처럼 느껴지면 잘못된 기대(만능이라는 착각)와 잘못된 불안(뭔지 몰라서 못 쓰는 상태)이 동시에 생깁니다. 원리를 알면 "이건 시켜도 되겠다, 이건 검증이 필요하겠다"는 감이 생깁니다.

LLM이란 무엇인가

LLM(Large Language Model, 거대 언어 모델)은 한 줄로 이렇게 정리할 수 있습니다.

엄청나게 많은 글을 읽고, "다음에 올 말"을 확률로 예측하는 프로그램.

"오늘 점심 뭐 먹을…" 다음에는 "까?"가 오겠구나, 우리가 자연스럽게 아는 그 원리와 같습니다. 다만 그 규모가 상상을 넘어섭니다. 인터넷의 방대한 텍스트를 학습해서, 문장 완성뿐 아니라 요약·번역·분석·작문까지 "다음에 올 말 예측"의 연장선으로 해냅니다.

여기서 실무자에게 중요한 성질 두 가지가 나옵니다.

성질	의미	실무 시사점
확률 기반	정답을 "알고" 있는 게 아니라 가장 그럴듯한 말을 생성	그럴듯하지만 틀린 답(환각)이 나올 수 있음. 숫자·사실은 검증 필요
문맥 의존	주어진 맥락 안에서 예측	맥락(배경, 기준, 예시)을 잘 줄수록 결과가 좋아짐

이 두 성질만 이해해도 AI를 대하는 자세가 달라집니다. 믿고 맡기되, 검증한다. 그리고 맥락을 아끼지 않는다.

모델, 도구, 메모리: 에이전트의 3대 부품

LLM은 두뇌일 뿐입니다. 두뇌만으로는 일을 못 하죠. 여기에 부품을 붙여야 "일하는 AI"가 됩니다.

부품	한 줄 정리	비유
모델(Model)	두뇌. 같은 계열 안에서 크기·세대가 다름 (Opus vs Haiku)	신입의 지적 능력
도구(Tool)	AI가 손발처럼 쓰는 외부 기능. 웹 검색, 파일 읽기·쓰기, 명령 실행	신입의 손발과 사무기기
메모리(Memory)	지난 맥락을 기억해 대화를 이어가는 장치	신입의 업무 수첩

그리고 이 세 부품에 목표를 더하면 에이전트(Agent)가 됩니다.

에이전트 = 모델(두뇌) + 도구(손발) + 메모리(수첩) + 목표

비유하자면 이렇습니다. LLM은 똑똑한 신입의 두뇌, 에이전트는 실제로 출근해서 일하는 신입입니다. 두뇌가 아무리 좋아도 책상에 앉아 손을 움직이지 않으면 일이 안 되듯이, LLM도 도구와 목표가 있어야 실제 업무를 해냅니다.

챗봇 vs 에이전트: 무엇이 다른가

같은 Claude 모델을 쓰는데도 채팅창(claude.ai, ChatGPT 등)과 에이전트형 도구의 경험은 완전히 다릅니다. 차이는 세 가지입니다.

차이	채팅창 (챗봇)	에이전트
실행력	"이렇게 해볼 수 있어요"라고 답만 주고, 실행은 내가 복붙	"수정했습니다"라며 직접 파일을 만들고 도구에 접속해 완료
내 컴퓨터에서 작동	"파일로 첨부해주세요"	내 폴더의 파일을 직접 읽고, 관련 자료를 스스로 찾아봄
복잡한 미션	"3개 완료했어요! 이어서 할까요?"	"30개 리서치를 위해 에이전트 5개를 병렬로 실행합니다"

챗봇은 묻고 답하는 도구이고, 에이전트는 목표를 주면 끝까지 해내는 도구입니다. ChatGPT가 못하는 게 아니라, 채팅창이라는 형태 자체가 "답변"까지만 하도록 설계되어 있을 뿐입니다.

TIP — 구분하는 가장 쉬운 질문

"결과물이 어디에 남는가?"를 보면 됩니다. 채팅창 답변으로 남으면 챗봇, 내 폴더의 파일·연결된 서비스의 실제 변화로 남으면 에이전트입니다.

에이전틱 루프: 에이전트가 일하는 방식

에이전트에게 목표를 주면, 안에서는 이런 순환이 돌아갑니다.

생각한다

목표를 쪼갭니다. "경쟁 제품 조사"라는 목표를 받으면 "먼저 제품 목록을 찾고, 각각의 가격 페이지를 확인하고, 표로 정리하자"처럼 계획을 세웁니다.

도구를 쓴다

계획의 첫 단계를 실행합니다. 웹을 검색하거나, 파일을 읽거나, 문서를 만듭니다. 여기가 챗봇과 갈라지는 지점입니다.

결과를 관찰한다

도구를 쓴 결과를 보고 판단합니다. "검색 결과가 부족하네, 다른 키워드로 다시 찾자" 또는 "이 정도면 다음 단계로 가자"처럼 스스로 조정합니다.

목표 달성까지 반복한다

1~3을 목표가 끝날 때까지 반복합니다. 중간에 막히면 우회하고, 에러가 나면 원인을 찾아 고칩니다. 이 순환 전체를 **에이전틱 루프(Agentic Loop)**라고 부릅니다.

사람이 일하는 방식과 똑같습니다. 계획하고, 해보고, 결과를 보고, 조정하고, 다시 하죠. 에이전트가 "몇 분씩 혼자 돌아가는" 이유가 바로 이 루프 때문입니다.

CAUTION — 루프에도 감독이 필요합니다

루프가 스스로 돌아간다는 말은, 방향이 틀리면 틀린 채로 열심히 달린다는 뜻이기도 합니다. 그래서 에이전트를 안전하게 감싸는 틀이 필요합니다. 위험한 작업 전에 사람 확인을 받고, 작업 범위를 폴더로 제한하는 껍데기죠. 이 껍데기를 **하네스(Harness)**라고 부르는데, 다음 편에서 다룰 Claude Code가 바로 Anthropic이 만든 하네스입니다.

이번 편 정리

CHECK — 1편 핵심 요약

LLM은 "다음에 올 말"을 확률로 예측하는 두뇌입니다. 그럴듯하지만 틀릴 수 있으니 검증이 필요합니다
두뇌(모델)에 손발(도구)과 수첩(메모리)과 목표를 더하면 에이전트가 됩니다
챗봇은 답변까지, 에이전트는 실행과 완료까지 갑니다. 결과물이 어디에 남는지로 구분합니다
에이전트는 "생각 → 도구 사용 → 관찰"의 에이전틱 루프를 목표 달성까지 반복합니다

다음 편에서는 이 원리 위에 세워진 도구, Claude Code를 다룹니다. CLAUDE.md, 스킬, MCP 같은 구성요소가 어떻게 "나만의 AI 비서"를 만드는지 살펴봅니다.