트랜스포머 설명
트랜스포머는 많은 현대 LLM의 기반이 되는 아키텍처입니다. 핵심 아이디어는 어텐션 레이어로 토큰을 처리해 모델이 컨텍스트 전체의 관계에 서로 다른 가중치를 줄 수 있도록 하는 것입니다. 이 구조는 이전의 순환형 접근보다 학습을 더 병렬화할 수 있게 했고, 현대 언어 모델의 기반이 되었습니다.

기술적인 요청 라이프사이클
프로덕션 환경의 LLM 요청은 보통 한 번의 모델 호출이 아니라 파이프라인입니다. 애플리케이션은 입력을 검증하고 프롬프트를 구성하며, 필요하면 컨텍스트를 검색하고, 토큰을 모델에 보내고, 선택적으로 도구를 호출하고, 출력을 검사한 뒤 향후 평가를 위해 추적 로그를 남깁니다.
시스템 지시, 사용자 입력, 메모리, 예시, 정책을 하나의 순서 있는 컨텍스트로 결합합니다.
벡터 데이터베이스나 키워드 인덱스에서 관련 청크를 찾는 선택적 단계입니다. 검색 증강 생성(RAG)의 핵심입니다.
모델이 다음 토큰의 확률을 계산합니다. temperature 같은 디코딩 설정은 답변이 얼마나 결정적이거나 다양해지는지에 영향을 줍니다.
애플리케이션은 응답을 사용자에게 보여주기 전에 인용, 스키마, 정책 준수 여부, 도구 출력을 검증할 수 있습니다.
임베딩 설명
임베딩은 텍스트, 이미지 또는 다른 데이터를 숫자 벡터로 표현해 의미가 비슷할수록 공간상 더 가깝게 위치하도록 만든 것입니다. 의미 검색, 클러스터링, 추천, 검색에 유용합니다. 중요한 점은 임베딩이 진실 자체가 아니라 유사성을 나타내는 신호라는 것입니다.

셀프 어텐션 설명
셀프 어텐션은 각 토큰이 같은 컨텍스트의 다른 토큰에 가중치를 줄 수 있게 합니다. 모델은 여러 레이어에서 관계를 반복 계산해 단어, 구문, 의존 관계에 대한 더 풍부한 표현을 만듭니다. LLM이 긴 지시와 예시를 활용할 수 있는 이유 중 하나입니다.

토큰화 심화
토큰화는 텍스트를 모델이 읽을 수 있는 단위로 변환합니다. 언어와 문자 체계에 따라 토큰 사용 방식이 달라져 비용과 컨텍스트 길이에 영향을 줄 수 있습니다. 정확한 글자 수 제한, 코드 조각, 희귀 단어가 까다로운 이유도 토큰화와 관련이 있습니다.

검색 증강 생성(RAG) 아키텍처
프로덕션 RAG 시스템에는 수집, 청킹, 임베딩, 인덱스, 검색, 재랭킹, 프롬프트 조립, 답변 생성, 인용, 평가가 포함될 수 있습니다. 많은 실패는 생성 전에 발생합니다. 예를 들어 부적절한 청크, 오래된 문서, 약한 랭킹, 누락된 접근 필터가 원인이 될 수 있습니다. 다른 실패는 종합, 인용, 거절, 답변 생성 단계에서 발생합니다.

보안, 평가, 도구, 에이전트, 실제 애플리케이션에 필요한 제어 장치로 이어가세요.
프롬프트 인젝션
프롬프트 인젝션은 신뢰할 수 없는 텍스트가 시스템 또는 개발자 지시를 덮어쓰려고 할 때 발생합니다. 검색된 페이지에 숨겨진 지시가 포함될 수 있기 때문에 RAG와 에이전트 워크플로에서 자주 문제가 됩니다. 외부 콘텐츠는 권한 있는 지시가 아니라 데이터로 취급하세요.
대규모 언어 모델(LLM) 평가
LLM 평가는 출력이 정확하고 유용하며 안전하고 일관적인지를 측정합니다. 자동 검사, 모델 기반 루브릭 평가, 사람 검토, 작업별 테스트를 함께 사용하세요. 특히 프롬프트, 모델, 검색 방식이 바뀐 뒤에는 회귀를 지속적으로 추적하세요.
함수 호출
함수 호출을 사용하면 모델이 자유 형식 텍스트 대신 도구에 전달할 구조화된 인수를 반환할 수 있습니다. 이후 애플리케이션이 도구를 호출할지 결정하고, 인수를 검증하고, 오류를 처리합니다. 모델 자체가 보안 경계가 되어서는 안 됩니다.
에이전트 설명
에이전트는 LLM을 기반으로 단계를 계획하고, 도구를 호출하고, 결과를 관찰한 뒤 다음 행동을 결정하며 목표에 도달하거나 중지 조건을 만날 때까지 반복할 수 있는 시스템입니다. 하나의 답변을 반환하는 단일 프롬프트와 달리 에이전트는 추론 → 행동 → 관찰 → 반복의 사이클을 실행합니다. 다단계 작업에는 강력하지만 단일 요청보다 평가, 보안, 예측 가능성 관리가 더 어렵습니다.
실용적인 에이전트는 보통 네 요소를 결합합니다. 계획을 세우는 모델, 호출할 수 있는 도구 집합(검색, 코드 실행, API 등), 진행 상황을 추적하는 메모리 또는 스크래치패드, 어떤 행동에 사람의 승인이 필요한지 결정하는 가드레일입니다. 모델은 결코 보안 경계가 아니며, 주변 애플리케이션이 모든 행동을 실행 전에 검증해야 합니다.
Large Action Model(LAM)
“Large Action Model”(LAM)은 업계에서 비공식적으로 쓰이는 표현으로, 하나의 표준화된 아키텍처나 보편적으로 분리된 모델 클래스가 아닙니다. 보통 설명문 생성만 하는 대신 도구 호출, 인터페이스 조작, 소프트웨어 단계 실행 같은 행동을 선택하고 수행하도록 최적화된 모델 또는 에이전트 구성 요소를 가리킵니다.
실무에서는 “LAM”과 “LLM 에이전트”라는 용어가 일관되게 사용되지 않습니다. 개념적으로 유용한 구분은 에이전트가 모델, 도구, 메모리 또는 상태, 정책, 실행 환경, 승인 단계를 포함한 전체 시스템을 뜻하는 반면 “LAM”은 그중 행동 선택 구성 요소를 가리킬 수 있다는 점입니다. 많은 프로덕션 시스템은 별도의 LAM 아키텍처 대신 LLM에 도구 호출, 상태 관리, 가드레일을 결합해 행동을 구현합니다.
멀티 에이전트 시스템과 도구 프로토콜
작업이 커지면 하나의 에이전트를 여러 전문 에이전트로 나누어 협업하게 하는 경우가 많습니다. 하나는 계획하고, 하나는 컨텍스트를 검색하고, 하나는 실행하며, 또 하나는 승인 전에 결과를 확인합니다. 작은 팀이 일을 나누는 방식과 비슷하며, 모든 일을 한 에이전트가 맡는 것보다 각 부분을 테스트하고 통제하기 쉽습니다.
서로 다른 통합 계층을 위한 개방형 프로토콜도 등장하고 있습니다. Model Context Protocol(MCP)은 AI 애플리케이션에 도구, 리소스, 프롬프트를 노출하기 위한 클라이언트-서버 프로토콜을 정의합니다. Agent2Agent(A2A) 프로토콜은 에이전트 간 발견, 통신, 작업 인계에 초점을 맞춥니다. 두 프로토콜은 상호 보완적으로 사용할 수 있지만 지원 범위, 보안 프로필, 채택 수준은 다릅니다. 둘을 함께 사용하는 것은 아키텍처 선택지이지 2026년의 보편적 표준은 아닙니다.
환각의 기술적 설명
환각은 유창한 생성과 근거 기반 검증 사이의 간극에서 발생합니다. 모델은 근거가 없거나 검색된 컨텍스트를 잘못 읽거나 학습 패턴을 과도하게 일반화해도 그럴듯한 텍스트를 만들 수 있습니다. 이를 줄이려면 프롬프트 표현만 다듬는 것이 아니라 검색 품질, 불확실성 처리, 검증, 평가가 필요합니다.
