고양이 두 잔

들어가며이 글은 AX를 0에서 설계하는 연재의 여덟 번째 편이자 이론편의 마지막이다. 앞의 편들이 데이터와 검색과 메모리와 도구로 시스템을 세웠다면, 이제 그것이 실제로 잘 도는지 판정할 차례다. LLM 시스템은 결정적 코드와 달리 틀린 답도 정상 응답처럼 되돌려 조용히 실패한다. 그래서 이 편은 배포 전에 재는 평가, 실행 중에 지키는 안전, 프로덕션에서 보는 관측 가능성, 그리고 그 위에서 정착을 판정하는 방법을 다룬다. 이 세 층은 2026년 현재 배포 전과 실행 중과 프로덕션의 신뢰성 스택으로 수렴했다. 마지막 절은 1부의 도입 게이트로 되돌아가 여덟 편의 이론을 하나로 닫는다.평가 없이는 나아지는지 알 수 없다벤치마크가 아니라 자체 평가셋으로 잰다공개 벤치마크(표준 시험 점수)는 우리 업무의 품..

들어가며이 글은 AX를 0에서 설계하는 연재의 일곱 번째 편이다. 앞의 편들이 데이터를 모으고 검색하고 기억하게 했다면, 이제 그 위에서 실제 행동을 일으킬 차례다. 모델이 답만 내는 것과 도구를 불러 일을 처리하는 것은 전혀 다른 문제다. 이 편은 모델이 외부 기능을 호출하는 방식과, 그 호출들을 엮어 하나의 작업으로 만드는 흐름을 다룬다. 모델이 똑똑해도 그 주변 시스템이 허술하면 전체가 무너진다는 점이 이 편의 전제다. 그래서 초점은 화려한 자율성이 아니라 믿을 수 있는 행동을 만드는 데 있다.모델이 도구를 부른다도구 호출이란 무엇인가도구 호출(tool calling, 모델이 외부 기능을 호출하도록 하는 것)은 모델이 모르는 일을 직접 처리하게 해 준다. 이는 함수 호출(function callin..

들어가며이 글은 AX를 0에서 설계하는 연재의 여섯 번째 편이다. 5부에서 조직의 지식을 검색해 꺼내 왔다면, 이제 에이전트가 자기 판단을 축적하는 문제로 넘어간다. 검색은 문서를 잘 찾아 주지만 에이전트가 무엇을 결정했고 무엇이 통했는지는 남기지 않는다. 이 편은 에이전트가 겪은 일과 배운 방법과 내린 판단을 세션 너머로 이어 가는 메모리를 다룬다. 메모리가 없는 에이전트는 매번 처음부터 다시 시작하는 상태 없는 스크립트에 머문다. 그래서 메모리는 부가 기능이 아니라 에이전트가 오래 함께 일하게 만드는 핵심 요소다.검색은 지식을 주지만 판단을 남기지 않는다맥락 창은 대화가 끝나면 사라진다LLM은 본질적으로 상태가 없어 대화 사이에 아무것도 기억하지 못한다. 한 세션에서 나눈 이야기는 맥락 창(conte..

들어가며이 글은 AX를 0에서 설계하는 연재의 다섯 번째 편이다. 3부에서 데이터를 모으고 4부에서 관계를 담았다면, 이제 그것을 실제로 꺼내 쓸 차례다. 이 편은 필요한 정보를 찾아오는 검색과, 찾은 정보를 모델 앞에 어떻게 놓을지 정하는 컨텍스트 엔지니어링을 다룬다. 이 둘은 사실상 시스템의 심장이며, 앞의 모든 준비가 여기서 성능으로 바뀐다. 여기서 다루는 기법과 수치는 특정 벤더의 주장이 아니라 2026년 7월 기준으로 여러 자료를 교차검증한 것이다.검색은 컨텍스트 엔지니어링의 한 층이다프롬프트 엔지니어링에서 컨텍스트 엔지니어링으로초기 LLM 활용은 완벽한 질문 문구를 다듬는 프롬프트 엔지니어링(prompt engineering, 지시문을 잘 쓰는 일)에 집중했다. 그러나 실제 시스템에서는 지시문..

들어가며이 글은 AX를 0에서 설계하는 연재의 네 번째 편이다. 3부에서 흩어진 데이터를 모아 정규화했다면, 이제 그 데이터 사이의 관계를 다룰 차례다. 앞의 파이프라인은 각 항목을 잘 검색하게 만들지만, 항목들이 서로 어떻게 이어지는지는 담지 않는다. 이 편은 그 관계를 명시적으로 저장하는 온톨로지(개념과 관계의 뼈대)와 지식그래프(개체와 연결의 실체)를 다룬다. 다만 이 편은 다른 편과 달리 이 기술을 과대 포장하지 않고, 언제 값을 하고 언제 과한지를 함께 따진다.벡터 검색이 놓치는 것은 관계다조각으로 자르면 개체 사이의 관계가 끊긴다앞 편의 검색은 문서를 조각으로 잘라 의미가 비슷한 것을 찾는 방식이다. 이 방식은 각 조각을 독립적으로 다루므로 조각들 사이의 연결은 저장하지 않는다. 예를 들어 한..