챗지피티취미독학

지금까지 1차시부터 19차시까지 LangChain의 기초, RAG, Agent, LangGraph, 배포, 운영, 보안, 최적화, 확장, 피드백 루프까지 모두 학습했습니다.이번 마지막 시간에는 그 모든 내용을 하나의 종합 프로젝트로 통합해, 기초 → 개발 → 배포 → 운영 → 개선의 전 과정을 한 번에 구현합니다.목표는 사내 지식 검색 & 자동 응답 시스템을 만드는 것이며, 이 프로젝트는 실무에도 바로 적용할 수 있는 구조를 갖춥니다.1. 프로젝트 개요프로젝트명: SmartRAG AI Assistant기능:사내 문서(PDF·Notion·Google Drive) 검색RAG 기반 답변 생성Agent로 계산·API 호출 처리LangGraph로 상태 관리 및 품질 검증FastAPI + Docker로 배포Lang..

지난 시간에는 Slack·Notion·Google Drive·DB 등 외부 서비스와 LangChain을 연동해 업무 자동화를 구현했습니다.이제 서비스가 실제로 운영되면, 사용자의 질문·응답·만족도 데이터를 활용해 지속적인 품질 개선을 할 차례입니다.이번 시간에는 사용자 피드백 루프(Feedback Loop)를 설계하고, 이를 통해 RAG 검색 품질·프롬프트·모델 선택 로직을 자동으로 개선하는 방법을 다룹니다.1. 피드백 루프란?사용자의 실제 사용 데이터를 수집 → 분석 → 개선 → 재배포하는 반복 사이클목표응답 품질 향상사용자 만족도 상승모델·프롬프트·데이터셋의 지속적 최적화2. 피드백 데이터 유형유형설명예시명시적 피드백사용자가 직접 평가👍/👎 버튼, 별점암묵적 피드백사용자의 행동 분석답변 클릭, 추..

지난 시간에는 LangChain 파이프라인에 멀티모달 기능을 통합해 이미지·음성까지 처리할 수 있는 서비스를 구현했습니다.이번 시간에는 LangChain을 외부 서비스와 연동해, 실전 업무 자동화를 만드는 방법을 다룹니다.Slack, Notion, Google Drive, 사내 데이터베이스(DB)와 연결하면 LangChain이 단순한 대화형 AI를 넘어 업무 도우미, 데이터 분석 도구, 보고서 작성기로 변신합니다.1. 외부 서비스 연동의 장점업무 자동화: 채팅봇이 바로 회사 자료 검색·보고서 작성데이터 동기화: 실시간 업데이트된 문서 기반 RAG협업 효율성: 팀 커뮤니케이션 도구와 AI 연결2. Slack 연동 예시(1) Slack API 토큰 발급Slack App 생성 → OAuth Token 발급 →..

지난 시간에는 분산 처리·큐 시스템·모델 샤딩을 통해 LangChain 서비스의 확장성을 높이는 방법을 배웠습니다.이번 시간에는 서비스 기능을 한 단계 업그레이드해, 멀티모달(Multimodal) 처리를 LangChain 파이프라인에 통합하는 방법을 살펴봅니다.멀티모달이란 텍스트뿐 아니라 이미지, 음성, 비디오까지 함께 처리해 더 풍부한 사용자 경험을 제공하는 기술입니다.이번 차시에서는 텍스트+이미지, 텍스트+음성 조합을 중심으로 구현 예시를 다룹니다.1. 멀티모달의 장점입력 다양성: 사용자가 텍스트 대신 이미지나 음성으로 질문 가능응답 풍부화: 이미지 분석, 음성 변환 등으로 UX 개선새로운 활용 사례: 제품 검색, 영상 분석, 대화형 튜터, 시각장애인 보조2. LangChain에서 멀티모달 구현 전략..

지난 시간에는 데이터 업데이트·평가·배포를 자동화하는 MLOps 스타일 파이프라인을 구현했습니다.이제 서비스가 성장해 사용자와 요청이 늘어나면, 시스템이 이를 감당할 수 있도록 확장성(Scalability)을 설계해야 합니다.이번 시간에는 분산 처리, 큐 시스템, 모델 샤딩을 통해 LangChain 기반 LLM 서비스를 트래픽 폭주 상황에서도 안정적으로 운영하는 방법을 배웁니다.1. 확장성이 필요한 이유AI 서비스는 응답 지연이 늘어나면 사용자 경험(UX)이 급격히 악화모델 호출 비용과 속도가 요청 수에 비례해 증가특정 시점(예: 이벤트, 뉴스)에는 트래픽 폭발 가능성 존재2. 확장 전략 개요전략설명장점단점분산 처리여러 서버/프로세스에서 병렬 처리처리량 증가인프라 복잡성큐 시스템요청을 큐에 넣고 비동기 ..

지난 시간에는 프롬프트 주입 방지, 민감 데이터 마스킹, API 인증 등 보안 & 안전성 강화를 다뤘습니다.이제 운영 중인 LangChain 서비스를 자동화 파이프라인으로 업그레이드할 차례입니다.이번 시간에는 데이터 수집·전처리 → RAG 업데이트 → 품질 평가 → 배포를 자동으로 실행하는 MLOps 스타일의 파이프라인을 구현합니다.이를 통해 사람이 매번 수동으로 업데이트할 필요 없이, 주기적·안정적인 서비스 운영이 가능해집니다.1. 자동화 파이프라인이 필요한 이유데이터 최신성 유지: 새로운 문서·FAQ·보고서를 자동 반영품질 보증: 변경 후 성능 저하 여부 자동 검증배포 효율성: 반복 작업을 줄여 개발 생산성 향상무중단 운영: 서비스 가동 중에도 안정적 업데이트 가능2. 파이프라인 전체 구조[데이터 수..

지난 시간에는 프롬프트 압축·캐싱·모델 라우팅을 활용해 LangChain 서비스의 비용 최적화 전략을 배웠습니다.이번 시간에는 운영 중인 AI 서비스에서 반드시 고려해야 할 보안(Security) & 안전성(Safety)을 다룹니다.AI 서비스는 단순한 오류보다 데이터 유출, 악의적 요청, 프롬프트 주입 공격이 훨씬 위험합니다.오늘은 이를 방지하기 위한 구체적인 방법과 LangChain에서 적용할 수 있는 보안 기법을 실습합니다.1. 프롬프트 주입(Injection) 공격 방지프롬프트 주입은 사용자가 의도적으로 시스템 지시를 무시하게 하거나, 비밀 정보를 노출시키도록 유도하는 공격입니다.방지 전략시스템 메시지 고정: 중요한 지시는 system 역할로 설정출력 포맷 제한: Output Parser 사용해 ..

지난 시간에는 LangSmith와 OpenTelemetry를 활용해 서비스의 품질과 성능을 모니터링하는 관측성(Observability)을 구축했습니다.이제 운영 중인 LangChain 서비스의 비용을 최적화할 차례입니다.이번 시간에는 프롬프트 압축, 캐싱, 모델 라우팅 전략을 활용해 성능은 유지하면서 토큰 사용량과 API 호출 비용을 줄이는 방법을 배웁니다.1. 왜 비용 최적화가 필요한가?LLM API는 호출량·토큰 수에 따라 비용이 누적됨장기 운영 시 비용 절감이 곧 서비스 지속 가능성 확보사용자 증가에 대비한 스케일링 전략 필요2. 프롬프트 압축(Prompt Compression)검색 결과나 대화 히스토리가 길어질수록 토큰 사용량이 증가합니다.프롬프트 압축은 불필요한 부분을 제거하거나 요약해 토큰을..

지난 시간에는 FastAPI·Docker·서버리스 환경으로 LangChain 서비스를 배포하는 방법을 배웠습니다.이제 실제 운영 단계에서 서비스 품질을 유지·개선하려면, 모델의 응답 품질·성능·오류를 실시간으로 모니터링할 수 있어야 합니다.이번 시간에는 관측성(Observability) 개념과 함께 LangSmith, OpenTelemetry를 활용해LangChain 서비스의 품질과 성능을 추적하고, 운영 중 문제를 조기에 발견하는 방법을 다룹니다.1. 관측성(Observability)이란?시스템의 내부 상태를 외부에서 관찰·분석할 수 있는 능력운영 환경에서 모델 응답, 처리 속도, 오류, 비용 등을 추적하면문제를 조기 감지성능 최적화비용 절감품질 유지가 가능합니다.2. LangSmith – LangCh..

지난 시간에는 LangGraph를 이용해 상태 기반 LLM 워크플로우를 설계했습니다.이번 시간에는 지금까지 만든 RAG·Agent·LangGraph 파이프라인을 실제 서비스로 배포하는 방법을 다룹니다.배포 환경은 크게 API 서버(FastAPI), 컨테이너(Docker), 서버리스(Cloud Run·AWS Lambda)로 나눌 수 있습니다.이번 차시에서는 세 가지 방식을 모두 살펴보고, 언제 어떤 방법을 쓰면 좋은지까지 정리합니다.1. 배포 전략 선택방식장점단점추천 상황FastAPI구현 간단, 로컬→클라우드 전환 쉬움서버 관리 필요MVP, 내부 APIDocker이식성 높음, 환경 통일이미지 빌드·배포 관리 필요팀 개발, 멀티 환경 배포서버리스인프라 관리 無, 사용량 기반 과금Cold Start 지연이벤트..

지난 시간에는 Agent를 활용해 RAG와 외부 도구를 결합한 지능형 워크플로우를 구현했습니다.이번 시간에는 더 복잡한 시나리오를 구조적으로 관리할 수 있는 LangGraph를 배워봅니다.LangGraph는 상태(State)와 그래프(Graph) 개념을 이용해 LLM 워크플로우를 설계·실행하는 프레임워크입니다.특히 분기, 합류, 반복, 에러 처리를 시각적·논리적으로 설계할 수 있어 서비스급 AI 시스템에 적합합니다.1. LangGraph란?LangChain 위에서 동작하는 워크플로우 엔진노드(Node): 작업 단위 (프롬프트, LLM 호출, 툴 실행 등)엣지(Edge): 노드 간 연결 경로상태(State): 현재 진행 상황과 데이터 저장컨트롤 플로우(Control Flow): 조건 분기, 반복, 에러 처..

지난 시간까지 우리는 RAG를 구현·최적화하고, 평가를 통해 품질을 개선하는 방법을 배웠습니다.이제 RAG가 단순히 문서를 검색·응답하는 수준을 넘어, 외부 도구와 API를 활용해 스스로 작업을 수행하도록 확장해보겠습니다.이번 시간에는 LangChain의 Agent 기능을 활용해, LLM이 검색·계산·API 호출·데이터 변환 등을 스스로 결정하고 실행하는 지능형 워크플로우를 만들어봅니다.1. Agent란?Agent는 LLM + 툴 호출 능력을 결합해, 스스로 다음 행동을 결정하고 수행하는 구성입니다.기본 흐름사용자 입력 수신LLM이 어떤 도구를 사용할지 결정해당 도구 실행실행 결과를 다시 LLM에 전달최종 답변 생성2. LangChain Agent 구성 요소 구성 요소 설명 예시 LLM행동 계획을 세..

지난 시간에는 검색 필터링, 리랭킹, 다단계 검색을 통해 RAG 성능을 최적화하는 방법을 배웠습니다.하지만 최적화가 잘 되었는지를 확인하지 않으면, 성능 향상인지 단순한 변화인지 알 수 없습니다.이번 시간에는 RAG 품질을 체계적으로 측정하는 방법, 즉 A/B 테스트와 자동 평가 지표를 활용한 개선 전략을 다룹니다.1. 왜 RAG 평가가 중요한가?정량적 근거 확보: “좋아진 것 같다” → 수치로 증명비용 대비 효과 검증: 모델 변경, 검색 최적화, 프롬프트 수정의 효율성 측정지속적 개선 가능: 주기적인 평가로 성능 저하 방지2. 평가 방법 분류 평가 방법 설명 장점 단점 휴먼 평가사람이 직접 답변의 정확성·충실성 평가가장 신뢰도 높음시간·비용 큼자동 평가 지표알고리즘으로 점수 계산 (정확도, 관련성..

지난 시간에는 LCEL 고급 문법을 활용해 조건 분기·병렬 실행·재시도·타임아웃 같은 실전형 파이프라인을 구성했습니다.이제는 RAG의 검색 품질을 한 단계 끌어올릴 차례입니다.오늘은 검색 결과 필터링, 리랭킹(Re-ranking), 다단계 검색 기법을 배우고, 이를 LangChain RAG 파이프라인에 적용해 더 정확하고 관련성 높은 답변을 생성하는 방법을 실습합니다.1. 왜 검색 최적화가 중요한가?RAG의 성능은 검색 결과 품질에 크게 좌우됩니다.검색된 문서가 질문과 관련성이 낮으면, LLM이 아무리 뛰어나도 부정확한 답을 생성합니다.2. 검색 결과 필터링벡터스토어에서 문서를 검색할 때, 메타데이터 필터를 적용해 불필요한 결과를 제거합니다.retriever = vectorstore.as_retrieve..

지난 시간에는 다양한 RAG 체인 패턴(Stuff, Map-Reduce, Refine, Router)을 익혀서 데이터 크기와 상황에 맞게 RAG를 설계하는 방법을 배웠습니다.이번 시간에는 LangChain Expression Language(LCEL)의 고급 기능을 활용해, 조건 분기·병렬 실행·에러 재시도 같은 실전 서비스급 파이프라인을 구성해봅니다.LCEL 고급 문법을 익히면 단순한 프롬프트-응답 구조를 넘어, 동적·유연·안전한 LLM 워크플로우를 만들 수 있습니다. 1. LCEL 고급 기능 개요LCEL은 단순 | 연결뿐 아니라 다음과 같은 기능을 제공합니다.RunnableBranch: 조건에 따라 다른 체인 실행RunnableParallel: 여러 체인을 동시에 실행에러 처리 / 재시도: 실행 실패..