AI

1. Seq2Seq — 시퀀스를 시퀀스로 변환한다1) Seq2Seq란Seq2Seq는 RNN을 연결해 하나의 시퀀스 데이터를 다른 시퀀스 데이터로 변환하는 모델이다. 입력을 처리하는 인코더(Encoder)와 출력을 생성하는 디코더(Decoder)가 연결된 구조다. 기계 번역처럼 입력 언어의 문장을 받아 출력 언어의 문장으로 변환하는 데 사용된다.인코더 : 입력 시퀀스의 모든 단어를 처리해 하나의 컨텍스트 벡터(Context Vector)로 압축한다. 이 벡터가 입력 문장의 의미를 담고 있으며 잠재 벡터(Latent Vector)라고도 한다디코더 : 이 컨텍스트 벡터를 받아 출력 시퀀스를 하나씩 생성한다LSTM을 활용할 때는 구현상 설정해야 할 옵션이 있다.return_state=True : Hidden S..

1. 자연어처리란 무엇인가자연어는 인간이 상대방과 의사소통을 위해 사용하는 언어다. 한국어, 영어, 중국어처럼 사람들이 일상에서 쓰는 언어를 말한다. 자연어처리(NLP, Natural Language Processing)는 이 사람의 언어를 컴퓨터가 이해하고 처리할 수 있도록 하는 AI의 한 분야다.NLU(Natural Language Understanding) : 텍스트의 의미를 이해하는 방향이다NLG(Natural Language Generation) : 텍스트를 생성하는 방향이다응용 분야 : 형태소 분석, 감정 분석, 기계 번역, 문서 요약, 챗봇까지 일상에서 접하는 많은 AI 서비스가 이 기술을 기반으로 한다컴퓨터가 텍스트를 처리하려면 먼저 텍스트를 숫자로 변환해야 한다. 이 과정이 텍스트 전처리..

1. LLM 평가는 왜 어려운가기존 소프트웨어 테스트는 명확한 정답이 존재했다. 함수에 값을 넣으면 기대한 값이 나오는지 확인하면 됐다. 하지만 LLM의 출력은 다르다.동일한 질문에도 맥락, 언어, 해석 방식에 따라 여러 가지 올바른 답변이 존재할 수 있다유창성, 일관성, 관련성 같은 품질 지표는 정량화하기 어렵다사실이 아닌 내용을 자신 있게 생성하는 Hallucination 문제까지 더해진다LLM 평가 파이프라인은 이 문제를 구조적으로 해결하기 위해 등장했다.질문 입력 → 모델 응답 → 출력 수집 → 평가 및 판정일관된 기준으로 수백, 수천 개의 샘플을 자동 평가한다벤치마크 비교와 성능 추적에 활용한다 2. Evaluation Harness — 품질과 성능을 측정한다Evaluation Harness는 ..

1. Harness가 왜 필요한가AI가 코드를 작성하는 시대가 왔다. 자연어로 요구사항을 설명하면 AI가 전체 구현을 해주는 Vibe Coding이 확산되면서 개발 속도는 비약적으로 빨라졌다. 하지만 빠른 것이 곧 좋은 것은 아니다. AI가 생성한 코드에는 우리가 예상하지 못한 문제들이 숨어있을 수 있다.취약한 인증 로직이나 SQL 인젝션 같은 보안 취약점은 직접 코드를 열어보지 않으면 알기 어렵다N+1 쿼리나 메모리 누수 같은 성능 문제는 트래픽이 늘어야 비로소 드러난다엣지 케이스 처리 누락은 예상치 못한 입력이 들어왔을 때 런타임 오류로 이어진다존재하지 않는 API나 잘못된 라이브러리를 사실처럼 생성하는 Hallucination은 배포 후에야 발견되는 경우도 많다 개발 패러다임도 함께 바뀌고 있다. ..

1. 패키지 구조1) 전체 구조Morning-Agent-Hub/├── ai_llm/│ ├── orchestrator_agent/│ │ ├── agent.py ← 인텐트 분류, 플랜 실행│ │ └── agent_server.py ← A2A HTTP 서버│ ├── internal_rag_agent/│ │ ├── agent.py ← LangGraph 그래프│ │ ├── document_parser.py ← 문서 파싱│ │ ├── indexing_service.py ← 청크 분할, 임베딩, DB 저장│ │ ├── rag_search_service.py ← 멀티쿼리, 벡터 검색, 답변 생성│ │ └── agent..

1. 멀티에이전트1) 개념멀티에이전트는 여러 개의 AI 에이전트가 역할을 나누어 협력하는 아키텍처다.하나의 에이전트가 모든 작업을 처리하는 것이 아니라, 문서 검색·웹 조사·파일 관리·보고서 작성처럼 역할별 에이전트가 각자 맡은 작업을 수행한다.오케스트레이터가 사용자 요청을 분석하고 어떤 에이전트에게 어떤 작업을 맡길지 결정한 뒤, 각 에이전트의 결과를 모아 최종 응답을 만든다. 2) 사용하는 이유복잡한 작업을 역할별로 나누어 처리할 수 있다각 에이전트의 책임이 명확해져 시스템 프롬프트와 로직을 설계하기 쉽다성격이 다른 작업(검색, 작성, 검토)을 각 에이전트에 최적화할 수 있다새 에이전트를 추가해도 기존 에이전트에 영향을 주지 않는다 2. 기존 방식과의 차이1) 단일 프로세스 멀티에이전트이전 블로그에서..

1. Multi-Agent1) 개념Multi-Agent는 여러 개의 자율적인 AI Agent가 역할을 나누어 협력하는 아키텍처이다.하나의 Agent가 모든 작업을 처리하는 것이 아니라, Planner, Researcher, Writer, Reviewer처럼 역할별 Agent가 각자 맡은 작업을 수행한다.복잡한 작업을 분해하고, 각 단계의 결과를 연결하여 최종 결과물을 만든다.2) 사용하는 이유복잡한 작업을 역할별로 나누어 처리할 수 있다.각 Agent의 책임이 명확해져 프롬프트와 로직을 설계하기 쉽다.중간 결과를 검토하고 수정하는 피드백 루프를 만들 수 있다.조사, 작성, 검토처럼 성격이 다른 작업을 각각의 Agent에 최적화할 수 있다. 2. Supervisor Pattern1) 개념Supervisor..

1. LangGraph1) 개념상태 기반의 그래프 구조로 복잡한 AI Agent 워크플로우를 설계하고 구현하기 위한 프레임워크LangChain이 Prompt, Model, Tool, Retriever 등을 연결하는 데 초점이 있다면, LangGraph는 상태 관리, 조건 분기, 반복 실행, 멀티 에이전트 흐름을 명확하게 제어하는 데 적합하다. 2) 핵심 구성요소구성요소설명State그래프 전체에서 공유되는 데이터 저장소NodeState를 입력받아 작업을 수행하고 변경할 State를 반환하는 함수Edge노드 간 실행 순서를 정의하는 연결Router조건부 엣지에서 다음 노드를 결정하는 함수Compile정의한 그래프를 실행 가능한 객체로 변환하는 단계 3) 기본 구조모든 LangGraph는 START에서 시작한..

1. Tool Calling1) 개념Tool Calling은 LLM이 외부 함수나 API를 호출할 수 있도록 하는 메커니즘이다.LLM은 단순히 답변을 생성하는 것뿐만 아니라 계산기, 검색 API, DB 조회, 날씨 API 같은 외부 도구를 사용할 수 있다.이를 통해 최신 정보 조회, 계산, 파일 처리, 외부 시스템 연동처럼 실제 실행이 필요한 작업을 처리할 수 있다. 2) Tool Calling 동작 흐름사용자 요청 → 도구 필요 여부 판단 → 도구 선택 → 인자 생성 → 도구 실행 → 결과 반영 → 최종 답변(1) 함수 정의 전달개발자는 LLM에게 사용 가능한 도구 목록을 스키마 형태로 제공한다.도구 스키마에는 도구 이름, 설명, 파라미터, 반환 타입 등이 포함된다.(2) 도구 선택 및 실행LLM은 사..

1. Hybrid Search ─ Keyword + Vector(1) 개념Hybrid Search는 키워드 검색과 벡터 검색을 결합한 검색 방식이다.단일 검색 방식의 한계를 보완하기 위해 사용한다.BM25 검색과 Vector 검색의 장점을 함께 활용하여 검색 정확도를 높인다.(2) BM25 검색정확한 키워드 매칭에 강하다.전문 용어, 상품명, 사람 이름, 코드명, 약어 검색에 유리하다.사용자가 입력한 단어가 문서에 직접 포함되어 있을 때 효과적이다.(3) Vector 검색의미적 유사성 파악에 강하다.동의어, 유사 표현, 문맥 기반 검색에 유리하다.사용자가 문서와 다른 표현으로 질문해도 관련 문서를 찾을 수 있다.(4) Hybrid Search가 필요한 이유키워드 검색만 사용하면 표현이 다를 때 관련 문서..

1. RAG(Retrieval Augmented Generation) ─ 검색 기반 생성1) 개념(1) RAG의 정의RAG는 Retrieval Augmented Generation의 약자이다.검색 기반 생성이라고도 하며, LLM이 외부 지식을 실시간으로 참조하여 답변을 생성하는 아키텍처 패턴이다.LLM이 자체적으로 알고 있는 지식에만 의존하지 않고, 외부 문서나 데이터베이스에서 관련 정보를 검색한 뒤 이를 context로 활용한다.(2) RAG가 필요한 이유LLM의 Knowledge cutoff 문제를 보완할 수 있다.기업 내부 문서나 최신 자료를 답변에 반영할 수 있다.검색된 문서를 근거로 답변하기 때문에 환각을 줄일 수 있다.답변의 근거가 되는 문서를 함께 제공할 수 있어 신뢰도를 높일 수 있다. 2..

1. LangChain과 LangGraph1) LangChain(1) 개념LangChain은 LLM 기반 애플리케이션을 구축하기 위한 프레임워크이다.Prompt, Model, Parser, Retriever, Tool, Memory 등을 연결하여 하나의 파이프라인으로 구성할 수 있다.가장 큰 사용 이유는 LLM 애플리케이션에 필요한 생태계를 통합하기 위해서이다.(2) 주요 기능LLM, Prompt, Memory를 연결하는 체인 구성Vector DB와 연동한 RAG 지원외부 API와 함수를 연결하는 Tool 통합다양한 모델, DB, 프레임워크와의 생태계 통합(3) 기본 파이프라인Prompt → Model → Output(4) 주요 구성요소Model: LLM 또는 Chat Model을 연결한다.Prompt:..