LLM InfraAGT
Laptop LLM API Server
비용 0원으로 노트북에 완전 프라이빗 AI Agent & RAG API 서버를 구축하는 Docker Compose 가이드
TypeScript 기반 클라우드 AI Agent와 노트북 프라이빗 API 서버를 분리합니다. 클라우드는 사용자 접점, 인증, 세션, 라우팅, 정책 검사를 맡고, 노트북은 Ollama LLM Engine, FastAPI 인증 API, Chroma Vector DB, LangChain/LangGraph 오케스트레이션을 Docker Compose로 실행합니다.
데이터
- 로컬 모델 파일
- Chroma 벡터 컬렉션
- RAG 원본 문서
- API 요청/응답 로그
- 성능 측정 결과
- 환경 변수와 docker-compose 설정
Agent Tools
ollama_llm_enginefastapi_private_gatewaychroma_vector_searchlangchain_rag_chainlanggraph_agent_flowapi_key_auth_guardlatency_benchmark
AI Agent 범위
- 클라우드 AI Agent API facade 구성
- 노트북 Docker Compose 스택 구성
- Ollama 모델 다운로드
- Chroma Vector DB 실행
- FastAPI API 키 인증 적용
- RAG 문서 적재
- TypeScript 클라우드 백엔드에서 private API 호출
검증 기준
- 클라우드와 노트북 책임 경계 검증
- docker compose health check 성공
- LLM 모델 목록 조회 성공
- Chroma collection 생성 성공
- API 키 없는 요청 차단
- RAG 검색과 답변 생성 성공
- Cloudflare/Next.js 백엔드 연동 성공
Docker ComposeOllamallama3.1gemma2FastAPIPythonChromaLangChainLangGraphTypeScript ClientCloudflare Tunnelk6
프로젝트 ABC 보기FinanceAGT
AutoTrading AI Investment Agent
로컬 SQLite 스크리너 DB와 pgvector RAG를 결합한 실전 주식 투자 AI 에이전트
기존 AutoTrading의 계량 분석 점수(SQLite)를 읽어 Qwen 2.5 3B 모델로 종목 리포트를 합성하고, nomic-embed-text로 768차원 임베딩을 생성해 pgvector(PostgreSQL)에 적재합니다. 이후 LangChain ReAct 에이전트를 통해 실시간 야후 파이낸스 도구 호출 및 시맨틱 RAG 검색을 결합하여 정교한 투자 분석을 제공합니다.
데이터
- AutoTrading SQLite 스크리너 결과 (autotrading.db)
- AI 합성 종목 요약 보고서
- 768차원 임베딩 벡터
- yfinance 실시간 주가/재무 정보
Agent Tools
get_stock_financialsget_stock_price_historysearch_screener_reportsget_latest_top_screener_stocksanalyze_user_portfolio
AI Agent 범위
- SQLite 스크리너 DB 커넥터 개발
- Ollama 로컬 요약 및 임베딩 파이프라인 구축
- FastAPI 데이터 동기화(/api/autotrading/sync) 구현
- pgvector 기반 자연어 검색(/api/autotrading/search) 구현
- LangChain ReAct 투자 AI 에이전트 및 Chat API(/api/chat) 연동
검증 기준
- SQLite 데이터 정상 추출 여부
- Qwen 2.5 3B 요약 및 nomic-embed-text 벡터화 성공 여부
- pgvector 유사도 검색(Cosine Distance) 정확도
- 에이전트의 상황별 적절한 도구(Tool) 선택 및 한국어 최종 답변 품질
FastAPIOllamaqwen2.5:3bnomic-embed-textPostgreSQLpgvectorSQLiteLangChain-ClassicyfinanceDocker Compose
프로젝트 ABC 보기AI OpsAGT
AIOps Runbook Agent
알림, 로그, 메트릭, 런북을 연결하는 장애 대응 Agent
운영 알림이 발생했을 때 관련 로그와 메트릭을 요약하고, 안전한 복구 절차와 담당자 확인 포인트를 제시합니다.
데이터
- Prometheus metrics
- 애플리케이션 로그
- 배포 이력
- 장애 대응 런북
Agent Tools
metric_querylog_searchdeploy_lookuprunbook_retriever
AI Agent 범위
- 알림 원인 후보 정리
- 최근 배포 영향 확인
- 관련 로그 요약
- 복구 절차 제안
검증 기준
- 잘못된 명령 실행 차단
- 런북 근거 포함
- MTTR 단축 효과
- 권한별 도구 제한
FastAPIPrometheusGrafanaOpenTelemetryLangGraphk6
프로젝트 ABC 보기EducationAGT
EduLab Tutor Agent
학습 진단, 맞춤 문제 생성, 해설 피드백을 연결하는 교육 Agent
학습자의 풀이 이력, 오답 패턴, 커리큘럼 문서를 바탕으로 개인별 학습 경로와 피드백을 제공합니다.
Agent Tools
curriculum_retrieverquiz_generatoranswer_checkerlearning_path_planner
AI Agent 범위
- 학습 수준 진단
- 맞춤 문제 5개 생성
- 오답 원인 설명
- 다음 학습 경로 추천
검증 기준
- 정답 판정 정확도
- 난이도 적합성
- 해설 근거 포함률
- 개인정보 최소 수집
Next.jsFastAPIPydanticPostgreSQLpgvectorPlaywright
프로젝트 ABC 보기CodingAGT
CodeOps AI Agent
코드베이스 분석, 이슈 해결, 테스트 생성, PR 리뷰를 연결하는 개발 Agent
Git 저장소, 이슈, 테스트 로그, CI 결과를 바탕으로 개발자가 변경 범위를 빠르게 파악하고 안전한 코드 수정과 검증을 진행하도록 돕습니다.
데이터
- Git repository
- Issue/PR 설명
- 테스트 실패 로그
- 코딩 컨벤션 문서
Agent Tools
repo_searchcode_readertest_runnerpatch_plannerpr_review
AI Agent 범위
- 이슈 요약과 영향 범위 분석
- 관련 파일/함수 검색
- 수정 계획 생성
- 테스트 케이스와 PR 리뷰 초안 작성
검증 기준
- 빌드 성공률
- 테스트 회귀 차단
- 보안 취약 패턴 차단
- 리뷰 코멘트 정확도
Next.jsFastAPILangGraphTree-sitterGitHub APIPlaywright
프로젝트 ABC 보기