🤖

LLM tools

YangPhago’s Mains(양파고)

목차(클릭하세요)

나만 알고 싶은 AI서비스:https://notebooklm.google.com/ 치명적 단점: 소스가 많아지면 답변 생성에 지연이 발생.

1. 무엇이 다른가?

1-1. 기존의 LLM, RAG, CAG의 차이

대형 언어 모델(LLM), 검색 기반 생성(RAG), 캐시 기반 생성(CAG)의 주요 특징 비교

1-2.RAG와 CAG를 적절히 사용하는 것이 환각현상의 해답

관련 문헌: Monte Carlo DataRAG Vs. CAG: What’s Right For Your AI Strategy?

•

공통점: 모두 대규모 언어 모델의 성능을 향상시키기 위해 개발된 기술

요약

•

RAG: 외부 지식 기반을 실시간으로 검색하여 응답을 생성하므로, 최신 정보 반영에 유리하나, 검색 단계로 인한 지연과 구현 복잡도가 높음.

•

CAG: 사전에 정보를 캐시에 저장하여 빠른 응답을 제공하므로, 정적인 정보 제공에 유리하나, 정보의 최신성 유지에 주의가 필요함.

2. 노트북LM RAG인 이유

•

 NotebookLM은 사용자가 구글 드라이브, PDF, 텍스트 파일, 웹사이트 URL 등 다양한 출처의 문서를 업로드하면, 이 자료들을 기반으로 AI가 정보를 검색(Retrieval)하고, 이를 바탕으로 답변이나 요약 등 새로운 텍스트를 생성(Generation)하는 구조
 질의가 들어올 때마다 업로드된 소스에서 실시간으로 관련 정보를 검색하고, 그 결과를 생성

구글의 노트북LM(with RAG)