목차(클릭하세요)
1. 무엇이 다른가?
1-1. 기존의 LLM, RAG, CAG의 차이
대형 언어 모델(LLM), 검색 기반 생성(RAG), 캐시 기반 생성(CAG)의 주요 특징 비교
구분 | LLM (Large Language Model) | RAG (Retrieval-Augmented Generation) | CAG (Cache-Augmented Generation) |
정의 | 사전 학습된 대규모 언어 모델 | 외부 지식을 실시간으로 검색하여 응답 생성 | 외부 지식을 사전에 로드하여 캐시에 저장하고 응답 생성 |
지식 소스 | 사전 학습된 데이터에 기반 | 외부 문서나 데이터베이스에서 실시간 검색 | 사전에 로드된 문서나 데이터 |
응답 생성 방식 | 입력에 기반하여 내재된 지식으로 생성 | 검색된 외부 지식을 포함하여 응답 생성 | 캐시에 저장된 지식을 활용하여 응답 생성 |
장점 | 빠른 응답 속도, 단순한 구조 | 최신 정보 반영 가능, 출처 명시 가능 | 낮은 지연 시간, 일관된 응답, 검색 오류 감소 |
단점 | 최신 정보 반영 어려움, 환각 가능성 | 검색 지연, 검색 오류 가능성 | 캐시 크기 제한, 초기 로딩 시간 필요 |
적합한 사용 사례 | 일반적인 대화, 사전 학습된 지식 기반 응답 | 최신 정보가 필요한 질의응답, 문서 기반 검색 | 안정적인 지식 기반 응답, 낮은 지연 시간이 중요한 경우 |
1-2.RAG와 CAG를 적절히 사용하는 것이 환각현상의 해답
•
공통점: 모두 대규모 언어 모델의 성능을 향상시키기 위해 개발된 기술
요약•
RAG: 외부 지식 기반을 실시간으로 검색하여 응답을 생성하므로, 최신 정보 반영에 유리하나, 검색 단계로 인한 지연과 구현 복잡도가 높음.
•
CAG: 사전에 정보를 캐시에 저장하여 빠른 응답을 제공하므로, 정적인 정보 제공에 유리하나, 정보의 최신성 유지에 주의가 필요함.
2. 노트북LM RAG인 이유
•
NotebookLM은 사용자가 구글 드라이브, PDF, 텍스트 파일, 웹사이트 URL 등 다양한 출처의 문서를 업로드하면, 이 자료들을 기반으로 AI가 정보를 검색(Retrieval)하고, 이를 바탕으로 답변이나 요약 등 새로운 텍스트를 생성(Generation)하는 구조
질의가 들어올 때마다 업로드된 소스에서 실시간으로 관련 정보를 검색하고, 그 결과를 생성
질의가 들어올 때마다 업로드된 소스에서 실시간으로 관련 정보를 검색하고, 그 결과를 생성2-1. 장점 of 장점
•
환각 현상이 없음, 이유는 내가 제시한 소스자료에서 검색해서 답변을 제공하기 때문
•
최대 컨텐스트 윈도우로 미쳐버림
•
어떻게 사용했나? 관련 내용을 유튭, 웹페이지, 첨부파일로 한방에 업로드 한 다음 답변을 받음
관련 내용을 유튭, 웹페이지, 첨부파일로 한방에 업로드 한 다음 답변을 받음•
저작권 관련 만능 답변기로 활용
•
무엇보다 답변에 대한 출처를 제공하므로 환각 현상 걱정을 덜 수 있음
2-2.추가 기능들
•
출처자료(소스)에 대한 마인드맵..(기가 믹힘)
•
유튜브 링크를 소스자료로 제공할 경우 해당 영상의 음성을 자동으로 텍스트로 추출할 수 있음
•
또한 해당 문서의 내용으로 간단한 확인용 문제도 만들어줌(정답과 함께)
•
영상의 내용을 빠르게 확인하고 상기시킬 수 있음
•
출처 소스 넣기도 귀찮다면??
•
퍼플렉시티와 같이 좀 더 명확한 출처를 추가해도 좋을 듯
2-3.최근 업데이트 된 AI음성개요
•
관련 내용들을 빠르게 훑어보는것이 아닌 훑어 듣는 기능으로 활용가능..
•
이제 한글말까지 잘해준다는
3. 학교업무에 어떻게 활용할 수 있을까?
3-1.학교 각종규칙 만능 응답기
•
내가 실제로 사용하고 있는 기능
•
“조부모님 상에는 며칠까지 인정결석이 가능할까요? 이런 질문은 이제 노트북LM으로 끝낼 수 있을 듯
이런 질문은 이제 노트북LM으로 끝낼 수 있을 듯•
생활기록부 기재요령을 바탕으로 올해 작성한 문구에는 문제가 없는지 크로스 체크할 수도 있음
3-2. 기출문제 분석하여 중복문제 없애기
•
최근 학원에서 무단으로 학교 시험지를 수집하여 데이터베이스를 구축하고, 이를 바탕으로 학생들에게 기출문제 자료집을 제공한다는 소식이 들려오는데..
•
학교 기출문제를 집어 넣고, 내가 올해 낸 문제와 중복문제인지 아닌지 크로스 체크를 할 수 있다면
•
또한 출제자가 자신의 의도와 상관없이 무의식 중에 비슷한 패턴의 문제를 출제하는 것도 어느정도 예방할 수 있음
•
근 3개년 문제와의 유사도를 점검하여, 너무 비슷한 문제는 수정보완하는 용도로 사용가능3-3.문항오류를 점검하기
•
수업PDF, 교과서PDF를 소스자료로 제시하고, 출제한 문항에서 논리적, 수학적 오류가 없는지 체크할 수 있음