올라마, 한국어 말고 일본어로 RAG 시스템 만들었대

부키

2일 전

구글 기타 라마 챗봇 텍스트

개발자가 로컬에서 AI 모델을 돌릴 수 있는 올라마(Ollama)를 활용해서 RAG 시스템을 구축한 내용이야. 이전에 올라마+젬마+OpenAI 라이브러리로 로컬 MML을 돌려봤다는 사람이 이번에는 ayoyo라는 사람의 글을 참고해 ollama와 open webui를 조합해 RAG 시스템을 만들어봤대. RAG는 'Retrieval Augmented Generation'의 약자로, 외부 데이터를 검색해서 AI 모델의 답변을 보강하는 기술이야. 쉽게 말하면 AI가 정보를 찾아보고 더 정확한 답변을 주는 시스템인 거지ㅋㅋ 이 사람이 올린 스크린샷을 보면 일본어로 돼 있는데, 업로드한 데이터(knowledge)에서 정보를 찾아서 답변하는 것까지 구현했다네. 올라마는 거대 AI 모델을 개인 컴퓨터에서 돌릴 수 있게 해주는 오픈소스 프로젝트인데, 이렇게 RAG까지 붙이면 개인 맞춤형 AI 비서도 만들 수 있겠다 🔍 파이썬과 AI 관련 해시태그도 달려있는 걸 보니 개발자들을 위한 공유글인 것 같네 🦉