파인튜닝2 로컬AI 구축의 핵심 : LLM과 임베딩 모델의 협업 AI가 어떻게 똑똑해지는 걸까요? 많은 개발자들이 "AI를 만들려면 ChatGPT 같은 모델 하나만 있으면 되는 거 아닌가?"라고 생각합니다.하지만 실제로 업무에 활용할 수 있는 똑똑한 AI를 만들려면 두 개의 서로 다른 AI 모델이 팀워크를 이뤄야 합니다. 이는 마치 사람이 뇌에서 기억을 저장하는 부분(해마)과 생각하고 판단하는 부분(전두엽)이 따로 있는 것과 같습니다. AI도 마찬가지로 정보를 저장하고 찾는 역할을 하는 임베딩 모델과 그 정보를 바탕으로 똑똑한 답변을 만드는 LLM(대형 언어 모델)이 각각의 전문 역할을 담당합니다. 이 두 모델이 협력하는 이유는 각각이 서로 다른 강점을 가지고 있기 때문입니다.임베딩 모델은 마치 도서관 사서처럼 수많은 문서 중에서 질문과 관련된 정보를 빠르게 찾아내는.. 2025. 7. 28. [AI코딩.07] 로컬 AI 모델 - Ollama와 Code Llama 활용법 AI코딩 활용을 위한 개발자 가이드 들어가며지금까지 ChatGPT, Claude, GitHub Copilot과 같은 클라우드 기반 AI 도구들을 활용한 개발 방법을 살펴보았습니다. 이러한 도구들은 분명히 강력하고 편리하지만, 때로는 인터넷 연결이 필요하거나 개인정보 보안에 대한 우려, 그리고 API 비용 등의 제약이 있을 수 있습니다. 이번 편에서는 이러한 한계를 극복할 수 있는 로컬 AI 모델의 세계를 탐험해보겠습니다. 특히 Ollama와 Code Llama를 중심으로 로컬 환경에서 AI 모델을 설치하고 활용하는 방법을 상세히 알아보겠습니다. 로컬 AI 모델은 여러분의 컴퓨터에서 직접 실행되는 인공지능 모델을 의미합니다. 이는 마치 여러분의 컴퓨터에 전문 프로그래머를 고용하는 것과 같아서, 인터넷 없이.. 2025. 7. 16. 이전 1 다음
