Llama

Llama — 에르메스단 2026-04-14 ~ 2026-06-21 기간 AI 대화 10건에서 종합.

Meta의 오픈 가중치 LLM 계열. 오픈소스 AI 흐름과 Ollama 로컬 구동, 양자화·파인튜닝 실무에서 Gemma · Qwen (오픈소스 모델)과 함께 비교됐다.

연결 주제: Ollama, Gemma · Qwen (오픈소스 모델), 오픈소스 AI, 로컬 vs SaaS, 양자화 · GGUF

논의 흐름

2026년 4월

• 지금 서버 gpu로 llama.cop 로 kimi 2.6 이랑 Qwen 3.6-27b 둘다 Q4 퀀트로 돌려봤는데, 키미가 모델이 커서 엄청 느린데 또 대답 성능은 qwen3.6 보다 뛰어나게 좋은지 몰겠네요
• 헤르메스4 ai 모델은 llama 기반인데, 웃긴 게 헤르메스 에이전트에 먹여서 사용하는 것은 추천하지 않는다고 하니 그런 게 있다는 기억을 지우세요
• 지능이 llama?로 적용되는거죠??

2026년 5월

• 클로드의 껍데기에 다른 AI의 뇌를 끼워 넣는 일이 마침내 공식적으로 가능해졌습니다. Ollama가 Claude Desktop과의 연동을 발표했습니다. 이제 명령어 한 줄이면 알아서 실무를 돕는 Claude Cowork나 Claude Code에서…
• @roach | 개발 | 로치봇 제 컴이 M5 max 128gb 맥북이고 거기에 헤르메스 설치해서 올라마 로컬api로 사용해서 구축하려고 하는데 이 과정을 배우는데 필요한 설명들이 있는건가요?

2026년 6월

• oMLX라고 올라마나 lm studio같은 맥북용 LLM추론 서버인데 오픈클로나 헤르메스, 클로드 코드같은 에이전트 ai를 따로 설치안하고 로컬로 사용할수있네요
• 깡계정도 만드는게 한계가 있는거같아서, 쌀먹 좀 하다 지금은 올라마랑 같이 쓰고 잇읍니다
• 5년 지나면 올라마에서 지금 gpt5.5급 나오겠죠 ㅋㅋ

핵심 포인트

• 헤르메뚜 (2026-05-10): 클로드의 껍데기에 다른 AI의 뇌를 끼워 넣는 일이 마침내 공식적으로 가능해졌습니다. Ollama가 Claude Desktop과의 연동을 발표했습니다. 이제 명령어 한 줄이면 알아서 실무를 돕는 Claude…
• 한가한 어피치 (2026-05-27): @roach | 개발 | 로치봇 제 컴이 M5 max 128gb 맥북이고 거기에 헤르메스 설치해서 올라마 로컬api로 사용해서 구축하려고 하는데 이 과정을 배우는데 필요한 설명들이 있는건가요?
• Grace (2026-04-24): 지금 서버 gpu로 llama.cop 로 kimi 2.6 이랑 Qwen 3.6-27b 둘다 Q4 퀀트로 돌려봤는데, 키미가 모델이 커서 엄청 느린데 또 대답 성능은 qwen3.6 보다 뛰어나게 좋은지 몰겠네요
• 카잣둠 (2026-04-23): 헤르메스4 ai 모델은 llama 기반인데, 웃긴 게 헤르메스 에이전트에 먹여서 사용하는 것은 추천하지 않는다고 하니 그런 게 있다는 기억을 지우세요
• 에르메스단의 팝콘 춘식이 (2026-04-23): 지능이 llama?로 적용되는거죠??