할루시네이션

할루시네이션 — 에르메스단 2026-04-16 ~ 2026-06-24 기간 AI 대화 34건에서 종합.

모델이 그럴듯한 거짓을 지어내는 문제. RAG·출처 제시·프롬프트로 줄이려는 시도와, 모델별 신뢰도 차이가 논의됐다.

연결 주제: 프롬프트·권한 설계, RAG, 벤치마크 · 모델 비교, 모델 출시 뉴스

논의 흐름

2026년 4월

• Comprehensive Analysis 세 모델 모두 에이전틱 워크플로우와 할루시네이션 양 축에서 Sonnet 4.6 > Gemma 4 31B Dense > Darwin-35B-A3B-Opus 순위에 완전히 합의했습니다. 이 합의는 매우 높은…
• 뭐 바보형 착하니깐요.... 요상하게 예전보다 추론 성능이 떨어진 느낌이라해야하나 환각도 심하고
• 할루시네이션 없이 정확하게 디레팅이 필요한 프로젝트는 필수인거고

2026년 5월

• 제가 얼마전에 기가막힌(?) 할루시네이션을 겪었는데, 요지는 같은 질문에 대해 챗gpt앱으로는 할루시네이션이 나타났지만 헤르메스로는 현실에 기반한 정확한 답이 나왔었습니다
• 걍 얘기하듯 줄줄줄 떠든거 알아서 정리해 계획으로 잡게하고, 해당 검증이나 작업은 단계별 사실과 계획에 따른 계약으로 걸게 하고... 환각을 피하게 추정하지 못하게 하는 것과... 모르는 건 에이전트 켜서 검색하고 조사 시키고 병행하게 하고
• 헤르메스 세션안에서는 LLM의 사전학습 데이터 + 초기 주입되는 컨텍스트가 다라서 헤르메스 전체 소스코드를 컨텍스트로 주입한것도 아닌데 과연 이 질문에 대한 답변이 환각일지 아닐지 의심이 가는 구조였어서

2026년 6월

• 🎴 [2026-06-24 evening] 에르메스단 카드뉴스 👉 https://discord.com/channels/1495763843937468518/1519306379565858929 신규 4163건 · AI 372건 · 참여자 109명 📌…
• 분석 / 대응 <— 이미 고추론 파이프라인 확정입니다.. 다만 이런 고추론 내용만 api나 코덱스 물리시고 크롤링이나 문서작성의 경우에 qwen / gemma 붙여서 진행하시면 될듯싶습니다.. 로컬들이 제일 잘하는게 그냥 냅다 코딩이라서 사실…
• 나머지는 핑프 같아서 다시 찾아볼게요! 뭔가 해봐도 뭔가 대답이 할루시네이션이 강한 답변들이라

핵심 포인트

• Dayum_gud (2026-04-16): Comprehensive Analysis 세 모델 모두 에이전틱 워크플로우와 할루시네이션 양 축에서 Sonnet 4.6 > Gemma 4 31B Dense > Darwin-35B-A3B-Opus 순위에 완전히…
• Tofukyung/AI 크리에이터 (2026-06-24): 🎴 [2026-06-24 evening] 에르메스단 카드뉴스 👉 https://discord.com/channels/1495763843937468518/1519306379565858929 신규 4163건 · AI…
• bkan (2026-06-10): 분석 / 대응 <— 이미 고추론 파이프라인 확정입니다.. 다만 이런 고추론 내용만 api나 코덱스 물리시고 크롤링이나 문서작성의 경우에 qwen / gemma 붙여서 진행하시면 될듯싶습니다.. 로컬들이 제일…
• 카잣둠 (2026-05-08): 제가 얼마전에 기가막힌(?) 할루시네이션을 겪었는데, 요지는 같은 질문에 대해 챗gpt앱으로는 할루시네이션이 나타났지만 헤르메스로는 현실에 기반한 정확한 답이 나왔었습니다
• 패츄릭장/사업개발/이세계🇮🇳 (2026-05-28): 걍 얘기하듯 줄줄줄 떠든거 알아서 정리해 계획으로 잡게하고, 해당 검증이나 작업은 단계별 사실과 계획에 따른 계약으로 걸게 하고... 환각을 피하게 추정하지 못하게 하는 것과... 모르는 건 에이전트 켜서…