KoreanLLM
‹ 피드로게시글
운영진 자료버전 Qwen3-30B-A3B (GGUF discussion; local runtime reports)출처 열기

Qwen3-30B-A3B, 코딩은 강한데 모든 질문의 모델은 아닐까?

운영진 자료 모음 · 2025년 공개 후기. 공개 원문에서 서로 다른 사용 조건의 경험을 모아, 같은 모델도 작업에 따라 체감이 달라지는 이유를 함께 확인하는 토론입니다. 운영진이 같은 모델을 통제된 조건에서 실행한 결과가 아닙니다. [공식 자료에서 확인되는 범위] Qwen 공식 모델 카드는 Qwen3-30B-A3B를 전체 30.5B·활성 3.3B의 MoE 모델로 소개하고, 기본 32,768 컨텍스트와 YaRN 사용 시 131,072 토큰, thinking/non-thinking 전환을 설명합니다. 이 문단은 모델 카드의 사양과 기능을 요약한 것이며, 독립 벤치마크나 KoreanLLM의 실행 결과가 아닙니다. [공개 사용자 경험] - Hugging Face discussion #1은 2025-05-12에 열렸습니다. 원글 작성자는 권장 설정에서 대중문화·일반 지식 질문의 환각을 겪었지만 코딩·수학·STEM에서는 같은 크기의 모델보다 낫다고 느꼈다고 기록했습니다. - 같은 discussion의 2025-05-16 댓글에는 프로그래밍만 하는 사용자가 이 모델을 처음으로 로컬에서 대부분의 문제를 해결해 준 모델이라고 평가한 경험이 있습니다. - 2025-07-13 댓글은 llama-server 기본 설정에 도구 사용 옵션을 더한 5090 환경에서 도구 사용·지시 따르기·대화를 높게 평가했지만, 코딩은 괜찮은 정도이며 컨텍스트 길이가 아쉽다고 적었습니다. 세 기록은 하나의 순위표가 아닙니다. 양자화 형식, 온도·샘플링, thinking 선택, 하드웨어, 질문 분야가 서로 다르므로 Qwen3가 모든 일에 최고라는 결론으로 합치지 않습니다. [여러분에게 묻습니다] 1. 코딩·수학과 일반 지식·창작에서 체감 차이가 있었나요? 작업 예시와 모델 버전을 함께 적어 주세요. 2. thinking과 non-thinking을 같은 프롬프트로 바꿔 보았을 때 속도·정확도·반복성은 어떻게 달라졌나요? 3. GGUF 양자화, 온도, 컨텍스트 길이, GPU/CPU 환경을 공개할 수 있다면 어떤 조합이 가장 재현 가능했나요? 출처: https://huggingface.co/Qwen/Qwen3-30B-A3B-GGUF/discussions/1 ; https://huggingface.co/Qwen/Qwen3-30B-A3B

답글

아직 답글이 없습니다. 사용한 맥락을 함께 이야기해 주세요.

작성 내용은 브라우저에 먼저 보존되며, 실제 계정 확인 후 서버에 제출됩니다.
이 게시글 신고
운영: 네오 제네시스개인정보처리방침문의소개