본문 바로가기
728x90

전체 글1018

🥷 Crouton Alpha: 정체를 숨긴 채 무료로 풀린 100만 토큰 모델, 어디까지 믿을 수 있나 안녕하세요! 오늘은 OpenRouter에 2026년 11월 3일 갑자기 등장한 익명 모델 Crouton Alpha를 살펴보겠습니다. 제작자를 공개하지 않은 채 무료로 풀린 이 모델은 100만 토큰 컨텍스트, 멀티모달 입력, 도구 호출, 조절 가능한 추론까지 갖추고 있습니다. 그런데 정체를 숨긴 모델을 프로덕션에 바로 쓸 수 있을까요? 실측 벤치마크와 제작자 추정, 무료 한도, 데이터 처리 방침까지 하나씩 확인해 보겠습니다. 바로 시작해볼까요? 🥷 Crouton Alpha란 무엇인가?Crouton Alpha는 OpenRouter에 stealth/crouton-alpha라는 ID로 등록된 익명 모델입니다. 2026년 11월 3일 01:38 UTC에 카탈로그에 들어왔고, 같은 날 20:17 UTC에 Op.. 2026. 11. 5.
🐧 Hy4: 지금 붙여도 되는지 가늠하려면 44.4부터 보세요 안녕하세요! 오늘은 11월 4일 공개된 텐센트의 새 플래그십 모델 Hy4 정식판을 다룹니다. 발표 자료에는 화려한 그래프가 12장 붙어 있지만, 정작 파라미터 수와 컨텍스트 길이는 적혀 있지 않습니다. 그런데도 "1/8 가격으로 최전선 모델을 따라잡았다"는 문장이 먼저 퍼졌습니다. 이 글에서는 공식 발표와 부록 각주를 대조해, 지금 붙여도 되는지 판단하는 기준을 숫자로 정리하겠습니다. 지금부터 하나씩 파헤쳐보겠습니다. 한눈에 보기- Hy4 정식판은 11월 4일 공개됐고, API는 그날부터 호출할 수 있습니다- 가중치·시스템 카드·파라미터 수는 아직 공개되지 않았습니다(공식 표현은 "최근 공개 예정")- 새로 붙은 것은 이미지 이해와 컴퓨터 조작이며, 상승분은 대부분 에이전트 작업에 몰려 있습니다- 이 글.. 2026. 11. 5.
🧠 dsh-superagent: 멀티태스크의 상한은 모델이 아니라 주의력입니다 안녕하세요! 오늘은 DeepSeek 하네스 팀이 공개한 dsh-superagent 프로토타입을 살펴보겠습니다. GitHub 저장소 하나를 맡아 이슈와 코멘트를 스스로 읽고, 작업을 티켓으로 쪼개서 각자의 세션과 디렉터리에서 처리한 뒤, 원래 대화에 풀 리퀘스트로 답하는 자율 코딩 에이전트입니다. 단순한 데모 코드가 아니라 권한 모델, 평가 파이프라인, 실행 격리, 관리 패널까지 문서 9편과 테스트 59개 파일로 정리해서 내놓았습니다. 이 글에서는 공개 배경과 철학, 도메인 구조, 권한 설계, 직접 설치하는 절차, 그리고 논문 수준으로 정리된 한계까지 순서대로 짚어 보겠습니다. 처음 접하시는 분도 흐름을 따라오실 수 있게 전문 용어는 그때그때 풀어서 설명드리겠습니다. 그럼 이 에이전트가 어떻게 작동하는지,.. 2026. 11. 5.
🚀 DeepSeek V4.1 Flash를 1비트로 압축한 코딩 모델: GSQ-RCO Coder 설치·실행 가이드 안녕하세요! 오늘은 DeepSeek-V4.1-Flash-1017을 1비트 수준으로 압축한 코딩 특화 모델 GSQ-RCO Coder에 대해 알아보겠습니다. ISTA-DASLab이 공개한 이 모델은 763.2B 파라미터의 거대한 DeepSeek-V4.1-Flash를 전문가 절반 제거와 양자화를 결합해 트랜스포머 가중치를 72.1GB로 줄이면서도 SWE-bench Verified 94.8%, LiveCodeBench v6 98.7%의 성능을 유지합니다. 로컬에서 대형 코딩 모델을 돌리고 싶은 분들에게 매우 흥미로운 시도입니다. 🤖 이 모델은 무엇인가DeepSeek-V4.1-Flash-1017-GSQ-RCO-Coder-GGUF는 ISTA-DASLab(오스트리아 과학기술원)이 공개한 실험적 모델입니다. 베이스 .. 2026. 11. 4.
🤝 AgentTeams: API 키를 워커에게 노출하지 않고 에이전트 팀을 돌리는 구조 안녕하세요! 에이전트를 여러 개 돌리기 시작하면 어느 순간 곤란한 질문에 부딪힙니다. 워커 에이전트에게 API 키를 그대로 넘겨도 되는가, 그리고 여러 에이전트가 일하는 과정을 어떻게 지켜볼 것인가입니다. Alibaba AgentScope 팀의 오픈소스 프로젝트 AgentTeams는 이 두 문제를 한 구조로 풉니다. 실제 자격증명은 Higress AI 게이트웨이 안에 두고 워커는 소비용 토큰만 쓰게 하며, 모든 협업은 Matrix 방(방 = 채팅방)에서 사람이 같이 들어가 보도록 만듭니다. Manager-Workers 구조로 에이전트가 에이전트를 관리하고, Docker 한 대에서 한 명령으로 뜁니다. 설치 방법과 자격증명 분리 구조를 정리했습니다. 함께 살펴보시죠! 한눈에 보기- AgentTeam.. 2026. 11. 3.
⚡ Rapid-MLX: 맥북에서 로컬 LLM 서버를 한 방에 띄우는 방법 안녕하세요! Mac에서 코딩 에이전트를 쓰면서도 구독료 대신 로컬 모델을 붙이고 싶은데, 막상 시작하면 문제가 세 가지입니다. 어떤 서버를 띄울지, 도구 호출이 자꾸 깨지는 것은 왜인지, 에이전트 설정을 어떻게 바꿔야 하는지가 그것입니다. Rapid-MLX는 Apple Silicon 전용으로 이 세 가지를 한 번에 푸는 오픈소스 추론 서버입니다. Apple의 mlx-lm 대비 최대 4배 빠른 디코딩(동일 가중치, 출시 측 실측)을 내세우고, OpenAI·Anthropic 양쪽 호환 API에 도구 호출 파서 27개를 내장했으며, rapid-mlx launch claude-code 한 줄로 에이전트를 로컬 모델에 연결합니다. Apache 2.0으로 공개된 이 프로젝트의 설치와 실전 연결 방법을 정리했습니다... 2026. 11. 2.
🐾 QwenPaw: API 키 없이 내 컴퓨터에 두고 쓰는 개인 AI 비서 안녕하세요! ChatGPT나 클로드 같은 클라우드 AI 비서를 쓰다 보면 두 가지 아쉬움이 남습니다. 대화 내용이 내 PC가 아니라 회사 서버에 쌓인다는 점, 그리고 카톡·디스코드·메일처럼 내가 실제로 사는 채널과는 따로 논다는 점입니다. Alibaba AgentScope 팀이 내놓은 QwenPaw는 이 두 가지를 한 번에 풀어주는 오픈소스 개인 AI 어시스턴트입니다. 내 컴퓨터에 설치해 로컬 모델로 돌리고, 딩톡·라인(Lark)·위챗·Discord·Telegram까지 한 인스턴스로 연결하며, 대화가 Markdown 기억으로 쌓입니다. Apache 2.0 라이선스로 GitHub 스타 3.7만을 넘겼고, 2026년 10월 15일 v2.2.2가 나왔습니다. 설치는 pip 명령 세 줄이면 끝나고, 이 글에서는.. 2026. 11. 2.
📰 AIHOT : 매일 스스로 뉴스를 고르고 신문을 찍는 자체 호스팅 엔진 안녕하세요! 오늘은 뉴스를 스스로 골라 매일 아침 신문을 찍어내는 자체 호스팅 엔진 AIHOT을 살펴보겠습니다. 신기한 점은 기능이 아니라 구조입니다. 대형언어모델이 수집한 자료를 한 번 거르고, 다시 두 번 독립적으로 점수를 매겨 남길 것만 고릅니다. 여러 매체가 같은 사안을 다루면 하나의 사건으로 묶고, 얼마나 많은 곳이 말하는지로 화제성을 정렬합니다. 선택 기준과 프롬프트 원문, 문턱값까지 저장소에 그대로 공개되어 있어서 자기 산업에 맞춰 다시 만들 수 있습니다. GitHub 스타 8,550개, 포크 2,041개가 이 구조에 대한 관심을 보여줍니다. 하루치 처리 흐름과 바꿔야 할 파일, Docker 절차를 지시문으로 정리했습니다. 그럼 이 엔진이 어떻게 작동하는지, 지금부터 하나씩 파헤쳐보겠습니다... 2026. 11. 2.
🎙️ Nemotron 3.5 Transcribe: 받아쓰기와 화자 분리를 한 모델로 합친 이유 안녕하세요! 오늘은 엔비디아가 2026년 10월 28일 공개한 Nemotron 3.5 Transcribe를 살펴보겠습니다. 이 모델은 이름과 달리 총 34B 중 4.3B만 활성화하는 MoE 구조이고, 받아쓰기·화자 분리·번역·오디오 질의응답을 한 체크포인트에 담았습니다. 40개 언어 전사, 31개 언어 번역, 13개 언어 화자 구분을 처리하며 1시간 녹음까지 받습니다. 실행 경로는 vLLM 0.32.0 또는 SGLang-Omni이고, 공식 Quick Start는 H100 80GB 1장을 전제합니다. 아래에서 구조와 수치를 확인하고, vLLM으로 직접 띄우는 절차까지 한 번에 정리했습니다. 그럼 이 도구가 어떻게 작동하는지, 지금부터 하나씩 파헤쳐보겠습니다. 한눈에 보기- 정식 이름은 nvidia/.. 2026. 10. 31.
728x90

▲
▼