728x90 전체 글1014 🤝 AgentTeams: API 키를 워커에게 노출하지 않고 에이전트 팀을 돌리는 구조 안녕하세요! 에이전트를 여러 개 돌리기 시작하면 어느 순간 곤란한 질문에 부딪힙니다. 워커 에이전트에게 API 키를 그대로 넘겨도 되는가, 그리고 여러 에이전트가 일하는 과정을 어떻게 지켜볼 것인가입니다. Alibaba AgentScope 팀의 오픈소스 프로젝트 AgentTeams는 이 두 문제를 한 구조로 풉니다. 실제 자격증명은 Higress AI 게이트웨이 안에 두고 워커는 소비용 토큰만 쓰게 하며, 모든 협업은 Matrix 방(방 = 채팅방)에서 사람이 같이 들어가 보도록 만듭니다. Manager-Workers 구조로 에이전트가 에이전트를 관리하고, Docker 한 대에서 한 명령으로 뜁니다. 설치 방법과 자격증명 분리 구조를 정리했습니다. 함께 살펴보시죠! 한눈에 보기- AgentTeam.. 2026. 11. 3. ⚡ Rapid-MLX: 맥북에서 로컬 LLM 서버를 한 방에 띄우는 방법 안녕하세요! Mac에서 코딩 에이전트를 쓰면서도 구독료 대신 로컬 모델을 붙이고 싶은데, 막상 시작하면 문제가 세 가지입니다. 어떤 서버를 띄울지, 도구 호출이 자꾸 깨지는 것은 왜인지, 에이전트 설정을 어떻게 바꿔야 하는지가 그것입니다. Rapid-MLX는 Apple Silicon 전용으로 이 세 가지를 한 번에 푸는 오픈소스 추론 서버입니다. Apple의 mlx-lm 대비 최대 4배 빠른 디코딩(동일 가중치, 출시 측 실측)을 내세우고, OpenAI·Anthropic 양쪽 호환 API에 도구 호출 파서 27개를 내장했으며, rapid-mlx launch claude-code 한 줄로 에이전트를 로컬 모델에 연결합니다. Apache 2.0으로 공개된 이 프로젝트의 설치와 실전 연결 방법을 정리했습니다... 2026. 11. 2. 🐾 QwenPaw: API 키 없이 내 컴퓨터에 두고 쓰는 개인 AI 비서 안녕하세요! ChatGPT나 클로드 같은 클라우드 AI 비서를 쓰다 보면 두 가지 아쉬움이 남습니다. 대화 내용이 내 PC가 아니라 회사 서버에 쌓인다는 점, 그리고 카톡·디스코드·메일처럼 내가 실제로 사는 채널과는 따로 논다는 점입니다. Alibaba AgentScope 팀이 내놓은 QwenPaw는 이 두 가지를 한 번에 풀어주는 오픈소스 개인 AI 어시스턴트입니다. 내 컴퓨터에 설치해 로컬 모델로 돌리고, 딩톡·라인(Lark)·위챗·Discord·Telegram까지 한 인스턴스로 연결하며, 대화가 Markdown 기억으로 쌓입니다. Apache 2.0 라이선스로 GitHub 스타 3.7만을 넘겼고, 2026년 10월 15일 v2.2.2가 나왔습니다. 설치는 pip 명령 세 줄이면 끝나고, 이 글에서는.. 2026. 11. 2. 📰 AIHOT : 매일 스스로 뉴스를 고르고 신문을 찍는 자체 호스팅 엔진 안녕하세요! 오늘은 뉴스를 스스로 골라 매일 아침 신문을 찍어내는 자체 호스팅 엔진 AIHOT을 살펴보겠습니다. 신기한 점은 기능이 아니라 구조입니다. 대형언어모델이 수집한 자료를 한 번 거르고, 다시 두 번 독립적으로 점수를 매겨 남길 것만 고릅니다. 여러 매체가 같은 사안을 다루면 하나의 사건으로 묶고, 얼마나 많은 곳이 말하는지로 화제성을 정렬합니다. 선택 기준과 프롬프트 원문, 문턱값까지 저장소에 그대로 공개되어 있어서 자기 산업에 맞춰 다시 만들 수 있습니다. GitHub 스타 8,550개, 포크 2,041개가 이 구조에 대한 관심을 보여줍니다. 하루치 처리 흐름과 바꿔야 할 파일, Docker 절차를 지시문으로 정리했습니다. 그럼 이 엔진이 어떻게 작동하는지, 지금부터 하나씩 파헤쳐보겠습니다... 2026. 11. 2. 🎙️ Nemotron 3.5 Transcribe: 받아쓰기와 화자 분리를 한 모델로 합친 이유 안녕하세요! 오늘은 엔비디아가 2026년 10월 28일 공개한 Nemotron 3.5 Transcribe를 살펴보겠습니다. 이 모델은 이름과 달리 총 34B 중 4.3B만 활성화하는 MoE 구조이고, 받아쓰기·화자 분리·번역·오디오 질의응답을 한 체크포인트에 담았습니다. 40개 언어 전사, 31개 언어 번역, 13개 언어 화자 구분을 처리하며 1시간 녹음까지 받습니다. 실행 경로는 vLLM 0.32.0 또는 SGLang-Omni이고, 공식 Quick Start는 H100 80GB 1장을 전제합니다. 아래에서 구조와 수치를 확인하고, vLLM으로 직접 띄우는 절차까지 한 번에 정리했습니다. 그럼 이 도구가 어떻게 작동하는지, 지금부터 하나씩 파헤쳐보겠습니다. 한눈에 보기- 정식 이름은 nvidia/.. 2026. 10. 31. 📈 Timestral : 209M로 예측 벤치마크 3종 1위, CPU에서 도는 시계열 모델 안녕하세요! 오늘은 Mistral이 2026년 10월 15일 공개한 시계열 파운데이션 모델 Timestral을 살펴보겠습니다. 가장 큰 모델이 209M 파라미터인데, 예측 분야의 공개 벤치마크 세 곳에서 동시에 1위를 기록했습니다. 게다가 GPU 없이 CPU만으로 추론이 돌아가고, 코드는 Apache 2.0, 가중치는 Modified MIT로 풀렸습니다. 이 글에서는 세 벤치마크의 실제 수치를 표로 비교하고, 설치부터 예측 결과 꺼내는 코드까지 에이전트 지시문 하나로 정리했습니다. 그럼 이 모델이 어떻게 작동하는지, 지금부터 하나씩 파헤쳐보겠습니다. 한눈에 보기- Timestral은 Mistral의 첫 시계열 파운데이션 모델군이며 5M·28M·123M·209M 네 가지 크기로 나옵니다- 209M 모델이 .. 2026. 10. 30. 🔌 Gemini API CLI: Gemini CLI 종료 뒤 남은 API를 셸에서 부르는 방법 안녕하세요! 6월에 Gemini CLI가 종료됐다는 소식을 듣고 Gemini API까지 접으신 분이 계시다면, 그 판단은 절반만 맞습니다. 종료된 것은 대화형 코딩 에이전트였고, API는 그대로 남아 2026년 10월 22일 다른 모양의 CLI로 다시 나왔습니다. 이름이 gemini-api인 이 도구는 대화를 나누지 않고, 이미지와 음성을 파일로 떨어뜨린 뒤 경로만 돌려줍니다. 에이전트가 컨텍스트를 태우지 않고 Gemini를 부르는 방식도 여기서 나옵니다. 이 구조가 어떻게 작동하는지, 지금부터 하나씩 파헤쳐보겠습니다. 한눈에 보기- Gemini API CLI(gemini-api)는 2026년 10월 22일 Google AI Studio가 공개한 셸용 스테이트리스 클라이언트입니다- 대화형 코딩 에이.. 2026. 10. 30. 🎙️ Qwen Audio Agent: 무료 음성 에이전트의 관문은 API 키가 아니라 8765 포트입니다 안녕하세요! 음성 에이전트를 한 번 붙여보려다가 API 청구서를 확인하고 접으신 적이 있으시죠. Qwen Audio Agent는 알리바바 QwenAudio 팀이 공개한 실시간 음성 런타임이고, Apache-2.0 라이선스에 npm 패키지 하나로 설치됩니다. 이 도구에서 눈여겨볼 지점은 음성 프론트엔드가 교체 가능한 부품이라는 점입니다. 클라우드 Realtime 서비스 대신 Hugging Face speech-to-speech를 로컬에 띄우면 VAD·STT·LLM·TTS 네 단계가 모두 내 PC에서 돌아가고, API 키도 과금도 필요 없어집니다. 8765 포트 하나로 그 전환이 끝나는 이유를, 어떻게 작동하는지, 지금부터 하나씩 파헤쳐보겠습니다. 한눈에 보기- Qwen Audio Agent는 클라이언.. 2026. 10. 30. 🤖 OpenBot: 에이전트 3개를 동시에 돌리면 파일이 꼬이는 이유 안녕하세요! 오늘은 Codex·Claude·Grok을 한 화면에서 각자의 방에서 일하게 만드는 데스크톱 앱 OpenBot을 살펴보겠습니다. 이 앱이 푸는 문제는 모델 성능이 아니라 배치입니다. 에이전트를 두세 개 동시에 돌리면 같은 파일을 함께 고치고, 누가 무엇을 만들었는지 기록이 남지 않습니다. OpenBot은 에이전트마다 독립 워크스페이스와 큐를 주고, 파일이 오갈 때 소유자와 SHA-256을 남깁니다. 다만 에이전트가 승인 없이 파일을 지울 수 있는 전제로 설계됐습니다. 이 앱이 어떻게 작동하는지, 지금부터 하나씩 파헤쳐보겠습니다. 한눈에 보기- OpenBot은 nightly-labs/openbot 저장소의 데스크톱 앱입니다. 2026년 8월 12일 공개됐고 2026년 10월 29일 조.. 2026. 10. 29. 이전 1 2 3 4 ··· 113 다음 728x90
