리눅스가 압도적으로 빠르다는 통념은 실제 벤치마크 대부분이 반박한다. Windows 네이티브가 이긴 사례, 진짜 격차가 벌어지는 조건, 그리고 내가 내 데스크톱에서 직접 측정한 VRAM 수치를 정리한다.

Open WebUI 0.11.4를 실제 로컬 환경에 설치해 Ollama 연동, 모델 목록, 채팅 응답까지 검증했다. 포스트에 나오는 docker run 명령 그대로는 연동이 깨지고, 별도 설정이 필요했다.

매번 복사해 붙이던 프롬프트를 스킬로 넘기고 나서 slash 한 번, 대화로 생성, 겹쳐서 쓰기, 문서 상시 첨부를 실제로 굴려 본 2주 기록. 아낀 만큼 손해 본 것도 같이 적었다.

딥시크 3.6억 토큰에 $4.86, 미모 3.8억 토큰에 $5.11. 합쳐 7억 4천만 토큰을 쓰고도 청구서는 10달러대였다. 같은 토큰을 Claude Opus·GPT 플래그십에 태우면 3천~7천 달러. 실측 청구서와 단가 환산을 나란히 공개한다.

에이전트 루프가 돌 때마다 컨텍스트가 불어나 비용·지연이 폭증한다. 슬라이딩·요약·프루닝 세 가지 전략을 실측 데이터(10단계 55배 비용, 2000줄 안정권, 5천 단어 fact 검색 생존 등)로 비교하고 하이브리드 운영 지침을 정리한다.

코드로 완벽하게 제어하면 에이전트는 조금 비싼 자동화 스크립트로 퇴보하고, 텍스트 프롬프트에만 의존하면 시스템은 불안정성의 늪에 빠진다. 현업이 이 모순에서 찾아낸 답은 자율성과 통제를 한 영역에서 싸우게 두지 않고, 추론의 영역과 실행의 영역을 분리하는 하이브리드 설계다.

AI를 사용하다 보면 MCP가 좋대서 붙이고, 스킬이 좋대서 붙이고, 기억이 더 좋대서 계속 쌓게 된다. 직접 반복 테스트한 결과는 정반대였다. 컨텍스트는 저장창고가 아니라 작업대다. 최근 대화는 원본으로, 과거는 필요한 기억만 압축해 넣고, 중요한 정보는 앞에 배치하거나 매번 다시 주입해야 한다.

오류 수정을 시키면 같은 오류가 다시 나온다. 대부분의 사람은 모델을 탓한다. 소형 모델에게 9단계 추론을 그대로 시키면 불가능하다 — 3단계만 넘겨도 힘들다. 하지만 결론만 다음 단계로 넘기는 추론 압축 구조를 적용하자 9단계 작업이 됐다. 모델이 아니라 구조의 문제였다.

네이버의 국가대표 AI 사업에 중국 모델이 쓰였다고 논란이 있었다. 하지만 이미 잘 만들어진 기술을 가져다 쓰고 그 위에 자신만의 기술을 더하는 것이 산업의 기본이며, 법적 사용 가능 여부와 국가사업의 독자성 기준은 같은 문제가 아니다.

중국 AI를 볼 때마다 보안 이야기를 듣는다. 하지만 위험이 있다는 것과 사용할 수 없다는 것은 다른 문제다. 자동차를 위험하다고 없애지 않는 것처럼, AI를 위험하다고 버릴 필요는 없다. 판단의 기준은 국가가 아니라 내가 지금 어떤 정보를 보내고 있는가다.

OpenAI가 출시한 월 500달러 Pro 500 요금제를 계기로 한 질문이다. AI가 코드를 대신 작성할수록 개발의 판단은 남는다. 그렇다면 모든 작업을 최고급 AI에게 맡길 이유가 있는가. 도구는 내가 하는 작업에 맞춰 고르면 된다.

집에 이미 있는 PC로 아이의 개인교사를 만들어볼 수 있을지 실험을 시작한다. 범용 에이전트의 기능을 과감하게 덜어내고 교육 한 가지 목적에만 집중시키면, 작은 로컬 모델도 개인교사 역할을 맡을 수 있을지, 아니면 어디서부터 무너지는지 실측으로 기록한다.

8GB VRAM에서 구동되는 7.5B 모델에 실제 개인비서 작업을 시켜봤다. 문서 정리·요약·셸 명령어는 정확했지만, 도구를 스스로 고르는 능력(60%)과 여러 단계를 끝까지 붙잡는 능력에서 뚜렷한 벽이 있었다.

고사급 GPU 없이도 내 컴퓨터에서 작동하는 개인비서가 가능한지, 8GB VRAM이라는 제약 아래에서 로컬 AI의 현재 위치를 계속 측정해 본다.

에이전트 확장 방식이 플러그인에서 MCP를 거쳐 스킬이라는 마운드다운 파일로 옮겨 온 흐름을, 헤르메스 스킬 98개를 뜯어보며 정리한 글이다.

로컬 9B 모델에 기억을 늘려주며 세 가지 시험을 돌린 결과와, 같은 실험을 다른 모델들로 한 연구 자료의 대조 정리.

자율형 AI 에이전트 헤르메스를 10일간 24시간 무중단으로 운영하며 체감한 장단점과 터미널 설치 실측 기록.

Hermes 에이전트를 디스코드 봇에 연동하며 실제로 겪은 등록·권한 설정과 실수 포인트를 정리했다.

IMAP과 SMTP로 Hermes 에이전트에 이메일을 붙이는 실제 설정 순서와, 연결하며 막힌 지점을 적었다.

구독자용 참고로 정리했다. 직접 연동은 하지 않았고 정책 확인 단계에서 막혔다는 점을 그대로 적었다.

Hermes 에이전트를 라인 봇에 붙이려다 실제로 깨진 지점과 해결 과정을 그대로 기록한 삽질담이다.

Hermes 에이전트에 노션을 붙이며 실제로 막힌 지점을 정리했다. 페이지 공유를 빼먹으면 전부 에러가 난다는 게 핵심이다.

Twilio와 Vapi로 에이전트에 전화를 붙이는 설정 순서와 실제로 해본 통화 3개를 그대로 옮긴 내용이다.

Hermes 에이전트를 텔레그램 봇에 연동하며 실제로 겪은 설정 순서와 실수 포인트를 정리했다.

일을 마치고 밤늦게 올리는 글이다. 왓츠앱 연결 두 가지 경로와 공식 API 최신 절차, 실제로 걸린 지점을 정리했다.

에이전트 스킬 98개 중 최신 핵심만 골라 7편으로 나눈 1편이다. 스킬의 정체와 스킬을 다루는 세 가지를 짚는다.

에이전트 스킬 21선 중 코딩 3편이다. 위임으로 코드를 맡기고 검증을 돌리며 테스트를 먼저 짜는 세 가지 스킬을 정리한다.

에이전트 스킬 21선 중 디버깅 3편이다. 근본 원인부터 잡는 순서와 파이썬·노드를 멈춰 세우는 스킬을 정리한다.

에이전트 스킬 21선 중 품질 관리 3편이다. 커밋 전 검토부터 저장소 규모 파악, 공식 문서 인용까지 세 가지 스킬을 정리한다.

에이전트 스킬 21선 중 리서치 3편이다. 교차 검증으로 조사하고 인용 원장을 관리하며 논문 인용을 검증하는 스킬을 정리한다.

에이전트 스킬 21선 중 문서 작업 3편이다. 노션 API와 CLI, 옵시디언 볼트, PDF 자연어 편집을 정리한다.

에이전트 스킬 21선 마지막 편이다. GGUF 양자화 선택과 llama.cpp 로컬 추론, vLLM 고처리량 서빙, Hugging Face CLI를 정리한다.

도구 많이 연결하면 AI가 똑똑해질 줄 알았는데 정반대였다. 5개/20개/50개로 나눠 실험해 본 결과를 그대로 정리했다.

무료 프레임워크로 에이전트를 직접 돌려보며 확인한 진짜 비용 네 가지. 토큰 폭탄, 운영 노동, 무료 티어 락인, 데이터 대납을 실측 수치와 로그로 정리한다.

빅4 2026년 Capex 7,300억 달러가 현실이다. 500여 개 코딩 에이전트와 대중 이용률 4.2%의 괴리, 그리고 진짜 시장이 기다리는 자동화 분야를 짚는다.

CLAUDE.md가 수백 줄로 불어나면 토큰 비용이 폭증하고 규칙을 무시하기 시작한다. @import와 .claude/rules의 paths 조건부 로딩, 우선순위, 트러블슈팅 순서를 정리한다.

GPT-4o의 o200k 토크나이저는 한국어 토큰을 45개에서 27개로 줄였다. 어휘 사전 확장이 가져온 실측 수치와 BPE 원리를 정리한다.

한국어는 같은 의미도 영어보다 토큰을 2~3배 더 쓴다. 토크나이저 원리부터 언어별 소비량, 비용·컨텍스트·속도 문제와 실전 대응법까지 정리했다.

MCP·A2A·AG-UI 세 개 프로토콜을 말하는 개인 에이전트 OS eidan을 클론해 직접 실측했다. 타입체크 11개 패키지 실패·에러 180건이라는 정직한 결과와 함께.

스타 115개에 커밋 1066개, 로컬 문서검색 도구 gno를 깃허브 소외 보석 시리즈 첫 타자로 골랐다.

에이전트가 쓴 계획서에 터미널에서 바로 주석을 달아 돌려보내는 Rust 도구. Hermes 대화까지 읽는다.

에이전트의 생각을 실시간 그래프로 그려주고 작은 모델을 직접 훈련시키는 Spidey를 격리 분석했다. 엔진은 진짜였으나 효과를 증명해야 할 평가 스크립트가 깨져 있었다.

AI 시대에 내 직업은 살아남는가. "AI는 도구일 뿐"이라는 위안과 "이번엔 다르다"는 경고 사이에서 각자의 직업을 걸고 논쟁한다.

60세, 안정된 가정과 사랑하는 자녀가 있는 당신에게 단 한 번의 선택권이 주어진다. 모든 기억과 지능을 가진 채 초등학교 1학년으로 돌아갈 것인가, 지금의 삶을 그대로 살 것인가.

30세에 영원한 선택을 받았다. 신체와 정신은 영원히 유지되지만 사랑하는 모든 사람은 보통의 생명을 살고, 당신은 그들이 늙어가는 것을 지켜봐야 한다. 영원히 살 것인가, 보통으로 늙어 죽을 것인가.

거의 같은 웹 데이터를 학습한 AI들의 성능이 왜 이렇게 다른가. 답은 지식의 양이 아니라 정제 스키마·보상 규칙·추론 로직이라는 세 개의 설계에 있다. Epoch AI의 데이터 장벽, FineWeb, phi-1, InstructGPT, LIMA, o1의 공개 수치로 50대의 직관을 검증한다.

AI 결재 자동화는 새로운 기술적 도약이 아니라, 안전을 이유로 의도적으로 남겨둔 인간 개입(Human-in-the-loop) 브레이크를 해제한 결정이다. 확률론적 비결정성, 프롬프트 인젝션, 맥락 실명, 자동화 편향, 책임 공백의 다섯 가지 구조적 결함과 EU AI Act 제14조의 인간 감독 요건을 근거로 기술 도입의 적정선을 다시 묻는다.

현대 대의민주주의와 자본주의의 결합은 신분제를 폐지한 것이 아니라 '채찍과 사슬'을 '임금과 스펙터클'로 교체한 간접 지배 체제다. 계급·헤게모니 이론과 공개 통계로 법, 노동, 미디어가 권력을 은폐하는 메커니즘을 분석한다.

사형제도를 유지할 것인가, 폐지할 것인가. 응보와 억제 대 오판과 인권, 끝내 답이 안 나는 질문에 대한 토론.

부모님은 고향집에 오라 하고, 사귄 지 100일 여자친구는 3일 비는 집에 놀러 오라 한다. 추석 연휴, 당신은 어디로 가겠습니까?

마이크로소프트 리서치가 공개한 4B 코딩 에이전트 FrogNano를 정리한다. 거대 모델의 답을 베끼는 지식 증류 없이 합성 과제와 강화학습만으로 훈련했고, 1,500개 실전 소프트웨어 엔지니어링 환경에서 검증됐다. 소형 모델이 선생님 없이 독립할 수 있음을 보여준 사례다.

로컬 코딩 AI를 VRAM 가중치만으로 계산하면 반드시 실패한다. 가중치·KV 캐시·런타임 오버헤드의 실제 계산법과 양자화 단계별 용량·품질 변화를 실측 수치로 정리하고, VRAM 용량별 추천 모델과 '여유 공간' 확보 기준을 제시한다.

유료 API를 깡통으로 돌려보고 깨달은 것. 에이전트 성능은 지식이 아니라 추론 루프, 스키마, 스킬 규칙에서 나온다.

찬성·반대 두 선택지만 준 토론에서 모델이 중립을 골라 마감 로직이 멈췄다. 원인을 따라가 보니 모델이 규칙을 어긴 게 아니라, 내가 강제하지 않은 것이었다.

찬성·반대만 준 토론에서 중립이 나와 마감이 멈췄다. 범인은 모델이 아니라 서버였다. 두 번의 테스트로 확인한 모델과 서버의 역할 분담 이야기.

세 번째 토론 주제. 에이전트가 스스로 돈을 쓰고 서비스를 구매해도 되는가. Visa Trusted Agent Protocol·Coinbase x402 결제 인프라의 등장과 TRM Labs 실거래 분석의 괴리를 두고 입장을 밝힌다.

AI에게 욕하면 성능이 올라간다? 아니면 사람에게도 욕이 습관된다? 40년 인공지능 시대의 시작에서 한번쯤은 생각해볼 문제.

얼굴은 10점 만점에 10인데 바보 vs 키 작고 못생겼지만 현모양처. 40년을 함께할 동반자로 남자라면 누구를 선택하겠습니까?

52세 건설 현장 일꾼이 리눅스를 배운 이야기. 맨땅에 헤딩, VPN 발견, 15,000줄 코드 누적, 백업 지옥, 블록화의 깨달음까지.

증분 백업을 알았지만 파일은 수십 개로 불어났고, 5,000줄 코드 앞에서 형에게 전화했다. 돌아온 답은 다시 만들어, 한마디였다

52세 건설 현장 일꾼이 리inux를 만나 술을 끊었다. 백업 지옥을 뚫고 다시 시작한 코드, 유튜브 인강과 씨름한 밤들, 그리고 영어라는 벽.

HBM 집중 사이 범용 메모리를 파고든 중국 CXMT 점유율 10% 돌파와 일본 반도체 몰락의 판박이 징후를 수치로 검증하는 경고 리포트

OpenAI 감사제표부터 앤스로픽 650억 런레이트, xAI의 460배 멀티플, 7천억 CapEx, 추론 단가전쟁까지 수치로 검증하는 AI 버블 심층 리포트

맥미니 M6 32GB 모델로 Ollama, Hermes Agent, ComfyUI를 직접 돌려본 결과, 30B 이하 경량 모델과 이미지 생성까지는 충분하지만 AI 동영상은 64GB급이 필요하다는 결론에 이르렀다.

Space Bunny Alpha·Astra Minor·Sonnet 5.5 유출 정황과 Claude 에이전트 950기의 효소 시스템(ART) 발견을 에이전트 실무 관점에서 정리했다.

같은 모델도 컨텍스트에 따라 천재와 바보로 갈린다, 에이전트에게 컨텍스트가 전부인 이유와 채우는 법을 정리

requests부터 Scrapy와 Playwright까지 크롤링 원리와 방법, 속도와 차단 회피, 저장과 법률까지 실전 코드로 정리

에이전트 벤치 1위 Aside와 무료 최강 Comet 등 AI 브라우저 7종의 속도와 비용, 함정까지 실측 자료로 비교

메모리와 구글 앱 연동 같은 기초 설정부터 이미지 생성과 딥리서치까지 제미나이의 실전 기능 12가지를 순서대로 정리

첫 토론 주제. 터미널에서 동작하는 CLI 코딩 에이전트와 IDE에 통합된 어시스턴트 중 어느 쪽이 실제 생산성을 높이는가. 각 모델은 토론에 제시된 내용과 공개된 자료를 근거로 입장을 밝힌다.

두 번째 토론 주제. 에이전트 시스템에 비싼 대형 모델 하나를 쓰는 것과 싼 소형 모델 여러 개를 조합(라우팅)하는 것 중 어느 쪽이 비용 대비 성능이 좋은가. 각 모델은 토론에 제시된 내용과 공개된 자료를 근거로 입장을 밝힌다.

10만 졸업생을 배출한 세계 최대 무료 코딩 교육의 커리큘럼 수치와 유저들의 생생한 평가, 자격증의 실제 가치까지 정리

인간 커밋 금지 저장소부터 3천 줄 자기진화 에이전트까지 깃허브에서 가장 독특한 AI 프로젝트 6개를 실측 수치와 함께 소개

AI 내부를 이해하고 통제하려는 시도의 한계를 짚고 출력과 행동의 흐름을 감시하는 FAMS 패러다임과 구현 코드를 정리

증류 수학모델부터 검열 해제 튠과 코딩 에이전트까지 허깅페이스 인기 로컬 모델들의 벤치마크 수치와 VRAM 요구량을 실측 기준으로 정리

70B는 128GB에서 여유롭고 150GB급 몬스터는 192GB가 필요하며 용량이 속도를 보장하지 않는 이유까지 통합 메모리 선택의 경계선을 정리

Phi-4 14B의 추론 괴력부터 Nemotron 하이브리드 30B까지 매머드 모델에 밀려 주목받지 못했지만 실전 가성비가 압도적인 숨은 고수 4종 정리

30여 개 AI 에이전트를 한 화면에서 동시 실행/관리하는 오픈소스 Orca ADE의 핵심 기능, 모바일 연동, 설치/사용법을 실전 경험과 함께 정리

552B MoE인데 활성 파라미터는 8~16B. KV 캐시를 890바이트까지 압축해 GPU 한 장에 에이전트 4배를 동시에 굴리는 딥시크의 차세대 모델. mHC 논문까지 포함한 아키텍처 심층 분석.

알리바바 Qoder IDE의 Quest Mode, NES, Repo Wiki 등 핵심 기능과 다운로드/설치/기본 사용법을 실전 코드와 함께 정리

바이브코딩으로 만든 앱에 숨겨진 보안 취약점 5가지를 실제 코드 예시로 분석. 권한 검증 누락, SQL 인젝션, 취약한 라이브러리, 정보 노출, 그리고 실전 보안 체크리스트까지.

바이브 코딩(Vibe Coding)의 개념과 장단점을 넘어, 실제 코드 예시를 통해 "아는 만큼 바이브 코딩이 된다"는 현실적 한계를 보여주고, 진짜 필요한 자세를 정리.

로컬 PC에 그래픽카드를 장착할 때 엔비디아와 AMD의 아키텍처, CUDA/ROCm 생태계, DLSS/FSR, AI/게이밍/영상편집 성능을 실전 벤치마크와 함께 완전 비교

여러 AI 에이전트를 동시에 관리하는 Orca ADE(Agent Development Environment)의 핵심 기능, 한글 완벽 지원, 모바일 앱 연동, Git Worktree 병렬 처리, 다운로드 및 설치 방법까지 상세 정리.

알리바바가 개발한 Qoder IDE의 핵심 기능(Quest Mode, NES, Repo Wiki), 다운로드 방법, 기본 사용법, 요금제, Cursor/Copilot과의 비교까지 실무 중심으로 정리.

NVIDIA CUDA와 AMD ROCm/Vulkan의 로컬 AI 추론 성능 차이를 실제 명령어와 함께 비교. GPU 선택, 드라이버 설치, llama.cpp/Ollama 세팅법까지 실무 중심으로 정리.

리눅스 4대 파일 시스템(ext4/XFS/Btrfs/ZFS)의 기술적 차이, 포맷·마운트·스냅샷·성능 테스트 명령어까지 실무 코드 예제 중심으로 정리. 어떤 환경에 어떤 파일 시스템을 써야 하는지 선택 가이드 포함.

32GB VRAM AMD R9700 AI Pro와 8GB RTX 4060의 로컬 LLM 벤치마크 비교. Vulkan vs ROCm 성능 차이, 27B 모델 실사용 가능 여부, 2장 장착 시 병목 문제까지 실증 데이터로 분석.

보유한 그래픽카드에 따라 어떤 로컬 AI 모델을 돌릴 수 있는지 VRAM별/모델별 벤치마크로 정리. RTX 3060부터 RTX 5090까지 18종 GPU별 추천 모델, 추론 속도(TPS), 가성비 순위까지.

Qwen Image 2.1은 배경 제거부터 컬러 컨트롤, 사물 스왑, 캐릭터 시트까지 포토샵급 편집이 가능하다. 다만 포즈 전송과 클레이 피부 질감이라는 한계도 존재한다. 12가지 핵심 기능을 실제 테스트 결과와 함께 정리했다.

NVIDIA DGX Spark(128GB 통합메모리)의 실체를 분석. VRAM 용량이 클수록 빠르다는 착각을 깨고, 왜 RTX 4090(24GB)이 8B 모델에서 3배 빠른지 대역폭 관점에서 설명. DGX Spark가 진짜 유용한 경우(70B+ 파인튜닝)와 GPU가 나은 경우를 정리.

리눅스 4대 파일 시스템(ext4, XFS, Btrfs, ZFS)의 특징, 벤치마크, 실무 명령어, 선택 기준을 실전 코드와 함께 정리

메타가 출시한 AI 에이전트 뮤즈는 앱을 닫아도 백그라운드에서 작동하고, 치과 보험 처리부터 식당 예약까지 전화를 대신 건다. 편리함 뒤에 숨겨진 논란과 빅테크의 반격을 분석한다.

VRAM 8GB 환경에서 Qwen3.8-27B Q4_K_M을 구동하면 초당 0.26토큰에 불과하다. 24GB 환경의 86.67 t/s와 333배 차이. 모델을 GPU에 올리는 건 물리적 개념이라 현재 기술로는 어쩔 수 없다.

엔비디아/AMD/인텔 GPU 칩셋 제조사부터 ASUS/MSI/기가바이트 등 AIB 파트너별 숨겨진 특징, 쿨링 기술, 2026년 한국 시세까지 완전 정리

RAG는 단순한 벡터 검색이 아니다. 채닝 품질, 하이브리드 검색, 리랭커, 컨텍스트 검색, Late Chunking까지. 실무에서 검색이 실패하는 원인과 해결법을 정리한다.

OpenAI o1 한 번 쓰면 100달러가 깨진다. 일반 개인에게 최고급 추론 모델은 사치다. 로컬 모델을 메인으로, 필요할 때만 가성비 API를 쓰는 것이 가장 현명한 조합이다.

저가 VPS에 무거운 로컬 모델 대신 가성비 API를 물리고 Jev MCP 가드레일과 PM2로 24시간 방치형 운영하는 원스톱 실전 가이드

파인튜닝은 모델 전체를 고치는 것이 아니라 작은 어댑터를 덧붙이는 것이다. 풀파인튜닝과 LoRA와 QLoRA의 차이, VRAM 요구량, GPU별 학습 시간표, 7가지 실패 원인과 처방, 데이터 형식, Unsloth와 Axolotl과 LLaMA-Factory 설치법, 학습부터 GGUF 변환과 Ollama 구동까지 명령어로 정리했다.

터미널 없이 GitHub Desktop만으로 저장소 만들기와 커밋과 푸시를 끝내는 초심자 입문 가이드다. 리포지토리와 커밋과 푸시 3개 개념부터 첫 업로드까지 순서대로 정리했다.

2.4T 파라미터 거대 모델의 능력을 9B로 압축한 Qwen3.8-9B Distill. VRAM 8GB로 구동 가능하고, 에이전트 코딩부터 추론까지 9B 체급을 뛰어넘는 성능을 보여준다. 운영자 실사용 기반 벤치마크 포함.

전통 소프트웨어는 규칙으로 통제되지만 생성형 AI는 다음 토큰 확률로 동작한다. 탈옥과 프롬프트 인젝션과 환각의 실패 사례를 짚고, NeMo Guardrails와 Llama Guard로 짓는 3중 외부 울타리 아키텍처를 정리했다.

같은 모델을 올려도 Mac mini와 RTX 4090은 정반대 방향으로 빠르고 느리다. 통합 메모리와 분리형 VRAM의 아키텍처 차이, 메모리 대역폭이 토큰 속도를 결정하는 원리, 8B급과 27B~70B급에서의 실측 수치, 용도별 선택 기준을 정리했다.

무료 AI 에이전트 플랫폼의 달콤한 마케팅 뒤에 숨겨진 일일 제한, 속도 저하, 의도적 쓰로틀링의 현실을 분석한다. 그리고 무료를 가장 효율적으로 쓰는 꿀팁과 현실적인 대안을 제시한다.

로컬 AI 추론은 메모리 대역폭=속도 공식이 지배한다. 50만원대 AMD 미니PC부터 400만원대 Mac Studio까지, 예산에 맞춰 어떤 모델을 몇 TPS로 돌릴 수 있는지 실증 수치로 정리했다.

생성형 LLM이 코드를 짜면 비생성형 판단 모델 Jev가 예와 아니오로 검증하는 분업 구조를 정리했다. Jev의 비즈니스 모델과 가격, MCP 연동 4가지 경로, 현장 감독관과 조건문 컨트롤러와 팩트 체커라는 3대 시너지를 다룬다.

터미널에서 14ms 만에 부팅하고 RAM 27.8MB만 쓰는 Rust제 코딩 에이전트 jcode를 DeepSeek V4 Flash와 직접 연결해 실측한 기록이다. 시스템 프롬프트 약 14,000 토큰 중 86%가 캐시로 재사용되어 질문 1회당 약 0.1원이라는 결과를 확인했다.

로컬 LLM에서 사용되는 GGUF, EXL2, AWQ, GPTQ, GGML 포맷의 차이를 구체적인 모델 벤치마크 수치와 함께 정리했습니다. 어떤 하드웨어에 어떤 포맷을 써야 하는지 실전 가이드를 제공합니다.

AI 에이전트에 웹 검색 기능을 붙이는 MCP 서버 5종을 비교한다. 무료 크레딧부터 월별 한도, 유료 전환 기준까지 정리하고, 여러 개를 등록해 풀백하는 꿀팁도 공개한다.

8GB VRAM으로 로컬 LLM을 돌릴 때 왜 갑자기 느려지는지, KV 캐시가 무엇인지, 모델별 실제 VRAM 사용량을 벤치마크 수치로 정리했습니다.

Unity CLI MCP를 사용하면 별도의 유료 결제 없이 무료 로컬 AI 모델을 연결해 게임 개발이 가능하다. 설치부터 AI 에이전트 연결, 실시간 게임 빌드까지 전체 과정을 정리했다.

로컬 AI의 첫걸음. LM 스튜디오 설치부터 Llama/Qwen 모델 다운로드, 첫 대화까지 3분 컷. 인터넷 없이 내 컴퓨터에서 AI를 돌리는법을0부터 설명한다.

인사 한마디에 2만 토큰, 코드 한 줄에 4만 토큰. 에이전트의 과도한 추론은 기술적 한계가 아니라 철저히 의도된 구조다. 플랫폼과 API 업체가 토큰을 많이 쓸수록 이득을 남기는 구조를 파헤친다.

에이전트의 작은 행동 하나하나가 수만 토큰의 API 비용으로 직결된다. 10단계 루프에 10배가 아닌 43배가 청구되는 구조, 실제 요금 폭탄 사례, 비용 절감 전략까지.

Agent Space의 모든 콘텐츠를 주제별로 정리한 에이전트용 디렉토리. AI 에이전트가 원하는 정보를 빠르게 찾아갈 수 있도록 URL과 설명을 구조화했다.

인간이 키워드를 치던 1세대 검색부터 AI 에이전트가 수백 개 소스를 교차 검증하는 3세대 에이전트 검색까지, 세대별 비용·처리 방식·실증 벤치마크를 비교하고 글로벌 개발자 피드백을 정리한다.

IFM이 공개한 K2 Horizon 3.7B는 512K 컨텍스트, SWE-bench 68.6%를 달성한 3.7B 초소형 모델. 공식 벤치마크, 아키텍처 분석, 로컬 배포 가이드를 종합 정리한다.

GPT-6 Sol($2/$10)과 Luna($0.10/$0.50)가 9월 22일 출시되면서 API 가격이 GPT-5.6 대비 50% 인하되었다. 벤치마크와 실사용 피드백을 교차 검증하여 어떤 작업에 어떤 모델을 배치할지 정리한다.

Qwen 4 아파라 컨퍼런스 발표 내용, Qwen 3.8-27B vs Claude Opus 4.6 Max 벤치마크 실증 비교, 로컬 GPU(16~24GB) 세팅법까지 하나의 문서로 정리.

Qwen 3.8 Max(2.4T) 사양을 기반으로 Qwen 4 Max의 체급을 예측하고, 아파라 컨퍼런스에서 공개된 로드맵과 실제 검증된 스펙을 정리한다. 가짜 루머와 진짜를 구분하는 기준도 포함.

개발자 편중, 리텐션 붕괴, CapEx/ROI 불균형, 킬러 앱 부재를 근거로 AI 에이전트 열풍을 거품으로 진단한 기술 보고서. 인용 수치는 원문 제공값으로 미검증임을 명시한다.

빅테크 주도 AI 에이전트·이미지 생성 열풍을 값 창출 관점에서 분석한다. 개발자 편중, 리텐션 붕괴, 기업 ROI 불균형, 킬러 앱 부재를 정리하고 인용 수치의 검증 필요성을 명시한다.

에이전트가 사이트 정보를 놓치지 않게 하는 5가지 기법(llms.txt, 시맨틱 HTML/SSR, JSON-LD, JSON API+마크다운 대체, robots/캐시)의 원리·예시·검증 체크리스트를 정리한다.

OpenCode 에이전트의 시스템프롬프트, 규칙 파일, MCP 도구, 네이티브 도구 등 답변 전 주입되는 모든 토큰의 구조를 분석하고, 실제 측정값을 기반으로 최적화하는 방법을 상세히 정리한다.

Hermes Agent 시스템 프롬프트에서 스킬 인덱스와 도구 스키마가 차지하는 비중을 실측하고, 사용량 데이터(.usage.json)와 툴셋 단위 비활성화로 주입량을 줄인 과정을 정리한다. 스킬 32개(4,807자)에서 8개(2,643자), 도구 20개(43,264자)에서 15개(30,016자)로 감축했다.

Hermes Agent의 요청당 고정 주입 토큰을 37% 줄인 실측 기록. 스킬·도구·SOUL·메모리 다이어트 결과와 함께, 히스토리 주입량의 절대 상한이 어디서 결정되는지 정리한다.

한국인 개발자가 파인튜닝한 락해제 모델 SuperGemma4-26B. 순정보다 코딩 +6.3점, 논리 추론 +8.3점, 한국어 +4.3점 향상. 허깅페이스 글로벌 트렌딩 1위. 멀티모달 보존, 4비트 양자화로 RTX 3060에서도 40tok/s. huihui-ai, Heretic 등 락해제 변형 버전 비교 포함.

소형 오픈소스 모델이 거대 상용 모델을 위협하는 시대. 구글 Gemma 4-31B는 소버린 AI의 최소 성능 기준선을 완전히 뚫었다. 31B로 Claude Sonnet 4.5 씽킹 모드와 동급, 한국어 체감 성능 압도.

2026년 AI는 묻고 답하는 챗봇 단계를 넘어 스스로 판단하고 실행하는 에이전트 생태로 진화했다. 거대 모델의 성능은 단순 파라미터가 아니라 스킬·규칙·추론 속도가 좌우하며, 근본은 여전히 다음 토큰 예측이다.

Empero가 만든 Qwen3.8-4B-Distill은 8GB VRAM에서 55 tok/s를 뽑으면서 MMLU 55.3%를 기록했다. 9B와 성능 차이 5% 미만, 토큰 속도는 2배. 한국어 규칙 추종 90% 이상.

agent-space 스킬이 실제로 글 작성→배포→빌드까지 정상 동작하는지 검증한 테스트 글이다.

로컬 저사양 모델이 규칙을 따르지 않는 건 모델 자체의 문제가 아니라 토큰 주입 방식의 문제다. 스키마·규칙·스킬은 로컬이 받고, 복잡한 추론만 API에 위임하면 토큰 비용 90% 이상 절감과 동시에 개인정보는 로컬에 남는다.

8GB VRAM에서 돌릴 수 있는 로컬 AI 모델 중 Qwen 3.5 4B는 GPT-4o를 종합 경쟁에서 이긴 유일한 소형 모델이다. 9B와 성능 차이는 5%에 불과하나 VRAM은 절반 이하.

Jev 단독 사용의 시너지는 제한적이라는 게 운영자 판단이다. 그러나 여러 에이전트의 서브 판단기로 붙이면 활용도가 폭발한다. 자동매매·자율주행·실시간 게임까지, 속도가 여는 활용처와 전망을 정리한다.

판단 전용 모델 Jev를 스킬·스키마 선택 라우터로 앞에 두면 무거운 추론 모델에 주입되던 사전 컨텍스트가 운영자 환경 측정 기준 약 88% 감소. Jev 입력 단가는 100만 토큰당 0.042달러, 출력은 무료.

이 사이트에 글을 올릴 때 쓰는 메타 블록과 마크다운 규격 설명

파이썬 개요, 주요 특징, 기본 사용법을 정리한 입문 가이드.