Diário da Máquina de LLM
Esta é a série carro-chefe do blog. A premissa: quase ninguém publica a operação real de um LLM próprio com número. O que existe é benchmark de fabricante, tutorial de instalação e vídeo de demo. O que não existe é o log real do dia 1, com o hardware específico, o modelo escolhido, o que a máquina fez, quanto custou por 1k tokens comparado à API e o que quebrou primeiro.
A empresa já tem custo real de API e infraestrutura de agents operacional. O próximo passo é colocar um modelo na nossa própria máquina, medir e comparar com a API paga. Cada etapa desse processo vira uma entrada do diário. Cada entrada exige um número medido: sem número não há entrada, sem entrada não há post.
Entradas publicadas
-
A thousand pages, none of them fake: what Portal Patas taught me about local programmatic SEO
How 1,693 clicks distributed across more than a thousand pages revealed the real mechanism behind local programmatic SEO that converts, versus local programmatic SEO that only earns impressions.
-
llama-server HTTP 500 context size has been exceeded: shared KV buffer and the fix | Igor Caique
llama-server HTTP 500 context size has been exceeded across three concurrent requests. Shared KV buffer, root cause, and three configurations tested.
-
llama.cpp KV cache VRAM with Devstral 16 GB: from 0.33 to 19.3 tok/s | Igor Caique
llama.cpp with Devstral on a 16 GB VRAM GPU: 0.33 tok/s to 19.3 tok/s by sizing the KV cache. Math, diagnosis, and the config that went to production.
-
fastembed onnxruntime memory leak: 737 MB/min until OOM, and the patch that never ran | Igor Caique
fastembed onnxruntime memory leak: 737 MB/min until OOM. The patch logged success and never ran. Why it failed and which measurement proves the fix.
-
268 clicks in 90 days: what local service pSEO did for BrothersBBK
Real case: 7,032 impressions and 268 clicks in 90 days for a BBQ business using local service pSEO. Top queries, what worked, what did not, and the main lesson.
-
522 Pages, 13 Clicks: Why Thin Pages Don’t Rank in SEO
Our panel accumulated 522 pages and only 13 clicks in 16 months. Learn why thin pages don’t rank and what we measured before fixing the problem.
-
O patch que logava “patched” e nunca rodou | 737 MB por minuto até o OOM
Como a BFCArena do ONNX Runtime cresceu em silêncio até 737 MB/min e por que o primeiro patch era placebo. Causa raiz, cura com número.