Chcesz OP agenta na kompie, ale za darmo, bo API kosztuje krocie? Wystarczy tylko laptop. Żadne karty graficzne, żadne subskrypcje.
Hear me out. To jest krótki poradnik, w jaki sposób zbudować sobie na komputerze agenta z ogromnym potencjałem — i jak zamienić go w centrum dowodzenia całym zespołem darmowych modeli AI.
Wersja izi
Wszystko co robimy jest darmowe, więc najpierw pobieramy sobie coś takiego, co się nazywa OpenCode. Po prostu wpisz w Google. Robisz tam konto, dostajesz klucz API, instalujesz i uruchamiasz z poziomu konsoli — w terminalu przez opencode, albo w przeglądarce przez opencode web.
Na tym etapie większość podstawowych prac biurowych jesteś w stanie zrobić przy użyciu tego agenta. Jest tam w środku sporo modeli (polecam Big Pickle), a wewnątrz infrastruktury są dwa tryby agentowe: Plan i Build.
Wersja mid
Jeżeli chciałbyś trochę rozbudować tę przestrzeń, istnieje parę prostych sposobów. Zacznijmy od wytłumaczenia, czym są serwery MCP.
Wyobraźmy sobie, że pracujemy nad czymś i jesteśmy człowiekiem. Zadanie, które chcemy rozwiązać, wymaga od nas policzenia 20 razy czegoś według konkretnego wzoru. Możemy to albo liczyć ręcznie, albo użyć jakiegoś skryptu czy programu, który to za nas zrobi. W momencie kiedy używamy programu, skracamy sobie proces i zawiłość zadania, bo po prostu odczytujemy wynik.
Dokładnie tak samo wykorzystuje to agent — serwery MCP to paczki wcześniej przygotowanych funkcji, które pozwalają agentowi nie wykonywać obliczeń, tylko odczytać wynik powtarzalnej funkcji. Dlatego mając agenta na komputerze, jesteś w stanie zwiększać jego możliwości poprzez budowanie mu tego typu funkcji, które może wykorzystywać na twoim środowisku.
Agent nie ogarnia, jak budować aplikację w przeglądarce? Wgrywasz mu MCP:chrome-dev-tools i agent już ma dostęp do narzędzi pozwalających mu pracować w takiej przestrzeni.
Wersja orkiestracyjna
Skoro już wiemy, że narzędzia w serwerach MCP to konkretne programy, które dają konkretne wyniki, kolejnym krokiem jest wykorzystanie publicznie dostępnych API. Dają one bardzo dużą ilość tokenów, ale małą ilość RPM.
RPM definiuje, ile wywołań na minutę może zostać wykonane przez model. Te liczby są często za niskie, żeby używać takiego klucza w pętli agentowej. Jednak skoro nie jesteśmy w stanie zwiększyć częstotliwości, to możemy zwiększyć skalę zadania.
O to co robię ja.
NVIDIA NIM (coś takiego oferuje też OpenRouter) oferuje bardzo dużo dostępnych modeli z darmowym wywoływaniem i ograniczeniami w okolicach 20-40 wywołań na minutę. Każdy dostępny model podpiąłem pod konkretny rodzaj narzędzia we własnym serwerze MCP. Czyli w skrócie: mój agent pracujący lokalnie widzi w swojej skrzynce z narzędziami dostęp do 20+ podwykonawców.
Napisalem SKILL.md, który instruuje, w jaki sposób pracować z podwykonawcą (ergo zewnętrznym subagentem), kiedy używać jakiego modelu oraz w jaki sposób planować implementację z podziałem na sprinty, żeby modele dostępne w całym orkiestratorze wykonywały tę pracę jednocześnie.
Taka metoda zamieniła mojego agenta w pomost pomiędzy tym, co chcę osiągnąć, a całym zespołem LLM-ów pracujących w skoordynowany sposób.
Jak to wygląda w praktyce — nvidia-ai-orchestrator
Żeby to nie była tylko teoria, zbudowałem z tego pełnoprawny projekt: NVIDIA AI Orchestrator.
- Serwer FastAPI + SSE, który podłącza lokalnego agenta (opencode) do 25 darmowych modeli z build.nvidia.com.
- Każdy model dostaje rolę: planista (nemotron-3-super-120b), wykonawca (llama-3.3-super-49b), recenzent (mistral-large-675b), ekspert od wizji (llama-3.2-11b-vision), szybki sprinter (nemotron-3-nano-30b). RPM traktuję jak budżet projektu.
- Workflow Engine z krokami serial/parallel/conditional i 5 providerami (nvidia, ollama, opencode, mcp, system) — składa wyniki wielu modeli w kompletny rezultat.
- Dashboard (Alpine.js + SSE) pokazuje status zadań na żywo, a baza lekcji w UI pilnuje, żeby nie powtarzać błędów API (np. które modele NIE nadają się do JSON).
Całkowity koszt tego wszystkiego to równe 0 zł i zwykły laptop bez żadnej karty graficznej.
Więcej szczegółów technicznych znajdziesz na karcie projektu: nvidia-ai-orchestrator →