[#2]
Re: AI4MorphOS 0.9 - natywny klient AI i agent programistyczny dla MorphOS
@Sventevith,
post #1
Moze to smutne ale:
Tak — jeśli przez „Lama” masz na myśli Llama uruchomioną lokalnie przez Ollamę, to OpenCode może się z nią połączyć. OpenCode ma oficjalną integrację z Ollamą.
Najprościej:
ollama pull llama3.1
ollama launch opencode
albo, jeśli masz już Ollamę i chcesz skonfigurować OpenCode ręcznie, używa się endpointu:
http://localhost:11434/v1
OpenCode komunikuje się z Ollamą przez kompatybilne API OpenAI.
Co więcej, od wersji Ollama obsługującej ollama launch można zrobić praktycznie wszystko jednym poleceniem:
ollama launch opencode
Ollama pozwala wtedy wybrać model i uruchomić OpenCode z odpowiednią konfiguracją.
Ważna rzecz: do OpenCode warto używać modelu dobrze radzącego sobie z tool callingiem, bo OpenCode nie tylko generuje tekst — czyta pliki, wykonuje polecenia itd. Oficjalna dokumentacja zaleca też duży context window, a przy problemach z tool callingiem zwiększenie num_ctx.
Jeśli podasz mi jaki masz model Llama i ile VRAM/RAM, mogę Ci powiedzieć, czy będzie sensownie działał z OpenCode i jak go skonfigurować.