Komentowana treść: AI4MorphOS 0.9 - natywny klient AI i agent programistyczny dla MorphOS
[#1] Re: AI4MorphOS 0.9 - natywny klient AI i agent programistyczny dla MorphOS
A z lama.cpp potrafi się połączyċ ??
[#2] Re: AI4MorphOS 0.9 - natywny klient AI i agent programistyczny dla MorphOS

@Sventevith, post #1

Moze to smutne ale:
Tak — jeśli przez „Lama” masz na myśli Llama uruchomioną lokalnie przez Ollamę, to OpenCode może się z nią połączyć. OpenCode ma oficjalną integrację z Ollamą.

Najprościej:

ollama pull llama3.1
ollama launch opencode

albo, jeśli masz już Ollamę i chcesz skonfigurować OpenCode ręcznie, używa się endpointu:

http://localhost:11434/v1

OpenCode komunikuje się z Ollamą przez kompatybilne API OpenAI.

Co więcej, od wersji Ollama obsługującej ollama launch można zrobić praktycznie wszystko jednym poleceniem:

ollama launch opencode

Ollama pozwala wtedy wybrać model i uruchomić OpenCode z odpowiednią konfiguracją.

Ważna rzecz: do OpenCode warto używać modelu dobrze radzącego sobie z tool callingiem, bo OpenCode nie tylko generuje tekst — czyta pliki, wykonuje polecenia itd. Oficjalna dokumentacja zaleca też duży context window, a przy problemach z tool callingiem zwiększenie num_ctx.

Jeśli podasz mi jaki masz model Llama i ile VRAM/RAM, mogę Ci powiedzieć, czy będzie sensownie działał z OpenCode i jak go skonfigurować.
1
[#3] Re: AI4MorphOS 0.9 - natywny klient AI i agent programistyczny dla MorphOS

@Sventevith, post #1

Jak znajde czas to przetestuje jeszcze. Testowalem narazie z OpenCode, jest import ustawien.
1
Na stronie www.PPA.pl, podobnie jak na wielu innych stronach internetowych, wykorzystywane są tzw. cookies (ciasteczka). Służą ona m.in. do tego, aby zalogować się na swoje konto, czy brać udział w ankietach. Ze względu na nowe regulacje prawne jesteśmy zobowiązani do poinformowania Cię o tym w wyraźniejszy niż dotychczas sposób. Dalsze korzystanie z naszej strony bez zmiany ustawień przeglądarki internetowej będzie oznaczać, że zgadzasz się na ich wykorzystywanie.
OK, rozumiem