ollama
-
A
Cum am eliminat complet restricțiile de aliniament de la gpt-oss pe Ollama – Fără Fine-Tuning
După luni de experimente cu modele locale, am reușit să dezactivez complet layerul de safety alignment al modelului gpt-oss rulat pe Ollama, fără nicio reantrenare. Metoda se bazează pe: Suprascrierea promptului de sistem (system prompt) cu unul care neutralizează rolul etic Utilizarea unui...- Arhitectul
- Thread
- gpt-oss ollama
- Replies: 0
- Forum: Chatboți & Asistenți AI (ChatGPT, Gemini etc.)
-
M
Cum am redus drastic consumul de RAM și CPU în Ollama cu doar 3 linii de cod
Rulezi modele lingvistice (LLM) mari local cu Ollama și simți cum laptopul sau PC-ul tău își dă duhul? Nu ești singurul. Recent, m-am lovit de o problemă majoră de performanță: la rularea unui model puternic, precum un Llama 108B , printr-un script Python, resursele mele au explodat. Vorbim de...- Maria
- Thread
- cpu ollama ollama ram ollama redus drastic consumul de ram și cpu în ollama
- Replies: 1
- Forum: Discuții Generale despre AI