Cum îți rulezi propriul ChatGPT pe un VPS

Poți avea propria interfață de tip ChatGPT pe un VPS, în două moduri: cu modele care rulează local pe server sau cu o interfață care folosește propriile tale chei API. În ambele cazuri, conversațiile rămân pe serverul tău.

Varianta 1: modele locale cu Ollama

Ollama + Open WebUI rulează modele open-source (Llama, Mistral și altele) direct pe server, fără costuri per mesaj și fără ca datele să părăsească serverul. Ai nevoie de mai mult RAM (recomandat minim 8 GB pentru modele mici). Se instalează cu un click din catalogul de aplicații.

Varianta 2: interfață cu propriile chei API

LibreChat îți oferă o interfață tip ChatGPT pentru echipă, dar folosește cheile tale API de la OpenAI, Anthropic sau alți furnizori. Ideal dacă vrei modelele mari comerciale, dar cu un singur cont partajat și istoricul pe serverul tău, nu la furnizor.

Ce plan îți trebuie

• Interfață cu chei API (LibreChat): un plan mic este suficient, munca grea o fac serverele furnizorului AI.
• Modele locale (Ollama): alege un plan cu mai mult RAM; cu cât modelul e mai mare, cu atât ai nevoie de mai multă memorie.

De ce self-hosted

Rulând AI-ul pe serverul tău, datele și cheile rămân la tine, nu ai limite de utilizare impuse de un abonament, iar costul e previzibil, facturat la oră cât rulează serverul. Poți chiar opri serverul când nu îl folosești, ca să nu plătești degeaba.