Soluții

Gateway AI centralizat cu LiteLLM – bugete pe echipă, rate limiting și audit pentru toate LLM-urile din companie

După primele proiecte AI, într-o companie apare rapid următorul tablou:

  • echipa de dezvoltare are o cheie OpenAI, echipa de suport una Anthropic, iar infrastructura rulează Ollama local
  • cheile API sunt copiate în scripturi, .env-uri și configurări de aplicații, fără rotație
  • nimeni nu știe cât consumă fiecare echipă până vine factura
  • nu există log centralizat al cererilor, deci nu poți răspunde la întrebarea „ce date au fost trimise către furnizori externi?”
  • dacă un furnizor cloud cade sau atinge limita, aplicațiile se opresc.

LiteLLM Proxy rezolvă toate acestea printr-un singur punct de acces, compatibil cu API-ul OpenAI. Aplicațiile vorbesc doar cu gateway-ul, folosind chei virtuale emise per echipă sau aplicație. Gateway-ul ține cheile reale ale furnizorilor, aplică bugete și limite, face fallback între modele și loghează totul în PostgreSQL.

Aplicații / scripturi / Open WebUI
            │  (cheie virtuală sk-...)
            ▼
     LiteLLM Proxy :4000  ──►  PostgreSQL (chei, bugete, log-uri)
      │        │        │
      ▼        ▼        ▼
   OpenAI  Anthropic  Ollama (local)
[mai mult...]

Cum se instaleaza Dokku pe Debian 11, 12, 13?

Dokku transforma un singur server Debian intr-o platforma mica de aplicatii condusa de Git, dar calea de instalare conteaza deoarece Dokku detine Docker, rutarea Nginx, accesul SSH pentru deploy si datele aplicatiilor pe host. Pentru a instala Dokku pe Debian, folositi scriptul oficial de bootstrap pentru un server nou sau metoda manuala DEB822 APT doar cand Docker Engine, Buildx si Compose sunt deja gestionate separat.

Pachetele curente Dokku suporta Debian 13 (Trixie), Debian 12 (Bookworm) si Debian 11 (Bullseye) pe amd64 si arm64. Fluxul de instalare urmeaza documentatia oficiala Dokku getting started, adauga verificari specifice Debian pentru sursa pachetelor si include primele sarcini de configurare necesare inainte de un deployment real.

Instalarea Dokku pe Debian
Incepeti pe un server Debian nou sau dedicat cand este posibil. Dokku configureaza containere Docker, virtual host-uri Nginx, deploy-uri Git bazate pe SSH si directoare de aplicatii sub utilizatorul dokku, deci serverele partajate necesita planificare suplimentara inainte de instalare.

Confirmarea versiunii Debian, arhitecturii si hostname-ului
Verificati codename-ul Debian, arhitectura si hostname-ul complet calificat inainte de a adauga pachete. Scriptul de bootstrap Dokku necesita un hostname functional, iar sursa de pachete trebuie sa corespunda versiunii Debian:

. /etc/os-release
printf '%s %s\n' "$PRETTY_NAME" "$VERSION_CODENAME"
dpkg --print-architecture
hostname -f

Codename-urile Debian suportate pentru acest flux de lucru sunt trixie, bookworm si bullseye. Arhitecturile suportate sunt amd64 si arm64. Daca hostname -f esueaza, setati un hostname corespunzator si o intrare /etc/hosts corespunzatoare inainte de a rula instalatorul.

Planificarea DNS, memoriei si accesului la retea
Dokku functioneaza cel mai bine cu cel putin 1 GB de memorie pentru build-urile bazate pe Docker. Un domeniu real sau o inregistrare DNS wildcard este de asemenea puternic recomandata deoarece Dokku foloseste numele aplicatiei si domeniul global pentru a genera rute precum app.example.com.

Cerinta Stare recomandata De ce conteaza
Versiune Debian Debian 13, 12 sau 11 Scriptul curent de pachete Dokku si sursa packagecloud suporta aceste versiuni
Arhitectura CPU amd64 sau arm64 Dokku publica indexe curente de pachete Debian pentru aceste arhitecturi
Memorie 1 GB sau mai mult Build-urile buildpack si imaginile Docker pot esua sau folosi swap intens pe servere mai mici
DNS Wildcard *.example.com sau un singur domeniu de aplicatie DNS wildcard permite fiecarei aplicatii sa primeasca un subdomeniu predictibil; domeniile individuale pot functiona cu domenii explicite per aplicatie
Porturi SSH, HTTP si HTTPS accesibile dupa necesitate SSH primeste push-uri Git, iar HTTP si HTTPS servesc aplicatiile deployate

Pentru un setup wildcard, pointati *.apps.example.com si apps.example.com catre serverul Debian. Pentru un host de laborator fara DNS, o adresa precum 203.0.113.10.sslip.io poate furniza testare in stil subdomeniu prin serviciul public sslip.io.

Alegerea metodei de instalare Dokku
Scriptul oficial de bootstrap este optiunea practica implicita pentru un server Debian nou deoarece instaleaza Docker mai intai, adauga repository-ul de pachete Dokku, instaleaza Dokku si ruleaza instalatorul de dependente pentru plugin-urile core. Metoda manuala DEB822 APT este mai potrivita pentru automatizare sau build-uri de imagini care provisioneaza deja Docker, Buildx si Compose printr-un flux de lucru separat si auditat.

Metoda Sursa sau canalul Comportament actualizari Potrivit pentru Compromisuri
Script oficial bootstrap Instalator Dokku plus repository packagecloud Dokku Actualizari Dokku gestionate APT dupa instalare Servere Debian noi si majority prime instalari Ruleaza un instalator root care bootstrappeaza de asemenea Docker si scrie propriile fisiere de sursa APT
Setup manual DEB822 APT Acelasi repository packagecloud Dokku cu un keyring cu scope Actualizari Dokku gestionate APT Gestiunea configuratiei, imagini golden si servere unde Docker este deja instalat
[mai mult...]

Email security în SMB

#emailsecurity #spf #dkim #dmarc #sysadmin #askit

Firmă de distribuție, ~60 de angajați, mail pe Microsoft 365, plus un ERP vechi care trimite facturi și notificări prin propriul server SMTP. Domeniul avea de ani de zile un record SPF, adăugat de cineva “ca să fie”. Nimeni nu se mai uitase la el de atunci.

Într-o vineri, contabila primește un mesaj de la “directorul general”: o factură urgentă de plătit, cu un IBAN nou. Adresa expeditorului arăta perfect, exact domeniul firmei. Din fericire, a sunat să verifice. Directorul nu trimisese nimic.

Prima reacție: “dar avem SPF, cum e posibil?”. Răspunsul scurt: SPF singur nu protejează ce vede utilizatorul în câmpul From. Validează doar envelope sender (Return-Path), iar atacatorul poate folosi propriul domeniu acolo și să pună domeniul vostru în From. Fără DMARC, serverul destinatar nu are nicio instrucțiune să respingă mesajul.

[mai mult...]