Într-un birou obișnuit, o parte importantă din timpul nostru se pierde cu activități repetitive: căutăm informații prin documente, citim contracte, verificăm proceduri, redactăm emailuri, pregătim rapoarte și încercăm să găsim răspunsuri în zeci de fișiere și aplicații.

De multe ori, informația există deja undeva în companie. Problema este că nu o găsim suficient de repede. AnythingLLM este o platformă care ne permite să construim asistenți AI conectați la documentele și informațiile noastre, folosind diferite modele lingvistice, inclusiv modele open-source care pot rula local.

De exemplu:

Asistentul HR cunoaște regulamentul intern, procedurile de concediu, documentele de onboarding și politicile companiei.

Asistentul financiar poate analiza rapoarte, facturi și tabele, ajutându-ne să identificăm informații și diferențe între documente.

Asistentul comercial poate consulta cataloage, prezentări de produse, oferte și documentație tehnică pentru a pregăti răspunsuri către clienți.

Asistentul administrativ ne poate ajuta să redactăm documente, să organizăm informații și să pregătim sinteze.

Fiecare asistent poate avea propriul spațiu de lucru, propriile instrucțiuni și propriile surse de informație.Practic, începem să construim un birou în care informația nu mai stă blocată în foldere, ci devine accesibilă prin conversație.

Majoritatea oamenilor asociază inteligența artificială cu servicii precum ChatGPT, Gemini sau Claude. Acestea sunt foarte utile, însă există și o altă abordare: să rulăm modele AI pe infrastructura proprie.Putem utiliza, de exemplu, familii de modele precum Llama, Qwen sau Mistral, în funcție de licența, dimensiunea și capabilitățile fiecărei versiuni.

Pentru a le rula local, putem folosi Ollama, o soluție care simplifică instalarea și utilizarea modelelor AI pe propriul calculator sau server.

Această abordare ne oferă câteva avantaje importante.

1. Control asupra datelor

Documentele interne pot rămâne în infrastructura companiei, fără să fie trimise automat către un furnizor extern de AI. Este un avantaj important pentru firmele care lucrează cu informații confidențiale, contracte, date financiare sau documentație internă.Totuși, protecția datelor depinde și de configurarea sistemului, drepturile de acces, conectările externe și politicile de securitate.

2. Costuri mai predictibile

În loc să plătim exclusiv pentru fiecare utilizare a unui API, putem rula modelele pe echipamentele proprii.Nu înseamnă că AI-ul devine gratuit. Avem în continuare costuri cu hardware-ul, energia electrică, mentenanța și administrarea.

3. Independență și flexibilitate

Putem schimba modelul AI fără să reconstruim întregul sistem.Astăzi putem folosi un model optimizat pentru conversații, iar mâine unul mai potrivit pentru programare, analiză sau documente.

O arhitectură simplă poate avea trei componente principale:

• AnythingLLM este interfața prin care angajații discută cu asistenții AI și accesează informațiile.
• Ollama rulează modelele lingvistice local, pe un calculator sau server.
• Modelele AI și baza de documente oferă capacitatea de a interpreta întrebări și de a genera răspunsuri folosind informațiile relevante.

Pentru căutarea în documente folosim o tehnică numită RAG — Retrieval-Augmented Generation.Pe scurt, atunci când punem o întrebare, sistemul caută fragmente relevante în documentele indexate și le transmite modelului AI drept context pentru răspuns.Astfel, modelul nu se bazează doar pe informațiile învățate în timpul antrenării, ci poate utiliza și documentele companiei.

Este important de reținut că RAG nu garantează răspunsuri perfecte. Documentele trebuie să fie actualizate, iar informațiile importante trebuie verificate în sursele originale.

Cinci automatizări pe care le putem implementa în birou

1. Căutarea inteligentă în documentele companiei

În loc să deschidem manual zeci de PDF-uri și fișiere Word, le putem organiza în spații de lucru tematice.

Un angajat poate întreba:

„Care este procedura pentru aprobarea unei achiziții?”Asistentul caută informația în documentele relevante și generează un răspuns.Acest lucru poate reduce semnificativ timpul petrecut căutând informații.

2. Analiza contractelor și ofertelor

Putem încărca mai multe contracte sau oferte comerciale și solicita comparații.

De exemplu:

„Compară aceste oferte după preț, termen de livrare, garanție și condiții de plată.”AI-ul poate pregăti un tabel comparativ și poate evidenția diferențele importante.Decizia finală rămâne la angajat, însă munca preliminară devine mult mai rapidă.

3. Crearea unui asistent intern pentru angajați

În multe companii, aceleași întrebări apar constant:

• „Cum solicit concediu?”
• „Unde găsesc formularul de decont?”
• „Care este procedura pentru echipamente IT?”

Putem construi un asistent care răspunde folosind regulamentul intern și procedurile oficiale.În felul acesta, departamentele HR și administrativ pot reduce timpul consumat cu întrebările repetitive.

4. Pregătirea rapoartelor și rezumatelor

AI-ul poate transforma informații lungi în sinteze ușor de parcurs.Putem solicita rezumate ale ședințelor, extragerea responsabilităților, identificarea termenelor-limită sau structurarea unor rapoarte.Pentru actualizarea automată a rapoartelor din sisteme externe sunt necesare integrări suplimentare.

5. Automatizarea fluxurilor de lucru

Aici lucrurile devin și mai interesante.AnythingLLM poate fi integrat într-o arhitectură mai amplă, alături de instrumente precum n8n, API-uri interne și alte servicii de automatizare.

De exemplu, putem construi un flux în care:

1. O solicitare ajunge într-o căsuță de email dedicată.
2. n8n preia mesajul și datele relevante.
3. Un model AI clasifică solicitarea și extrage informațiile importante.
4. Sistemul pregătește un răspuns sau creează o sarcină.
5. Un angajat verifică și aprobă acțiunea înainte de trimitere.

Această automatizare necesită configurarea explicită a integrărilor. AnythingLLM nu realizează implicit toate aceste operațiuni.Dar combinația dintre AI local și un motor de automatizare poate transforma un simplu chatbot într-un sistem util pentru operațiunile zilnice.

Nu trebuie să automatizăm întreaga companie din prima zi.Putem începe cu un proiect-pilot pe un calculator suficient de performant sau pe un server existent.Instalăm Ollama, alegem un model compatibil cu resursele disponibile și configurăm AnythingLLM să îl folosească.Apoi creăm primul spațiu de lucru și adăugăm documente relevante.Recomandarea este să începem cu o problemă clară, de exemplu căutarea informațiilor în procedurile interne.

Testăm sistemul cu întrebări reale, verificăm calitatea răspunsurilor și îmbunătățim organizarea documentelor.Abia după aceea extindem soluția către alte departamente și automatizări.Un aspect important este dimensionarea hardware-ului. Modelele mici pot funcționa pe echipamente obișnuite, în timp ce modelele mai mari au nevoie de mai multă memorie și, pentru performanțe bune, pot beneficia de accelerare GPU.