Dezvoltare RAG cu rezultate măsurate, nu presupuse
Majoritatea proiectelor RAG eșuează la retrieval, nu la generare. Construim întâi stratul de ingestie și căutare, apoi îl măsurăm.
Dezvoltarea RAG înseamnă construirea unui sistem de retrieval-augmented generation: un pipeline care preia documentele companiei, le împarte și le transformă în embeddings, caută în index la momentul interogării și oferă modelului contextul potrivit, astfel încât răspunsurile să se bazeze pe datele tale și să poată cita sursa. Este utilă echipelor care își păstrează cunoștințele în PDF-uri, centre de ajutor, CMS, cataloage de produse sau tichete de suport. M Tech Solutions, studio de dezvoltare software fondat în 2023 la Craiova, livrează astfel de sisteme pentru clienți din România, din Uniunea Europeană și din America de Nord, în română și engleză. Etapa Descoperă durează aproximativ o săptămână și demonstrează calitatea retrieval-ului cu ajutorul unui set de evaluare. Apoi construim în sprinturi de două săptămâni, cu un demo vinerea, și rămânem on-call în prima lună după lansare. Etapa Descoperă și dezvoltarea MVP-ului sunt ofertate la preț fix.
Ce construim
- Ingestie pentru PDF-uri, pagini HTML, exporturi din CMS, cataloage de produse și tichete de suport, cu reindexare incrementală.
- Strategii de chunking adaptate fiecărui tip de conținut, nu o singură setare globală.
- Embeddings și indexare vectorială în Postgres/pgvector, Pinecone sau Weaviate.
- Căutare hibridă — după cuvinte-cheie și semantică — cu re-ranking și afișarea surselor.
- Retrieval care respectă permisiunile, astfel încât fiecare utilizator să vadă numai datele tenantului la care are acces.
- Seturi de evaluare, pentru ca nivelul de calitate să poată fi măsurat, nu doar estimat.
Cum lucrăm
Etapa Descoperă durează aproximativ o săptămână: analizăm corpusul, întrebările reale ale utilizatorilor și modul în care vor fi folosite răspunsurile. Apoi construim un baseline de retrieval și îl măsurăm înainte să existe vreo interfață.
În etapa Conturează decidem indexul, chunking-ul și formatul răspunsului. În etapa Construiește lucrăm în sprinturi de două săptămâni, cu un demo vinerea. În etapa Lansează adăugăm observabilitate pentru rata de potrivire, latență și consumul de tokeni, pregătim un runbook și rămânem on-call timp de o lună.
Stack-ul folosit
Servicii Python și TypeScript, Postgres cu pgvector ca stocare implicită, Pinecone sau Weaviate când volumul o cere, Redis pentru cache, Kafka pentru pipeline-uri de ingestie durabile. Modele OpenAI și Anthropic, orchestrate direct sau prin LangChain.
Deploy pe AWS, GCP sau Vercel, cu stratul de retrieval tratat ca orice alt serviciu de producție.
Când suntem alegerea potrivită
- Ai mult conținut și un chatbot care inventează răspunsuri.
- Răspunsurile trebuie să citeze sursa, iar un răspuns greșit are un cost real.
- Corpusul se schimbă des, iar reindexarea trebuie să fie incrementală și previzibilă.
- Mai mulți tenanți împart același index și nu au voie să vadă documentele celorlalți.
Cum colaborăm comercial
Etapa Descoperă pentru retrieval — analiza corpusului, un pipeline de bază și un set de evaluare — este ofertată la preț fix și îți oferă o măsură a calității înainte să îți asumi construirea unui produs complet. Dezvoltarea ulterioară se facturează în regim time & materials.
Începem în 7–10 zile și răspundem la orice mesaj în maximum o zi lucrătoare.
Întrebări frecvente
De unde știi dacă retrieval-ul este bun?
Construim un set de evaluare din întrebări reale și din sursele așteptate, apoi măsurăm rezultatele înainte și după fiecare modificare. Calitatea devine o cifră într-un dashboard, nu o părere exprimată într-o ședință.
Ce bază de date vectorială ar trebui să folosești?
Implicit folosim Postgres cu pgvector, pentru că păstrează o singură bază de date și un singur plan de backup. Trecem la Pinecone sau Weaviate când volumul ori funcționalitățile specifice ale indexului justifică schimbarea.
Funcționează RAG pe date multi-tenant?
Da — retrieval-ul este filtrat după tenant și permisiuni, astfel încât interogarea să ajungă numai la documentele accesibile utilizatorului. Tratăm asta ca pe o cerință de securitate, nu ca pe o opțiune.
Poți adăuga RAG într-un produs existent?
Acesta este cazul obișnuit. Începem cu un spike în stack-ul tău și cu o felie verticală în producție, nu într-un mediu de demo separat.
Cât durează o primă implementare RAG?
Depinde de corpus, dar lucrăm în sprinturi de două săptămâni, cu un demo live vinerea, astfel încât poți vedea devreme cum funcționează stratul de retrieval, nu abia la final.
Spune-ne ce construiești
Răspundem în maximum o zi lucrătoare, iar majoritatea proiectelor pornesc în 7–10 zile.