Usługi zarządzane dla systemów AI w bankach, ubezpieczalniach i instytucjach publicznych

Modele, które działają dokładnie, zgodnie z przepisami i w przewidywalny sposób. Utrzymywane przez inżynierów, którzy je zbudowali, na Twojej własnej infrastrukturze

gen ai custom cover

Brzmi znajomo?

Cztery sytuacje, w których zespoły przekazują nam działający system AI

Icon image

Nikt nie odpowiada za dokładność systemu

Przed: system wystartował z dokładnością na poziomie 95%. Sześć miesięcy później nikt nie potrafi powiedzieć, czy to nadal aktualne. Po: monitorujemy dokładność na żywym ruchu i wychwytujemy spadki, zanim zrobi to klient
Icon image

Model, na którym się opierasz, znika z rynku

Przed: dostawca wycofuje model działający pod Twoim systemem. Po: planujemy i przeprowadzamy migrację w terminie, który Ty ustalasz.
Icon image

Rachunek rośnie z miesiąca na miesiąc

Przed: wydatki na GPU i API pną się w górę co kwartał, a Ty nie jesteś w stanie tego prognozować. Po: kierujemy ruch między modelami w zależności od kosztu i języka, dzięki czemu rachunek staje się liczbą, którą można zaplanować w budżecie.
Icon image

Odziedziczyłeś system AI (nasz lub czyjś inny)

Przed: system działa na produkcji, ludzie, którzy go zbudowali, już odeszli, a nikt nie chce go dotykać. Po: audytujemy go, ustalamy punkt odniesienia, spisujemy runbook i przejmujemy nad nim opiekę.

Testimonial

Co mówią o nas klienci?

Dzięki automatyzacji niektórych interakcji z klientami pracownicy banku otrzymują gotowy „półprodukt”, dzięki któremu mogą poświęcić więcej czasu na personalizację i wczucie się w komunikację z klientem, a tym samym jeszcze lepiej zadbać o jego potrzeby.

Katarzyna Tomczyk – Czykier
Dyrektor Pionu Innowacji i Cyfryzacji – Bankowość Detaliczna

Jak to działa?

Sześć obszarów, którymi realnie się zajmujemy

Logo image

Wychwytujemy spadki jakości, zanim zrobią to Twoi użytkownicy

Uruchamiamy testy ewaluacyjne na żywym ruchu, śledzimy dokładność w czasie i zabezpieczamy system przed halucynacjami. Gdy wskaźniki zaczynają spadać, alert dostajemy my — nie Twoje call center.
→ O problemie dowiadujesz się od nas, zanim dotrze do klienta.
Logo image

Dostrajamy model wraz ze zmianą Twoich danych

Twoje dane się zmieniają, więc model musi nadążać. Douczamy go na nowych danych, dopracowujemy prompty i mechanizmy wyszukiwania, a ruch przenosimy między Bielikiem, modelami open-source i komercyjnymi, gdy inny wykona zadanie taniej.
→ Dokładność utrzymuje się nawet wtedy, gdy zmienia się biznes wokół systemu.
Logo image

Zajmujemy się aktualizacjami modeli

Nowe wersje modeli pojawiają się, a stare znikają w terminie, którego nie wyznaczasz Ty. My testujemy kolejną wersję, przenosimy Twoje prompty i strojenie, po czym przełączamy system, mając gotowy plan powrotu do poprzedniej wersji.
→ Wycofanie modelu z rynku to nasz problem, nie Twój.
Logo image

Usuwamy awarie według SLA

Otrzymujesz określone czasy reakcji, dyżurujący zespół i spisane runbooki na wypadek, gdy coś się zepsuje.
→ Czasy reakcji, z których możesz nas rozliczyć.
Logo image

Raportujemy kondycję modelu

Łączymy metryki modelu z liczbami, które i tak już śledzi Twój zarząd, więc kwartalny przegląd ma się czym pochwalić.
→ Wymagane założenia uzasadnisz jednym slajdem.
Logo image

Wszystko działa w Twoim środowisku

Całość pozostaje on-premise lub w Twoim izolowanym środowisku — tam, gdzie już są Twoje dane.
→ Twoje dane nigdy nie opuszczają Twoich murów.

Nasze osiągnięcia w zakresie rozwoju AI


1.
Współtwórca polskiego LLM
11
nagród i wyróżnień za nasze rozwiązania GenAI
236
klientów obsłużonych w ramach custom developmentu

Dlaczego standardowe sposoby utrzymania AI zawodzą

Icon image

„Zespół, który to zbudował, będzie tego pilnował”

W praktyce są już przy kolejnym projekcie. Nikt nie uruchamia testów, więc spadek jakości wychodzi na jaw dopiero jako skarga klienta.
Icon image

„Nasz dostawca IT to ogarnia”

On pilnuje, czy serwer działa. Nie zobaczy jednak modelu, który działa, ale zwraca błędne odpowiedzi.
Icon image

„Wycofaniem modelu zajmiemy się, jak już się wydarzy”

Migracja w trybie awaryjnym oznacza przestój i gaszenie pożaru zwykle w najgorszym możliwym momencie.
Icon image

„Mamy własne dashboardy”

Metryki infrastruktury pokazują, że serwer działa poprawnie. Nie pokażą tego, że odpowiedzi modelu zaczęły być gorsze.

Bądźmy w kontakcie

Porozmawiajmy


Czas na Twoją indywidualną konsultację

Consultant image

Grzegorz Motriuk

Head of Sales | Application Development

Nasz doradca jest dostępny od poniedziałku do piątku od 9 do 17. Czeka na Twoje pytania i chętnie udzieli dodatkowych informacji.

FAQ: Zarządzane usługi AI

  • Co dokładnie obejmują Zarządzane usługi AI?

    Monitorujemy, utrzymujemy i stale rozwijamy Twoje systemy AI działające na produkcji – śledzimy dokładność, dostrajamy modele, zarządzamy aktualizacjami, reagujemy na incydenty i raportujemy zgodność z przepisami. Bierzemy na siebie operacyjną stronę utrzymania AI na produkcji, dzięki czemu Twój zespół może skupić się na tworzeniu nowych rozwiązań.

  • Dla kogo przeznaczona jest ta usługa?

    Zarządzane usługi AI są przeznaczone dla organizacji z branż regulowanych – banków, ubezpieczycieli i instytucji publicznych – gdzie dokładność AI, rezydencja danych i przewidywalność działania nie podlegają dyskusji.

  • Nie budowaliśmy naszego systemu AI z Deviniti. Czy mimo to możecie go przejąć w zarządzanie?

    Tak. Regularnie przejmujemy systemy zbudowane przez innych dostawców lub zespoły wewnętrzne. Zaczynamy od pełnego audytu, ustalamy punkt odniesienia dla wydajności, spisujemy runbook i bierzemy system pod opiekę – niezależnie od tego, kto go zbudował.

  • Jak wykrywacie spadek dokładności modelu?

    Całodobowo uruchamiamy automatyczne testy ewaluacyjne na żywym ruchu. Gdy dokładność, opóźnienia lub liczba halucynacji przekraczają ustalone progi, alert trafia do nas i od razu badamy sprawę – zanim problem dotrze do Twoich użytkowników czy call center.

  • Jak wygląda SLA?

    Otrzymujesz określone czasy reakcji na incydenty, dedykowany zespół dyżurny i spisane runbooki na typowe scenariusze awarii. Czasy reakcji są zapisane w umowie – możesz nas z nich rozliczyć.

  • Jakie doświadczenie ma Deviniti w obszarze AI?

    Jesteśmy pierwszym polskim współtwórcą otwartoźródłowego LLM-a (Bielik.AI, obecnie część mikroserwisów NVIDIA NIM oraz Sovereign AI od Perplexity), zdobyliśmy 11 nagród i wyróżnień za rozwiązania GenAI oraz zrealizowaliśmy projekty custom development dla 236 klientów.

  • Co się dzieje, gdy dana wersja modelu zostaje wycofana?

    Śledzimy plany rozwoju dostawców i z odpowiednim wyprzedzeniem planujemy migracje. Testujemy nową wersję, przenosimy Twoje prompty i konfiguracje, a przełączenie następuje w terminie, który Ty zatwierdzasz. Wycofanie modelu z rynku to nasz problem, nie Twój.

  • Czy macie dokumentację bezpieczeństwa/zgodności, którą możemy wykorzystać do weryfikacji dostawcy (audyty, certyfikaty, prywatność)?

    Tak. Trust Center Deviniti udostępnia do pobrania dokumentację bezpieczeństwa i zgodności potrzebną przy weryfikacji dostawcy, w tym:

    • certyfikat ISO/IEC 27001 (ISMS)
    • certyfikat ISO/IEC 27017 (wytyczne dot. kontroli bezpieczeństwa w chmurze)
    • raport SOC 2 Type 1
    • Privacy & Security Overview
    • CAIQ Lite – Apps (kwestionariusz Cloud Security Alliance)
    • informacje o lokalizacjach hostingu w chmurze i opcjach rezydencji danych
    • politykę bezpieczeństwa informacji (AUP)

    Jeśli chodzi o zgodność z RODO, Deviniti zapewnia umowę powierzenia przetwarzania danych (DPA) zgodną z art. 28 RODO. Co do zasady przetwarzanie danych osobowych odbywa się na terenie UE/EOG. Tam, gdzie konieczny jest transfer międzynarodowy, Deviniti stosuje zgodne z prawem mechanizmy (np. decyzje o adekwatności UE oraz standardowe klauzule umowne) wraz z dodatkowymi zabezpieczeniami. W przypadku produktów, które to umożliwiają, można też wybrać świadczenie usługi wyłącznie w oparciu o infrastrukturę zlokalizowaną w EOG.