RODO a AI. Jak duże firmy używają sztucznej inteligencji, nie łamiąc umów poufności (NDA)? AI On-Premise

W obecnym szaleństwie ulepszeń w firmie sztuczną inteligencją wiele działów operacyjnych przerywa proces przed sfinalizowaniem decydującego protokołu bezpieczeństwa. Podstawowe pytanie brzmi: "Jeśli nakarmimy model umową naszego wielkiego klienta by wynaleźć zapis prawny i podsumować paragrafy — gdzie w zasadzie leci ten plik PDF?"

Ryzyko chmur publicznych i public API w Big Data

Jeżeli pracownik prosi publicznego, niebiznesowego bota typu ChatGPT o zrobienie streszczenia projektu czyjegoś nowo zarejestrowanego startupu - występuje na drodę złamanie podstawowych praw NDA o ochronie informacji (gdyż ten gigant na defaultowych profilach operuje logiką używania danych wchodzących na poczet ciągłego ulepszania siebie, tj. "training na darmowym pakiecie").

Model Zamknięty (Sovereign Cloud, AI On-Premise)

Architektura rozwiązania w sektorach medycznych, prawnych i wielkogabarytowego Enterprise opiera się na innej strategii - wdrożeniu modelu LLM w wewnętrznym Intranecie / zamkniętym bezpiecznie klastrze firmy (On-Premise), lub serwerze typu chmura suwerenna w granicach terytorium UE bez internetu.

Często do tego posługujemy się modelami o potężnych możliwościach open-source (np. potężne i szybkie meta LLama w wersjach biznesowych) zainstalowanymi i dostrojonymi bezpośrednio w maszynach obliczeniowych (GPU) klienta w bezpiecznych ośrodkach (czy np. OVH POLAND) za firewallami. Twoje firmowe dane po przetworzeniu w tym konkretnym modelu **nigdzie nie lądują - po prostu zanikają** w warstwach RAM a model działa tylko i wyłącznie dla Twojego dostępu API bez żadnej komunikacji z matką stwórcą (całkowicie offline ze światem!).

Jakie są benefity Private-LLM w skrócie?

• Całkowita ochrona na mocy prawa i RODO: Brak przesyłania czegokolwiek za granicę oceanu na dziwne i publiczne storage cloud.
• Personalizacja dla marki: Finetuning (douczenie do domeny wlasnej firmy słownictwa wewnętrznego procedur operacyjnych i regulaminów) bezpośrednio na prywatnym modelu oznacza, że bot potrafi nie robić "błędów ludzkich" na rzecz merytoryki zamkniętej bazy wiedzy technicznej.
• Spokój senny Dyrektora ds. IT: Brak ryzyka nagłych podatności sieciowych z tytułu subskrypcyjnych przymusów, gdy pracują u państwa inżynierowie AI implementując system jako jednorazowy instalator na państwa domenie lokalnej `ai.firma-prywatna.local`.