Techniczny przegląd systemu AI

Przegląd

Ten artykuł zapewnia techniczną przejrzystość dotyczącą sposobu budowania, testowania i eksploatacji systemów AI ISMS Copilot. Szczegóły te demonstrują nasze zaangażowanie w odpowiedzialny rozwój AI poprzez weryfikowalne praktyki implementacyjne.

Dla kogo jest ten artykuł

Ten artykuł jest przeznaczony dla:

• Zespołów ds. bezpieczeństwa i zgodności oceniających kontrolę nad zarządzaniem AI
• Audytorów oceniających implementację systemów AI w odniesieniu do polityk
• Menedżerów ryzyka wymagających technicznej przejrzystości dla systemów AI
• Użytkowników technicznych chcących zrozumieć architekturę AI

Implementacja ISO 42001

System AI ISMS Copilot został zaprojektowany i jest eksploatowany zgodnie z wymaganiami normy ISO 42001:2023 (System Zarządzania Sztuczną Inteligencją). Nasza implementacja techniczna odpowiada konkretnym kontrolom ISO 42001:

Dopasowanie architektury:

• A.4.2 (Ustanowienie kontekstu): Dynamiczny system wstrzykiwania wiedzy o frameworkach udokumentowany w dokumencie projektowym systemu AI (AI-SDD-001)
• A.5 (Ocena wpływu): Kompleksowa ocena wpływu AI (1.9 Niskie Ryzyko, klasyfikacja Ograniczonego Ryzyka wg Aktu AI UE)
• A.6 (Odpowiedzialny rozwój): Bezpieczny cykl rozwoju z testowaniem regresyjnym, skanowaniem SAST/DAST, testowaniem wstrzykiwania promptów
• A.7 (Zarządzanie danymi): Umowy o zerowym przechowywaniu danych, izolacja przestrzeni roboczych, okresy przechowywania kontrolowane przez użytkownika
• A.8 (Interakcja z użytkownikiem): Komunikaty o przejrzystości, projekt z udziałem człowieka, zastrzeżenia dotyczące weryfikacji w całej platformie
• A.9 (Odpowiedzialne użycie): Ograniczenie celu, zapobieganie jailbreakom, zabezpieczenia zakresu treści

Dynamiczna architektura wiedzy o frameworkach

ISMS Copilot wykorzystuje dynamiczne wstrzykiwanie wiedzy o frameworkach, aby zakotwiczyć odpowiedzi AI w zweryfikowanej wiedzy dotyczącej zgodności. Od wersji 2.5 (luty 2025) zastępuje to poprzednią architekturę RAG (Retrieval-Augmented Generation) bardziej niezawodnym i efektywnym pod względem tokenów podejściem.

Jak działa wstrzykiwanie wiedzy o frameworkach

Komponenty architektury:

• Warstwa wykrywania frameworków: Dopasowywanie wzorców oparte na wyrażeniach regularnych wykrywa wzmianki o frameworkach w zapytaniach użytkowników (ISO 27001, SOC 2, GDPR, HIPAA, CCPA, NIS 2, DORA, ISO 42001, ISO 27701, Akt AI UE)
• Warstwa wstrzykiwania wiedzy: Dynamicznie ładuje tylko istotną wiedzę o frameworkach do kontekstu AI na podstawie wykrytych frameworków
• Warstwa generacji: Duże modele językowe (LLM) od przedsiębiorczych dostawców AI otrzymują wiedzę o frameworkach przed generowaniem odpowiedzi
• Mechanizm walidacji: Wiedza o frameworkach dostarczana AI zapewnia, że odpowiedzi są zakotwiczone w rzeczywistych wymaganiach zgodności, a nie probabilistycznym zgadywaniu

Dlaczego dynamiczne wstrzykiwanie ma znaczenie dla zgodności:

• Eliminuje halucynacje: AI otrzymuje zweryfikowaną wiedzę o frameworkach przed udzieleniem odpowiedzi, zapobiegając fabrykowaniu numerów kontroli i wymagań
• Efektywność tokenów: Ładowane są tylko istotne frameworki (~1-2K tokenów) w porównaniu z wysyłaniem całej wiedzy (~10K tokenów) przy każdym żądaniu
• Niezawodne wykrywanie: Dopasowywanie wzorców za pomocą wyrażeń regularnych (nie oparte na AI) zapewnia, że wzmianki o frameworkach nigdy nie zostaną pominięte
• Rozszerzalna architektura: Nowe frameworki dodawane są za pomocą pojedynczej definicji obiektu, bez konieczności ponownego trenowania modelu
• Obsługa wielu frameworków: Obsługuje zapytania wspominające wiele frameworków jednocześnie (np. „Mapuj ISO 27001 na SOC 2”)

Implementacja techniczna

Proces wykrywania:

1. Użytkownik przesyła zapytanie (np. „Co to jest ISO 27001 Aneks A.5.9?”)
2. Wykrywanie frameworków skanuje zapytanie w poszukiwaniu dopasowań wzorców (ISO 27001, GDPR, SOC 2 itp.)
3. Dopasowane frameworki uruchamiają wstrzykiwanie wiedzy
4. Istotna wiedza o frameworkach jest dodawana do promptu systemu AI przed generacją

Obsługiwane frameworki (v2.5):

• ISO 27001:2022, System Zarządzania Bezpieczeństwem Informacji
• ISO 42001:2023, System Zarządzania Sztuczną Inteligencją
• ISO 27701:2025, System Zarządzania Informacjami Prywatności
• SOC 2, Kontrola Organizacji Usługowej (Kryteria Usług Zaufania)
• HIPAA, Ustawa o przenośności i odpowiedzialności w ubezpieczeniach zdrowotnych
• GDPR, Ogólne Rozporządzenie o Ochronie Danych
• CCPA, Kalifornijska Ustawa o Prywatności Konsumentów
• NIS 2, Dyrektywa w sprawie systemów sieciowych i informacyjnych
• DORA, Akt o Cyfrowej Odporności Operacyjnej
• Akt AI UE, Akt o Sztucznej Inteligencji Unii Europejskiej

Ewolucja od RAG do dynamicznego wstrzykiwania

Poprzednie podejście (przed v2.5): Architektura RAG

• Wyszukiwanie semantyczne pobierało istotne fragmenty dokumentacji
• Jakość pobierania różniła się w zależności od sformułowania zapytania
• Wszystkie ~10K tokenów wiedzy wysyłane w wielu żądaniach
• Skupione głównie na ISO 27001

Aktualne podejście (v2.5+): Dynamiczne wstrzykiwanie frameworków

• Wykrywanie oparte na wyrażeniach regularnych zapewnia niezawodną identyfikację frameworków
• Ładowane są tylko istotne frameworki (efektywność tokenów)
• Obsługa 90+ frameworków jednocześnie
• Rozszerzalny projekt umożliwiający szybkie dodawanie frameworków

Dostawcy AI i ochrona danych

Korzystamy z przedsiębiorczych dostawców AI z rygorystycznymi umowami o ochronie danych.

Aktualni dostawcy

Modele AI zaplecza:

• xAI Grok, Aktualna domyślna ścieżka dla wielu płatnych sesji Fast / Think / Beyond, gdy Zaawansowana Ochrona Danych jest wyłączona (routing w stylu zerowego przechowywania; zobacz Centrum Zaufania, aby uzyskać aktualną tabelę)
• Anthropic Claude, Ścieżka zapasowa/alternatywna w zależności od planu i dostępności
• OpenAI / inne modele klasy OpenRouter, Routing ekonomiczny dla planów Free/Essential i niektórych specjalistycznych zadań
• Mistral AI, Ścieżka UE, gdy Zaawansowana Ochrona Danych jest włączona

Routing jest zależny od planu i ustawień, a nie od jednej stałej marki dla każdego użytkownika. Automatyczne przełączanie awaryjne może przenosić ruch, gdy dostawca jest niedostępny. Gdy Zaawansowana Ochrona Danych jest włączona, przetwarzanie AI odbywa się zgodnie z topologią UE Mistral opisaną w dokumentacji ADP. Wszystkie ścieżki wykorzystują to samo specjalistyczne wstrzykiwanie wiedzy o zgodności. W celu należytej staranności zawsze preferuj Centrum Zaufania nad tym podsumowaniem narracyjnym, jeśli kiedykolwiek się różnią.

Umowy o zerowym przechowywaniu danych

Wszyscy dostawcy AI działają na podstawie umów o zerowym przechowywaniu danych (ZDR):

Warunki umowy ZDR:

• Brak przechowywania danych użytkowników poza przetwarzaniem żądań
• Brak trenowania modeli na treściach klientów
• Przekazywanie danych zgodne z GDPR z wykorzystaniem Standardowych Klauzul Umownych (SCC)
• Egzekwowanie przedsiębiorczych standardów bezpieczeństwa

Aby uzyskać szczegółowe informacje o procesorach i przepływach danych, zobacz nasz Rejestr Czynności Przetwarzania.

Wymagania rozwojowe

Każdy komponent systemu AI jest rozwijany zgodnie z udokumentowanymi wymaganiami definiującymi oczekiwane zachowanie, ograniczenia bezpieczeństwa i progi wydajności.

Wymagania funkcjonalne

Definicja zakresu:

• AI zapewnia wsparcie w zakresie zgodności, a nie porady prawne
• Granice zadań: generowanie polityk, analiza luk, przygotowanie do audytu, przegląd dokumentów
• Egzekwowanie ograniczeń: brak dostępu do internetu, brak wykonywania kodu, brak przetwarzania danych osobowych poza użyciem platformy

Wymagania wydajnościowe

Cele jakościowe:

• Dokładność odpowiedzi zakotwiczona w pobranych źródłach z cytowaniem
• Okno kontekstowe wystarczające do wielodokumentowej analizy zgodności
• Czas odpowiedzi zoptymalizowany pod kątem interaktywnego użycia (cel: poniżej 10 sekund)
• Limity szybkości zdefiniowane dla każdego poziomu użytkownika w celu zapewnienia stabilności systemu

Wymagania bezpieczeństwa

Ograniczenie halucynacji:

• Zakotwiczenie w źródłach: odpowiedzi muszą odnosić się do pobranej dokumentacji
• Walidacja pobierania: odpowiedzi sprawdzane pod kątem zgodności z treścią źródłową
• Ocena pewności: niepewność jest sygnalizowana, gdy źródła są niejednoznaczne
• Zastrzeżenia dotyczące weryfikacji przez użytkownika: wszystkie wyniki wymagają przeglądu przez człowieka

Filtrowanie treści:

• Wykrywanie i blokowanie nieodpowiednich treści
• Granice zakresu: AI odrzuca żądania spoza zakresu (np. niezwiązane tematy, porady medyczne/prawne)
• Ochrona przed jailbreakami i wstrzykiwaniem promptów

Zobacz Przegląd bezpieczeństwa i odpowiedzialnego użycia AI, aby uzyskać szczegółowe informacje o zabezpieczeniach.

Wymagania dotyczące obsługi danych

Prywatność z założenia:

• Brak wykorzystywania danych użytkowników do trenowania modeli (egzekwowanie umów ZDR)
• Minimalizacja danych: przetwarzane są tylko niezbędne dane do pobierania i generacji
• Przetwarzanie tymczasowe: brak długoterminowego przechowywania promptów/odpowiedzi poza dziennikami sesji użytkownika
• Kontrole przechowywania: okresy przechowywania danych konfigurowane przez użytkownika (od 1 dnia do 7 lat lub przechowywanie na zawsze)
• Kontrole transferu: przekazywanie danych zgodne z GDPR z wykorzystaniem SCC

Aby uzyskać kompleksowe informacje o praktykach obsługi danych, zobacz naszą Politykę Prywatności.

Testowanie weryfikacji i walidacji

Systemy AI przechodzą rygorystyczne testy przed wdrożeniem. Żaden system nie zostaje uruchomiony bez przejścia walidacji opartej na wymaganiach.

Testowanie regresyjne

Automatyczne testy są uruchamiane przy każdej zmianie kodu, aby zapewnić, że istniejąca funkcjonalność pozostaje nienaruszona.

Pokrycie testowe:

• Dokładność pobierania: Precyzja i czułość w odniesieniu do zbiorów danych referencyjnych
• Zakotwiczenie odpowiedzi: Weryfikacja, czy wyniki cytują pobrane źródła
• Wykrywanie halucynacji: Porównanie z znanymi niepoprawnymi odpowiedziami
• Benchmarki wydajności: Walidacja czasu odpowiedzi i obsługi kontekstu

Testowanie bezpieczeństwa

Systemy AI przechodzą taką samą walidację bezpieczeństwa jak wszystkie komponenty platformy.

Potok testowy:

• SAST (Statyczne Testowanie Bezpieczeństwa Aplikacji): Skanowanie podatności na poziomie kodu z integracją Semgrep
• DAST (Dynamiczne Testowanie Bezpieczeństwa Aplikacji): Walidacja bezpieczeństwa w czasie rzeczywistym
• Testy penetracyjne: Roczne oceny bezpieczeństwa przeprowadzane przez stronę trzecią
• Testowanie wstrzykiwania promptów: Walidacja pod kątem złośliwych danych wejściowych próbujących ominąć ograniczenia bezpieczeństwa

Testy akceptacyjne użytkowników

Walidacja scenariuszy rzeczywistych z udziałem specjalistów ds. zgodności zapewnia:

• Wyjścia spełniają profesjonalne standardy jakości
• Odpowiedzi są odpowiednie dla przypadków użycia związanych ze zgodnością
• Ograniczenia są jasno komunikowane
• Mechanizmy feedbacku są dostępne i skuteczne

Lista kontrolna walidacji wdrożenia

Systemy AI są wdrażane dopiero po spełnieniu udokumentowanych wymagań:

Wdrożenia, które nie przejdą walidacji, są wycofywane do momentu spełnienia wymagań.

Monitorowanie i ciągłe doskonalenie

Po wdrożeniu monitorujemy zachowanie systemów AI, aby wykrywać degradację, pojawiające się problemy lub niewłaściwe użycie.

Metryki monitorowania

Co śledzimy:

• Wskaźnik halucynacji: Śledzony poprzez raporty użytkowników i automatyczne wykrywanie
• Dokładność odpowiedzi: Walidacja próbkowa w odniesieniu do rzeczywistych standardów zgodności
• Wzorce użycia: Wykrywanie użycia poza zakresem lub niewłaściwego
• Metryki wydajności: Czas odpowiedzi, precyzja wyszukiwania, wskaźniki błędów
• Feedback użytkowników: Raporty o negatywnym wpływie, zgłoszenia do supportu, prośby o nowe funkcje

Cykl ciągłego doskonalenia

Dane z monitoringu informują o iteracyjnych ulepszeniach:

Pętle feedbacku:

• Feedback użytkowników i raporty o negatywnym wpływie → aktualizacje modelu i dostrajanie wyszukiwania
• Wyniki testów bezpieczeństwa → ulepszenia bezpieczeństwa i aktualizacje kontroli
• Zmiany regulacyjne i najlepsze praktyki → aktualizacje dokumentacji i frameworków
• Monitorowanie wydajności → ulepszenia dokładności i optymalizacja odpowiedzi

Reagowanie na incydenty

Informujemy użytkowników o incydentach związanych z AI, aby zachować przejrzystość i zaufanie.

Kanały powiadomień:

• Alerty e-mailowe w przypadku krytycznych incydentów wpływających na funkcjonalność AI
• Powiadomienia na Slacku dla subskrybujących zespołów
• Aktualizacje na stronie statusu z harmonogramami incydentów i rozwiązaniami
• Powiadomienia wczesnego ostrzegania zgodne z NIS2 (24-godzinne raportowanie w przypadku znaczących incydentów cyberbezpieczeństwa)

Znane ograniczenia

Systemy AI mają inherentne ograniczenia, które użytkownicy muszą zrozumieć, aby korzystać z nich odpowiedzialnie.

Ograniczenia techniczne

Obecne ograniczenia:

• Natura probabilistyczna: AI generuje odpowiedzi na podstawie wzorców statystycznych, a nie deterministycznej logiki
• Brak dostępu do internetu: AI nie może pobierać informacji w czasie rzeczywistym ani uzyskiwać dostępu do zewnętrznych stron internetowych
• Brak wykonywania kodu: AI nie może przeprowadzać obliczeń, wykonywać skryptów ani walidować implementacji technicznych
• Granica wiedzy: Wiedza modelu AI jest ograniczona do daty zakończenia szkolenia (różni się w zależności od dostawcy)
• Limity kontekstu: Maksymalne okno kontekstowe ogranicza ilość informacji przetwarzanych w pojedynczym żądaniu
• Granice domenowe: AI jest szkolone do zgodności/bezpieczeństwa; wydajność w innych domenach nie jest gwarantowana

Szczegółowe ograniczenia i obejścia znajdziesz na naszej stronie Znane problemy.

Odpowiedzialność użytkownika za weryfikację

ISMS Copilot został zaprojektowany, aby wspierać, a nie zastępować profesjonalną ocenę:

• Porównuj sugestie AI z oficjalnymi standardami
• Waliduj krytyczne informacje przed ich przekazaniem audytorom
• Korzystaj z AI jako asystenta konsultanta, a nie zamiennika ekspertyzy
• Stosuj profesjonalną ocenę przy wdrażaniu rekomendacji AI

Zobacz Jak odpowiedzialnie korzystać z ISMS Copilot, aby poznać najlepsze praktyki weryfikacji.

Raportowanie i feedback

Feedback użytkowników jest kluczowy dla doskonalenia systemów AI. Zapewniamy wiele mechanizmów do zgłaszania problemów, nieścisłości lub nieoczekiwanego zachowania.

Jak zgłaszać problemy

Negatywne skutki lub halucynacje:

1. Przejdź do menu użytkownika (prawy górny róg) > Centrum pomocy > Skontaktuj się z supportem
2. Dołącz prompt, odpowiedź i zrzuty ekranu w swoim raporcie
3. Oczekuj odpowiedzi w ciągu 48 godzin

Raportowanie w platformie:

• Użyj przycisku "Zgłoś problem", dostępnego w całej platformie, aby oznaczyć konkretne odpowiedzi AI

Co dzieje się po zgłoszeniu

1. Natychmiastowa weryfikacja (w ciągu 48 godzin): Zespół wsparcia ocenia wagę i wpływ problemu
2. Dochodzenie: Zespół techniczny analizuje problem, odtwarza go i identyfikuje przyczynę źródłową
3. Odpowiedź: Otrzymujesz aktualizację dotyczącą ustaleń i planowanych działań
4. Naprawa: Problemy są rozwiązywane poprzez aktualizacje modelu, dostrajanie wyszukiwania, poprawki kodu lub ulepszenia dokumentacji
5. Ciągłe doskonalenie: Wyciągnięte wnioski są integrowane z procesami testowania i monitoringu

Szczegółowe instrukcje zgłaszania znajdziesz w przeglądzie Bezpieczeństwo i odpowiedzialne użycie AI.

Aktualizacje dokumentacji

Specyfikacje techniczne są aktualizowane, gdy:

• Zmieniają się dostawcy AI (nowe modele, przestarzałe API)
• Ewoluuje architektura (nowe komponenty, metody walidacji)
• Są rewidowane wymagania (nowe ograniczenia bezpieczeństwa, cele wydajności)
• Rozszerzają się praktyki testowe (nowe techniki walidacji, narzędzia bezpieczeństwa)

Aktualizacje są komunikowane poprzez notatki wydania i tę stronę dokumentacji. Zasubskrybuj naszą stronę statusu, aby otrzymywać powiadomienia o zmianach.

Co dalej

• Przejrzyj, jak ISMS Copilot implementuje ISO 42001
• Poznaj zabezpieczenia AI i praktyki odpowiedzialnego użycia
• Zrozum, czym są halucynacje AI i jak im zapobiegać
• Poznaj najlepsze praktyki odpowiedzialnego korzystania z ISMS Copilot
• Przejrzyj nasze kompleksowe Polityki Bezpieczeństwa

Uzyskiwanie pomocy

W przypadku pytań technicznych dotyczących specyfikacji systemów AI lub w celu zażądania dodatkowej dokumentacji:

• Skontaktuj się z supportem przez menu Centrum pomocy
• Natychmiast zgłaszaj obawy dotyczące bezpieczeństwa w celu zbadania
• Przejrzyj Centrum Zaufania, aby uzyskać szczegółowe informacje o zarządzaniu AI
• Sprawdź Stronę Statusu w poszukiwaniu znanych problemów