Sztuczna inteligencja zmienia nie tylko sposób pracy firm, ale również charakter zagrożeń cybernetycznych. Systemy AI potrafią analizować informacje, podejmować decyzje i wykonywać działania bez bezpośredniego udziału człowieka. To oznacza, że cyberprzestępcy zyskują nowe możliwości automatyzacji ataków, a organizacje potrzebują zabezpieczeń, które również potrafią działać z większą szybkością i kontekstem.
Microsoft rozwija w tym kierunku nową koncepcję cyberbezpieczeństwa opartą na agentach AI. Jednym z jej najważniejszych elementów jest Project Perception – system zaprojektowany do ciągłego wykrywania ryzyka, analizowania zagrożeń i podejmowania działań ochronnych.
Co oznacza to dla firm? I dlaczego bezpieczeństwo AI zaczyna wymagać zupełnie innego podejścia niż klasyczna ochrona infrastruktury?
Najważniejsze informacje w skrócie
- Project Perception to koncepcja agentowego systemu bezpieczeństwa, który ma stale wykrywać ryzyko, analizować je i podejmować działania ochronne.
- System wykorzystuje trzy grupy wyspecjalizowanych agentów: Red Team, Blue Team i Green Team.
- Microsoft rozwija tzw. cyber stack, łączący dane z całego środowiska IT, kontekst bezpieczeństwa, modele AI, agentów i mechanizmy wykonujące działania.
- Jednym z nowych zagrożeń jest prompt injection, czyli próba zmanipulowania systemu AI za pomocą specjalnie przygotowanych instrukcji.
- Microsoft rozwija ochronę AI również w ramach Defender, Microsoft Agent 365, Entra i Purview.
- Project Perception wszedł w public preview 3 sierpnia 2026 r., zgodnie z informacją Microsoft. Microsoft – Rethinking security for the age of AI
Dlaczego bezpieczeństwo AI wymaga nowego podejścia?
AI zmienia nie tylko sposób pracy użytkowników. Zmienia również skalę i tempo potencjalnych ataków.
Tradycyjny cyberatak często wymaga od przestępcy czasu na analizę infrastruktury, przygotowanie kampanii, wyszukanie podatności czy dostosowanie kolejnych etapów ataku. Modele AI mogą automatyzować część tych czynności i pozwalają szybciej analizować duże ilości informacji.
Microsoft zwraca uwagę, że wraz z rozwojem autonomicznych systemów rośnie jednocześnie liczba elementów, które organizacja musi zabezpieczyć. Dotyczy to już nie tylko komputerów, serwerów i kont użytkowników, ale także aplikacji AI, agentów, danych wykorzystywanych przez modele i relacji pomiędzy tymi elementami. Microsoft – Rethinking security for the age of AI
Czym jest Microsoft Project Perception?
Project Perception to rozwijany przez Microsoft agentowy system bezpieczeństwa zaprojektowany z myślą o środowisku, w którym AI jest częścią infrastruktury organizacji.
Jego zadaniem jest połączenie kilku elementów:
- sygnałów bezpieczeństwa,
- informacji o środowisku organizacji,
- modeli AI,
- wyspecjalizowanych agentów,
- mechanizmów pozwalających na wykonanie działań ochronnych.
W praktyce oznacza to odejście od pojedynczych narzędzi działających niezależnie od siebie na rzecz systemu, który może łączyć informacje z wielu obszarów i tworzyć z nich jeden obraz sytuacji bezpieczeństwa.
Microsoft zapowiedział public preview Project Perception od 3 sierpnia 2026 r. Microsoft – Rethinking security for the age of AI
Red Team, Blue Team i Green Team – jak działają agenci Project Perception?
Jednym z najciekawszych elementów Project Perception jest podział agentów na trzy grupy.
Red Team – szukanie słabych punktów
Agenci Red Team mają działać podobnie do zespołu przeprowadzającego kontrolowane ataki.
Ich zadaniem jest identyfikowanie potencjalnych ścieżek prowadzących do kompromitacji środowiska, zanim wykorzysta je rzeczywisty napastnik.
Może to oznaczać analizowanie:
- podatności w oprogramowaniu,
- błędnych konfiguracji,
- nadmiernych uprawnień,
- zależności pomiędzy systemami,
- potencjalnych dróg przemieszczania się atakującego po infrastrukturze.
Ważne jest tutaj spojrzenie na łańcuch zależności, a nie wyłącznie na pojedynczy alert.
Przykładowo sama podatność w aplikacji może mieć ograniczone znaczenie. Jeśli jednak aplikacja ma dostęp do wrażliwych danych, korzysta z uprzywilejowanego konta i jest połączona z innymi systemami, jej znaczenie dla bezpieczeństwa całej organizacji jest zdecydowanie większe.
Blue Team – analiza i ustalanie rzeczywistego ryzyka
Agenci Blue Team mają analizować sygnały dotyczące potencjalnych zagrożeń i łączyć je z dostępnym kontekstem.
To szczególnie istotne w dużych organizacjach, gdzie systemy bezpieczeństwa mogą generować ogromną liczbę zdarzeń.
Sam alert często nie mówi jeszcze, czy organizacja rzeczywiście jest zagrożona.
Znaczenie mogą mieć między innymi:
- tożsamość użytkownika,
- urządzenie, z którego nastąpiło połączenie,
- lokalizacja i czas zdarzenia,
- wykorzystywana aplikacja,
- wcześniejsza aktywność konta,
- dostęp użytkownika do danych,
- relacje pomiędzy systemami,
- wcześniejsze incydenty,
- informacje o aktualnych kampaniach cyberprzestępców.
Agent może więc analizować zdarzenie w szerszym kontekście, zamiast traktować każdy sygnał jako niezależny przypadek.
Green Team – przejście od analizy do działania
Największa różnica pojawia się na kolejnym etapie.
Agenci Green Team mają odpowiadać za działania korygujące i wzmacnianie zabezpieczeń.
W zależności od scenariusza może chodzić np. o:
- ograniczenie dostępu,
- zmianę konfiguracji,
- wzmocnienie polityki bezpieczeństwa,
- reakcję na wykrytą podatność,
- zabezpieczenie określonego zasobu.
W ten sposób trzy grupy agentów tworzą zamkniętą pętlę bezpieczeństwa:
Red Team → wykrywa słabość → Blue Team → ocenia ryzyko → Green Team → podejmuje działanie → system ponownie analizuje środowisko.
Microsoft opisuje właśnie taki model jako ciągły proces odkrywania, oceniania i poprawiania poziomu bezpieczeństwa. Microsoft – Rethinking security for the age of AI
Nowy cyber stack: z czego składa się bezpieczeństwo oparte na AI?
Project Perception jest częścią szerszej koncepcji określanej przez Microsoft jako cyber stack.
Można go uprościć do kilku warstw.
-
Signals – dane i sygnały
Pierwsza warstwa dostarcza informacje o tym, co dzieje się w środowisku.
Źródłem mogą być m.in.:
- urządzenia,
- tożsamości,
- aplikacje,
- chmura,
- dane,
- systemy AI,
- rozwiązania bezpieczeństwa.
Im więcej systemów działa w organizacji, tym ważniejsze staje się ich połączenie.
-
Security context – kontekst bezpieczeństwa
Same dane nie wystarczą.
System musi wiedzieć, co dane zdarzenie oznacza dla konkretnej organizacji.
Przykładowo logowanie z nietypowej lokalizacji może być normalnym zachowaniem dla pracownika podróżującego służbowo. To samo zdarzenie w przypadku konta uprzywilejowanego może wymagać zupełnie innej reakcji.
Kontekst pozwala więc łączyć informacje o zasobach, użytkownikach, relacjach, aktywności i ryzyku.
Microsoft opisuje security context jako stale aktualizowany obraz środowiska, który pozwala agentom efektywniej analizować sytuację. Microsoft – Rethinking security for the age of AI
-
Models – modele AI
Kolejnym elementem są modele odpowiedzialne za rozumowanie i analizę.
Microsoft zwraca uwagę na podejście multi-model, w którym nie każdy problem musi być rozwiązywany przez jeden, największy model.
Do prostszego zadania można wykorzystać szybszy i tańszy model, natomiast bardziej złożoną analizę przekazać modelowi zapewniającemu większe możliwości rozumowania.
Takie podejście może mieć znaczenie zarówno dla wydajności, jak i kosztów całego systemu.
-
Agents – wyspecjalizowani agenci
Agenci wykonują konkretne zadania.
Zamiast jednego „superagenta” odpowiedzialnego za wszystko, system może korzystać z wielu agentów wyspecjalizowanych w określonych funkcjach.
-
Actuators – wykonywanie działań
Ostatnia warstwa łączy analizę z rzeczywistą reakcją.
To właśnie tutaj decyzja systemu może zostać przełożona na konkretne działanie ochronne.
Microsoft podkreśla, że ta warstwa jest głęboko integrowana z rozwiązaniami Microsoft Security. Microsoft – Rethinking security for the age of AI
Prompt injection – nowe zagrożenie dla systemów AI
Rozwój agentów AI tworzy również nowe klasy zagrożeń.
Jednym z nich jest prompt injection.
Najprościej mówiąc, jest to próba wpłynięcia na zachowanie modelu za pomocą odpowiednio przygotowanych instrukcji.
Problem staje się szczególnie istotny wtedy, gdy AI nie tylko odpowiada na pytania, ale ma dostęp do danych i narzędzi oraz może wykonywać działania.
Wyobraźmy sobie agenta, który analizuje pocztę elektroniczną.
W zwykłej wiadomości może znajdować się ukryta lub jawna instrukcja skierowana do modelu. Jeżeli agent potraktuje ją jako polecenie zamiast jako niezaufaną treść, potencjalnie może dojść do manipulacji jego zachowaniem.
Dlatego bezpieczeństwo AI nie może ograniczać się do ochrony samego modelu.
Trzeba zabezpieczyć również:
model + dane + kontekst + narzędzia + uprawnienia + sposób wykonywania działań.
Microsoft poinformował w lipcu 2026 r. o rozwijaniu w Microsoft Defender ochrony przed prompt injection, która ma identyfikować i izolować wiadomości e-mail zawierające złośliwe instrukcje dla systemów AI przed ich dostarczeniem do użytkownika. Funkcja została przedstawiona jako rozwiązanie w wersji preview. Microsoft Security – What’s new in Microsoft Security: July 2026
Agent AI potrzebuje własnej warstwy bezpieczeństwa
Wprowadzenie agenta AI do firmy nie powinno kończyć się na pytaniu:
„Czy agent działa?”
Równie ważne są pytania:
- Do jakich danych ma dostęp?
- Jakie aplikacje może wykorzystywać?
- Jakie działania może wykonywać samodzielnie?
- Jakie ma uprawnienia?
- Czy jego aktywność jest monitorowana?
- Co stanie się po wykryciu podejrzanego działania?
- Czy można szybko odebrać mu dostęp?
To dlatego Microsoft rozwija Microsoft Agent 365.
Według Microsoft nowe możliwości Defender mają łączyć ocenę poziomu bezpieczeństwa oraz ochronę runtime dla agentów działających m.in. w Microsoft Foundry, Microsoft Copilot Studio oraz środowiskach zarządzających agentami innych firm. Microsoft Security – What’s new in Microsoft Security: July 2026
W praktyce oznacza to przesunięcie punktu ciężkości z bezpieczeństwa użytkownika i urządzenia również w stronę bezpieczeństwa cyfrowych pracowników, czyli agentów wykonujących zadania w organizacji.
Microsoft Defender: ochrona całego środowiska AI
Rozwój Project Perception nie oznacza, że klasyczne rozwiązania bezpieczeństwa przestają mieć znaczenie.
Wręcz przeciwnie.
AI musi zostać włączone do istniejącej architektury cyberbezpieczeństwa.
Microsoft rozwija w tym kierunku możliwości Defender, integrując informacje z różnych obszarów środowiska i wykorzystując AI w procesach SecOps. W lipcowej aktualizacji Microsoft wskazywał m.in. rozwój Threat Intelligence Agent oraz integrację kolejnych funkcji analitycznych i automatyzacji. Microsoft Security – What’s new in Microsoft Security: July 2026
To ważne, ponieważ bezpieczeństwo AI nie jest osobnym projektem oderwanym od reszty infrastruktury.
Agent AI korzysta z:
tożsamości → urządzeń → aplikacji → danych → sieci → chmury.
Jeżeli którykolwiek z tych elementów jest źle zabezpieczony, może stać się częścią potencjalnego łańcucha ataku.
Czy AI może chronić przed AI?
To jedno z najważniejszych pytań związanych z rozwojem Project Perception.
Odpowiedź Microsoftu jest zasadniczo twierdząca: skoro AI zwiększa możliwości atakujących, podobne technologie powinny zostać wykorzystane przez zespoły odpowiedzialne za ochronę.
Nie oznacza to jednak, że człowiek przestaje być potrzebny.
Microsoft podkreśla koncepcję human in control – systemy AI mają automatyzować analizę i działania, ale człowiek powinien zachować kontrolę nad kluczowymi procesami bezpieczeństwa. Microsoft – Rethinking security for the age of AI
To szczególnie ważne w przypadku działań o wysokim wpływie.
Automatyczne zablokowanie podejrzanego procesu może być stosunkowo bezpieczne. Automatyczne odebranie dostępu całemu działowi do krytycznego systemu biznesowego wymaga już znacznie większej kontroli.
Dlatego przyszłość cyberbezpieczeństwa prawdopodobnie nie będzie oznaczała:
„AI zamiast człowieka”.
Raczej:
„AI wykonuje więcej pracy, człowiek podejmuje decyzje tam, gdzie potrzebny jest osąd i odpowiedzialność”.
Jak przygotować firmę na bezpieczeństwo AI?
Wdrożenie AI warto rozpocząć nie tylko od wyboru modelu czy aplikacji.
Równie ważne jest przygotowanie odpowiedniego modelu bezpieczeństwa.
- Zidentyfikuj wszystkie zastosowania AI
Nie ograniczaj się do oficjalnie wdrożonych narzędzi.
Sprawdź również, z jakich usług AI korzystają pracownicy indywidualnie.
- Zidentyfikuj agentów i ich uprawnienia
Każdy agent powinien mieć jasno określony zakres dostępu.
Zasada powinna być prosta:
agent otrzymuje tylko te uprawnienia, których rzeczywiście potrzebuje.
- Zabezpiecz dane
Określ, jakie dane mogą być przekazywane do modeli AI i aplikacji zewnętrznych.
- Monitoruj aktywność
Nie wystarczy wiedzieć, że agent istnieje.
Trzeba również wiedzieć, z jakich danych korzysta, z jakimi aplikacjami się komunikuje i jakie działania wykonuje.
- Przygotuj ochronę przed prompt injection
Instrukcje pochodzące z niezaufanych źródeł powinny być traktowane jako potencjalnie niebezpieczne dane, a nie automatycznie jako polecenia dla modelu.
- Zaplanuj reakcję na incydenty
W przypadku kompromitacji konta, agenta lub aplikacji organizacja powinna wiedzieć, jak szybko ograniczyć dostęp i zatrzymać potencjalne rozprzestrzenianie się zagrożenia.
7 pytań, które warto zadać przed wdrożeniem agentów AI
Przed wdrożeniem autonomicznych agentów w firmie warto odpowiedzieć na kilka podstawowych pytań:
- Do jakich danych agent będzie miał dostęp?
- Jakie działania będzie mógł wykonywać bez udziału człowieka?
- Jakie uprawnienia otrzyma?
- Czy każda aktywność agenta będzie rejestrowana?
- Jak wykryjemy prompt injection lub inne próby manipulacji?
- Co zrobimy w przypadku przejęcia agenta?
- Czy możemy szybko odebrać agentowi dostęp do danych i aplikacji?
Jeśli na któreś z tych pytań organizacja nie ma jasnej odpowiedzi, przed zwiększaniem autonomii AI warto najpierw uporządkować fundamenty bezpieczeństwa.
Podsumowanie
Era AI zmienia również sposób, w jaki należy myśleć o cyberbezpieczeństwie.
Firmy muszą chronić już nie tylko użytkowników, urządzenia, aplikacje i dane, ale także modele AI oraz autonomicznych agentów, którzy mogą wykonywać zadania i podejmować działania w środowisku organizacji.
Project Perception jest odpowiedzią Microsoftu na tę zmianę. Zamiast pojedynczego narzędzia otrzymujemy koncepcję ciągłego, agentowego systemu bezpieczeństwa, który łączy dane, kontekst, modele AI, wyspecjalizowanych agentów i mechanizmy automatycznej reakcji.
Jednocześnie bezpieczeństwo AI wymaga spojrzenia szerzej niż tylko na sam model. Kluczowe stają się:
tożsamość + uprawnienia + dane + aplikacje + agenci + monitoring + automatyczna reakcja.
Właśnie połączenie tych elementów będzie decydować o tym, czy AI stanie się dla organizacji źródłem nowych zagrożeń, czy również jednym z najważniejszych narzędzi ich ograniczania.
Chcesz dowiedzieć się więcej na temat narzędzi do cyberbezpieczeństwa Microsoft? Zespół naszych ekspertów chętnie odpowie na Twoje pytania i pomoże wybrać najkorzystniejsze rozwiązanie:
+48 32 420 92 45
Zapraszamy również na naszą stronę internetową, gdzie znajdziesz więcej informacji na temat produktów. Sprawdź i dowiedz się więcej: MICROSOFT
