Asystenci konwersacyjni i współpiloci przeszli drogę od nowinki do wszechstronnego elementu środowiska pracy. Ten skok zwiększa produktywność, ale jednocześnie otwiera drzwi dla nadużyć sztucznej inteligencji, które mogą stać się realnym zagrożeniem. Jeśli zarządzasz systemem Windows 11 i usługą Microsoft 365, niezwykle ważne jest, aby poważnie traktować ochronę danych, użytkowników i urządzeń przed nieumyślnymi atakami, niezamierzonymi wyciekami i niekontrolowaną automatyzacją.
Dobra wiadomość jest taka, że ekosystem Microsoftu zawiera już dojrzałe komponenty do zarządzania i ochrony wykorzystania generatywnej sztucznej inteligencji. Microsoft Purview, z podejściem DSPM do sztucznej inteligencji, oraz mechanizmy kontroli bezpieczeństwa, zgodności i przechowywania danych w usłudze M365 stanowią trzon tej tarczy , zarówno dla Copilot, jak i aplikacji innych firm, takich jak ChatGPT Enterprise . Przyjrzyjmy się bliżej, dlaczego chatboty mogą zachowywać się jak tylne drzwi i jakie są sposoby, aby je zamknąć.
Dlaczego chatboty mogą zachowywać się jak tylne drzwi
Generatywna sztuczna inteligencja jest niezwykle potężna, gdy łączy kontekst, narzędzia i działania. Właśnie dlatego, jeśli agent uzyska szerokie uprawnienia lub zostanie zmanipulowany poprzez natychmiastowe wstrzyknięcie , może on organizować zadania, od odczytywania i podsumowywania poufnych dokumentów po wysyłanie informacji poza organizację. Ryzyko to jest spotęgowane przez protokół Model Context Protocol (MCP) , standard, który pozwala agentowi odkrywać możliwości serwera i wykonywać działania w sposób łańcuchowy.
System Windows zmierza w kierunku podejścia „agency OS”, aby agenci mogli wykonywać złożone zadania. Zwiększa to automatyzację, ale jednocześnie rozszerza powierzchnię ataku : wstrzyknięcia między monitami, słabe uwierzytelnianie, wycieki danych uwierzytelniających, zatruwanie narzędzi (niezweryfikowane serwery MCP), brak zabezpieczenia międzyprocesowego, niewystarczająca kontrola bezpieczeństwa oraz zagrożenia dla łańcucha dostaw na serwerach zewnętrznych.
Warto zapamiętać pewne lekcje. ActiveX i automatyzacja OLE kiedyś obiecywały skróty, ale przez lata stały się przepustką dla złośliwego oprogramowania i złośliwych makr . Dziś kontekst jest inny, ale zasada pozostaje ta sama: jeśli przyznasz nieograniczoną moc automatyzacji bez nadzoru, ktoś będzie próbował ją wykorzystać.
Copilot w systemie Windows 11 i Windows 10: jakie zmiany
Firma Microsoft zdecydowała się rozszerzyć funkcjonalność usługi Copilot poza system Windows 11 i wprowadzić ją również do systemu Windows 10. Chodzi o to, aby stworzyć wszechstronnego Copilota, który pomoże Ci skonfigurować system i wykonywać codzienne zadania bez dodatkowych kosztów w samym systemie Windows (w przeciwieństwie do Copilota dla Microsoft 365, który jest usługą płatną). Co zauważysz w codziennym użytkowaniu?
- Automatyzacja zadań:szybkie tworzenie działań wykonywanych przez sztuczną inteligencję, z mniejszą liczbą kroków wykonywanych ręcznie.
- Kreatywna edycjaW programie Paint: usuwanie tła i zarządzanie warstwami; w aplikacji Photos: rozmycie tła w formie bokeh; w programie Clipchamp: sugestie dotyczące edycji w oparciu o sceny i czas trwania.
- Wyszukiwanie obrazów w usłudze OneDrive: bardziej szczegółowe wyniki dzięki filtrom według lokalizacji i kontekstu.
- OCR w locie: wyodrębnij tekst osadzony w obrazach, aby użyć go w dowolnej aplikacji.
- Zrzuty ekranu z narracjąNagrywanie ekranu za pomocą mikrofonu w celu szybszego nagrywania samouczków.
- Inteligentniejszy e-mail: synchronizacja wielu kont w nowym programie Outlook i sugestie dotyczące załączników na podstawie Twojej poprzedniej aktywności.
- Eksplorator z inteligentnymi skrótami:dostęp do tego, z czego korzystasz najczęściej, na podstawie Twojego zachowania.
- Dyktowanie głosowe i podpowiedzi:edytuje podyktowany tekst i wysyła prośby do Drugiego Pilota, mówiąc, idealny do szybkich przepływów.
Copilot łączy w sobie dwie koncepcje, które czasami są mylone. Wizja działa w kontekście udostępnianym w danej sesji (strona internetowa w Edge, aplikacja w Windows, aparat w aplikacji mobilnej). Informacje te nie są zapisywane jako zrzuty ekranu; w historii czatu pozostaje jedynie transkrypt, który można w dowolnym momencie usunąć.
MCP w systemie Windows: potężna automatyzacja z możliwością sterowania w podróży
Aby ten zorientowany na agenta system Windows był funkcjonalny, Microsoft przewiduje lokalny rejestr serwerów MCP, serwerów wbudowanych udostępniających funkcje systemowe (system plików, okna, WSL) oraz akcji aplikacji, które strony trzecie mogłyby publikować jako serwery MCP . Ambicją jest stworzenie poleceń języka naturalnego do łączenia zapytań, generowania wykresów w programie Excel, a nawet wysyłania wiadomości e-mail.
Bezpieczeństwo jest kluczowe. Microsoft proponuje pośredniczący serwer proxy do zarządzania ruchem klient-serwer w celu egzekwowania zasad, audytu i uzyskiwania zgody; minimalny poziom bezpieczeństwa dla serwerów MCP (podpisywanie kodu, testowanie interfejsu, deklarowanie uprawnień) oraz izolację w czasie wykonywania z precyzyjnymi uprawnieniami . Niektóre środki nie zostaną uwzględnione w pierwszej wersji zapoznawczej dla deweloperów, dlatego zaleca się rozpoczęcie prac nad strukturą zarządzania danymi już teraz.
Główna brama do ochrony sztucznej inteligencji: DSPM firmy Microsoft Purview
Rozwiązanie Purview AI Data Security Posture Management (DSPM) to panel do wykrywania, zabezpieczania i egzekwowania zgodności z przepisami dotyczącymi wykorzystania sztucznej inteligencji w całym przedsiębiorstwie . Wykorzystuje istniejące funkcje ochrony danych i zgodności, a następnie łączy je z raportowaniem i politykami dostępnymi za pomocą jednego kliknięcia, które przyspieszają bezpieczne wdrażanie pilotów, agentów i innych aplikacji generatywnych.
W Purview aplikacje AI są pogrupowane w trzy kategorie: środowiska i agenci Copilot (Microsoft 365 Copilot, Security Copilot, Copilot on Fabric, Copilot Studio); aplikacje AI dla przedsiębiorstw (na przykład aplikacje zarejestrowane w Entra, ChatGPT Enterprise, Azure AI Foundry); oraz inne aplikacje AI wykrywane na podstawie aktywności przeglądarki (ChatGPT, Google Gemini, Microsoft Copilot for Consumer, DeepSeek ). Każda kategoria dziedziczy mechanizmy kontroli bezpieczeństwa i zgodności odpowiednie dla swojej natury.
Etykiety poufności: kontroluj, co sztuczna inteligencja może zobaczyć i wykorzystać
Gdy dane dzierżawcy są oznaczone etykietami poufności, kompatybilne aplikacje AI nigdy nie zwracają treści, jeśli użytkownik nie ma do nich dostępu . Word, Excel, PowerPoint i Outlook wyświetlają etykietę i powiązane znaczniki (nagłówki, stopki), a to samo dotyczy komponentów i stron Loop. Jeśli etykieta wymusza szyfrowanie, AI wymaga VIEW i EXTRACT, aby odpowiedzieć lub utworzyć łącze.
Ta ochrona obejmuje dane w użyciu, nawet jeśli plik znajduje się poza przestrzenią Microsoft 365 (lokalnie, w folderach udostępnionych lub w chmurze innej firmy), pod warunkiem, że jest otwarty w aplikacji pakietu Office. Jeśli jeszcze nie korzystasz z etykiet poufności, warto włączyć je jak najszybciej.
Nieoznaczone szyfrowanie i wyjątki, o których powinieneś wiedzieć
Nawet bez etykiety usługi i produkty mogą stosować szyfrowanie Azure Rights Management. Sztuczna inteligencja zweryfikuje uprawnienia VIEW i EXTRACT przed zwróceniem danych, ale nie będzie automatycznego dziedziczenia dla nowych elementów . Rozwiązania wykorzystujące to szyfrowanie to m.in. Purview Message Encryption, IRM, łącznik RMS i pakiet Rights Management SDK.
W przypadku innych metod szyfrowania: Copilot nie zwraca wiadomości e-mail chronionych protokołem S/MIME i nie jest dostępny w programie Outlook podczas otwierania wiadomości S/MIME . Nie uzyskuje również dostępu do dokumentów chronionych hasłem, chyba że użytkownik otworzył je już w tej samej aplikacji; ochrona hasłem nie jest dziedziczona. Dzięki CCK lub BYOK w Purview zaszyfrowana treść pozostaje widoczna dla eDiscovery, Search i Copilot z odpowiednimi uprawnieniami.
Zapobieganie utracie danych: Blokuje wycieki do witryn AI
Dzięki Purview DLP możesz wykrywać, monitorować i zapobiegać naruszeniom danych w usłudze Microsoft 365 oraz w punktach końcowych. Komputery z systemem Windows zintegrowane z Purview obsługują funkcję DLP w punktach końcowych , która ostrzega przed udostępnianiem poufnych danych witrynom opartym na sztucznej inteligencji (AI) w przeglądarce lub uniemożliwia to. Typowym przykładem jest zapobieganie wklejaniu numerów kart kredytowych do ChatGPT lub wyświetlanie ostrzeżenia, które można odrzucić.
Dodatkowo, polityka DLP z zakresem lokalizacji AI może uniemożliwić usłudze Microsoft 365 Copilot przetwarzanie treści z określonymi tagami. Jeśli oznaczysz pliki jako „Ściśle poufne” i wskażesz, że nie powinny być podsumowywane, Copilot nie wygeneruje podsumowań tych plików, choć nadal może udostępnić link umożliwiający autoryzowanemu użytkownikowi otwarcie ich w programie Word.
Ryzyko wewnętrzne: szablony do wykrywania złośliwego użycia sztucznej inteligencji
Rozwiązanie Purview do zarządzania ryzykiem wewnętrznym wykorzystuje sygnały z platformy Microsoft 365 i stron trzecich do wykrywania eksfiltracji, kradzieży adresów IP i nadużyć. Oparty na sztucznej inteligencji szablon wykorzystania ryzyka identyfikuje wzorce, takie jak natychmiastowe wstrzyknięcia i dostęp do chronionych materiałów . Ten widok integruje się z usługą Microsoft Defender XDR, tworząc kompletną mapę incydentów.
Klasyfikacja danych: podstawa wszystkiego
Klasyfikacja Purview (typy informacji wrażliwych i trenowalne klasyfikatory) pomaga w identyfikacji wrażliwych danych w żądaniach i odpowiedziach aplikacji AI . Wyniki są wyświetlane w raportach Purview oraz w narzędziu DSPM AI Activity Explorer. Prawidłowo wdrożone etykietowanie odróżnia użyteczny alert od przytłaczającego szumu informacyjnego.
Monitorowanie i reagowanie: audyt, komunikacja, elektroniczne ujawnianie informacji i przechowywanie
Zunifikowany audyt rejestruje komunikaty i odpowiedzi z interakcji ze sztuczną inteligencją , w tym informacje o tym, kiedy i jak użyto aplikacji, do której usługi M365 uzyskano dostęp oraz do których plików przechowywanych w systemie uzyskano dostęp. Jeśli zastosowano etykietę poufności, jest ona również rejestrowana. Możesz wyszukiwać te zdarzenia w portalu Purview i wyświetlać ich szczegóły w eksploratorze aktywności DSPM.
Dział Communications Compliance monitoruje kanały komunikacji, w tym żądania i odpowiedzi na aplikacje AI , w celu wykrywania naruszeń przepisów lub zasad postępowania (niewłaściwe udostępnianie, groźby, nękanie, treści dla dorosłych). Działa z pseudonimizacją, domyślną prywatnością i dostępem opartym na rolach.
W eDiscovery interakcje AI są przechowywane w skrzynce pocztowej użytkownika . Z poziomu sprawy można wyszukiwać, wybierając skrzynkę pocztową jako źródło i filtrując według aktywności związanej z Copilotem. Po zawężeniu zbioru można go wyeksportować lub przesłać do przeglądu, tak jak w przypadku innych dowodów.
Dzięki zarządzaniu cyklem życia danych (Data Lifecycle Management) możesz skonfigurować zasady retencji, aby automatycznie przechowywać lub usuwać żądania i odpowiedzi aplikacji AI . Jeśli wiele zasad nakłada się na siebie lub obowiązują prawne wymogi dotyczące retencji, obowiązują zasady retencji: ważniejszy jest najdłuższy okres retencji, a nie tylko inne kryteria.
Menedżer ds. zgodności: oceny i szablony dla przepisów dotyczących sztucznej inteligencji
Compliance Manager pomaga w inwentaryzacji ryzyka, wdrażaniu mechanizmów kontroli i byciu na bieżąco z przepisami . W przypadku sztucznej inteligencji dostępne są oceny, które podpowiedzą Ci, jak audytować interakcje, zapobiegać utracie danych i wzmacniać identyfikowalność. To idealne rozwiązanie do wykazania należytej staranności podczas audytów i certyfikacji.
ChatGPT Enterprise pod kontrolą: co Purview już obsługuje
Purview obsługuje kluczowe funkcje z ChatGPT Enterprise w kategorii aplikacji AI dla przedsiębiorstw . Zobaczysz rekomendacje DSPM, takie jak „Uzyskaj pomoc z przewodnikiem dotyczącą przepisów dotyczących AI” (na podstawie szablonów Compliance Manager) oraz zasady dostępne jednym kliknięciem, takie jak „DSPM dla AI: Przechwytywanie interakcji z aplikacji AI dla przedsiębiorstw” lub „Wykrywanie poufnych informacji udostępnianych AI przez sieć”.
Pamiętaj, że musisz włączyć rozliczenia typu „płać za użycie” w swojej organizacji i uruchomić skanowanie konektora dla Purview, aby zarządzać interakcjami z ChatGPT Enterprise. Od tego momentu klasyfikacja, audyt, komunikacja, eDiscovery i przechowywanie danych działają tak samo, jak w pozostałej części ekosystemu.
Zalecane praktyczne kroki na początek
- Na stronie zaleceń DSPM dla sztucznej inteligencji wybierz zalecenie dla wykrywaj i kontroluj interakcje z ChatGPT Enterprise z subskrypcji Azure AI i włącz przechwytywanie wiadomości i odpowiedzi.
- Aktywuj zasadę jednego kliknięcia Chroń interakcje aplikacji korporacyjnych do przechwytywania interakcji z dowolnej kompatybilnej aplikacji korporacyjnej wykorzystującej sztuczną inteligencję.
- Poczekaj co najmniej dzień, przejdź do Raportów i filtruj według kategorii aplikacje AI dla przedsiębiorstw Aby zobaczyć trendy: łączna liczba interakcji, interakcje z danymi wrażliwymi, stopień zagrożenia wewnętrznego i podział według zastosowania.
- Przejdź do sekcji „Wyświetl szczegóły”, aby otworzyć eksplorator aktywności i filtrować według Aplikacja = ChatGPT EnterpriseJeśli masz rolę Przeglądacza treści w Eksploratorze treści, będziesz mógł zobaczyć treść wiadomości i odpowiedzi powiązane z każdym zdarzeniem.
- Jeśli chcesz zachować interakcje w celu zapewnienia zgodności, utwórz zasady przechowywania w Purview, kierując je do lokalizacji Aplikacje AI dla przedsiębiorstw i określ okres wymagany przepisami.
- Aby wyświetlić dokumenty elektroniczne, utwórz sprawę eDiscovery i wyszukaj według właściciela. Klasa elementu: używać
IPM.SkypeTeams.Message.ConnectedAIApp.Connector.<ChatGPTEnterprise>do lokalnych działań maszynowych lubIPM.SkypeTeams.Message.CloudAIApp.SaaS.<AppID>do działań realizowanych w przeglądarce. Udoskonalaj, przeglądaj i eksportuj jak zwykle
Poza stanowiskiem: Kiedy nie możesz uaktualnić systemu do Windows 11
Niektóre organizacje nadal nie mogą przeprowadzić migracji wszystkich swoich systemów do systemu Windows 11. W takich przypadkach komputery w chmurze z systemem Windows 365 umożliwiają standaryzację pulpitu, lepsze zabezpieczenia i łatwiejszą pracę hybrydową z zarządzanymi maszynami wirtualnymi dostępnymi z dowolnego urządzenia. Mniejsza zmienność, większa kontrola i scentralizowane monitorowanie.
Oczywiste jest, że problem nie leży w chatbotach; problem leży w sposobie przyznawania im dostępu i ograniczeniach, w jakich działają. Dzięki odpowiedniemu etykietowaniu, ochronie przed utratą danych (DLP) w punktach końcowych i przetwarzaniu AI oraz monitorowaniu poprzez audyt, eDiscovery i retencję, domniemane tylne wejście jest skutecznie zamknięte z obu stron . Dodaj szablony Compliance Manager i funkcje Insider Risk, a będziesz gotowy do korzystania z Copilot, ChatGPT Enterprise i MCP z pełnym zaufaniem w systemie Windows 11 i usłudze Microsoft 365.
