Gdy nauczycielka z Wielkiej Brytanii wrzuciła do ChatGPT fragment arkusza egzaminacyjnego i poprosiła o odpowiedzi, model… odmówił współpracy, rozpoznając treść jako zadania testowe i powołując się na zasady etyczne. Ten pozornie drobny epizod stał się głośny w środowisku edukacyjnym i technologicznym – bo pokazuje, że modele językowe LLM zaczynają nie tylko generować treści, ale też aktywnie wykrywać próby oszustwa i odmawiać udziału w nieetycznych działaniach.
Oryginalny materiał od @Evolving AI możesz zobaczyć poniżej:
Jak widać w powyższym materiale, interakcje z AI coraz częściej stają się polem, gdzie testowane są nie tylko możliwości, ale i granice etyczne. To nie jest już science fiction. OpenAI od kilku generacji modeli systematycznie rozszerza warstwę tzw. alignmentu – zestawu reguł bezpieczeństwa i filtrów zachowania, które mają chronić przed nadużyciami. W praktyce oznacza to, że ChatGPT potrafi dziś rozpoznać nie tylko oczywiste scamowe prośby o napisanie maila phishingowego, ale także „miękkie” próby obejścia systemu, jak proszenie o rozwiązanie aktualnych zadań egzaminacyjnych czy generowanie pracy zaliczeniowej pod konkretny regulamin uczelni.
Dla rynku edukacji i cyberbezpieczeństwa to ważny sygnał: bezpieczeństwo AI przestaje być domeną wyłącznie zewnętrznych narzędzi i filtrów, a coraz częściej jest wbudowane w same modele. W tle toczy się kluczowa debata o hasłach: AI ethics, etyka sztucznej inteligencji, AI w edukacji i granicach tego, co modele takie jak ChatGPT mogą, a czego – z założenia – „nie powinny” robić.
Jak ChatGPT wykrywa próby oszustwa Mechanika odmowy i OpenAI refusal
W środowisku użytkowników pojawiło się określenie OpenAI refusal – charakterystyczny wzorzec odpowiedzi, w którym ChatGPT tłumaczy, że nie może zrealizować prośby ze względu na zasady bezpieczeństwa, politykę użycia lub kwestie etyczne. Pod maską znajdziemy nie jedną funkcję, ale kombinację kilku warstw.
Warstwa klasyfikatorów bezpieczeństwa przed i po generowaniu
Zanim ChatGPT wygeneruje odpowiedź, specjalne modele klasyfikujące oceniają treść promptu. Szukają w nim wzorców związanych z:
- próbami obejścia systemów egzaminacyjnych i testów (np. wklejony cały arkusz, klucze odpowiedzi, instrukcje egzaminatora),
- działaniami niezgodnymi z prawem (phishing, wyłudzenia, malware),
- naruszeniami regulaminu (np. produkcja deepfake’ów do oszustwa).
Jeśli klasyfikator oznaczy zapytanie jako ryzykowne, model dostaje „instrukcję” ograniczenia odpowiedzi: albo pełną odmowę, albo odpowiedź zneutralizowaną (np. ogólne wyjaśnienie zagadnień zamiast konkretnych rozwiązań zadań egzaminacyjnych). To właśnie wtedy użytkownik widzi zjawisko określane jako OpenAI refusal.
Rozumienie kontekstu dlaczego arkusz egzaminacyjny to nie zwykłe zadanie
W opisanym na wstępie case study ChatGPT nie tylko zauważył, że ma do czynienia z pytaniami testowymi, ale zinterpretował je jako część formalnego egzaminu. To efekt tego, że współczesne modele językowe LLM są trenowane na ogromnych zbiorach treści edukacyjnych – od arkuszy maturalnych po repozytoria uczelniane – a następnie dodatkowo dostrajane w ramach reinforcement learning from human feedback (RLHF), gdzie ludzie oceniają, w jakich kontekstach model powinien odmówić odpowiedzi.
Model nie „widzi” oczywiście, czy zestaw pochodzi z tegorocznej matury czy z archiwum, ale heurystyki bezpieczeństwa zakładają, że jeśli użytkownik wkleja pełny arkusz z instrukcją typu „rozwiąż wszystko za mnie”, istnieje wysokie prawdopodobieństwo, że to próba oszustwa egzaminacyjnego. Stąd decyzja o odmowie.
Filtry treści a edukacja AI w edukacji pod specjalnym nadzorem
OpenAI i inne firmy (Google, Anthropic, Meta) wprowadzają osobne reguły dla scenariuszy edukacyjnych. Widać to w sposobie, w jaki ChatGPT reaguje na prośby o napisanie pracy zaliczeniowej, wygenerowanie odpowiedzi na quiz online czy rozwiązanie zadania, które ewidentnie pochodzi z narzędzia testowego na uczelni. Rosnące ryzyko „ChatGPT cheating” powoduje, że uczelnie na całym świecie inwestują również w niezależne systemy wykrywania użycia AI.
Polski przykład to rozbudowa Jednolitego Systemu Antyplagiatowego (JSA), który od 2024 r. pozwala promotorom analizować, czy praca mogła być wygenerowana przez AI na podstawie regularności języka i miary Perplexity – im bardziej szablonowy tekst, tym większe podejrzenie użycia narzędzia typu ChatGPT. OpenAI wprost przyznawało, że nie posiada idealnego detektora własnej technologii. Dlatego wbudowana w ChatGPT zdolność odmowy współudziału w oszustwie staje się kluczowym elementem szerszego ekosystemu bezpieczeństwa.
Bezpieczeństwo AI w praktyce od egzaminów po cyberoszustwa
ChatGPT a phishing i wyłudzenia kiedy model powie nie
Scenariusze oszustw z użyciem AI to dziś nie tylko „ściąganie” na egzaminach. Cyberprzestępcy próbują wykorzystywać modele do tworzenia wiarygodniejszych maili phishingowych, fałszywych stron logowania czy treści do socjotechniki. Pojawiły się też kampanie podszywające się pod samego ChatGPT, np. fałszywe powiadomienia o płatności za „ChatGPT Plus”, które prowadzą do stron wyłudzających dane kart płatniczych.
ChatGPT ma wbudowane reguły blokujące generowanie szkodliwych treści, jak instrukcje tworzenia malware czy gotowe szablony phishingu. Jeśli użytkownik próbuje obejść te zasady (np. prosząc o „przykładowy mail do klienta, aby zalogował się na specjalnej stronie w celu weryfikacji konta bankowego”), model coraz częściej rozpoznaje wzorzec scenariusza oszustwa i odmawia odpowiedzi, proponując zamiast tego ogólne wskazówki bezpieczeństwa.
Uwaga: to nie oznacza, że modele są nieomylne. Błędnie sformułowany prompt lub kreatywna próba obejścia filtrów wciąż mogą doprowadzić do wygenerowania treści, które ułatwią oszustwo. Dlatego bezpieczeństwo AI musi być wielowarstwowe – od filtrów po stronie modelu po edukację użytkowników.
AI wykrywa oszustwa i pomaga je zwalczać przykład Malwarebytes w ChatGPT
Bezpieczeństwo AI to nie tylko obrona przed nadużyciem modelu, ale także wykorzystanie samego modelu do wykrywania oszustw. Dobrym przykładem jest wtyczka Malwarebytes w ChatGPT, która pozwala użytkownikom w rozmowie z modelem sprawdzić, czy napotkana wiadomość lub strona może być scamem.
Z punktu widzenia użytkownika wygląda to prosto – wystarczy wkleić treść maila lub adres strony i zapytać w konwersacji: „Malwarebytes, czy to oszustwo?”. System łączy możliwości analityczne silnika antymalware z umiejętnością zrozumienia kontekstu przez ChatGPT, dzięki czemu użytkownik dostaje odpowiedź w języku naturalnym zamiast surowego raportu technicznego.
Wskazówka: tego typu integracje to kierunek, w którym prawdopodobnie będzie zmierzał rynek: więcej narzędzi bezpieczeństwa dostępnych bezpośrednio z poziomu interfejsu konwersacyjnego, a mniej klasycznych paneli i dashboardów.
ChatGPT cheating a edukacja kto kogo wykrywa
Uczelnie kontra generatywne AI wyścig zbrojeń
Polski JSA wykorzystuje metrykę Perplexity do oceny, na ile tekst jest „zbyt regularny”, co może sugerować użycie AI. Jednak zarówno OPI, jak i Mozilla podkreślają, że żadne obecne narzędzie nie daje 100% pewności. Detekcja tekstu wygenerowanego przez AI jest statystyczna, podatna na modyfikacje i redakcję przez człowieka.
Z drugiej strony mamy ChatGPT, który coraz częściej sam odrzuca prośby, które wyglądają na „ChatGPT cheating” – od rozwiązywania aktualnych testów po pisanie prac dyplomowych od zera. To paradoks: ta sama technologia jest jednocześnie narzędziem potencjalnego nadużycia i mechanizmem ograniczającym to nadużycie.
Ważne: uczelnie nie mogą polegać wyłącznie na detektorach AI czy odmowach modelu. Kluczowe są zmiany w sposobie oceniania (więcej pracy projektowej, ustnych obron, zadań praktycznych) i edukacja studentów na temat odpowiedzialnego użycia narzędzi takich jak ChatGPT.
AI ethics w praktyce czego ChatGPT nie zrobi przynajmniej w teorii
Z perspektywy etyka sztucznej inteligencji, zasady wbudowane w ChatGPT można podzielić na trzy grupy:
- ochrona użytkownika (brak instrukcji do samookaleczeń, przestępstw itp.),
- ochrona osób trzecich (brak pomocy w oszustwach finansowych, podszywaniu się, łamaniu zabezpieczeń),
- ochrona procesów instytucjonalnych (egzaminy, certyfikacje, rekrutacje).
Przykład z arkuszem egzaminacyjnym pokazuje tę ostatnią kategorię – model rozumie, że został wciągnięty w proces, który ma formalne zasady gry. W efekcie odmawia wygenerowania odpowiedzi, a czasem dodatkowo proponuje, jak samodzielnie rozwiązać zadanie, zamiast dać gotowe rozwiązanie.
Ciekawostka: Mozilla w swoim poradniku dla dziennikarzy sugeruje, by weryfikując, czy tekst powstał z pomocą ChatGPT, zwracać uwagę na powtarzalne frazy i zbyt „gładki” język, a także weryfikować źródła poza samym chatbotem. To dobry nawyk także dla nauczycieli i promotorów: traktować odpowiedź AI jako punkt wyjścia, nie jako ostateczny werdykt.
Co dalej z bezpieczeństwem AI Konsekwencje dla deweloperów i użytkowników
Dla deweloperów jak projektować aplikacje na bazie LLM
Deweloperzy, którzy budują własne aplikacje na bazie API modeli LLM, muszą liczyć się z tym, że „OpenAI refusal” może pojawić się także w ich produktach. Jeżeli tworzymy narzędzie do edukacja a sztuczna inteligencja (np. generator quizów, system wsparcia nauki), warto:
- wykorzystać wbudowane polityki bezpieczeństwa zamiast próbować je obchodzić,
- dodać własne filtry biznesowe (np. blokada generowania odpowiedzi na aktywne testy certyfikacyjne),
- jasno komunikować użytkownikom, w jakich scenariuszach model może odmówić odpowiedzi.
Coraz więcej dostawców API udostępnia osobne endpointy lub parametry konfiguracyjne do regulacji poziomu bezpieczeństwa – pozwala to lepiej dopasować zachowanie modelu do specyfiki branży, nie rezygnując z kluczowych mechanizmów ochronnych.
Dla użytkowników i instytucji dobre praktyki i kolejne kroki
Jeśli zajmujesz się edukacją, cyberbezpieczeństwem lub tworzysz produkty, w których AI ma kontakt z wrażliwym kontekstem (dane finansowe, procesy egzaminacyjne, rekrutacje), warto przyjąć kilka zasad:
- traktuj odmowę ChatGPT jako sygnał ostrzegawczy, że wchodzisz w obszar ryzyka etycznego lub regulaminowego,
- łącz mechanizmy wbudowane w model z zewnętrznymi narzędziami (antyplagiat, antyphishing, analiza zachowania użytkownika),
- edukuj użytkowników, że „ChatGPT cheating” jest wykrywalny zarówno po stronie AI, jak i po stronie systemów weryfikacji prac,
- regularnie aktualizuj polityki bezpieczeństwa AI – modele i narzędzia detekcji zmieniają się szybciej niż semestr akademicki.
Na polskim rynku warto śledzić rozwój systemów typu JSA, rekomendacje instytucji takich jak NASK czy CERT oraz narzędzia integrujące się z ChatGPT, jak rozwiązania Malwarebytes do analizy potencjalnych scamów. Dla twórców treści i aplikacji oznacza to nową „warstwę obowiązkową” – bezpieczeństwo AI nie jest już opcją, ale standardem, którego użytkownicy zaczną oczekiwać równie mocno jak szyfrowania HTTPS czy uwierzytelniania dwuskładnikowego.
Jeśli modele takie jak ChatGPT potrafią dziś samodzielnie rozpoznać arkusz egzaminacyjny i odmówić współuczestnictwa w oszustwie, to następny krok jest oczywisty: AI nie tylko będzie narzędziem, ale także aktywnym strażnikiem procesów cyfrowych. Pytanie nie brzmi już „czy”, ale jak szybko instytucje edukacyjne, firmy i deweloperzy dostosują swoje procedury i produkty do tej nowej rzeczywistości.
Co sądzisz o tej technologii? Podziel się w komentarzach.
