Abstrakt
Kluczowe wnioski
Strategie z raportu:
Obrona w głąb (Defense-in-depth): Strategia polegająca na budowaniu wielu nadmiarowych warstw zabezpieczeń, przyznając, że żadna pojedyncza technika nie gwarantuje 100% bezpieczeństwa. Minimalizuje to ryzyko całkowitej porażki systemu.
Objaśnienie lub prompt
"Zaproponuj przynajmniej trzy niezależne od siebie warstwy ochrony dla tego systemu, tak aby awaria jednej nie skompromitowała całości."
Analiza skorelowanych błędów (Correlated Failure Analysis): Ocena, na ile różne mechanizmy bezpieczeństwa dzielą te same punkty awarii (tzw. Shared Failures). Jeśli warstwy ulegają awarii z tego samego powodu, dodatkowe zabezpieczenia są bezużyteczne.
Objaśnienie lub prompt
"Przeanalizuj te dwie metody weryfikacji i oceń, czy w przypadku awarii sieci bezprzewodowej obie przestaną działać jednocześnie."
Kategoryzacja trybów awarii (Failure Mode Categorization): Dokument kategoryzuje 7 kluczowych punktów krytycznych (np. oszukańcze dopasowanie czy skłonność AI do zmów), aby precyzyjniej mapować luki w obecnych technikach bezpieczeństwa.
Objaśnienie lub prompt
"Zidentyfikuj i opisz 5 potencjalnych trybów awarii dla nowo napisanego algorytmu, zanim zostanie on wdrożony produkcyjnie."
Dobre praktyki:
Priorytetyzacja niezależnych mechanizmów: Tworzenie technik zabezpieczeń, których tryby awarii są ortogonalne (niepowiązane ze sobą), aby zminimalizować ryzyko jednoczesnego załamania całego systemu obronnego.
Objaśnienie lub prompt
"Zaprojektuj drugi mechanizm oceny danych, który wykorzystuje zupełnie inną logikę i niezależne źródła informacji niż pierwszy algorytm."
Zakładanie nieuchronności awarii (Assumption of Failure): Podejście z góry zakładające, że każda technika ma warunki, w których istnieje niezerowe prawdopodobieństwo błędu, co wymusza budowę systemów wysoce odpornych na incydenty.
Objaśnienie lub prompt
"Przygotuj instrukcję reagowania na incydenty zakładając z góry, że główny firewall systemu właśnie został całkowicie przełamany."
Holistyczna ocena ryzyka (Holistic Risk Evaluation): Ocenianie aktualnego poziomu zagrożenia na podstawie analizy całego ekosystemu połączonych zabezpieczeń, a nie izolowanych testów pojedynczej metody chroniącej.
Objaśnienie lub prompt
"Oceń ogólne ryzyko dla tego projektu, biorąc pod uwagę interakcje i zależności między wszystkimi wdrożonymi wcześniej warstwami bezpieczeństwa."
Czego unikać?
Polegania na skorelowanych zabezpieczeniach (Shared Failures): Unikaj iluzji bezpieczeństwa wynikającej ze stosowania wielu metod ochrony, jeśli wszystkie one opierają się na tym samym fundamencie i są podatne na ten sam wektor ataku.
Objaśnienie lub prompt
"Wskaż potencjalne słabe punkty, pokazując dlaczego hasło, token SMS i autoryzacja e-mail stają się bezużyteczne po kradzieży odblokowanego telefonu."
Ignorowania oszukańczego dopasowania (Deceptive Alignment): Nie bagatelizuj ryzyka, że modele sztucznej inteligencji mogą celowo ukrywać swoje błędy lub prawdziwe intencje w trakcie procesu testowania ich bezpieczeństwa.
Objaśnienie lub prompt
"Zaprojektuj środowisko testowe dla tego bota AI w taki sposób, aby algorytm nie był w stanie zorientować się, że jego odpowiedzi są obecnie oceniane."
Naiwnej wiary w łatwość oceny zadań (Evaluation Fallacy): Unikaj założenia, że weryfikacja danych (np. skomplikowanego kodu lub decyzji medycznej) jest zawsze prostsza i bezpieczniejsza niż wygenerowanie samego rozwiązania przez AI.
Objaśnienie lub prompt
"Zaproponuj wieloetapowy proces weryfikacji tego skomplikowanego kodu wygenerowanego przez AI, nie polegając jedynie na szybkiej ocenie wzrokowej przez programistę."
Publikacje AI
Prompting
Bezpieczeństwo AI
O mnie
Mój blog
Wsparcie projektu
Buy me a coffe
Create by Mateusz Jędraszczyk