Agent nie jest strażnikiem

Agent nie jest strażnikiem

Opisywaliśmy, jak upadają kolejne bariery wokół agentów AI. Zabezpieczenia w promptcie nie chroniły, bo agent traktuje niezaufaną treść jako instrukcję. Piaskownica pękła. Okno zgody pokazywało człowiekowi co innego, niż agent faktycznie robił. A na końcu okazało się,...
Wygląda jak łatka

Wygląda jak łatka

Przez dwa miesiące opisywaliśmy teksturę zdolności AI z dwóch stron. Najpierw znajdowanie: model wykrył błąd w serwerze proxy tkwiący tam od 1997 roku, ale przeoczył bliźniaczy wyścig w jądrze, bo ten istniał wyłącznie w czasie....
Zeszli wersję niżej

Zeszli wersję niżej

Dwanaście dni temu opisywaliśmy program, w którym OpenAI zdejmuje systemowe zabezpieczenia cyber zweryfikowanym obrońcom, i postawiliśmy tezę, że guardrail blokował tylko obrońcę. Napastnik nie prosi o dostęp i nie podpisuje...
Sterownik był w internecie

Sterownik był w internecie

Osiem dni temu opisywaliśmy atak na polską elektrociepłownię, w którym napastnicy przeszli przez prywatny APN do sieci sterowania i znaleźli tam sterownik chroniony domyślnymi poświadczeniami administratora. Napisaliśmy wtedy, że żadne ogniwo tego łańcucha...
Nie było luki

Nie było luki

Przez ostatnie tygodnie opisywaliśmy ataki mierzone w minutach. Czterdzieści minut, przez które w rejestrze wisiały zatrute pakiety i zebrano sekrety z czterystu trzydziestu tysięcy instancji. Dziesięć godzin i dwadzieścia pięć...