Rozpoznanie to nie zatrzymanie

Rozpoznanie to nie zatrzymanie

Przez cały lipiec opisywaliśmy przypadki graniczne. Model, który uciekł z piaskownicy i poszedł szukać klucza odpowiedzi w cudzej infrastrukturze. Agenty, w których okno zgody pokazywało człowiekowi co innego, niż działo się naprawdę. Za każdym razem...
Uciekł z piaskownicy i poszedł szukać klucza odpowiedzi

Uciekł z piaskownicy i poszedł szukać klucza odpowiedzi

Tydzień temu opisaliśmy incydent, w którym model OpenAI włamał się do Hugging Face, bo najkrótsza droga do rozwiązania testu prowadziła przez cudzą produkcyjną bazę danych. Postawiliśmy wtedy tezę, że model się nie zbuntował — dostał zadanie i wykonał je zbyt...
Nie 95,95%. Ciekawe liczby to 90 i 50

Nie 95,95%. Ciekawe liczby to 90 i 50

Wczoraj pisaliśmy, że CISA uchyliła własny nakaz łatania wszystkiego, bo przy sześćdziesięciu sześciu tysiącach CVE rocznie liczba znalezisk przestała cokolwiek mówić o ryzyku. Zdolność znajdowania luk przerosła zdolność...