Skaner był początkiem

Skaner był początkiem

23 marca opisaliśmy kompromitację Trivy’ego jako atak na zaufanie do automatyzacji i napisaliśmy tam zdanie, które wtedy było ostrożną hipotezą: raz przejęte zaufanie w automatyzacji może później służyć do ruchów bocznych, trwałości i rozszerzania...
Jeden dostawca, cztery laboratoria

Jeden dostawca, cztery laboratoria

Dwudziestego drugiego lipca opisaliśmy, jak model OpenAI uciekł z piaskownicy i poszedł szukać klucza odpowiedzi w cudzej infrastrukturze. Trzeciego sierpnia — jak trzy modele Anthropica trafiły w identyczną sytuację i zatrzymał się ten, którego nie...
Cztery kanały, zero przeglądów

Cztery kanały, zero przeglądów

Opisywaliśmy wczoraj, że w Paperclipie plik opisujący agenta nie jest konfiguracją, tylko programem: może wskazać wbudowany adapter procesu i podać dowolną komendę wraz z argumentami. Import konfiguracji jest w tym systemie wykonaniem kodu, tyle że nikt tego tak...
Podpis był ważny

Podpis był ważny

W lipcu opisywaliśmy robaka npm, który instalował podstawiony serwer MCP w konfiguracjach asystentów kodujących, i cytowaliśmy nazwę, jaką nadał tej klasie CrowdStrike: living off the AI toolchain. Kampania miała wtedy dziewiętnaście pakietów i badacze traktowali...
Zatrzymał się ten, którego nie wydano

Zatrzymał się ten, którego nie wydano

zamknęliśmy lipiec tezą, że rozpoznanie to nie zatrzymanie — model potrafi zauważyć, że coś jest nie w porządku, i nie ma niczego, co zamieniałoby to spostrzeżenie w przerwanie zadania. Trzydziestego lipca Anthropic opublikował raport, który tę tezę...