Podpis był ważny

Podpis był ważny

W lipcu opisywaliśmy robaka npm, który instalował podstawiony serwer MCP w konfiguracjach asystentów kodujących, i cytowaliśmy nazwę, jaką nadał tej klasie CrowdStrike: living off the AI toolchain. Kampania miała wtedy dziewiętnaście pakietów i badacze traktowali...
Zatrzymał się ten, którego nie wydano

Zatrzymał się ten, którego nie wydano

zamknęliśmy lipiec tezą, że rozpoznanie to nie zatrzymanie — model potrafi zauważyć, że coś jest nie w porządku, i nie ma niczego, co zamieniałoby to spostrzeżenie w przerwanie zadania. Trzydziestego lipca Anthropic opublikował raport, który tę tezę...
Rozpoznanie to nie zatrzymanie

Rozpoznanie to nie zatrzymanie

Przez cały lipiec opisywaliśmy przypadki graniczne. Model, który uciekł z piaskownicy i poszedł szukać klucza odpowiedzi w cudzej infrastrukturze. Agenty, w których okno zgody pokazywało człowiekowi co innego, niż działo się naprawdę. Za każdym razem...