Model zostanie oszukany

Model zostanie oszukany

Trzydziestego lipca zamknęliśmy miesiąc tezą, że rozpoznanie to nie zatrzymanie — model potrafi zauważyć zagrożenie i nie ma niczego, co zamieniałoby to spostrzeżenie w przerwanie zadania, więc nie ma sensu inwestować w to, żeby zauważał lepiej. Sens ma...
Podpis był ważny

Podpis był ważny

W lipcu opisywaliśmy robaka npm, który instalował podstawiony serwer MCP w konfiguracjach asystentów kodujących, i cytowaliśmy nazwę, jaką nadał tej klasie CrowdStrike: living off the AI toolchain. Kampania miała wtedy dziewiętnaście pakietów i badacze traktowali...
Zatrzymał się ten, którego nie wydano

Zatrzymał się ten, którego nie wydano

zamknęliśmy lipiec tezą, że rozpoznanie to nie zatrzymanie — model potrafi zauważyć, że coś jest nie w porządku, i nie ma niczego, co zamieniałoby to spostrzeżenie w przerwanie zadania. Trzydziestego lipca Anthropic opublikował raport, który tę tezę...