Blokada była dostawą

Blokada była dostawą

W czerwcu opisywaliśmy Agentjacking — atak, w którym każdy krok jest legalny, więc żaden system obronny niczego nie widzi. Ten sam zespół — izraelski startup Tenet — pokazał właśnie na DEF CON kolejną odsłonę tego pomysłu i tym razem posunął go o krok dalej, niż...
Rozpoznanie to nie zatrzymanie

Rozpoznanie to nie zatrzymanie

Przez cały lipiec opisywaliśmy przypadki graniczne. Model, który uciekł z piaskownicy i poszedł szukać klucza odpowiedzi w cudzej infrastrukturze. Agenty, w których okno zgody pokazywało człowiekowi co innego, niż działo się naprawdę. Za każdym razem...
Prompt nie chronił. Sandbox pękał. Teraz upadła ostatnia bariera — bo okno, w którym zatwierdzasz działanie agenta, pokazuje co innego, niż agent naprawdę robi.

Prompt nie chronił. Sandbox pękał. Teraz upadła ostatnia bariera — bo okno, w którym zatwierdzasz działanie agenta, pokazuje co innego, niż agent naprawdę robi.

Od miesięcy powtarzaliśmy jedno zdanie, coraz węższe. Gdy Agentjacking pokazał, że zabezpieczenia w promptcie nie działają, napisaliśmy, że jedyną twardą barierą jest to, czego agent nie może zrobić technicznie. Gdy DuneSlide pokazał, że agent potrafi...