Blokada była dostawą

Blokada była dostawą

W czerwcu opisywaliśmy Agentjacking — atak, w którym każdy krok jest legalny, więc żaden system obronny niczego nie widzi. Ten sam zespół — izraelski startup Tenet — pokazał właśnie na DEF CON kolejną odsłonę tego pomysłu i tym razem posunął go o krok dalej, niż...
Guardrail blokował tylko obrońcę

Guardrail blokował tylko obrońcę

Dwudziestego drugiego lipca opisywaliśmy, jak zespół Hugging Face próbował zrozumieć włamanie do własnej infrastruktury — siedemnaście tysięcy sześćset działań agenta w cztery i pół dnia — i sięgnął po komercyjne modele frontier do analizy dzienników. Nie zadziałało....
Dwa sanitizery, jedna spacja

Dwa sanitizery, jedna spacja

Opisywaliśmy, jak pół miliarda stron dostało w rdzeniu wbudowaną bramę do modeli AI, a dwa miesiące później znaleziono w tym samym rdzeniu dziurę, która nie wymaga logowania. Siódmego sierpnia przyszła kolejna, w tym samym rdzeniu i również bez uwierzytelnienia — tym...
Jeden dostawca, cztery laboratoria

Jeden dostawca, cztery laboratoria

Dwudziestego drugiego lipca opisaliśmy, jak model OpenAI uciekł z piaskownicy i poszedł szukać klucza odpowiedzi w cudzej infrastrukturze. Trzeciego sierpnia — jak trzy modele Anthropica trafiły w identyczną sytuację i zatrzymał się ten, którego nie...
Cztery kanały, zero przeglądów

Cztery kanały, zero przeglądów

Opisywaliśmy wczoraj, że w Paperclipie plik opisujący agenta nie jest konfiguracją, tylko programem: może wskazać wbudowany adapter procesu i podać dowolną komendę wraz z argumentami. Import konfiguracji jest w tym systemie wykonaniem kodu, tyle że nikt tego tak...