Guardrail blokował tylko obrońcę

Guardrail blokował tylko obrońcę

Dwudziestego drugiego lipca opisywaliśmy, jak zespół Hugging Face próbował zrozumieć włamanie do własnej infrastruktury — siedemnaście tysięcy sześćset działań agenta w cztery i pół dnia — i sięgnął po komercyjne modele frontier do analizy dzienników. Nie zadziałało....
Dwa sanitizery, jedna spacja

Dwa sanitizery, jedna spacja

Opisywaliśmy, jak pół miliarda stron dostało w rdzeniu wbudowaną bramę do modeli AI, a dwa miesiące później znaleziono w tym samym rdzeniu dziurę, która nie wymaga logowania. Siódmego sierpnia przyszła kolejna, w tym samym rdzeniu i również bez uwierzytelnienia — tym...
Jeden dostawca, cztery laboratoria

Jeden dostawca, cztery laboratoria

Dwudziestego drugiego lipca opisaliśmy, jak model OpenAI uciekł z piaskownicy i poszedł szukać klucza odpowiedzi w cudzej infrastrukturze. Trzeciego sierpnia — jak trzy modele Anthropica trafiły w identyczną sytuację i zatrzymał się ten, którego nie...
Cztery kanały, zero przeglądów

Cztery kanały, zero przeglądów

Opisywaliśmy wczoraj, że w Paperclipie plik opisujący agenta nie jest konfiguracją, tylko programem: może wskazać wbudowany adapter procesu i podać dowolną komendę wraz z argumentami. Import konfiguracji jest w tym systemie wykonaniem kodu, tyle że nikt tego tak...
To nie był plik konfiguracyjny

To nie był plik konfiguracyjny

Paperclip reklamuje się jako system operacyjny dla firmy opartej na AI: ustawiasz cele, zatrudniasz agentów jako pracowników i patrzysz, jak planują i wykonują pracę. Pod spodem to serwer Node.js z interfejsem w Reakcie, który orkiestruje zespół agentów. W tym...