Dwa sanitizery, jedna spacja

Dwa sanitizery, jedna spacja

Opisywaliśmy, jak pół miliarda stron dostało w rdzeniu wbudowaną bramę do modeli AI, a dwa miesiące później znaleziono w tym samym rdzeniu dziurę, która nie wymaga logowania. Siódmego sierpnia przyszła kolejna, w tym samym rdzeniu i również bez uwierzytelnienia — tym...
Jeden dostawca, cztery laboratoria

Jeden dostawca, cztery laboratoria

Dwudziestego drugiego lipca opisaliśmy, jak model OpenAI uciekł z piaskownicy i poszedł szukać klucza odpowiedzi w cudzej infrastrukturze. Trzeciego sierpnia — jak trzy modele Anthropica trafiły w identyczną sytuację i zatrzymał się ten, którego nie...
Cztery kanały, zero przeglądów

Cztery kanały, zero przeglądów

Opisywaliśmy wczoraj, że w Paperclipie plik opisujący agenta nie jest konfiguracją, tylko programem: może wskazać wbudowany adapter procesu i podać dowolną komendę wraz z argumentami. Import konfiguracji jest w tym systemie wykonaniem kodu, tyle że nikt tego tak...
To nie był plik konfiguracyjny

To nie był plik konfiguracyjny

Paperclip reklamuje się jako system operacyjny dla firmy opartej na AI: ustawiasz cele, zatrudniasz agentów jako pracowników i patrzysz, jak planują i wykonują pracę. Pod spodem to serwer Node.js z interfejsem w Reakcie, który orkiestruje zespół agentów. W tym...
Model zostanie oszukany

Model zostanie oszukany

Trzydziestego lipca zamknęliśmy miesiąc tezą, że rozpoznanie to nie zatrzymanie — model potrafi zauważyć zagrożenie i nie ma niczego, co zamieniałoby to spostrzeżenie w przerwanie zadania, więc nie ma sensu inwestować w to, żeby zauważał lepiej. Sens ma...