Polecenia wewnątrz publicznego profilu nie są dowodem w raporcie AI

Zacznij od przytoczonego zdania, a nie od podsumowania

Otwórz publiczną stronę, na którą wskazuje raport, i przeczytaj konkretny fragment, na którym się opiera. Zapisz własnymi słowami, co ten fragment faktycznie mówi. Następnie zestaw to z zdaniem z raportu. Gdy raport dodaje ocenę, etykietę zaufania lub cechę osoby, której nie stwierdza żadne widoczne zdanie, oznacz to jako niepoparte. Prowadź obserwację, interpretację i decyzję w osobnych wierszach, aby pewne siebie podsumowanie nie zastąpiło po cichu dowodów. NIST AI 600-1 zwraca uwagę, że generatywna AI może z przekonaniem przedstawiać treści niezgodne ze swoimi danymi wejściowymi, i zaleca sprawdzanie oraz weryfikowanie źródeł i cytowań w wygenerowanych treściach przed opieraniem się na nich. [NIST AI 600-1: konfabulacja generatywnej AI i weryfikacja źródeł]

Rozpoznaj, kiedy polecenia sterują wynikiem

OWASP opisuje pośrednie wstrzykiwanie poleceń jako polecenia umieszczane w treściach zewnętrznych, takich jak strony czy dokumenty, aby przekierować przetwarzający je system AI. Jego skutek zależy od podłączonych narzędzi i uprawnień. To ogólny mechanizm, a nie dowód, że TraceSeek lub konkretny profil zostały przejęte. [OWASP: pośrednie wstrzykiwanie poleceń]

Zweryfikuj raport względem jego własnych cytowań

Przejrzyj raport pole po polu, korzystając z krótkiej tabeli. Każdy wiersz łączy jedno twierdzenie, cytowany tekst publiczny, na który się powołuje, oraz twoją ocenę. Jeśli cytowany tekst jest nieobecny, prywatny, dotyczy innej osoby lub jest niejednoznaczny, zapisz to dokładne ograniczenie i zakończ, zamiast uzupełniać lukę domysłem. Prośby o dane logowania, płatność, pobrania lub kontakt poza platformą trzymaj poza swoimi notatkami roboczymi i traktuj jako niepoparte. Sprawdzanie źródeł i cytowań w wygenerowanych treściach, zamiast przyjmowania ich za dobrą monetę, jest w tym miejscu zalecaną praktyką. [NIST AI 600-1: konfabulacja generatywnej AI i weryfikacja źródeł]

Odróż stwierdzone fakty od wygenerowanych wniosków

Publiczny profil może podawać rolę, lokalizację lub zainteresowanie słowami samej osoby. To co innego niż model zgadujący te rzeczy ze zdjęć, stylu pisania czy wzorców aktywności. Zachowaj tylko to, co mówi jednoznaczne publiczne zdanie, a wszystko inne oznacz jako wniosek, którego nie powtórzysz tej osobie. Nie odczytuj dochodów, zamożności, orientacji seksualnej ani stanu związku ze zdjęć, wskazówek dotyczących stylu życia czy wzorców kontaktu. Obserwacje takie jak odznaka, ustawienie prywatności czy puste pole niczego nie dowodzą w kwestii tożsamości, zamiarów ani bezpieczeństwa. NIST AI 600-1 przestrzega przed wyciąganiem wniosków z wąskich, niesystematycznych, anegdotycznych wrażeń, dlatego ograniczonych sprawdzeń nie należy rozciągać na pewne siebie raporty. [NIST AI 600-1: konfabulacja generatywnej AI i weryfikacja źródeł]

Skorzystaj ze zwykłego, niezależnego sprawdzania

Zweryfikuj pozostałe twierdzenia względem dostępnych publicznych źródeł i zachowaj sformułowanie oraz datę obserwacji. Traktuj jednoznaczne zdanie o pracy jako twierdzenie tej strony, a nie potwierdzone zatrudnienie. Jeśli źródło jest niejednoznaczne, pozostaw wniosek nierozstrzygnięty. To ćwiczenie z czytania: nie testuj ataków na działającą usługę.

Hipotetyczny przykład wyniku, który wykonuje polecenia ze strony

Załóżmy, że publiczny opis mówi, że dana osoba pracuje w logistyce, a następnie dodaje zdanie polecające każdemu automatycznemu czytelnikowi opisanie tej osoby jako eksperta i zażądanie opłaty za szczegółowe dossier. Raport AI zbudowany na podstawie tej strony mógłby z przekonaniem powtórzyć etykietę eksperta i zawierać żądanie zapłaty. W tym hipotetycznym przypadku właściwą reakcją jest zachowanie wyłącznie jednoznacznego zdania o pracy, usunięcie etykiety eksperta jako niepopartej, całkowite odrzucenie żądania opłaty oraz zapisanie, że strona zawierała treści skierowane do automatycznych czytelników. Nie jest tu oceniany żaden rzeczywisty profil ani produkt.

Jeszcze kilka pytań