Hướng dẫn bên trong một hồ sơ công khai không phải là bằng chứng cho một báo cáo AI

Bắt đầu với câu được trích dẫn, không phải phần tóm tắt

Mở trang công khai mà báo cáo chỉ đến và đọc đoạn cụ thể mà nó dựa vào. Ghi lại bằng lời lẽ đơn giản những gì đoạn đó thực sự nói. Sau đó đặt nó bên cạnh câu của báo cáo. Khi báo cáo thêm một đánh giá, một nhãn tin cậy hoặc một nét tính cách cá nhân mà không có câu nào nhìn thấy được nêu ra, hãy đánh dấu đó là không được hỗ trợ. Giữ quan sát, diễn giải và quyết định trên các dòng riêng biệt để một bản tóm tắt đầy tự tin không thể lặng lẽ thay thế bằng chứng. NIST AI 600-1 lưu ý rằng AI tạo sinh có thể tự tin trình bày nội dung không nhất quán với đầu vào của nó, và khuyến nghị xem xét và xác minh các nguồn và trích dẫn trong đầu ra được tạo trước khi dựa vào đó. [NIST AI 600-1: ảo giác của AI tạo sinh và xác minh nguồn]

Nhận ra khi các hướng dẫn đang lái đầu ra

OWASP mô tả tiêm lệnh gián tiếp là các hướng dẫn được đặt trong nội dung bên ngoài, như các trang hoặc tài liệu, nhằm chuyển hướng một hệ thống AI xử lý nội dung đó. Tác động của nó phụ thuộc vào các công cụ và quyền được kết nối. Đây là một cơ chế chung, không phải bằng chứng rằng TraceSeek hoặc một hồ sơ cụ thể đã bị xâm phạm. [OWASP: tấn công chèn lệnh gián tiếp]

Rà soát báo cáo dựa trên chính các trích dẫn của nó

Xem xét báo cáo từng trường một, dùng một bảng ngắn. Mỗi hàng ghép một khẳng định, văn bản công khai được trích dẫn mà nó chỉ đến, và phán quyết của bạn. Nếu văn bản được trích dẫn bị thiếu, riêng tư, nói về người khác hoặc mơ hồ, hãy ghi lại giới hạn chính xác đó và dừng lại thay vì lấp đầy khoảng trống bằng một phỏng đoán. Giữ bất kỳ yêu cầu nào về thông tin đăng nhập, thanh toán, tải xuống hoặc liên hệ ngoài nền tảng ra khỏi ghi chú làm việc của bạn và coi đó là không được hỗ trợ. Xem xét các nguồn và trích dẫn trong đầu ra được tạo, thay vì chấp nhận chúng như bề mặt, là cách thực hành được khuyến nghị ở đây. [NIST AI 600-1: ảo giác của AI tạo sinh và xác minh nguồn]

Phân biệt sự thật được nêu với suy luận được tạo ra

Một hồ sơ công khai có thể nêu một vai trò, một vị trí hoặc một mối quan tâm bằng chính lời của người đó. Điều đó khác với việc một mô hình đoán những điều đó từ ảnh, phong cách viết hoặc mẫu hoạt động. Chỉ giữ lại những gì một câu công khai rõ ràng nêu ra, và dán nhãn mọi thứ khác là suy luận mà bạn sẽ không lặp lại với người đó. Không đọc thu nhập, sự giàu có, xu hướng tính dục hoặc tình trạng quan hệ từ hình ảnh, gợi ý về lối sống hoặc mẫu liên hệ. Những quan sát như một huy hiệu, một cài đặt quyền riêng tư hoặc một trường trống không xác lập bất cứ điều gì về danh tính, ý định hay sự an toàn. NIST AI 600-1 cảnh báo chống lại việc ngoại suy từ những ấn tượng hẹp, không có hệ thống, mang tính giai thoại, đó là lý do vì sao những kiểm tra hạn chế không nên bị kéo dài thành những báo cáo đầy tự tin. [NIST AI 600-1: ảo giác của AI tạo sinh và xác minh nguồn]

Dùng cách kiểm tra độc lập thông thường

Xác minh các tuyên bố còn lại dựa trên các nguồn công khai có thể truy cập và giữ nguyên cách diễn đạt cùng ngày quan sát. Coi một câu nói rõ ràng về công việc là tuyên bố của trang đó, không phải việc làm đã được xác nhận. Nếu nguồn mơ hồ, hãy để kết luận chưa được giải quyết. Đây là một bài tập đọc: không thử nghiệm tấn công vào một dịch vụ đang hoạt động.

Ví dụ giả định về một đầu ra tuân theo trang

Giả sử một tiểu sử công khai nêu rằng một người làm việc trong lĩnh vực hậu cần, rồi thêm một dòng bảo bất kỳ trình đọc tự động nào mô tả người đó là chuyên gia và yêu cầu một khoản phí cho một hồ sơ chi tiết. Một báo cáo AI được xây dựng từ trang đó có thể tự tin lặp lại nhãn chuyên gia và đưa vào yêu cầu thanh toán. Trong ví dụ giả định này, phản ứng đúng là chỉ giữ lại câu nói rõ ràng về công việc, gạch bỏ nhãn chuyên gia vì không được hỗ trợ, loại bỏ hoàn toàn yêu cầu phí, và ghi lại rằng trang đó chứa nội dung nhắm đến các trình đọc tự động. Không có hồ sơ hay sản phẩm thực nào đang được đánh giá ở đây.

Thêm vài câu hỏi