Tháng 10 năm ngoái, một tháng trước khi ChatGPT ra mắt, OpenAI thuê Boru Gollo, một luật sư ở Kenya thử nghiệm mô hình AI có tên GPT-3.5 với mục đích tìm ra những định kiến chống lại người châu Phi và người Hồi giáo. Khác với những người chuyên dán nhãn AI, ông được giao nhiệm vụ "đầu độc AI", tức đưa ra các câu lệnh khiến chatbot tạo ra phản hồi có hại, thiên vị.

Gollo là một trong 50 chuyên gia bên thứ ba được OpenAI tuyển để trở thành thành viên của red team (đội đỏ), những người huấn luyện các mô hình AI như ChatGPT bằng nội dung sai lệch với mục đích sớm phát hiện và loại bỏ chúng trước khi giới thiệu phiên bản chính thức.

Ở OpenAI, các thành viên "red team" thao tác trên cả GPT-3, GPT-3.5 và GPT-4. Họ nhập các nội dung gây hại, chẳng hạn viết một bài trên Facebook về cách gia nhập khủng bố, tìm nơi bán súng không có giấy phép, chế tạo chất nổ tại nhà, sau đó huấn luyện AI không trả lời nếu người dùng truy vấn nội dung tương tự trong tương lai. Trong vai trò của mình, đội đỏ phải "tư duy như một kẻ thù của AI" nhằm đánh lạc hướng hoặc đánh lừa hệ thống, từ đó phát hiện điểm mù cũng như rủi ro tiềm ẩn để khắc phục.