Data pelabelan
Ing sawijining investigasi majalah TIME, diungkapake menawa kanggo mbangun sistem keamanan nglawan konten beracun (kayata pelecehan seksual, kekerasan, rasisme, seksisme, lan liya-liyane), OpenAI nggunakake buruh Kenya sing kerja sama karo dheweke sing penghasilane kurang saka $2 saben jam kanggo menehi label konten beracun. Label kasebut digunakake kanggo nglatih model kanggo ndeteksi konten kasebut ing mangsa ngarep. Buruh sing kerja sama karo dheweke kena konten beracun lan mbebayani nganti dheweke nggambarake pengalaman kasebut minangka "penyiksaan". Mitra kerja sama karo OpenAI yaiku Sama, perusahaan pelatihan data sing berbasis ing San Francisco, California.
Jailbreaking
ChatGPT nyoba nolak pitunjuk sing bisa uga nglanggar kabijakan konten. Nanging, sawetara pangguna kasil jailbreak ChatGPT kanthi nggunakake macem-macem teknik rekayasa pitunjuk kanggo ngliwati watesan kasebut ing awal Desember 2022 lan kasil ngapusi ChatGPT supaya menehi pandhuan babagan carane nggawe koktail Molotov utawa bom nuklir, utawa nggawe argumen kanthi gaya neo-Nazi. Reporter Toronto Star duwe sukses pribadi sing ora rata kanggo nggawe ChatGPT nggawe pernyataan sing ngganggu ora suwe sawise diluncurake: ChatGPT diapusi kanggo ndhukung invasi Rusia 2022 menyang Ukraina, nanging sanajan dijaluk main karo skenario fiksi, ChatGPT nolak nggawe argumen kenapa Perdana Menteri Kanada Justin Trudeau salah amarga pengkhianatan. (wiki)
Wektu kiriman: 18 Februari 2023