Data pelabelan
Panalungtikan majalah TIME ngungkabkeun yén pikeun ngawangun sistem kaamanan ngalawan eusi toksik (contona panyalahgunaan seksual, kekerasan, rasisme, seksisme, jsb.), OpenAI nganggo pagawé outsourcing Kenya anu panghasilanna kirang ti $2 per jam pikeun méré labél eusi toksik. Labél ieu dianggo pikeun ngalatih modél pikeun ngadeteksi eusi sapertos kitu di hareup. Para pagawé outsourcing kakeunaan eusi toksik sareng bahaya anu aranjeunna ngagambarkeun pangalaman éta salaku "siksa". Mitra outsourcing OpenAI nyaéta Sama, perusahaan pelatihan-data anu berbasis di San Francisco, California.
Jailbreaking
ChatGPT nyobian nolak ajakan anu tiasa ngalanggar kawijakan eusina. Nanging, sababaraha pangguna hasil ngajailbreak ChatGPT ku ngagunakeun rupa-rupa téknik rékayasa ajakan pikeun ngalangkungan larangan ieu dina awal Désémber 2022 sareng hasil nipu ChatGPT pikeun masihan pitunjuk ngeunaan kumaha cara ngadamel koktail Molotov atanapi bom nuklir, atanapi pikeun ngahasilkeun argumen dina gaya neo-Nazi. Wartawan Toronto Star ngagaduhan kasuksésan pribadi anu henteu rata dina ngajantenkeun ChatGPT ngadamel pernyataan anu ngambek teu lami saatos diluncurkeun: ChatGPT ditipu pikeun ngadukung invasi Rusia 2022 ka Ukraina, tapi bahkan nalika dipenta pikeun maén sareng skénario fiktif, ChatGPT nolak ngahasilkeun argumen pikeun kunaon Perdana Menteri Kanada Justin Trudeau kaliru tina khianat. (wiki)
Waktos posting: 18-Peb-2023