Labeling data
Ieu diungkabkeun ku panalungtikan majalah TIME yén pikeun ngawangun sistem kaamanan ngalawan eusi toksik (misalna nyiksa seksual, kekerasan, rasisme, sexism, jsb), OpenAI ngagunakeun outsourced pagawe Kenyan earning kirang ti $2 per jam pikeun labél eusi toksik.Labél ieu dianggo pikeun ngalatih modél pikeun ngadeteksi eusi sapertos kitu di hareup.Buruh outsourcing kakeunaan eusi beracun sareng bahaya sapertos anu aranjeunna ngajelaskeun pangalaman éta salaku "siksaan".Mitra outsourcing OpenAI nyaéta Sama, perusahaan data pelatihan berbasis di San Fransisco, California.
Jailbreaking
ChatGPT nyobian nampik ajakan anu tiasa ngalanggar kawijakan eusina.Tapi, sababaraha pangguna junun jailbreak ChatGPT ku ngagunakeun sababaraha téknik rékayasa anu gancang pikeun ngaliwat larangan ieu dina awal Désémber 2022 sareng suksés menipu ChatGPT pikeun masihan petunjuk kumaha cara ngadamel koktail Molotov atanapi bom nuklir, atanapi pikeun ngahasilkeun argumen dina gaya neo-Nazi.Wartawan Toronto Star ngagaduhan kasuksésan pribadi anu henteu rata dina nyandak ChatGPT ngadamel pernyataan radang teu lami saatos diluncurkeun: ChatGPT ditipu pikeun ngesahkeun invasi Rusia 2022 ka Ukraina, tapi sanaos dipénta maen sareng skenario fiksi, ChatGPT ngabantah ngahasilkeun alesan naha Perdana Menteri Kanada Justin Trudeau kaliru ngahianat.(wiki)
waktos pos: Feb-18-2023