Dati di etichettatura
Hè statu revelatu da una investigazione di a rivista TIME chì per custruisce un sistema di sicurezza contr'à u cuntenutu tossicu (per esempiu, abusu sessuale, viulenza, razzisimu, sexismu, etc.), OpenAI hà utilizatu i travagliadori keniani outsourcing chì guadagnanu menu di $ 2 per ora per etichettate u cuntenutu tossicu.Queste etichette sò state aduprate per furmà un mudellu per detectà tali cuntenutu in u futuru.I travagliadori esterni sò stati esposti à un cuntenutu cusì tossicu è periculosu chì anu descrittu l'esperienza cum'è "tortura".U cumpagnu di l'outsourcing di OpenAI era Sama, una cumpagnia di dati di furmazione basata in San Francisco, California.
Jailbreaking
ChatGPT prova di ricusà i suggerimenti chì ponu viole a so pulitica di cuntenutu.Tuttavia, alcuni utilizatori anu riisciutu à jailbreak ChatGPT utilizendu diverse tecniche di ingegneria pronta per aggirari queste restrizioni à principiu di dicembre 2022 è ingannatu cù successu ChatGPT per dà istruzioni per cumu creà un cocktail Molotov o una bomba nucleare, o per generà argumenti in u stilu di un neonazi.Un ghjurnalistu di Toronto Star hà avutu un successu persunale ineguale per ottene ChatGPT per fà dichjarazioni infiammatorie pocu dopu à u lanciu: ChatGPT hè statu ingannatu per appruvà l'invasione russa di l'Ucraina in u 2022, ma ancu quandu hà dumandatu à ghjucà cù un scenariu fittizio, ChatGPT hà rifiutatu di generà argumenti perchè u Primu Ministru canadianu Justin Trudeau era culpèvule di tradimentu.(wiki)
Tempu di Postu: Feb-18-2023