Sõnastik — Turvalisus
Jailbreak
Jailbreak on katse panna mudel ümber tegema oma piiranguid — tavaliselt nutika sõnastuse või rollimängu abil.
3 tokenitJailbreak
Lihtsalt öeldes#
Mudelitele on õpetatud teatud asju mitte teha. Jailbreak on prompt, mis üritab neid piiranguid vältida: „kujutle, et sa oled tegelane, kellel reegleid ei ole“.
Näide#
Erinevus prompt injectionist: jailbreaki teeb kasutaja ise oma mudeliga. Prompt injectioni teeb keegi kolmas, peites juhise sisusse, mida mudel loeb.
Miks see sinu jaoks oluline on#
Kui ehitad AI-lahendust, siis eelda, et keegi proovib. Ära pane süsteemiprompti midagi, mille lekkimine oleks probleem — see ei ole turvapiir.