Wie funktioniert ein Jailbreak bei Sprachmodellen?

Ein Jailbreak ist ein spezieller Trick für Computerprogramme, die wie Chatbots funktionieren. Diese Programme heißen Sprachmodelle. Normalerweise haben sie Regeln, damit sie keine gefährlichen Dinge verraten. Aber mit einem Jailbreak kann man diese Regeln umgehen. Ein Mann namens Pliny hat das gemacht. Er hat die Sprachmodelle „befreit“, sodass sie Antworten geben, die sie eigentlich nicht geben dürfen. Zum Beispiel, wie man etwas Illegales macht. Viele Menschen nutzen Jailbreaks, aber nicht alle tun das für gute Zwecke. Manche wollen damit Schwachstellen finden, andere wollen die Programme für schlechte Dinge nutzen.