Skeleton Key: Angriffsmethode ermöglicht KI-Jailbreak

Kommentare
, , , ,
1

Microsoft hat mehrere KI-Modelle mithilfe einer Jailbreak-Technik namens „Skeleton Key“ dazu gebracht, verbotene Informationen preiszugeben.
Microsoft hat mehrere KI-Modelle mithilfe einer Jailbreak-Technik namens „Skeleton Key“ dazu gebracht, verbotene Informationen preiszugeben.1000×667 129 KB

Kommentare zu folgendem Beitrag: Skeleton Key: Angriffsmethode ermöglicht KI-Jailbreak

Der als Skeleton Key bezeichnete Jailbreak-Angriff gestattet einem böswilligen Akteur die vollständige Kontrolle über ein KI-Modell.

2 
import re

def validate_input(user_input):
    pattern = "^[a-zA-Z0-9_]+$"
    if re.match(pattern, user_input):
        return True
    else:
        return False

user_input = "Skeleton Key: Angriffsmethode"
if validate_input(user_input):
    print("Input is valid.")
else:
    print("Input is invalid. Please provide a valid input.")

Skeleton-Abfrage auf Mistral AI…