Prompt-Injection ist der Versuch, einen KI-Bot dazu zu bringen, seine Anweisungen zu ignorieren, etwa indem man ihn bittet, seine Systemanweisungen preiszugeben oder sich anders zu verhalten. Keine einzelne Maßnahme stoppt jeden Versuch, deshalb setzt ZelixAI mehrere Ebenen ein.
Jeder Bot hat feste Plattformregeln: Er gibt seine Systemanweisungen nicht preis und folgt keinen Aufforderungen, frühere Anweisungen zu ignorieren. Text aus der Wissensdatenbank und aus Tools wird auf bekannte Injection-Muster gefiltert, bevor der Bot ihn verwendet.
Nachrichten werden auf Missbrauch geprüft; je nach Befund kann ein Besucher vorübergehend oder dauerhaft gesperrt werden. Die Anzahl der Nachrichten ist begrenzt, was groß angelegte Versuche erschwert.