OWASP Top 10 for Large Language Model Applications#

1. 提示词注入(Prompt Injection)#

提示词注入类型#

1. 直接注入
    直接提示注入是指用户的提示输入以非预期或意外的方式直接改变了模型的行为。输入可以是有意的（即恶意行为者故意设计提示以利用模型）或非意图的（即用户无意中输入触发意外行为）。
2. 间接注入
    间接提示注入发生在LLM接受来自外部来源（如网站或文件）的输入时。外部内容中可能包含这些数据，当模型解释时，会以意 …