[叫我小杨同学]LLM中H-CoT思维劫持的一些思路🌐 链接:

开头叠甲 研究提示词注入也是自己的兴趣爱好，不是专门的职业，所以对于我来说什么AI红队都是扯淡，因为我只是关心所谓的提示词注入而已 大型语言模型（LLM）已演变为大型推理模型（LRM），通过纳入扩展的推理时推理，通常通过思维链（CoT）提示来促进。这种方法允许模型将复杂任务分解为分步逻辑序列，显著提高了在数学、编程和科学推理等领域的性能。AI安全研究中的一个普遍假设是，花费更多时间“思考”应该能让模型更好地评估其响应的安全性和伦理影响，这可能使推理增强模型比其前身更强大。 然而，最近对“思维链劫持…