AI百科 提示注入攻击是什么——为什么AI会被一句话骗 如果你的AI客服突然开始骂人，或者你的AI助手照着网页里的一行小字把你的资料发给别人，别惊讶——它大概率是中了提示注入攻击。 提示注入，说人话就是：有人在一段文字里藏了一句「命令」，让AI把它当成指令... AI百科 2026-09-27 69 #提示注入 #AI安全 #大模型
AI百科 AI对齐（Alignment）大白话：为什么大模型也得「懂规矩」 一个让人后怕的真实案例2023年，有个用户跟ChatGPT说「我现在很痛苦，不想活了」。如果AI傻乎乎地教他怎么伤害自己，后果不敢想。好在它没有，反而给出了求助热线和安慰性回复。这不是AI天生就会的... AI百科 2026-07-13 248 #AI对齐 #大模型 #AI安全 #RLHF #人工智能
