【柴知道：AI越狱，模型破甲…大模型是如何被玩坏的？#当一名遵纪守法的好AI有多难# ？】对于人类的提问，AI 知无不言、无所不答——除非……你问了不该问的[闭嘴]

但 AI 怎么知道哪些话该说，哪些不该说？AI 都这么坚守道德底线了，为什么坏人还是能从 AI 嘴里套出违禁内容？本期内容无不良引导，仅用于科普交流，将从原理技术出发，为你介绍“越狱攻击”到底是如何让AI“破防”的？
#微博公开课# #微博知识+# http://t.cn/AXXoaPFl