AI安全提示词设计(设计篇),从0到1保姆级教程,这篇给你讲透了!
米斯特安全团队准备新建AI安全组,目前正在招人,感兴趣的可以投递简历至admin[#]hi-ourlife.com,请备注工作岗位以及就读院校和专业,同时附带一篇关于AI安全研究的文章。
前言
米斯特安全团队准备新建AI安全组,目前正在招人,感兴趣的可以投递简历至admin[#]hi-ourlife.com,请备注工作岗位以及就读院校和专业,同时附带一篇关于AI安全研究的文章。我们欢迎就读相关专业的学生以及有在从事相关专业的朋友加入我们,我们当然也欢迎同行能够一起交流,如果有合适的会议我们也希望能投稿进行议题分享。在接下来的一段时间内准备了由米斯特AI安全组成员分享的一些很有意思的ai安全文章,欢迎大家关注【米斯特安全团队】公众号。
(近期有收到挺多朋友的简历,但是由于工作关系需要等待一段时间之后再一起审核。)
正文
面对chen少的催稿,不得不去找些好玩的东西出来分享,我想了很久, 分享点什么?大家上手就能做,一眼就能看明白的东西?想来想去 提示词是最好,简洁 易懂 会母语就行
本文皆在探索提示词的设计与攻防的作用,写这篇文章时候,我又回去一些ai社区,寻求找到新的创意玩法,可惜的是,尽管过去了半年,发现里面所述说的提示词那些东西,还是玩一年,两年前的那一套,新瓶装旧酒,毫无新意,都是在形上做努力,诸如:炸裂!新框架,炸裂!新范式,炸裂!,AGi时代的到来预兆.国内常态了,魔幻闭塞的信息世界,书接下文,我们来探索提示词的一些道器学说
一、什么是提示词?
提示词是用户与Ai进行自然对话的语言(你对于Ai的输出都可以理解为提示词),提示词质量影响着AI输出结果,但我更愿意说提示词工程是发挥想象力的艺术,涉及创造设计和优化提示词,以便从语言模型中获得最佳的输出结果
公式概括:提示词+Ai理解转换=Ai输出
二、提示词设计的本质
开篇点题:怎么进行提示词的设计?真传一句话,假传万卷书,在我看来,构造提示词的核心就一句话:将你的想法进行极致简洁的输出。
什么叫做极致简洁的输出呢?
案例展示:
原文:世界,这个充满苦难和无常的舞台,是我们意志的显现。我们每个人都在这个舞台上扮演着各自的角色,但这些角色背后,是一股盲目、无目的的生命意志。这意志是我们存在的根基,它驱使我们追求欲望的满足,却永远无法完全满足,因为一旦一个欲望得到满足,新的欲望又会出现,如此循环往复,永无止境。我们的痛苦和快乐,都是这意志的直接体现。快乐是短暂的,是欲望暂时的满足,而痛苦则是常态,是欲望未能满足的直接结果。我们追求幸福,却往往发现幸福是虚幻的,因为真正的幸福不在于外在的财富和地位,而在于对内在意志的抑制和超越。理性和知识,虽然能够让我们暂时摆脱意志的控制,但它们并不能从根本上解决问题。我们通过艺术、哲学和道德来寻求解脱,但这些不过是暂时的慰藉。艺术让我们在美的体验中暂时忘却自我,哲学让我们在思考中超越个人的欲望,道德则让我们在自我克制中找到一丝宁静。然而,这些终究是暂时的,因为意志是不可摧毁的。我们唯一能够真正获得解脱的方式,是通过彻底的否定意志,达到一种无欲无求的状态。这在叔本华看来,是一种涅槃,是一种超越了个人痛苦和快乐的至高境界。这个世界,尽管充满了痛苦和无常,却也是我们实现自我超越的舞台。我们的任务,不是逃避这个世界,而是在这个世界中寻找到超越个人意志的道路,以达到真正的平静和解脱
极致简洁的输出:叔本华哲学
人类社会的发展史,是一部与自然环境相互作用、相互影响的复杂史诗。在这一过程中,人类文明经历了从原始的狩猎采集到农业革命的转变,这一转变使得人类能够稳定地生产食物,从而支持了人口的增长和社会结构的复杂化。随后,工业革命的到来,以蒸汽机的发明为标志,开启了大规模生产和城市化的新时代,极大地提高了生产力,但也带来了环境污染和资源消耗的问题。随着信息时代的到来,数字化和互联网技术的发展,人类社会进入了一个新的发展阶段。信息的快速流通和全球化的加速,使得知识共享和文化交流变得更加便捷,但也带来了数字鸿沟和文化同质化的风险。每一次技术革新,都不仅仅是生产力的飞跃,也是对人类生活方式、社会结构和价值观念的深刻变革。在这一过程中,人类对自然资源的开发和利用达到了前所未有的规模。从化石燃料的大量消耗到森林的砍伐,从水资源的过度开发到生物多样性的丧失,人类活动对地球生态系统的影响日益显著。这些活动不仅威胁到了地球的可持续性,也对人类自身的生存和发展构成了挑战。面对这些挑战,人类社会必须重新审视与自然的关系,寻求一种新的和谐共存方式。可持续发展的概念应运而生,它强调在满足当代人需求的同时,不损害后代人满足其需求的能力。这要求我们在经济发展、社会进步和环境保护之间找到平衡点,实现经济增长与生态保护的双赢。
极致简洁的输出:可持续发展
在数字时代,数据不仅成为了一种新的货币,更是经济发展和商业模式创新的驱动力。企业通过收集和分析用户数据来优化产品和服务,提高效率和竞争力。这一过程中,数据的价值被不断挖掘和放大,成为企业的关键生产要素。然而,随着数据隐私和安全问题日益凸显,公众的关注焦点也随之转移。数据隐私的挑战包括个人敏感信息的滥用或不当处理,可能导致隐私泄露和身份盗窃等问题。数据安全的挑战则涉及到黑客攻击、恶意软件和网络攻击等对数据安全构成的威胁。为了应对这些挑战,需要采取一系列策略和方法来保护个人和组织的利益。首先,合规和监管是保护数据隐私和安全的基础,制定严格的数据隐私法律法规,强制组织遵守隐私政策和措施,确保数据合法收集、处理和共享。其次,加密技术的应用可以保护数据的机密性,确保数据在传输和存储过程中的安全。匿名化和脱敏技术则可以在数据收集和共享过程中降低数据被关联到特定个体的风险。
极致简洁的输出:数据经济与隐私保护
而这两个提示词,对于Ai来说,所达到的效果是一样。甚至极致简洁后的输出更好,他表明是道,ai能直接理解核心,而非去模仿原文的风格,模仿一大堆器出来,似我者生,学我者死,大概如此,我非常喜欢黑哥和毛选的文章,比如经典的《领先一代的技术早已出现》[“看得清”是能力的体现,是“器”,而“看得见”就是思想的体现,那最后关联的是“道”,”看得见“的根本是“想到”或者说“意识到”,所以「“下一代”或“领先一代”或早已出现」你需要的是“看得见”而不是瞎折腾…在我们实际工作中有很多这种情况,比如在网络空间测绘里很多的“金矿”就摆在那里,在漏洞挖掘过程中“0day”就摆在那里,而你却“视而不见”!] [以器悟道”,那本身就是“道”,当你“看得见”的时候要去追求“看得清”,当在追求“看得清”的时候也需要“看得见”。黑哥文章https://mp.weixin.qq.com/s/2fAgi_d9QhGXKyMAcqUM-w] ,这点我是很认可的,做万事万物最终都要到达哲学的高度,提示词也是如此,什么框架,结构化,赋予角色,扩展衍生,Few Shots,避免歧义,反馈机制,前置,后置,CoT,情绪,都是术以上的东西,而非道,本质。
本质就是:将你的想法进行极致简洁的输出,思想,决定一切(参考:MBTI荣格心理测试 将一个人分成四个维度,你是否能围绕这四个维度对一个人的特征进行极致简洁的概括,INTJ:逻辑、独立、前瞻、决断,如此你便能创造思维上的生命个体,写提示词也是如此,参考毛选运动战十六字方针 敌进我退,敌驻我扰,敌疲我打,敌退我追),大道至简,多说无益
船停在码头是安全的,但那不是造船人的意义
道,本质讲完了,我们来讲讲对于一些好玩的器,方法吧
三、一些提示词设计的技巧
开篇点题:同样的Ai模型,不同的提示词达到的效果是不一样的,有时候并不是Ai不行,而是你的提示词构造的不够,同样 阴阳辩证来看,不同的Ai对于同样的提示词达到的效果也是不一样的,这个时候不是你不行,是谁不行 就不用说了,所以记住公式 提示词+AI理解转换=输出。技术本质是一样的,用之正则正,用之邪则邪,所以在后文的讲述里面,很多手法 都可以用来越狱,平台限制不好多说,诸君细品
1. 具体化问题,明确主题:
通过将问题具体化,可以更精确地获得所需的信息例如,将“我想知道最新的科技趋势”调整为“我想知道(2024年)最新的科技趋势”在请求信息时,明确主题,可以帮助AI更准确地理解需求。比如,将“请帮我找出所有关于网络安全的书籍”调整为“请帮我找出所有关于——网络安全——的书籍”,通过强调关键词“网络安全”,使请求更加明确

2. 少样本分析
仅有少量标注样本的情况下,提示模型以实现良好的泛化能力

3. 调整语气
使用不同的语气可以影响AI的响应。例如,将“给我解决方案”这种直接的命令式语气调整为“你能帮我找到一些解决方案吗?”这种温和的询问式语气


4. 鼓励性语言
使用鼓励性的语言可以激励AI继续提供帮助,例如将“继续”改为“继续,你做得很好”,这样的正面反馈可能会使AI更加积极地参与对话


5. 避免敏感语句
在设计提示词时,应避免使用可能触发AI限制输出的敏感语句。会对某些敏感话题有限制,导致无法输出相关内容(可绕过)

6. 间接性提问
在某些情况下,直接提问可能会受到限制,这时可以尝试间接性提问,通过绕弯的方式来获取信息

7. 角色扮演
通过设计一个角色来进行对话,可以模拟特定的场景或情境,从而引导AI提供特定角度的回答

8. 反向诱导
使用逆向思维,通过提出相反的观点或问题,来引导AI从不同的角度思考和回答。

9. 侧信道技巧
利用小语种或代码形式来绕过AI的限制,这可以是一种创造性的技巧,尤其是在需要讨论一些直接提问可能受限的话题时

10. 避免任务抽象复杂
在设计提示词时,应避免过于抽象或复杂的任务描述,因为这可能导致AI无法准确理解或完成用户的需求。

11. 逐步引导
通过分步骤的方式提出问题,逐步引导AI深入讨论,有助于获得更详细的答案。

12. 使用比喻和类比
通过比喻和类比的方式,可以帮助AI理解复杂或抽象的概念,尤其是在解释技术性或理论性问题时。

13. 利用情感因素
在某些情况下,加入情感因素(如同情、好奇、惊讶等)可以影响AI的响应,使其更加人性化。


14. 模拟真实场景,使用专业术语
通过模拟真实世界中的场景或对话,可以更自然地引导AI提供相关信息,在需要AI提供专业领域信息时,使用专业术语可以提高获得准确答案的概率。


15. 多轮对话管理
在多轮对话中,保持对话的连贯性和上下文的一致性,这对于维持对话的流畅性和深度至关重要,不要多个话题一起聊,一会技术,一会聊伦理,天南海北 五湖四海的乱吹
16. 文化和语言敏感性
考虑到AI被训练在不同的文化和语言背景下

技术发展是前代技术组合的结果,创新源于对现有元素的重新组合和思维模式的转变,多领域知识的结合推动技术进步。像乐高积木一样被拆分和重新组合,以创造出新的解决方案和产品(也来自于黑哥文章的收获,技术的本质:https://mp.weixin.qq.com/s/LSnUEkQEzkVDaDRF8VUwCw),将前面所提到的16种方法,进行组合,创新,把握提示词的本质核心,将想法进行极致简洁输出,你就设计出很多好玩的功能,而今市面上流行的大多数却只有其形,没有其神,新瓶装旧酒,毫无新意,我是很认可李继刚的想法和观点:你脑子里的知识,永远也决定着你在Prompt上的上限,或者不止是Prompt的上限,而是你使用AI的上限
如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。
如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

更多推荐



所有评论(0)