专业小程序设计开发——助力新电商新零售

电话+V：159999-78052，欢迎咨询obsidian微信公众号，[小程序设计与开发]，[小程序投流与推广]，[小程序后台搭建]，[小程序整套源码打包]，[为个体及小微企业助力]，[电商新零售模式]，[小程序运营推广及维护]

一、科研笔记神器:可自动生成、免费绘制的思维导图插件，科研人很需要了...

科研工作中的笔记整理神器来了！现在，无需付费，你就可以拥有自动生成和免费绘制思维导图的利器——Obsidian。这款开源的笔记工具，配合Mindmap和Enhancingmindmap这两款插件，让你的科研笔记工作变得更加高效。

Mindmap插件基于笔记的标题层次结构，能自动转化成直观的思维导图，编辑笔记时，导图会实时更新，让你的大纲笔记更具视觉冲击力。而Enhancingmindmap则提供了更自由的绘图空间，用户可以随心所欲地扩展和定制自己的思维导图。

与Mindmaster和幕布等专业工具相比，Obsidian的一大优势是能以Markdown格式转换为文本，编辑更灵活，导出Word文件也更为方便。这对于论文写作尤其有利，可以避免后期繁琐的处理过程。

Obsidian的使用体验是，即使内容丰富，也能通过思维导图轻松管理，实现大纲折叠，方便整理思路。它特别适合论文写作，能生成可以直接撰写的文本形式，大大提升科研效率。

尽管Obsidian需要一些用户配置，但一旦上手，你会发现它强大的功能能覆盖学习、笔记和研究论文等多种需求。如果你对Obsidian感兴趣，可通过添加微信公众号（微信号：topedit2021）获取Mindmap和Enhancingmindmap插件。

二、Obsidian插件|Ob思维导图插件【支持双链&嵌入实时更改】

推荐一款来自eightHundreds大佬开发的Obsidian思维导图插件。

插件提供直观的脑图展示，用户可点击鼠标右键选择编辑脑图，实现内容修改。下面展示插件效果与使用流程。

安装插件步骤如下：

1.关注维客笔记微信公众号。

2.后台回复“20220909”获取插件。

3.安装并激活插件。

4.享受高效简洁的思维导图体验，解决现有问题。

Obsidian+Ollama+llama3.1，自定义构建本地AI助理，无需联网

#头条创作挑战赛##互联网##程序员##程序员那些事##让AI触手可及##金融##财经##AI智囊##科技新生随你而变##科技快讯#

本文源于公众号--布博士（擎创科技产品解决方案专家）

友情提示：本文较长，干货较多，建议先关注点赞收藏，码住再说，以供你随时翻阅~

在人工智能（AI）领域，AIPC让我们重新定义智能办公和信息管理。但是，要真正实现这一愿景，我们必须考虑多个关键因素，包括隐私保护、数据安全等。今天将带大家一起看下如何使用OBSIDIAN+OLLAMA+LLAMA3.1-8b搭建一个简易而高效的个人知识库及工作智能助理，从而让日常办公、学习、生活更加高效便捷。

本次分享主要包括以下内容：

1.个人智能助理应用场景都有哪些

2.如何构建可信赖的AI系统

3.人工智能底座：搭建基于OLLAMA的大模型llama3.1-8b

4.搭建个人知识及工作智能助理：使用OBSIDIAN+OLLAMA

一、个人智能助理应用场景说到智能助理，很多人下意识的认为是智能家居、健康监测、购物、教育等，覆盖范围非常大。为了更聚焦和落地一些，在这里我们把范围约束的更小一点，就以博主自己工作场景为例。作为一名产品解决方案专家，日常工作主要聚集在以下几个方面：

1.不断了解行业新知识、新趋势：包括大模型、智能运维、行业的相关应用等。

2.为客户提供售前解决方案材料。

3.为项目实施提供售后解决方案材料，包括需求文档、技术方案等。

4.同客户交互的过程中需要实记录会议记要、项目进展历史。

5.进行产品设计。

6....

基于以上工作场景，于是衍生了以下需求：

1.需要高效的知识及内容管理系统来收集知识并能够将这些知识进行有效组织和存储

2.需要安全的人工智能分析引擎，并在进行知识管理与应用的过程中提供智能化场景支持，这个功能除了我这个行业的，应该很多行业都会用的上。如：

（1）中英文翻译：选中文档内容，ctrl+M弹出智能助手菜单，选择“翻译-中文“即可

下图为生成的中文翻译结果：

（2）为文章生成标题：比如将总结的知识进行分享，如何取一个比较容易推广的标题就可以交给我们的AI智能助手了。

为了得到一个紧扣文章主题的标题，我们可以在生成正式标题前先生成一个笼统的标题内容，选中该内容，然后在弹出的智能助手菜单中选择”生成标题“，即可按预设的prompt生成10个易于推广的标题，从里边选出一个最满意的就行了。

（3）生成内容大纲：针对“基于OBSIDIAN+Ollama搭建个人智能助理“这个主题，智能助手生成了以下大纲内容，我们可以按照以下大纲去寻找资料，充实内容。从这里可以看出智能助理可以为写作或者工作梳理方向。

以下是根据给定的文档内容生成章节标题的建议：**章节1:**"搭建个人智能助理：OBSIDIAN和Ollama的优势"*内容：介绍OBSIDIAN和Ollama背景、特点和优势，吸引读者关注这些技术的潜力。**章节2:**"OBSIDIAN和Ollama的技术原理"*内容：详细解释OBSIDIAN和Ollama的核心技术，如AI模型、自然语言处理和人工智能等概念。*逻辑顺序：这部分将提供必要的技术基础，使读者能够理解后续章节。**章节3:**"搭建个人智能助理：实施步骤和挑战"*内容：介绍如何实施OBSIDIAN和Ollama，包括设置、训练和优化个人智能助理等细节。同时，也将讨论可能遇到的挑战。*逻辑顺序：在理解了技术原理后，这部分将指导读者完成实际操作。**章节4:**"案例研究：OBSIDIAN和Ollama在实际应用中的表现"*内容：通过具体的案例来展示OBSIDIAN和Ollama在现实世界中有哪些影响。例如，改进决策流程、自动化任务等。*逻辑顺序：此部分将以感性的方式展示这些技术在现实中的运用。**章节5:**"未来的展望和结论"*内容：总结OBSIDIAN和Ollama的发展潜力以及个人智能助理的前景。*逻辑顺序：最后这一部分将概括整个内容，并为读者提供一个全局视角。以上这些章节标题应满足您的要求。请告诉我，您是否还有其他问题或需要进一步帮助！

（4）生成行为项：针对一篇会议记要，生成会议记录中的行动项内容

（5）内容总结：对文档的内容进行总结，比如“布博士”公众号发文章时，最后的总结内容，我一般会让CHATGPT来帮我生成。

（6）内容优化：对内容进行表达上的优化，如按专家口吻、按小学生的理解能力等。

（7）写作：针对一个题目来进行内容写作。

（8）修正拼写和语法：主要用于发现文章内容中的语法和拼写错误。

（……）

通过以上场景，我们不难看出AI智能助手运用场景广泛，优势明显。可以让工作学习事半功倍，也可以举一反三完成任务。

二、如何构建可信赖的个人AI系统1.为什么要构建个人AI系统

随着AI的发展，个人数据将成为极具价值的资产，而那些收集并利用这些数据的公司，将有能力掌控我们的生活。比如近半年来，大型科技公司如某软和某歌频繁宣传AIPC概念，他们声称，AI更懂你，会记录计算机上你的每一步操作，并预测下一步的动作。但，这种便捷的背后有可能存在隐私泄露等数据安全风险。

上面这些公司所宣传的AI更懂你，逻辑就是他们通过AI代理（智能体）来收集个人隐私数据，并将其提供给强大的“AI大脑”。这个“大脑”使用所收集的数据进行决策，然后又将信息传递回智能体，让它能快速为各种需求做出反应。这种数据处理流程不仅具有侵犯隐私的风险，如果数据处理不当不仅会对个人造成危害甚至可能还会涉及企业数据安全风险。

所以，不要被AIPC的表象所吸引，从而忽视隐私数据会被泄露的潜在危险。（再次强调！保护好自己的个人信息，以免落入那些不法之人的手中。）

所以，问题来了，公用的AIPC不安全，那么如何构建一个安全的私人AI助理呢？

三、如何搭建安全好用的个人智能助理

为了实现应用场景和保障隐私安全，我建议构建如上图所示的个人智能助理系统：

OBSIDIAN：实现个人的全面知识管理，包括知识收集、存储。LLM引擎-Ollama：实现本地的大模型引擎，实现智能场景。Ollama的详细安装这里我不赘述了，仍有疑问的朋友可以参考“布博士”公众号文章《ollama实现开源大模型本地化安装部署》。Windows系统和Mac系统的安装方法都差不多，也比较简单。以下是我在安装过程中的部分示意，仅供参考。

在本地运行时，推荐使用LLama3.1-8B模型（也称为LLama3.1:LATEST），该模型在所有测试场景中表现都相当出色。

（1）完成OLLAMA本地化部署配置

OLLAMA本地化部署，对计算机的硬件配置有一定要求。博主自己主机配置如下：

CPU：I714700KF（满足运行4090显卡的最低要求）。GPU：技嘉4090满血版，24GB显存。如果运行8B以下的模型，可以选择16GB显存。预算有限的情况下，AMD显卡也是不错的选择，性价比更高。内存：64GB（如需处理大规模数据或运行深度学习算法，可扩展至128GB）。固态硬盘：速度为7000M/秒。

不同模型的响应情况

LLama3.1-8B和Phi3:14B：运行速度非常快，能在秒级响应和处理指令。Gemma2:27B：速度稍慢，但不影响阅读体验。LLama3.1:70B：显著影响使用体验，每次指令会使4090显卡满负载，CPU占用约70%，内存占用约60%，在当前配置下运行该模型时，其它指令几乎很难运行，如截屏。

各大模型对计算机资源的要求（不考虑多并发情况）

LLama3.1:Latest（8B）：建议至少10GB显存和20GB内存。LLama3.1:70B：建议至少40GB显存和80GB内存。Phi3:14B：建议至少16GB显存和32GB内存。Gemma2:27B：建议至少24GB显存和48GB内存。

（2）如何使用OBSIDIAN+OLLAMA，搭建个人知识库及工作智能助理

①安装obsidian：可以从官方网站http://www.obsidian.md官方网站进行下载：

像普通软件一样，安装运行即可，如下图所示。由于我事先在本地构建了一个本地知识仓库放到D:\15-obsidian，现在直接打开即可；如果没有构建的话，可以点击创建以创建一个新的本地仓库：

②运行OBSIDIAN：安装完成之后，可以看到如下图所示的应用界面，最左侧是不同的知识目录，中间是编辑区域，右侧是构建知识内容的章节列表

③安装localgpt插件：要实现个人智能助理，需要将OBSIDIAN同OLLAMA做集成，在这里我用到了LOCALGPT插件，需要在设置中找到插件管理。

点击浏览按钮，可以查找localgpt，如下图所示，双击安装即可：

④配置localgpt

首先，配置AIprovider，在这里选择ollama

ollamaURL：由于是个人PC，未使用远程的服务，因此使用的http://localhost:11434defaultmodel：会自动从ollamaserver上获取可用的大模型列表，在这里我们选择llama3.1。以上步骤完成后，即可实现Obsidian与Ollama的集成。

但要构建智能助理，还需要设置一系列智能操作（即LocalGPT中的Actions）。这些操作只需创建相应的系统提示词（SystemPrompt）和用户提示词（UserPrompt），即可实现所需功能（基于人工智能的程序设计，基本不需要写一条代码，即可完成这些智能化的操作）。

在这里我构建了10个ACTIONS，都是通过自然语言的描述即可完成的，下图为10个ACTIONS列表。

⑤对ACTION进行编辑和新建，我们以翻译功能为例来看一下构建过程：

***ACTION如何构建

模型选择（ModelOptional）：根据不同的操作（ACTION），可以选择合适的模型。例如，对于文本内容生成，可以选择LLama3.1，而对于代码生成，可以选择LLama3.1的编程微调版本。

操作名称（ActionName）：在智能助理菜单中，操作项的显示名称。在这里我们设置为“翻译-中文”，表示将英文翻译为中文。用户也可以选择其他语言，如英文、德文等。systempromptoptional：在未经过微调的大模型中，提示词至关重要。一个好的提示词可以更有效地激发大模型的能力。以下是一个用于将英文翻译成中文的提示词示例，供参考：任务描述:翻译英文文本为中文。翻译需要准确传达原文信息，保持原文的语气和风格，确保中文文本自然流畅，并适应中文语境。翻译要求:准确性:确保翻译内容与原文完全一致。流畅性:中文翻译应符合中文语法和语言习惯。语气和风格:保持原文的语气和风格，包括正式、非正式、幽默等。文化适应性:针对文化特定的内容，提供合适的中文解释或等价物。完整性:不遗漏原文中的任何重要信息。注意事项:避免逐字翻译，确保句子结构符合中文表达方式。确保技术术语或专有名词的翻译准确，如有必要保留原文。翻译后检查语法和拼写错误。prompt：用户提示词，具体的用户指令请将英文段落翻译为流畅且自然的中文。翻译要求:准确传达原文信息。保持原文的语气和风格。确保中文文本自然流畅。请在翻译后进行检查，以确保译文的完整性和准确性。

⑥修改Actions

⑦为个人智能助理配置快捷键：我们为"localGPT：showcontextmenu"配置快捷键为ctrl+m，这样当我们在编辑文档的任何过程中，可以快速的打开个人智能助理。

⑧个人智能助理使用：以翻译功能为例，选中如下文本内容按ctrl+m打开智能助手菜单，选择”翻译-中文“。

```译文如下：YoucanleveragetheeditingcapabilitiesofObsidianandthelargemodelcapabilitiesofLLaMAtocreateacustomizedintelligentassistant.Thisisanincrediblypowerfultoolthatcanhelpyouboostyourproductivityandcreativity.

（3）接下来需要增强以下功能，个人智能助理才算真正构建完成

①图像生成能力：在Obsidian中集成StableDiffusion3，可以直接在Obsidian中实现与StableDiffusion3的集成，提升图片生成能力，增强内容创作的视觉效果。

②Obsidian的知识搜索功能：提供全面的搜索功能，以便更好地应用和管理存储的笔记和知识。例如，笔记中记录了家庭成员的身份证图片，用户可以通过搜索“身份证”直接找到相关笔记内容。

③交互式数据分析与探索功能：在Obsidian中实现与分析型数据库的集成，通过交互式对话进行数据分析和探索，并利用本地大模型根据需求描述生成分析代码。

④任务下达与执行能力：在Obsidian中实现通过聊天方式下达任务和执行操作的能力。例如，通过GoogleAPI查询相关内容，并利用本地大模型对查询结果进行综合分析，提供最终答案。

⑤代码生成与调试功能：在Obsidian中实现交互式的代码生成能力，并在Docker沙盒中模拟运行和调试代码，最终输出可正确执行的代码。

⑥操作Agent能力：可以集成不同角色的智能代理（Agent），根据用户下达的指令，利用大模型驱动来执行各类智能代理，从而高效、智能地完成各种作业任务。这一能力实现了任务的自动化和智能化。

具备上述能力的系统，方可称为真正意义上的个人智能助理。

四、总结整套过程操作下来比较简单，当然，本地部署也面临一些挑战，例如硬件资源需求较高、维护复杂性增加以及需要专门技术人员进行支持等。但总体来说，在注重数据安全和隐私保护的场景中，本地运行的大模型依然是一个非常有竞争力的选择。如果有问题欢迎大家评论区留言分享。

擎创科技，Gartner连续推荐的AIOps领域标杆供应商。公司专注于通过提升企业客户对运维数据的洞见能力，为运维降本增效，充分体现科技运维对业务运营的影响力。

行业龙头客户的共同选择

了解更多运维干货与行业前沿动态

可以右上角一键关注

我们是深耕智能运维领域近十年的

连续多年获Gartner推荐的AIOps标杆供应商

下期我们不见不散~

【WINDRISES MINIPROGRAM PROMOTION】尊享直接对接老板

电话+V： 159999-78052

专注于小程序推广配套流程服务方案。为企业及个人客户提供了高性价比的运营方案，解决小微企业和个体拓展客户的问题