- ALL
- java33
- linux32
- 工具17
- 其他15
- 数据库7
- ai5
- git5
- vue5
- nas5
- 前端5
- framework3
- windows3
- 脚本2
- app2
- docker2
- hexo2
- 智能家居2
- maven2
- 小程序2
- spring2
- api1
- 资源1
- mysql1
- markdown1
- 安全1
- question1
- python1
- 数据传输1
- 运维1
- 数据结构1
- nginx1
如何让deepseek R1模型摆脱束缚,回答一些敏感问题
deepseek R1的本地化部署可以看我前篇内容,这篇跳过了 效果对比 这是没有问到没有训练过内容的效果 这是训练过内容,但是因为某种原因不能公开的效果 我就不把深度思考内容点开了,因为ai都知道不能说,我也不敢说 这是越狱版的效果 如何下载部署 部署方式和非越狱版一致,只是命令稍有不同。 模型所在地址: https://ollama.com/huihui_ai 总共有7b、8b、14b、32b、70b五种(单指deepseek),这次我用的是4070Ti的台式机部署的,12g显存,所以下载了14b的版本。上篇文章用的是mac mini 16g内存所以用的是8b版本。 1ollama run huihui_ai/deepseek-r1-abliterated:14b 当然如果你有4块4090,或者mac高内存的话,可以尝试用70b版本。比如小黑96g的mac M2 max试了一下70b版本,效果要明显好于32b,但是每秒只有几tokens。
本地化部署并使用开源语言大模型DeepSeek-R1
DeepSeek-R1 是一款强大的自然语言处理模型,适用于多种任务,如文本生成、问答系统、对话生成等。 设备 我是用的mac mini 2023款的,M2芯片,16g内存。苹果的芯片比较特别,是统一内存架构,CPU、GPU和神经引擎都共享同一内存池,所以用来部署ai模型还是比较方便的。 Ollama Ollama 是一个开源平台和工具,使用非常非常简单。Ollama旨在让用户更方便地在本地部署和运行大型语言模型(如GPT等)并进行推理。其目的是通过简化部署流程,让开发者和研究人员能够更容易地将AI模型(尤其是大型语言模型)集成到自己的应用中,而不必依赖于云服务提供商。 下面以Mac平台为例,windows和linux差不多。 下载 https://ollama.com/download?utm_source=lobehub&utm_medium=docs&utm_campaign=download-macos 配置 Ollama 允许跨域访问 由于 Ollama...
开源可自部署的文生图ai大模型,效果比肩aimidjourney
前言 本来想先搭载一个平台给大伙试试,但是考虑到很吃显卡需要GPU相关的服务器。买云服务器太贵,用自己家里面电脑跑的话又涉嫌对外提供Web服务,会被运营商封号,加上的模型能够生成你们懂的的那种图,这下好了,buff叠满,没一丝的可能搭载给你们体验。只能把教程发出来教你们自己去尝试了。前排提示,末尾有生成效果和我打包好的可以直接使用的包,包内内置三种低端点的模型,缺少最高端flex-dev的模型,需要的话vb自己去找资源。 模型区分 Flux Pro: 顶级模型只能通过API调用 Flux Dev: 开源但是不能商用,质量效果和pro类似 Flux Schnell: 高度提炼版,速度快,能商用。 开始搭建 首先考虑到很多用户并不具备api调用的能力,所以先要准备一个ui交互的界面来方便操作。ComfyUI是一个具有高度可配置、支持多种模型、跨平台支持等特点的节点式界面。 ComfyUI的下载使用 开源地址:...
不懂音乐也能创作歌曲
创作教程 纯音乐 制作纯音乐比较简单,只要简单录入使用到的乐器和音乐风格即可生成 信息录入完成之后点击create创建即可,生成的歌曲如下: 第一首: https://mf.alllf.com/cloudpic/2024/04/aa4fac6c77b31022a07f6248f1d148fc.mp3 第二首: https://mf.alllf.com/cloudpic/2024/04/b07e480caa6147478651b4f2a00fb6c4.mp3 歌词创作 使用chatGPT直接生成 要求chatGPT生成歌词并且按照指定格式输出 歌词的形式可以为: 1[instrumental intro][Verse 1] <歌词>[Chorus] <歌词>[Verse 2] <歌词>[Chorus] <歌词>[Bridge] <歌词>[Guitar solo][Chorus] <歌词>[Outro][End] 将歌词核心提取出来转为英文prompt输入Style of...
使用ai创作歌曲
使用ChatGPT生成歌词 模板为: 你是歌词大师,请你帮我写一段xx得歌词,描述的是xxx的故事,整体歌曲时长3分钟以内,歌词要押韵,副歌部分要进行重复。请按以下结构帮我创作:[instrumental intro][Verse 1] <歌词>[Chorus] <歌词>[Verse 2] <歌词>[Chorus] <歌词>[Bridge] <歌词>[Guitar solo][Chorus] <歌词>[Outro][End] 使用Suno ai生成对应得歌曲 下载歌曲