【昇腾】昇腾开发者训练营:Dify大模型部署实战
MindIE + Dify + DeepSeek + Embedding模型 + Rerank模型
MindIE + Dify + DeepSeek + Embedding模型 + Rerank模型
记录好用的AI工具、新的AI技术,持续更新
最近准备投简历,但发现还有一些技术点自己不熟悉。那么这里就把没有掌握的技术点做个记录和总结。
MCP已经火了很长一段时间了,现在自己编写体验一下,本篇将介绍如何用TS实现MCP服务。
文档 PocketFlow是一个只用100代码编写的Agent框架,可以实现多种LLM设计模式,如Agent、Workflow、RAG等,也提供了很多功能样例。 最重要的是,这是一款符合cursor编程的Agent框架,内置了多个cursor-rul...
使用MindIE推理大模型,并用Benchmark进行性能测试。
稳定与动荡的四月。这个月不算忙,只是工作上在稳定与动荡之间切换着。
PyTorch官方提供了昇腾插件包,安装后虽然可以支持PytorchOCR和PaddlePaddle的推理任务,但性能通常低于GPU。为了充分发挥昇腾硬件的潜力,可以采用离线推理方案:
使用910B3芯片
自从Java转入Python,很尴尬的是一直没有全量学习Python的内容,只是快速熟悉了语法后就开始用了。选择了全面转入Python,发现还是不够的,这篇就记录下Python中会经常忘记的知识。 基础 12345678910111213141516...