- 博客(30)
- 问答 (3)
- 收藏
- 关注
原创 【CV-CUDA实战】使用Python+TensorRT+CVCUDA优化YOLOv8
NVIDIA CV-CUDA™ 是一个开源项目,用于构建云规模人工智能 (AI) 成像和计算机视觉 (CV) 应用程序。它使用图形处理单元 (GPU) 加速来帮助开发人员构建高效的预处理和后处理管道。它可以将吞吐量提高 10 倍以上,同时降低云计算成本。
2024-05-05 23:03:33
2223
14
原创 【初见Diffuser】利用PytorchLightning和HuggingFace训练你的第一个扩散模型
随着近两年AI绘画的爆红,Diffuser扩散模型一夜爆火。StableDiffusion为无数的内容创作者提供了创作动力。那么,我们如何从0训练一个属于自己的扩散模型呢?
2023-09-02 22:11:20
1906
原创 【Yolo on Triton】在NVIDIA Triton Inference Server上部署Yolov8
Yolov8在Triton上的部署与实践
2023-05-31 23:58:21
3893
15
原创 【Elin的开坑记录】Yolov8淌水以及反人类“设计”
这一次Yolov8的确做到了性能提升,另外通过内置的API可以直接进行模型的推理,这无疑是极大程度的便利了AI科学家以及AI开发者。但是数据结构的强制更新以及模型输出结果的变化,会让像我这样从v5过度到v8的用户会非常不适。慢慢适应吧。
2023-02-19 00:01:33
1393
原创 【高可用AI推理服务】使用WSL2部署Triton Inference Server推理服务器
Triton Inference Server(Triton推理服务器)是NVIDIA推出的高性能推理服务器,皆在实现简化ML Ops的工作流程。PytorchONNXTensorRTTriton Infercen Server极大程度的便利了AI开发者的工作流,通过将模型统一放置在模型仓库内进行统一管理,以及gRPC/HTTP2通信协议,使得Triton在保证了高性能的同时,也有着极强的高可用性和扩展性。针对如何使用Triton部署自己训练的模型,以及如何编写。
2023-01-29 18:04:08
2620
3
原创 【高可用对象存储实战】使用Python操作Minio存储桶
Minio是一个基于Golang实现的高可用、高弹性的开源对象存储系统(OSS),皆在提供云上的高可扩展与高性能的分布式文件存储系统。Minio十分的易部署,主需要极短的命令行即可实现运行与运维双重工作流。在Minio中的概念中一共有两个重要概念,即桶和对象。对象可以很好理解,无非就是传统意义上的文件对象,一个单独的file object。可什么又是桶呢?你可以将文件对象抽象为水,那么水由桶撑着就很好理解。而Minio中的桶也是借鉴了这个概念,实际上这个桶也的确是一个标准的Linux文件夹。
2023-01-16 00:49:56
12205
原创 将Keras模型转换成ONNX模型进行部署
以下ONNX简介来自于ONNX官方ONNX 是一种用于表示机器学习模型的开放格式。ONNX 定义了一组通用运算符——机器学习和深度学习模型的构建块——以及一种通用文件格式,使 AI 开发人员能够使用具有各种框架、工具、运行时和编译器的模型。因此,ONNX是可以实现无缝的跨平台操作的。另外ONNX也支持了苹果的CoreML,这意味着如果你有需要在你的M1/M2 MacBook或者你的iOS设备上进行ONNX推理,ONNX也提供了对应支持的工具。
2022-09-15 10:00:59
3242
原创 基于MediaPipe API实现骨骼识别
MediaPipe提供众多的API供开发者使用,例如:目标识别,人脸识别,手部识别以及骨骼识别等等。通过内置的卷积神经网络模型进行探测,极大程度的节省了计算机视觉开发者的开发时间,提升了开发效率。最后,向阳花木每逢春,ikun一直爱坤坤!
2022-09-12 22:36:05
4131
3
原创 在Windows上使用Visual C++和Visual Studio编译安装OpenCV CUDA Python
为什么会有想安装OpenCV CUDA的念头呢,因为之前自己尝试学习OpenCV时,发现帧数很低,因此希望图像能够由GPU进行渲染,以及使用GPU进行识别(说白了就是笔者没圆子买Jetson罢了)。
2022-08-10 00:08:12
2179
1
原创 用Numba CUDA编写可加速的二叉树算法
在开始我们的算法编写之前,我们需要考虑清楚一件事儿:在CUDA的世界里,一切皆为矩阵!CUDA中的存储模式为块(Block)存储,这意味着,我们在声明一个数组时需要指定它的大小以及维度,即:有效的CUDA Block X和CUDA Block Y。不过好在我们这次的算法是对一个一维的哈希结果数组,因此我们只需要用到这个函数,将其设置为,并且分配一个和进行相乘,这样我们就得到了一个和一个。明确了CUDA存储的基本要义后,我们就可以先放一边,去考虑一下生成一下模拟的数据。这里我使用了这个库生成数据,调用类下
2022-06-20 01:41:30
645
原创 Python Appium配置的一些坑和经验分享
最近朋友跟我说可能要接一个 App爬虫的的单子,怀着兴奋激动(bu han chan)的心情,我打开CSDN搜索如何配置Python Appium的相关教程,踩了很多的坑,准备和大家一起分享一下。准备篇首先我们需要配置Android SDK(iOS没试,因为没有设备),因为我这个人比较的喜欢IDE(lan),所以我直接选择下载一个Android Studio来安装我们的Android SDK。访问Android Studio官网来下载:Download Android Studio and SD
2021-12-23 18:42:03
1778
原创 使用Windows平台搭建NVIDIA CUDA Python数据分析环境
最近迷上了CUDA加速计算,但我又是一个不太喜欢用“钞”能力来解决问题的人(其实就是我穷买不起GPU云服务器罢了/(ㄒoㄒ)/~~)。正所谓人不不作死枉少年,既然买不起,那就自己动手搭建一个环境吧。索性真的感谢微软,他们使用WSL协议允许用户在Windows系统下模拟Linux环境并进行开发。准备首先你需要明确你当前的电脑系统环境需要使用Windows10或者以上的操作系统,这里我使用的是Windows11,其操作和Windows10一样。打开Microsoft Store,搜索Ubun
2021-11-02 16:28:52
2457
10
原创 用15行以内的Python代码优雅的写出一个弹幕机
爱学习的我最近发现:B站上总是给我推荐诸如Python、C++还有Vue的教学主播,但是我发现他们都一个个的猛讲内容,只有等讲完了才看看弹幕,而且他们都习惯性的把弹幕机放在桌面上。这显然很占地方。于是我想到了个方法,既可以让这些主播放心的桥他们的代码,也可以在不占用空间的情况下读到弹幕。声明!这种方法仅对只教学Python或者对终端依赖度不是特别高的主播有用!环境准备这一次的工程相对的较小,因此需要准备的东西也不多,只需要一个Selenium就可以了。可能聪明的你已经想到了:是的,思
2021-08-14 18:36:05
674
原创 【开服必备】用Python优雅的生成用户验证码
最近我一个好哥们儿在研究开自己的私服,但是他本人不怎么用Python,所以趁着早上我没事儿给我发微信问我这个事儿该怎么办。想了一想我也没犹豫,爽快的答应他写一个生成随机码的脚本。那么,现在来看看我是怎么写的吧!准备环境Python3和以下包smtplibemailrandomrichdatetime其实这里要说明下,我们这里仅仅是模拟发送单个对象的邮件,如果要针对实时在线生成的用户请求,你可能还需要requests来获取,用户从前端发来的请求,后文会提到。好的,现在P
2021-08-12 19:57:55
282
原创 用Python制作小型服务器实例维护监控平台
这两天在学校实训:用Python Django做学校的在线课堂系统,可谓是让我这个从未摸过Django和SQL的屌丝涨了市面。工作之余,我无意之间翻了翻都写哪些经典的Python WEB框架:Flask、Django这些都太大了,自己手动写纯Socket工程量又太大......有没有什么好一点的这种方案呢?既可以实现轻量化,又可以不用去研究复杂的H5、JS和SQL。最后还真的被我给找到了,这就是我们今天的主角:基于Python的MINI型APP框架:Streamlit。Streamlit原本的设
2021-07-27 14:57:15
1652
空空如也
为什么同样一段代码,在IPython可以执行但是在CPython无法执行?
2023-11-19
为什么Pytorch这么难用?
2023-06-12
为什么没有"whereami"指令呢?
2023-06-06
NVIDIA会用Rust重构CUDA吗?
2023-05-31
请问在C/C++中,函数体相对函数原型属于扩展关系还是重载关系?
2023-04-20
深度学习方向有必要学习Rust吗?
2023-04-14
请问各位在生产环境里,这两个代码你愿意看到哪种?
2022-12-16
编译安装Python库后,Intelicode失效怎么办?
2022-08-20
究竟多大显存才够深度学习的入门门槛啊?
2022-08-04
华强北vs三好街vs中关村,为什么最后挺下来的是华强北而不是后两者?
2022-05-16
Axios如何同时执行多个GET?
2022-05-12
TA创建的收藏夹 TA关注的收藏夹
TA关注的人