- 博客(473)
- 问答 (1)
- 收藏
- 关注
原创 分类算法例子
解释方差:解释方差是指模型所解释的方差占总方差的比例。具体来说,方差是数据偏离均值的程度的度量,而解释方差则表示模型能够通过拟合数据来解释的这部分方差。最大值:当解释方差为 1 时,表示模型能够完美地解释目标变量的所有方差,即模型预测值与真实值完全一致。最小值:当解释方差为 0 时,表示模型没有解释任何方差,模型的预测值与目标变量的均值相同,模型没有提供任何有用的信息。负值:在某些情况下,解释方差可能为负值,这表示模型的预测比直接使用均值预测还要差。
2025-05-06 13:41:08
236
原创 非结构化数据比较成熟的分析方法及应用
是一种从大量文本数据中提取有用信息和知识的技术。文本挖掘的主要任务包括等。在商业领域,文本挖掘可以帮助企业分析消费者对产品的反馈和情感态度,从而更好地调整营销策略。在金融领域,文本挖掘可以帮助投资者分析股票市场的趋势和情绪,从而更好地把握投资机会。在医疗领域,文本挖掘可以帮助医生分析病人的病历和医学文献,从而更好地制定治疗方案。信息抽取是从文本中提取出结构化信息的技术。它可以将非结构化的文本转化为结构化的数据。信息抽取的主要任务包括等。
2025-04-10 09:41:57
354
原创 DeepSeek在日常办公中可以辅助大家做什么
文案撰写与润色:DeepSeek可以快速生成各类文案,包括报告、邮件、会议纪要等。例如,通过简单的提示词,它能生成一份产品推广文案或项目报告,并根据需要进行润色。文档校对与翻译:在WPS或Word中集成DeepSeek后,可以直接对文档内容进行校对、润色、翻译等操作。比如,选中一段文本后点击“生成”,DeepSeek会自动处理并生成优化后的结果。
2025-03-11 11:31:24
1105
原创 问答系统简述
PaddleNLP Pipelines带你10分钟完成抽取式智能问答系统。dureader baseline 的 tensorflow版。PaddleNLP带你十分钟搭建FAQ智能问答系统。信息抽取:只能从原有文本中抽取关键字。自己搭建个聊天机器人吧!开放域对话:有问题,机器会反问。生成式问答:运行错误?BERT 抽取式问答。
2025-02-09 23:57:35
694
原创 大模型最新进展跟踪(202410)
国内模型GLM-4-Plus、SenseChat 5.5、AndesGPT-2.0和Qwen2.5-72B-Instruct排名国内并列第一,有接近70分的表现,小幅落后于ChatGPT-4o-latest。(2)紧随其后的位列国内 Top10 的模型有 Hunyuan-Turbo、360gpt2-pro、Step-2-16k、DeepSeek-V2.5、Doubao-pro-0828、Baichuan4、山海大模型4.0、TeleChat2-Large,均有不俗表现。
2025-01-02 14:23:51
1111
1
原创 大模型划分token
句法分析、语义分析等任务。在大模型领域,"token"是模型输入的一部分,用于表示。一个 token,可能是词语、子词或字符。领域中,文本通常会被分解成token,以便进行。合理的划分方式是介于字母和词汇两者之间。很难精确计算一段文本token的数量。一般1个token对应1.5个汉字。
2024-12-02 00:04:16
462
原创 语音识别(音频转文本)
模型下载OpenAI的Whisper模型Whisper是OpenAI推出的一个多语言、端到端的语音识别模型,它能在多种情境下进行语音理解,包括跨语言对话、混合语言输入等。而Vosk则是一个轻量级的离线语音识别引擎,特别适合于资源有限的环境或对实时性要求高的场景。whisper集团 离线语音转写。
2024-11-06 09:08:10
991
原创 Prompt工程(提示词工程)简述
Prompt是一种基于人工智能(AI)指令的技术,通过明确而具体的指令,指导语言模型的输出。在提示词工程中,Prompt的定义涵盖了任务、指令和角色三个主要元素,以确保模型生成符合用户需求的文本。任务: Prompt明确而简洁地陈述了用户要求模型生成的内容。这包括在特定应用场景中,用户希望模型完成的任务或生成的文本类型。指令: 模型在生成文本时应遵循的指令是Prompt中的关键要素之一。这些指令具体规定了模型生成文本的方式,通过清晰的语言来引导模型以获得所需的输出。
2024-10-12 09:24:07
422
原创 大模型微调方法简述
PEFT(Parameter-Efficient Fine-Tuning)是hugging face开源的一个参数高效微调大模型的工具,里面集成了4种微调大模型的方法,可以通过微调少量参数就达到接近微调全量参数的效果,使得在GPU资源不足的情况下也可以微调大模型。而当训练好新的参数后,利用重参的方式,将新参数和老的模型参数合并,这样既能在新任务上到达fine-tune整个模型的效果,又不会在推断的时候增加推断的耗时。低秩矩阵是指在线性代数中,其秩(即矩阵中线性无关的行或列的最大数目)较低的矩阵。
2024-09-02 13:59:52
831
原创 AI大模型简述
智谱清言ChatGLM,GLM全称”General Language Model“ 来源自清华的一篇论文——基于自回归空白填充目标的通用预训练框架,作为国产第一梯队的自研模型,这也是后续智谱AI发布的所有AI应用的底座。大模型是指拥有超过10亿个参数的深度神经网络,它们能够处理海量数据、完成各种复杂的任务,如自然语言处理、计算机视觉、语音识别等。华为盘古AI大模型包括了NLP大模型、CV大模型、科学计算大模型等多个AI大模型在内的合集,使其可以被应用到科学研究、教育、交通、工业等多个行业中。
2024-08-03 12:51:24
731
原创 python读写修改Excel
你很快就会发现,它是使Python成为强大而高效的数据分析环境的重要因素之一。可以和matplotlib以及pandas无缝连接,支持读写numpy、pandas数据类型,将matplotlib可视化图表导入到excel中。openpyxl就是围绕着这三个概念进行的,不管读写都是“三板斧”:打开Workbook,定位Sheet,操作Cell。可以调用Excel文件中VBA写好的程序,也可以让VBA调用用Python写的程序。能够非常方便的读写Excel文件中的数据,并且能够进行单元格格式的修改。
2024-07-03 22:14:43
632
原创 openpyxl和pandas转换
pandas转openpyxlfrom openpyxl.utils.dataframe import dataframe_to_rowswb = Workbook()ws = wb.activefor row in dataframe_to_rows(df, index=False, header=True): ws.append(row)openpyxl转pandasvalues = sheet.valuesdf = pd.DataFrame(values)
2024-06-01 11:50:42
487
1
原创 python excel sheet拆分和合并
保存excel的时候不保留公式 ============================================合并 ============================================python openpyxl sheet拆分。(保留单元格的格式,但不能保留合并单元格)pandas保存excel的第一行有框。追加sheet 不保留格式。
2024-05-11 10:30:35
326
原创 xlwings使用总结
Paste=PasteType.xlPasteAllMergingConditionalFormats (用这个,但不保留行宽)sheet.range('A1').columns.autofit():自适应列宽。=PasteType.xlPasteValues) # 不保留格式 会出现。sheet.range('A1').rows.autofit():自适应行高。sheet.range('A1').autofit():自适应行高列宽。(范围不能是同一列)xlwings常用操作。xlwings操作汇总。
2024-04-04 11:54:40
558
原创 flask创建登录页面
flask实现一个登录界面基础的Flask项目结构forms.py:定义登录表单和表单字段的文件。templates/login.html:用于渲染登录表单的 HTML 模板文件。routes.py:定义应用的路由和视图函数的文件。__init__.py:创建并初始化 Flask 应用的文件。run.py:启动应用的文件。Flask实现登录功能(参考)在上部署一个任务列表,在后期应设置为每个用户专用的列表登录页面设计。
2024-03-02 19:47:42
706
1
原创 cmd输出日志文件
python app.py >> log/log.txt 2>&1 &Windows上设置定时任务, 执行.bat脚本的内容, 并且输出日志_windows系统定时任务启动脚本为什么不会生成脚本里重定向的日志呢-CSDN博客set hour=%time:~0,2%if %hour% LSS 10 (set hour=0%time:~1,1%)set filename=%date:~0,4%%date:~5,2%%date:~8,2%_%hour%%time:~3,2%%time:~6,2%python ap
2024-02-15 18:06:13
921
原创 3. 无重复字符的最长子串
请你找出其中不含有重复字符的。请注意,你的答案必须是。因为无重复字符的最长子串是。因为无重复字符的最长子串是。因为无重复字符的最长子串是。,所以其长度为 3。,所以其长度为 1。,所以其长度为 3。
2024-01-20 12:00:08
390
原创 2. 两数相加
你可以假设除了数字 0 之外,这两个数都不会以 0 开头。的链表,表示两个非负的整数。它们每位数字都是按照。请你将两个数相加,并以相同形式返回一个表示和的链表。的方式存储的,并且每个节点只能存储。
2024-01-13 19:27:24
405
原创 1. 两数之和
你可以假设每种输入只会对应一个答案。但是,数组中同一个元素在答案里不能重复出现。因为 nums[0] + nums[1] == 9 ,返回 [0, 1]。整数,并返回它们的数组下标。你可以按任意顺序返回答案。,请你在该数组中找出。
2024-01-13 19:24:23
374
原创 向量数据库简介
当我们有一份文档需要 GPT 处理时,例如这份文档是客服培训资料或者操作手册,我们可以先将这份文档的所有内容转化成向量(这个过程称之为 Vector Embedding),然后当用户提出相关问题时,我们将用户的搜索内容转换成向量,然后在数据库中搜索最相似的向量,匹配最相似的几个上下文,最后将上下文返回给 GPT。向量数据库的核心思想是将文本转换成向量,然后将向量存储在数据库中,当用户输入问题时,将问题转换成向量,然后在数据库中搜索最相似的向量和上下文,最后将文本返回给用户。阿里巴巴智能引擎事业部团队。
2023-10-16 11:10:30
451
原创 2022-WACV-LaMa: Resolution-robust Large Mask Inpainting with Fourier Convolutions
试玩地址:https://huggingface.co/spaces/akhaliq/lama。PyTorch 中的傅立叶卷积:通过 FFT 有效计算大核卷积的数学原理和代码实现。基于LAMA的图像修复界面。
2023-09-18 11:27:05
186
原创 2023-Inpaint Anything: Segment Anything Meets Image Inpainting
区别于传统图像修补模型,IA 模型无需精细化操作生成掩码,支持了一键点击标记选定对象,IA 即可实现移除一切物体(Remove Anything)、填补一切内容(Fill Anything)、替换一切场景(Replace Anything),涵盖了包括目标移除、目标填充、背景替换等在内的多种典型图像修补应用场景。SAM在设计上可以同时输入原图和特定提示(点、框、阴影、文本),然后根据不同的提示输出不同的分割结果图,并且SAM支持不同提示的交互式分割。
2023-08-01 08:45:14
711
原创 基于CLEval的OCR精度评价指标
对“RIVERSIDE”的检测展示了细粒度的问题,对“WALK”的识别体现了正确性问题。TotalNum代表GT或检测到的字符的总数,CorrectNum代表正确的字符的总数。正确性表示的是文本与检测的匹配程度,在检测结果中,理想情况是每个字符被且仅被检测到一次。1.实例匹配过程:针对细粒度问题,将所有可能的gt和det做匹配,这里的匹配要求gt和det起码包含一个以上的共享字符。该论文提出了一种针对字符级别信息的评估方式,这种方式是对独立的文本检测、文本识别和端到端的文本发掘的细化评估。
2023-07-06 11:11:24
273
原创 PaddleOCR代码解读
在使用 训练模型 进行快速推理时,配置参数为image_shape: [736, 1280],此时对象中的数据成员self.resize_type的值应该为1。当self.resize_type为2时,首先是从图片宽高中找出最长边,计算缩放比例,然后保持图片的宽高比不变进行缩放。这里使用的图像归一化是常见的方法,先乘上scale进行线性变换,再减去对应通道的平均值,最后除以对应通道的标准差。当self.resize_type为0时,将把图片宽高等比例缩放成均在参数限制内的、32的整数倍。
2023-07-02 21:31:26
885
原创 OCR解码
CTC是最为经典的OCR解码算法,假设CRNN特征抽取器的输出维度Txn,其中T=8,n包含blank(记作 - )字符(blank字符是间隔符,意思是前后字符不连续)。对每一列1xn进行softmax得到概率最大的字符,得到的最终序列需要去除连续的重复字符,比如最终得到的序列为-stt-ate,那么去重合并后就得到state序列。2.将CNN的输出维度转换为25个1x512的序列,送入深层双向LSTM中,得到CRNN的输出特征,维度转换成为25xn(n是字符集合总数)。CRNN+CTC的文字识别算法。
2023-07-02 21:29:45
149
原创 2022-TPAMI-华科白翔-DBNet++
DBNet++网络在DBNet的基础上对head部分做了改进,DBNet直接把几个头分支concat起来,DBNet++通过Adaptive Scale Fusion (ASF)(自适应尺度融合)模块来连接,使用了空间自注意力机制来加强多尺度变化特征的刻画。论文主要动机:已有的算法耗时长。开发一种算法降低时间消耗,提高尺度鲁棒性。DBNet++:在DBNet的基础上引入了ASF结构。
2023-07-02 21:25:18
156
原创 2020-AAAI-华科白翔-DBNet文本检测
在基于分割的文本检测网络中,最终的二值化map都是使用的固定阈值来获取,并且阈值不同对性能影响较大。本文中,对每一个像素点进行自适应二值化,二值化阈值由网络学习得到,彻底将二值化这一步骤加入到网络里一起训练,这样最终的输出图对于阈值就会非常鲁棒。第一模块:使用CNN网络,对输入图像提取特征,得到特征图,本实验使用的骨干网络是轻量化网络MobileNetv3,同时使用了FPN结构,获取多尺度的特征,在本实验中,我们提取4个不同尺度下的特征图做拼接。DBNet属于基于分割的方法。做文字检测(基于分割的方法)
2023-07-02 21:24:00
204
原创 PyTorch模型量化方法
per channel是对于tensor的某一个维度(通常是channel的维度)上的值按照一种方式去scale和offset,也就是一个tensor里有多种不同的scale和offset的方式(组成一个vector),如此以来,在量化的时候相比per tensor的方式会引入更少的错误。动态量化,或者叫作Weight-only的量化,是提前把模型中某些op的参数量化为INT8,然后在运行的时候动态的把输入量化为INT8,然后在当前op输出的时候再把结果requantization回到float32类型。
2023-06-02 16:41:47
1283
3
原创 模型加速框架
前者在业界有许多非常优秀的框架:Google的GRPC、百度的BRPC等,甚至可以用python的Flask和Tornado框架,对于熟悉Python的算法工程师可以说是非常方便的。Triton支持从不同的框架(TensorRT、ONNX、Pytorch、TensorFlow)中托管/部署模型,并提供标准的模型推理API,减少了工程师的维护工作。TensorRT:为inference(推理)为生,是NVIDIA研发的一款针对深度学习模型在GPU上的计算,显著提高GPU上的模型推理性能。
2023-05-03 23:37:16
374
原创 模型压缩简介
模型部署是生产应用的最后一环,它将深度学习模型推理过程封装成服务,内部实现模型加载、模型版本管理、批处理以及服务接口封装等功能,对外提供RPC/HTTP接口。模型优化不彻底:TensorRT、TF-TRT等工具主要针对主干网络优化,但忽略了预处理部分,因此整个模型优化并不充分或者无法优化。另一种模型压缩还可以直接改变模型架构,虽然做不到模仿人脑进行稀疏连接,依然有很好的压缩效果,这种方法称为模型蒸馏。模型压缩领域对大脑的稀疏激活的应用是模型剪枝,相当于把模型做窄,永久失活一部分神经元,而不改变模型架构。
2023-04-06 09:14:03
272
原创 以图搜图综述
但特征的学习方式,尤其是引入度量学习的思路之后,即便是同一个网络的同一层特征,不同的训练方式对最后的精度也会有很大的影响。online部分,其中特征提取(query)和offline的特征提取(database)需要保持高度的一致性。2. 如何解决全量的特征迭代的问题,也就是说query和database的特征需要同步;以图搜图技术需要根据不同的使用场景来选择合适的技术方案,尤其是特征的选择。3. 特征增强,在检索结构确定的情况下获得更好的检索效果;1. 如何解决检索库动态增加的问题;4. 高并发低延迟;
2023-03-01 17:05:00
490
原创 特征匹配算法
它可以使复杂度为O(MN)的求和,求方差等运算降低到O(1)或近似于O(1)的复杂度,也就是说与邻域尺寸无关了,有点类似积分图吧,但是貌似比积分图更快(与它的实现方式有关)。对于二维的矩阵来讲,每一级Haar小波变换,需要先后进行水平方向和竖直方向上的两次一维小波变换,行和列的先后次序对结果不影响。盒子滤波是一种非常有用的线性滤波,也叫方框滤波,最简单的均值滤波就是盒子滤波归一化的情况。3.通过匹配特征点描述子,找到两张图中匹配的特征点对(这里可能存在错误匹配)2.提取每个特征点对应的描述子。
2023-02-13 16:22:18
295
原创 SURF特征匹配算法
在特征点周围取一个正方形框,框的边长为20s(s是所检测到该特征点所在的尺度)。然后把该框分为16个子区域,每个子区域统计25个像素的水平方向和垂直方向的haar小波特征,这里的水平和垂直方向都是相对主方向而言的。该haar小波特征为水平方向值之和,水平方向绝对值之和,垂直方向之和,垂直方向绝对值之和。用SIFT算法来实现图像拼接是很常用的方法,但是因为SIFT计算量很大,所以在速度要求很高的场合下不再适用。Surf算法的基本路程也可以分为四大部分:尺度空间建立、特征点定位、特征点方向确定,特征点描述。
2023-02-13 16:20:18
308
原创 正则表达式匹配
六种在正则表达式中的常见函数,分别是re.match、re.search、re.findall、re.compile、re.split和re.sub。re.match 尝试从字符串的起始位置匹配一个模式,如果不是起始位置匹配成功的话,match() 就返回 none。print(re.match('com', 'www.runoob.com')) # 不在起始位置匹配。print(re.match('www', 'www.runoob.com').span()) # 在起始位置匹配。
2023-02-13 15:39:59
149
原创 条码识别算法2
第二,为 了条码的可识读性,条码在制作时条和空之间有着较大的反射率差,从而条码区域内的灰度对比度较大,而且边缘信息丰富。第一,条码区域内的条空是平行排列的,方向趋于一致;基于方向一致性的条码定位算法。
2023-01-20 17:48:40
758
原创 条码识别算法
将最细的线宽设为 «1»,那么2倍的线宽就是«11»,3倍的线宽就是 «111»,以此类推。空白宽度按照同样原则,分别代表 «0», «00» 或 «000»。Code-128码是11位条码。把序列拆分成11位数据块,生成字符串并显示。通过纵横配置像素,能够存储更大的信息量,不仅能表达数字,还能表达各类语言。对条码的条杠(=线)及空间的宽度(间隔)差异进行感测,以此来读取数据。包括3种条杠,用3条杠和3格空格表达1个字符。用5条杠和4格空格表达1个字符的条码规格。符号(-,.,空格,$,/,+,%)
2023-01-20 17:47:29
2153
原创 C++调用yolov5 onnx模型的初步探索
用opencv的dnn模块做yolov5目标检测的程序,包含两个步骤:(1).把pytorch的训练模型.pth文件转换到.onnx文件。第二步编写yolov5.py文件,把yolov5的网络结构定义在.py文件里,此时需要注意网络结构里不能包含切片对象赋值操作,F.interpolate里的size参数需要加int强制转换。不过,最近我发现在yolov5-pytorch程序里,其实可以直接把原始训练模型.pt文件转换生成onnx文件的,而且我在一个yolov5检测人脸+关键点的程序里实验成功了。
2023-01-20 17:44:32
2633
原创 初步学习c++ createthread()多线程
要使用的这个线程需要将这个资源(取钱这个过程)先“锁”起来,然后用好之后再解锁,这期间别的线程就无法使用了,其他线程的也是类似的过程。cout
2023-01-20 17:02:10
407
双目视频视差图变化剧烈
2017-07-06
TA创建的收藏夹 TA关注的收藏夹
TA关注的人