- 博客(166)
- 资源 (2)
- 收藏
- 关注
原创 小波变换和图像的融合
看到一篇比较有趣的文章,是将小波变换融入到图像配准过程中。论文题目是Deformable medical image registration based on wavelet transform and linear attention。论文提出了一种基于小波变换和线性注意力的可变形医学图像配准方法,通过小波下采样模块和线性小波自注意力(LWSA)模块来减少下采样过程中的信息丢失,并提高模型对全局特征的捕捉能力。大家可以看看,个人觉得思路挺有趣的。
2025-04-28 21:11:09
169
原创 多任务眼底血管与眼底血管中心线提取
虽然不是很好期刊杂志发的论文,但是思路和想法很有意思,后续可以尝试类似的想法。这篇文章主要是利用两个U-Net 网络实现眼底血管分割与眼底血管中心线的分割。看到一篇很有意思的论文,名字是“MSC-Net: Multitask Learning Network for Retinal Vessel。大家有时间可以看一看。
2025-03-29 12:38:47
187
原创 MulFS-CAP: Multimodal Fusion-supervisedCross-modal
一种用于无注册红外-可见图像融合的单阶段框架。与传统的两阶段方法不同,MulFS-CAP结合了隐式注册和融合,简化了处理流程并增强了实用性。该方法使用共享的浅层特征编码器,同时进行特征对齐和图像融合。通过引入可学习的模态字典,该方法有效减少了模态差异对交叉模态特征对齐的影响,能够在同时进行注册和融合的同时保持特征一致性。此外,MulFS-CAP提出了一种新的交叉模态对齐方法,利用相关矩阵来细化红外和可见图像的融合过程。实验结果表明,该方法优于现有的两阶段方法,且不依赖于显式注册,具有更高的效率和准确性。
2025-02-28 19:32:57
332
原创 从未标记图像中生成有标记图像特征的半监督分割方法
今天看到一篇文章很有意思,给大家分享一下。现在传统半监督分割网络训练时往往有标注数据与未标注数据分开训练,导致模型不好。这篇文章作者提出了一个很有意思的想法。它通过通道注意力从未标记的特征中重新加载标记的特征。大家感兴趣可以看一下。个人感觉挺有意思的。
2025-01-31 12:30:47
161
原创 Cascaded multitask U-Net using topological loss for vessel segmentation and centerline extraction⋆
好久没写论文推荐了,今天在搜索过程中发现了一篇比较有趣的论文,题目就是上面这个。这篇论文提出了一种用于血管分割和中心线提取的级联多任务U-Net架构,并结合拓扑损失函数(clDice loss)来提高分割结果的拓扑准确性。我觉的这篇文章的思路很好。这篇文章的思路是把分割过程分成了两个部分进行操作。这也在一定程度上给我一些启发。
2024-12-30 23:58:56
188
原创 半监督分割中一些概念与想法。Generic Semi-Supervised Framework for Volumetric Medical Image Segmentation
今天看到一篇很好的论文,这篇论文中的设定跟我对半监督分割认为的一些概念一样。
2024-07-29 10:28:49
263
原创 长尾问题的解释
其实面对长尾问题,尤其是针对分类问题的长尾问题,我们可以把网络分成特征提取和分类器这两个部分,一般认为长尾问题并不会影响特征提取器对于特征的学习。关键问题是由于大量样本集中中某个类别,导致分类器在分类时概率会偏向某个类别,从而导致分类会失真。最近在看论文时,发现这篇关于长尾问题的论文,我觉得挺好的。
2024-06-12 07:59:24
298
原创 CSwin-PNet 新的医学图像分割网络
很长时间没有看到一些比较传统的医学图像分割网络了,2022年,来自哈尔滨工业大学的研究团队在Expert Systems With Applications. 期刊上发表了题为《CSwin-PNet: A CNN-Swin Transformer combined pyramid network for breast lesion segmentation in ultrasound images》的文章。文章提出了一种新的CNN和Swin Transformer结合的金字塔网络,用于乳腺病变分割。
2024-05-30 16:07:01
378
原创 Leveraging Old Knowledge to Continually Learn New Classes in Medical Images
我个人觉着这个概念很好,很不错。该概念是可以通过学习新概念来不断适应环境的变化,而不会忘记以前学过的概念。这在医学领域尤其需要,因为它需要不断地从新的输入数据中学习,以便对一组扩大的疾病进行分类。在这项工作中,我们关注于如何利用旧的知识来学习新的类,同时避免灾难性遗忘。此外,为了处理高度倾斜的类别分布,采用了成本敏感学习,并对来自欠表示的旧类别的样本施加更高的惩罚。具体细节,大家可以自己看论文,文章中是一种分类操作,其实我们可以用于其他的医学图像任务,比如医学图像分割方面,后续我也会在这上面继续研究。
2024-04-27 16:50:52
226
原创 3月发生的一些事
3月很快就要过去了,3月份我做了很多事,前半个月搞基金的事,折腾着。下半个月自己的孩子出生了,每天都比较累。但是这一切都是一个新的开始。下个月会逐渐走上正轨。
2024-03-26 17:21:29
140
原创 语义分割现状
个人感觉现阶段语义分割已经走上了一种全新阶段了,我看了一下最近相关语义分割论文,现在语义分割论文逐渐分成了两个层次,一些好的团队已经将其他领域的一些新的知识应用到语义分割网络上,还有一些普通的团队还是在和U-Net 死磕。我等普通人需要加油了。
2024-01-10 11:20:14
583
原创 ValueError: numpy.ndarray size changed, may indicate binary incompatibility. Expected 88 from C head
运行代码时出现上述问题,在网上搜索都是降低Numpy 版本或者是提高numpy 版本,但是我在实践中问题一直没有解决,然后我看了看问题,往上面一看,原来是skimage 代码引起的。然后我将skimage 版本降低就成功解决问题了。所以大家在遇到这个问题时候,如果降低numpy 版本不行,不妨看看报错的上面代码,看看是不是其他库引起的,这个时候尝试将其他库版本也降低一下,也许问题就解决了。
2023-12-23 11:31:07
490
原创 Tensorflow 2.5.0 报错Invalid argument: required broadcastable shapes at loc(unknown)
在我一筹莫展的时候,我想看看构建的模型到底是什么样子,所以我就用model.summary 展开了模型,展示模型以后才发现,原来自己输出的最后形状和金标准的形状不一样,这才导致出现上述问题,我把最后的输出形状改了以后,模型立马就可以运行了。》我认为自己找到了解决方法,但是发现跟上述文章中描述的不一样,我在softmax和sigmoid 下面都有这个问题,发现这个跟自己想象的不一样。在解决这个问题中,得到的经验是,大家在运行模型出现问题时,记得多看看模型本身是什么样子,一切问题的根源就在你构建的模型中。
2023-12-22 11:15:04
724
原创 语义分割方面的思考
我个人感觉现在深度学习的语义分割对普通人越来越不友好了,现在分割网络逐渐开始拼财力拼服务器算力了,对于普通人来说跑一些简单的网络做一些简单的修改发一些好文章越来越难了。现在大组逐渐开始讲究团队合作了。对于我们普通人来说只能走一步看一步了。
2023-11-30 17:04:53
453
原创 新的U-Net 网络结构
segmentation 这个文章提出了一种新的U-Net 网络结构。以前大家使用U-Net 喜欢加入新的模块或者使用多个U-Net 并联的方法进行语义分割。这篇文章提出了一种的新U-Net 结构。通过嵌套U-Net(NU-net)架构通过减少网络对不同尺度输入图像的敏感性并进一步提高对目标或区域特征的特征化能力,从而改善了分割准确性。在这里使用了嵌套的方法进行语义分割,这也给后续进行网络进行改写创造了新的思路。这篇文章给我另外一个惊讶的点是这篇文章发表在PR 杂志上面。
2023-10-14 10:08:26
472
原创 FLatten Transformer 简化版Transformer
虽然现在Transformer 比较火,在分割上面也应用的比较多,但是我一直不喜欢用,其中一个原因是结构太复杂了,平时我主要用一个sel-attention 感觉都有点复杂了,如果用多头会更复杂。与这些方法不同,线性注意力将Softmax解耦为两个独立的函数,从而能够将注意力的计算顺序从(query·key)·value调整为query·(key·value),使得总体的计算复杂度降低为线性。的计算往往会带来过高的计算量。针对这一问题,先前的工作通常通过减少参与自注意力计算的特征数量的方法来降低计算量。
2023-08-12 16:37:06
840
1
原创 EGE-UNet, 轻量化U-Net
其实一开始看到这个网络结构,我感觉有点恍惚,这都2023年了,还有人 这样魔改U-Net, 但是当我看我以后,发现了一些新的思路与方法。具体网络结构与细节,大家可以具体看看论文,我看完这篇文章的感觉,不在于模型设计的两个模块的精巧,而是看到原来还可以这样多层预测进行分割呀。通过这些高级模块的集成,EGE-UNet 在比先前的方法提升了分割性能的同时,显著减少了参数和计算负载。随着transform 的出现,现在语义分割网路结构越来越复杂,轻量化网路也较少了,有些轻量化也只是名义上的轻量化。
2023-07-23 16:24:02
2430
1
原创 Bridging ConvNeXt and U-Net for medical image segmentation
最近在收集论文时发现一篇比较有趣的论文,当提到ConvNeXt时,大家应该都知道,比较这个网络跟Transformer 一较高低的网络,在前段时间transformer 很多的时候,涌现了许多将transformer和U-Net 相结合的网络,现在有人将ConvNeXt网络与U-Net 进行了组合,其实整个论文思路很简单。我在这里推荐这篇文章并不是说这篇文章结构多么精巧,设计多么新颖。我只是想说一篇论文成功发表的关键点不是你想法多么新颖,而是在你整篇论文写法。
2023-06-20 11:09:54
666
4
原创 Head-Free Lightweight Semantic Segmentation with Linear Transformer 新颖的分割网络
现有的语义分割网络基本都是编码解码结构,新的语义分割网络主要都是在解码阶段添加新的不同模块,提高解码阶段特征处理能力,从而实现语义分割。它采用并行架构来利用原型表示作为特定的可学习的局部描述,以替换解码器并保留高分辨率特征上丰富的图像语义。尽管去掉解码器压缩了大部分计算,但并行结构的准确性仍然受到低计算资源的限制。因此,作者采用异构运算符(CNN和Vision Transformer)进行像素嵌入和原型表示,以进一步节省计算成本。最近我个人也在尝试去掉解码阶段实现语义分割,整个上面来说效果还行。
2023-05-23 11:52:23
230
2
原创 Per-Pixel Classification is Not All You Need for Semantic Segmentation MaskFormer 论文
如上图可以可以看出,掩码嵌入向量用于通过与从基础卷积网络中获得的每个像素嵌入的点积来获取二进制掩码预测,可以看出MaskFormer 相比于以前的transformer 模型在Backbone 或者 decoder 里使用tranformer ,它直接选择在中间提取的特征中分出一个特征提取流来利用 transformer ,并且将两者相结合在一起。现在主流的语义分割模型是作为像素集分类任务来处理的,但是再最新的实例分割则是使用掩码分类来处理, MaskFormer 论文将两者组合在一起了。
2023-04-23 10:44:37
203
原创 语义分割参考
前者用于提取丰富的多尺度局部特征,后者利用自注意机制将随机的全局信息编码到局部特征中。实验表明,论文的完整模型在。,并设计了一个混合结构Lite-Mono。(CDC)模块和一个。
2023-03-20 22:00:36
179
2
原创 Simple and Efficient Architectures for Semantic Segmentation 简洁的语义分割论文
大家有兴趣可以细看,我看到这篇文章发表于CVPR2022,看到这篇文章给我最大的感受并不是什么网络设计多么精巧,这篇文章主要是用了FPN 结构。给我最大的感受是,对一些常用的东西,我们只要认真弄,也是可以发好文章的。,文章以语义分割为主,整体结构简单明了。今天在看论文时注意到了这篇论文,
2023-02-25 20:11:16
302
原创 神经网络原理探索
每个神经元后面带有一个非线性的激活函数,输入经过一层神经网络非线性映射相当于对原始的输入空间做了一种非线性扭曲,在扭曲后的空间上再用一层神经元做半平面的剖分,那么两层神经网络综合的作用相当于把decision region 凸多边形那种划分。但是针对神经网络具体原理现在是公说公有理婆说婆有理,每个人都有自己一套理论研究。在我看到一篇很好的文章,对于神经网络进行的解释,大家可以看一下。当然这只是一家之言,每个人都有自己的想法,如果要看更详细的说明可以看文章。这个文章,里面有详细的说明,神经网络的拓扑结构。
2023-01-10 11:52:38
157
原创 一种新的语义分割思路
即学习一个函数 f(z, x) 来比较样本图像 z 和搜索图像 x 的相似性,如果两个图像相似度越高,则得分越高。为了找到在下一帧图像中目标的位置,可以通过测试所有目标可能出现的位置,将相似度最大的位置作为目标的预测位置。我在这里并不是要具体说明该方法的优点,我只是想到了一个很好的思路,那就是在语义分割中我们能不能使用这种类似的方法,去进行图像分割。这两天看到一篇挺有意思的论文,虽然不是语义分割方面的但是挺有意思的,因此在这里跟大家分享一下,这个也是一种语义分割的思路和方法。
2022-12-24 11:49:56
322
原创 Semi-supervised medical image segmentation via uncertainty rectified pyramid consistency 半监督医学图像分割
现在由于深度学习有监督分割基本也搞到头了,各种新网络新结构层出不穷,人们把精力主要放到了半监督分割任务上了。半监督学习旨在通过结合少量标记数据和大量未标记数据来取得可喜的结果,因此关键步骤是为未标记数据设计有效的监督。因此,已经提出了许多方法来有效地利用未注释的图像。今天看到一篇毕竟好的论文,整个思路并不复杂,给人感觉,原来还可以这么弄呀。通过图片,我们可以发现,这是一个典型的UNet 神经网络,加了金字塔结构。其实网络可以弄的并不复杂。
2022-11-22 11:38:40
767
2
原创 半监督的语义分割算法
现在随着标签数据成本的增加,现在无监督、半监督和弱监督,逐渐受到学术圈的研究。现在很多算法逐渐开始使用半监督的算法。这篇文章是一篇比较经典也是一种大家可以想到的简单的半监督分割算法。半监督语义分割算法的难点在于如何利用未标记的数据和如何训练未标记的数据。而这篇文章很好的解决了这个问题。在半监督中对于未标注的数据如何使用,每个人有不同的方法,在这篇文章中,作者使用了多视角的方法,对于同一个未标注的数据,使用多个网络进行相互的监督学习。这个思路很简单明了。论文精华就是上述这幅图,具体细节大家可以看一下论文。
2022-10-10 14:21:32
2167
原创 多方面改进的缺陷检测网络ES-Net
大家看到个结构图有什么感觉,有些搞过目标检测的会说这是很传统的深度学习搞目标检测的结构呀。分成三个部分,然后在每个地方魔改一下结构。其实我想说的是,现在是2022年了,整个深度学习进入了一个瓶颈期了,魔改网络时期基本已经过去了。但是在看到这篇文章以后,我想说的是,文章能不能发出去,已经跟网络结构没什么关系了,主要还是故事讲的好了。希望像我这么普通的人一起努力,争取发好的文章。这篇文章属于目标检测方面的文章,跟我目前在弄的语义分割网络有一些差别。我为什么对这篇文章有感觉呢,大家看一下这篇文章整幅结构图。...
2022-08-07 09:40:12
1317
原创 大卷积核的思考
前段时间我看到了一篇讨论大卷积核的论文RepLKNet这个论文讨论了大卷积核的作用,今天我又在网上看到了一篇类似的论文。看到这个我突然想到,以前我们在卷积神经网络中一些比较常用的或者习惯的思维,有时候可以修改修改,也许也可以获得不一样的效果。具体的论文细节大家可以自己去看论文,但是看到上面的一个图,大家就应该明白是怎么回事了,作者把大的卷积核拆开来使用了。这篇文章讨论了更大的卷积核达到了51×51....
2022-07-17 08:49:04
1511
原创 Mobile-Former: Bridging MobileNet and Transformer 新的网络结构
在看论文时,发现了一个比较好的论文,大家在语义分割上面可以借鉴一下的。这种结构利用了 MobileNet 在局部处理和 Transformer 在全局交互方面的优势。并且该bridge可以实现局部和全局特征的双向融合。 与最近在视觉Transformer上的工作不同,Mobile-Former 中的Transformer包含非常少的随机初始化的token(例如少于 6 个token),从而导致计算成本低。这种结构,我们可以沿用到语义分割神经网络中。...
2022-05-28 11:40:33
416
原创 Residual Local Feature Network for Efficient Super-Resolution 超分辨率处理论文
最近我看到一篇关于超分辨率处理的论文,感觉这篇论文对于语义分割很有参考意义,所以在这里分享给大家,希望大家对对于分割方面有借鉴意义。对于超分辨率方法我个人不是很了解,在这里我就不细说,以免说错出丑。大家可以看一下上面提到的论文。这篇文章主要针对的是图像超分辨率领域部署难得问题,提出了一种轻量级得残差局部特征网络(RLFN)网络框架如上图所示,RLFN由三个简单得部分组成:首先是大小为3×3得卷积,用以提取浅层特征,包含丰富得边缘与细节信息得特征,然后是多个RLFB 模块进行深度特征提取,该部
2022-05-26 14:56:40
799
原创 解决Anaconda3 安装库 卡 solving environment 的方法
解决方法使用mamba安装mambaconda install -c conda-forge mamba安装完之后就可以使用mamba来替代conda进行所有下载操作。常用命令添加包mamba install 包名删除包mamba remove 包名
2022-04-30 23:52:41
2055
原创 TopFormer 新的语义分割Transformer 结构
现在语义分割领域,最热门的当属Transformer的应用了,你要是在网络中不添加,那么就显得你的创新点大大降低。但是现在语义分割领域Transformer的计算量太大了,导致应用的还比较少。这两天我看到一篇比较好的论文,也给我们提供了一种新的语义分割思路。这篇文章是TopFormer,其中作者使用了一些方法来降低模型运算复杂度:作者利用了CNN和ViT的优势。构建了一个基于CNN的模块,称为Token Pyramid Module,用于处理高分辨率图像,以快速生成局部特征金字塔。考虑到在移动设备上
2022-04-20 20:03:59
4535
2
原创 关于卷积核大小的论文与思路
随着近些年深度学习的发展,人们在选用卷积神经网络时通常都会默认卷积核为3×3 或者5×5的,感觉像已经是一个默认的公式一样了。正常来说大的卷积核不是可以获得更大的感受野对模型性能更好吗?怎么大家都不用呢。也许你会是这样模型复杂度高了呀,Flops 大了。那我们可不可用一种方法降低复杂度而使用大的卷积核呢。然后我看到了这篇论文。Scaling Up Your Kernels to 31x31: Revisiting Large Kernel Design in CNNs .这篇文章讨论了大的卷积核的作用。
2022-03-14 21:03:46
3275
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人