人工智能 第9页
倾家荡产买显卡,炼丹科研两不误。数据如海深无底,模型似山高难攀。夜以继日调参数,GPU风扇声声急。精度提升一点点,发际线却步步高。代码千行非一日,实验百次方见真。AI世界多奇妙,科研路上共前行。
【人工智能】无归一化的Transformer - AI科研 编程 读书笔记 - 小竹の笔记本

【人工智能】无归一化的Transformer

论文作者团队提出用动态双曲正切(DyT)替代Transformer中的归一化层。传统观点认为归一化层(如Layer Norm)对模型稳定性至关重要,但作者发现其核心作用是通过类tanh的非线性压缩极端值。DyT...
SmallBamboo的头像 - AI科研 编程 读书笔记 - 小竹の笔记本SmallBamboo3个月前
011811
【人工智能】【Python】各种评估指标,PR曲线,ROC曲线,过采样,欠采样(Scikit-Learn实践) - AI科研 编程 读书笔记 - 小竹の笔记本

【人工智能】【Python】各种评估指标,PR曲线,ROC曲线,过采样,欠采样(Scikit-Learn实践)

本文介绍了使用Python和Scikit-Learn进行信用卡欺诈检测的完整流程。通过处理高度不平衡的数据集(492例欺诈 vs 284315正常),采用SMOTE过采样技术平衡样本,并使用决策树模型训练。评估部分涵...
SmallBamboo的头像 - AI科研 编程 读书笔记 - 小竹の笔记本SmallBamboo4个月前
01189
【人工智能】【Python】在Scikit-Learn中使用网格搜索对决策树调参 - AI科研 编程 读书笔记 - 小竹の笔记本

【人工智能】【Python】在Scikit-Learn中使用网格搜索对决策树调参

在鸢尾花数据集(n=150)中,通过三维参数空间遍历(「criterion/max_depth/min_samples_leaf」)结合6折分层验证,实现决策树准确率从92.1%至97.3%的跃升。实验揭示:信息熵准则在深层树(dept...
SmallBamboo的头像 - AI科研 编程 读书笔记 - 小竹の笔记本SmallBamboo4个月前
011110
【人工智能】对LSRFormer模块的理解——遥感图像语义分割 - AI科研 编程 读书笔记 - 小竹の笔记本

【人工智能】对LSRFormer模块的理解——遥感图像语义分割

我阅读了LSRFormer模块论文,它融合ViT和CNN优势,通过Split Windows分割特征图,采用LR-SA(长程自注意力)和SR-SA(短程自注意力)分别建模全局依赖和局部细节,并结合MSC-FFN增强多尺度特征...
SmallBamboo的头像 - AI科研 编程 读书笔记 - 小竹の笔记本SmallBamboo53天前
01096
【人工智能】用于密集图像预测的频率感知特征融合(频域特征融合的基础研究) - AI科研 编程 读书笔记 - 小竹の笔记本

【人工智能】用于密集图像预测的频率感知特征融合(频域特征融合的基础研究)

用于密集图像预测的频率感知特征融合这篇论文来源:TPAMI 2024,本研究将信号或图像从时域转换到频域,用于提取高频特征。
SmallBamboo的头像 - AI科研 编程 读书笔记 - 小竹の笔记本SmallBamboo6个月前
010714
【人工智能】【Python】综合算法实验(随机森林、梯度提升、支持向量回归解决音乐流行趋势预测任务) - AI科研 编程 读书笔记 - 小竹の笔记本

【人工智能】【Python】综合算法实验(随机森林、梯度提升、支持向量回归解决音乐流行趋势预测任务)

我使用随机森林、梯度提升和支持向量回归三种算法对音乐流行趋势预测进行了实验。实验采用阿里天池音乐数据集,通过特征工程提取时间特征、滞后特征和艺人静态特征,并进行异常值处理。结果显示...
SmallBamboo的头像 - AI科研 编程 读书笔记 - 小竹の笔记本SmallBamboo2个月前
010315