neural 第69页

#Reading Paper# 【序列推荐】Session-based Recommendation with Graph Neural Networks

堇禤·2023-01-10 21:44

Model Fusion of Heterogeneous Neural Networks via Cross-Layer Alignment论文阅读

论文地址点这里一.介绍本文是针对异构的网络融合技术，是基于上一篇OTFusion的论文进行的工作，解决了神经元关联问题。当所有的网络都具有相同的架构时，OTFusion比普通平均算法有明显的改进。与其他基于平均的模型融合方法相比，OTFusion的一个优点是，由于最优传输的性质，它可以融合不同宽度(即神经元数量)的网络。然而，OTFusion仍然是一种分层的方法，不能直接用于异构神经网络。我们需要

编程龙·2023-01-10 19:48

编程龙·2023-01-10 19:46

一个卷积神经网络(CNN)中包含的张量大小和参数个数的计算

本篇文章来自于learnopencv.com/number-of-parameters-and-tensor-sizes-in-convolutional-neural-network/，感谢原作者的详细讲解

valuetimer·2023-01-10 19:38

论文笔记：Short-term origin-destination demand prediction in urban rail transit systems: A channel-wise a

Short-termorigin-destinationdemandpredictioninurbanrailtransitsystems:Achannel-wiseattentivesplit-convolutionalneuralnetworkmethodURTOD

UQI-LIUWJ·2023-01-10 17:30

nn.init.normal_()and.uniform_()and.constant_()

作用:将给定的值填充到tensor中原因:使neuralnetwork中的各层神经元的数据分布尽量保持相等,有利于信息的流动1torch.nn.init.uniform_(tensor,a,b)均匀分布

Z2572862506·2023-01-10 16:19

68、Learning Object-Compositional Neural Radi

简介官网：https://zju3dv.github.io/object_nerf/设计了一种新的双通路架构，其中场景分支编码场景几何和外观，而对象分支编码以可学习的对象激活码为条件的每个独立对象。为在严重杂乱的场景中生存训练，提出一种场景引导的训练策略，以解决遮挡区域的3D空间模糊性，并学习到每个物体的清晰边界。实现过程论文实现基于体素方法NSVF场景分支旨在编码整个场景的几何形状和外观，在可编

C--G·2023-01-10 16:13

69、CLIP-NeRF: Text-and-Image Driven Manipulation of Neural Radiance Fields

简介官网：https://cassiepython.github.io/clipnerf/利用对比语言-图像预训练(CLIP)模型的联合语言-图像嵌入空间，提出了一个统一的框架，可以用短文本提示或示例图像以用户友好的方式操纵NeRF。改论文结合NeRF的新视图合成能力和生成模型潜表示的可控操纵能力，提出一种解缠的条件NeRF架构，允许对形状和外观进行单独控制。解缠的条件NeRF架构通过将学到的变形

C--G·2023-01-10 15:00

NAS论文阅读小记一

NAS论文阅读小记一DartsSPOSMMNASBN-NASProxyLessNAS总结论文DARTS:DifferentiableArchitectureSearchSinglePathOne-ShotNeuralArchitectureSearchwithUniformSamplingBN-NAS

HDU-Dade·2023-01-10 15:00

论文解读《Channel pruning based on convolutional neural network sensitivity》

论文：Channelpruningbasedonconvolutionalneuralnetworksensitivity论文地址：DOI：10.1016/j.neucom.2022.07.051发表时间

谁来管毕设·2023-01-10 14:23

Refinement Network新框架

RefinementNeuralNetwork致力于将两者的优点结合起来,弥补两者的缺点,即:获得比two-stage方法更好的准确率，并且具有与one-stage媲美的效率。研究者提出了一个单阶段检

whaosoft143·2023-01-10 13:19

使用GPU训练大神经网络之显存控制策略与提升

本文是“[PPoPP18]SuperNeurons:DynamicGPUMemoryManagementforTrainingDeepNeuralNetworks”的论文阅读笔记，论文、talk视频PPT

silent56_th·2023-01-10 13:38

CCF推荐---计算机图形学与多媒体 / 人工智能两大板块计算机视觉、人工智能、图形学等方向所有会议deadline（以2022年为例）

人工智能A类1、AAAI2022AAAIConferenceonArtificialIntelligence2021年8月30日2、NIPS2022NeuralInformationProces

小芯啊·2023-01-10 11:36

Learning both Weights and Connections for Efficient Neural Networks 论文pytorch复现

LearningbothWeightsandConnectionsforEfficientNeuralNetworks论文pytorch复现这是论文中主要的步骤，因此我们复现的时候也主要是利用这个思想。

WanderingSIN·2023-01-10 11:06

Learning both Weights and Connections for Efficient Neural Networks

LearningbothWeightsandConnectionsforEfficientNeuralNetworks摘要神经网络是计算密集型和内存密集型的，这使得它们很难部署在嵌入式系统上。

WanderingSIN·2023-01-10 11:35

论文理解记录：Filter Pruning via Geometric Median for Deep Convolutional Neural Networks Acceleration

论文核心论文剪枝对象是卷积核，与其他论文不同点在于作者思考了norm-wise作为卷积核重要性判断的弊端，并提出了FPGM算法，该算法先计算出所有卷积核的几何中心（作者把卷积核当作多维空间中的点），然后找到距离几何中心近的卷积核，并删除。论文细节品读norm-wise评判标准的不足：作者提出使用nrom-wise需要满足两个条件如下图所示，下图表示同一层中卷积核l1l1l1-nrom或l2l2l2

Robohaha·2023-01-10 11:05

《Learning both Weights and Connections for Efficient Neural Networks》阅读笔记

参考链接：https://xmfbit.github.io/2018/03/14/paper-network-prune-hansong/主要思想：作者的方法分为三个步骤：TrainConnectivity:按照正常方法训练初始模型。作者认为该模型中权重的大小表征了其重要程度PruneConnection:将初始模型中那些低于某个阈值的的权重参数置成0（即所谓剪枝）Re-Train:重新训练，以期

tang-0203·2023-01-10 11:05

模型剪枝一：Learning both Weights and Connections for Efficient Neural Networks

论文：https://arxiv.org/abs/1506.02626代码：https://github.com/jack-willturner/DeepCompression-PyTorchhttps://github.com/Guoning-Chen/SimplePruning-PyTorch1核心思想本文给出了一个模型剪枝的处理思路，如Fig.2所示，即将模型剪枝分为三步，分别为：按照常规方

cdknight_happy·2023-01-10 11:34

《Learning both Weights and Connections for Efficient Neural Networks》论文笔记

1.论文思想深度神经网络在计算与存储上都是密集的，这就妨碍了其在嵌入式设备上的运用。为了解决该问题，便需要对模型进行剪枝。在本文中按照网络量级的排序，使得通过只学习重要的网络连接在不影响精度的情况下减少存储与计算量。论文中的方法分为三步：首先，使用常规方法训练模型；使用剪枝策略进行模型修剪；在修剪模型的基础上进行finetune。经过试验证明改文章提出的方法使得AlexNet的大小减小了9倍，参数

m_buddy·2023-01-10 11:34

Learning both Weights and Connections for Efficient Neural Network -- 论文笔记

这是2015年斯坦福和英伟达的一篇论文。1.简介：通过修剪训练后网络中的不重要连接（connections），来减少网络所需要的参数，减少内存和cpu的消耗，使网络更加适应在移动设备上运行。2.idea思想：1）首先训练整个网络，判断哪些是重要连接。2）修剪不重要的连接。3）重新训练修剪后的网络，微调保留下来的参数。3.达到的效果：1）在ImageNet上，减少了AlexNet9倍的参数，从61m

Xiaomin-Wu·2023-01-10 11:34

论文复现：Learning both Weights and Connections for Efficient Neural Networks

论文核心论文提出了非结构化剪枝策略，针对卷积层权重进行剪枝，并提出了著名的三步走剪枝策略。判断权重重要性的方式是对权重进行L1L1L1或L2L2L2正则化，然后按照一定的剪枝比例使正则化值较小的权重为0。论文细节品读模型压缩意义：论文从功耗方面讨论了模型需要被压缩的原因，神经网络越大，参数量和计算量越大，导致模型在前向推理时功耗越大，这对移动端和嵌入式端是残酷的。并且大模型无法存储在SRAM中（由

Robohaha·2023-01-10 11:04

网络模型剪枝-论文阅读《Learning both Weights and Connections for Efficient Neural Networks》

这是2015年NIPS的一篇经典的剪枝文章，由韩松大神所作，由于年代比较久远，所以就大概说一下它的重点内容，以便给模型剪枝有个初始印象。Introduction文章首先讲了LeNet、AlexNet和VGG这些当时经典的网络的参数量的非常大，同时需要的存储空间也越来越大；然后以能量消耗的角度谈了这些模型运行具体能消耗多少能量。这就引出了本文的目标，就是对较大的网络模型进行剪枝以降低能量消耗从而能在

AManFromEarth·2023-01-10 11:04

2.1 深度学习常用软件包和环境配置

常用软件包：TheanoPylearn2scikit-neuralnetworkCaffeDeeplearning4jTorchhttp://deeplearning.net/software_links

liang_biao·2023-01-10 10:17

图神经网络（Graph Neural Networks）

图神经网络（GraphNeuralNetworks）目录图神经网络（GraphNeuralNetworks）一、什么是图神经网络二、有哪些图神经网络符号定义图卷积网络1.1基于谱的GCNs方法1.2基于空间的

颂奇·2023-01-10 10:34

Joint Neural Architecture and Hyperparameter Search for Correlated Time Series Forecasting

JointNeuralArchitectureandHyperparameterSearchforCorrelatedTimeSeriesForecasting(sigmod2023)信息物理融合系统中的传感器通常捕获相互关联的过程

西西弗的小蚂蚁·2023-01-10 10:58

多视图3D目标检测学习笔记

参加滴滴无人驾驶算法大赛，在多方面参考了几篇目标检测和多视角检测融合等文献，最终团队确定了一下两篇论文作为比赛的参考：AUnifiedMulti-scaleDeepConvolutionalNeuralNetworkforFastObjectDetectionMulti-View3DObjectDetectionNetworkforAutonomousDriving

savant_ning·2023-01-10 09:21

(1) Human Pose Estimation:DeepPose

1.DeepPose:HumanPoseEstimationviaDeepNeuralNetworksCVPR2014readingtime:2019/09/05papaeraddresses:https

滴水藏海NQZ·2023-01-10 09:19

DeepPose: Human Pose Estimation via Deep Neural Networks论文翻译

翻译点击链接获取基本思想级联网络架构：在第一阶段将图像输入后得到大致位置，在之后的阶段利用相同的网络架构得到更精细的结果。对级联的所有阶段使用相同的网络架构，但学习不同的网络参数。其中网络架构使用的是Alex，所不同的是loss函数，AlexNet是用于分类的，而本文的架构是用于回归位置的。其中的AlexNet网络架构图见论文截取出论文中的架构图：其中有一处错误，输入应该是227*227对于每一层

吃肉肉·2023-01-10 09:19

阅读笔记——DeepPose: Human Pose Estimation via Deep Neural Networks

目录概述方法数据集指标及效果概述DeepPose2014年由谷歌的研究人员提出，是最先将神经网络应用在人体姿态估计和关键点定位方面的论文。如下图所示，关键点定位中存在一些问题：一些关键点可能很小或者几乎不可见；关键点可能被遮挡，这时候它的位置只能靠猜测；不同部位的关键点可能发生混淆等。方法DeepPose直接回归关键点坐标，为了提高回归精度，首先基于人体box框对关键点坐标进行归一化：模型结构方面

哇哇九号·2023-01-10 09:47

【DeepPose】《DeepPose：Human Pose Estimation via Deep Neural Networks》

CVPR-2014用Deeplearning方法做HumanPoseEstimation的鼻祖文章目录1BackgroundandMotivation2Advantages/Contributions3Method3.1PoseEstimationasDNN-basedRegression3.2CascadeofPoseRegressors4Experiments4.1Datasets4.2Res

bryant_meng·2023-01-10 09:47

姿态识别入门 DeepPose: Human Pose Estimation via Deep Neural Networks

研究背景人体姿态识别被定义为人体关键点的定位问题，一直以来是计算机视觉领域的重要关注点。这一问题有着一些常见的挑战，比如各式各样的关节姿态，小得难以看见的关节点，遮蔽的关节点，需要根据上下文判断的关节点，而这个领域主流的工作是各式样的关节姿态。此前的姿态估计都是基于局部的为关节建模，这种方式对于表示能力是很有局限性的，因为它使用局部探测器，只能是为身体关节点之间所有关系的部分子集建立模型，很有局限

header_zzj·2023-01-10 09:47

DeepPose ： Human Pose Estimation via Deep Neural Networks 阅读笔记

DeepPose：HumanPoseEstimationviaDeepNeuralNetworks阅读笔记摘要1.Introduction2.RelatedWork3.DeepLearningModelforPoseEstimation3.1

木卯_THU·2023-01-10 09:17

【学习】life long learning

GEM2、AdditionalNeuralResourceAllocation额外的神经资源分配packNet&CPG3、memoryreplyCurriculumLearninglifelonglearning

Raphael9900·2023-01-10 09:17

人体姿态估计-论文精读--DeepPose: Human Pose Estimation via Deep Neural Networks

图1.除了关节的极端变异性外，许多关节几乎不可见。我们能猜测左图中右臂的位置，因为我们看到了姿势的其余部分，并预测了这个人的运动或活动。同样，右边的人的左半身也根本看不见。这些都是需要进行整体推理的例子。我们相信DNNs可以很正确地进行这种类型的推理。Abstract我们提出了一种基于深度神经网络（DNNs）的人体姿态估计方法。姿态估计被表述为一个基于DNN的身体关节回归问题。我们提出了一连串的D

猛男技术控·2023-01-10 09:16

YoutubeDNN详解

YoutubeDNN背景Youtube2016年发表的深度推荐系统论文《DeepNeuralNetworksforYouTubeRecommendations》，这篇文章是工程向导的。

蓝色仙女·2023-01-10 08:30

TensorFlow NormLization

local_response_normalizationlocal_response_normalization出现在论文”ImageNetClassificationwithdeepConvolutionalNeuralNetworks

weixin_33895016·2023-01-10 07:41

给你一个卷积神经网络工作原理最直观的解释

本文来自AI新媒体量子位（QbitAI）卷积神经网络（ConvolutionalNeuralNetwork,CNN）是人工神经网络的一种，是当下语音分析和图像识别领域的研究热点。

weixin_34072159·2023-01-10 05:08

人工智能-作业6：CNN实现XO识别

目录数据集构建模型训练模型测试训练好的模型计算模型的准确率查看训练好的模型的特征图查看训练好的模型的卷积核训练模型源代码测试模型源代码数据集ConvolutionalNeuralNetworkswithMatlab

iibk876·2023-01-10 05:38

深度学习（六）：CNN介绍

这个process可以反复无数次，反复的次数你觉得够多之后，(但是反复多少次你是要事先决定的，它就是network的架构(就像你的neural有几层一样)，你要做几层的conv

XF永不007·2023-01-10 05:38

GraphSAGE: 算法原理，实现和应用

在上一篇文章中介绍了GCN浅梦：【GraphNeuralNetwork】GCN:算法原理，实现和应用zhuanlan.zhihu.comGCN是一种在图中结合拓扑结构和顶点属性信息学习顶点的embedding

张博208·2023-01-09 21:03

Bag of Tricks for Long-Tailed Visual Recognition with Deep Convolutional Neural Networks

熠regina·2023-01-09 20:55

机器学习 —— 深度学习 —— 基于DAGNN的MNIST NET

DAGNN是Directedacyclicgraphneuralnetwork缩写，也就有向图非循环神经网络。我使用的是由MatConvNet提供的DAGNNAPI。

weixin_34294649·2023-01-09 19:33

积神经网络的参数优化方法——调整网络结构是关键你只需不停增加层，直到测试误差不再减少.

积神经网络(CNN)的参数优化方法from：http://blog.csdn.net/u010900574/article/details/51992156著名：本文是从MichaelNielsen的电子书NeuralNetworkandDeepLearning

沟壑星空qq_42946961·2023-01-09 19:01

3网络连接图_CS224w 图神经网络（Graph Neural Networks）

Hi，大家好，这里是居家隔离的糖葫芦喵喵~！在之前的内容里我们讨论了图像和自然语言的机器学习方法以及简单的强化学习方法，今天开始我们要接触到机器学习的另一个有趣的领域——图机器学习。下面为大家带来斯坦福图机器学习CS224w2019的Assginment2的解析，还请大家多多指教~！Part0CS224nAssignment简介与环境准备1课程简介课程页面：CS224W|Home课程视频[英字]：

懂得越多越要学·2023-01-09 18:06

GCN、GAT实现Cora数据集节点分类（pytorch-geometric框架）

论文被分为以下七类之一:Case_BasedGenetic_AlgorithmsNeural_NetworksProbabili

啊喔呃鸭·2023-01-09 17:05

【图神经网络】PyG的MessagePassing机制实现

概述Google在2017发表的论文NeuralMessagePassingforQuantumChemistry中提到的MessagePassingNeuralNetworks机制成为了后来图机器学习计算的标准范式实现

kang0709·2023-01-09 17:35

对话模型-改写式回复生成模型-Response Generation by Context-aware Prototype Editing

文章目录介绍整体架构PrototypeSelectorContext-AwareNeuralEditor结果介绍AAAI-2019上下文敏感的改写式回复生成模型。

Adupanfei·2023-01-09 16:12

人脸识别项目总结

文章目录前言一、算法的需求及应用场景二、算法的调研和初步方案的制定三、数据准备1.数据集准备2.数据增强四、算法介绍[1]Multi-taskconvolutionalneuralnetwork（MTCNN

Fred_27·2023-01-09 14:02

神经网络（Neural Network)

进而形成人们的世界观，推演，证明经过很多复杂的往复和推理过程，起初是经由发现，获取更多线索，不断证明，并不断被挑战（可证伪性），最终形成当下的世界观，人脑的思维过程能否被机器替代，今天主要简述下神经网络（NeuralNetwork

onehao·2023-01-09 11:54

KPU

KPU，NeuralNetworkProcessor，或称为KnowledgeProcessingUnit，是MAIX的AI处理部分的核心。那么KPU是如何处理AI算法的呢？

KTomohisa·2023-01-09 09:05

推荐频道

neural