首页 版块 访问AI主站 注册 发帖
wudenggang0
1579
积分 积分商城
17
获赞
【百度技术学院机器学习训练营第二期】-实验作业
Ta的回复 :网络结构:计算每层网络结构和输入输出尺寸和参数个数。不加BN?更深?每层的尺寸变化?更多结构? 不考虑BATCH_SIZE且只考虑前向过程的情况下,输入images尺寸为[3,32,32],因为图片为RGB三通道,宽和高均为32。第一卷积池化层参数包括w:[20,3,5,5],b:[20],其中20为当层卷积核个数(通道数),3为输入images通道个数(前层通道数),5×5为卷积核大小,第一卷积池化层后的Batchnorm参数包括w:[20],b:[20],因为第一卷积池化层有20个通道。Batchnorm会把按通道计算均值和方差来进行正则化。类似,第二卷积池化层参数包括w:[50,20,5,5],b:[50],第二卷积池化层后的Batchnorm参数包括w:[50],b:[50],第三卷积池化层参数包括w:[50,50,5,5],b:[50],全连接层w:[50,10],b:[10]。因为是10分类,输出层尺寸为[10]。optimizer.minimize(avg_cost)函数输出为元组(optimize_ops, params_grads),其中params_grads是一个由(param, grad)变量对组成的列表,param是Parameter,即参数,grad是该Parameter对应的梯度值。
65
【百度技术学院机器学习训练营第二期】-实验作业
Ta的回复 :2班+追云戏月
65
【百度技术学院机器学习训练营第二期】-实验作业
Ta的回复 :二班+追云戏月  尝试不同的Loss函数和优化算法(SGD、Momentum、Adagrad、Adam),观察效果的变化,最好的选择是什么?为什么? 分类问题的Loss函数一般用cross_entropy。默认的学习率和EPOCH_NUM下,各优化算法下cost随着iter的变化趋势(其中momentum优化算法动量因子为0.9),可以看到Adam下降最快,其次为Momentum和Adagrad,cost下降最慢为SGD。从下降速度角度来看,优先选择Adam。另外比赛过程中,一般采用SGD,会获得更好的成绩。 [图片]
65
【百度技术学院机器学习训练营第二期】-实验作业
Ta的回复 :二班+追云戏月 3、尝试不同的样本数量:随着每个类别样本数量由少变多,模型准确率变化的曲线是怎样的?每个类别至少有多少张图片可支撑一个准确率尚可的模型? 使用图像分类模型识别世界的万事万物是否可行? 不修改参数的前提下,分别采用不同的样本数量(10000,20000,30000,40000和50000),test集的准确率逐渐上升。10000张图片每个分类大概1000张,不优化模型的前提下,准确率大致可达55%。 [图片] 数据集读取方式修改paddle.dataset.cifar模块(略微变动,红色框)。cifar10数据集中训练集包括5个pickle文件,每个pickle文件10000张图片,可以设定不同的样本数量。调用train10函数,通过sub_names设定包括的训练集,默认情况下使用所有训练集。 [图片] [图片]
65
【百度技术学院机器学习训练营第二期】-实验作业
Ta的回复 :使用图像分类模型识别世界的万事万物是否可行? 每天都会有新的事物诞生,图像分类模型识别 世界万事万物存在困难。
65
【百度技术学院机器学习训练营第二期】-实验作业
Ta的回复 :4、使用模型实践:拍一些身边宠物狗的照片(或网上找),处理成32*32尺寸后试试模型效果,准或不准的原因是什么? 随手拍了附近的小猫和小狗,默认的参数下,test集准确率只有65%,预测时均不准。模型尚需优化才行。 [图片][图片]
65
原帖已删除
Ta的回复 :我的建议:尽快出中级工程师考证,然后完善下初级工程师考级的学习资料。 我的建议:ai studio跑代码时,在A地打开一个浏览器运行项目(例如后台运行10小时),然后在B地打开浏览器运行该项目会重新打开一个后台,而非看到在A地正在运行的状况,建议完善。
0
切换版块
智能客服