Caffe训练过程中的train,val,test的区别

valvalidation的简称。
training datasetvalidation dataset都是在训练的时候起作用。
而因为 validation的数据集和 training没有交集,所以这部分数据对最终训练出的模型没有贡献。
validation的主要作用是来验证是否过拟合、以及用来调节训练参数等。

比如训练 0-10000次迭代过程中, trainvalidationloss都是不断降低,
但是从 10000-20000过程中 train loss不断降低, validationloss不降反升。
那么就证明继续训练下去,模型只是对 training dataset这部分拟合的特别好,但是泛化能力很差。
所以与其选取 20000次的结果,不如选择 10000次的结果。
这个过程的名字叫做 Early Stopvalidation数据在此过程中必不可少。

如果跑 caffe自带的训练 demo,你会用到 train_val.prototxt,这里面的 val其实就是 validation
而网络输入的 TEST层,其实就是 validation,而不是 test。你可以通过观察 validationlosstrainloss定下你需要的模型。

但是为什么现在很多人都不用 validation了呢?
我的理解是现在模型中防止过拟合的机制已经比较完善了, Dropout\BN等做的很好了。
而且很多时候大家都用原来的模型进行 fine tune,也比从头开始更难过拟合。
所以大家一般都定一个训练迭代次数,直接取最后的模型来测试。

引用链接


Ubuntu 16.04编译GPU(CUDA)版本的Caffe

  • 配置编译环境

参照Ubuntu 14.04,14.10,16.04编译CPU版本Caffe确保可以正常编译通过 CPU版本的 Caffe.

  • 安装Nvidia CUDA驱动

参照Ubuntu 16.04安装Nvidia CUDA驱动安装 Nvidia CUDA驱动.

  • 安装Nvidia CUDNN库

参照Ubuntu 16.04开启dlib对于AVX或者CUDA的支持里面设置 Nvidia CUDNN部分,配置好 Nvidia CUDNN库.

  • 编译代码

  • 编译出错的处理

如果编译时候出现如下错误信息

则需要在执行 cmake的时候增加

的定义。

  • 编译选项

某些库在使用 Nvidia CUDNN的时候会崩溃,此时我们可以在编译的时候,排除 Nvidia CUDNN即可。

例子如下:

参考链接


ubuntu 16.04中CAFFE配置步骤

A Practical Introduction to Deep Learning with Caffe and Python

Deep learning is the new big trend in machine learning. It had many recent successes in computer vision, automatic speech recognition and natural language processing.

The goal of this blog post is to give you a hands-on introduction to deep learning. To do this, we will build a Cat/Dog image classifier using a deep learning algorithm called convolutional neural network (CNN) and a Kaggle dataset.

This post is divided into 2 main parts. The first part covers some core concepts behind deep learning, while the second part is structured in a hands-on tutorial format.

In the first part of the hands-on tutorial (section 4), we will build a Cat/Dog image classifier using a convolutional neural network from scratch. In the second part of the tutorial (section 5), we will cover an advanced technique for training convolutional neural networks called transfer learning. We will use some Python code and a popular open source deep learning framework called Caffe to build the classifier. Our classifier will be able to achieve a classification accuracy of 97%.

By the end of this post, you will understand how convolutional neural networks work, and you will get familiar with the steps and the code for building these networks.

The source code for this tutorial can be found in this github repository.

继续阅读A Practical Introduction to Deep Learning with Caffe and Python

Deep learning tutorial on Caffe technology : basic commands, Python and C++ code.

Caffe is certainly one of the best frameworks for deep learning, if not the best.

Let’s try to put things into order, in order to get a good tutorial :).

Caffe

Install

First install Caffe following my tutorials on Ubuntu or Mac OS with Python layers activated and pycaffe path correctly set export PYTHONPATH=~/technologies/caffe/python/:$PYTHONPATH.

继续阅读Deep learning tutorial on Caffe technology : basic commands, Python and C++ code.

macOS Sierra (10.12.4)下Caffe执行Python代码报告错误“Mean shape incompatible with input shape”

在执行macOS Sierra (10.12.4)下Caffe通过Python接口加载binaryproto格式的均值文件的时候,最后报告错误:

这个错误发生的原因是由于 memnet提供的均值文件是 256*256的,但是提供的配置文件却是 227*227的,导致在 io.py里面的代码在进行判断的时候发生异常。调整源代码中的 python/caffe/io.py里面的代码:

调整为:

调整完成后,需要重新编译 Caffe:

参考链接


macOS Sierra (10.12.4)下Caffe通过Python接口加载binaryproto格式的均值文件

macOS Sierra ( 10.12.4)下 Caffe通过 Python接口加载均值文件的时候,都是加载的 .npy格式的文件,这个格式是 Python存储的格式,跟我们经常下载到的 .binaryproto格式的均值文件是不同的,这样就导致了加载问题。
.binaryprotoGoogleProtocol Buffer序列化后的数据,而 .npy格式是 Pythonnumpy模块序列化后的数据。

之所以会出现两种不同的存储格式,目前猜测是由于目前 Python 3不能很好的支持 Protocol Buffer导致的。

Python下是不能直接加载 .binaryproto格式的数据的,必须进行一次转换才行,示例代码如下:

参考链接


macOS Sierra (10.12.4)编译pycaffe成功后,执行时候崩溃,错误“Segmentation fault: 11”

参照macOS Sierra (10.12.3)编译Caffe编译成功 Caffe后,开始尝试使用 CaffePython接口,执行如下命令:

编译一切成功,但是当执行

的时候,程序崩溃,提示如下内容:

继续阅读macOS Sierra (10.12.4)编译pycaffe成功后,执行时候崩溃,错误“Segmentation fault: 11”

macOS Sierra (10.12.4)系统上Caffe借助现有的模型训练自己的数据集

Caffe代码中自带一些模型的例子,这些例子在源代码的 models目录下,这些都是其他项目中用来训练的配置文件,学习的时候,我们没有必要完全自己从头到尾搭建自己的网络模型,而是直接使用例子中的模型,后期在这些模型上简单调整一下,一般可以满足大多数的需求。

下面我们以 models/bvlc_alexnet目录下的模型配置文件为例子,训练我们自己的神经网络。

继续阅读macOS Sierra (10.12.4)系统上Caffe借助现有的模型训练自己的数据集

Caffe用训练好的caffemodel来进行分类

caffe程序自带有一张小猫图片,存放路径为 caffe根目录下的 examples/images/cat.jpg, 如果我们想用一个训练好的 caffemodel来对这张图片进行分类,那该怎么办呢? 如果不用这张小猫图片,换一张别的图片,又该怎么办呢?如果学会了小猫图片的分类,那么换成其它图片,程序实际上是一样的。

开发 caffe的贾大牛团队,利用 imagenet图片和 caffenet模型训练好了一个 caffemodel,供大家下载。要进行图片的分类,这个 caffemodel是最好不过的了。所以,不管是用 C++来进行分类,还是用 python接口来分类,我们都应该准备这样三个文件:

1. caffemodel文件

可以直接在浏览器里输入地址下载,也可以运行脚本文件下载。下载地址:http://dl.caffe.berkeleyvision.org/bvlc_reference_caffenet.caffemodel

文件名称为: bvlc_reference_caffenet.caffemodel,文件大小为230M左右,为了代码的统一,将这个 caffemodel文件下载到 caffe根目录下的 models/bvlc_reference_caffenet/文件夹下面。也可以运行脚本文件进行下载:

2. 均值文件
有了 caffemodel文件,就需要对应的均值文件,在测试阶段,需要把测试数据减去均值。这个文件我们用脚本来下载,在caffe根目录下执行:

执行并下载后,均值文件放在 data/ilsvrc12/ 文件夹里。

3. synset_words.txt文件

在调用脚本文件下载均值的时候,这个文件也一并下载好了。里面放的是1000个类的名称。

数据准备好了,我们就可以开始分类了,我们给大家提供两个版本的分类方法:

一. C++方法

caffe根目录下的 examples/cpp-classification/文件夹下面,有个 classification.cpp文件,就是用来分类的。当然编译后,放在 /build/examples/cpp_classification/下面

我们就直接运行命令:

命令很长,用了很多的\符号来换行。可以看出,从第二行开始就是参数,每行一个,共需要4个参数

运行成功后,输出 top-5结果:

即有0.3134的概率为tabby cat, 有0.2380的概率为tiger cat ......

二. python方法

python接口可以使用 jupyter notebook来进行可视化操作,因此推荐使用这种方法。

在这里我就不用可视化了,编写一个 py文件,命名为 py-classify.py

对于 macOS Sierra (10.12.3)来说,需要设置 python环境,(参考源代码中的 python/requirements.txt),如下:

执行这个文件,输出:

caffe开发团队实际上也编写了一个python版本的分类文件,路径为 python/classify.py

运行这个文件必需两个参数,一个输入图片文件,一个输出结果文件。而且运行必须在 python目录下。假设当前目录是 caffe根目录,则运行:

分类的结果保存为当前目录下的result.npy文件里面,是看不见的。而且这个文件有错误,运行的时候,会提示

的错误。因此,要使用这个文件,我们还得进行修改:

1.修改均值计算:

定位到

这一行,在下面加上一行:

则可以解决报错的问题。

2.修改文件,使得结果显示在命令行下:

定位到

这个地方,在后面加上几行,如下所示:

就样就可以了。运行不会报错,而且结果会显示在命令行下面。

参考链接


Caffe学习系列(20):用训练好的caffemodel来进行分类

Ubuntu 14.04,14.10,16.04编译CPU版本Caffe

最近在学习 Deep Learning,参考一下经典的 Caffe,记录一下编译历程。

  • 安装build-essentials

安装开发所需要的一些基本包

  • 安装OpenCV

图片处理都算依赖 OpenCV,版本号要>=2.4版本,目前 14.0414.10默认的版本都是 2.4

  • 安装数学计算库 ATLAS

ATLAS提供离散数学,线性代数的计算支持

  • 安装 Boost

Boost提供了一系列的 C++算法支持,需要>=1.55版本,目前的 14.0414.10默认的版本都是 1.55

  • 然后就是一些依赖项

protobuf, leveldb, snappy, hdf5, gflags-devel, glog-devel, lmdb-devel

  • 安装 GIT

  • 下载代码

  • 编译 Caffe

然后修改里面的内容,主要需要修改的参数包括
CPU_ONLY是否只使用 CPU模式,没有 GPU没安装 CUDA的同学可以打开这个选项
BLAS (使用 intel mkl还是 OpenBLAS)
完成设置后,开始编译

  • 编译出错的处理

Ubuntu 16.04下编译时候提示:

解决方法:
1. 编辑 Makefile.config,在文件最后,添加 /usr/include/hdf5/serialINCLUDE_DIRS

2.修改 Makefile文件,把 hdf5_hlhdf5修改为 hdf5_serial_hlhdf5_serial,也就是把下面第一行代码改为第二行代码。

原始内容:

修改后的内容:

  • 编译Python接口