python神經(jīng)網(wǎng)絡(luò)AlexNet分類模型訓(xùn)練貓狗數(shù)據(jù)集
更新時(shí)間：2022年05月06日 10:54:34 作者：Bubbliiiing
這篇文章主要為大家介紹了python神經(jīng)網(wǎng)絡(luò)AlexNet分類模型訓(xùn)練貓狗數(shù)據(jù)集，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪
最近在做實(shí)驗(yàn)室的工作，要用到分類模型，老板一星期催20次，我也是無(wú)語(yǔ)了，上有對(duì)策下有政策，在下先找個(gè)貓貓狗狗的數(shù)據(jù)集練練手，快樂(lè)極了
什么是AlexNet模型
AlexNet是2012年ImageNet競(jìng)賽冠軍獲得者Hinton和他的學(xué)生Alex Krizhevsky設(shè)計(jì)的。也是在那年之后，更多的更深的神經(jīng)網(wǎng)絡(luò)被提出，比如優(yōu)秀的vgg,GoogLeNet。 這對(duì)于傳統(tǒng)的機(jī)器學(xué)習(xí)分類算法而言，已經(jīng)相當(dāng)?shù)某錾?。如下是其網(wǎng)絡(luò)的結(jié)構(gòu)，現(xiàn)在看來(lái)還是比較簡(jiǎn)單的。
這是一個(gè)AlexNet的網(wǎng)絡(luò)結(jié)構(gòu)圖，其實(shí)并不復(fù)雜，很好的反應(yīng)了AlexNet的結(jié)構(gòu)：
1、一張?jiān)紙D片被resize到(224,224,3)；
2、使用步長(zhǎng)為4x4，大小為11的卷積核對(duì)圖像進(jìn)行卷積，輸出的特征層為96層，輸出的shape為(55,55,96)；
3、使用步長(zhǎng)為2的最大池化層進(jìn)行池化，此時(shí)輸出的shape為(27,27,96)
4、使用步長(zhǎng)為1x1，大小為5的卷積核對(duì)圖像進(jìn)行卷積，輸出的特征層為256層，輸出的shape為(27,27,256)；
5、使用步長(zhǎng)為2的最大池化層進(jìn)行池化，此時(shí)輸出的shape為(13,13,256)；
6、使用步長(zhǎng)為1x1，大小為3的卷積核對(duì)圖像進(jìn)行卷積，輸出的特征層為384層，輸出的shape為(13,13,384)；
7、使用步長(zhǎng)為1x1，大小為3的卷積核對(duì)圖像進(jìn)行卷積，輸出的特征層為384層，輸出的shape為(13,13,384)；
8、使用步長(zhǎng)為1x1，大小為3的卷積核對(duì)圖像進(jìn)行卷積，輸出的特征層為256層，輸出的shape為(13,13,256)；
9、使用步長(zhǎng)為2的最大池化層進(jìn)行池化，此時(shí)輸出的shape為(6,6,256)；
10、兩個(gè)全連接層，最后輸出為1000類
最后輸出的就是每個(gè)類的預(yù)測(cè)。
從上面的圖也可以看出，其實(shí)最大的內(nèi)存與計(jì)算消耗在于第一個(gè)全連接層的實(shí)現(xiàn)，它的參數(shù)有37M之多（這一點(diǎn)與VGG很類似，第一個(gè)全連接層參數(shù)巨多。），
訓(xùn)練前準(zhǔn)備
1、數(shù)據(jù)集處理
在數(shù)據(jù)集處理之前，首先要下載貓狗數(shù)據(jù)集，地址如下。
鏈接：https://pan.baidu.com/s/1IfN8Cvt60n64bbC2gF4Ung
提取碼：he9i
順便直接下載我的源代碼吧。
這里的源代碼包括了所有的代碼部分，訓(xùn)練集需要自己下載，大概訓(xùn)練2個(gè)小時(shí)就可以進(jìn)行預(yù)測(cè)了。
本次教程準(zhǔn)備使用model.fit_generator來(lái)訓(xùn)練模型，在訓(xùn)練模型之前，需要將數(shù)據(jù)集的內(nèi)容保存到一個(gè)TXT文件中，便于讀取。
txt文件的保存格式如下：
文件名;種類
具體操作步驟如下：
1、將訓(xùn)練文件存到"./data/image/train/"目錄下。
2、調(diào)用如下代碼：
import os
photos = os.listdir("./data/image/train/")
# 該部分用于將
with open("data/dataset.txt","w") as f:
for photo in photos:
name = photo.split(".")[0]
if name=="cat":
f.write(photo + ";0\n")
elif name=="dog":
f.write(photo + ";1\n")
f.close()
就可以得到訓(xùn)練數(shù)據(jù)集的文本文件。
2、創(chuàng)建Keras的AlexNet模型
該步就是按照AlexNet的結(jié)構(gòu)創(chuàng)建AlexNet的模型。我試了原大小的模型，發(fā)現(xiàn)根本呢不收斂，可能是模型太復(fù)雜而且貓狗的特征太少了（也許是我打開(kāi)方式不對(duì)）……于是我就縮減了模型，每個(gè)卷積層的filter減半，全連接層減為1024.
from keras.models import Sequential
from keras.layers import Dense,Activation,Conv2D,MaxPooling2D,Flatten,Dropout,BatchNormalization
from keras.datasets import mnist
from keras.utils import np_utils
from keras.optimizers import Adam
def AlexNet(input_shape=(224,224,3),output_shape=2):
# AlexNet
model = Sequential()
# 使用步長(zhǎng)為4x4，大小為11的卷積核對(duì)圖像進(jìn)行卷積，輸出的特征層為96層，輸出的shape為(55,55,96)；
# 所建模型后輸出為48特征層
model.add(
Conv2D(
filters=48,
kernel_size=(11,11),
strides=(4,4),
padding='valid',
input_shape=input_shape,
activation='relu'
)
)
model.add(BatchNormalization())
# 使用步長(zhǎng)為2的最大池化層進(jìn)行池化，此時(shí)輸出的shape為(27,27,96)
model.add(
MaxPooling2D(
pool_size=(3,3),
strides=(2,2),
padding='valid'
)
)
# 使用步長(zhǎng)為1x1，大小為5的卷積核對(duì)圖像進(jìn)行卷積，輸出的特征層為256層，輸出的shape為(27,27,256)；
# 所建模型后輸出為128特征層
model.add(
Conv2D(
filters=128,
kernel_size=(5,5),
strides=(1,1),
padding='same',
activation='relu'
)
)
model.add(BatchNormalization())
# 使用步長(zhǎng)為2的最大池化層進(jìn)行池化，此時(shí)輸出的shape為(13,13,256)；
model.add(
MaxPooling2D(
pool_size=(3,3),
strides=(2,2),
padding='valid'
)
)
# 使用步長(zhǎng)為1x1，大小為3的卷積核對(duì)圖像進(jìn)行卷積，輸出的特征層為384層，輸出的shape為(13,13,384)；
# 所建模型后輸出為192特征層
model.add(
Conv2D(
filters=192,
kernel_size=(3,3),
strides=(1,1),
padding='same',
activation='relu'
)
)
# 使用步長(zhǎng)為1x1，大小為3的卷積核對(duì)圖像進(jìn)行卷積，輸出的特征層為384層，輸出的shape為(13,13,384)；
# 所建模型后輸出為192特征層
model.add(
Conv2D(
filters=192,
kernel_size=(3,3),
strides=(1,1),
padding='same',
activation='relu'
)
)
# 使用步長(zhǎng)為1x1，大小為3的卷積核對(duì)圖像進(jìn)行卷積，輸出的特征層為256層，輸出的shape為(13,13,256)；
# 所建模型后輸出為128特征層
model.add(
Conv2D(
filters=128,
kernel_size=(3,3),
strides=(1,1),
padding='same',
activation='relu'
)
)
# 使用步長(zhǎng)為2的最大池化層進(jìn)行池化，此時(shí)輸出的shape為(6,6,256)；
model.add(
MaxPooling2D(
pool_size=(3,3),
strides=(2,2),
padding='valid'
)
)
# 兩個(gè)全連接層，最后輸出為1000類,這里改為2類
# 縮減為1024
model.add(Flatten())
model.add(Dense(1024, activation='relu'))
model.add(Dropout(0.25))
model.add(Dense(1024, activation='relu'))
model.add(Dropout(0.25))
model.add(Dense(output_shape, activation='softmax'))
return model
開(kāi)始訓(xùn)練
1、訓(xùn)練的主函數(shù)
訓(xùn)練的主函數(shù)主要包括如下部分：
1、讀取訓(xùn)練用txt，并打亂，利用該txt進(jìn)行訓(xùn)練集和測(cè)試集的劃分。
2、建立AlexNet模型
3、設(shè)定模型保存的方式、學(xué)習(xí)率下降的方式、是否需要早停。
4、利用model.fit_generator訓(xùn)練模型。
具體代碼如下：
if __name__ == "__main__":
# 模型保存的位置
log_dir = "./logs/"
# 打開(kāi)數(shù)據(jù)集的txt
with open(r".\data\dataset.txt","r") as f:
lines = f.readlines()
# 打亂行，這個(gè)txt主要用于幫助讀取數(shù)據(jù)來(lái)訓(xùn)練
# 打亂的數(shù)據(jù)更有利于訓(xùn)練
np.random.seed(10101)
np.random.shuffle(lines)
np.random.seed(None)
# 90%用于訓(xùn)練，10%用于估計(jì)。
num_val = int(len(lines)*0.1)
num_train = len(lines) - num_val
# 建立AlexNet模型
model = AlexNet()
# 保存的方式，3世代保存一次
checkpoint_period1 = ModelCheckpoint(
log_dir + 'ep{epoch:03d}-loss{loss:.3f}-val_loss{val_loss:.3f}.h5',
monitor='acc',
save_weights_only=False,
save_best_only=True,
period=3
)
# 學(xué)習(xí)率下降的方式，acc三次不下降就下降學(xué)習(xí)率繼續(xù)訓(xùn)練
reduce_lr = ReduceLROnPlateau(
monitor='acc',
factor=0.5,
patience=3,
verbose=1
)
# 是否需要早停，當(dāng)val_loss一直不下降的時(shí)候意味著模型基本訓(xùn)練完畢，可以停止
early_stopping = EarlyStopping(
monitor='val_loss',
min_delta=0,
patience=10,
verbose=1
)
# 交叉熵
model.compile(loss = 'categorical_crossentropy',
optimizer = Adam(lr=1e-3),
metrics = ['accuracy'])
# 一次的訓(xùn)練集大小
batch_size = 64
print('Train on {} samples, val on {} samples, with batch size {}.'.format(num_train, num_val, batch_size))
# 開(kāi)始訓(xùn)練
model.fit_generator(generate_arrays_from_file(lines[:num_train], batch_size),
steps_per_epoch=max(1, num_train//batch_size),
validation_data=generate_arrays_from_file(lines[num_train:], batch_size),
validation_steps=max(1, num_val//batch_size),
epochs=150,
initial_epoch=0,
callbacks=[checkpoint_period1, reduce_lr])
model.save_weights(log_dir+'last1.h5')
model.fit_generator需要用到python的生成器來(lái)滾動(dòng)讀取數(shù)據(jù)，具體方法看第二步。
2、Keras數(shù)據(jù)生成器
Keras的數(shù)據(jù)生成器就是在一個(gè)while 1的無(wú)限循環(huán)中不斷生成batch大小的數(shù)據(jù)集。
def generate_arrays_from_file(lines,batch_size):
# 獲取總長(zhǎng)度
n = len(lines)
i = 0
while 1:
X_train = []
Y_train = []
# 獲取一個(gè)batch_size大小的數(shù)據(jù)
for b in range(batch_size):
if i==0:
np.random.shuffle(lines)
name = lines[i].split(';')[0]
# 從文件中讀取圖像
img = cv2.imread(r".\data\image\train" + '/' + name)
img = cv2.cvtColor(img,cv2.COLOR_BGR2RGB)
img = img/255
X_train.append(img)
Y_train.append(lines[i].split(';')[1])
# 讀完一個(gè)周期后重新開(kāi)始
i = (i+1) % n
# 處理圖像
X_train = utils.resize_image(X_train,(224,224))
X_train = X_train.reshape(-1,224,224,3)
Y_train = np_utils.to_categorical(np.array(Y_train),num_classes= 2)
yield (X_train, Y_train)
在其中用到了一些處理函數(shù)，我存在了utils.py工具人文件中。
import matplotlib.image as mpimg
import numpy as np
import cv2
import tensorflow as tf
from tensorflow.python.ops import array_ops
def load_image(path):
# 讀取圖片，rgb
img = mpimg.imread(path)
# 將圖片修剪成中心的正方形
short_edge = min(img.shape[:2])
yy = int((img.shape[0] - short_edge) / 2)
xx = int((img.shape[1] - short_edge) / 2)
crop_img = img[yy: yy + short_edge, xx: xx + short_edge]
return crop_img
def resize_image(image, size):
with tf.name_scope('resize_image'):
images = []
for i in image:
i = cv2.resize(i, size)
images.append(i)
images = np.array(images)
return images
def print_answer(argmax):
with open("./data/model/index_word.txt","r",encoding='utf-8') as f:
synset = [l.split(";")[1][:-1] for l in f.readlines()]
print(synset[argmax])
return synset[argmax]
3、主訓(xùn)練函數(shù)全部代碼
大家可以整體看看哈：
from keras.callbacks import TensorBoard, ModelCheckpoint, ReduceLROnPlateau, EarlyStopping
from keras.utils import np_utils
from keras.optimizers import Adam
from model.AlexNet import AlexNet
import numpy as np
import utils
import cv2
from keras import backend as K
K.set_image_dim_ordering('tf')
def generate_arrays_from_file(lines,batch_size):
# 獲取總長(zhǎng)度
n = len(lines)
i = 0
while 1:
X_train = []
Y_train = []
# 獲取一個(gè)batch_size大小的數(shù)據(jù)
for b in range(batch_size):
if i==0:
np.random.shuffle(lines)
name = lines[i].split(';')[0]
# 從文件中讀取圖像
img = cv2.imread(r".\data\image\train" + '/' + name)
img = cv2.cvtColor(img,cv2.COLOR_BGR2RGB)
img = img/255
X_train.append(img)
Y_train.append(lines[i].split(';')[1])
# 讀完一個(gè)周期后重新開(kāi)始
i = (i+1) % n
# 處理圖像
X_train = utils.resize_image(X_train,(224,224))
X_train = X_train.reshape(-1,224,224,3)
Y_train = np_utils.to_categorical(np.array(Y_train),num_classes= 2)
yield (X_train, Y_train)
if __name__ == "__main__":
# 模型保存的位置
log_dir = "./logs/"
# 打開(kāi)數(shù)據(jù)集的txt
with open(r".\data\dataset.txt","r") as f:
lines = f.readlines()
# 打亂行，這個(gè)txt主要用于幫助讀取數(shù)據(jù)來(lái)訓(xùn)練
# 打亂的數(shù)據(jù)更有利于訓(xùn)練
np.random.seed(10101)
np.random.shuffle(lines)
np.random.seed(None)
# 90%用于訓(xùn)練，10%用于估計(jì)。
num_val = int(len(lines)*0.1)
num_train = len(lines) - num_val
# 建立AlexNet模型
model = AlexNet()
# 保存的方式，3世代保存一次
checkpoint_period1 = ModelCheckpoint(
log_dir + 'ep{epoch:03d}-loss{loss:.3f}-val_loss{val_loss:.3f}.h5',
monitor='acc',
save_weights_only=False,
save_best_only=True,
period=3
)
# 學(xué)習(xí)率下降的方式，acc三次不下降就下降學(xué)習(xí)率繼續(xù)訓(xùn)練
reduce_lr = ReduceLROnPlateau(
monitor='acc',
factor=0.5,
patience=3,
verbose=1
)
# 是否需要早停，當(dāng)val_loss一直不下降的時(shí)候意味著模型基本訓(xùn)練完畢，可以停止
early_stopping = EarlyStopping(
monitor='val_loss',
min_delta=0,
patience=10,
verbose=1
)
# 交叉熵
model.compile(loss = 'categorical_crossentropy',
optimizer = Adam(lr=1e-3),
metrics = ['accuracy'])
# 一次的訓(xùn)練集大小
batch_size = 64
print('Train on {} samples, val on {} samples, with batch size {}.'.format(num_train, num_val, batch_size))
# 開(kāi)始訓(xùn)練
model.fit_generator(generate_arrays_from_file(lines[:num_train], batch_size),
steps_per_epoch=max(1, num_train//batch_size),
validation_data=generate_arrays_from_file(lines[num_train:], batch_size),
validation_steps=max(1, num_val//batch_size),
epochs=150,
initial_epoch=0,
callbacks=[checkpoint_period1, reduce_lr, early_stopping ])
model.save_weights(log_dir+'last1.h5')
訓(xùn)練結(jié)果
在完成上述的一大堆內(nèi)容的配置后就可以開(kāi)始訓(xùn)練了，所有文件的構(gòu)架如下：
……訓(xùn)練是真的慢
…… Epoch 36/50 175/175 [==============================] - 219s 1s/step - loss: 0.0124 - acc: 0.9962 - val_loss: 0.5256 - val_acc: 0.9034 Epoch 37/50 175/175 [==============================] - 178s 1s/step - loss: 0.0028 - acc: 0.9991 - val_loss: 0.7911 - val_acc: 0.9034 Epoch 38/50 175/175 [==============================] - 174s 992ms/step - loss: 0.0047 - acc: 0.9987 - val_loss: 0.6690 - val_acc: 0.8910 Epoch 39/50 175/175 [==============================] - 241s 1s/step - loss: 0.0044 - acc: 0.9986 - val_loss: 0.6518 - val_acc: 0.9001 Epoch 40/50 142/175 [=======================>......] - ETA: 1:07 - loss: 0.0074 - acc: 0.9976
差不多是這樣，在測(cè)試集上有90的準(zhǔn)確度呢！我們拿一個(gè)模型預(yù)測(cè)一下看看。
import numpy as np
import utils
import cv2
from keras import backend as K
from model.AlexNet import AlexNet
K.set_image_dim_ordering('tf')
if __name__ == "__main__":
model = AlexNet()
# 載入模型
model.load_weights("./logs/ep039-loss0.004-val_loss0.652.h5")
# 載入圖片，并處理
img = cv2.imread("./Test.jpg")
img_RGB = cv2.cvtColor(img,cv2.COLOR_BGR2RGB)
img_nor = img_RGB/255
img_nor = np.expand_dims(img_nor,axis = 0)
img_resize = utils.resize_image(img_nor,(224,224))
# 預(yù)測(cè)~！
#utils.print_answer(np.argmax(model.predict(img)))
print(utils.print_answer(np.argmax(model.predict(img_resize))))
cv2.imshow("ooo",img)
cv2.waitKey(0)
預(yù)測(cè)結(jié)果為：
貓貓
大功告成。
以上就是python神經(jīng)網(wǎng)絡(luò)AlexNet分類模型訓(xùn)練貓狗數(shù)據(jù)集的詳細(xì)內(nèi)容，更多關(guān)于AlexNet分類模型訓(xùn)練貓狗數(shù)據(jù)集的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章！
相關(guān)文章
這篇文章主要為大家詳細(xì)介紹了Python運(yùn)算符重載，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下，希望能夠給你帶來(lái)幫助2022-01-01
本文是一個(gè)利用Pytorch構(gòu)建高斯混合模型分類器的嘗試,我們將從頭開(kāi)始構(gòu)建高斯混合模型(GMM),這樣可以對(duì)高斯混合模型有一個(gè)最基本的理解,本文不會(huì)涉及數(shù)學(xué),需要的朋友可以參考下2023-10-10
本篇文章通過(guò)學(xué)習(xí)python爬蟲(chóng)相關(guān)知識(shí)點(diǎn)來(lái)分析Python3爬蟲(chóng)登錄模擬的原理以及相關(guān)代碼分析，對(duì)此有興趣的朋友參考下。2018-02-02
Python如何實(shí)現(xiàn)自帶HTTP文件傳輸服務(wù)
這篇文章主要介紹了Python如何實(shí)現(xiàn)自帶HTTP文件傳輸服務(wù),文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-07-07
python基礎(chǔ)教程之獲取本機(jī)ip數(shù)據(jù)包示例
本文主要介紹了python獲取本機(jī)ip數(shù)據(jù)包的示例，大家參考使用吧2014-02-02
這篇文章主要介紹了win7 x64系統(tǒng)中安裝Scrapy的方法，圖文并茂一步步的教你如何安裝Scrapy,需要的朋友可以參考下2018-11-11
箱形圖（Box-plot）又稱為盒須圖、盒式圖或箱線圖，是一種用作顯示一組數(shù)據(jù)分散情況資料的統(tǒng)計(jì)圖。因形狀如箱子而得名。本文將通過(guò)Python Pyecharts來(lái)繪制一些箱線圖，需要的可以參考一下2022-03-03
collections是Python內(nèi)建的一個(gè)集合模塊，提供了許多有用的集合類。這篇文章主要介紹了python內(nèi)置模塊collections的相關(guān)知識(shí)，非常不錯(cuò)，具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2019-11-11
對(duì)Xpath 獲取子標(biāo)簽下所有文本的方法詳解
今天小編就為大家分享一篇對(duì)Xpath 獲取子標(biāo)簽下所有文本的方法詳解，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-01-01
Python 實(shí)現(xiàn)勞拉游戲的實(shí)例代碼（四連環(huán)、重力四子棋）
這篇文章主要介紹了Python 實(shí)現(xiàn)勞拉游戲的實(shí)例代碼（四連環(huán)、重力四子棋）,本文通過(guò)實(shí)例代碼給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下2021-03-03