機械学習を用いた画像分類

Home Avintonアカデミー機械学習を用いた画像分類

1. タスクの説明と画像分類プログラムの概要

このセクションでは機械学習技術を用いて下のような画像を「文章」「図表」「風景画像」の3カテゴリに分類します。

今回用いる機械学習アルゴリズムは以下の2つです。どちらも実装にはScikit-learnというPython用のシンプルなデータ分析ライブラリを用いています。

- - ・PCA(主成分分析)
  - ・K-means clustering

環境構築にはAnacondaというディストリビューションを用い、実際に画像分類のプログラムをAnacondaに含まれているJupyter notebookという環境の上で解説とともにStep by stepで実行していきます。

2.Anacondaのインストール

まずはセットアップとしてAnacondaという科学計算(データサイエンス含む)でよく用いられるディストリビューションをインストールします。Python本体とPythonでよく用いられるライブラリがほぼ全てセットになっていて、面倒な環境構築を簡略化できるので多くの人に利用されています。

Anacondaについて

2.1: インストーラのダウンロード

以下のリンクからLinux用のAnacondaインストーラ(Python 3版)をダウンロードしてください。

Anacondaインストールページ

Downloadを押した後にメールアドレスを聞かれるかと思いますが、スターターガイドが欲しい場合以外はNo Thanksでスキップして構いません。

2.2: インストーラの実行

ターミナル(端末)を起動し、ダウンロードしたファイルを実行します。

$ bash ~/Downloads/Anaconda3-4.4.0-Linux-x86_64.sh

1	$ bash ~/Downloads/Anaconda3-4.4.0-Linux-x86_64.sh

＊ファイル名中の数字はAnacondaのバージョンによって異なります。

インストーラが起動するので、ライセンスを表示するためにまずEnterキーを押します。

ラインスが表示されるかと思いますのでSpaceキーでスクロールしていきます。

ライセンスに同意するか尋ねられるのでyesと入力しライセンスに同意します。

インストール場所を聞かれるかと思いますが、基本はデフォルトで大丈夫なのでEnterキーを押します。

最後に.bashrc の環境変数(PATH)にAnacondaの位置を追加するか聞かれるので、yesと入力します。

2.3: 正しくインストールされているかの確認

以下のコマンドを実行し、バージョンが表示されることを確認してみてください。

$ conda -V

1	$ conda -V

バージョンが正しく表示されればAnacondaのインストールは完了です。

3. 画像分類プログラムの実行

ここではJupyter Notebook内でどのようなコードを書いているかの中身を先に紹介します。実際のコードの実行は画像とnotebookのダウンロード後にJupyter notebook環境上で行なってください。

実際にプログラミング体験を行っていただくにはセクション4で用意しているJupyterNotebookをダウンロードしてください。

今回の画像分類のプログラムでは

1. 画像データを機械学習アルゴリズムが適用できる形式のデータセットに変換する
2. PCAを用いてそのデータセットの次元を削減して扱いやすくする
3. K-means clusteringでクラスタリング(グループ分け)をする

という流れを3回繰り返して画像を分類していきます。

理想は１回のクラスタリングで上の３グループに分けることですが、今回のような教師なしの分類でそれを行うのは至難の業です。ですので、ここでは3回に分けて分類(ラベル付け)をすることで精度を上げていきます。なお今回用いる2つの機械学習アルゴリズムの説明はプログラム中の実際に使用するところで行います。

プログラムのOutline

以下に画像分類プログラム全体のOutlineを示します。

1. 必要なライブラリ、モジュールのインポート

2. 何枚かの画像とそのサイズの表示

3. 1回目の分類

4. 2回目の分類

5. 3回目の分類

3.1: 必要なライブラリ、モジュールのインポート

まず今回のプログラムで必要なライブラリ、モジュールをインポートします。

また、再現性のための乱数のseed等も適宜設定していきます。

import os
import glob
from PIL import Image
import numpy as np
import matplotlib.pyplot as plt
%matplotlib inline
from sklearn.decomposition import IncrementalPCA
from sklearn.cluster import KMeans

np.random.seed(5)

import os

import glob

from PIL import Image

import numpy as np

import matplotlib.pyplot as plt

%matplotlib inline

from sklearn.decomposition import IncrementalPCA

from sklearn.cluster import KMeans

np.random.seed(5)

3.2: 何枚かの画像とそのサイズの表示

3.2-1: 画像へのパスのリスト(img_paths)をつくる

ここでは、今回分類する画像のパスを取得し、リストimg_pathsに追加していっています。
画像は全部で868枚あります。

img_paths = []
for file in glob.glob("./1*/*.jpg"):
img_paths.append(file)

print("Image number:", len(img_paths))
print("Image list make done.")

img_paths = []

for file in glob.glob("./1*/*.jpg"):

img_paths.append(file)

print("Image number:", len(img_paths))

print("Image list make done.")

3.2-2: 画像とそのサイズを表示する

下のコードを実行すると、画像とそのサイズ(1232, 1754)が確認できると思います。

for i in img_paths[::124]:
img = Image.open(i)
print(img.size)
plt.figure()
plt.imshow(np.asarray(img))

for i in img_paths[::124]:

img = Image.open(i)

print(img.size)

plt.figure()

plt.imshow(np.asarray(img))

3.3: 1回目の分類(データセットづくり → PCA → K-means clustering）

それでは1回目の分類をしていきます。まずは分類の流れの中の1stステップ、データセットづくりです。

3.3-1: 画像データを機械学習用データセットへ変換する

ここではそれぞれの画像データをnumpy(Pythonで数値計算を高速に行うための拡張モジュール)の行列形式にし、それを1行の列ベクトルにして縦に並べていくことでデータセットをつくっていきます。

なお画像の枚数868枚はlaptop + Jupyter notebookという環境には少し多すぎるので、ここからはリストの上から600枚のみを使うこととします。また画像データのサイズ(1232, 1754)も同様の理由で少し大きすぎるので、1/6にリサイズします。

plt.close("all")
img_paths = img_paths[:600]
print(len(img_paths))

def img_to_matrix(img):
img_array = np.asarray(img)

return img_array

def flatten_img(img_array):
s = img_array.shape[0] * img_array.shape[1] * img_array.shape[2]
img_width = img_array.reshape(1, s)

return img_width[0]

dataset = []
for i in img_paths:
img = Image.open(i)

img = img.resize((int(1232/6), int(1754/6)), Image.BICUBIC)

img = img_to_matrix(img)
img = flatten_img(img)

dataset.append(img)

dataset = np.array(dataset)
print(dataset.shape)
print("Dataset make done.")

plt.close("all")

img_paths = img_paths[:600]

print(len(img_paths))

def img_to_matrix(img):

img_array = np.asarray(img)

return img_array

def flatten_img(img_array):

s = img_array.shape[0] * img_array.shape[1] * img_array.shape[2]

img_width = img_array.reshape(1, s)

return img_width[0]

dataset = []

for i in img_paths:

img = Image.open(i)

img = img.resize((int(1232/6), int(1754/6)), Image.BICUBIC)

img = img_to_matrix(img)

img = flatten_img(img)

dataset.append(img)

dataset = np.array(dataset)

print(dataset.shape)

print("Dataset make done.")

3.3-2: データセットにPCA(主成分分析)を適用して次元を削減する

PCA(主成分分析)とはデータの重要な次元を見つけだし、そこに情報を圧縮することでその後の解析を易しくするためのアルゴリズムです。

それでは3.3-1で作成したデータセットにPCAを適用していきます。

今回はデータを179580次元から100次元まで次元削減します(コード中、n_components=100)。
なおここではbatch処理というものを行い全体のPCAの計算を部分部分に分割することで、メモリエラーを回避しています。batch_sizeはそのときの１部分のサイズです。

n = dataset.shape[0]
batch_size = 180
ipca = IncrementalPCA(n_components=100)

for i in range(n//batch_size):
r_dataset = ipca.partial_fit(dataset[i*batch_size:(i+1)*batch_size])

r_dataset = ipca.transform(dataset)
print(r_dataset.shape)
print("PCA done.")

n = dataset.shape[0]

batch_size = 180

ipca = IncrementalPCA(n_components=100)

for i in range(n//batch_size):

r_dataset = ipca.partial_fit(dataset[i*batch_size:(i+1)*batch_size])

r_dataset = ipca.transform(dataset)

print(r_dataset.shape)

print("PCA done.")

3.3-3: K-means clustering でクラスタリング

K-means clusteringとは似たデータ同士を少しずつ集めてクラスタリング(グループ分け)していくアルゴリズムの一種です。

それでは最後のステップとして、PCAで次元を削減したデータセットに対してK-means clusteringを実行し、データをグループ分けします。なお1回目の分類では全体のデータをlabel0〜label3の4グループに分けることにします(コード中、n_clusters=4)。

# K-means clustering
n_clusters = 4
kmeans = KMeans(n_clusters=n_clusters, random_state=5).fit(r_dataset)
labels = kmeans.labels_
print("K-means clustering done.")

for i in range(n_clusters):
label = np.where(labels==i)[0]

# Image placing
if not os.path.exists("label"+str(i)):
os.makedirs("label"+str(i))

for j in label:
img = Image.open(img_paths[j])
fname = img_paths[j].split('/')[-1]
img.save("label"+str(i)+"/" + fname)

print("Image placing done.")

# K-means clustering

n_clusters = 4

kmeans = KMeans(n_clusters=n_clusters, random_state=5).fit(r_dataset)

labels = kmeans.labels_

print("K-means clustering done.")

for i in range(n_clusters):

label = np.where(labels==i)[0]

# Image placing

if not os.path.exists("label"+str(i)):

os.makedirs("label"+str(i))

for j in label:

img = Image.open(img_paths[j])

fname = img_paths[j].split('/')[-1]

img.save("label"+str(i)+"/" + fname)

print("Image placing done.")

グループ分けが終わると、label0に割り当てられた画像は~Documents/MLImageClassifier/label0/以下(MLImageClassifierディレクトリ中のlabel0ディレクトリの中)に配置されます。

label1、label2、label3に割り当てられた画像も同様に、自分のlabel名のディレクトリの中に配置されているはずなのでFiles(Ubuntu版File Explorerのようなもの)で確認してみましょう。以下のように画像が振り分けられているかと思います。

ファイル

files

文章と図表と風景画像とが混ざったままのグループ

label0

風景画像グループ

label1

文章グループ

label2

図表グループ

label3

データの構造から、似たデータ同士でグループ分けがされているのがわかるかと思います。

教師なしの分類なので、自動的にどのグループがどの画像カテゴリかまでを決定することはできませんが、複数のカテゴリの画像がまだ混じってしまっているlabel0を除けば、label1は風景画像グループ、label2は文章グループ、label3は図表グループと分類結果から目で見てすぐにラベル付けをすることができます。

3.4: 2回目の分類(データセットづくり → PCA → K-means clustering）

1回目の分類では、label0のグループだけまだ文章と図表と風景画像とが完全に混ざったままの状態でした。(他のグループにも多少の誤分類はありますが)

そこで、再度このグループの画像のみ分類にかけます。基本的には1回目と同じ、データセットづくり → PCA → K-means clusteringという流れなのでコードは一緒にしてしまい、一気に実行してしまいます。ただし1回目と違うのは画像データをlabel0~label5の6グループに分けているところです。

# このダブルクオーテーションの間にまだ分類の不十分なグループのlabel名を入れてください
# 例 unclassified_label = "label0"
unclassified_label = "label0"

# Image path list make
img_paths = []
for root, dirs, files in os.walk("./" + unclassified_label + "/"):
for file in files:
if file.endswith(".jpg"):
img_paths.append(os.path.join(root, file))

print(len(img_paths))
print("Image list make done.")

# Dataset make
dataset = []
for i in img_paths:
img = Image.open(i)

img = img.resize((int(1232/6), int(1754/6)), Image.BICUBIC)

img = img_to_matrix(img)
img = flatten_img(img)

dataset.append(img)

dataset = np.array(dataset)
print(dataset.shape)
print("Dataset make done.")

# PCA
n = dataset.shape[0]
batch_size = 180
ipca = IncrementalPCA(n_components=100)

for i in range(n//batch_size):
r_dataset = ipca.partial_fit(dataset[i*batch_size:(i+1)*batch_size])

r_dataset = ipca.transform(dataset)
print(r_dataset.shape)
print("PCA done.")

# K-means clustering
n_clusters = 6
kmeans = KMeans(n_clusters=n_clusters, random_state=3).fit(r_dataset)
labels = kmeans.labels_
print("K-means clustering done.")

for i in range(n_clusters):
label = np.where(labels==i)[0]

# Image placing
if not os.path.exists(unclassified_label+"/label"+str(i)):
os.makedirs(unclassified_label+"/label"+str(i))

for j in label:
img = Image.open(img_paths[j])
fname = img_paths[j].split('/')[-1]
img.save(unclassified_label+"/label"+str(i)+"/" + fname)

print("Image placing done.")

# このダブルクオーテーションの間にまだ分類の不十分なグループのlabel名を入れてください

# 例 unclassified_label = "label0"

unclassified_label = "label0"

# Image path list make

img_paths = []

for root, dirs, files in os.walk("./" + unclassified_label + "/"):

for file in files:

if file.endswith(".jpg"):

img_paths.append(os.path.join(root, file))

print(len(img_paths))

print("Image list make done.")

# Dataset make

dataset = []

for i in img_paths:

img = Image.open(i)

img = img.resize((int(1232/6), int(1754/6)), Image.BICUBIC)

img = img_to_matrix(img)

img = flatten_img(img)

dataset.append(img)

dataset = np.array(dataset)

print(dataset.shape)

print("Dataset make done.")

# PCA

n = dataset.shape[0]

batch_size = 180

ipca = IncrementalPCA(n_components=100)

for i in range(n//batch_size):

r_dataset = ipca.partial_fit(dataset[i*batch_size:(i+1)*batch_size])

r_dataset = ipca.transform(dataset)

print(r_dataset.shape)

print("PCA done.")

# K-means clustering

n_clusters = 6

kmeans = KMeans(n_clusters=n_clusters, random_state=3).fit(r_dataset)

labels = kmeans.labels_

print("K-means clustering done.")

for i in range(n_clusters):

label = np.where(labels==i)[0]

# Image placing

if not os.path.exists(unclassified_label+"/label"+str(i)):

os.makedirs(unclassified_label+"/label"+str(i))

for j in label:

img = Image.open(img_paths[j])

fname = img_paths[j].split('/')[-1]

img.save(unclassified_label+"/label"+str(i)+"/" + fname)

print("Image placing done.")

終わったら1回目と同様に結果を確認してみましょう。~/Documents/MLImageClassifier/label1ディレクトリ以下のそれぞれのlabel名のディレクトリ中に画像がまた配置されているはずです。

3.5: 3回目の分類(データセットづくり → PCA → K-means clustering）

2回目の分類の結果はいかがだったでしょうか。まだ文章と図表が混じったままのlabel2のグループ以外は先ほどと同様に目で見てすぐにカテゴリの名前でラベルが付けられる状態になっているかと思います。

ここでも多少の誤分類はありますが) そこで2回目と同様に最終的な分類結果の精度を上げるために再度このグループに分類をかけます。今回は4グループに分類していきます。

# このダブルクオーテーションの間にまだ分類の不十分なグループのlabel名を入れてください
# 例 unclassified_label2 = "label0"
unclassified_label2 = "label4"

# Image path list make
img_paths = []
for root, dirs, files in os.walk("./"+unclassified_label+"/"+unclassified_label2+"/"):
for file in files:
if file.endswith(".jpg"):
img_paths.append(os.path.join(root, file))

print(len(img_paths))
print("Image list make done.")

# Dataset make
dataset = []
for i in img_paths:
img = Image.open(i)

img = img.resize((int(1232/6), int(1754/6)), Image.BICUBIC)

img = img_to_matrix(img)
img = flatten_img(img)

dataset.append(img)

dataset = np.array(dataset)
print(dataset.shape)
print("Dataset make done.")

# PCA
n = dataset.shape[0]
batch_size = n
ipca = IncrementalPCA(n_components=100)

for i in range(n//batch_size):
r_dataset = ipca.partial_fit(dataset[i*batch_size:(i+1)*batch_size])

r_dataset = ipca.transform(dataset)
print(r_dataset.shape)
print("PCA done.")

# K-means clustering
n_clusters = 6
kmeans = KMeans(n_clusters=n_clusters, random_state=0).fit(r_dataset)
labels = kmeans.labels_
print("K-means clustering done.")

for i in range(n_clusters):
label = np.where(labels==i)[0]

# Image placing
if not os.path.exists(unclassified_label+"/"+unclassified_label2+"/label"+str(i)):
os.makedirs(unclassified_label+"/"+unclassified_label2+"/label"+str(i))

for j in label:
img = Image.open(img_paths[j])
fname = img_paths[j].split('/')[-1]
img.save(unclassified_label+"/"+unclassified_label2+"/label"+str(i)+"/" + fname)

print("Image placing done.")

# このダブルクオーテーションの間にまだ分類の不十分なグループのlabel名を入れてください

# 例 unclassified_label2 = "label0"

unclassified_label2 = "label4"

# Image path list make

img_paths = []

for root, dirs, files in os.walk("./"+unclassified_label+"/"+unclassified_label2+"/"):

for file in files:

if file.endswith(".jpg"):

img_paths.append(os.path.join(root, file))

print(len(img_paths))

print("Image list make done.")

# Dataset make

dataset = []

for i in img_paths:

img = Image.open(i)

img = img.resize((int(1232/6), int(1754/6)), Image.BICUBIC)

img = img_to_matrix(img)

img = flatten_img(img)

dataset.append(img)

dataset = np.array(dataset)

print(dataset.shape)

print("Dataset make done.")

# PCA

n = dataset.shape[0]

batch_size = n

ipca = IncrementalPCA(n_components=100)

for i in range(n//batch_size):

r_dataset = ipca.partial_fit(dataset[i*batch_size:(i+1)*batch_size])

r_dataset = ipca.transform(dataset)

print(r_dataset.shape)

print("PCA done.")

# K-means clustering

n_clusters = 6

kmeans = KMeans(n_clusters=n_clusters, random_state=0).fit(r_dataset)

labels = kmeans.labels_

print("K-means clustering done.")

for i in range(n_clusters):

label = np.where(labels==i)[0]

# Image placing

if not os.path.exists(unclassified_label+"/"+unclassified_label2+"/label"+str(i)):

os.makedirs(unclassified_label+"/"+unclassified_label2+"/label"+str(i))

for j in label:

img = Image.open(img_paths[j])

fname = img_paths[j].split('/')[-1]

img.save(unclassified_label+"/"+unclassified_label2+"/label"+str(i)+"/" + fname)

print("Image placing done.")

同じくFilesで結果を見てみましょう。1回目や2回目と同様に文章や図表でグループ分けがされているかと思います。
まだ分類されきっていないと思うグループにさらに分類をかけていくことで、精度をさらに上げていくことはできますが、今回はある程度まで分類ができたのでここまででとどめておきたいと思います。
以上で本チュートリアルを終わります。

4. 画像とJupyter Notebook(Image_classifier.ipynb)のダウンロード

実際にプログラムを動かす際は、画像とnotebookをダウンロードして、Jupyter notebook環境上で実行を行なってください。

以下のリンクからダウンロードできます。

MLImageClassifierをダウンロードする

ダウンロードしたら、ZIPファイルをダブルクリックして解凍してください。

ダウンロードが終わったら、そのフォルダをDocumentsディレクトリ以下に置きましょう。

$ mv ~/Downloads/MLImageClassifier ~/Documents/

1	$ mv ~/Downloads/MLImageClassifier ~/Documents/

そしてその場所まで移動します。

$ cd ~/Documents/MLImageClassifier

1	$ cd ~/Documents/MLImageClassifier

ダウンロードしたjupyter notebookを開いてみましょう。

$ jupyter notebook Image_classifier.ipynb

1	$ jupyter notebook Image_classifier.ipynb

なおJupyter notebookの使い方は以下を見ると良いかと思います。

How to run Jupyter Notebook

What is Jupyter Notebook?

Notebook内のセルの実行の仕方やJupyter notebook自体の終了の仕方など、実際に画像分類をJupyter notebook上で進める前に確認しておきましょう。

先ほどのコマンドを実行すると、ブラウザが開いて以下のような画面が出てくるかと思います。

後はこのnotebook内のコードを少しずつ実行していき、画像の分類を進めていってください。

あなたも、Avintonでこのような最先端技術に日常的に
取り組んでみませんか？

優秀なエンジニアの成長を導きながら、AIやビッグデータなどの最先端技術を活用していくことが私たちのビジョンです。
Avintonの充実した技術研修でスキルアップを図り、あなたのキャリア目標を達成しませんか？

採用情報

機械学習を用いた画像分類

1. タスクの説明と画像分類プログラムの概要

2.Anacondaのインストール

2.1: インストーラのダウンロード

2.2: インストーラの実行

2.3: 正しくインストールされているかの確認

3. 画像分類プログラムの実行

プログラムのOutline

3.1: 必要なライブラリ、モジュールのインポート

3.2: 何枚かの画像とそのサイズの表示

3.2-1: 画像へのパスのリスト(img_paths)をつくる

3.2-2: 画像とそのサイズを表示する

3.3: 1回目の分類(データセットづくり → PCA → K-means clustering）

3.3-1: 画像データを機械学習用データセットへ変換する

3.3-2: データセットにPCA(主成分分析)を適用して次元を削減する

3.3-3: K-means clustering でクラスタリング

3.4: 2回目の分類(データセットづくり → PCA → K-means clustering）

3.5: 3回目の分類(データセットづくり → PCA → K-means clustering）

4. 画像とJupyter Notebook(Image_classifier.ipynb)のダウンロード

あなたも、Avintonでこのような最先端技術に日常的に
取り組んでみませんか？

採用情報

Avinton SDGs

Search

機械学習を用いた画像分類

1. タスクの説明と画像分類プログラムの概要

2.Anacondaのインストール

2.1: インストーラのダウンロード

2.2: インストーラの実行

2.3: 正しくインストールされているかの確認

3. 画像分類プログラムの実行

プログラムのOutline

3.1: 必要なライブラリ、モジュールのインポート

3.2: 何枚かの画像とそのサイズの表示

3.2-1: 画像へのパスのリスト(img_paths)をつくる

3.2-2: 画像とそのサイズを表示する

3.3: 1回目の分類(データセットづくり → PCA → K-means clustering）

3.3-1: 画像データを機械学習用データセットへ変換する

3.3-2: データセットにPCA(主成分分析)を適用して次元を削減する

3.3-3: K-means clustering でクラスタリング

3.4: 2回目の分類(データセットづくり → PCA → K-means clustering）

3.5: 3回目の分類(データセットづくり → PCA → K-means clustering）

4. 画像とJupyter Notebook(Image_classifier.ipynb)のダウンロード

あなたも、Avintonでこのような最先端技術に日常的に取り組んでみませんか？

採用情報

Avinton SDGs

Search

タグ

あなたも、Avintonでこのような最先端技術に日常的に
取り組んでみませんか？