江东的笔记

Be overcome difficulties is victory

0%

KNN实现手写字体的识别

发表于 更新于 分类于

KNN实现对digits数据集分类

KNN算法介绍：

点击这里查看KNN算法代码及其介绍

数据的导入：

导入包

1
2
3
4
5
6
from sklearn import datasets
import matplotlib.pyplot as plt
import numpy as np
import cv2
from sklearn.model_selection import train_test_split
import pandas as pd

导入数据集

1
2
3
4
# 手写字体的数据集导入
digtis = datasets.load_digits()
target = digtis.target
data = digtis.data

数据集介绍：

数据集情况：1797条数据

1
2
data.shape, target.shape
# (1797, 64), (1797,))

对于导入的数据集data里面的每个数据的形状是(64,)，我们可以将其转化为8X8像素的数据，将第一个数据进行可视化展示：
形状转换：

1
2
3
4
5
6
7
8
9
10
11
ima = data[0].reshape(8, 8)

Out：
array([[ 0.,  0.,  5., 13.,  9.,  1.,  0.,  0.],
       [ 0.,  0., 13., 15., 10., 15.,  5.,  0.],
       [ 0.,  3., 15.,  2.,  0., 11.,  8.,  0.],
       [ 0.,  4., 12.,  0.,  0.,  8.,  8.,  0.],
       [ 0.,  5.,  8.,  0.,  0.,  9.,  8.,  0.],
       [ 0.,  4., 11.,  0.,  1., 12.,  7.,  0.],
       [ 0.,  2., 14.,  5., 10., 12.,  0.,  0.],
       [ 0.,  0.,  6., 13., 10.,  0.,  0.,  0.]])

可视化：

1
plt.imshow(ima)

在这里插入图片描述

数据集的分割：

1
x_train, x_test, y_train, y_test = train_test_split(data, target, test_size=0.2, random_state=1)

定义KNN函数：

1
2
3
4
5
6
7
def knn_code(loc, k=5, order=2):  # k order是超参
    # print(order)
    diff_loc = x_train - loc
    dis_loc = np.linalg.norm(diff_loc, ord=order, axis=1)  # 没有axis得到一个数，矩阵的泛数。axis=0，得到两个数
    knn = y_train[dis_loc.argsort()[:k]]
    counts = np.bincount(knn)
    return np.argmax(counts)

评估准确率：

1
2
3
4
5
6
7
res = []
for i in x_test:
    res.append(knn_code(i))

acc = ((y_test == pd.Series(res))==True).sum()/len(y_test)
print("准确率：", acc)
# 准确率： 0.9944444444444445

完整代码：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
#!/usr/bin/env python
# -*- coding:utf-8 -*-
# datetime:2021/11/22 22:54
# software: PyCharm
# 导入包
from sklearn import datasets
import matplotlib.pyplot as plt
import numpy as np
import cv2
from sklearn.model_selection import train_test_split
import pandas as pd

# 手写字体的数据集导入
digtis = datasets.load_digits()
target = digtis.target
data = digtis.data

# 可视化展示
ima = data[0].reshape(8, 8)
plt.imshow(ima)
plt.show()

# 数据集分割
x_train, x_test, y_train, y_test = train_test_split(data, target, test_size=0.2, random_state=1)

# KNN函数
def knn_code(loc, k=5, order=2):  # k order是超参
    # print(order)
    diff_loc = x_train - loc
    dis_loc = np.linalg.norm(diff_loc, ord=order, axis=1)  # 没有axis得到一个数，矩阵的泛数。axis=0，得到两个数
    knn = y_train[dis_loc.argsort()[:k]]
    counts = np.bincount(knn)
    return np.argmax(counts)

# acc
res = []
for i in x_test:
    res.append(knn_code(i))

acc = ((y_test == pd.Series(res))==True).sum()/len(y_test)
print("准确率：", acc)