Git Product home page Git Product logo

machine_learning_group4's Introduction

machine_learning_group4

一、组员与分工

(一)小组成员

  • 李青琪 2021212023018
  • 柴菲儿 2021212023004
  • 张晨宇 2021212023007
  • 吴 倩 2021212023028

(二)小组分工

  1. 后端
    1. 数据集部分
      • 数据集选取:张晨宇
      • 数据集收集:吴倩
      • 数据加载代码实现、代码整改:李青琪
    2. 数据分割部分
      • 留出法:吴倩
      • 自助法、代码整改:李青琪
    3. 模型训练部分
      • 决策树模型、随机森林模型:吴倩
      • 支持向量机模型、GBDT模型、代码整改:李青琪
      • 朴素贝叶斯模型、线性回归模型、逻辑回归模型、降维模型:柴菲儿
      • KNN模型、K均值聚类算法:张晨宇
    4. 模型评估部分
      • MSE、RMSE、Distance、代码整改:李青琪
      • FM、Rand:吴倩
      • Accuracy、F1、PR、AUC、ROC:柴菲儿
  2. 前端:张晨宇、柴菲儿
  3. 前后端通信:吴倩
  4. 优化改进:张晨宇、柴菲儿、吴倩、李青琪

二、机器学习总体流程介绍

程序运行后,首先启动服务器以及打开网页,然后开始运行事件循环。

  • 数据集、分割方式、分割比例、机器学习模型和评估方式的选择和获取
    1. 选择数据集,之后,可选的机器学习模型随之进行改变,不同的数据集使用不同的机器学习模型。同时,服务器端捕捉前端选择的数据集。
    2. 选择分割方式,当选择的分割方式为自助法时,分割比例一栏就会消失。同时,服务器端捕捉前端选择的分割方式。
    3. 若选择的分割方式为留出法,接着选择分割比例。同时,服务器端捕捉前端选择的分割比例。
    4. 选择机器学习模型,之后,可选的评估方式随之改变,不同的数据集和不同的机器学习模型的组合对应着不同的评估方式。同时,服务器端捕捉前端选择的机器学习模型。
    5. 选择评估方式,服务器端捕捉前端选择的评估方式。
  • 建立工厂与训练模型
    1. 服务端根据捕捉到的数据集、分割方式、分割比例、机器学习模型和评估方式建立相应的工厂。
    2. 数据工厂建立之后,对数据集进行特征和标签的分割,并将特征和标签赋给变量X,y。
    3. 分割器工厂建立之后,使用split函数对训练集和测试集进行分割,并将返回值赋给变量X_train,X_test,y_train,y_test。若分割方式为留出法,同样需要对分割比例进行传参。
    4. 模型工厂建立之后,首先对模型进行判断,对于fit函数,若为KNN或K_means模型,只对X_train进行传参,其他的模型则对X_train和y_train进行传参。模型训练好后调用predict函数对X_test进行预测。
    5. 评估工厂建立之后,创建_evaluation_实例对象,调用并接收实例对象的返回值。
    6. 最后将选取的数据集、分割方式、分割比例、机器学习模型和评估方式以及返回的结果一起发送到前端,在前端的运行结果处显示message。
  • 若服务器端关闭、网页关闭或运行结束,都会提示“网页已关闭,连接已断开,进程终止”,并停止事件循环。

三、算法原理介绍

1. 线性回归算法

线性回归模型用于建模和预测连续数值输出。它假设输入特征与输出之间存在线性关系。线性回归模型通过最小化预测值与观测值之间的残差平方和来拟合一个线性方程,即f(xi) = wxi + b,使得f(xi) ≈ yi。在训练过程中,模型通过寻找最优的系数来使得预测值与实际观测值尽可能接近,从而得到一个线性函数来进行预测。
求解最优系数的方式有两种:第一种是最小二乘法,最小二乘法就是试图找到一条直线,使得所有样本数据点到达直线的欧氏距离最小,总距离是所有数据点的垂直距离的平方和,其**是通过最小化这个平方误差或距离来拟合模型;第二种是梯度下降,梯度下降核心内容是对自变量进行不断的更新(针对w和b求偏导),使得目标函数不断逼近最小值的过程。

2. 逻辑回归算法

逻辑回归是一种用于分类问题的统计学习方法。在逻辑回归中,我们要预测的是一个定性变量,比如y=0或1,表示两个类别。逻辑回归通过建立一个代价函数,并通过优化方法迭代求解出最优的模型参数来进行分类。 不过需要注意的是,虽然逻辑回归名字中带有“回归”,但它实际上是一种分类方法,主要用于两分类问题。
具体而言,逻辑回归的原理是先将样本的特征值线性组合,然后通过一个逻辑函数(也称为sigmoid函数)将线性组合的结果映射到一个概率值,再根据阈值将概率值转化为类别标签。逻辑函数的形式是 1/(1+e^(-z)),其中z是线性组合的结果。概率值越接近1,表示属于某个特定类别的概率越大;概率值越接近0,表示属于另一个类别的概率越大。
逻辑回归的优点是计算简单、易于理解和解释,适用于处理二分类问题,并且对于高维数据也能较好地处理。然而,逻辑回归也有一些缺点,比如对于非线性关系的数据拟合能力较弱,容易受到异常值的影 响。此外,逻辑回归是线性模型,无法处理特征之间的复杂交互关系。

3. 决策树算法

决策树算法是一种常见的机器学习算法,用于解决分类和回归问题。它基于一种树状结构进行决策,在每个内部节点上进行特征的选择,并根据选择的特征将数据集划分为不同的分支,直到达到叶节点并给出最终的决策结果。
决策树的构建从根节点开始,选择一个最佳的特征来对数据进行划分。常用的特征选择度量指标有信息增益、信息增益率、基尼系数等。划分后,每个子节点代表了一个特定的取值范围或条件,然后递归地对每个子节点进行划分,直到满足终止条件,例如达到预定的树深度或叶节点中的样本数量小于某个阈值。
在分类问题中,叶节点表示一个类别标签;而在回归问题中,叶节点表示一个预测的连续值。决策树的优势之一是可解释性强,可以通过观察决策路径来理解预测的过程和原因。
然而,决策树容易过拟合训练数据,导致在新数据上的泛化能力较差。为了解决这个问题,通常采用剪枝等技术来限制决策树的复杂度,并提高泛化性能。此外,还有一些改进的决策树算法,如随机森林、梯度提升决策树等,它们通过集成多个决策树来进一步提高预测性能。

4. 朴素贝叶斯算法

朴素贝叶斯模型基于贝叶斯定理和特征条件独立假设。朴素贝叶斯模型是一种基于贝叶斯定理的概率模型,常用于文本分类、垃圾邮件过滤、情感分析等任务。
其算法原理:假设我们有一个训练集,其中包含一组已分类的样本数据。首先,需要统计每个类别的先验概率,即每个类别在训练集中出现的频率。对于每个特征,在每个类别下计算其条件概率。假设输入样本有n个特征,我们需要计算每个类别下的联合概率,即 P(类别 | 特征1, 特征2, …, 特征n)。根据贝叶斯定理,可以计算出后验概率 P(类别 | 特征1, 特征2, …, 特征n) = P(特征1, 特征2, …, 特征n | 类别) * P(类别) / P(特征1, 特征2, …, 特征n)。对于给定的输入样本,计算其属于每个类别的后验概率,并选择具有最高后验概率的类别作为预测结果。
在朴素贝叶斯模型中,假设所有特征之间是相互独立的,这是“朴素”的原因。虽然这个假设在现实中很少成立,但朴素贝叶斯模型仍然可以取得不错的分类效果,且计算效率高。

5. K最近邻算法

K最近邻算法(K-Nearest Neighbors,KNN)是一种基于实例的学习算法,用于分类和回归任务。KNN算法的原理可以概括为以下几个步骤:

  • 准备数据集:收集带有标签(类别或数值)的训练样本数据。
  • 计算距离:对于一个待预测的样本,计算它与训练样本之间的距离。常见的距离度量方法包括欧氏距离、曼哈顿距离、闵可夫斯基距离等。
  • 选择K个邻居:根据计算得到的距离,选择与待预测样本距离最近的K个训练样本作为邻居。
  • 确定类别(分类任务)或计算数值(回归任务):对于分类任务,统计K个邻居中各个类别的出现频率,选择出现最多的类别作为预测结果。对于回归任务,取K个邻居数值特征的平均值作为预测结果。
  • 输出预测结果:返回预测结果(类别或数值)作为算法的输出。 KNN算法的优点包括简单易懂、无需训练过程、适用于多分类和回归问题。然而,KNN算法也有一些缺点,包括计算复杂度高、对特征缩放敏感、存储全部训练数据等。 在应用KNN算法时,通常需要根据具体问题选择合适的K值,并对数据进行适当的预处理操作,如特征缩放、标准化等,以提高算法性能和准确性。

6. 支持向量机算法

支持向量机是一种常用的机器学习监督学习算法,适用于二分类问题,其基本模型定义为特征空间上的间隔最大的线性分类器,学习策略是间隔最大化,可以使用SMO算法进行模型训练。
SVM通过将数据映射到高维特征空间,使得样本在高维空间中更容易线性可分。它寻找一个超平面,使得离超平面最近的一些样本点成为支持向量,并利用这些支持向量来确定超平面的位置和方向。
SVM适用于线性可分和线性不可分问题,通过引入松弛变量和选择合适的核函数来处理异常值和复杂的决策边界。
SVM通过使用拉格朗日乘子法,将原始优化问题转化为对偶问题,并通过解决对偶问题来求解模型参数。在对偶问题的求解中,核函数被引入来处理非线性问题。

7. 随机森林算法

随机森林是一种集成学习算法,常用于解决分类和回归问题。它由多个决策树组成,每个决策树的训练样本和特征都是随机选择而且独立训练的。 下面是随机森林算法的主要步骤:

  • 数据采样:从原始数据集中随机选择一部分样本,用于训练每个决策树。这个过程被称为"自助采样"或"bootstrap",它允许有放回地重复采样。
  • 特征选择:对于每个决策树的节点,在决定最佳分割特征时,随机选择一个特征子集。这种随机性确保了每个树的多样性。
  • 构建决策树:使用选定的特征子集,针对每个节点应用适当的分割准则(如基尼系数或信息增益),将数据集划分为更纯的子集。
  • 集成预测:每个决策树都会对新样本进行预测,并且最后通过投票或取平均值的方式来集成所有决策树的预测结果。对于分类问题,选择得票最多的类别作为最终预测结果;对于回归问题,取所有决策树预测结果的平均值。

随机森林算法通过利用决策树之间的相互独立性和多样性,减少了过拟合的风险,并且对于处理大规模数据集和高维特征非常有效。此外,它还能够评估变量的重要性,用于特征选择和可视化分析。

8. K均值聚类算法

K均值聚类(K-means clustering)是一种常用的无监督学习算法,用于将数据集分成K个不同的簇。该算法的原理可以概括为以下几个步骤:

  • 初始化聚类中心:随机选择K个初始聚类中心(也可以通过其他方式选择初始聚类中心),每个聚类中心是一个向量。
  • 分配样本到最近的聚类中心:对于每个样本,计算它与各个聚类中心之间的距离,并将其分配给距离最近的聚类中心所属的簇。
  • 更新聚类中心:对于每个簇,计算该簇中所有样本的均值,将均值作为新的聚类中心。
  • 重复前两个步骤,直到聚类中心不再发生变化或达到预定的迭代次数。
  • 输出结果:得到K个簇和它们对应的聚类中心,样本被分配到各个簇中。 K均值聚类的目标是最小化每个样本与所属簇聚类中心之间的距离之和(也称为簇内平方和,Sum of Squared Errors,SSE)。因此,该算法属于一种优化问题,通过迭代优化来逼近最优解。 K均值聚类的特点包括易于实现、计算效率高、扩展性强。然而,由于聚类结果受初始聚类中心的选择影响,可能会陷入局部最优解。为了克服这个问题,通常可以采用多次运行K均值聚类算法并选择最好的结果,或者使用其他启发式方法来选择初始聚类中心。 在应用K均值聚类算法时,需要选择合适的K值,并根据具体问题和数据集的特征进行适当的预处理,如数据标准化、处理离群值等,以提高聚类结果的质量和准确性。

9. 降维算法

降维模型用于减少高维数据集的维度,并保留最重要的特征。降维的目的是降低数据存储和计算复杂度,并提高模型的效率和泛化能力。常用的降维方法包括主成分分析(PCA)和线性判别分析(LDA)。在本项目中用的降维方法是主成分分析,主成分分析是一种无监督的降维技术,通过将原始数据投影到新的低维子空间来实现降维。
其算法原理:先计算原始数据的协方差矩阵,再对协方差矩阵进行特征值分解,得到特征值和对应的特征向量。然后根据特征值的大小排序特征向量,选取前k个特征向量作为主成分(k为降维后的目标维度)。最后将原始数据投影到所选的主成分上,得到降维后的数据。
PCA的关键**是通过寻找协方差矩阵的主要特征向量,找到能够最好地解释原始数据变化的低维表示。通常情况下,选择的前几个主成分可以保留大部分的数据方差,从而更好地表示数据。

10. 梯度增强算法

梯度增强算法是一种集成学习方法,通过将多个决策树组合起来构建一个更强大的模型。
梯度增强算法使用一个简单模型(如决策树)作为初始模型进行训练,并计算预测结果与真实值之间的差距,即残差。然后,通过拟合这些残差来训练下一个模型。新模型的预测结果与之前模型的预测结果相加,得到更新后的预测结果。重复这个过程,不断迭代加入新模型,直到达到预定的迭代次数或指定的停止条件。在每一轮迭代中,梯度增强算法通过最小化损失函数的负梯度来确定每个模型的权重,使得新模型能够更好地拟合之前模型的残差。通过这种方式,每个模型都专注于修正之前模型的错误,最终得到一个强大的集成模型。

四、架构设计思路

(一)后端架构

后端分为数据集,数据分割,模型、评估和工厂模式五个功能模块,每个模块均设置父类,分别为Dataset类,Splitter类,Model类、Evaluation类和Factory类。

1. 数据集模块

Dataset类包含__init__函数,load函数和data_target_split函数:

  • __init__函数,即初始化函数。该函数对路径、数据集、特征和标签进行初始化。
  • load函数,即数据载入函数。该函数根据路径对数据集进行赋值。
  • data_target_split函数,即数据集分割函数。该函数对特征和标签进行赋值。

Dataset类有三个子类,分别为IrisDataset类,WineQualityDataset类和HeartDiseaseDataSet类。每个子类均包含__init__函数和data_target函数且每个子类函数的内容架构相同:

  • __init__函数,即初始化函数。该函数对路径进行初始化。
  • data_target函数,即数据集分割函数。该函数首先调用父类的load函数进行数据集的加载,然后根据列名划分特征和标签。

2. 数据分割模块

Splitter类包含__init__函数,即初始化函数,该函数对特征和标签进行初始化。

Splitter类有两个子类,分别为HoldOut类和BootStrapping类。每个子类均包含__init__函数,split函数:

  • HoldOut类
    • __init__函数,即初始化函数。该函数对特征、标签、数据分割比例和随机状态进行初始化。
    • split函数,即数据分割函数。该函数首先根据随机状态设置随机种子,再获取样本数量和测试集大小,然后随机选择测试集的索引,最后依据索引构建训练集和测试集。
  • BootStrapping类
    • __init__函数,即初始化函数。该函数对特征和标签进行初始化。
    • split函数,即数据分割函数。该函数首先进行m次放回抽样,得到训练集的序号,然后将剩下的序号记为测试集序号,最后产生训练/测试集。

3. 模型模块

Model类有八个子类,分别为DecisionTree类,SVM类,GBDT类,NB类,LinearRegression类,LogisticRegression类,KNN类和KMeans类。除了这八个子类,该模块还有一个继承自DecisionTree类的RandomForest类和一个PCA类。

  • DecisionTree类,SVM类,GBDT类,NB类,LinearRegression类,LogisticRegression类,KNN类,KMeans类
    • 主要函数为fit函数和predict函数,其他函数根据这两个函数所需来写。
    • fit函数,即训练函数。该函数负责模型的训练。
    • predict函数,即预测函数。该函数负责模型的预测。
  • RandomForest类
    • 继承自DecisionTree类,主要函数为fit函数和predict函数,同时会用到DecisionTree类来构建所需的决策树。
  • PCA类
    • LinearRegression类,LogisticRegression类,KNN类和KMeans类中调用了该类的transform函数。
    • 当数据的维度大于4时,调用该函数对数据进行降维处理。
  • 本项目中的模型与适用的问题以及适用数据集的关系【表述为模型(适用的问题):适用的数据集】
    • DecisionTree(回归问题):WineQualityDataset,HeartDiseaseDataSet
    • SVM(二分类问题):HeartDiseaseDataSet
    • GBDT(分类问题):WineQualityDataset,HeartDiseaseDataSet
    • NB(分类问题):IrisDataset,WineQualityDataset,HeartDiseaseDataSet
    • LinearRegression(回归问题):WineQualityDataset,HeartDiseaseDataSet
    • LogisticRegression(二分类问题):HeartDiseaseDataSet
    • KNN(分类问题、回归问题):IrisDataset,WineQualityDataset,HeartDiseaseDataSet
    • KMeans(聚类问题):IrisDataset,WineQualityDataset,HeartDiseaseDataSet
    • RandomForest(分类问题、回归问题):WineQualityDataset,HeartDiseaseDataSet

4. 评估模块

Evaluation类包含__init__函数,即初始化函数,该函数依据传入的参数对真实值和预测值进行初始化。

Evaluation类有十个子类,分别为Accuracy类,F1类,PR类,AUC类,ROC类,FM类,Rand类,MSE类,RMSE类和Distance类。每个子类都使用__call__方法,在评估时,只需要将真实值和预测值传给实例对象,然后调用该实例对象。每个子类都会返回评估结果到服务端。

  • Accuracy类,F1类,PR类,AUC类,ROC类,FM类,Rand类,MSE类,RMSE类和Distance类
    • Accuracy类
      • 该类的__call__中首先调用accuracy_cal函数,然后调用并返回evaluate函数。
      • accuracy_cal函数统计真正例、假正例、真反例、假反例的数目。
      • evaluate函数计算并返回准确率。
    • F1类
      • 该类的__call__中首先调用f1_score函数,然后调用并返回evaluate函数。
      • f1_score函数统计真正例、真反例、假反例的数目。
      • evaluate函数计算并返回F1度量。
    • PR类
      • 该类的__call__中首先调用plot函数,然后返回'curve'字符串。
      • plot函数需要调用precision_recall_curve函数来获取精确率和召回率,并根据精确率和召回率来作出曲线。
    • AUC类
      • 该类调用了ROC类
      • 该类的__call__中首先调用auc函数,然后调用并返回evaluate函数。
      • auc函数用到DecisionTree类来构建所需的ROC实例对象,然后调用roc_curve函数来获取真正例率和假正例率。
      • evaluate函数首先对假正例率列表进行排序,然后根据排序索引对真正例率列表进行排序,最后计算并返回排序后的真正例率和假正例率形成的曲线下的面积。
    • ROC类
      • 该类的__call__中首先调用plot函数,然后返回'curve'字符串。
      • plot函数需要调用roc_curve函数来获取真正例率和假正例率,并根据真正例率和假正例率来作出曲线。
    • FM类
      • 该类的__call__调用并返回compute_fm_index函数。
      • compute_fm_index函数需要调用compute_confusion_matrix函数来得到混淆矩阵,再根据根据混淆矩阵的真正例、假正例、真反例、假反例计算精确率和召回率,最后根据精确率和召回率计算并返回FM指数。
    • Rand类
      • 该类的__call__调用并返回compute_fm_index函数。
      • compute_fm_index函数需要调用compute_confusion_matrix函数来得到混淆矩阵,再根据根据混淆矩阵的真正例、假正例、真反例、假反例计算并返回Rand指数。
    • MSE类
      • 该类的__call__调用并返回loss函数。
      • loss函数依据公式计算并返回真实值与预测值的均方误差。
    • RMSE类
      • 该类的__call__调用并返回loss函数。
      • loss函数依据公式计算并返回真实值与预测值的均方根误差。
    • Distance类
      • 该类的__call__调用并返回minkowski_distance函数。
      • minkowski_distance函数依据公式计算并返回真实值与预测值的闵可夫斯基距离。
  • 本项目中的评估方法与适用的问题以及适用数据集的关系【表述为评估方法(适用的问题):适用的数据集】
    • Accuracy(分类问题):IrisDataset,WineQualityDataset,HeartDiseaseDataSet
    • F1(分类问题):HeartDiseaseDataSet
    • PR(分类问题):HeartDiseaseDataSet
    • AUC(分类问题):HeartDiseaseDataSet
    • ROC(分类问题):HeartDiseaseDataSet
    • FM(聚类问题):IrisDataset,WineQualityDataset,HeartDiseaseDataSet
    • Rand(聚类问题):IrisDataset,WineQualityDataset,HeartDiseaseDataSet
    • MSE(回归问题):WineQualityDataset,HeartDiseaseDataSet
    • RMSE(回归问题):WineQualityDataset,HeartDiseaseDataSet
    • Distance(聚类问题):WineQualityDataset,HeartDiseaseDataSet

5. 工厂模式模块

定义了一个 Factory 类和三个继承自 Factory 的子类:DataFactory、SplitterFactory 和 ModelFactory,以及一个独立的 EvaluationFactory 类。

  • DataFactory 类
    • DataFactory 类通过 create_dataset 方法根据传入的数据集名称选择创建对应的数据集对象,目前支持的数据集有 iris、wine 和 heart disease。
  • SplitterFactory 类
    • SplitterFactory 类通过 create_splitter 方法根据传入的分割器类型、特征矩阵 X、标签向量 y 和分割比例 percent 创建对应的数据集分割对象,目前支持的分割器有 bootstraping 和 holdout。
  • ModelFactory 类
    • ModelFactory 类通过 create_model 方法根据传入的模型名称创建对应的模型对象,目前支持的模型有 KNN、K_means、Decision Tree、GradientBoosting、LR、SVM、LogisticRegression、NB 和 Random Forest。
  • EvaluationFactory 类
    • EvaluationFactory 类通过 create_evaluation 方法根据传入的评估指标、真实标签 y_true、预测标签 y_pred、测试数据 x_test 和模型对象创建对应的评估对象,目前支持的评估指标有 auc、accuracy、distance、f1、fm、mse、pr、rmse、roc 和 rand。

(二)前端架构

1. web.html

  • <head>标签 设置文档的标题为“机器学习”,引入名为"web.css"的样式表文件用于设置页面的样式,名为"client.js"和"selection.js"的JavaScript脚本文件。
  • <body>标签 <h1>定义一级标题为“机器学习模型评估”,使用<p align=”center”>使得文本居中对齐。
    • 在id为”selection-area”的模块,包含了一系列的选项:用于用户选择数据集、分割器、分割比例、机器学习模型和模型评估指标。这些选项使用了居中对齐的二级标题,并用
      和class属性进行包裹和样式控制。
      • 用于选择数据集的radio按钮,class为"radio-container",包含iris dataset,wine dataset和heart disease dataset三个选项。
      • 用于选择分割器的radio按钮,包含set-side method和bootstraping method两个选项。
      • 用于选择分割比例的radio按钮,包含10%和30%两个选项。
      • 用于选择机器学习模型的radio按钮,包含KNN,K_means,SVM,GradientBoosting,linear regression,logistic regression,navie bayes,decision tree和random forest九个选项。
      • 用于选择模型评估指标的radio按钮,包含Accuracy,Distance,AUC,F1,FM,MSE,PR,Rand,RMSE和ROC十个选项。
    • 在id为“action-area”的模块,创建了一个操作区域,包含了"运行"和"重置"两个按钮。点击"运行"按钮会调用send()函数,点击"重置"按钮会调用resetForm()函数。这些按钮使用<input>标签创建,type属性指定按钮类型,value属性设置按钮显示的文本内容。
    • 在id为“action-title”的模块,创建了一个带有"运行结果"标题的区域。
    • 在id为“result-area”的模块,创建了一个用于显示结果的空白区域。 整体实现了一个网页应用,用户可以通过选择选项来配置机器学习模型评估的各项参数,并点击"运行"按钮来获取相应的评估结果。页面中的样式表和脚本文件将用于控制网页的样式和实现交互功能。

2. web.css

web.css用于设置选择区域、运行区域和结果显示区域的样式。

  • selection-area 是选择区域的样式,设置了高度为650px,背景色为#f2f2f2(浅灰色)。
  • .radio-container 是一个容器,用于包裹选项按钮。设置了 Flex 布局,并使其内部元素居中对齐和垂直居中。
  • input[type="radio"] 是选项按钮的样式,设置了右边距为5px。
  • action-area 是运行区域的样式,设置了高度为50px,背景色为#ffffff(白色)。
  • result-area 是结果显示区域的样式,设置了高度为300px,背景色为#ffffff(白色)。
  • .evaluationOption, .modelOption, .datasetOption, .splitterOption 是用于设置不同选项的样式,都使用了 Inline-block 布局,并设置了右外边距为10px。
  • .hidden 是一个类名,用于隐藏元素,设置了 display 属性为 none。
  • h1 是标题的样式,设置了字体为"微软雅黑",居中对齐。 这些样式通过 ID(以 # 开头)或类名(以 . 开头)来选取对应的元素,并为其设置相应的样式属性。通过这样的设置,可以使选择区域、运行区域和结果显示区域拥有特定的外观和布局。

3. selection.js

selection.js用于实现交互的网页界面,包含了一些函数用于更新页面中的选项和元素显示状态,以及重置表单。

  • updateOptions() 函数用于根据选择的数据集来更新显示的选项。根据选择的数据集(通过获取选中的 radio 按钮的值),设置不同选项的显示状态。例如,如果选择的数据集是 "iris",则将距离选项、MSE 选项和 RMSE 选项隐藏起来;如果选择的数据集是 "heart",则显示 AUC 选项、F1 选项、PR 选项和 ROC 选项等。
  • updatepercent() 函数用于根据选择的划分方法来更新百分比选项的显示状态。根据选择的划分方法(通过获取选中的 radio 按钮的值),设置百分比选项的显示状态。例如,如果选择的划分方法是 "houldout",则显示百分比选项;否则隐藏百分比选项。
  • updatedata() 函数用于根据选择的模型来更新数据选项的显示状态。根据选择的模型(通过获取选中的 radio 按钮的值),设置不同数据选项的显示状态。例如,如果选择的模型是 "K_means"、"KNN" 或 "NB",则显示 iris 选项;如果选择的模型是 "SVM" 或 "LogisticRegression",则隐藏 wine 选项等。
  • updatedata1() 函数用于根据选择的评估方法来更新数据选项的显示状态。根据选择的评估方法(通过获取选中的 radio 按钮的值),设置不同数据选项的显示状态。例如,如果选择的评估方法是 "accuracy"、"fm" 或 "rand",则显示 iris 选项;如果选择的评估方法是 "auc"、"f1"、"pr" 或 "roc",则隐藏 wine 选项等。
  • updatesplitter() 函数用于根据选择的百分比划分方法来更新划分选项的显示状态。根据选择的百分比划分方法(通过获取选中的 radio 按钮的值),设置不同划分选项的显示状态。例如,如果选择的百分比划分方法是 "10%" 或 "30%",则隐藏 CV 选项和 Bootstraping 选项等。
  • resetForm() 函数用于重置表单,将所有 radio 按钮的选中状态取消,并刷新页面。 这些函数通常用于在用户与页面中的选项进行交互时,根据选择的结果动态更新页面的显示状态,以提供更好的用户体验。

(三)前后端连接架构

利用websocket建立连接

1. client.js:利用websocket实现接口连接

  • websocket.onopen:建立连接
  • send:向服务端发送数据
  • websocket.addEventListener:关闭连接
  • websocket.onmessage:接收服务端数据

2. server.py:处理WebSocket连接的服务器端程序,用于接收客户端发送的消息并执行相应的数据处理操作,然后将结果返回给客户端

  • handle_message(websocket, path):异步处理函数
    在循环中,根据接收到的消息执行相应的逻辑操作。
    如果message=='close_signal',则打印一条信息并断开连接,停止事件循环。
    否则,将根据字典中的值进行相应的数据处理操作,包括创建数据集、分割数据集、构建模型、进行预测和评估等。最后,它会将处理结果发送回客户端。
  • run()函数
    创建一个WebSocket服务器对象,指定其运行的主机地址和端口号。
    通过asyncio.get_event_loop().run_until_complete()方法来启动服务器。
    接着,它会打开一个网页,路径为文件系统中的web.html文件。
    最后,通过asyncio.get_event_loop().run_forever()方法来运行事件循环,使服务器一直运行并等待客户端连接。

五、前后端代码仓库链接

https://github.com/stupid-vegetable-bird/machine_learning_group4.git

六、代码运行方式说明

运行code文件夹中的main.py文件,即下图中红框标记的文件
image

七、代码运行截图

image
运行后的初始界面

image
数据集、分割器。分割比例、模型、评估指标的选择及文字形式的运行结果

image
图片形式的运行结果显示

八、每位组员的收获与感悟

1. 李青琪

经过小学期和暑假的学习,学到了手写机器学习模型代码、搭建前端和实现前后端通信的相关知识并加以实践,对项目开发以及团队合作开发有了进一步的了解与体会,对机器学习整个流程也有了更深入的认识。要手写机器学习模型代码就要去学习模型背后的算法的逻辑、了解并掌握相关的知识,在本次实践当中,如何参透算法的数学逻辑与内容并将其以代码的形式来更好地实现是我重点面对的问题。除此之外,在后端部分对代码进行整改也让我明白了良好的代码风格的重要性,以及在项目创建过程中如何与团队成员携手遵循共同且良好的代码风格。在前端和前后端通信部分,对websocket有了初步的学习与简单的实践,学到了前后端通信的知识与前后端通信的搭建。

2. 柴菲儿

在小学期平台搭建的过程中,我负责了前端和各个模块的优化整改部分。因为对前端了解甚浅,所以最开始理解框架的时候花费了很多时间,学会了html、css和js等等,从而可以写出用于展示一个机器学习模型评估的界面。在前后端连接的过程中回顾了一些计算机网络的知识,学习了websocket接口和前后端的连接。这次将计算机网络的知识应用于实践,是一次很好的锻炼。在后端优化部分,我学会了使用机器学习模型算法工厂,从而实现模型的自动化和可扩展部署,也加深了对算法的理解。同时我们小组在写代码的过程中一直使用github, 使用Pull Request功能,从而促进了团队成员之间的代码审查、讨论和修改,提高了我们的合作能力。

3. 张晨宇

在这个小学期的学习过程中,收获最大的是在小组合作的过程中进一步的提升了自己与成员沟通,正确地表达自己的想法的能力,这对于更好地完成学期任务以及生活中更好地相处起到了良好的促进作用。另一方面,本次的小学期也让我学习到了不少html上面的内容,也加强了对于python的学习。从算法实现到前端界面设计,再到前后端的连接,整个过程从熟悉到不熟悉,也克服了不少困难。很多时候,都多亏了小组内的成员们,我们在一起共同探讨,每个人发挥着自己所擅长的能力,使得这个项目的完成也较之顺利。

4. 吴 倩

在小学期平台搭建的过程中,我主要负责了前后端连接和后端代码书写、调试的部分。在后端有对决策树和随机森林模型进行书写,之前使用模型大部分都是通过库和函数实现,通过这次实践,对模型进行手写,更好地了解了算法的原理和具体实现,在分割数据集和模型评估也有书写,最后进行了调试,更好地了解机器学习的整体过程。在前后端连接的过程学习了websocket的通信过程。实践过程中也复习了很多语法,收获满满。这次主要的收获在于前后端的搭建连接过程,这一部分以前没有接触过,对框架有了初步的了解。对于机器学习算法的研究我们还可以更加深入,比如数据集体量不够大,用户可以选择自行导入数据等等,都可以再次进行完善。在调试过程中也遇到了很多麻烦,比如前端限定模型算法选择的地方,更换了很多种方法才得以解决。在整个实践过程中感谢我的队友一直很积极的鼓励大家,相互帮助,让我们的项目成功完成。

machine_learning_group4's People

Contributors

stupid-vegetable-bird avatar dddjjink avatar chaifeier1029 avatar wuqian1005 avatar chaifeier avatar

Watchers

 avatar

machine_learning_group4's Issues

需要注意的一些问题

代码风格要规范

  • Model 包应该小写,否则和 Model 类有混淆,import 时可能造成麻烦
  • 方法名全小写或使用小驼峰命名法
  • Model.py 应该也放置在 model 包中
  • Evaluator 最好分文件编写,并放在 evaluator 包中,就像 model 一样

尽量将没有问题的代码推送

  • model 包中的代码明显没有 import Model 基类

基类应当先定义好需要实现的方法

  • 比如 Model 基类定义 fit、train,而非只定义一个没有任何方法的 Model 类

代码结构要合理

  • 比如将 data 单独放在一个文件夹中,而非直接放在根目录

Recommend Projects

  • React photo React

    A declarative, efficient, and flexible JavaScript library for building user interfaces.

  • Vue.js photo Vue.js

    🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.

  • Typescript photo Typescript

    TypeScript is a superset of JavaScript that compiles to clean JavaScript output.

  • TensorFlow photo TensorFlow

    An Open Source Machine Learning Framework for Everyone

  • Django photo Django

    The Web framework for perfectionists with deadlines.

  • D3 photo D3

    Bring data to life with SVG, Canvas and HTML. 📊📈🎉

Recommend Topics

  • javascript

    JavaScript (JS) is a lightweight interpreted programming language with first-class functions.

  • web

    Some thing interesting about web. New door for the world.

  • server

    A server is a program made to process requests and deliver data to clients.

  • Machine learning

    Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.

  • Game

    Some thing interesting about game, make everyone happy.

Recommend Org

  • Facebook photo Facebook

    We are working to build community through open source technology. NB: members must have two-factor auth.

  • Microsoft photo Microsoft

    Open source projects and samples from Microsoft.

  • Google photo Google

    Google ❤️ Open Source for everyone.

  • D3 photo D3

    Data-Driven Documents codes.