机器学习 3 大核心任务实战：从回归、分类到聚类，Python 代码全解析

机器学习 3 大核心任务实战从回归、分类到聚类Python 代码全解析机器学习作为人工智能的重要分支正在深刻改变我们解决问题的方式。无论是预测房价、识别图像还是分析客户行为机器学习都展现出强大的能力。本文将带你深入实战通过 Python 代码全面解析机器学习的三大核心任务回归、分类和聚类。1. 机器学习基础与环境准备在开始实战之前我们需要搭建合适的开发环境并理解机器学习的基本概念。机器学习主要分为监督学习、无监督学习和强化学习三大类。本文将重点介绍前两类中的典型任务。1.1 环境配置首先确保你的 Python 环境已安装以下核心库pip install numpy pandas matplotlib scikit-learn这些库构成了 Python 机器学习的基础生态NumPy高效的数值计算Pandas数据处理与分析Matplotlib数据可视化Scikit-learn机器学习算法实现1.2 数据准备的基本原则无论哪种机器学习任务高质量的数据准备都是成功的关键。以下是一些通用原则数据清洗处理缺失值、异常值和重复数据特征工程选择合适的特征并进行必要的转换数据分割将数据集分为训练集和测试集标准化对数值特征进行标准化处理from sklearn.model_selection import train_test_split from sklearn.preprocessing import StandardScaler # 示例数据分割与标准化流程 X_train, X_test, y_train, y_test train_test_split(X, y, test_size0.2, random_state42) scaler StandardScaler() X_train_scaled scaler.fit_transform(X_train) X_test_scaled scaler.transform(X_test)2. 回归任务实战房价预测回归分析用于预测连续数值是机器学习中最基础也最常用的任务之一。我们以经典的波士顿房价数据集为例演示完整的回归分析流程。2.1 数据探索与可视化首先加载数据并了解其特征分布import pandas as pd import matplotlib.pyplot as plt from sklearn.datasets import fetch_california_housing # 加载加州房价数据集 data fetch_california_housing() df pd.DataFrame(data.data, columnsdata.feature_names) df[MedHouseVal] data.target # 绘制特征与目标变量的关系 plt.figure(figsize(12, 8)) for i, col in enumerate(data.feature_names): plt.subplot(3, 3, i1) plt.scatter(df[col], df[MedHouseVal], alpha0.3) plt.xlabel(col) plt.ylabel(Median House Value) plt.tight_layout() plt.show()2.2 线性回归模型实现线性回归是最简单的回归模型但理解其原理至关重要from sklearn.linear_model import LinearRegression from sklearn.metrics import mean_squared_error, r2_score # 创建并训练模型 lr LinearRegression() lr.fit(X_train_scaled, y_train) # 评估模型 y_pred lr.predict(X_test_scaled) print(fMSE: {mean_squared_error(y_test, y_pred):.2f}) print(fR²: {r2_score(y_test, y_pred):.2f}) # 可视化预测结果 plt.scatter(y_test, y_pred) plt.plot([y_test.min(), y_test.max()], [y_test.min(), y_test.max()], k--) plt.xlabel(Actual) plt.ylabel(Predicted) plt.title(Actual vs Predicted House Values) plt.show()2.3 高级回归技术当线性回归表现不佳时可以尝试更复杂的模型from sklearn.ensemble import RandomForestRegressor # 随机森林回归 rf RandomForestRegressor(n_estimators100, random_state42) rf.fit(X_train_scaled, y_train) y_pred_rf rf.predict(X_test_scaled) # 评估改进效果 print(fRF MSE: {mean_squared_error(y_test, y_pred_rf):.2f}) print(fRF R²: {r2_score(y_test, y_pred_rf):.2f}) # 特征重要性分析 importances rf.feature_importances_ plt.barh(data.feature_names, importances) plt.title(Feature Importances) plt.show()3. 分类任务实战鸢尾花种类识别分类任务是机器学习中最常见的监督学习问题我们以经典的鸢尾花数据集为例演示完整的分类流程。3.1 数据集介绍与探索鸢尾花数据集包含三种花的四个特征from sklearn.datasets import load_iris iris load_iris() X iris.data y iris.target # 创建DataFrame方便分析 iris_df pd.DataFrame(X, columnsiris.feature_names) iris_df[species] y # 可视化特征分布 pd.plotting.scatter_matrix(iris_df, cy, figsize(12, 12), markero) plt.show()3.2 逻辑回归分类器虽然名为回归但逻辑回归是经典的线性分类算法from sklearn.linear_model import LogisticRegression from sklearn.metrics import classification_report, confusion_matrix # 数据分割 X_train, X_test, y_train, y_test train_test_split(X, y, test_size0.3, random_state42) # 创建并训练模型 logreg LogisticRegression(max_iter200) logreg.fit(X_train, y_train) # 评估模型 y_pred logreg.predict(X_test) print(classification_report(y_test, y_pred)) print(confusion_matrix(y_test, y_pred)) # 可视化决策边界以两个特征为例 plt.scatter(X[:, 0], X[:, 1], cy, cmapviridis) plt.xlabel(iris.feature_names[0]) plt.ylabel(iris.feature_names[1]) # 绘制决策边界 xx, yy np.meshgrid(np.linspace(4, 8, 100), np.linspace(1.5, 4.5, 100)) Z logreg.predict(np.c_[xx.ravel(), yy.ravel(), np.zeros_like(xx.ravel()), np.zeros_like(xx.ravel())]) Z Z.reshape(xx.shape) plt.contourf(xx, yy, Z, alpha0.2, cmapviridis) plt.show()3.3 支持向量机(SVM)应用SVM是强大的分类算法特别适合高维数据from sklearn.svm import SVC # 创建SVM模型 svm SVC(kernelrbf, C1.0, gammascale) svm.fit(X_train, y_train) # 评估模型 y_pred_svm svm.predict(X_test) print(classification_report(y_test, y_pred_svm)) # 可视化决策边界 Z svm.predict(np.c_[xx.ravel(), yy.ravel(), np.zeros_like(xx.ravel()), np.zeros_like(xx.ravel())]) Z Z.reshape(xx.shape) plt.contourf(xx, yy, Z, alpha0.2, cmapviridis) plt.scatter(X[:, 0], X[:, 1], cy, cmapviridis) plt.show()4. 聚类任务实战客户细分分析聚类是无监督学习的重要技术用于发现数据中的自然分组。我们使用客户数据集演示K-Means聚类。4.1 数据准备与探索from sklearn.datasets import make_blobs # 生成模拟客户数据 X, y make_blobs(n_samples300, centers4, cluster_std0.60, random_state0) plt.scatter(X[:, 0], X[:, 1], s50) plt.show()4.2 K-Means聚类实现K-Means是最常用的聚类算法from sklearn.cluster import KMeans # 确定最佳K值 - 肘部法则 wcss [] for i in range(1, 11): kmeans KMeans(n_clustersi, initk-means, random_state42) kmeans.fit(X) wcss.append(kmeans.inertia_) plt.plot(range(1, 11), wcss) plt.title(The Elbow Method) plt.xlabel(Number of clusters) plt.ylabel(WCSS) plt.show() # 应用K4的K-Means kmeans KMeans(n_clusters4, initk-means, random_state42) y_kmeans kmeans.fit_predict(X) # 可视化聚类结果 plt.scatter(X[:, 0], X[:, 1], cy_kmeans, s50, cmapviridis) centers kmeans.cluster_centers_ plt.scatter(centers[:, 0], centers[:, 1], cred, s200, alpha0.75, markerX) plt.show()4.3 聚类评估与优化评估聚类质量是重要步骤from sklearn.metrics import silhouette_score # 轮廓系数评估 score silhouette_score(X, y_kmeans) print(fSilhouette Score: {score:.2f}) # 尝试不同初始化方法比较效果 init_methods [k-means, random] for method in init_methods: kmeans KMeans(n_clusters4, initmethod, random_state42) y_kmeans kmeans.fit_predict(X) score silhouette_score(X, y_kmeans) print(fMethod: {method}, Score: {score:.2f})5. 模型优化与实战技巧掌握了基础算法后我们需要了解如何提升模型性能。5.1 交叉验证与超参数调优from sklearn.model_selection import GridSearchCV # 为SVM寻找最佳参数 param_grid {C: [0.1, 1, 10, 100], gamma: [1, 0.1, 0.01, 0.001]} grid GridSearchCV(SVC(), param_grid, refitTrue, verbose2) grid.fit(X_train, y_train) print(fBest parameters: {grid.best_params_}) print(fBest estimator: {grid.best_estimator_}) # 使用最佳模型预测 grid_predictions grid.predict(X_test) print(classification_report(y_test, grid_predictions))5.2 特征选择与降维from sklearn.decomposition import PCA # PCA降维可视化 pca PCA(n_components2) principalComponents pca.fit_transform(X) plt.scatter(principalComponents[:, 0], principalComponents[:, 1], cy_kmeans) plt.xlabel(Principal Component 1) plt.ylabel(Principal Component 2) plt.show() # 解释方差比 print(fExplained variance ratio: {pca.explained_variance_ratio_})5.3 模型集成技术from sklearn.ensemble import VotingClassifier from sklearn.tree import DecisionTreeClassifier # 创建多个分类器 clf1 LogisticRegression(random_state1) clf2 DecisionTreeClassifier(random_state1) clf3 SVC(probabilityTrue, random_state1) # 投票集成 eclf VotingClassifier(estimators[(lr, clf1), (dt, clf2), (svc, clf3)], votingsoft) eclf.fit(X_train, y_train) # 评估集成模型 y_pred_eclf eclf.predict(X_test) print(classification_report(y_test, y_pred_eclf))6. 项目部署与生产化建议将机器学习模型投入实际应用需要考虑更多因素6.1 模型持久化import joblib # 保存模型 joblib.dump(rf, house_price_rf_model.pkl) # 加载模型 loaded_model joblib.load(house_price_rf_model.pkl)6.2 构建预测API使用Flask构建简单APIfrom flask import Flask, request, jsonify import numpy as np app Flask(__name__) app.route(/predict, methods[POST]) def predict(): data request.get_json() features np.array(data[features]).reshape(1, -1) prediction loaded_model.predict(features) return jsonify({prediction: prediction.tolist()}) if __name__ __main__: app.run(debugTrue)6.3 监控与维护生产环境中需要考虑模型性能随时间变化数据漂移检测自动化重新训练流程模型版本控制在实际项目中我发现特征工程的质量往往比算法选择更重要。花时间深入理解业务领域和数据特性通常能带来比单纯调参更大的模型性能提升。