位置：首页-资讯-后端开发

4种方法教你利用Python发现数据的规律

2023-03-19 17:12

短信预约 -IT技能 免费直播动态提醒

统计描述：使用基本的统计工具（如均值、中位数、标准差、百分位数等）对数据进行描述和总结，以便了解数据的分布和趋势。
数据可视化：将数据绘制成图表或图形，例如直方图、散点图、箱线图等，以便更清晰地展现数据的分布和趋势。可以使用Python中的Matplotlib、Seaborn或R中的ggplot2等可视化工具。
分组和聚合：将数据按照某个变量进行分组，然后对每组数据进行聚合（如计算平均值、中位数、最大值、最小值等），以便找到变量之间的相关性和趋势。
机器学习算法：使用机器学习算法（如线性回归、决策树、聚类等）对数据进行建模和预测，以便更深入地了解数据的规律和趋势。

综合使用以上方法可以更全面地了解数据的规律，以便更好地进行数据分析和决策。

下面用Python逐一介绍分析方法。

1.准备

开始之前，你要确保Python和pip已经成功安装在电脑上,如果没有，可以访问这篇文章：超详细Python安装指南进行安装。

(可选1) 如果你用Python的目的是数据分析，可以直接安装Anaconda，它内置了Python和pip.

(可选2) 此外，推荐大家用VSCode编辑器，它有许多的优点

请选择以下任一种方式输入命令安装依赖：

1. Windows 环境打开 Cmd (开始-运行-CMD)。

2. MacOS 环境打开 Terminal (command+空格输入Terminal)。

3. 如果你用的是 VSCode编辑器或 Pycharm，可以直接使用界面下方的Terminal.

pip install pandas
pip install numpy
pip install scipy
pip install seaborn
pip install matplotlib

# 机器学习部分
pip install scikit-learn

2.统计描述发现规律

使用Python进行统计描述可以使用一些内置库，例如Numpy和Pandas。

以下是一些基本的统计描述函数：

平均值(mean): 计算一组数据的平均值。

import numpy as np

data = [1, 2, 3, 4, 5]
mean = np.mean(data)
print(mean)

输出结果为：3.0

中位数(median): 计算一组数据的中位数。

import numpy as np

data = [1, 2, 3, 4, 5]
median = np.median(data)
print(median)

输出结果为：3.0

众数(mode): 计算一组数据的众数。

import scipy.stats as stats

data = [1, 2, 2, 3, 4, 4, 4, 5]
mode = stats.mode(data)
print(mode)

输出结果为：ModeResult(mode=array([4]), count=array([3]))

方差(variance): 计算一组数据的方差。

import numpy as np

data = [1, 2, 3, 4, 5]
variance = np.var(data)
print(variance)

输出结果为：2.0

标准差(standard deviation): 计算一组数据的标准差。

import numpy as np

data = [1, 2, 3, 4, 5]
std_dev = np.std(data)
print(std_dev)

输出结果为：1.4142135623730951

以上是一些基本的统计描述函数，还有其他函数可以使用，具体使用方法可查看相应的文档。

3.数据可视化分析规律

Python有很多库可以用来进行数据可视化，其中最常用的有Matplotlib和Seaborn。以下是一些基本的数据可视化方法：

折线图(line plot): 可以用来展示随时间或某个变量的趋势。

import matplotlib.pyplot as plt

x = [1, 2, 3, 4, 5]
y = [2, 4, 6, 8, 10]

plt.plot(x, y)
plt.show()

散点图(scatter plot): 可以用来展示两个变量之间的关系。

import matplotlib.pyplot as plt

x = [1, 2, 3, 4, 5]
y = [2, 4, 6, 8, 10]

plt.scatter(x, y)
plt.show()

直方图(histogram): 可以用来展示数值型数据的分布情况。

import matplotlib.pyplot as plt

data = [1, 2, 2, 3, 4, 4, 4, 5]

plt.hist(data, bins=5)
plt.show()

箱线图(box plot): 可以用来展示数值型数据的中位数、四分位数和异常值等信息。

import seaborn as sns

data = [1, 2, 2, 3, 4, 4, 4, 5]

sns.boxplot(data)
plt.show()

条形图(bar chart): 可以用来展示分类变量之间的差异或比较。

import matplotlib.pyplot as plt

categories = ['A', 'B', 'C', 'D']
values = [10, 20, 30, 40]

plt.bar(categories, values)
plt.show()

以上是一些基本的数据可视化方法，Matplotlib和Seaborn都提供了更丰富的功能，可以用来创建更复杂的图表和图形。

4.分组和聚合分析发现规律

在Python中，使用pandas库可以方便地对数据进行分组和聚合操作，以发现数据的规律。以下是一个基本的分组和聚合示例：

假设我们有一个数据集，包含销售日期、销售金额和销售员名称，我们想要了解每个销售员的总销售额。我们可以按销售员名称进行分组，并对每个组应用聚合函数，如求和、平均值等。以下是一个示例代码：

import pandas as pd

# 创建数据集
data = {'sales_date': ['2022-01-01', '2022-01-02', '2022-01-03', '2022-01-04', '2022-01-05', '2022-01-06', '2022-01-07', '2022-01-08', '2022-01-09', '2022-01-10'],
        'sales_amount': [100, 200, 150, 300, 250, 400, 350, 450, 500, 600],
        'sales_person': ['John', 'Jane', 'John', 'Jane', 'John', 'Jane', 'John', 'Jane', 'John', 'Jane']}

df = pd.DataFrame(data)

# 按销售员名称分组，并对每个组的销售金额求和
grouped = df.groupby('sales_person')['sales_amount'].sum()

print(grouped)

输出结果为：

sales_person
Jane 2200
John 1800
Name: sales_amount, dtype: int64

可以看到，我们成功地按销售员名称进行了分组，并对每个组的销售金额求和。这样我们就可以发现每个销售员的总销售额，从而了解数据的规律。

5.机器学习算法分析发现规律

可以使用scikit-learn库来实现机器学习算法，发现数据的规律。以下是一个基本的示例，展示如何使用决策树算法对数据进行分类，并发现数据的规律：

import pandas as pd
from sklearn.tree import DecisionTreeClassifier
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score

# 创建数据集
data = {'age': [22, 25, 47, 52, 21, 62, 41, 36, 28, 44],
        'income': [21000, 22000, 52000, 73000, 18000, 87000, 45000, 33000, 28000, 84000],
        'gender': ['M', 'F', 'F', 'M', 'M', 'M', 'F', 'M', 'F', 'M'],
        'bought': ['N', 'N', 'Y', 'Y', 'N', 'Y', 'Y', 'N', 'Y', 'Y']}

df = pd.DataFrame(data)

# 将文本数据转换成数值数据
df['gender'] = df['gender'].map({'M': 0, 'F': 1})
df['bought'] = df['bought'].map({'N': 0, 'Y': 1})

# 将数据集分成训练集和测试集
X = df[['age', 'income', 'gender']]
y = df['bought']
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2)

# 创建决策树模型
model = DecisionTreeClassifier()

# 训练模型
model.fit(X_train, y_train)

# 在测试集上进行预测
y_pred = model.predict(X_test)

# 计算模型的准确率
accuracy = accuracy_score(y_test, y_pred)
print("Accuracy: {:.2f}%".format(accuracy*100))

输出结果为：