'''
知识: Pandas的GroupBy遵从split、applv、combine模式
这里的split指的是pandasfiSgroupby,我们自己实现apply函数,apply返回的结果由pandas进行combine得到结果
GroupBy.apply(function)
.function的第一个参数是dataframe
.function的返回结果,可是dataframe、series、单个值,甚至和输入dataframe完全没关系
'''
##本次实例演示:
#1.怎样对数值列按分组的归一化?
'''
将不同范团的数伯列进行归一化。映射到[0.1]区间;
·更容易做数据横向对比,比如价格字段是几百到几干,增幅字段是0到100。
机器学习模型学的更快性能更好'''
'''归化的公式:
Xnormalized = (X - Xminmum)/(Xmaxmum - Xminmum)'''
#演示:用户对电影评分的归一化
#每个用户的评分不同,有的乐观派评分高,有的悲观派评分低,按用户做归一化
import pandas as pd
fn = "D:\\python39\\pandas\\data\\ratings.dat"
ratings = pd.read_csv(fn,
sep ="::",
engine = 'python',
names = 'UserID::MovieID::Rating::Timestamp'.split("::"))
#实现按照用户ID分组,然后对其中一列归一化
def ratings_norm(df):
#param df:每个用户分组的dataframe
min_value = df['Rating'].min()
max_value = df['Rating'].max()
df['Rating_norm'] = df['Rating'].apply(lambda x:(x-min_value)/(max_value-min_value))
return df
ratings = ratings.groupby('UserID').apply(ratings_norm)
ratings1 =ratings[ratings['UserID'] ==1]
##可以看到UserID==1这个用户,Rating==3是他的最低分,是个乐观派,我们归一化到0分;
##实例2:怎样取每个分组的TOPN数据?
#获l取2018年每个月温度最高的2天数据
fpath = "D:\\python39\\pandas\\antlearnpandasmaster\\datas\\beijing_tianqi\\beijing_tianqi_2018.csv"
df = pd.read_csv(fpath)
#替换掉温度的后缀℃
df.loc[:,'bWendu']= df["bWendu"].str.replace("℃",'').astype('int32')
df.loc[:,'yWendu']= df["yWendu"].str.replace("℃",'').astype('int32')
df['month'] =df["ymd"].str[:7]#新增一列为月份
def getWenduTopN(df,topn):
#这里的fd是每个月分组group的df
return df.sort_values(by = 'bWendu')[['ymd','bWendu']][-topn:]#sort_values()默认情况下,是升序排列。取温度最高两天,就得加“-”负号
df1=df.groupby('month').apply(getWenduTopN,topn = 2)
print(df1.head())
##我们看到,grouby的apply函数返回的dataframe,其实和原来的dataframe其实可以完全不一样