字符串值来填充第二数据帧

我有两个dataframes，main_df：字符串值来填充第二数据帧

| header_1 
0 | value_1 
1 | value_2 
2 | value_3 
3 | value_1

和查找数据帧lookup_df：

| header_1 | header_2 
0 | value_1 | lookup_value_1 
1 | value_2 | lookup_value_2 
2 | value_3 | lookup_value_3 
3 | value_4 | lookup_value_4

在main_df的值不是唯一的。 `lookup_df'中的值是唯一的。

我只是想在main df中填入一个新列，并且相应的lookup_value从lookup_df。

已经尝试了各种方法，包括.merge,.join,.map和.lookup。

main_df = pd.merge(main_df, lookup_df, how='inner', on=['header_1'])

我找的结果是：

| header_1 | header_2 
0 | value_1 | lookup_value_1 
1 | value_2 | lookup_value_2 
2 | value_3 | lookup_value_3 
3 | value_1 | lookup_value_1

来源

2017-01-23 joshi123

我想你需要'main_df [ 'header_2'] = main_df [ 'header_1']地图（lookup_df.set_index（ 'header_1'）”。 header_2']）' – jezrael

也许你想做一个左合并？ 'main_df = pd.merge（main_df，lookup_df，如何= '左'，就= [ 'header_1']）' – EdChum

@jezrael我试过，但我得到的错误'InvalidIndexError：重建索引只与唯一价值指数objects'有效，我的查找值不是唯一的。 – joshi123

可以使用map通过Series：

main_df['header_2'] = main_df['header_1'].map(lookup_df.set_index('header_1')['header_2']) 
print (main_df) 
    header_1  header_2 
0 value_1 lookup_value_1 
1 value_2 lookup_value_2 
2 value_3 lookup_value_3 
3 value_1 lookup_value_1

或者更快一点是转换Seriesto_dict：

main_df['header_2'] = main_df['header_1'].map(lookup_df.set_index('header_1')['header_2'] 
                 .to_dict()) 
print (main_df) 
    header_1  header_2 
0 value_1 lookup_value_1 
1 value_2 lookup_value_2 
2 value_3 lookup_value_3 
3 value_1 lookup_value_1

个

时序：

#[400000 rows x 1 columns] 
main_df = pd.concat([main_df]*100000).reset_index(drop=True) 

In [139]: %timeit pd.merge(main_df, lookup_df, how='left', on=['header_1']) 
10 loops, best of 3: 73.1 ms per loop 

In [140]: %timeit main_df['header_1'].map(lookup_df.set_index('header_1')['header_2']) 
10 loops, best of 3: 35.7 ms per loop 

In [141]: %timeit main_df['header_1'].map(lookup_df.set_index('header_1')['header_2'].to_dict()) 
10 loops, best of 3: 35.1 ms per loop

编辑：

你需要header_1列的唯一值在lookup_df，一个可能的解决方案是drop_duplicates：

print (lookup_df) 
    header_1  header_2 
0 value_1 lookup_value_1 
1 value_2 lookup_value_2 
2 value_3 lookup_value_3 
3 value_1 lookup_value_4 

#keep first value, default parameter keep='first' 
lookup_df = lookup_df.drop_duplicates(['header_1']) 
print (lookup_df) 
    header_1  header_2 
0 value_1 lookup_value_1 
1 value_2 lookup_value_2 
2 value_3 lookup_value_3 

#keep last value 
lookup_df1 = lookup_df.drop_duplicates(['header_1'], keep='last') 
print (lookup_df1) 
    header_1  header_2 
0 value_1 lookup_value_1 
1 value_2 lookup_value_2 
2 value_3 lookup_value_3

来源

2017-01-23 12:15:31 jezrael

我编辑答案并创建独特的'lookup_df'，请检查它。 – jezrael

测试了'drop_duplicates'代码，它的工作原理，非常感谢 – joshi123

你要做的合并不'how'关键字。像这样：

main_df = pd.DataFrame([{'header_1': 'value_1'},{'header_1': 'value_2'},{'header_1': 'value_3'},{'header_1': 'value_1'}]) 

lookup_df = pd.DataFrame([{'header_1':'value_1', 'header_2':'lookup_value_1'}, {'header_1':'value_2', 'header_2':'lookup_value_2'}, {'header_1':'value_3', 'header_2':'lookup_value_3'}, {'header_1':'value_4', 'header_2':'lookup_value_4'}]) 

main_df = pd.merge(main_df, lookup_df, on='header_1')

输出是

header_1  header_2 
0 value_1 lookup_value_1 
1 value_1 lookup_value_1 
2 value_2 lookup_value_2 
3 value_3 lookup_value_3

来源

2017-01-23 12:22:39

字符串值来填充第二数据帧

回答

相关问题