Skip to content

Commit c1eb05a

Browse files
committed
fix readme of multi-task
1 parent e6e00ac commit c1eb05a

File tree

4 files changed

+10
-4
lines changed

4 files changed

+10
-4
lines changed

doc/imgs/ple.png

309 KB
Loading

models/multitask/esmm/readme.md

+1-1
Original file line numberDiff line numberDiff line change
@@ -77,7 +77,7 @@ ESMM是发表在 SIGIR’2018 的论文[《Entire Space Multi-Task Model: An E
7777
<img align="center" src="../../../doc/imgs/esmm.png">
7878
<p>
7979

80-
### 效果复现
80+
## 效果复现
8181
为了方便使用者能够快速的跑通每一个模型,我们在每个模型下都提供了样例数据。如果需要复现readme中的效果,请按如下步骤依次操作即可。
8282
在全量数据下模型的训练指标如下:
8383
| 模型 | auc_ctr | batch_size | epoch_num | Time of each epoch |

models/multitask/mmoe/README.md

+1-1
Original file line numberDiff line numberDiff line change
@@ -76,7 +76,7 @@ MMOE模型刻画了任务相关性,基于共享表示来学习特定任务的
7676
<img align="center" src="../../../doc/imgs/mmoe.png">
7777
<p>
7878

79-
### 效果复现
79+
## 效果复现
8080
为了方便使用者能够快速的跑通每一个模型,我们在每个模型下都提供了样例数据。如果需要复现readme中的效果,请按如下步骤依次操作即可。
8181
在全量数据下模型的指标如下:
8282
| 模型 | auc_marital | batch_size | epoch_num | Time of each epoch |

models/multitask/ple/README.md

+8-2
Original file line numberDiff line numberDiff line change
@@ -38,8 +38,8 @@
3838
## 模型简介
3939
多任务模型通过学习不同任务的联系和差异,可提高每个任务的学习效率和质量。但在多任务场景中经常出现跷跷板现象,即有些任务表现良好,有些任务表现变差。 论文[《Progressive Layered Extraction (PLE): A Novel Multi-Task Learning (MTL) Model for Personalized Recommendations》](https://dl.acm.org/doi/abs/10.1145/3383313.3412236 ) ,论文提出了Progressive Layered Extraction (简称PLE),来解决多任务学习的跷跷板现象。
4040

41+
## 模型准备
4142
我们在Paddlepaddle定义PLE的网络结构,在开源数据集Census-income Data上验证模型效果。
42-
4343
数据的格式如下:
4444
生成的格式以逗号为分割点
4545
```
@@ -70,8 +70,14 @@ python -u ../../../tools/static_infer.py -m config.yaml
7070
```
7171

7272
## 模型组网
73+
为了解决跷跷板和负迁移的现象,[PLE](https://dl.acm.org/doi/abs/10.1145/3383313.3412236)提出了一种共享结构设计的渐进式分层提取模型。其包含两部分, 一部分是一种显式区分共享专家塔和特定任务专家塔的门控 (CGC) 模型,另一部分是由单层CGC结构扩展到多层的PLE模型,
74+
模型主要结构如下:
75+
<p align="center">
76+
<img align="center" src="../../../doc/imgs/ple.png">
77+
<p>
78+
7379

74-
### 效果复现
80+
## 效果复现
7581
为了方便使用者能够快速的跑通每一个模型,我们在每个模型下都提供了样例数据。如果需要复现readme中的效果,请按如下步骤依次操作即可。
7682
在全量数据下模型的指标如下:
7783
| 模型 | auc_marital | batch_size | epoch_num | Time of each epoch |

0 commit comments

Comments
 (0)