일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
Tags
- 백준
- ai-tech
- Chatbot
- BoostCamp
- fine-tuning
- Transformers
- scaled dot-product attention
- beam search
- pytorch
- layer normalization
- bert
- Conversation System
- KLUE
- Dialogue System
- boj
- 취업
- Transformer
- KLUE-RE
- BELU
- text classification
- huggingface
- NLP
- Prompt Tuning with Rules for Text Classification
- MT-DNN
- multi-head attention
- Eliza
- FSML
- BLEU Score
- Relation Extraction
- GPT-1
Archives
- Today
- Total
목록Prompt Tuning with Rules for Text Classification (1)
dukim's blog
[WK10] P-Stage level 2 - NLP KLUE-RE 대회 회고
프로젝트 목표 & 이를 위해 한 일 프로젝트 협업에 익숙해지기 팀 Notion 개설 및 관리를 담당함 Github issue와 PR message 활용 문제에 대한 파악, 가설 수립 및 해결 과정을 남기기 Relation Extraction은 subject entity와 object entity간의 관계를 파악하는 문제, 외부 데이터셋은 활용 불가 PLM은 문장내 주어와 목적어 사이에 위치한 단어들의 나열을 통해 두 단어의 관계를 학습했을 것이므로, Prompting method를 통해 PLM의 prior knowledge를 fine-tuning 방식보다 적극적으로 활용하면 외부 데이터 사용이 제한된 상황에서도 높은 성능을 얻을 수 있을 것이라 가설 수립 추후 확장 및 재사용이 가능한 NLP Task 템..
Boostcamp AI Tech 2th
2021. 10. 12. 23:44