일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | ||
6 | 7 | 8 | 9 | 10 | 11 | 12 |
13 | 14 | 15 | 16 | 17 | 18 | 19 |
20 | 21 | 22 | 23 | 24 | 25 | 26 |
27 | 28 | 29 | 30 |
Tags
- KLUE
- bert
- Transformer
- BLEU Score
- Chatbot
- pytorch
- Conversation System
- layer normalization
- Relation Extraction
- NLP
- BoostCamp
- text classification
- 백준
- huggingface
- BELU
- Transformers
- KLUE-RE
- ai-tech
- Eliza
- MT-DNN
- Prompt Tuning with Rules for Text Classification
- scaled dot-product attention
- GPT-1
- FSML
- multi-head attention
- Dialogue System
- 취업
- fine-tuning
- beam search
- boj
Archives
- Today
- Total
목록Prompt Tuning with Rules for Text Classification (1)
dukim's blog
[WK10] P-Stage level 2 - NLP KLUE-RE 대회 회고
프로젝트 목표 & 이를 위해 한 일 프로젝트 협업에 익숙해지기 팀 Notion 개설 및 관리를 담당함 Github issue와 PR message 활용 문제에 대한 파악, 가설 수립 및 해결 과정을 남기기 Relation Extraction은 subject entity와 object entity간의 관계를 파악하는 문제, 외부 데이터셋은 활용 불가 PLM은 문장내 주어와 목적어 사이에 위치한 단어들의 나열을 통해 두 단어의 관계를 학습했을 것이므로, Prompting method를 통해 PLM의 prior knowledge를 fine-tuning 방식보다 적극적으로 활용하면 외부 데이터 사용이 제한된 상황에서도 높은 성능을 얻을 수 있을 것이라 가설 수립 추후 확장 및 재사용이 가능한 NLP Task 템..
Boostcamp AI Tech 2th
2021. 10. 12. 23:44