일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | |||||
3 | 4 | 5 | 6 | 7 | 8 | 9 |
10 | 11 | 12 | 13 | 14 | 15 | 16 |
17 | 18 | 19 | 20 | 21 | 22 | 23 |
24 | 25 | 26 | 27 | 28 | 29 | 30 |
Tags
- fine-tuning
- BELU
- pytorch
- Prompt Tuning with Rules for Text Classification
- Transformer
- MT-DNN
- NLP
- BoostCamp
- multi-head attention
- KLUE-RE
- text classification
- boj
- huggingface
- Eliza
- bert
- 취업
- Transformers
- 백준
- BLEU Score
- KLUE
- ai-tech
- scaled dot-product attention
- beam search
- Relation Extraction
- GPT-1
- Chatbot
- layer normalization
- FSML
- Conversation System
- Dialogue System
Archives
- Today
- Total
목록Relation Extraction (1)
dukim's blog
[WK10] P-Stage level 2 - NLP KLUE-RE 대회 회고
프로젝트 목표 & 이를 위해 한 일 프로젝트 협업에 익숙해지기 팀 Notion 개설 및 관리를 담당함 Github issue와 PR message 활용 문제에 대한 파악, 가설 수립 및 해결 과정을 남기기 Relation Extraction은 subject entity와 object entity간의 관계를 파악하는 문제, 외부 데이터셋은 활용 불가 PLM은 문장내 주어와 목적어 사이에 위치한 단어들의 나열을 통해 두 단어의 관계를 학습했을 것이므로, Prompting method를 통해 PLM의 prior knowledge를 fine-tuning 방식보다 적극적으로 활용하면 외부 데이터 사용이 제한된 상황에서도 높은 성능을 얻을 수 있을 것이라 가설 수립 추후 확장 및 재사용이 가능한 NLP Task 템..
Boostcamp AI Tech 2th
2021. 10. 12. 23:44