일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
Tags
- multi-head attention
- layer normalization
- BoostCamp
- bert
- MT-DNN
- text classification
- BLEU Score
- KLUE-RE
- huggingface
- pytorch
- 취업
- 백준
- Relation Extraction
- Transformer
- fine-tuning
- scaled dot-product attention
- Prompt Tuning with Rules for Text Classification
- boj
- ai-tech
- KLUE
- Chatbot
- FSML
- Conversation System
- Dialogue System
- Eliza
- BELU
- GPT-1
- NLP
- Transformers
- beam search
Archives
- Today
- Total
목록Relation Extraction (1)
dukim's blog
[WK10] P-Stage level 2 - NLP KLUE-RE 대회 회고
프로젝트 목표 & 이를 위해 한 일 프로젝트 협업에 익숙해지기 팀 Notion 개설 및 관리를 담당함 Github issue와 PR message 활용 문제에 대한 파악, 가설 수립 및 해결 과정을 남기기 Relation Extraction은 subject entity와 object entity간의 관계를 파악하는 문제, 외부 데이터셋은 활용 불가 PLM은 문장내 주어와 목적어 사이에 위치한 단어들의 나열을 통해 두 단어의 관계를 학습했을 것이므로, Prompting method를 통해 PLM의 prior knowledge를 fine-tuning 방식보다 적극적으로 활용하면 외부 데이터 사용이 제한된 상황에서도 높은 성능을 얻을 수 있을 것이라 가설 수립 추후 확장 및 재사용이 가능한 NLP Task 템..
Boostcamp AI Tech 2th
2021. 10. 12. 23:44