일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | ||||||
2 | 3 | 4 | 5 | 6 | 7 | 8 |
9 | 10 | 11 | 12 | 13 | 14 | 15 |
16 | 17 | 18 | 19 | 20 | 21 | 22 |
23 | 24 | 25 | 26 | 27 | 28 | 29 |
30 | 31 |
- scaled dot-product attention
- Dialogue System
- 취업
- bert
- Eliza
- pytorch
- Prompt Tuning with Rules for Text Classification
- NLP
- huggingface
- BLEU Score
- KLUE
- Transformer
- Relation Extraction
- Transformers
- layer normalization
- KLUE-RE
- fine-tuning
- beam search
- BoostCamp
- ai-tech
- text classification
- Chatbot
- FSML
- multi-head attention
- 백준
- BELU
- GPT-1
- boj
- Conversation System
- MT-DNN
- Today
- Total
목록Contents (44)
dukim's blog
Intro Pre-course 내용 중 평소 취약한 개념이었던 Python OOP 수강, 취약 내용만을 선별적으로 정리 과제 1, 2, 3 수행 강의 복습 내용 객체 지향 프로그래밍 개요 객체 : 실생활에서 일종의 물건 속성(Attribute)와 행동(Action)을 가짐 OOP는 이러한 객체 개념을 프로그램으로 표현 속성은 변수 행동은 함수로 표현 Python은 OOP 언어 class : 설계도 instance : 구현체 Attribute 추가하기 __init__ : 객체 초기화 예약 함수 self : 생성된 인스턴스 자기 자신을 가리키는 변수 [참고] __의 의미 특수한 예약 함수나 변수 그리고 함수명 변경(맨글링)으로 사용 OOP Chracteristics * 객체 지향 언어는 실제 세상을 모델링하..

기억하기론 최종 합격자 발표까진 아직 한참 남았는데 (7월 13일(화)), 이렇게나 빨리 연락 올 줄은 몰랐습니다. 추후 지원자 분들을 위해서 후기를 남겨봅니다. 1, 2차 시험 모두 2시간 동안 시험을 치며, 각 전형별 풀었던 문제 수를 적어 봤습니다. 1차 테스트 - 2020년도 별도로 치던 BAT 테스트를 통합함 - 이론 14문항, 코테 5문항(프로그래머스 Lv 1, 백준 실버 5~1) - 이론 12~13솔?, 코테 3~4솔? 2차 테스트 - 코테 8문항(프로그래머스 Lv 1~2, 백준 실버 5 ~ 골드 5?) - 4~5.5솔? 이전 후기에서 본 내용과 달랐던 점 - 2차 시험이 1차 문항과 겹쳐 나온다는 후기가 있었는데, 올해는 그렇지 않았습니다.
문제 https://www.acmicpc.net/problem/17409 17409번: 증가 수열의 개수 첫째 줄에 N, K가 주어진다. 둘째 줄에 수열 A1, A2, ..., AN이 주어진다. www.acmicpc.net 설명 가장 긴 증가하는 부분 수열 문제는 파이썬 풀이가 있지만, 증가 수열의 개수(17409)는 파이썬 풀이를 찾으려고 해도 찾기가 힘들어서 lastknight00님의 포스트를 참고하여 Python 코드로 작성하였습니다. N이 작은 경우에는 DP를 이용한 풀이가 가능하지만 시간복잡도가 O(N^2)으로 위 문제의 조건(1
PLM 논문 구현 스터디를 시작했습니다. Vanilla Transformer부터 주요 모델들을 구현해나갈 예정입니다. https://github.com/KimDaeUng/PLM-Implementation KimDaeUng/PLM-Implementation NLP Pretrained Language Models Implementation Study - KimDaeUng/PLM-Implementation github.com

지식을 전달하는 글이 아닌 개인적인 기록을 남기는 건 처음이네요. 그냥 일기쓰듯이 올 상반기를 정리해보려합니다(취업 및 개인사 포함). 딱히 잘한 건 없습니다. 솔직히 방향 못 잡고 이리저리 흔들렸고, 생활도 많이 망가졌었어요. 잘 해보라고 이것 저것 조언해주던 아는 동생 말도 잘 안 듣고, 그냥 당장 코테만 뚫으면 되겠지하고 안일하게 코테만 준비하며 어영부영 보냈던 시간이 대부분이었습니다. 이러다 보니 모처럼 서류를 통과해도 어이없게도 과제 전형이나 면접에서 준비가 덜 되서 떨어지기도 했고요. 부끄려운 시간이었고 이것은 그 기록입니다. 그래야 하반기엔 더 정신차리고 할 수 있겠죠. 상반기 구직 활동을 세어보니 대략 30건 정도 이력서 제출을 했었네요, 상반기 취준을 해보면서 느낀 가장 큰 패인은 CS ..

ALIGN: A Large-scale ImaGe and Noisy-Text Embedding 0. Intro ICML 2021에 accept된 Google AI의 논문 "Scaling Up Visual and Vision-Language Representation Learning With Noisy Text Supervision"는 양질의 visual-language representations을 얻기 위한 연구입니다. 다시 말해, 서로 다른 종류(modality)의 데이터에 대해 통합된 representations을 얻는 것으로, 얻어진 representations은 text-image retrieval, image-text retrieval 등의 task에 활용될 수 있습니다. 예전에도 이러한 연구들..

Eliza in Python (2)¶본 내용은 The 11th International Conference on Computational Semantics(IWCS 2015)의 부대 행사인 Computational Semantics Hackathon의 자료 중 Dialogue system 파트를 번역한 자료입니다(출처). Part-Of-Speech tagging preprocessor를 사용하여 Eliza를 보다 개선한 버전 In [2]: import random import re 여기선 POS(Part Of Speech) tagger를 불러와 활용한다. POS tagger는 입력된 단어들을 요소로 갖는 리스트를 입력받아(정확히는 입력된 문장을 tokenizing한 token들을 입력 받아) 이를 분석해..

Eliza in Python (1)¶본 내용은 The 11th International Conference on Computational Semantics(IWCS 2015)의 부대 행사인 Computational Semantics Hackathon의 자료 중 Dialogue system 파트를 번역한 자료입니다(출처). Based on this source code In [2]: import random import re Eliza는 사용자가 말한 내용을 발화의 인칭을 바꾸어 말함으로써(ex. I 와 you를 맞바꾸는 등), 사용자의 말을 흉내낸다. 여기서는 간단한 규칙만으로 이를 구현해 볼 것이다. 보다 정교하게 만들기 위해 NLTK를 사용할 수 있지만, 정교한 방법은 다음편에 다룰 것이다. 아래 셀..