HAZEL

CH04. 자바의 유용한 클래스들 : 패스트 캠퍼스 강의를 공부하고 정리한 내용입니다. 01. Object 클래스 - 모든 클래스의 최상위 클래스 1. java.lang 패키지 : 프래그래밍 시 import 하지 않아도 자동으로 import 됨. : import.java.lang.*; ( 랭 _ 이라고 읽는다 ) : 많이 사용하는 기본 클래스들이 속한 패키지 ex, String , Interger, System .. 2. 모든 클래스는 Objec 클래스를 상속 받음 - 모든 클래스의 최상위 클래스 : 모든 클래스는 final 로 선언되어있지 않은 메서드는 재정의해서 사용할 수 있다. - toString() 메서드 : 객체의 정보를 String 으로 바꾸어 사용할 때 쓰임 : String 이나, Integ..

NLP 논문 스터디에서 발표한 내용으로, PPT만 있는 글 입니다. - 추후에 설명 글도 첨가할 예정 ** arxiv.org/abs/1909.11942 ALBERT: A Lite BERT for Self-supervised Learning of Language Representations Increasing model size when pretraining natural language representations often results in improved performance on downstream tasks. However, at some point further model increases become harder due to GPU/TPU memory limitations and longer..

NLP 논문 스터디에서 발표한 내용으로, PPT만 있는 글 입니다. - 추후에 설명 글도 첨가할 예정 ** arxiv.org/abs/1901.02860 Transformer-XL: Attentive Language Models Beyond a Fixed-Length Context Transformers have a potential of learning longer-term dependency, but are limited by a fixed-length context in the setting of language modeling. We propose a novel neural architecture Transformer-XL that enables learning dependency beyond a ..

NLP 논문 스터디에서 발표한 내용으로, PPT만 있는 글 입니다. - 추후에 설명 글도 첨가할 예정 ** arxiv.org/abs/1706.03762 Attention Is All You Need The dominant sequence transduction models are based on complex recurrent or convolutional neural networks in an encoder-decoder configuration. The best performing models also connect the encoder and decoder through an attention mechanism. We propose a new arxiv.org 논문 발표 PPT

import os from glob import glob import torch from torchvision import datasets, transforms # dataset 예제 변환, transform 예제 변환을 줌 1. Data Loader 부르기 # batch 사이즈를 데이터 로드에 직접 넣어줌 batch_size = 32 test_batch_size =32 # train 용도 이므로 True , 로컬에 데이터가 없으면 download 받을 것이므로 True # 데이터를 변경시켜줄것이므로, 아래처럼 처리 train_loader = torch.utils.data.DataLoader( datasets.MNIST('dataset/', train = True , download= True, tran..

01. PyTorch Basic : 타입만 다를 뿐 numpy 와 유사하게 동작한다. import numpy as np import torch 1. 기본 arange print(np.arange(9)) # [0 1 2 3 4 5 6 7 8] print(torch.arange(9)) # tensor([0, 1, 2, 3, 4, 5, 6, 7, 8]) 2. shape # shape 를 알수 있음 nums = torch.arange(6) nums.shape 3. type type(nums) 4. numpy 로 변환 # 넘파이 변환이 가능함 nums.numpy() 5. reshape # numpy 와 유사하게 reshape 를 할 수 있음 nums.reshape(2,3) 6. rand # 랜덤으로 3,3 텐서 ..

11장. 신경망 기계번역 11.1. 다국어 신경망 번역 11.1.1. 제로샷 학습 ( zero-shot learning ) : 논문 - Google’s Multilingual Neural Machine Translation System: Enabling Zero-Shot Translation Melvin Johnson∗ , Mike Schuster∗ , Quoc V. Le, Maxim Krikun, Yonghui Wu, Zhifeng Chen, Nikhil Thorat, Fernanda Viégas, Martin Wattenberg, Greg Corrado, Macduff Hughes, Jeffrey Dean Google www.aclweb.org/anthology/Q17-1024.pdf * 특징 : 여..

CH03. 객체지향 핵심 : 패스트 캠퍼스 강의를 공부하고 정리한 내용입니다. 01. 추상 클래스 ( abstract class ) 1. 추상 클래스란 ? : 구현 코드 없이 메서드의 선언만 있는 추상메서드를 포함한 클래스 : 상속만을 위한 클래스 - 메서드 선언 ( declaration ) : 반환 타입 , 메서드 이름, 매개변수로 구성 - 메서드 정의 ( definition ) : 메서드 구현 ( implementation ) 과 동일한 의미 구현부를 가짐. ({}) int add(int x, int y); // 선언 int add(int x, int y){ } // 구현부가 있음, 추상 메서드 아님 - abstract 예약어 사용 - 추상 클래스는 new 할 수 없음 ( 인스턴스 화 할 수 없음 )..

CH03. 객체지향 핵심 : 패스트 캠퍼스 강의를 공부하고 정리한 내용입니다. 01. 상속 1. 클래스 상속 : 클래스를 정의할 때, 이미 구현된 클래스를 상속 받아서 속성이나 기능을 확장하여 클래스를 구현함 : 이미 구현된 클래스보다 더 구체적인 기능을 가진 클래스를 구현해야 할 때, 기존 클래스를 상속함 - 상위 클래스 = parent class = base class = super class - 하위 클래스 = child class = derived class = subclass 2. 상속하기 class B extends A { } : B(하위) A(상위) : A의 클래스를 확장한다는 개념인데, A는 한개의 클래스만 올 수 있다. - 자바는 단일 상속 만 지원함 ( 인터페이스에서는 여러개의 상속도 ..

CH02. 객체지향 프로그래밍 : 패스트 캠퍼스 강의를 공부하고 정리한 내용입니다. 01. 객체 간의 협력 (collabration) : 객체지향 프로그래밍에서 객체 간에는 협력이 이루어짐 - 유기적으로 연동되어있다. : 협력을 위해서는 필요한 메세지를 전송하고 이를 처리하는 기능이 구현되어야 함 : 매개 변수로 객체가 전달되는 경우가 발생 02. static 변수 ( 정적 변수 ) : 동일한 클래스에서 생성된 여러 인스턴스에서 공통으로 사용하는 변수 1. 공통으로 사용하는 변수가 필요한 경우. : 여러 인스턴스가 공유하는 기준 값이 필요한 경우 2. static 변수 사용 법 : static int LEEnum; Student.LEEnum = 100; - 인스턴스가 생성될때 만들어지는 변수가 아닌, 처..