[Deep Learning] MLP 구현 (3)
공부한 것을 종합하여 MLP 를 Pytorch 로 구현하고 Classification 을 해보자.
Posts by Tag
- deep learning 55
- computer vision 33
- algorithm 19
- Math 14
- network 13
- os 13
- pytorch 10
- MLOps 10
- object detection 9
- MLP 8
- image classification 8
- loss 8
- segmentation 8
- graphs 7
- MLE 6
- ocr 6
- optimization 5
- JSD 5
- data 5
- convolution 5
- Variational Inference 5
- generative 5
- Activation 4
- Generalization 4
- Cross Entropy 4
- KL-div 4
- Bayes theorem 4
- Linear Regression 3
- Logistic Regression 3
- Softmax Regression 3
- rnn 3
- Tree 3
- KL-divergence 3
- GAN 3
- tensor 3
- Softmax 2
- gradient descent 2
- SGD 2
- GPU 2
- Sorting 2
- annotation 2
- CNN 2
- text detection 2
- precision 2
- recall 2
- f1-score 2
- process 2
- thread 2
- CT 2
- VAE 2
- data type 2
- training 2
- sklearn 2
- diary 1
- Sigmoid 1
- Tanh 1
- Perceptron 1
- Activation Function 1
- Neural Network 1
- Universal Approximation Theorem 1
- Weight Decay 1
- Linear Algebra 1
- vector 1
- matrix 1
- back propagation 1
- Probability 1
- Statistics 1
- entropy 1
- cross entropy 1
- batch size 1
- cnn 1
- regularization 1
- optimizer 1
- Adam 1
- lstm 1
- gru 1
- HPC 1
- Matrix 1
- OSI 1
- TCP/IP 1
- Protocol 1
- PDU 1
- IP 1
- ARP 1
- TCP 1
- UDP 1
- Computational graph 1
- Back Propagation 1
- weight initialization 1
- Dropout 1
- greedy 1
- brute force 1
- DFS 1
- BFS 1
- priority queue 1
- Binary Search 1
- Dynamic Programming 1
- Shortest Path 1
- Dijkstra 1
- Floyd Warshall 1
- Bellman Ford 1
- Disjoint Sets 1
- Union Find 1
- MST 1
- Kruskal 1
- Prim 1
- topological sort 1
- prime number 1
- two pointer 1
- interval sum 1
- prefix sum 1
- Binary Search Tree 1
- Tree Traversal 1
- Segment Tree 1
- Binary Indexed Tree 1
- Trie 1
- LCA 1
- Sliding Window 1
- euler path 1
- euler circuit 1
- hamilton path 1
- hamilton circuit 1
- markov chain 1
- data pipeline 1
- inductive bias 1
- CAM 1
- Autograd 1
- NIN 1
- GAP 1
- dilated 1
- transposed 1
- depthwise 1
- AlexNet 1
- ZFNet 1
- VGGNet 1
- GoogLeNet 1
- ResNet 1
- DenseNet 1
- SENet 1
- EfficientNet 1
- CNN Applications 1
- Object Detection 1
- Segmentation 1
- EAST 1
- DBNet 1
- MOST 1
- TextFuseNet 1
- ICDAR 1
- metric 1
- DetEval 1
- IoU 1
- TIoU 1
- CLEval 1
- synthetic data 1
- data augmentation 1
- multi scale training 1
- MAP 1
- MSE 1
- MAE 1
- Huber 1
- Smooth L1 1
- CE 1
- BCE 1
- accuracy 1
- pr_curve 1
- 스위치 1
- NAT 1
- DHCP 1
- DNS 1
- GSLB 1
- router 1
- load balance 1
- port 1
- gateway 1
- kernel 1
- hardware 1
- buffer 1
- spool 1
- cache 1
- PCB 1
- cpu 1
- ipc 1
- shared resource 1
- deadlock 1
- Sympy 1
- netmask 1
- subnet 1
- subnet mask 1
- CIDR 1
- subnetting 1
- http 1
- web 1
- cookie 1
- ssh 1
- vpn 1
- websocket 1
- webrtc 1
- memory 1
- cpu bound 1
- I/O Bound 1
- virtual memory 1
- garbage collection 1
- GIL 1
- transformer 1
- roc_curve 1
- auc 1
- CI/CD 1
- Matplotlib 1
- Seaborn 1
- local minima 1
- Autoregressive Model 1
- MLL 1
- numpy 1
- indexing 1
- axis 1
- shape 1
- ReLU 1
- Softplus 1
- ReLU6 1
- PReLU 1
- Leaky ReLU 1
- Maxout 1
- ELU 1
- GELU 1
- CELU 1
- SELU 1
- GLU 1
- Swish 1
- SiLU 1
- SwiGLU 1
- Mish 1
- GEGLU 1
- Loss 1
- DataLoader 1
- Wasserstein distance 1
- taxonomy 1
- AR 1
- loss surface 1
- NLL 1
- MM detection 1
- Neck 1
- Bias 1
- Variance 1
- Pytorch 1
- supervised learning 1
- unsupervised learning 1
- autograd 1
- fine tuning 1
- crawling 1
- linux 1
- macos 1
- gradient 1
- jacobian 1
- hessian 1
- pandas 1
- polars 1
deep learning
[Deep Learning, d2l] MLP 구현 (2)
MLP 를 Pytorch 로 구현해보자.
[Deep Learning, d2l] MLP 구현 (1)
MLP 를 Pytorch 로 구현해보자.
[Deep Learning, Optimization] Bias 와 Variance
Bias 와 Variance 에 대해 알아보자
[Segmentation] 8. Semantic Segmentation 연구 동향
WSSS 에 대해 알아보자.
[Segmentation] 7. SegFormer
SegFormer 에 대해 알아보자.
[Segmentation] 6. HRNet
HRNet 에 대해 알아보자.
[Segmentation] 5. Segmentation for competition
대회 등에서 사용하는 Segmentation 에 대해 알아보자.
[Segmentation] 4. U-Net 계열의 모델들
High Performance 를 자랑하는 U-Net 계열의 모델들에 대해 알아보자.
[Segmentation] 3. FCN 의 한계를 극복한 모델들 (2)
DeepLab v2, PSPNet, DeepLab v3, DeepLab v3+ 에 대해 알아보자.
[Segmentation] 2. FCN 의 한계를 극복한 모델들 (1)
DeconvNet, SegNet, FCDenseNet, UNet, DeepLab v1, DilatedNet 에 대해 알아보자.
[Segmentation] 1. Segmentation Overview
Segmentation 에 대해 알아보자.
[Object Detection] 9. Object Detection Competition
대회 등에서 Object Detection 을 사용하는 것에 대해 알아보자.
[Object Detection] 8. Advanced Object Detection (2)
Cascade RCNN, DETR, Swin 등에 대해 알아보자.
[Object Detection] 7. Advanced Object Detection (1)
Cascade RCNN, DETR, Swin 등에 대해 알아보자.
[Object Detection] 6. EfficientDet
Efficient 에 대해 알아보자.
[Object Detection] 5. 1 Stage Detectors
Object Detection Model 중 1 Stage Detector 에 대해 알아보자.
[Object Detection] 4. Neck
Object Detection 모델 구조의 Neck 에 대해 알아보자.
[Object Detection] 3. MMdetection
Object Detection Library MMdetection 에 대해 알아보자.
[Object Detection] 2. 2 Stage Detectors
Object Detection Model 중 2 Stage Detector 에 대해 알아보자.
[Object Detection] 1. Object Detection Overview
Object Detection 에 대해 알아보자.
[Optimization] Local Minima
최적화 과정에서 발생하는 Local Minima에 대해 알아보자
[Optimization] Convexity, Smoothness, Strong-convex
최적화 과정에서 자주 사용하는 함수 성질들에 대해 알아보자
[CNN] 8. Bag of Tricks for CNN
CNN 에서 Accuracy 와 학습 속도를 개선시키는 Trick 들에 대해 알아보자
[CNN] 7. CNN Applications
CNN 을 활용한 다양한 Applications 대해 알아보자
[Image Classification] 8. EfficientNet
EfficientNet(2019) 에 대해 알아보자.
[Image Classification] 7. SENet
SENet(2018) 에 대해 알아보자.
[Image Classification] 6. DenseNet
DenseNet(2017) 에 대해 알아보자.
[Image Classification] 5. ResNet
ResNet(2015) 에 대해 알아보자.
[Image Classification] 4. GoogLeNet
GoogLeNet(2014) 에 대해 알아보자.
[Image Classification] 3. VGGNet
VGGNet(2014) 에 대해 알아보자.
[Image Classification] 2. ZFNet
ZFNet(2013) 에 대해 알아보자.
[Image Classification] 1. AlexNet
AlexNet(2012) 에 대해 알아보자.
[CNN] 6. 여러가지 Convolution 연산
다양한 convolution 연산 방법에 대해 알아보자.
[CNN] 5. Network In Network
Network In Network(2013) 에 대해 알아보자.
[CNN] 4. CNN Visualization
CNN 시각화에 대해 알아보자.
[CNN] 3. CNN 의 구조와 parameter
CNN 의 구조와 Convolution 연산의 파라미터 수에 대해 알아보자
[CNN] 2. Convolutional Neural Network(CNN)
CNN 에 대해 자세히 알아보자
[Deep Learning, d2l] MLP (Multi Layer Perceptron) (5)
Dropout 에 대해 알아보자
[Deep Learning, d2l] MLP (Multi Layer Perceptron) (4)
Deep Learning 에서의 Generalization 에 대해 알아보자
[Deep Learning, d2l] MLP (Multi Layer Perceptron) (3)
Weight Initialization 에 대해 알아보자
[Deep Learning, d2l] MLP (Multi Layer Perceptron) (2)
Forward & Back Propagation, Computational Graph 에 대해 알아보자
[Deep Learning, d2l] MLP (Multi Layer Perceptron) (1)
Multi Layer Perceptron 에 대해 알아보자
[CNN] 1. Computer Vision Task
Computer Vision 에 대해 대략적으로 알아보자
[Optimizer] Optimizer
대표적인 Optimizer 들에 대해 알아보자
[Regularization] Regularization
Optimization 중 Regularization 에 대해서 알아보자
[Optimization] Optimization for DL
Optimization 에 대해 알아보자
[Deep Learning, d2l] Linear Neural Networks for Classification (3)
Environment and Distribution Shift 에 대해 알아보자
[Deep Learning, d2l] Linear Neural Networks for Classification (2)
Classification 에서의 Generalization 에 대해 알아보자
[Deep Learning, d2l] Linear Neural Networks for Classification (1)
Logistic Regression, Softmax Regression 에 대해 자세히 알아보자
[Deep Learning, d2l] Linear Neural Networks for Regression (3)
Weight Decay 에 대해 알아보자.
[Deep Learning, d2l] Linear Neural Networks for Regression (2)
Generalization 에 대해 알아보자.
[Deep Learning, d2l] Linear Neural Networks for Regression (1)
선형 회귀(Linear Regression)에 대해 알아보자.
[Deep Learning] Deep Learning, Neural Network (2)
UAT 를 통해 딥러닝을 공부하는 이유에 대해 생각해보자
[Deep Learning] Deep Learning, Neural Network (1)
Neural Network(NN)에 대해 알아보자
computer vision
[Segmentation] 8. Semantic Segmentation 연구 동향
WSSS 에 대해 알아보자.
[Segmentation] 7. SegFormer
SegFormer 에 대해 알아보자.
[Segmentation] 6. HRNet
HRNet 에 대해 알아보자.
[Segmentation] 5. Segmentation for competition
대회 등에서 사용하는 Segmentation 에 대해 알아보자.
[Segmentation] 4. U-Net 계열의 모델들
High Performance 를 자랑하는 U-Net 계열의 모델들에 대해 알아보자.
[Segmentation] 3. FCN 의 한계를 극복한 모델들 (2)
DeepLab v2, PSPNet, DeepLab v3, DeepLab v3+ 에 대해 알아보자.
[Segmentation] 2. FCN 의 한계를 극복한 모델들 (1)
DeconvNet, SegNet, FCDenseNet, UNet, DeepLab v1, DilatedNet 에 대해 알아보자.
[Segmentation] 1. Segmentation Overview
Segmentation 에 대해 알아보자.
[Object Detection] 9. Object Detection Competition
대회 등에서 Object Detection 을 사용하는 것에 대해 알아보자.
[Object Detection] 8. Advanced Object Detection (2)
Cascade RCNN, DETR, Swin 등에 대해 알아보자.
[Object Detection] 7. Advanced Object Detection (1)
Cascade RCNN, DETR, Swin 등에 대해 알아보자.
[Object Detection] 6. EfficientDet
Efficient 에 대해 알아보자.
[Object Detection] 5. 1 Stage Detectors
Object Detection Model 중 1 Stage Detector 에 대해 알아보자.
[Object Detection] 4. Neck
Object Detection 모델 구조의 Neck 에 대해 알아보자.
[Object Detection] 3. MMdetection
Object Detection Library MMdetection 에 대해 알아보자.
[Object Detection] 2. 2 Stage Detectors
Object Detection Model 중 2 Stage Detector 에 대해 알아보자.
[Object Detection] 1. Object Detection Overview
Object Detection 에 대해 알아보자.
[CNN] 8. Bag of Tricks for CNN
CNN 에서 Accuracy 와 학습 속도를 개선시키는 Trick 들에 대해 알아보자
[CNN] 7. CNN Applications
CNN 을 활용한 다양한 Applications 대해 알아보자
[Image Classification] 8. EfficientNet
EfficientNet(2019) 에 대해 알아보자.
[Image Classification] 7. SENet
SENet(2018) 에 대해 알아보자.
[Image Classification] 6. DenseNet
DenseNet(2017) 에 대해 알아보자.
[Image Classification] 5. ResNet
ResNet(2015) 에 대해 알아보자.
[Image Classification] 4. GoogLeNet
GoogLeNet(2014) 에 대해 알아보자.
[Image Classification] 3. VGGNet
VGGNet(2014) 에 대해 알아보자.
[Image Classification] 2. ZFNet
ZFNet(2013) 에 대해 알아보자.
[Image Classification] 1. AlexNet
AlexNet(2012) 에 대해 알아보자.
[CNN] 6. 여러가지 Convolution 연산
다양한 convolution 연산 방법에 대해 알아보자.
[CNN] 5. Network In Network
Network In Network(2013) 에 대해 알아보자.
[CNN] 4. CNN Visualization
CNN 시각화에 대해 알아보자.
[CNN] 3. CNN 의 구조와 parameter
CNN 의 구조와 Convolution 연산의 파라미터 수에 대해 알아보자
[CNN] 2. Convolutional Neural Network(CNN)
CNN 에 대해 자세히 알아보자
[CNN] 1. Computer Vision Task
Computer Vision 에 대해 대략적으로 알아보자
algorithm
[Algorithm] 19. Graphs - Markov Chain
마르코프 체인에 대해 알아보자
[Algorithm] 18. Graphs - Hamilton Path
해밀턴 경로, 해밀턴 회로에 대해 알아보자
[Algorithm] 17. Graphs - Euler Path
오일러 경로, 오일러 회로에 대해 알아보자
[Algorithm] 16. Sliding Window
슬라이딩 윈도우 알고리즘에 대해 알아보자
[Algorithm] 15. Lowest Common Ancestor(LCA)
최소 공통 조상 알고리즘에 대해 알아보자
[Algorithm] 14. Trie
트라이에 대해 알아보자
[Algorithm] 13. Tree
트리 알고리즘에 대해 알아보자
[Algorithm] 12. 기타 알고리즘
소수 판별 알고리즘, 투 포인터, 구간합에 대해 알아보자
[Algorithm] 11. Graphs - Topological Sort
위상 정렬에 대해 알아보자
[Algorithm] 10. Graphs - Minimum Spanning Tree(MST)
최소 신장 트리에 대해 알아보자
[Algorithm] 9. Graphs - Union Find
서로소 집합에 대해 알아보자
[Algorithm] 8. Shortest Path
최단경로 알고리즘에 대해 알아보자
[Algorithm] 7. Dynamic Programming
DP 에 대해 알아보자
[Algorithm] 6. Binary Search
이진탐색 알고리즘에 대해 알아보자
[Algorithm] 5. Sorting Algorithm
정렬 알고리즘에 대해 알아보자
[Algorithm] 4. Priority Queue
우선순위 큐에 대해 알아보자
[Algorithm] 3. DFS & BFS
DFS, BFS 알고리즘에 대해 알아보자
[Algorithm] 2. Brute Force
완전탐색 알고리즘에 대해 알아보자
[Algorithm] 1. Greedy Algorithm
그리디 알고리즘에 대해 알아보자
Math
[AI Math, Optimization] Gradient, Jacobian 및 Hessian
최적화에 사용되는 gradient, jacobian, hessian 에 대해 비교해보자.
[Loss, AI Math] Variational Inference
Variational Inference(VI) 에 대해 알아보자.
[AI Math] 12. RNN 연산
RNN 연산과정을 정리해보자.
[AI Math] 11. CNN 연산
CNN 연산과정을 정리해보자.
[AI Math] 10. KL divergence 와 JSD
KL-div 와 JSD 에 대해 이해해보자.
[AI Math] 9. 정보이론, 엔트로피
정보이론의 관점에서 엔트로피를 정리해보자.
[AI Math] 8. Frequentist vs. Bayesian 딥러닝
빈도주의 딥러닝과 베이지안 딥러닝에 대해 정리해보자.
[AI Math] 7. 베이즈 통계학
베이즈 통계학에 대해 알아보자
[AI Math] 6. 베이즈 정리
베이즈 정리에 대해 알아보자
[AI Math] 5. 통계
딥러닝을 위한 통계를 정리해보자
[AI Math] 4. 확률
딥러닝을 위한 확률론을 정리해보자
[AI Math] 3. Deep Learning 학습방법
딥러닝의 학습방법을 정리해보자
[AI Math] 2. 경사하강법
경사하강법(gradient descent)과 딥러닝 학습방법을 정리해보자
[AI Math] 1. 선형대수 for Deep Learning
벡터와 행렬에 대해 정리해보자
network
[Network] 13. Websocket, WebRTC
Websocket, WebRTC 에 대해 알아보자
[Network] 12. SSH, VPN
SSH, VPN 에 대해 알아보자
[Network] 11. Web & HTTP
HTTP 에 대해 알아보자
[Network] 10. 넷마스크, 서브넷, 서브넷마스크, CIDR, 서브네팅
넷마스크, 서브넷, 서브넷마스크, CIDR, 서브네팅에 대해 알아보자
[Network] 9. 포트, 게이트웨이
포트와 게이트웨이에 대해 알아보자
[Network] 8. 라우터, 로드밸런서
라우터와 로드밸런서에 대해서 알아보자
[Network] 7. 네트워크
네트워크에 대해 더 자세히 알아보자
[Network] 6. 통신의 종류
통신의 종류에 대해 알아보자
[Network] 5. ARP, TCP, UDP
ARP, TCP, UDP에 대해 알아보자.
[Network] 4. IP (Internet Protocol)
IP에 대해 알아보자.
[Network] 3. 프로토콜(Protocol), 프로토콜 데이터 단위(PDU, Protocol Data Unit)
프로토콜과 PDU에 대해 알아보자.
[Network] 2. TCP/IP 4계층
TCP/IP 4계층에 대해 알아보자.
[Network] 1. OSI 7계층
OSI 7계층에 대해 알아보자.
os
[OS] 13. Python GC, GIL, Process, Thread
파이썬의 os 관련 개념에 대해 알아보자
[OS] 12. 가상메모리
가상메모리에 대해 알아보자
[OS] 11. CPU Bound, I/O Bound
CPU Bound, I/O Bound 에 대해 알아보자
[OS] 10. 물리 메모리 관리
물리 메모리 관리에 대해 알아보자
[OS] 9. 교착 상태(Deadlock)
교착 상태에 대해 알아보자
[OS] 8. 공유 자원과 임계구역
공유 자원과 임계구역에 대해 알아보자
[OS] 7. 프로세스 간 통신(IPC)
IPC 에 대해 알아보자
[OS] 6. CPU 스케줄링
CPU 스케줄링에 대해 알아보자
[OS] 5. 스레드
스레드에 대해 알아보자
[OS] 4. 프로세스
프로세스에 대해 알아보자
[OS] 3. 컴퓨터 성능 향상 기술
컴퓨터 성능 향상 기술에 대해 알아보자
[OS] 2. 하드웨어의 구성
하드웨어에 대해 알아보자
[OS] 1. 운영체제(OS)의 구조
OS 의 구조에 대해 알아보자
pytorch
[Deep Learning, Pytorch] Autograd
torch 의 자동미분(autograd)에 대해 알아보자.
[Pytorch, Hardware] Pytorch 학습 관련 Tip
torch 를 이용한 학습에서 사용할 수 있는 Tip 에 대해 알아보자.
[Loss, Trouble Shooting] Cross Entropy Loss vs. NLL Loss
Cross Entropy Loss 와 NLL Loss 를 비교해보자.
[Deep Learning, Pytorch] Custom Dataset 및 DataLoader 제작
torch 에서 제공하는 Dataset 및 DataLoader 를 사용하여 Custom 해보자.
[Deep Learning, Pytorch] Custom Model 제작
torch 를 이용하여 Custom Model 을 제작하는데 필요한 기술들을 정리해보자.
[Pytorch] Pytorch 자주 사용하는 함수
torch 애서 자주 사용하는 함수에 대해 자세히 알아보자.
[Pytorch, Trouble Shooting] Array/Tensor, Indexing & Slicing, Axis, Shape
numpy, torch 의 array/tensor, indexing & slicing, axis, Shape 에 대해 자세히 알아보자.
[Pytorch] Pytorch 기본 및 Tensor 연산
Pytorch 이란 무엇인지 알아보고 기본 세팅과 Tensor 연산에 대해 자세히 알아보자.
[Trouble Shooting] WX + b vs. XW + b
왜 머신러닝/딥러닝 교재들과 딥러닝 프레임워크의 표현식이 다를까?
[GPU] Deep Learning for HPC
HPC(High Performance Computing) 를 위해 Pytorch 는 무엇을 적용하고 있는지 알아보자.
MLOps
[MLOps] 10. End-to-End MLOps Workflow
지금까지를 종합하여 End-to-End MLOps Workflow 에 대해 알아보자
[MLOps] 9. Data & Model Management
MLOps 핵심 프로세스 중 Data & Model Management 에 대해 알아보자
[MLOps] 8. Continuous Monitoring
MLOps 핵심 프로세스 중 Continuous Monitoring 에 대해 알아보자
[MLOps] 7. Prediction Serving
MLOps 핵심 프로세스 중 Prediction Serving 에 대해 알아보자
[MLOps] 6. Model Deployment
MLOps 핵심 프로세스 중 Model Deployment 에 대해 알아보자
[MLOps] 5. Continuous Training
MLOps 핵심 프로세스 중 Continuous Training 에 대해 알아보자
[MLOps] 4. Training Operationalization
MLOps 핵심 프로세스 중 Training Operationalization 에 대해 알아보자
[MLOps] 3. ML Development
MLOps 핵심 프로세스 중 ML Development 에 대해 알아보자
[MLOps] 2. MLOps lifecycle and core capabilities
‘Practitioners guide to MLOps: A framework for continuous delivery and automation of machine learning’ by Google Cloud
[MLOps] 1. MLOps 란?
구글 클라우드의 ‘MLOps: Continuous delivery and automation pipelines in machine learning’ 를 통해 MLOps 에 대해 알아보자
object detection
[Object Detection] 9. Object Detection Competition
대회 등에서 Object Detection 을 사용하는 것에 대해 알아보자.
[Object Detection] 8. Advanced Object Detection (2)
Cascade RCNN, DETR, Swin 등에 대해 알아보자.
[Object Detection] 7. Advanced Object Detection (1)
Cascade RCNN, DETR, Swin 등에 대해 알아보자.
[Object Detection] 6. EfficientDet
Efficient 에 대해 알아보자.
[Object Detection] 5. 1 Stage Detectors
Object Detection Model 중 1 Stage Detector 에 대해 알아보자.
[Object Detection] 4. Neck
Object Detection 모델 구조의 Neck 에 대해 알아보자.
[Object Detection] 3. MMdetection
Object Detection Library MMdetection 에 대해 알아보자.
[Object Detection] 2. 2 Stage Detectors
Object Detection Model 중 2 Stage Detector 에 대해 알아보자.
[Object Detection] 1. Object Detection Overview
Object Detection 에 대해 알아보자.
MLP
[Deep Learning] MLP 구현 (3)
공부한 것을 종합하여 MLP 를 Pytorch 로 구현하고 Classification 을 해보자.
[Deep Learning, d2l] MLP 구현 (2)
MLP 를 Pytorch 로 구현해보자.
[Deep Learning, d2l] MLP 구현 (1)
MLP 를 Pytorch 로 구현해보자.
[Deep Learning, d2l] MLP (Multi Layer Perceptron) (5)
Dropout 에 대해 알아보자
[Deep Learning, d2l] MLP (Multi Layer Perceptron) (4)
Deep Learning 에서의 Generalization 에 대해 알아보자
[Deep Learning, d2l] MLP (Multi Layer Perceptron) (3)
Weight Initialization 에 대해 알아보자
[Deep Learning, d2l] MLP (Multi Layer Perceptron) (2)
Forward & Back Propagation, Computational Graph 에 대해 알아보자
[Deep Learning, d2l] MLP (Multi Layer Perceptron) (1)
Multi Layer Perceptron 에 대해 알아보자
image classification
[Image Classification] 8. EfficientNet
EfficientNet(2019) 에 대해 알아보자.
[Image Classification] 7. SENet
SENet(2018) 에 대해 알아보자.
[Image Classification] 6. DenseNet
DenseNet(2017) 에 대해 알아보자.
[Image Classification] 5. ResNet
ResNet(2015) 에 대해 알아보자.
[Image Classification] 4. GoogLeNet
GoogLeNet(2014) 에 대해 알아보자.
[Image Classification] 3. VGGNet
VGGNet(2014) 에 대해 알아보자.
[Image Classification] 2. ZFNet
ZFNet(2013) 에 대해 알아보자.
[Image Classification] 1. AlexNet
AlexNet(2012) 에 대해 알아보자.
loss
[Loss] Visualizing the Loss Landscape of Neural Nets
loss surface 를 통해 insight 를 얻는 논문을 리뷰해보자
[Loss] Wasserstein distance
손실함수로 사용되는 Wasserstein distance 에 대해 알아보자
[Optimization] Convexity, Smoothness, Strong-convex
최적화 과정에서 자주 사용하는 함수 성질들에 대해 알아보자
[Loss] KL-divergence, JSD
손실함수로 사용되는 KL-divergence, JSD 에 대해 알아보자
[Loss] Cross Entropy
분류 문제에서 사용되는 Cross Entropy 에 대해 알아보자
[Loss] MSE, MAE, Huber
회귀 문제에서 사용되는 MSE 와 MAE, Huber 에 대해 알아보자
[Loss] MLE, MAP
MLE, MAP 에 대해 알아보자
[Loss] Loss function
손실함수에 대해 알아보자
segmentation
[Segmentation] 8. Semantic Segmentation 연구 동향
WSSS 에 대해 알아보자.
[Segmentation] 7. SegFormer
SegFormer 에 대해 알아보자.
[Segmentation] 6. HRNet
HRNet 에 대해 알아보자.
[Segmentation] 5. Segmentation for competition
대회 등에서 사용하는 Segmentation 에 대해 알아보자.
[Segmentation] 4. U-Net 계열의 모델들
High Performance 를 자랑하는 U-Net 계열의 모델들에 대해 알아보자.
[Segmentation] 3. FCN 의 한계를 극복한 모델들 (2)
DeepLab v2, PSPNet, DeepLab v3, DeepLab v3+ 에 대해 알아보자.
[Segmentation] 2. FCN 의 한계를 극복한 모델들 (1)
DeconvNet, SegNet, FCDenseNet, UNet, DeepLab v1, DilatedNet 에 대해 알아보자.
[Segmentation] 1. Segmentation Overview
Segmentation 에 대해 알아보자.
graphs
[Algorithm] 19. Graphs - Markov Chain
마르코프 체인에 대해 알아보자
[Algorithm] 18. Graphs - Hamilton Path
해밀턴 경로, 해밀턴 회로에 대해 알아보자
[Algorithm] 17. Graphs - Euler Path
오일러 경로, 오일러 회로에 대해 알아보자
[Algorithm] 11. Graphs - Topological Sort
위상 정렬에 대해 알아보자
[Algorithm] 10. Graphs - Minimum Spanning Tree(MST)
최소 신장 트리에 대해 알아보자
[Algorithm] 9. Graphs - Union Find
서로소 집합에 대해 알아보자
[Algorithm] 8. Shortest Path
최단경로 알고리즘에 대해 알아보자
MLE
[Generative] Generative Model Part 2
Generative Model 에 대해 개괄적으로 알아보자.
[Loss] Cross Entropy
분류 문제에서 사용되는 Cross Entropy 에 대해 알아보자
[Loss] MSE, MAE, Huber
회귀 문제에서 사용되는 MSE 와 MAE, Huber 에 대해 알아보자
[Loss] MLE, MAP
MLE, MAP 에 대해 알아보자
[AI Math] 8. Frequentist vs. Bayesian 딥러닝
빈도주의 딥러닝과 베이지안 딥러닝에 대해 정리해보자.
[AI Math] 5. 통계
딥러닝을 위한 통계를 정리해보자
ocr
[OCR] 6. Bag of Tricks for OCR
OCR 글자 영역 검출 모델을 학습시킬 때 사용할 수 있는 기술들에 대해 알아보자
[OCR] 5. Metric for OCR
OCR task 관련 성능 평가 지표에 대해 알아보자
[OCR] 4. Data for OCR
OCR task 관련 데이터에 대해 알아보자
[OCR] 3. Advanced Text Detection
좀 더 개선된 OCR 글자 영역 검출에 대해 알아보자
[OCR] 2. Text Detection
OCR 에서의 글자 영역 검출에 대해 알아보자
[OCR] 1. OCR(Optical Character Recognition)
OCR에 대해 알아보자
optimization
[AI Math, Optimization] Gradient, Jacobian 및 Hessian
최적화에 사용되는 gradient, jacobian, hessian 에 대해 비교해보자.
[Optimization] Local Minima
최적화 과정에서 발생하는 Local Minima에 대해 알아보자
[Optimization] Convexity, Smoothness, Strong-convex
최적화 과정에서 자주 사용하는 함수 성질들에 대해 알아보자
[Regularization] Regularization
Optimization 중 Regularization 에 대해서 알아보자
[Optimization] Optimization for DL
Optimization 에 대해 알아보자
JSD
[Loss] Wasserstein distance
손실함수로 사용되는 Wasserstein distance 에 대해 알아보자
[Generative] Generative Adversarial Network
GAN 에 대해 알아보자.
[Generative] Generative Model Part 2
Generative Model 에 대해 개괄적으로 알아보자.
[Loss] KL-divergence, JSD
손실함수로 사용되는 KL-divergence, JSD 에 대해 알아보자
[AI Math] 10. KL divergence 와 JSD
KL-div 와 JSD 에 대해 이해해보자.
data
[OCR] 4. Data for OCR
OCR task 관련 데이터에 대해 알아보자
[Data Centric] 3. Annotation Tool
Annotation Tool 들에 대해 알아보자
[Data Centric] 2. Annotation
Annotation에 대해 알아보자
[Data Centric] 1. 데이터 제작의 중요성(2)
데이터 제작의 중요성에 대해 실무적 관점에서 알아보자
[Data Centric] 1. 데이터 제작의 중요성(1)
데이터 제작의 중요성에 대해 Software 2.0 관점에서 알아보자
convolution
[CNN] 6. 여러가지 Convolution 연산
다양한 convolution 연산 방법에 대해 알아보자.
[CNN] 5. Network In Network
Network In Network(2013) 에 대해 알아보자.
[CNN] 4. CNN Visualization
CNN 시각화에 대해 알아보자.
[CNN] 3. CNN 의 구조와 parameter
CNN 의 구조와 Convolution 연산의 파라미터 수에 대해 알아보자
[CNN] 2. Convolutional Neural Network(CNN)
CNN 에 대해 자세히 알아보자
Variational Inference
[Generative] Variational Auto-Encoder
VAE 에 대해 알아보자.
[Loss, AI Math] Variational Inference
Variational Inference(VI) 에 대해 알아보자.
[Generative] Generative Model Part 2
Generative Model 에 대해 개괄적으로 알아보자.
[Generative] Generative Model Part 1
Generative Model 에 대해 개괄적으로 알아보자.
[Loss] KL-divergence, JSD
손실함수로 사용되는 KL-divergence, JSD 에 대해 알아보자
generative
[Generative] Variational Auto-Encoder
VAE 에 대해 알아보자.
[Generative] Auto-regressive Model
Auto-regressive Model 에 대해 알아보자.
[Generative] Generative Adversarial Network
GAN 에 대해 알아보자.
[Generative] Generative Model Part 2
Generative Model 에 대해 개괄적으로 알아보자.
[Generative] Generative Model Part 1
Generative Model 에 대해 개괄적으로 알아보자.
Activation
[Activation] 4. Swish, Mish, SwiGLU, GEGLU
Swish, Mish, SwiGLU, GEGLU 에 대해 알아보자
[Activation] 3. ELU, SELU, CELU, GELU, GLU
ELU, SELU, CELU, GELU, GLU 에 대해 알아보자
[Activation] 2. ReLU, Softplus, ReLU6, Leaky ReLU, PReLU, RReLU, Maxout
ReLU, ReLU6, PReLU, Leaky ReLU, Maxout 에 대해 알아보자
[Activation] 1. Activation Function
활성화 함수(Activation Function)와 Sigmoid, Softmax, Tanh 에 대해 알아보자
Generalization
[Deep Learning, d2l] MLP (Multi Layer Perceptron) (4)
Deep Learning 에서의 Generalization 에 대해 알아보자
[Deep Learning, d2l] Linear Neural Networks for Classification (3)
Environment and Distribution Shift 에 대해 알아보자
[Deep Learning, d2l] Linear Neural Networks for Classification (2)
Classification 에서의 Generalization 에 대해 알아보자
[Deep Learning, d2l] Linear Neural Networks for Regression (2)
Generalization 에 대해 알아보자.
Cross Entropy
[Loss, Trouble Shooting] Cross Entropy Loss vs. NLL Loss
Cross Entropy Loss 와 NLL Loss 를 비교해보자.
[Deep Learning, d2l] Linear Neural Networks for Classification (3)
Environment and Distribution Shift 에 대해 알아보자
[Deep Learning, d2l] Linear Neural Networks for Classification (2)
Classification 에서의 Generalization 에 대해 알아보자
[Deep Learning, d2l] Linear Neural Networks for Classification (1)
Logistic Regression, Softmax Regression 에 대해 자세히 알아보자
KL-div
[Loss] Cross Entropy
분류 문제에서 사용되는 Cross Entropy 에 대해 알아보자
[AI Math] 10. KL divergence 와 JSD
KL-div 와 JSD 에 대해 이해해보자.
[AI Math] 8. Frequentist vs. Bayesian 딥러닝
빈도주의 딥러닝과 베이지안 딥러닝에 대해 정리해보자.
[AI Math] 5. 통계
딥러닝을 위한 통계를 정리해보자
Bayes theorem
[Loss, AI Math] Variational Inference
Variational Inference(VI) 에 대해 알아보자.
[AI Math] 8. Frequentist vs. Bayesian 딥러닝
빈도주의 딥러닝과 베이지안 딥러닝에 대해 정리해보자.
[AI Math] 7. 베이즈 통계학
베이즈 통계학에 대해 알아보자
[AI Math] 6. 베이즈 정리
베이즈 정리에 대해 알아보자
Linear Regression
[Deep Learning, d2l] Linear Neural Networks for Regression (3)
Weight Decay 에 대해 알아보자.
[Deep Learning, d2l] Linear Neural Networks for Regression (2)
Generalization 에 대해 알아보자.
[Deep Learning, d2l] Linear Neural Networks for Regression (1)
선형 회귀(Linear Regression)에 대해 알아보자.
Logistic Regression
[Deep Learning, d2l] Linear Neural Networks for Classification (3)
Environment and Distribution Shift 에 대해 알아보자
[Deep Learning, d2l] Linear Neural Networks for Classification (2)
Classification 에서의 Generalization 에 대해 알아보자
[Deep Learning, d2l] Linear Neural Networks for Classification (1)
Logistic Regression, Softmax Regression 에 대해 자세히 알아보자
Softmax Regression
[Deep Learning, d2l] Linear Neural Networks for Classification (3)
Environment and Distribution Shift 에 대해 알아보자
[Deep Learning, d2l] Linear Neural Networks for Classification (2)
Classification 에서의 Generalization 에 대해 알아보자
[Deep Learning, d2l] Linear Neural Networks for Classification (1)
Logistic Regression, Softmax Regression 에 대해 자세히 알아보자
rnn
[RNN] 2. LSTM (Long Short-Term Memory), GRU (Gated Recurrent Unit)
LSTM 과 GRU 에 대해 알아보자
[RNN] 1. RNN(Recurrent Nueral Network)
RNN 에 대해 알아보자
[AI Math] 12. RNN 연산
RNN 연산과정을 정리해보자.
Tree
[Algorithm] 15. Lowest Common Ancestor(LCA)
최소 공통 조상 알고리즘에 대해 알아보자
[Algorithm] 14. Trie
트라이에 대해 알아보자
[Algorithm] 13. Tree
트리 알고리즘에 대해 알아보자
KL-divergence
[Loss] Wasserstein distance
손실함수로 사용되는 Wasserstein distance 에 대해 알아보자
[Generative] Generative Model Part 2
Generative Model 에 대해 개괄적으로 알아보자.
[Loss] KL-divergence, JSD
손실함수로 사용되는 KL-divergence, JSD 에 대해 알아보자
GAN
[Loss] Wasserstein distance
손실함수로 사용되는 Wasserstein distance 에 대해 알아보자
[Generative] Generative Adversarial Network
GAN 에 대해 알아보자.
[Generative] Generative Model Part 2
Generative Model 에 대해 개괄적으로 알아보자.
tensor
[Pytorch] Pytorch 자주 사용하는 함수
torch 애서 자주 사용하는 함수에 대해 자세히 알아보자.
[Pytorch, Trouble Shooting] Array/Tensor, Indexing & Slicing, Axis, Shape
numpy, torch 의 array/tensor, indexing & slicing, axis, Shape 에 대해 자세히 알아보자.
[Pytorch] Pytorch 기본 및 Tensor 연산
Pytorch 이란 무엇인지 알아보고 기본 세팅과 Tensor 연산에 대해 자세히 알아보자.
Softmax
[Loss, Trouble Shooting] Cross Entropy Loss vs. NLL Loss
Cross Entropy Loss 와 NLL Loss 를 비교해보자.
[Activation] 1. Activation Function
활성화 함수(Activation Function)와 Sigmoid, Softmax, Tanh 에 대해 알아보자
gradient descent
[AI Math] 3. Deep Learning 학습방법
딥러닝의 학습방법을 정리해보자
[AI Math] 2. 경사하강법
경사하강법(gradient descent)과 딥러닝 학습방법을 정리해보자
SGD
[Optimizer] Optimizer
대표적인 Optimizer 들에 대해 알아보자
[AI Math] 2. 경사하강법
경사하강법(gradient descent)과 딥러닝 학습방법을 정리해보자
GPU
[Pytorch, Hardware] Pytorch 학습 관련 Tip
torch 를 이용한 학습에서 사용할 수 있는 Tip 에 대해 알아보자.
[GPU] Deep Learning for HPC
HPC(High Performance Computing) 를 위해 Pytorch 는 무엇을 적용하고 있는지 알아보자.
Sorting
[Algorithm] 11. Graphs - Topological Sort
위상 정렬에 대해 알아보자
[Algorithm] 5. Sorting Algorithm
정렬 알고리즘에 대해 알아보자
annotation
[Data Centric] 3. Annotation Tool
Annotation Tool 들에 대해 알아보자
[Data Centric] 2. Annotation
Annotation에 대해 알아보자
CNN
[CNN] 3. CNN 의 구조와 parameter
CNN 의 구조와 Convolution 연산의 파라미터 수에 대해 알아보자
[CNN] 2. Convolutional Neural Network(CNN)
CNN 에 대해 자세히 알아보자
text detection
[OCR] 3. Advanced Text Detection
좀 더 개선된 OCR 글자 영역 검출에 대해 알아보자
[OCR] 2. Text Detection
OCR 에서의 글자 영역 검출에 대해 알아보자
precision
[Metric] 2. ROC Curve
ROC Curve 에 대해 알아보자
[Metric] 1. Accuracy, Precision, Recall, F1-score
가장 자주 볼 수 있는 Metric 에 대해 알아보자
recall
[Metric] 2. ROC Curve
ROC Curve 에 대해 알아보자
[Metric] 1. Accuracy, Precision, Recall, F1-score
가장 자주 볼 수 있는 Metric 에 대해 알아보자
f1-score
[Metric] 2. ROC Curve
ROC Curve 에 대해 알아보자
[Metric] 1. Accuracy, Precision, Recall, F1-score
가장 자주 볼 수 있는 Metric 에 대해 알아보자
process
[OS] 13. Python GC, GIL, Process, Thread
파이썬의 os 관련 개념에 대해 알아보자
[OS] 4. 프로세스
프로세스에 대해 알아보자
thread
[OS] 13. Python GC, GIL, Process, Thread
파이썬의 os 관련 개념에 대해 알아보자
[OS] 5. 스레드
스레드에 대해 알아보자
CT
[MLOps] 5. Continuous Training
MLOps 핵심 프로세스 중 Continuous Training 에 대해 알아보자
[MLOps] 1. MLOps 란?
구글 클라우드의 ‘MLOps: Continuous delivery and automation pipelines in machine learning’ 를 통해 MLOps 에 대해 알아보자
VAE
[Generative] Variational Auto-Encoder
VAE 에 대해 알아보자.
[Generative] Generative Model Part 2
Generative Model 에 대해 개괄적으로 알아보자.
data type
[Pytorch] Pytorch 자주 사용하는 함수
torch 애서 자주 사용하는 함수에 대해 자세히 알아보자.
[Pytorch] Pytorch 기본 및 Tensor 연산
Pytorch 이란 무엇인지 알아보고 기본 세팅과 Tensor 연산에 대해 자세히 알아보자.
training
[Training] Fine Tuning
Fine Tuning 에 대해 알아보자.
[Training] 딥러닝 학습 기법
여러 딥러닝 학습 기법에 대해 알아보자.
sklearn
[Trouble Shooting] Scikit-learn
대표적인 ML 라이브러리인 Scikit-learn 에 대해 정리해보자.
[Trouble Shooting] Pandas
대표적인 데이터 처리 라이브러리인 Pandas 에 대해 정리해보자.
diary
🎉 2024.04.07 첫 블로그 개시 🎉
드디어 첫 블로그를 개시했다. 앞으로 내가 기록하며 공부했던 것들을 옮기면서 다시 한 번 복습하고, 새로 알게된 사실도 이 블로그에 작성하려고 한다.
Sigmoid
[Activation] 1. Activation Function
활성화 함수(Activation Function)와 Sigmoid, Softmax, Tanh 에 대해 알아보자
Tanh
[Activation] 1. Activation Function
활성화 함수(Activation Function)와 Sigmoid, Softmax, Tanh 에 대해 알아보자
Perceptron
[Deep Learning] Deep Learning, Neural Network (1)
Neural Network(NN)에 대해 알아보자
Activation Function
[Deep Learning] Deep Learning, Neural Network (1)
Neural Network(NN)에 대해 알아보자
Neural Network
[Deep Learning] Deep Learning, Neural Network (1)
Neural Network(NN)에 대해 알아보자
Universal Approximation Theorem
[Deep Learning] Deep Learning, Neural Network (2)
UAT 를 통해 딥러닝을 공부하는 이유에 대해 생각해보자
Weight Decay
[Deep Learning, d2l] Linear Neural Networks for Regression (3)
Weight Decay 에 대해 알아보자.
Linear Algebra
[AI Math] 1. 선형대수 for Deep Learning
벡터와 행렬에 대해 정리해보자
vector
[AI Math] 1. 선형대수 for Deep Learning
벡터와 행렬에 대해 정리해보자
matrix
[AI Math] 1. 선형대수 for Deep Learning
벡터와 행렬에 대해 정리해보자
back propagation
[AI Math] 3. Deep Learning 학습방법
딥러닝의 학습방법을 정리해보자
Probability
[AI Math] 4. 확률
딥러닝을 위한 확률론을 정리해보자
Statistics
[AI Math] 5. 통계
딥러닝을 위한 통계를 정리해보자
entropy
[AI Math] 9. 정보이론, 엔트로피
정보이론의 관점에서 엔트로피를 정리해보자.
cross entropy
[AI Math] 9. 정보이론, 엔트로피
정보이론의 관점에서 엔트로피를 정리해보자.
batch size
[Optimization] Optimization for DL
Optimization 에 대해 알아보자
cnn
[AI Math] 11. CNN 연산
CNN 연산과정을 정리해보자.
regularization
[Regularization] Regularization
Optimization 중 Regularization 에 대해서 알아보자
optimizer
[Optimizer] Optimizer
대표적인 Optimizer 들에 대해 알아보자
Adam
[Optimizer] Optimizer
대표적인 Optimizer 들에 대해 알아보자
lstm
[RNN] 2. LSTM (Long Short-Term Memory), GRU (Gated Recurrent Unit)
LSTM 과 GRU 에 대해 알아보자
gru
[RNN] 2. LSTM (Long Short-Term Memory), GRU (Gated Recurrent Unit)
LSTM 과 GRU 에 대해 알아보자
HPC
[GPU] Deep Learning for HPC
HPC(High Performance Computing) 를 위해 Pytorch 는 무엇을 적용하고 있는지 알아보자.
Matrix
[Trouble Shooting] WX + b vs. XW + b
왜 머신러닝/딥러닝 교재들과 딥러닝 프레임워크의 표현식이 다를까?
OSI
[Network] 1. OSI 7계층
OSI 7계층에 대해 알아보자.
TCP/IP
[Network] 2. TCP/IP 4계층
TCP/IP 4계층에 대해 알아보자.
Protocol
[Network] 3. 프로토콜(Protocol), 프로토콜 데이터 단위(PDU, Protocol Data Unit)
프로토콜과 PDU에 대해 알아보자.
PDU
[Network] 3. 프로토콜(Protocol), 프로토콜 데이터 단위(PDU, Protocol Data Unit)
프로토콜과 PDU에 대해 알아보자.
IP
[Network] 4. IP (Internet Protocol)
IP에 대해 알아보자.
ARP
[Network] 5. ARP, TCP, UDP
ARP, TCP, UDP에 대해 알아보자.
TCP
[Network] 5. ARP, TCP, UDP
ARP, TCP, UDP에 대해 알아보자.
UDP
[Network] 5. ARP, TCP, UDP
ARP, TCP, UDP에 대해 알아보자.
Computational graph
[Deep Learning, d2l] MLP (Multi Layer Perceptron) (2)
Forward & Back Propagation, Computational Graph 에 대해 알아보자
Back Propagation
[Deep Learning, d2l] MLP (Multi Layer Perceptron) (2)
Forward & Back Propagation, Computational Graph 에 대해 알아보자
weight initialization
[Deep Learning, d2l] MLP (Multi Layer Perceptron) (3)
Weight Initialization 에 대해 알아보자
Dropout
[Deep Learning, d2l] MLP (Multi Layer Perceptron) (5)
Dropout 에 대해 알아보자
greedy
[Algorithm] 1. Greedy Algorithm
그리디 알고리즘에 대해 알아보자
brute force
[Algorithm] 2. Brute Force
완전탐색 알고리즘에 대해 알아보자
DFS
[Algorithm] 3. DFS & BFS
DFS, BFS 알고리즘에 대해 알아보자
BFS
[Algorithm] 3. DFS & BFS
DFS, BFS 알고리즘에 대해 알아보자
priority queue
[Algorithm] 4. Priority Queue
우선순위 큐에 대해 알아보자
Binary Search
[Algorithm] 6. Binary Search
이진탐색 알고리즘에 대해 알아보자
Dynamic Programming
[Algorithm] 7. Dynamic Programming
DP 에 대해 알아보자
Shortest Path
[Algorithm] 8. Shortest Path
최단경로 알고리즘에 대해 알아보자
Dijkstra
[Algorithm] 8. Shortest Path
최단경로 알고리즘에 대해 알아보자
Floyd Warshall
[Algorithm] 8. Shortest Path
최단경로 알고리즘에 대해 알아보자
Bellman Ford
[Algorithm] 8. Shortest Path
최단경로 알고리즘에 대해 알아보자
Disjoint Sets
[Algorithm] 9. Graphs - Union Find
서로소 집합에 대해 알아보자
Union Find
[Algorithm] 9. Graphs - Union Find
서로소 집합에 대해 알아보자
MST
[Algorithm] 10. Graphs - Minimum Spanning Tree(MST)
최소 신장 트리에 대해 알아보자
Kruskal
[Algorithm] 10. Graphs - Minimum Spanning Tree(MST)
최소 신장 트리에 대해 알아보자
Prim
[Algorithm] 10. Graphs - Minimum Spanning Tree(MST)
최소 신장 트리에 대해 알아보자
topological sort
[Algorithm] 11. Graphs - Topological Sort
위상 정렬에 대해 알아보자
prime number
[Algorithm] 12. 기타 알고리즘
소수 판별 알고리즘, 투 포인터, 구간합에 대해 알아보자
two pointer
[Algorithm] 12. 기타 알고리즘
소수 판별 알고리즘, 투 포인터, 구간합에 대해 알아보자
interval sum
[Algorithm] 12. 기타 알고리즘
소수 판별 알고리즘, 투 포인터, 구간합에 대해 알아보자
prefix sum
[Algorithm] 12. 기타 알고리즘
소수 판별 알고리즘, 투 포인터, 구간합에 대해 알아보자
Binary Search Tree
[Algorithm] 13. Tree
트리 알고리즘에 대해 알아보자
Tree Traversal
[Algorithm] 13. Tree
트리 알고리즘에 대해 알아보자
Segment Tree
[Algorithm] 13. Tree
트리 알고리즘에 대해 알아보자
Binary Indexed Tree
[Algorithm] 13. Tree
트리 알고리즘에 대해 알아보자
Trie
[Algorithm] 14. Trie
트라이에 대해 알아보자
LCA
[Algorithm] 15. Lowest Common Ancestor(LCA)
최소 공통 조상 알고리즘에 대해 알아보자
Sliding Window
[Algorithm] 16. Sliding Window
슬라이딩 윈도우 알고리즘에 대해 알아보자
euler path
[Algorithm] 17. Graphs - Euler Path
오일러 경로, 오일러 회로에 대해 알아보자
euler circuit
[Algorithm] 17. Graphs - Euler Path
오일러 경로, 오일러 회로에 대해 알아보자
hamilton path
[Algorithm] 18. Graphs - Hamilton Path
해밀턴 경로, 해밀턴 회로에 대해 알아보자
hamilton circuit
[Algorithm] 18. Graphs - Hamilton Path
해밀턴 경로, 해밀턴 회로에 대해 알아보자
markov chain
[Algorithm] 19. Graphs - Markov Chain
마르코프 체인에 대해 알아보자
data pipeline
[Data Centric] 2. Annotation
Annotation에 대해 알아보자
inductive bias
[CNN] 2. Convolutional Neural Network(CNN)
CNN 에 대해 자세히 알아보자
CAM
[CNN] 4. CNN Visualization
CNN 시각화에 대해 알아보자.
Autograd
[CNN] 4. CNN Visualization
CNN 시각화에 대해 알아보자.
NIN
[CNN] 5. Network In Network
Network In Network(2013) 에 대해 알아보자.
GAP
[CNN] 5. Network In Network
Network In Network(2013) 에 대해 알아보자.
dilated
[CNN] 6. 여러가지 Convolution 연산
다양한 convolution 연산 방법에 대해 알아보자.
transposed
[CNN] 6. 여러가지 Convolution 연산
다양한 convolution 연산 방법에 대해 알아보자.
depthwise
[CNN] 6. 여러가지 Convolution 연산
다양한 convolution 연산 방법에 대해 알아보자.
AlexNet
[Image Classification] 1. AlexNet
AlexNet(2012) 에 대해 알아보자.
ZFNet
[Image Classification] 2. ZFNet
ZFNet(2013) 에 대해 알아보자.
VGGNet
[Image Classification] 3. VGGNet
VGGNet(2014) 에 대해 알아보자.
GoogLeNet
[Image Classification] 4. GoogLeNet
GoogLeNet(2014) 에 대해 알아보자.
ResNet
[Image Classification] 5. ResNet
ResNet(2015) 에 대해 알아보자.
DenseNet
[Image Classification] 6. DenseNet
DenseNet(2017) 에 대해 알아보자.
SENet
[Image Classification] 7. SENet
SENet(2018) 에 대해 알아보자.
EfficientNet
[Image Classification] 8. EfficientNet
EfficientNet(2019) 에 대해 알아보자.
CNN Applications
[CNN] 7. CNN Applications
CNN 을 활용한 다양한 Applications 대해 알아보자
Object Detection
[CNN] 7. CNN Applications
CNN 을 활용한 다양한 Applications 대해 알아보자
Segmentation
[CNN] 7. CNN Applications
CNN 을 활용한 다양한 Applications 대해 알아보자
EAST
[OCR] 2. Text Detection
OCR 에서의 글자 영역 검출에 대해 알아보자
DBNet
[OCR] 3. Advanced Text Detection
좀 더 개선된 OCR 글자 영역 검출에 대해 알아보자
MOST
[OCR] 3. Advanced Text Detection
좀 더 개선된 OCR 글자 영역 검출에 대해 알아보자
TextFuseNet
[OCR] 3. Advanced Text Detection
좀 더 개선된 OCR 글자 영역 검출에 대해 알아보자
ICDAR
[OCR] 4. Data for OCR
OCR task 관련 데이터에 대해 알아보자
metric
[OCR] 5. Metric for OCR
OCR task 관련 성능 평가 지표에 대해 알아보자
DetEval
[OCR] 5. Metric for OCR
OCR task 관련 성능 평가 지표에 대해 알아보자
IoU
[OCR] 5. Metric for OCR
OCR task 관련 성능 평가 지표에 대해 알아보자
TIoU
[OCR] 5. Metric for OCR
OCR task 관련 성능 평가 지표에 대해 알아보자
CLEval
[OCR] 5. Metric for OCR
OCR task 관련 성능 평가 지표에 대해 알아보자
synthetic data
[OCR] 6. Bag of Tricks for OCR
OCR 글자 영역 검출 모델을 학습시킬 때 사용할 수 있는 기술들에 대해 알아보자
data augmentation
[OCR] 6. Bag of Tricks for OCR
OCR 글자 영역 검출 모델을 학습시킬 때 사용할 수 있는 기술들에 대해 알아보자
multi scale training
[OCR] 6. Bag of Tricks for OCR
OCR 글자 영역 검출 모델을 학습시킬 때 사용할 수 있는 기술들에 대해 알아보자
MAP
[Loss] MLE, MAP
MLE, MAP 에 대해 알아보자
MSE
[Loss] MSE, MAE, Huber
회귀 문제에서 사용되는 MSE 와 MAE, Huber 에 대해 알아보자
MAE
[Loss] MSE, MAE, Huber
회귀 문제에서 사용되는 MSE 와 MAE, Huber 에 대해 알아보자
Huber
[Loss] MSE, MAE, Huber
회귀 문제에서 사용되는 MSE 와 MAE, Huber 에 대해 알아보자
Smooth L1
[Loss] MSE, MAE, Huber
회귀 문제에서 사용되는 MSE 와 MAE, Huber 에 대해 알아보자
CE
[Loss] Cross Entropy
분류 문제에서 사용되는 Cross Entropy 에 대해 알아보자
BCE
[Loss] Cross Entropy
분류 문제에서 사용되는 Cross Entropy 에 대해 알아보자
accuracy
[Metric] 1. Accuracy, Precision, Recall, F1-score
가장 자주 볼 수 있는 Metric 에 대해 알아보자
pr_curve
[Metric] 1. Accuracy, Precision, Recall, F1-score
가장 자주 볼 수 있는 Metric 에 대해 알아보자
스위치
[Network] 7. 네트워크
네트워크에 대해 더 자세히 알아보자
NAT
[Network] 7. 네트워크
네트워크에 대해 더 자세히 알아보자
DHCP
[Network] 7. 네트워크
네트워크에 대해 더 자세히 알아보자
DNS
[Network] 7. 네트워크
네트워크에 대해 더 자세히 알아보자
GSLB
[Network] 7. 네트워크
네트워크에 대해 더 자세히 알아보자
router
[Network] 8. 라우터, 로드밸런서
라우터와 로드밸런서에 대해서 알아보자
load balance
[Network] 8. 라우터, 로드밸런서
라우터와 로드밸런서에 대해서 알아보자
port
[Network] 9. 포트, 게이트웨이
포트와 게이트웨이에 대해 알아보자
gateway
[Network] 9. 포트, 게이트웨이
포트와 게이트웨이에 대해 알아보자
kernel
[OS] 1. 운영체제(OS)의 구조
OS 의 구조에 대해 알아보자
hardware
[OS] 2. 하드웨어의 구성
하드웨어에 대해 알아보자
buffer
[OS] 3. 컴퓨터 성능 향상 기술
컴퓨터 성능 향상 기술에 대해 알아보자
spool
[OS] 3. 컴퓨터 성능 향상 기술
컴퓨터 성능 향상 기술에 대해 알아보자
cache
[OS] 3. 컴퓨터 성능 향상 기술
컴퓨터 성능 향상 기술에 대해 알아보자
PCB
[OS] 4. 프로세스
프로세스에 대해 알아보자
cpu
[OS] 6. CPU 스케줄링
CPU 스케줄링에 대해 알아보자
ipc
[OS] 7. 프로세스 간 통신(IPC)
IPC 에 대해 알아보자
deadlock
[OS] 9. 교착 상태(Deadlock)
교착 상태에 대해 알아보자
Sympy
[Trouble Shooting] Sympy
Python 에서 도함수를 쉽게 구할 수 있는 Sympy 라이브러리에 대해 알아보자.
netmask
[Network] 10. 넷마스크, 서브넷, 서브넷마스크, CIDR, 서브네팅
넷마스크, 서브넷, 서브넷마스크, CIDR, 서브네팅에 대해 알아보자
subnet
[Network] 10. 넷마스크, 서브넷, 서브넷마스크, CIDR, 서브네팅
넷마스크, 서브넷, 서브넷마스크, CIDR, 서브네팅에 대해 알아보자
subnet mask
[Network] 10. 넷마스크, 서브넷, 서브넷마스크, CIDR, 서브네팅
넷마스크, 서브넷, 서브넷마스크, CIDR, 서브네팅에 대해 알아보자
CIDR
[Network] 10. 넷마스크, 서브넷, 서브넷마스크, CIDR, 서브네팅
넷마스크, 서브넷, 서브넷마스크, CIDR, 서브네팅에 대해 알아보자
subnetting
[Network] 10. 넷마스크, 서브넷, 서브넷마스크, CIDR, 서브네팅
넷마스크, 서브넷, 서브넷마스크, CIDR, 서브네팅에 대해 알아보자
http
[Network] 11. Web & HTTP
HTTP 에 대해 알아보자
web
[Network] 11. Web & HTTP
HTTP 에 대해 알아보자
ssh
[Network] 12. SSH, VPN
SSH, VPN 에 대해 알아보자
vpn
[Network] 12. SSH, VPN
SSH, VPN 에 대해 알아보자
websocket
[Network] 13. Websocket, WebRTC
Websocket, WebRTC 에 대해 알아보자
webrtc
[Network] 13. Websocket, WebRTC
Websocket, WebRTC 에 대해 알아보자
memory
[OS] 10. 물리 메모리 관리
물리 메모리 관리에 대해 알아보자
cpu bound
[OS] 11. CPU Bound, I/O Bound
CPU Bound, I/O Bound 에 대해 알아보자
I/O Bound
[OS] 11. CPU Bound, I/O Bound
CPU Bound, I/O Bound 에 대해 알아보자
virtual memory
[OS] 12. 가상메모리
가상메모리에 대해 알아보자
garbage collection
[OS] 13. Python GC, GIL, Process, Thread
파이썬의 os 관련 개념에 대해 알아보자
GIL
[OS] 13. Python GC, GIL, Process, Thread
파이썬의 os 관련 개념에 대해 알아보자
transformer
[Transformer] 1. Summary of Transformer
Transformer 에 대해 먼저 간략히 알아보자
roc_curve
[Metric] 2. ROC Curve
ROC Curve 에 대해 알아보자
auc
[Metric] 2. ROC Curve
ROC Curve 에 대해 알아보자
CI/CD
[MLOps] 1. MLOps 란?
구글 클라우드의 ‘MLOps: Continuous delivery and automation pipelines in machine learning’ 를 통해 MLOps 에 대해 알아보자
Matplotlib
[Trouble Shooting] Visualization with Matplotlib & Seaborn
데이터 시각화를 위한 Matplotlib 과 Seaborn 에 대해 알아보자.
Seaborn
[Trouble Shooting] Visualization with Matplotlib & Seaborn
데이터 시각화를 위한 Matplotlib 과 Seaborn 에 대해 알아보자.
local minima
[Optimization] Local Minima
최적화 과정에서 발생하는 Local Minima에 대해 알아보자
Autoregressive Model
[Generative] Generative Model Part 1
Generative Model 에 대해 개괄적으로 알아보자.
MLL
[Generative] Generative Model Part 2
Generative Model 에 대해 개괄적으로 알아보자.
numpy
[Pytorch, Trouble Shooting] Array/Tensor, Indexing & Slicing, Axis, Shape
numpy, torch 의 array/tensor, indexing & slicing, axis, Shape 에 대해 자세히 알아보자.
indexing
[Pytorch, Trouble Shooting] Array/Tensor, Indexing & Slicing, Axis, Shape
numpy, torch 의 array/tensor, indexing & slicing, axis, Shape 에 대해 자세히 알아보자.
axis
[Pytorch, Trouble Shooting] Array/Tensor, Indexing & Slicing, Axis, Shape
numpy, torch 의 array/tensor, indexing & slicing, axis, Shape 에 대해 자세히 알아보자.
shape
[Pytorch, Trouble Shooting] Array/Tensor, Indexing & Slicing, Axis, Shape
numpy, torch 의 array/tensor, indexing & slicing, axis, Shape 에 대해 자세히 알아보자.
ReLU
[Activation] 2. ReLU, Softplus, ReLU6, Leaky ReLU, PReLU, RReLU, Maxout
ReLU, ReLU6, PReLU, Leaky ReLU, Maxout 에 대해 알아보자
Softplus
[Activation] 2. ReLU, Softplus, ReLU6, Leaky ReLU, PReLU, RReLU, Maxout
ReLU, ReLU6, PReLU, Leaky ReLU, Maxout 에 대해 알아보자
ReLU6
[Activation] 2. ReLU, Softplus, ReLU6, Leaky ReLU, PReLU, RReLU, Maxout
ReLU, ReLU6, PReLU, Leaky ReLU, Maxout 에 대해 알아보자
PReLU
[Activation] 2. ReLU, Softplus, ReLU6, Leaky ReLU, PReLU, RReLU, Maxout
ReLU, ReLU6, PReLU, Leaky ReLU, Maxout 에 대해 알아보자
Leaky ReLU
[Activation] 2. ReLU, Softplus, ReLU6, Leaky ReLU, PReLU, RReLU, Maxout
ReLU, ReLU6, PReLU, Leaky ReLU, Maxout 에 대해 알아보자
Maxout
[Activation] 2. ReLU, Softplus, ReLU6, Leaky ReLU, PReLU, RReLU, Maxout
ReLU, ReLU6, PReLU, Leaky ReLU, Maxout 에 대해 알아보자
ELU
[Activation] 3. ELU, SELU, CELU, GELU, GLU
ELU, SELU, CELU, GELU, GLU 에 대해 알아보자
GELU
[Activation] 3. ELU, SELU, CELU, GELU, GLU
ELU, SELU, CELU, GELU, GLU 에 대해 알아보자
CELU
[Activation] 3. ELU, SELU, CELU, GELU, GLU
ELU, SELU, CELU, GELU, GLU 에 대해 알아보자
SELU
[Activation] 3. ELU, SELU, CELU, GELU, GLU
ELU, SELU, CELU, GELU, GLU 에 대해 알아보자
GLU
[Activation] 3. ELU, SELU, CELU, GELU, GLU
ELU, SELU, CELU, GELU, GLU 에 대해 알아보자
Swish
[Activation] 4. Swish, Mish, SwiGLU, GEGLU
Swish, Mish, SwiGLU, GEGLU 에 대해 알아보자
SiLU
[Activation] 4. Swish, Mish, SwiGLU, GEGLU
Swish, Mish, SwiGLU, GEGLU 에 대해 알아보자
SwiGLU
[Activation] 4. Swish, Mish, SwiGLU, GEGLU
Swish, Mish, SwiGLU, GEGLU 에 대해 알아보자
Mish
[Activation] 4. Swish, Mish, SwiGLU, GEGLU
Swish, Mish, SwiGLU, GEGLU 에 대해 알아보자
GEGLU
[Activation] 4. Swish, Mish, SwiGLU, GEGLU
Swish, Mish, SwiGLU, GEGLU 에 대해 알아보자
Loss
[Loss, AI Math] Variational Inference
Variational Inference(VI) 에 대해 알아보자.
DataLoader
[Deep Learning, Pytorch] Custom Dataset 및 DataLoader 제작
torch 에서 제공하는 Dataset 및 DataLoader 를 사용하여 Custom 해보자.
Wasserstein distance
[Loss] Wasserstein distance
손실함수로 사용되는 Wasserstein distance 에 대해 알아보자
taxonomy
[Generative] Auto-regressive Model
Auto-regressive Model 에 대해 알아보자.
AR
[Generative] Auto-regressive Model
Auto-regressive Model 에 대해 알아보자.
loss surface
[Loss] Visualizing the Loss Landscape of Neural Nets
loss surface 를 통해 insight 를 얻는 논문을 리뷰해보자
NLL
[Loss, Trouble Shooting] Cross Entropy Loss vs. NLL Loss
Cross Entropy Loss 와 NLL Loss 를 비교해보자.
MM detection
[Object Detection] 3. MMdetection
Object Detection Library MMdetection 에 대해 알아보자.
Neck
[Object Detection] 4. Neck
Object Detection 모델 구조의 Neck 에 대해 알아보자.
Bias
[Deep Learning, Optimization] Bias 와 Variance
Bias 와 Variance 에 대해 알아보자
Variance
[Deep Learning, Optimization] Bias 와 Variance
Bias 와 Variance 에 대해 알아보자
Pytorch
[Deep Learning] MLP 구현 (3)
공부한 것을 종합하여 MLP 를 Pytorch 로 구현하고 Classification 을 해보자.
supervised learning
[Training] 딥러닝 학습 기법
여러 딥러닝 학습 기법에 대해 알아보자.
unsupervised learning
[Training] 딥러닝 학습 기법
여러 딥러닝 학습 기법에 대해 알아보자.
autograd
[Deep Learning, Pytorch] Autograd
torch 의 자동미분(autograd)에 대해 알아보자.
fine tuning
[Training] Fine Tuning
Fine Tuning 에 대해 알아보자.
crawling
[Trouble Shooting] 유튜브 크롤링 및 Mac 터미널
사이드 프로젝트를 진행하면서 해결한 문제상황에 대해 정리해보자.
linux
[Trouble Shooting] 유튜브 크롤링 및 Mac 터미널
사이드 프로젝트를 진행하면서 해결한 문제상황에 대해 정리해보자.
macos
[Trouble Shooting] 유튜브 크롤링 및 Mac 터미널
사이드 프로젝트를 진행하면서 해결한 문제상황에 대해 정리해보자.
gradient
[AI Math, Optimization] Gradient, Jacobian 및 Hessian
최적화에 사용되는 gradient, jacobian, hessian 에 대해 비교해보자.
jacobian
[AI Math, Optimization] Gradient, Jacobian 및 Hessian
최적화에 사용되는 gradient, jacobian, hessian 에 대해 비교해보자.
hessian
[AI Math, Optimization] Gradient, Jacobian 및 Hessian
최적화에 사용되는 gradient, jacobian, hessian 에 대해 비교해보자.
pandas
[Data Processing, Trouble Shooting] Pandas & Polars
데이터 처리 라이브러리 Pandas 와 Polars 에 대해 정리해보자.
polars
[Data Processing, Trouble Shooting] Pandas & Polars
데이터 처리 라이브러리 Pandas 와 Polars 에 대해 정리해보자.