본문 바로가기

프로그램72

SKT FLY AI : 25일차 Transformer에 대한 내용.chatGPT에 대한 내용. 을 알려주셨다.끝! 2023. 7. 28.
SKT FLY AI : 24일차 성능 최적화 데이터를 사용한 성능 최적화 최대한 많은 데이터 수집하기 데이터 생성하기 (어그멘테이션 말하는듯) 데이터 범위 조정하기 : 활성화 함수로 시그보이드를 사용한다면 데이터셋 범위를 01로 갖도록 하고, tanh를 사용한다면 데이터셋 범위를 -11의 값을 갖도록 조정한다. (정규화, 규제화, 표준화도 성능 향상에 도움이 된다) 알고리즘을 이용한 성능 최적화 용도마다 성능이 가장 좋은 모델을 선택하여 사용한다. 알고리즘 튜닝을 위한 성능 최적화 모델을 하나 선택해서 훈련시키려면 다양한 하이퍼파라미터를 변경하면서 훈련시키고 최적의 성능을 도출해야 한다. 이때 선택할 수 있는 하이퍼파라미터로는 다음 항목들이 있다. 진단 : 성능 향상이 어느 순간 멈췄다면 원인을 분석할 필요가 있다. 훈련 성능이 검증보.. 2023. 7. 27.
SKT FLY AI : 22일차 이미지 분류를 위한 신경망 이미지 분류 : 이미지에 나타나는 객체는 무조건 하나여야 한다. (이러한 가정을 하고 분류를 한다) LeNet-5 합성곱 신경망이라는 개념을 최초로 개발 한 구조. import torch import torchvision from torch.utils.data import DataLoader, Dataset from torchvision import transforms from torch.autograd import Variable from torch import optim import torch.nn as nn import torch.nn.functional as F import os import cv2 from PIL import Image from tqdm import t.. 2023. 7. 25.
SKT FLY AI : 21일차 - 딥러닝 파이토치 시작 오늘부터 5주차 수업이 시작되었다. 딥러닝 파이토치 책으로 파이토치를 배우는 것 같다! Setting 일단 anaconda를 linux에 설치했다 (wsl) nvidia에서 window용 드라이버를 설치했다. 용어 정리 MLP (멀티 레이어 퍼셉트론) 신경망의 층을 많이 쌓을 수 록 XOR같이 다양한 입력층, 은닉층, 출력층, 가중치 바이어스 : 가중합에 더해주는 상수로, 하나의 뉴런에서 활성화 함수를 거쳐 최종적으로 출력되는 값을 조절하는 역할을 한다. 가중합, 전달 함수 : 가중치와 신호의 곱을 합한 것 활성화 함수 : 신호를 입력받아 이를 적절히 처리하여 출력해 주는 함수 손실 함수 : 가중치 학습을 위해 출력 함수의 결과와 실제 값 간의 오차를 측정하는 함수 학습 중에 학습이 얼마나 잘 되고 있는.. 2023. 7. 24.

티스토리툴바