본문 바로가기

전체 글62

Deep Learning numpy를 통한 기초이론_2. 학습과정 기초이론_1에서 퍼셉트론, 즉 인공신경망의 기본적인 구조와 비선형 구조를 가질 수 있게하는 다층 퍼셉트론, 그리고 활성화 함수를 소개하였습니다. 사실 활성화함수는 softmax, ReLU, 전 시간에 사용했던 계단 함수 등등 많이 쓰이고 있습니다. 활성화함수는 목적에 따라 여러가지 형태로 선택할 수 있습니다. 하지만 제 블로그에서는 활성화함수와 이제 곧 배우게될 손실함수(loss function)등 간단하게 원리를 설명하는 것이 목적이기에 각 함수들의 소개나 수학식은 설명하지 않겠습니다. 저번 시간에는 인공신경망이 어떻게 컴퓨터의 기초적인 and,or,xor 등을 구현해내는지 보았습니다. 그리고 이들을 구현하였다는 것은 이 게이트들을 섞으면 컴퓨터의 모든 처리를 구현할 수 있다는 것도 알고 있습니다. (.. 2020. 1. 5.
Deep Learning numpy를 통한 기초이론_1. 신경망의 작동. Deep Learning이란 사람의 신경망을 흉내내서 만들어낸 인공지능의 한 분야이다. 딥러닝이 주목받는 이유라하면, 최적의 알고리즘을 스스로 학습하여 찾아 갈 수 있다는 점에 있다. 사람의 신경망은 각 신경세포가 자극을 받으면 역치가 넘어가는 자극들을 다음 세포들에 넘기며 생각과 결정을 이루게 된다. 그리고 사람은 여러 자극을 받고 결과를 느끼며 스스로 배우고 타협점을 찾아간다. 이 과정을 컴퓨터에 접목한다면 어떻게 될까, 그것이 Deep Learning이다. 간단한 이론의 출발점은 1) 입력을 받고 인공신경망을 걸쳐 나온 결과값과 정답의 차이를 비교한다. 2) 차이가 클수록 인공신경망 안의 매개변수들을 차이가 작아지는 방향으로 조금씩 조정한다. 1) 과 2) 과정의 반복으로 점점 인공신경망은 정답에 .. 2020. 1. 5.
Ubuntu (우분투) cuda 9.0 설치, cudNN 설치 , tensorflow-gpu 설치 cuda는 nvidia 그래픽카드에 구동할 프로그램을 개발하고, 구동시킬 수 있는 툴입니다. 요즘 많은 인공지능 라이브러리들이 cuda를 통해 개발하였기에 사용하기 위해서는 설치가 필수입니다. 사용하려는 라이브러리마다 필요한 cuda의 버전이 제각각이므로 꼭!! 확인후에 걸맞는 cuda-version을 설치해야합니다. Pytorch를 그래픽카드 버전으로 설치하고 싶었으나.. 제 그래픽카드가 설치할 수 있는 driver-version은 390이 최대고, 이 드라이버는 cuda 9.1을 최대로 설치 할 수 있습니다. tensorflow의 경우도 1.13 버전 이후로는 cuda 10.0으로 지원하므로 tensorflow 1.12 이하 버전을 gpu버전으로 설치하기로하고, cuda 9.0을 설치하기로 했습니다... 2020. 1. 3.
Ubuntu(우분투) nvidia 드라이버 설치, 화면 부팅 안되는 현상 ubuntu에서 nvidia driver를 설치하는 많은 이유는 개발환경에 필요하기 때문일텐데요 특히 요즘에는 많은 인공지능 패키지, 오픈소스를 사용하기위해 cuda가 필요합니다. cuda는 nvidia 그래픽카드에서 돌아갈 수 있는 프로그램들을 개발하고 구동할 수 있게 해주는 tool입니다. 많은 인공지능 분야에서 성능을 높히기 위해 그래픽카드,tpu등의 하드웨어 보조를 받고있고 tensorflow, pytorch와 같은 오픈소스들도 cuda를 사용하여 만들곤 합니다. 하지만 각 패키지, 오픈소스들은 다른 버전의 cuda로 만들어졌기 때문에 cuda-version에 종속적인 경우가 대부분입니다. 또한 nvidia 그래픽카드에 따라 설치가능한 드라이버 버전의 상한이 존재하고 드라이브 버전에 따라 cuda.. 2020. 1. 3.