본문 바로가기

머신 러닝

(3)
딥러닝이 각광받는 진짜 이유 1.3 왜 딥러닝 일까? 왜 지금일까? 1.3.1 하드웨어 NVIDIA, AMD 등의 회사에서 3D 게임을 위해 개발한 GPU가 신경망에 사용되기 시작되었다. 구글은 한발 더 나아가, 딥러닝에 특화된 TPU (Tensor Processing Unit)을 설계했다. 1.3.2 데이터 네트워크를 훈련시키기 위해선 방대한 양의 데이터가 필수적이다. 인터넷과 저장기술이 점차 발달함에 따라 이미지 데이터, 영상 데이터, 자연어 데이터가 많아졌다. 1.3.3 알고리즘 2010년경 딥러닝에 중요한 알고리즘이 개선되어서 그래디언트를 더 잘 전파되게 만들어주었다. - 신경망의 층에 더 잘 맞는 활성화 함수 (activation function) - 층별 사전 훈련(pretraining)을 불필요하게 만든 가중치 초기화(..
딥러닝 이전의 머신 러닝에는 무엇이 있었을까? [케라스 창시자에게 배우는 딥러닝] 1.2 딥러닝 이전 : 머신 러닝의 간략한 역사 1.2.1 확률적 모델링 나이즈 베이즈 (Naive Bayes' theorem) : 컴퓨터 이전부터 사용된 분류 알고리즘. 입력 데이터의 특성이 모두 독립적이라고 가정 로지스틱 회귀 (logistic regression, logreg) : 회귀(regression)이 아닌, 분류(classification) 알고리즘 1.2.2 초창기 신경망 초기 개념은 1950년대. 성공은 1989년 벨 연구소에서 우편 봉토의 우편 번호 코드를 자동으로 읽기 위해 사용한 LeNet 1.2.3 커널 방법 분류 알고리즘의 한 종류를 뜻하며, 그중 서포트 벡터 머신 (Support Vector Machine, SVM)이 가장 유명하다. 분류 ..
[케라스 창시자에게 배우는 딥러닝] 1장 : 딥러닝이란 무엇인가? 1.1 인공 지능과 머신 러닝, 딥러닝 1.1.1 인공 지능 인공지능을 간단히 정의하자면 이렇게 말할 수 있다. "보통의 사람이 수행하는 지능적인 작업을 자동화하기 위한 연구 활동" 1950년대에는 심볼릭 AI라고 불리는 방법으로 접근했다. 예를 들어, 초기 체스 프로그램은 사전에 프로그래머가 승리를 위한 규칙을 하나하나 만들어주었다. 하지만 이런 방법은 이미지 분류, 음성 인식, 언어 번역 같은 더 복잡하고 불분명한 문제를 해결하기 어려웠다. 모든 규칙을 만들고 수정하는 것이 불가능에 가깝기 때문이다. 1.1.2 머신 러닝 머신 러닝은 반대로 접근했다. 전통적인 프로그래밍에서는 규칙(프로그램)과 이 규칙에 따라 처리될 데이터를 입력하면 해답이 출력된다. 반면 머신 러닝에서는 데이터와 이 데이터로부터 기..