본문 바로가기

A.I./TensorFlow8

Keras 3 문서) Keras FAQ (3) - Modeling-related questions 원문 : Keras FAQ사용자가 자주 하는 질문들의 리스트모델링과 관련된 질문들모델의 중간 레이어의 연산결과를 출력(feature extraction)하는 방법원 질문 : How can I obtain the output of an intermediate layer(feature extraction)?Functional API나 Sequential API를 사용한 경우에, 하나의 레이어가 한번만 호출되어 사용되었다면, 그 레이어의 출력값을 layer.output을 통해 얻을 수 있고 마찬가지로 입력값을 layer.input으로 구할 수 있다.이러한 방식을 통해 특성 추출(feature extraction)을 위한 모델을 빠르게 생성할 수 있다.import kerasfrom keras import lay.. 2024. 9. 27.
Keras 3 문서) Keras FAQ (2) - Training-related questions 원문 : Keras FAQ사용자가 자주 하는 질문들의 리스트훈련 관련 질문들샘플, 배치, 에포크의 의미원 질문 : What do "sample", "batch", and "epoch" mean?다음은 케라스에서 모델 학습을 위한 fit()을 제대로 사용하기 위하여, 알아두어야할 기본적인 정의이다.샘플(Sample)데이터셋의 한 요소를 샘플이라고 한다.컨볼루션 신경망에서는 하나의 이미지가 샘플이 되며, 음성 인식 모델에서는 하나의 오디오 단위(audio snippet)가 샘플이 된다.배치(Batch)N개의 샘플 집합을 배치라고 한다. 한 배치 안의 샘플들은 병렬적으로 독립된 연산이 수행된다.훈련 단계에서는 한 배치의 연산이 끝난 후에 모델의 업데이트가 일어나게 된다.일반적으로 단일한 입력 샘플보다 배치 단.. 2024. 9. 27.
Keras 3 문서) Keras FAQ (1) - General question 원문 : Keras FAQ사용자가 자주 하는 질문들의 리스트일반적 질문들멀티GPU에서 케라스 모델을 학습시키는 방법원 질문 : How can I train a Keras model on multiple GPUs (on a single machine)?참고) 이 질문은 분산된 기기의 GPU를 함께 활용하는 방법(=device parallelism)이 아닌 단일 머신에 있는 멀티GPU를 활용하는 방식에 관한 질문으로 보인다.케라스는 하나의 모델을 다수 GPU에서 실행시키는 두 가지 방법인 data parallelism과 device parallelism을 모두 다룬다.data parallelism을 위해서 케라스는 백엔드 프레임워크인 JAX, TensorFlow, PyTorch의 내장된 데이터 분산 API(.. 2024. 9. 23.
Keras 3 문서) The Keras ecosystem 케라스 생태계원문 : The Keras ecosystem케라스 프로젝트는 신경망을 구성하고 훈련하는 핵심 케라스 API에 국한되지 않는다.머신러닝 워크플로우의 각 단계에 대응되는 관련 프로젝트들을 넓게 포함하고 있다.KerasTunerKerasTuner 문서, keras-tuner 깃헙레포KerasTuner는 하이퍼 파라미터를 탐색하는 어려움을 해결할 수 있도록, 사용하기 편하며 확장성 있는 하이퍼 파라미터 최적화 프레임워크다.(동적 계산 그래프를 생성하는 방법인) Define-by-run 방식으로 쉽게 하이퍼 파라미터 탐색공간을 설정할 수 있고, 가능한 탐색 알고리즘 중의 하나를 이용하여, 모신러닝 모델의 최적화된 하이퍼 파라미터를 찾을 수 있다.Bayesian Optimization 알고리즘(참고-B.. 2024. 9. 22.