stochastic hill climbing은 최적화 알고리즘입니다. 검색 프로세스의 일부로 임의성을 사용합니다. 따라서 알고리즘은 다른 로컬 검색 알고리즘이 제대로 작동하지 않는 비선형 목적 함수에 적합합니다. 또한 로컬 검색 알고리즘으로, 단일 솔루션을 수정하고 로컬 최적값을 찾을 때까지 검색 공간의 상대적으로 로컬 영역을 검색합니다. 이는 단일 모드 최적화 문제 또는 전역 최적화 알고리즘 적용 후 사용하기에 적합하다는 것을 의미합니다. 이 튜토리얼에서는 […]
최적화에는 함수의 최소 또는 최대 출력값을 생성하는 목적 함수에 대한 입력값을 찾는 작업이 포함됩니다. SciPy라는 과학 컴퓨팅을 위한 오픈 소스 Python 라이브러리는 최적화 알고리즘 모음을 제공합니다. 많은 알고리즘이 다른 알고리즘, 특히 scikit-learn 라이브러리의 머신러닝 알고리즘에서 빌딩 블록으로 사용됩니다. 이러한 최적화 알고리즘은 함수를 최적화하기 위해 독립형 방식으로 직접 사용할 수 있습니다. 특히 로컬 검색용 알고리즘과 전역 검색을 […]
머신러닝 알고리즘에는 알고리즘을 특정 데이터 세트에 맞게 조정할 수 있는 하이퍼 매개 변수가 있습니다. 하이퍼파라미터의 영향은 일반적으로 이해될 수 있지만 데이터 세트에 대한 구체적인 영향과 학습 중 상호 작용은 알려지지 않을 수 있습니다. 따라서 머신러닝 프로젝트의 일부로 알고리즘 하이퍼파라미터의 값을 조정하는 것이 중요합니다. Naive Optimization 알고리즘을 사용하여 그리드 검색 및 임의 검색과 같은 하이퍼 매개 변수를 조정하는 […]
경사하강법은 함수의 최소값을 찾기 위해 목적 함수의 음의 기울기를 따르는 최적화 알고리즘입니다. 몇 줄의 코드로 구현할 수 있는 간단하고 효과적인 기술입니다. 또한 더 나은 성능을 가져올 수 있는 많은 확장 및 수정의 기반을 제공합니다. 이 알고리즘은 또한 딥 러닝 신경망을 훈련하는 데 사용되는 확률적 경사하강법이라는 널리 사용되는 확장의 기초를 제공합니다. 이 튜토리얼에서는 경사하강법 최적화를 처음부터 구현하는 […]
Basin hopping은 전역 최적화 알고리즘입니다. 화학 물리학의 문제를 해결하기 위해 개발되었지만 다중 최적을 가진 비선형 목적 함수에 적합한 효과적인 알고리즘입니다. 이 튜토리얼에서는 Basin hopping 전역 최적화 알고리즘을 발견하게 됩니다. 이 자습서를 완료하면 다음을 알 수 있습니다. Basin hopping 최적화는 무작위 섭동을 사용하여 basin을 점프하고 로컬 검색 알고리즘을 사용하여 각 basin을 최적화하는 글로벌 최적화입니다. 파이썬에서 Basin hopping 최적화 알고리즘 API를 […]
최적화에는 함수의 최소 또는 최대 출력값을 생성하는 목적 함수에 대한 입력값을 찾는 작업이 포함됩니다. SciPy라는 과학 컴퓨팅을 위한 오픈 소스 Python 라이브러리는 최적화 알고리즘 모음을 제공합니다. 많은 알고리즘이 다른 알고리즘, 특히 scikit-learn 라이브러리의 알고리즘에서 빌딩 블록으로 사용됩니다. 이러한 최적화 알고리즘은 함수를 최적화하기 위해 독립형 방식으로 직접 사용할 수 있습니다. 특히 로컬 검색용 알고리즘과 전역 검색을 위한 […]
기능 최적화는 연구의 기초 영역이며 기술은 거의 모든 정량적 분야에서 사용됩니다. 중요한 것은 함수 최적화가 거의 모든 머신러닝 알고리즘 및 예측 모델링 프로젝트의 핵심이라는 것입니다. 따라서 기능 최적화가 무엇인지, 현장에서 사용되는 용어 및 기능 최적화 문제를 구성하는 요소를 이해하는 것이 중요합니다. 이 자습서를 완료하면 다음을 알 수 있습니다. 후보 솔루션으로서의 기능 최적화의 세 가지 요소, […]
응용 머신러닝은 주어진 문제에 대한 완벽한 학습 시스템을 설계하는 것이 다루기 어렵기 때문에 어렵습니다. 문제에 가장 적합한 훈련 데이터나 알고리즘은 없으며 최선을 다해 발견해야 합니다.. 머신러닝의 적용은 주어진 프로젝트에 사용할 수 있는 지식과 리소스가 주어지면 입력과 출력을 가장 잘 매핑하기 위한 검색 문제로 생각됩니다. 이 게시물에서는 검색 문제로서의 응용 머신러닝의 개념화를 발견합니다. 이 게시물을 읽은 […]
차원 축소를 위한 중요한 머신러닝 방법을 주성분 분석이라고 합니다. 선형 대수와 통계의 간단한 행렬 연산을 사용하여 원래 데이터의 투영을 동일한 수 또는 더 적은 차원으로 계산하는 방법입니다. 이 자습서에서는 차원 축소를 위한 주성분 분석 머신러닝 방법과 Python에서 처음부터 구현하는 방법을 알아봅니다. 이 자습서를 완료하면 다음을 알 수 있습니다. 주성분 분석을 계산하는 절차와 주성분을 선택하는 방법. NumPy에서 […]
행렬 분해라고도 하는 행렬 분해는 구성 요소를 사용하여 주어진 행렬을 설명하는 것을 포함합니다. 아마도 가장 잘 알려져 있고 널리 사용되는 행렬 분해 방법은 특이값 분해 또는 SVD일 것입니다. 모든 행렬에는 SVD가 있으므로 고유 분해와 같은 다른 방법보다 안정적입니다. 따라서 압축, 노이즈 제거 및 데이터 감소를 포함한 다양한 응용 분야에서 자주 사용됩니다. 이 튜토리얼에서는 행렬을 구성 요소로 분해하기 […]