Simulated annealing은 확률적 글로벌 검색 최적화 알고리즘입니다. 이는 검색 프로세스의 일부로 임의성을 사용한다는 것을 의미합니다. 따라서 알고리즘은 다른 로컬 검색 알고리즘이 제대로 작동하지 않는 비선형 목적 함수에 적합합니다. 확률적 hill climbing 로컬 검색 알고리즘과 마찬가지로 단일 솔루션을 수정하고 로컬 최적값을 찾을 때까지 검색 공간의 상대적으로 로컬 영역을 검색합니다. hill climbing 알고리즘과 달리 현재 작동하는 솔루션으로 더 나쁜 솔루션을 […]
함수 최적화를 위해서는 검색 공간을 효율적으로 샘플링하고 좋은 솔루션 또는 최상의 솔루션을 찾기 위한 알고리즘 선택이 필요합니다. 선택할 수 있는 알고리즘은 많지만 문제에 대해 실현 가능하거나 가능한 솔루션 유형에 대한 기준을 설정하는 것이 중요합니다. 이것은 무작위 검색 또는 그리드 검색과 같은 Naive 최적화 알고리즘을 사용하여 달성할 수 있습니다. Naive 최적화 알고리즘에 의해 달성된 결과는 보다 정교한 최적화 알고리즘을 […]
stochastic hill climbing은 최적화 알고리즘입니다. 검색 프로세스의 일부로 임의성을 사용합니다. 따라서 알고리즘은 다른 로컬 검색 알고리즘이 제대로 작동하지 않는 비선형 목적 함수에 적합합니다. 또한 로컬 검색 알고리즘으로, 단일 솔루션을 수정하고 로컬 최적값을 찾을 때까지 검색 공간의 상대적으로 로컬 영역을 검색합니다. 이는 단일 모드 최적화 문제 또는 전역 최적화 알고리즘 적용 후 사용하기에 적합하다는 것을 의미합니다. 이 튜토리얼에서는 […]
최적화에는 함수의 최소 또는 최대 출력값을 생성하는 목적 함수에 대한 입력값을 찾는 작업이 포함됩니다. SciPy라는 과학 컴퓨팅을 위한 오픈 소스 Python 라이브러리는 최적화 알고리즘 모음을 제공합니다. 많은 알고리즘이 다른 알고리즘, 특히 scikit-learn 라이브러리의 머신러닝 알고리즘에서 빌딩 블록으로 사용됩니다. 이러한 최적화 알고리즘은 함수를 최적화하기 위해 독립형 방식으로 직접 사용할 수 있습니다. 특히 로컬 검색용 알고리즘과 전역 검색을 […]
머신러닝 알고리즘에는 알고리즘을 특정 데이터 세트에 맞게 조정할 수 있는 하이퍼 매개 변수가 있습니다. 하이퍼파라미터의 영향은 일반적으로 이해될 수 있지만 데이터 세트에 대한 구체적인 영향과 학습 중 상호 작용은 알려지지 않을 수 있습니다. 따라서 머신러닝 프로젝트의 일부로 알고리즘 하이퍼파라미터의 값을 조정하는 것이 중요합니다. Naive Optimization 알고리즘을 사용하여 그리드 검색 및 임의 검색과 같은 하이퍼 매개 변수를 조정하는 […]
경사하강법은 함수의 최소값을 찾기 위해 목적 함수의 음의 기울기를 따르는 최적화 알고리즘입니다. 몇 줄의 코드로 구현할 수 있는 간단하고 효과적인 기술입니다. 또한 더 나은 성능을 가져올 수 있는 많은 확장 및 수정의 기반을 제공합니다. 이 알고리즘은 또한 딥 러닝 신경망을 훈련하는 데 사용되는 확률적 경사하강법이라는 널리 사용되는 확장의 기초를 제공합니다. 이 튜토리얼에서는 경사하강법 최적화를 처음부터 구현하는 […]
Basin hopping은 전역 최적화 알고리즘입니다. 화학 물리학의 문제를 해결하기 위해 개발되었지만 다중 최적을 가진 비선형 목적 함수에 적합한 효과적인 알고리즘입니다. 이 튜토리얼에서는 Basin hopping 전역 최적화 알고리즘을 발견하게 됩니다. 이 자습서를 완료하면 다음을 알 수 있습니다. Basin hopping 최적화는 무작위 섭동을 사용하여 basin을 점프하고 로컬 검색 알고리즘을 사용하여 각 basin을 최적화하는 글로벌 최적화입니다. 파이썬에서 Basin hopping 최적화 알고리즘 API를 […]
최적화에는 함수의 최소 또는 최대 출력값을 생성하는 목적 함수에 대한 입력값을 찾는 작업이 포함됩니다. SciPy라는 과학 컴퓨팅을 위한 오픈 소스 Python 라이브러리는 최적화 알고리즘 모음을 제공합니다. 많은 알고리즘이 다른 알고리즘, 특히 scikit-learn 라이브러리의 알고리즘에서 빌딩 블록으로 사용됩니다. 이러한 최적화 알고리즘은 함수를 최적화하기 위해 독립형 방식으로 직접 사용할 수 있습니다. 특히 로컬 검색용 알고리즘과 전역 검색을 위한 […]
기능 최적화는 연구의 기초 영역이며 기술은 거의 모든 정량적 분야에서 사용됩니다. 중요한 것은 함수 최적화가 거의 모든 머신러닝 알고리즘 및 예측 모델링 프로젝트의 핵심이라는 것입니다. 따라서 기능 최적화가 무엇인지, 현장에서 사용되는 용어 및 기능 최적화 문제를 구성하는 요소를 이해하는 것이 중요합니다. 이 자습서를 완료하면 다음을 알 수 있습니다. 후보 솔루션으로서의 기능 최적화의 세 가지 요소, […]
응용 머신러닝은 주어진 문제에 대한 완벽한 학습 시스템을 설계하는 것이 다루기 어렵기 때문에 어렵습니다. 문제에 가장 적합한 훈련 데이터나 알고리즘은 없으며 최선을 다해 발견해야 합니다.. 머신러닝의 적용은 주어진 프로젝트에 사용할 수 있는 지식과 리소스가 주어지면 입력과 출력을 가장 잘 매핑하기 위한 검색 문제로 생각됩니다. 이 게시물에서는 검색 문제로서의 응용 머신러닝의 개념화를 발견합니다. 이 게시물을 읽은 […]