본문 바로가기

DL/기타

[ISSA 알고리즘 분석]

ISSA : imporve squirrel search algorithm

생체에 영감을 받은 알고리즘을 사용하여 최적화 접근

- 탐색 잡업 : 날다람쥐가 먹이를 찾기 시작할 때 시작됨

                    따뜻한 날씨에 다람쥐는 나무에서 나무로 활공하며 먹이원 탐색

                    => 결과로 다람쥐는 위치를 바꾸며 삼림의 다양한 장소를 탐험함

                    다람쥐는 평소 도토리로 매일 에너지를 공급하며, 추운 계절을 위한 견과류를 찾기 위한 탐색 작업 시작

                    식량 자원을 저장해둔 후 추운 날씨에도 도토리를 공급하여 탐색 여행을 줄임

                    위 루틴을 평생동안 반복함 

SSA는 위 과정에 따라 모델링됨


ISSA 알고리즘의 가정

a) 서식지의 날다람쥐 수 :  n마리, 다람쥐 한 마리 => 한 그루 나무에 존재 : n그루

b) 먹이 탐색은 각 날다람쥐가 독립적으로 수행, 현존 먹이원의 최적 사용 = 다람쥐를 대상으로 한 동적 탐색

c) 최적 먹이 자원인 히코리 나무 1그루, 보통의 먹이 자원인 참나무 3그루, 일반 보통 나무 나머지 존재

d) 히코리 1그루, 참나무 3그루인 영양식원 4그루를 고려함

     마찬가지로 다람쥐 50마리, 46그루는 먹이원 없는 나무

         전체 개체 수의 92%는 일반 나무에 존재

 


ISSA 알고리즘 수행 방법 

1. SSA 실행

각각의 날다람쥐에 대한 초기 위치를 무작위로 설명하며 시작

날다람쥐의 위치는 탐색 공간에서 벡터로 표시됨

날바람쥐가 날아오르며 위치 벡터가 다양해지는 탐색 공간은 1차원, 2차원, 3차원, 4차원 또는 초차원일 수 있음

 

 2. random initialization

삼림지대에 존재하는 FS의 수 = n

i 번째 FS의 위치는 벡터로 결정할 수 있음

각 날다람쥐의 위치 : matrix FS로 표시

여기서 j번째 차원의 i 번째 날다람쥐 = FSij로 표시됨

삼림 지대의 날다람쥐에 대한 초기 위치 할당은 uniform distribution으로 제시

 

3. Assessment of fitness

임의 FS에 대한 위치 적합도는 목적함수의 answer vector로 설정하여 계산됨

여기서 fi는 적합도를 의미함

다람쥐가 조사한 먹이원의 특징은 각각의 위치에 대한 객관적 값을 계산하여 도출해냄

3 종류의 나무가 존재한다는 것을 감안하면 하늘 다람쥐가 생존할 확률이 있음

 

4. arranging, representation, and random choice : 배열, 표현, 임의 선택

각 FS의 위치에 대한 적합도를 지정하고 저장하여 배열 증가 순서대로 정렬됨

최소 적합도 :  히코리 나무에 위치안 FS

그 다음 최소 적합도 : 참나무에 앉아있는 3마리 FS

                                이들은 히코리 방향으로 이동하는 것으로 추정

                                일일 에너지를 다 채운 다람쥐는 랜덤으로 선택되며 이들은 히코리 방향으로 움직임

남아 있는 다람쥐들은 일일 에너지 수요를 얻기 위해 오크 나무로 이동

+ 사냥꾼의 참석은 사냥에 영향을 미친다

위 모델은 포식자가 존재할 가능성을 고려한 위치 업데이트 과정을 이용해 자연 행동 모델링을 수행함

 

5. create new positions

위에서 언급한 바와 같이 FS는 동적 탐색 동안 세 가지 위치에 존재 가능

모든 위치에서 포식자 참석이 고려되지 않기때문에 다람쥐는 숲 전역에서 효율적으로 자신이 좋아하는 먹이 탐색 가능

포식자의 존재는 날다람쥐를 더 신중하게 만들며 이들은 작고 random한 step을 통해 가까운 위치에서 먹이를 찾음

오크난무에 위치, 히코리로 진행 가능
일반 나무에 위치, 참나무로 이동
참나무 이미 사용한 보통나무 다람쥐, 히코리 나무로 이동

 

6. gliding aerodynamic

평형 활공 : FS의 활공 메커니즘

다람쥐의 직선경로 비행 속도, 활공각, 공기밀도, 마찰 항력 계수 등을 고려하여 다람쥐의 활공 경로 길이 변경 & 원하는 위치에 착륙시킴

 

7. 계절별 모니터링 상황 : SMC (Seasonal monitoring circumstances)

날다람쥐의 먹이 활동에 효과적인 요소 중 하나인 계절 변화

온도 감소 => 열손실, 포식자 => 먹이 찾는 비용 증가

위 동작을 알고리즘에 적용하여 더 합리적인 최적화 도출

즉, 제안된 알고리즘이 local optimal에 빠지지 않도록 SMC를 통해 제어함

계절 안정도 계산
계절 상수 계산

겨울이 끝나면, 다가오는 겨울로 인해 삼림 지대 수색을 못했던 날다람쥐들은 무작위로 위치 변경

 

8.random repositioning at the ending of winter

겨울이 끝나 FS의 활동량 증가를 적용하면 알고리즘의 탐험 능력을 높일 수 있음

더 나은 식량 자원을 발견하기 위해 여러 방향으로 이동하는 다람쥐는 히커리 견과류를 탐험하지 못하고 아직 살아있는 다람쥐로 추청됨

L´evy distribution를 사용해 효과적 분포 촉진

 

9.정지 기준

현ㅔ, 최대 epoch 수 = 정지 벤치 마크

SSA는 최근 제시된 접근법 중 하나이지만 다양한 최적화 문제에 대해 적절한 결과를 제공함ㅂ

본 연구에서는 SSA에서 PSO 이점을 활용하기 위해 다람쥐 탐색 알고리즘과 입자 군집 최적화 알고리즘 조합 제공

    PSO 기법

        후보자들은 자신의 지식과 다른 사람들을 활용해 새로운 위치에 적응

        후보자의 객관적 값 수정을 위해 위치와 속도 고려

 

알고리즘의 유효성 검증

: 다양한 테스트 기능을 사용해 결정됨

검증 및 비교 평가에는 최근 제안된 다양한 메타 휴리스틱 알고리즘이 사용됨


전체 알고리즘 수행 방식

1) input data

2) data prerprocessing : Gamma correction + Noise reduction + Data augmentation

    CNN : convolution, pooling, FC layer

3) 전처리된 데이터 : CNN에 공급되어 특징 추출

4) 특징 추출된 결과는 가중치 행렬로 저장 => 해당 가중치 행렬은 다시 벡터로 변환

5) 위 벡터는 초기 모집단을 형성하는데 사용

6) ISSA 를 사용해 벡터를 평가하고 최적화함

7) 반복이 종료되면 최적의 솔류션 결정

 

=> CNN 신경망

학습 단계에서 네트워크 가중치 수정에 사용되는 훈련 기술은 classification에서 높은 정확도를 달성하지 못하는 주요 요인이 될 수 있음

Back Propagation 방법은 신경망 훈련 단계에서 네트워크 가중치 변경에 가장 일반적으로 활용되는 방법

but, 연구자들은 B-P의 단점 : 높은 수렴 시간, local optimal, noise에 민감함으로 인해 다른 훈련 방법 모색

이때 NN에서 B-P의 단점을 극복하기 위한 대안으로 메타 휴리스틱 알고리즘 제안 : ISSA 

메타 휴리스틱 알고리즘 : ISSA

신경망의 글로벌 최적화를 위한 정확한 솔루션 생성

1) 입력 레이어 : 이미지 로드 후 CNN으로 전송

    Oral Cancer 데이터셋에서 가져온 구강암 사진의 다양한 차원 중 125*1225*3차원

    이후 convolution layer에서는 커널(필터)가 사용되어 입력 이미지에 컨볼루션 수행해 feature map 생성

    8개 컨볼루션 레이어,각 레이어 3*3 필터 포함

    convolution layer 후 pooling layer 적용 : feature map의 차원을 줄이기 위해 average pooling function 

    비선형성을 위해 ReLU가 모든 PL, CL 앞에 사용됨

    마지막 레이어는 FCL

    결과 레이어는 이진 분류의 클래스 양을 나타내는 두 차원 벡터 ,  암 / 정상

최고 정확한 출력을 찾을 때까지 네트워크 가중치 업그레이드

    이 부분에서 ISSA 알고리즘 적용 

        메타휴리스틱 알고리즘이 원하는 데이터와 출력 데이터 사이 적절한 적합성을 제공할 때까지 가중치 값 업데이트

        가중치 행렬은 벡터로 변환되어 메타 휴리스틱 알고리즘의 시작 인구로 사용됨

다양한 솔루션을 찾은 후 모든 솔루션은 CNN의 최적 구조를 얻기 위해 목적 함수에 의해 달성됨

메타휴리스틱 알고리즘의 주요 목적은 가중치를 결정 변수로 고려하여 오류 함수를 최소화

기능을 더 높은 효율성으로 최소화하기 위한 Squirrel 검색 알고리즘의 개선된 버전이 사용

 

'DL > 기타' 카테고리의 다른 글

CAM : learning deep feature for discriminative localization  (0) 2024.01.27
WaveNet  (0) 2023.11.22
wavenet  (0) 2023.11.01
YOLO 학습일지 : object detection  (0) 2023.10.27
[안와 CT 미팅] 9/19  (0) 2023.09.19