하이브리드 지능시스템

목차

하이브리드 지능 시스템

    신경망 전문가 시스템

    뉴로-퍼지 시스템

    진화 신경망

    퍼지 진화 시스템

 

하이브리드 지능 시스템

hybrid intelligent system

지능 기술을 적어도 두가지 이상 결합한 시스템

-> 현실의 문제 해결 시 다양한 경로로 지식을 습득할 뿐 아니라 서로 다른 지능 기술을 결행하야한다

     확률 추론, 퍼지 논리, 인공 신경망, 진화 연산을 포함해 다양한 기능 기술 등의 결합 필요성 제기

 

의의

확률 추론, 퍼지 논리, 인공 신경망, 진화 연산의 결합은 불확실하고 부정확한 환경에서 추론과 학습이 가능한 하이브리드 지능 시스템을 구축하는 새로운 방법인 소프트 컴퓨팅의 핵심이라고 할 수 있음

 

 

확률 추론 - 불확실성

퍼지 논리 - 부정확성

인공 신경망 - 유연한 학습

진화 연산 - 최적화

좋은 하이브리드 시스템은 각 기법의 장점만 담음

 

 

 

 

 

 

 

신경망 전문가 시스템

전문가 + 인공 신경망 시스템의 결합 : 인간의 지능을 모방하며 궁극적으로 지능 기계를 창조하는 것이 목표

 

규칙 기반의 전문가 시스템의 특성

논리 추론과 결정 트리를 사용해 인간의 추론 모델링

사용자는 부분, 전체적으로 이해할 수 있다

하지만 한 번 저장한 지식은 수정이 불가하며 경험을 바탕으로 학습하긴 하나 새로운 환경에 적응하지는 못한다.

인간만이 규칙을 더하거나 바꾸고 제거하여 지식을 수정할 수 있음

 

인공 신경망의 특성

병렬 데이터 처리하여 인간의 뇌를 모델링하는 데 집중한다

하지만 사용자 입장에서는 블랙박스이다. 

지식은 학습 단계에서 훈련 데이터가 신경망에 들어올 때 습득한 것으로 전문가 시스템과 달리 인공 신경망은 인간이 개입하지 않아도 학습을 수행한다. 즉 유연하게 새로운 환경에 적응할 수 있다.

 

=> 전문가 시스템은 학습을 못하는 대신 결론에 도달하는 과정을 설명할 수 있으며 신경망은 학습은 가능하지만 블랙박스이므로 둘을 결합하여 해결할 수 있다

 

 

 

추론 엔진으로 시스템의 정보 흐름을 제어하며 신경망 기반 지식에 대한 추론 원리를 가르침

=> 신경망 추론 엔진은 근사추론을 보장함

 

근사 추론

신경망 전문가 시스템은 오차 혹은 불완전한 데이터를 다룰 수 있음

규칙 기반은 데이터와 규칙의 정확한 일치 필요하지만 추론 엔진은 오차, 불완전 데이터 처리가 불가능.

따라서 신경망을 기반 지식으로 사용해 정확히 데이터와 학습이 일치하지 않아도, 오차, 불완전 데이터를 다룰 수 있음

 

규칙 추출 특성

신경망 뉴런은 링크로 연결, 링크마다 각각의 가중치가 붙어있다

신경망의 가중치는 뉴런의 입력 강도나 중요도를 결정한다

 

 

 

 

한계

여전히 불논리에서 벗어나지 못한다. 더불어 연속된 입력 변수에 대해서는 규칙 개수가 무한하게 늘어나 본 시스템의 응용 분야가 제한된다

이러한 한계를 벗어나기 위해서는 퍼지 논리를 사용해야한다. : 연속값, 소속도 => 뉴로 - 퍼지

 

 

 

 

뉴로-퍼지 시스템

인공 신경망의 병렬 연산과 학습능력 + 퍼지 시스템의 인간적 지식 표현 및 설명 능력 결합

 

인공 신경망의 특징

가공되지 않은 데이터를 다룰 때 잘 작동하는 저수준 연산 구조로 학습할 수 있지만 블랙박스이다

 

퍼지 시스템의 특징

특정 분야의 전문가에게 습득한 언어 정보를 사용하는 고수준 추론을 다룸

학습 능력이 없어 스스로 새로운 환경에 적응할 수는 없다

 

뉴로 - 퍼지 시스템

다층형 인공 신경망과 비슷한 구조로 일반적 뉴로 퍼지의 경우 입력층 1개, 출력층 1개, 은닉층 3개로 구성된다

입력, 은닉, 출력층을 활용하여 소속 함수와 퍼지 규칙을 나타낸다

크리스프 입력 -> 입력 소속 함수 -> 퍼지 규칙 -> 출력 소속 함수 -> 역퍼지화

1층 입력층 : 각 외부 크리스프 신호를 다음 층으로 전달함

 

2층 입력 소속층, 즉 퍼지화 층 : 크리스프 입력을 받아 이 입력이 퍼지 집합에 어느 정도로 속하는 지 결정

3층 퍼지 규칙층 : 각각 퍼지 규칙 하나에 대응한다. 

--- 3층 4층 사이 가중치의 경우, 이에 대응하는 퍼지 규칙의 정규화 신뢰도를 나타내며 이를 확신도라고 한다---

4층 출력 소속층 : 퍼지 규칙 결론부에서 사용한 퍼지집합을 나타낸다

5층 역퍼지화층 : 뉴로 퍼지 시스템의 출력 하나를 나타낸다. 출력이 크리스프 출력이므로 결합된 출력 퍼지 집합을 반드시 역퍼지화해야한다

 

 

 

 

 

 

진화 신경망

유전 알고리즘 + 인공 신경망 결합

 

인공 신경망

-> 역전파 학습 알고리즘은 유연하고 수학적으로 다루기 쉬움, 하지만 최적해를 보장하진 못함

-> 현실에 있어서 역전파 알고리즘은 최적이 아닌 가중치 집합으로 수렴하는 경향이 많음

더불어 이러한 인공신경망의 최적 위상을 선택하는 것은 보통 휴리스틱을 통해 이루어진다

 

유전 알고리즘

가중치 최적화와 위상 선택을 모두 도울 수 있음

 

진화 가중치 최적화 기법

: 신경망의 구조가 고정되어 있고, 진화학습을 통해 정해진 신경망의 가중치를 최적화함

 

 

1) 유전 알고리즘 사용을 위해 문제 영역을 염색체로 나타내야함

-> 신경망의 초기 가중치는 [-1,1] 범위에서 임의로 선택하며 이러한 가중치 집합을 정사각행렬로 표현할 수 있다. 

 

 

 

 

-> 여기서 유전자 하나는 신경망 내 가중치 링크 하나에 대응하며 각 행은 한 뉴런에 들어가는 모든 가중치 링크 그룹을 나타낸다.

이는 신경망의 기능적 빌딩 블록으로 유전 인자를 한 세대에서 다음 세대로 넘겨줄 수 있도록 함께 있어야한다. 즉, 유전자 각각을 가중치 하나와 연결하는 것이 아니라 뉴런에 들어오는 모든 가중치 그룹에 연관시키는 것

 

2) 염색체 성능을 평가할 적합도 함수를 정의 -> ex) 오차 제곱합의 역수

훈련 집합을 염색체에 입력해 오차 제곱합을 계산한다. 이에 대한 합계가 작을 수록 염색체의 적합도가 높은 것!

즉, 유전 알고리즘은 오차 제곱합을 최소화하는 가중치 집합을 찾는 것이다

 

3) 해집단 크기, 교차율, 변이율, 세대 수를 정함

4) 유전 연산:교차와 변이 실시

 

 

 

유전 알고리즘을 이용한 신경망 위상 진화

 

신경망 구조를 염색체로 인코딩

-> 신경망 구조는 인수가 많아질 수록 계산 cost가 늘어남

이 경우에는 연결되었다면 1, 연결 안되어있다면 0로 행렬을 ㅁ나든 후 이를 염색체로 변환하려면 이 행렬의 각 행들을 함께 묶어주면 됨

 

 

 

1) 해 집단 크기, 교차율, 변이율, 훈련 에폭 수를 정한다

2) 적합도 함수를 오차 제곱합의 역수로 정의

3) 초기 해집단 임의로 생성

4) 개별 염색체를 인공 신경망으로 디코딩

5) 해 집단의 모든 개체에 대해 4를 반복

6) 적합도에 비례하는 확률로 짝지을 염색체 한 쌍을 고름

7) 유전 연산자, 교차 변이를 적용해 자식 염색체 한 쌍을 만듦

8) 만들어진 자식 염색체를 새 해집단에 넣음

9) 새로운 해집단을 초기 해집단 크기와 동일해질 때까지 6 반복

10) 정해진 세대수가 될 때까지 반복

 

 

진화 신경망의 장점 

- 위상 선택 및 전달 함수 최적화, 적절합 입력 변수 선택에 사용됨 => 위상 구조 최적화

- 복잡, 미지의 함수관계의 입력 변수를 대량으로 받아 임계 입력 집합을 진화시킴 => 가중치 최적화

 

 

 

 

퍼지 진화 시스템

진화 연산은 퍼지 시스템을 설계할 때, 특히 퍼지 규칙을 생성하고 퍼지 집합의 소속 함수를 조정하는 데 사용됨

 

퍼지 진화 시스템의 ex) 

유전 알고리즘을 적용하려면 유효한 해로 이루어진 해 집단이 필요함

이때 해 집단이 IF-THEN 퍼지 규칙 집합