Podstawowe informacje
Narzędzia do uczenia maszynowego
Formaty reguł
Algorytmy generowania reguł
Zadanie praktyczne
Literatura i materiały pomocnicze:
1.20M
Category: informaticsinformatics

Sztuczna inteligencja. (Laboratorium 1)

1.

Sztuczna Inteligencja
(laboratorium 1)
2015/16
Wyższa Szkoła Informatyki i Zarządzania w Rzeszowie
Katedra Systemów Ekspertowych i Sztucznej Inteligencji

2. Podstawowe informacje

dr inż. Mariusz Wrzesień
tel: 17-8661-179 lub 17-8661-191
CEM KM103/113 lub Rzeszów RA24b/114
[email protected]

3.

Treści kształcenia realizowane w ramach laboratorium:
• Wyznaczanie reguł decyzyjnych, klasyfikacja
obiektów. (lab. 1, 2, 6)
• Generowanie drzew decyzyjnych, klasyfikacja
obiektów. (lab. 3)
• Analiza skupień w oparciu o metody minimalnoodległościowe. (lab. 4 i 5)
• Budowa systemów ekspertowych. (BB)
• Przeszukiwania przestrzeni stanów z użyciem
różnych strategii. (BB)

4.

Warunki zaliczenia laboratorium
Po zaliczeniu przedmiotu student w zakresie umiejętności potrafi
P_U01
zastosować różne strategie do przeszukiwania przestrzeni rozwiązań.
P_U02
zastosować metody i narzędzia analizy skupień w zbiorach danych.
P_U03
zastosować odpowiednio dobrane metody do rozpoznawania i klasyfikacji
obiektów.
P_U04
zastosować wybrane techniki sztucznej inteligencji do analizy i rozwiązania
problemu.
P_U05
interpretować uzyskane wyniki eksperymentów w dziedzinie sztucznej
inteligencji wyciągając wnioski badawcze

5.

Wprowadzenie
Reguły decyzyjne są jednym z najpopularniejszych
formalizmów reprezentacji wiedzy, stosowanym w
uczeniu maszynowym oraz odkrywaniu wiedzy z
danych.
Reguła decyzji składa się z części warunkowej oraz
części decyzyjnej, w której podaje decyzję właściwą
dla sytuacji, gdy spełnione są określone warunki.
jeżeli są spełnione określone warunki to decyzja

6.

Ogólna postać reguły
Jeżeli P to Q
If P Then Q
P – część warunkowa (przesłanka)
Q – część decyzyjna (konkluzja)
Część warunkowa P może być koniunkcją warunków elementarnych w, i jest wtedy zapisywana w
postaci: P = w1 ^w2 …^wk, gdzie k jest liczbą użytych warunków. P nazywane jest także złożeniem
warunków lub kompleksem.

7.

Przykładowe notacje reguł, słowa kluczowe
Regula 1
JEZELI Stan_nieba JEST Słońce
ORAZ Wilgotność JEST Duża
TO Decyzja JEST Nie_Grać
Rule 1
IF Stan_nieba IS Słońce
AND Wilgotność IS Duża
THEN Decyzja IS Nie_Grać

8.

Przykładowe notacje reguł (nazewnictwo)
Regula 1
JESLI Stan_nieba = Słońce
TAKZE Wilgotność = Duża
WTEDY Decyzja = Nie_Grać
Regula 1
JEZELI (Stan_nieba = Słońce)^(Wilgotność =
Duża)TO (Decyzja = Nie_Grać)

9.

SŁOWA KLUCZOWE
OPERATORY
RELACJI
IF
AND
THEN
=,≠
JEZELI
I
TO
<,>
JESLI
ORAZ
WTEDY
≤,≥
GDY
TAKZE
KIEDY
JEST
SA

10.

Rodzaje reguł
Wyróżnia się trzy podstawowe rodzaje reguł
wygenerowanych z danych:
- klasyfikacyjne
- charakterystyczne
- asocjacyjne
[J.M. Żytkow]

11.

Reguły klasyfikacyjne (decyzyjne)
Reguły klasyfikacyjne są indukowane na podstawie uogólnienia zbioru przykładów uczących opisanych za pomocą zbioru atrybutów.
Reguły wygenerowane dla każdej klasy powinny być
spełnione przez przykłady należące do tej klasy (tzw.
przykłady pozytywne).
Reguły nie powinny być spełnione przez żaden przykład z innych klas lub powinny być spełnione tylko
przez niewiele z nich (tzw. przykłady negatywne).

12.

Lp.
Stan_nieba
1
Słońce
2
Słońce
3
Słońce
4
Słońce
5
Słońce
6 Pochmurno
Temperatura
7 Pochmurnood
Temperatura
8 Pochmurnood
Temperatura
9 Pochmurno
10
Deszcz
11
Deszcz
12
Deszcz
13
Deszcz
14
Deszcz
Temp. [0C]
24
27
29
22
21
22
22oC28
25oC18
27
22
18
24
21
20
do
do
Wilgotność
Normalna
Duża
Duża
Duża
Normalna
21oDuża
C

24oDuża
C

Normalna –
Normalna
Duża
Normalna
Normalna
Duża
Normalna
Wiatr
Decyzja
Tak
Grać
Tak
Nie_Grać
Nie
Nie_Grać
Nie
Nie_Grać
Nie
Grać
Tak
Grać
Zimna
Nie
Grać
Umiarkowana
Tak
Grać
Ciepła
Nie
Grać
Tak
Nie_Grać
Tak
Nie_Grać
Nie
Grać
Nie
Grać
Nie
Grać

13.

Lp.
1
2
3
4
5
6
7
8
9
10
11
12
13
14
Stan_nieba
Temp.
Wilgotność
Wiatr
Decyzja
Słońce
Słońce
Słońce
Słońce
Słońce
Pochmurno
Pochmurno
Pochmurno
Pochmurno
Deszcz
Deszcz
Deszcz
Deszcz
Deszcz
Umiarkowana
Ciepła
Ciepła
Umiarkowana
Zimna
Umiarkowana
Ciepła
Zimna
Ciepła
Umiarkowana
Zimna
Umiarkowana
Zimna
Zimna
Normalna
Duża
Duża
Duża
Normalna
Duża
Duża
Normalna
Normalna
Duża
Normalna
Normalna
Duża
Normalna
Tak
Tak
Nie
Nie
Nie
Tak
Nie
Tak
Nie
Tak
Tak
Nie
Nie
Nie
Grać
Nie_Grać
Nie_Grać
Nie_Grać
Grać
Grać
Grać
Grać
Grać
Nie_Grać
Nie_Grać
Grać
Grać
Grać

14.

Lp.
1
2
3
4
5
6
7
8
9
10
11
12
13
14
Stan_nieba
Temp.
Wilgotność
Wiatr
Decyzja
Słońce
Słońce
Słońce
Słońce
Słońce
Pochmurno
Pochmurno
Pochmurno
Pochmurno
Deszcz
Deszcz
Deszcz
Deszcz
Deszcz
Umiarkowana
Ciepła
Ciepła
Umiarkowana
Zimna
Umiarkowana
Ciepła
Zimna
Ciepła
Umiarkowana
Zimna
Umiarkowana
Zimna
Zimna
Normalna
Duża
Duża
Duża
Normalna
Duża
Duża
Normalna
Normalna
Duża
Normalna
Normalna
Duża
Normalna
Tak
Tak
Nie
Nie
Nie
Tak
Nie
Tak
Nie
Tak
Tak
Nie
Nie
Nie
Grać
Nie_Grać
Nie_Grać
Nie_Grać
Grać
Grać
Grać
Grać
Grać
Nie_Grać
Nie_Grać
Grać
Grać
Grać
Atrybuty nominalne

15.

Lp.
1
2
3
4
5
6
7
8
9
10
11
12
13
14
Stan_nieba
Temp.
Wilgotność
Wiatr
Decyzja
Słońce
Słońce
Słońce
Słońce
Słońce
Pochmurno
Pochmurno
Pochmurno
Pochmurno
Deszcz
Deszcz
Deszcz
Deszcz
Deszcz
Umiarkowana
Ciepła
Ciepła
Umiarkowana
Zimna
Umiarkowana
Ciepła
Zimna
Ciepła
Umiarkowana
Zimna
Umiarkowana
Zimna
Zimna
Normalna
Duża
Duża
Duża
Normalna
Duża
Duża
Normalna
Normalna
Duża
Normalna
Normalna
Duża
Normalna
Tak
Tak
Nie
Nie
Nie
Tak
Nie
Tak
Nie
Tak
Tak
Nie
Nie
Nie
Grać
Nie_Grać
Nie_Grać
Nie_Grać
Grać
Grać
Grać
Grać
Grać
Nie_Grać
Nie_Grać
Grać
Grać
Grać
Atrybuty porządkowe

16.

Lp.
1
2
3
4
5
6
7
8
9
10
11
12
13
14
Stan_nieba
Temp.
Wilgotność
Wiatr
Decyzja
Słońce
Słońce
Słońce
Słońce
Słońce
Pochmurno
Pochmurno
Pochmurno
Pochmurno
Deszcz
Deszcz
Deszcz
Deszcz
Deszcz
Umiarkowana
Ciepła
Ciepła
Umiarkowana
Zimna
Umiarkowana
Ciepła
Zimna
Ciepła
Umiarkowana
Zimna
Umiarkowana
Zimna
Zimna
Normalna
Duża
Duża
Duża
Normalna
Duża
Duża
Normalna
Normalna
Duża
Normalna
Normalna
Duża
Normalna
Tak
Tak
Nie
Nie
Nie
Tak
Nie
Tak
Nie
Tak
Tak
Nie
Nie
Nie
Grać
Nie_Grać
Nie_Grać
Nie_Grać
Grać
Grać
Grać
Grać
Grać
Nie_Grać
Nie_Grać
Grać
Grać
Grać
Klasa Grać

17.

Lp.
1
2
3
4
5
6
7
8
9
10
11
12
13
14
Stan_nieba
Temp.
Wilgotność
Wiatr
Decyzja
Słońce
Słońce
Słońce
Słońce
Słońce
Pochmurno
Pochmurno
Pochmurno
Pochmurno
Deszcz
Deszcz
Deszcz
Deszcz
Deszcz
Umiarkowana
Ciepła
Ciepła
Umiarkowana
Zimna
Umiarkowana
Ciepła
Zimna
Ciepła
Umiarkowana
Zimna
Umiarkowana
Zimna
Zimna
Normalna
Duża
Duża
Duża
Normalna
Duża
Duża
Normalna
Normalna
Duża
Normalna
Normalna
Duża
Normalna
Tak
Tak
Nie
Nie
Nie
Tak
Nie
Tak
Nie
Tak
Tak
Nie
Nie
Nie
Grać
Nie_Grać
Nie_Grać
Nie_Grać
Grać
Grać
Grać
Grać
Grać
Nie_Grać
Nie_Grać
Grać
Grać
Grać
Klasa Nie_Grać

18.

• Konstruowanie systemu klasyfikującego
Przykłady
uczące
System
uczący się
Klasyfikator
Uczenie się klasyfikatora ze zbioru uczącego
Nowe
obiekty
Klasyfikator
Klasyfikowanie nowych obiektów
Decyzja
klasyfikacyjna

19. Narzędzia do uczenia maszynowego

Narzędzie do przygotowania zbiorów:
ScoreSEEKER
Narzędzia do generowania reguł:
LERS (Learning from Examples based on Rough
Sets)
GTS (General-To-Specific rekurencyjny algorytm
pokrycia)
DeTreex (moduł z pakietu SPHINX)

20. Formaty reguł

GTS (General-To-Specific)
IF Stan_nieba IS Słońce AND Wilgotność IS Duża
THEN Decyzja IS Grać
LERS (Learning from Examples based on Rough Sets)
(Stan_nieba , Słońce ) & (Wilgotność , Duża ) →
(Decyzja , Grać)
DeTreex (SPHINX)
Decyzja = „Grać” if
Stan_nieba = „Słońce”,
Wilgotność = „Duża”;

21. Algorytmy generowania reguł


GTS
LEM2
CN2
Rodzina algorytmów AQ
INLEN
MODLEM

22.

Lp
Inflacja
Deficyt_budż
Rezerwy_dew
Stopy_proc
1
spadek
bez_zmian
wzrost
obniżka
2
spadek
wzrost
spadek
obniżka
3
bez_zmian
wzrost
wzrost
podwyżka
4
bez_zmian
wzrost
spadek
obniżka
5
bez_zmian
bez_zmian
spadek
obniżka
6
bez_zmian
wzrost
bez_zmian
podwyżka
7
spadek
wzrost
wzrost
obniżka
8
bez_zmian
bez_zmian
wzrost
podwyżka

23.

Inflacja spadek
Stopy_proc
obniżka
G = (E
+E
)
/
E
p
b
3/8 + sqrt(3/3) = 1,3750
A = EStopy_proc
)
Deficyt_budż bez_zmian
p / (Ep+Ebobniżka
Regula 1
3/8 + sqrt(2/3) = 1,1915
G+sqrt(A)=H
JEZELI
Inflacja spadek
Rezerwy_dew
Inflacja spadekwzrost
Stopy_proc
Stopy_proc obniżka
obniżka
TO Stopy_proc obniżka
4/8
3/8 + sqrt(2/4)
sqrt(3/3) = 1,2071
1,3750
Lp
Inflacja
Deficyt_budż
Rezerwy_dew
Stopy_proc
1
spadek
bez_zmian
wzrost
obniżka
2
spadek
wzrost
spadek
obniżka
3
bez_zmian
wzrost
wzrost
podwyżka
4
bez_zmian
wzrost
spadek
obniżka
5
bez_zmian
bez_zmian
spadek
obniżka
6
bez_zmian
wzrost
bez_zmian
Podwyżka
7
Spadek
Wzrost
Wzrost
obniżka
8
bez_zmian
bez_zmian
wzrost
podwyżka

24.

Regula 1
JEZELI Inflacja
TO Stopy_proc
spadek
obniżka
{1,2,7}
Lp
Inflacja
Deficyt_budż
Rezerwy_dew
Stopy_proc
1
spadek
bez_zmian
wzrost
obniżka
2
spadek
wzrost
spadek
obniżka
3
bez_zmian
wzrost
wzrost
podwyżka
4
bez_zmian
wzrost
spadek
obniżka
5
bez_zmian
bez_zmian
spadek
obniżka
6
bez_zmian
wzrost
bez_zmian
podwyżka
7
spadek
wzrost
wzrost
obniżka
8
bez_zmian
bez_zmian
wzrost
podwyżka

25.

Inflacja bez_zmian
Stopy_proc podwyżka
5/8 + sqrt(3/5) = 1,3996
Deficyt_budż wzrost
Stopy_proc podwyżka
5/8 + sqrt(2/5) = 1,2575
Rezerwy_dew wzrost
Stopy_proc podwyżka
Inflacja
Deficyt_budż
Rezerwy_dew
Lp
4/8 + sqrt(2/4)Stopy_proc
= 1,2071
1
spadek
bez_zmian
wzrost
obniżka
2
spadek
wzrost
spadek
obniżka
3
bez_zmian
wzrost
wzrost
podwyżka
z powyższych
nie pozwala
na
4 Żaden
bez_zmian
wzrostwarunków
spadek
obniżka
5
bez_zmian
6
bez_zmian
7
spadek
8
bez_zmian
utworzenie reguły (A≠1)
bez_zmian
spadek
obniżka
wzrost
bez_zmian
podwyżka
G = (Ep+Eb) / E
wzrost
wzrost
A = Ep / (Ep+Eb)
bez_zmian
wzrost
obniżka
podwyżka

26.

Inflacja
bez_zmian
Regula
2
Stopy_proc podwyżka
5/8 + sqrt(3/5) = 1,3996
JEZELI
bez_zmian
Deficyt_budż Inflacja
wzrost
Stopy_proc
podwyżka
5/8 + sqrt(2/5) = 1,2575
ORAZ
Rezerwy_dew wzrost
Rezerwy_dew wzrost
Stopy_proc podwyżka
Inflacja
Deficyt_budż podwyżka
Rezerwy_dew
Lp
TO
Stopy_proc
4/8 + sqrt(2/4)Stopy_proc
= 1,2071
1
spadek
bez_zmian
wzrost
obniżka
2
spadek
wzrost
spadek
obniżka
3
bez_zmian
wzrost
wzrost
podwyżka
4
bez_zmian
wzrost
Inflacja
bez_zmian & Deficyt_budż
wzrostspadek
Stopy_proc obniżka
podwyżka
3/8 + sqrt(2/3) obniżka
= 1,1915
spadek
5
bez_zmian
bez_zmian
6
bez_zmian
wzrost
7
spadek
wzrost
wzrost
obniżka
8
bez_zmian
bez_zmian
wzrost
podwyżka
Inflacja bez_zmian & Rezerwy_dew wzrost Stopy_proc podwyżka
2/8 + sqrt(2/2)podwyżka
= 1,2500
bez_zmian

27.

Regula 2
JEZELI
Inflacja
ORAZ
Rezerwy_dew
TO
Stopy_proc
bez_zmian
wzrost
podwyżka
{3, 8}
Lp
Inflacja
Deficyt_budż
Rezerwy_dew
Stopy_proc
1
spadek
bez_zmian
wzrost
obniżka
2
spadek
wzrost
spadek
obniżka
3
bez_zmian
wzrost
Wzrost
podwyżka
4
bez_zmian
wzrost
spadek
obniżka
5
bez_zmian
bez_zmian
spadek
obniżka
6
bez_zmian
wzrost
bez_zmian
podwyżka
7
spadek
wzrost
wzrost
obniżka
8
bez_zmian
bez_zmian
wzrost
podwyżka

28.

Inflacja
Regulabez_zmian
3
Stopy_proc obniżka
+ sqrt(2/5) = 1,2575
JEZELI
Rezerwy_dew 5/8
spadek
Deficyt_budż wzrost Stopy_proc obniżka
TO Stopy_proc obniżka
5/8 + sqrt(3/5) = 1,3996
Rezerwy_dew spadek Stopy_proc obniżka
Inflacja
Deficyt_budż 3/8Rezerwy_dew
Stopy_proc
Lp
+ sqrt(3/3) = 1,3750
1
spadek
bez_zmian
wzrost
obniżka
2
spadek
wzrost
spadek
obniżka
3
bez_zmian
Wzrost
Wzrost
podwyżka
4
bez_zmian
wzrost
spadek
obniżka
5
bez_zmian
bez_zmian
spadek
obniżka
6
bez_zmian
wzrost
bez_zmian
podwyżka
7
spadek
wzrost
wzrost
obniżka
8
bez_zmian
bez_zmian
wzrost
podwyżka

29.

Regula 3
JEZELI Rezerwy_dew spadek
TO Stopy_proc obniżka
{4,5}
Lp
Inflacja
Deficyt_budż
Rezerwy_dew
Stopy_proc
1
spadek
bez_zmian
wzrost
obniżka
2
spadek
wzrost
spadek
obniżka
3
bez_zmian
Wzrost
Wzrost
podwyżka
4
bez_zmian
wzrost
Spadek
Obniżka
5
bez_zmian
bez_zmian
spadek
obniżka
6
bez_zmian
wzrost
bez_zmian
podwyżka
7
spadek
wzrost
wzrost
obniżka
8
bez_zmian
bez_zmian
wzrost
podwyżka

30.

Inflacja
bez_zmian
Stopy_proc podwyżka
Regula
4
5/8 + sqrt(3/5) = 1,3996
JEZELI
Rezerwy_dew
bez_zmian
Deficyt_budż
wzrost Stopy_proc
podwyżka
TO Stopy_proc podwyżka
{6}
5/8 + sqrt(2/5) = 1,2575
Rezerwy_dew bez_zmian Stopy_proc podwyżka
Inflacja
Deficyt_budż 1/8Rezerwy_dew
Stopy_proc
Lp
+ sqrt(1/1) = 1,1250
1
spadek
bez_zmian
wzrost
obniżka
2
spadek
wzrost
spadek
obniżka
3
bez_zmian
Wzrost
Wzrost
podwyżka
4
bez_zmian
Wzrost
spadek
obniżka
5
bez_zmian
bez_zmian
spadek
obniżka
6
bez_zmian
wzrost
bez_zmian
podwyżka
7
spadek
wzrost
wzrost
obniżka
8
bez_zmian
bez_zmian
wzrost
podwyżka

31.

Lp
Inflacja
Deficyt_budż
Rezerwy_dew
Stopy_proc
1
spadek
bez_zmian
wzrost
obniżka
Regula 1
2
spadek
spadek
obniżka
JEZELI
Inflacja wzrost
spadek
TO3
Stopy_proc
bez_zmian obniżka
wzrost
wzrost {1,2,7} podwyżka
Regula 2
4
bez_zmian
spadek
obniżka
JEZELI
Inflacja wzrost
bez_zmian
ORAZ Rezerwy_dew
wzrost
bez_zmian
bez_zmian
TO5
Stopy_proc
podwyżka spadek {3, 8} obniżka
Regula
3
6
bez_zmian
wzrost
bez_zmian
podwyżka
JEZELI
Rezerwy_dew
spadek
spadek
wzrost
wzrost {4,5} obniżka
TO7
Stopy_proc
obniżka
Regula 4
8
bez_zmian
bez_zmian
wzrost
podwyżka
JEZELI Rezerwy_dew bez_zmian
TO Stopy_proc podwyżka
{6}

32. Zadanie praktyczne

Dla pliku socz_0X.tab przygotuj zbiór reguł
za pomocą algorytmu GTS.
(X – ostatnia cyfra z numeru indeksu studenta)
Sprawozdanie:
•Wyliczenia,
•Zestaw reguł,
•Interpretacja wyników,
•Wnioski.

33. Literatura i materiały pomocnicze:

Literatura zamieszczona została w sylabusie
+
Wybrane metody eksploracji danych. 1, Analiza danych niesprzecznych
Zdzisław S. Hippe, Jerzy W. Grzymała-Busse (red.) ; zespół aut. Piotr Błajdo, Wiesław Paja oraz Mariusz
Wrzesień, Rzeszów : Wyższa Szkoła Informatyki i Zarządzania, 2010.
+
materiały zamieszczone na dysku wspólnym przez prowadzących przedmiot
K:\ZSHippe\SISE\
K:\MW\SISE\
English     Русский Rules