1.24M

SISE_LAB01

1.

Sztuczna Inteligencja
(laboratorium 1)
Wyższa Szkoła Informatyki i Zarządzania w Rzeszowie
Katedra Systemów Ekspertowych i Sztucznej Inteligencji

Informacje o przedmiocie
Lab 1 - Regułowe systemy decyzyjne GTS
Lab 2 - Regułowe systemy decyzyjne LERS
Lab 3 - Optymalizacja modeli uczenia
Lab 4 - KNN
Lab 5 - Drzewa decyzji C4.5
Lab 6 - Zastosowanie SI
Lab 7 - Kolokwium końcowe
Lab 8 - Referaty, Liniowa maszyna ucząca

3.

Warunki zaliczenia laboratorium
Zgodnie z sylabusem !

4.

Wprowadzenie
Reguły decyzyjne są jednym z najpopularniejszych
formalizmów reprezentacji wiedzy, stosowanym w
uczeniu maszynowym oraz odkrywaniu wiedzy z
danych.
Reguła decyzji składa się z części warunkowej oraz
części decyzyjnej, w której podaje decyzję właściwą
dla sytuacji, gdy spełnione są określone warunki.
jeżeli są spełnione określone warunki to decyzja

5.

Ogólna postać reguły
Jeżeli P to Q
If P Then Q
P – część warunkowa (przesłanka)
Q – część decyzyjna (konkluzja)
Część warunkowa P może być koniunkcją warunków elementarnych w, i jest wtedy zapisywana w
postaci: P = w1 ^w2 …^wk, gdzie k jest liczbą użytych warunków. P nazywane jest także złożeniem
warunków lub kompleksem.

6.

Przykładowe notacje reguł, słowa kluczowe
Regula 1
JEZELI Stan_nieba JEST Słońce
ORAZ Wilgotność JEST Duża
TO Decyzja JEST Nie_Grać
Rule 1
IF Stan_nieba IS Słońce
AND Wilgotność IS Duża
THEN Decyzja IS Nie_Grać

7.

Przykładowe notacje reguł (nazewnictwo)
Regula 1
JESLI Stan_nieba = Słońce
TAKZE Wilgotność = Duża
WTEDY Decyzja = Nie_Grać
Regula 1
JEZELI (Stan_nieba = Słońce)^(Wilgotność =
Duża)TO (Decyzja = Nie_Grać)

8.

SŁOWA KLUCZOWE
OPERATORY
RELACJI
IF
AND
THEN
=,≠
JEZELI
I
TO
<,>
JESLI
GDY
KIEDY
ORAZ WTEDY
TAKZE
≤,≥
JEST
SA

9.

Rodzaje reguł
Wyróżnia się trzy podstawowe rodzaje reguł
wygenerowanych z danych:
- klasyfikacyjne
- charakterystyczne
- asocjacyjne
[J.M. Żytkow]

10.

Reguły klasyfikacyjne (decyzyjne)
Reguły klasyfikacyjne są indukowane na podstawie uogólnienia zbioru przykładów uczących opisanych za pomocą zbioru atrybutów.
Reguły wygenerowane dla każdej klasy powinny być
spełnione przez przykłady należące do tej klasy (tzw.
przykłady pozytywne).
Reguły nie powinny być spełnione przez żaden przykład z innych klas lub powinny być spełnione tylko
przez niewiele z nich (tzw. przykłady negatywne).

11.

Lp.
Stan_nieba
Temp. [0C]
1
Słońce
24
2
Słońce
27
3
Słońce
29
4
Słońce
22
5
Słońce
21
Temperatura
6 Pochmurno
22
o
Temperatura
7 Pochmurnood 22 C28
oC
Temperatura
od
25
8 Pochmurno
18
9 Pochmurno
27
10
Deszcz
22
11
Deszcz
18
12
Deszcz
24
13
Deszcz
21
14
Deszcz
20
Wilgotność
Wiatr
Decyzja
Normalna
Tak
Grać
Duża
Tak
Nie_Grać
Duża
Nie
Nie_Grać
Duża
Nie
Nie_Grać
Normalna
Nie
Grać
do 21oDuża
C
– Zimna
Tak
Grać
do 24oDuża
C
– Umiarkowana
Nie
Grać
Normalna – Ciepła
Tak
Grać
Normalna
Nie
Grać
Duża
Tak
Nie_Grać
Normalna
Tak
Nie_Grać
Normalna
Nie
Grać
Duża
Nie
Grać
Normalna
Nie
Grać

12.

Lp.
1
2
3
4
5
6
7
8
9
10
11
12
13
14
Stan_nieba
Temp.
Wilgotność
Wiatr
Decyzja
Słońce
Słońce
Słońce
Słońce
Słońce
Pochmurno
Pochmurno
Pochmurno
Pochmurno
Deszcz
Deszcz
Deszcz
Deszcz
Deszcz
Umiarkowana
Ciepła
Ciepła
Umiarkowana
Zimna
Umiarkowana
Ciepła
Zimna
Ciepła
Umiarkowana
Zimna
Umiarkowana
Zimna
Zimna
Normalna
Duża
Duża
Duża
Normalna
Duża
Duża
Normalna
Normalna
Duża
Normalna
Normalna
Duża
Normalna
Tak
Tak
Nie
Nie
Nie
Tak
Nie
Tak
Nie
Tak
Tak
Nie
Nie
Nie
Grać
Nie_Grać
Nie_Grać
Nie_Grać
Grać
Grać
Grać
Grać
Grać
Nie_Grać
Nie_Grać
Grać
Grać
Grać

13.

14.

15.

16.

17.

• Konstruowanie systemu klasyfikującego
Przykłady
uczące
System
uczący się
Klasyfikator
Uczenie się klasyfikatora ze zbioru uczącego
Nowe
obiekty
Klasyfikator
Klasyfikowanie nowych obiektów
Decyzja
klasyfikacyjna

18. Narzędzia do uczenia maszynowego

Narzędzie do przygotowania zbiorów:
ScoreSEEKER
Narzędzia do generowania reguł:
LERS (Learning from Examples based on Rough
Sets)
GTS (General-To-Specific rekurencyjny algorytm
pokrycia)
DeTreex (moduł z pakietu SPHINX)

19. Formaty reguł

GTS (General-To-Specific)
IF Stan_nieba IS Słońce AND Wilgotność IS Duża
THEN Decyzja IS Grać
LERS (Learning from Examples based on Rough Sets)
(Stan_nieba , Słońce ) & (Wilgotność , Duża ) →
(Decyzja , Grać)
DeTreex (SPHINX)
Decyzja = „Grać” if
Stan_nieba = „Słońce”,
Wilgotność = „Duża”;

20. Algorytmy generowania reguł

GTS
LEM2
CN2
Rodzina algorytmów AQ
INLEN
MODLEM

21.

Lp
Inflacja
Deficyt_budż
Rezerwy_dew
Stopy_proc
1
spadek
bez_zmian
wzrost
obniżka
2
spadek
wzrost
spadek
obniżka
3
bez_zmian
wzrost
wzrost
podwyżka
4
bez_zmian
wzrost
spadek
obniżka
5
bez_zmian
bez_zmian
spadek
obniżka
6
bez_zmian
wzrost
bez_zmian
podwyżka
7
spadek
wzrost
wzrost
obniżka
8
bez_zmian
bez_zmian
wzrost
podwyżka

22.

Stopy_proc
obniżka
G = (E
+E
)
/
E
p
b
3/8 + sqrt(3/3) = 1,3750
A = EStopy_proc
)
p / (Ep+Ebobniżka
Deficyt_budż bez_zmian
Regula 1
3/8 + sqrt(2/3) = 1,1915
G+sqrt(A)=H
JEZELI
Inflacja
spadek
Rezerwy_dew
wzrost
Inflacja spadek
Stopy_proc
Stopy_proc obniżka
obniżka
TO Stopy_proc obniżka
4/8
1,2071
3/8 + sqrt(2/4)
sqrt(3/3) = 1,3750
Inflacja spadek
Lp
Inflacja
Deficyt_budż
Rezerwy_dew
Stopy_proc
1
spadek
bez_zmian
wzrost
obniżka
2
spadek
wzrost
spadek
obniżka
3
bez_zmian
wzrost
wzrost
podwyżka
4
bez_zmian
wzrost
spadek
obniżka
5
bez_zmian
bez_zmian
spadek
obniżka
6
bez_zmian
wzrost
bez_zmian
Podwyżka
7
Spadek
Wzrost
Wzrost
obniżka
8
bez_zmian
bez_zmian
wzrost
podwyżka

23.

Regula 1
JEZELI Inflacja
TO Stopy_proc
spadek
obniżka
{1,2,7}
Lp
Inflacja
Deficyt_budż
Rezerwy_dew
Stopy_proc
1
spadek
bez_zmian
wzrost
obniżka
2
spadek
wzrost
spadek
obniżka
3
bez_zmian
wzrost
wzrost
podwyżka
4
bez_zmian
wzrost
spadek
obniżka
5
bez_zmian
bez_zmian
spadek
obniżka
6
bez_zmian
wzrost
bez_zmian
podwyżka
7
spadek
wzrost
wzrost
obniżka
8
bez_zmian
bez_zmian
wzrost
podwyżka

24.

Stopy_proc podwyżka
5/8 + sqrt(3/5) = 1,3996
Deficyt_budż wzrost
Stopy_proc podwyżka
5/8 + sqrt(2/5) = 1,2575
Rezerwy_dew wzrost
Stopy_proc podwyżka
Inflacja
Deficyt_budż
Rezerwy_dew
Lp
4/8 + sqrt(2/4)Stopy_proc
= 1,2071
Inflacja bez_zmian
1
spadek
bez_zmian
wzrost
obniżka
2
spadek
wzrost
spadek
obniżka
3
bez_zmian
wzrost
wzrost
podwyżka
z powyższych
nie pozwala
na
4 Żaden
bez_zmian
wzrostwarunków
spadek
obniżka
utworzenie reguły (A≠1)
5
bez_zmian
bez_zmian
spadek
obniżka
6
bez_zmian
wzrost
bez_zmian
podwyżka
7
spadek
8
bez_zmian
G = (Ep+Eb) / E
Awzrost
= Ep / (Ep+Ewzrost
b)
bez_zmian
wzrost
G+sqrt(A)=H
obniżka
podwyżka

25.

Stopy_proc podwyżka
5/8 + sqrt(3/5) = 1,3996
JEZELI
bez_zmian
Deficyt_budż Inflacja
wzrost
Stopy_proc
podwyżka
5/8 + sqrt(2/5) = 1,2575
ORAZ
Rezerwy_dew wzrost
Rezerwy_dew wzrost
Stopy_proc podwyżka
TO
Stopy_proc
Inflacja
Deficyt_budż podwyżka
Rezerwy_dew
Lp
4/8 + sqrt(2/4)Stopy_proc
= 1,2071
Inflacja
bez_zmian
Regula
2
1
spadek
bez_zmian
wzrost
obniżka
2
spadek
wzrost
spadek
obniżka
3
bez_zmian
wzrost
wzrost
podwyżka
Inflacja
bez_zmian & Deficyt_budż
wzrostspadek
Stopy_proc obniżka
podwyżka
4
bez_zmian
wzrost
3/8 + sqrt(2/3) = 1,1915
spadek
obniżka
5
bez_zmian
bez_zmian
6
bez_zmian
wzrost
7
spadek
wzrost
wzrost
obniżka
8
bez_zmian
bez_zmian
wzrost
podwyżka
Inflacja bez_zmian & Rezerwy_dew wzrost Stopy_proc podwyżka
2/8 + sqrt(2/2)podwyżka
= 1,2500
bez_zmian

26.

Regula 2
JEZELI
Inflacja
ORAZ
Rezerwy_dew
TO
Stopy_proc
bez_zmian
wzrost
podwyżka
{3, 8}
Lp
Inflacja
Deficyt_budż
Rezerwy_dew
Stopy_proc
1
spadek
bez_zmian
wzrost
obniżka
2
spadek
wzrost
spadek
obniżka
3
bez_zmian
wzrost
Wzrost
podwyżka
4
bez_zmian
wzrost
spadek
obniżka
5
bez_zmian
bez_zmian
spadek
obniżka
6
bez_zmian
wzrost
bez_zmian
podwyżka
7
spadek
wzrost
wzrost
obniżka
8
bez_zmian
bez_zmian
wzrost
podwyżka

27.

Stopy_proc obniżka
+ sqrt(2/5) = 1,2575
JEZELI
Rezerwy_dew 5/8
spadek
Deficyt_budż wzrost Stopy_proc obniżka
TO Stopy_proc obniżka
5/8 + sqrt(3/5) = 1,3996
Rezerwy_dew spadek Stopy_proc obniżka
+ sqrt(3/3) = 1,3750
Inflacja
Deficyt_budż 3/8Rezerwy_dew
Stopy_proc
Lp
Inflacja
Regulabez_zmian
3
1
spadek
bez_zmian
wzrost
obniżka
2
spadek
wzrost
spadek
obniżka
3
bez_zmian
Wzrost
Wzrost
podwyżka
4
bez_zmian
wzrost
spadek
obniżka
5
bez_zmian
bez_zmian
spadek
obniżka
6
bez_zmian
wzrost
bez_zmian
podwyżka
7
spadek
wzrost
wzrost
obniżka
8
bez_zmian
bez_zmian
wzrost
podwyżka

28.

Regula 3
JEZELI Rezerwy_dew spadek
TO Stopy_proc obniżka
{4,5}
Lp
Inflacja
Deficyt_budż
Rezerwy_dew
Stopy_proc
1
spadek
bez_zmian
wzrost
obniżka
2
spadek
wzrost
spadek
obniżka
3
bez_zmian
Wzrost
Wzrost
podwyżka
4
bez_zmian
wzrost
Spadek
Obniżka
5
bez_zmian
bez_zmian
spadek
obniżka
6
bez_zmian
wzrost
bez_zmian
podwyżka
7
spadek
wzrost
wzrost
obniżka
8
bez_zmian
bez_zmian
wzrost
podwyżka

29.

Inflacja
bez_zmian
Stopy_proc podwyżka
Regula
4
5/8 + sqrt(3/5) = 1,3996
JEZELI
Rezerwy_dew
bez_zmian
Deficyt_budż
wzrost Stopy_proc
podwyżka
TO Stopy_proc podwyżka
{6}
5/8 + sqrt(2/5) = 1,2575
Rezerwy_dew bez_zmian Stopy_proc podwyżka
+ sqrt(1/1) = 1,1250
Inflacja
Deficyt_budż 1/8Rezerwy_dew
Stopy_proc
Lp
1
spadek
bez_zmian
wzrost
obniżka
2
spadek
wzrost
spadek
obniżka
3
bez_zmian
Wzrost
Wzrost
podwyżka
4
bez_zmian
Wzrost
spadek
obniżka
5
bez_zmian
bez_zmian
spadek
obniżka
6
bez_zmian
wzrost
bez_zmian
podwyżka
7
spadek
wzrost
wzrost
obniżka
8
bez_zmian
bez_zmian
wzrost
podwyżka

30.

Lp
Inflacja
Deficyt_budż
Rezerwy_dew
Stopy_proc
1
spadek
bez_zmian
wzrost
obniżka
Regula 1
2
spadek
spadek
obniżka
JEZELI
Inflacja wzrost
spadek
TO
Stopy_proc obniżka
{1,2,7}
3
bez_zmian
wzrost
wzrost
podwyżka
Regula 2
JEZELI
Inflacja wzrost
bez_zmian
4
bez_zmian
spadek
obniżka
ORAZ Rezerwy_dew
wzrost
bez_zmian
bez_zmian
TO5
Stopy_proc
podwyżka spadek {3, 8} obniżka
Regula
3
6
bez_zmian
wzrost
bez_zmian
podwyżka
JEZELI
Rezerwy_dew
spadek
spadek
wzrost
wzrost {4,5} obniżka
TO7
Stopy_proc
obniżka
Regula 4
8
bez_zmian
bez_zmian
wzrost
podwyżka
JEZELI Rezerwy_dew bez_zmian
TO Stopy_proc podwyżka
{6}

31. Zadanie praktyczne

Dla pliku socz_0X.tab przygotuj zbiór reguł
za pomocą algorytmu GTS.
(X – ostatnia cyfra z numeru indeksu studenta)
Sprawozdanie
Przygotowane reguły zamieść w Wordzie.
Natomiast obliczenia mogą być wykonane
za pomocą Excela.

32. Literatura i materiały pomocnicze:

K:\ZSHippe\SISE\
K:\MW\SISE\

English Русский Rules