MEH535 Örüntü Tanıma

MEH535 Örüntü Tanıma
1.B. Lineer Cebir
Doç.Dr. M. Kemal GÜLLÜ
Elektronik ve Haberleşme Mühendisliği Bölümü
web: http://akademikpersonel.kocaeli.edu.tr/kemalg/
E-posta: kemalg@kocaeli.edu.tr
Lineer Cebir – Vektörler ve Matrisler
• d-Boyutlu sütun vektörü ve devriği:
It Be Hades
,
bi :b
• nxd-Boyutlu matris ve devriği:
b
ai
,
;
:
situ
ktthr ;
Sativa
he
RB) ;j=9j•bj
• Matris çarpımı:
-
D
!
°
n
n
n
nn
2
D
Lineer Cebir – Vektörler ve Matrisler
05%0-5 .nodo=0
• Vektörler:
– İç/noktasal/skaler çarpım (inner/dot/scaler product):
< ×
,y>=×
...)
-
5iy=5×=
,§,xwa
"I"o"
In
– Vektör genliği (norm):
11×11=11×5
tied
:#
't
– x ve y vektörleri arasındaki açı:
"
-
xz
*
X.y.tl/1111y11cosO,o:vektivWara1mdnh
ay
6sf='eE
oteiuin
x.
,
'c£6ase
orthogonality
)
:K%oY%oE8E¥h
xx
3
.
Lineer Cebir – Vektörler ve Matrisler
• y vektörünün x vektörüne dikgen izdüşümü:
¥72
3ft
hathlauad@Mu.d-lYulHaH6s0_u.a
.EE?.u=aeeIY.....y=hatw,ha.w=q
w{
"
.
prdoi
• Doğrusal bağımsız vektörler:
Neall
#
h=U1
x1,x2,…,xn vektörlerinin a1,a2,…,an katsayıları ile doğrusal
kombinasyonu
=ha
Profau
-
k$11
hah
minutia
yalnızca apaçık (trivial) çözüme sahipse bu vektörler doğrusal
bağımsızdır.
w=u
-
pnyau
'
4
'
it (
×
)
no
(
=
th
( 2,3 )
e
,
,
{e
S=
{
(i
,ey
,
.
.
,
D
isefi
{,j/
T.EE#~
sit
si
)
hzezt
+
,
]
lo
hnithzj
e{
.
,
-
=
,h )
,
*=h
h
,y )
re
it2
-
j
.
.
.
]
en
.
,
then
.
du
en =D
uektthinesi
re
(
0,01=1011,0
+1$
@( )
+014,0
)
=
i
,
o
)
-
1,0 )
Lineer Cebir – Vektörler ve Matrisler
• Matrisler: c÷H to¥Ho%¥ KkH¥lT
• Bir A kare matrisinin determinantı (eş çarpan
açılımı):
Idt
In
T*¥a±'
E¥¥¥
• Bir A kare matrisinin izi (trace):
At
÷ tr
=
C
Al
=
,&
%k
,
• Bir A matrisinin rankı (boyutluluk): Matristeki
bağımsız satır/sütun sayısıdır.
• nxn boyutlu bir A matrisinin rankı = n ise bu matris
tekil değildir (tersi alınabilirdir).
[ I I At ]
[ Al I )
¥58
5
Lineer Cebir – Vektörler ve Matrisler
• Bir A kare matrisi için AAT=ATA=I ise bu matris birim
dik (orthonormal) matristir
• Bir A kare matrisi için
xTAx > 0 , her x≠0
sağlanıyor ise A pozitif tanımlı matristir (positive
definite) (örn; ortak değişinti matrisi)
xTAx ≥ 0 , her x≠0
durumunda ise A pozitif yarı tanımlı matristir
(positive semi-definite)
6
Lineer Cebir – Vektörler ve Matrisler
*
.
"
n
7
Lineer Cebir – Vektörler ve Matrisler
A-
4
fg
,
Oadniytcey ]fy4, ][ ;]
]
,n=i+Hi+a.H=
Trained
"
=
situ
't
8ny
pozitiftanimh
-6<0
digildir !
.
Hessian
mats
.si
i
;D
:¥¥i¥
:*:
"ti¥¥H÷÷X±i¥¥¥
,
poritifyan
tanimlr
>/
0
D.am/0ngaanHiei#
8
Lineer Cebir – Vektörler ve Matrisler
• Bir A kare matrisinin varsa tersi A-1 ile gösterilir ve
AA
'
t
=
A
'
'
A
-
I
Tersi tanımlı değilse matris tekildir (singular)
• Sözde Ters (Pseudo-inverse): A-1 tanımlı değilse (kare
matris de olmayabilir), A matrisinin sözde tersi (AƗ):
At
=
HAT
'
At A
AT
=
I
,
9
Lineer Cebir – Vektörler ve Matrisler
• Vektör Uzayları: n-Boyutlu vektörler üzerine yerleşen
n-boyutlu uzaya vektör uzayı denir. R
• {u1,u2,…,un} taban vektörlerinin oluşturduğu küme
vektör uzayı için taban oluşturur ve herhangi bir keyfi
vektör şu şekilde ifade edilebilir:
"
• Uzayda taban oluşturabilmesi için {u1,u2,…,un} vektör
kümesinin doğrusal bağımsız olması gerekir!
10
Lineer Cebir – Vektörler ve Matrisler
• Dikgenlik:
• Vektör uzayında 2 nokta arasındaki Euclidean
uzaklığı, vektör farkının genliği ile hesaplanır
11
Lineer Cebir – Vektörler ve Matrisler
• Doğrusal Dönüşümler:
RMIRIRMIRIQ
– RN vektör uzayından RM uzayına eşleme yapar
– Ölçeklenebilirlik ve toplanabilirlik şartlarını sağlar
oerakir
– Örüntü tanımada genelde M<N dir (düşük boyutlu uzaya
izdüşüm)
Etten
¥⇐iiMIt*t¥H¥¥¥¥¥
EfEIo%MD
– Eğer M=N ise A matrisi operatör olarak tanımlanmaktadır
(örn; R2’de döndürme operatörü)
;zgumwh¥#¥#
%
12
Lineer Cebir – Vektörler ve Matrisler
• A kare matrisi ile tanımlanan bir doğrusal dönüşüm
AAT=ATA=I durumunda birim normal dönüşümdür
• Bu durumda AT=A-1 dir
• Birim dikgen dönüşüm vektör genliğini değiştirmez
• Birim dikgen dönüşümün satır vektörleri birim dikgen
taban vektör kümesi oluşturur
13
Lineer Cebir – Vektörler ve Matrisler
• Özdeğerler ve Özvektörler (Eigenvalues &
Eigenvectors): NxN boyutlu A matrisi için Av = λv
eşitliğini sağlayan λ skaleri özdeğer; λ’ya karşılık gelen
v vektörü özvektör olarak adlandırılır
±I¥*
17
• Özdeğer hesabı:
Ax=
.ie?sE*.*urxa@
X
Xolacajnndar
IKXI
saflayan
1=0
X
(
elman
Fbi
Tierce
!
Xi
-
Nadet
x
'
dzuektorle
Kepah
is
ten
)
sinin
N
bulnmrr
u
:
by
{ out
.
14
Lineer Cebir – Vektörler ve Matrisler
• Özellikler:
– A tekil değil ise tüm özdeğerler sıfırdan farklıdır
– A gerçek ve simetrik ise
• Tüm özdeğerler gerçektir
• Özdeğerlere karşılık gelen özvektörler dikgendir
– A pozitif tanımlı ve tekil değil ise tüm özdeğerler pozitiftir
15
Lineer Cebir – Vektörler ve Matrisler
• Σ Gauss dağılımının ortak değişinti matrisi olsun ( simetn 'D
– Σ’nın özvektörleri dağılımın temel (principal) yönlerini
gösterir
– Özdeğerler ise temel yönlere karşılık gelen değişintilerdir
cHµµ
o*w#%u[x])(
Emmjtemmniimt
yew
#
¥1
.÷±=
16