Univerzitet u Nišu PRIRODNO-MATEMATIČKI FAKULTET Departman za matematiku Master rad GRUPNI INVERZ OPERATORA Mentor: Prof. dr Dijana Mosić Student: Iva

Univerzitet u Nišu PRIRODNO-MATEMATIČKI FAKULTET Departman za matematiku Master rad GRUPNI INVERZ OPERATORA Mentor: Prof. dr Dijana Mosić Student: Ivana Stamenković Niš, 2018.

Sadržaj Predgovor 2 1 Uvod 4 1.1 Normirani, Banahovi i Hilbertovi prostori............ 4 1.2 Ograničeni linearni operatori................... 7 1.3 Uopšteni inverzi operatora.................... 10 2 Grupni inverz operatora 12 2.1 Uvodni pojmovi i tvrd enja.................... 12 2.2 Karakterizacija grupno invertibilnih operatora......... 14 2.3 Grupna invertibilnost proizvoda dva operatora......... 23 2.4 Grupna invertibilnost anti-trougaonog matričnog operatora.. 26 3 Zakon obrnutog redosleda 34 Literatura 52 Biografija 54 1

Predgovor Koncept uopštenih inverza prvi je uveo Fredholm 1903. godine, koji je predstavio odred eni uopšteni inverz za integralni operator (nazvao ga je pseudoinverz ). Nakon toga, Hurwitz je 1912. okarakterisao klasu svih pseudoinverza, dok su razni matematičari (Hilbert, Myller, Westfall, Reid) proučavali uopštene inverze diferencijalnih operatora. Dakle, izučavanje uopštenih inverza diferencijalnih i integralnih operatora prethodilo je izučavanju uopštenih inverza matrica, čiju je egzistenciju prvi otkrio E.H. Moore. On je 1920. godine definisao jedinstveni inverz za svaku konačnu matricu (kvadratnu ili pravougaonu). Njegovi rezultati nisu bili naročito zapaženi u to vreme, tako da je oblast uopštenih inverza ponovo zaživela 50ih godina dvadesetog veka, kada je Bjerhammar proučavao ulogu uopštenih inverza u rešavanju linearnih sistema. 1955. godine je Penrose usavršio i proširio rezultate Bjerhammara, pokazao je jedinstvenost inverza koji je koristio Moore, tako da se taj inverz sada naziva Moore-Penroseov inverz. Ova otkrića su bila izuzetno važna i plodonosna i dovela su do otkrivanja raznih tipova uopštenih inverza, koji zadovoljavaju samo neke od osobina Moore-Penroseovog inverza, ili neke varijacije tih osobina. Jedan od takvih inverza je grupni inverz i upravo on će biti predmet proučavanja ovog master rada. Grupni inverz ima raznih primena, med u kojima je i analiza lanaca Markova. Rad je podeljen na tri glave. Prva glava sadrži pojmove koje ćemo koristiti u daljem radu. Tu su navedene osnovne definicije i tvrd enja iz oblasti Banahovih i Hilbertovih prostora, ograničenih linearnih operatora, Banahovih algebri, kao i rezultati vezani za uopštene inverze operatora. U drugoj glavi najpre uvodimo pojam grupnog i Drazinovog inverza operatora, uz navod enje bitnijih rezultata na koje ćemo se u nastavku rada pozivati. Zatim se bavimo karakterizacijom grupno invertibilnih operatora na Hilbertovim prostorima i dokazujemo teoreme koje nam daju više informacija o geometrijskoj strukturi izmed u dva operatora. Treći deo ove glave posvećen je ispitivanju pod kojim uslovima je proizvod dva operatora grupno 2

SADRŽAJ 3 invertibilan operator. U poslednjem, četvrtom, delu druge glave razmatramo grupnu invertibilnost anti-trougaonog matričnog operatora. Treća glava predstavlja glavni deo rada i bavi se zakonom obrnutog redosleda za grupni inverz operatora. Dokazujemo teoreme koje će predstavljati dovoljne uslove kako bi važio zakon obrnutog redosleda. Na kraju, dolazimo do ekvivalentnih uslova pod kojima posmatrani zakon važi. Želela bih da se zahvalim svom mentoru prof. dr Dijani Mosić na podršci i pomoći prilikom izrade ovog master rada. Njeni konstruktivni saveti i predlozi poboljšali su kvalitet rada i doprineli njegovoj konačnoj formi.

Glava 1 Uvod 1.1 Normirani, Banahovi i Hilbertovi prostori Neka F označava polje realnih ili kompleksnih brojeva. Nadalje svi vektorski prostori su nad poljem F. Smatraćemo nadalje da su svi vektorski prostori nad poljem F, a, ukoliko ima potrebe, posebno ćemo naglasiti da li razmatramo realne ili kompleksne vektorske prostore. Definicija 1.1. Neka je X vektorski prostor nad C. Skup B X je algebarska (Hamelova) baza prostora X, ako za svako x X postoji jedinstven broj n N, jedinstveno odred eni vektori e 1,..., e n B i jedinstveni brojevi x 1,..., x n C tako da je x n x i e i. i0 Definicija 1.2. Dimenzija vektorskog prostora X, u oznaci dim(x), je kardinalnost algebarske baze tog prostora. Sve algebarske baze vektorskog prostora X imaju istu kardinalnost, pa je prethodna definicija korektna. Ako je X konačno-dimenzionalan vektorski prostor, onda se koristi i oznaka dim(x) <. Definicija 1.3. Neka je X vektorski prostor, i neka su X 1 i X 2 potprostori od X sa osobinom da je X 1 X 2 {0 X }. Tada se potprostor X 1 X 2 : {x 1 + x 2 : x i X i, i 1, 2} naziva direktna suma potprostora X 1 i X 2. Definicija 1.4. Neka je X vektorski prostor nad F. Funkcija : X R je norma na X, ako važe sledeće osobine: (1) x 0 za svako x X; (2) x 0 ako i samo ako je x 0; 4

GLAVA 1. UVOD 5 (3) λx λ x za svako λ F i svako x X; (4) x + y x + y za svako x, y X. Tada je (X, ) normiran prostor. Jednostavnije, X je normiran prostor ako se norma podrazumeva. Teorema 1.1. Neka je (X, ) normiran prostor. Funkcija d : X X R, definisana na sledeći način: ( x, y X) d(x, y) : x y, je metrika na X. Tada je metrika d indukovana normom. Definicija 1.5. Neka je X normiran prostor. Niz (x n ) n u X je kovergentan (Košijev) po normi, ako je konvergentan (Košijev) u odnosu na metriku indukovanu normom. Definicija 1.6. Normiran prostor X je Banahov ako je (X, d) kompletan metrički prostor, pri čemu je d metrika indukovana normom. Teorema 1.2. Svaki konačno-dimenzionalan potprostor Y normiranog prostora X je Banahov. Specijalno, svaki konačno-dimenzionalan prostor X je Banahov. Posledica 1.1. Svaki konačno-dimenzionalan potprostor Y normiranog prostora X je zatvoren u X. Teorema 1.3. Ako je X beskonačno-dimenzionalan Banahov prostor, tada je dim(x) > ℵ 0. Neka su X, Y vektorski prostori nad F. Skup svih linearnih operatora iz X u Y označavamo sa L(X, Y ). Definicija 1.7. Neka su X i Y normirani prostori nad F. Operator A L(X, Y ) je ograničen ako postoji realan broj M 0 takav da je ( x X) Ax M x. Skup svih ograničenih linearnih operatora iz X u Y označavamo sa B(X, Y ). Definicija 1.8. Neka su X i Y normirani prostori i neka je A B(X, Y ). Norma operatora A, u oznaci A, je broj Ax A : sup x 0 x.

GLAVA 1. UVOD 6 Teorema 1.4. Neka su X, Y i Z normirani prostori. Za operatore A B(X, Y ), B B(Y, Z) važi BA B A. Teorema 1.5. Neka su X, Y normirani prostori. Tada je (B(X, Y ), ) normiran prostor. Definicija 1.9. Skalarni proizvod na kompleksnom vektorskom prostoru X je funkcija, : X X C, koja zadovoljava sledeće osobine: (1) λ 1 x 1 + λ 2 x 2, y λ 1 x 1, y + λ 2 x 2, y za svako λ 1, λ 2 C i svako x 1, x 2, y X; (2) x, y y, x za svako x, y X; (3) x, x 0 za svako x X; (4) x, x 0 ako i samo ako je x 0. Ured eni par (X,, ) je kompleksan unitaran (pred-hilbertov) prostor. Napomena. Ukoliko je X realan vektorski prostor, onda umesto svojstva (2) u prethodnoj definiciji, važi aksioma: (2 ) x, y y, x za svako x, y X, odnosno, skalarni proizvod ima osobinu simetričnosti. Teorema 1.6. Neka je X unitaran prostor sa skalarnim proizvodom,. Funkcija : X R, definisana kao x : x, x 1/2, x X, je norma na X. Ova norma je indukovana skalarnim proizvodom. Definicija 1.10. Neka je X unitaran prostor i neka je X Banahov prostor u odnosu na normu indukovanu skalarnim proizvodom. Tada je X Hilbertov prostor. Definicija 1.11. Neka je X unitaran prostor i E X neprazan skup. Tada je E : {x X : ( y E) x, y 0} ortogonalni komplement skupa E. Teorema 1.7. [Teorema o ortogonalnoj dekompoziciji] Neka je M zatvoren potprostor Hilbertovog prostora X. Ako je z X, onda postoje jednoznačno odred eni vektori x M i y M tako da je z x + y. Prema tome važi X M M i tada se ova direktna suma naziva ortogonalna suma. Definicija 1.12. Neka je X normiran prostor nad poljem F. Ograničen linearani funkcional na X je svaki ograničen linearan operator iz X u F. Prostor ograničenih linearnih funkcionala na X je X : B(X, F).

GLAVA 1. UVOD 7 1.2 Ograničeni linearni operatori Teorema 1.8. Neka su X i Y normirani prostori i A B(X, Y ). Tada je A sup Ax sup Ax inf{m > 0 : M Ax, x 1}. x 1 x 1 Teorema 1.9. Neka su X i Y normirani prostori i A B(X, Y ). Sledeći uslovi su ekvivalentni: (1) A je uniformno neprekidno preslikavanje na X; (2) A je neprekidno preslikavanje u 0; (3) A B(X, Y ). Definicija 1.13. Neka su X, Y normirani prostori i neka je A B(X, Y ). Tada je: N (A) {x X : Ax 0} jezgro operatora A, a R(A) {Ax : x X} slika operatora A. Teorema 1.10. Neka su X, Y normirani prostori i A L(X, Y ). Tada je N (A) potprostor od X, a R(A) je potprostor od Y. Ako je, pored toga, A B(X, Y ), onda je N (A) zatvoren potprostor od X. Definicija 1.14. Neka su X 1, X 2 potprostori normiranog prostora X za koje važi X 1 X 2 {0}. Neka je A 1 B(X 1 ), A 2 B(X 2, X 1 ), A 3 B(X 1, X 2 ) i A 4 B(X 2 ). Tada je preslikavanje A1 A 2 A 3 A 4 : X 1 X 2 X 1 X 2 definisano kao: ( A1 A ( (x 1 x 2 ) X 1 X 2 ) 2 A 3 A 4 ) (x 1 x 2 ) : (A 1 x 1 +A 2 x 2 ) (A 3 x 1 +A 4 x 2 ). Definicija 1.15. Neka su X i Y normirani prostori i neka je A B(X, Y ). A je kompaktan operator ako svaki ograničen skup iz X slika na relativno kompaktan skup u Y. Teorema 1.11. Neka je X normiran, a Y Banahov prostor. Tada je B(X, Y ) Banahov prostor. Posledica 1.2. X je Banahov prostor.

GLAVA 1. UVOD 8 Teorema 1.12. [Teorema o ograničenom inverzu] Neka su X i Y Banahovi prostori i A B(X, Y ). Ako je preslikavanje A,,1-1 i,,na, tada postoji A 1 B(Y, X). Definicija 1.16. Neka je X normiran prostor i P B(X). Ako je P P 2, onda je P idempotent (ili projektor). Teorema 1.13. Neka je P projektor na normiranom prostoru X. Tada je R(P ) N(P ) {0}, X R(P ) N(P ) i P je projektor sa X na R(P ) paralelno sa N(P ). Definicija 1.17. Neka je H Hilbertov prostor, P je projektor na H i M je zatvoren potprostor od H. Ako je R(P ) M i N(P ) M, tada je P ortogonalan projektor. Osim toga, P je projektor sa H na M paralelno sa M. Teorema 1.14. Neka su H i K Hilbertovi prostori i T B(H, K). Tada postoji jedinstven ograničen linearan operator T B(K, H), tako da za svako x H i za svako y K važi T x, y x, T y. Definicija 1.18. Operator T, odred en prethodnom teoremom, je Hilbertadjungovan (Hilbert-konjugovan) operator od T. Teorema 1.15. Neka su H, K, L Hilbertovi prostori, S, T B(H, K), V B(K, L) i λ C. Tada je: (1) T y, x y, T x, za svako x H i y K; (2) (S + T ) S + T ; (3) (λt ) λt ; (4) (T ) T ; (5) T T ; (6) T T T T T 2 ; (7) T T 0 ako i samo ako je T 0; (8) (V S) S V ; (9) 0 0 i I I. Teorema 1.16. Neka su H, K Hilbertovi prostori i T B(H, K). Ako postoji T 1 B(K, H) tada postoji i (T ) 1 B(H, K) i važi (T ) 1 (T 1 ). Lema 1.1. [Jacobson] Neka je R prsten sa jedinicom 1 i a, b R proizvoljni elementi. Ako je 1 ab invertibilan, onda je i 1 ba invertibilan.

GLAVA 1. UVOD 9 Definicija 1.19. Neka su S, T B(H). [S, T ] ST T S je komutator za operatore S i T. Definicija 1.20. Operatori S, T B(H) su slični (u oznaci S T ) ako postoji invertibilan operator Q B(H) takav da je QS T Q. Definicija 1.21. Neka je H Hilbertov prostor i T B(H). Tada: (1) T je normalan operator ako je T T T T ; (2) T je samokonjugovan (ili Hermitski) operator ako je T T ; (3) T je unitaran operator ako je T T T T I. Teorema 1.17. Neka je H kompleksan Hilbertov prostor i T B(H). T je samokonjugovan ako i samo ako je T x, x realan broj, za svako x H. Definicija 1.22. Neka je H kompleksan Hilbertov prostor i T B(H) samokonjugovan operator. T je pozitivan operator (u oznaci T 0) ako za svako x X važi T x, x 0. Teorema 1.18. Ako je H Hilbertov prostor i T B(H), tada je T T pozitivan operator. Definicija 1.23. Neka je H Hilbertov prostor, A i B samokonjugovani operatori na H. Ako je A B 0, onda je A B ili B A. Definicija 1.24. Neka je H Hilbertov prosrtor, A samokonjugovan operator iz B(H) i m(a) inf Ax, x, x 1 M(A) sup Ax, x. x 1 Brojevi m(a) i M(A) se nazivaju, redom, donja i gornja granica samokonjugovanog operatora A. Posledica 1.3. Neka je A B(H) samokonjugovan operator na Hilbertovom prostoru H. Tada je A max{ m(a), M(A) } sup Ax, x. x 1 Teorema 1.19. Neka je H Hilbertov prostor i T B(H). Tada postoje samokonjugovani operatori A, B B(H) tako da je T A + ib. Operatori A i B su jednoznačno odred eni operatorom T. Definicija 1.25. Neka je H Hilbertov prostor i T B(H). Realni i imaginarni deo operatora T označavaju se, redom, sa Re(T ) i Im(T ), i Re(T ) T + T, Im(T ) T T. 2 2i

GLAVA 1. UVOD 10 Definicija 1.26. Operator T B(H) je izometrija, ako je T x x za svako x H. Definicija 1.27. Operator T B(H) je parcijalna izometrija, ako je T x x za svako x N (T ). Svaka izometrija je takod e i parcijalna izometrija. Teorema 1.20. Neka je H Hilbertov prostor i T B(H). Sledeći uslovi su ekvivalentni: (1) T je normalan operator; (2) Re(T ) i Im(T ) med usobno komutiraju; (3) T x T x za svako x X. Teorema 1.21. [Kvadratni koren pozitivnog operatora] Neka je H Hilbertov prostor i T B(H) pozitivan operator. Tada postoji jedinstven pozitivan operator L B(H) tako da je L 2 T. Ako A B(H) komutira sa T, onda A komutira i sa L. 1.3 Uopšteni inverzi operatora Neka su H i K Hilbertovi prostori. Definicija 1.28. Operator B B(K, H) je unutrašnji inverz (ili {1} inverz) operatora A B(H, K) ako važi ABA A. U tom slučaju, za operator A kažemo da je regularan. Unutrašnji inverz operatora A označavamo sa A. Teorema 1.22. Operator A je regularan ako i samo ako je R(A) zatvoren u K. Definicija 1.29. Neka je A B(H, K). Operator B B(K, H) koji zadovoljava jednačine (1) ABA A, (2) BAB B, (3) (AB) AB, (4) (BA) BA je Moore-Penroseov inverz operatora A i označava se sa A.

GLAVA 1. UVOD 11 Definicija 1.30. Za operator A B(H, K) označimo sa A{i, j,..., l} skup operatora B B(K, H) koji zadovoljavaju jednačine (i), (j),..., (l) iz skupa {(1), (2), (3), (4)}. Operator B A{i, j,..., l} naziva se {i, j,..., l}-inverz od A i označava se A (i,j,...,l). Teorema 1.23. Postoji Moore-Penroseov inverz operatora A B(H) ako i samo ako je R(A) zatvoren. Teorema 1.24. Moore-Penroseov inverz operatora A B(H) je jedinstven (ukoliko postoji) i važi AA P R(A) i A A P R(A ). Teorema 1.25. Ako je A B(H) pozitivan operator, onda je AA (AA ) (A ) A A A. Lema 1.2. Neka je E B(H) idempotent. Tada (1) E i I E su idempotenti; (2) E(I E) (I E)E 0; (3) Ex x x R(E); (4) E E{1, 2}; (5) N(E) R(I E).

Glava 2 Grupni inverz operatora 2.1 Uvodni pojmovi i tvrd enja Neka je H beskonačno-dimenzionalan kompleksan Hilbertov prostor. Definicija 2.1. Najmanji nenegativan ceo broj n takav da je N (T n ) N (T n+1 ) i (R(T n ) R(T n+1 )) je uspon (pad) operatora T B(H), u oznaci asc(t ) (desc(t )). Ukoliko takav broj n ne postoji, onda je asc(t ) (desc(t ) ). Poznato je da je desc(t ) asc(t ) ako su asc(t ) i desc(t ) konačni. Definicija 2.2. Neka je T B(H). Operator S B(H) koji, za neki nenegativan ceo broj k, zadovoljava jednačine (1 k ) T k ST T k, (2) ST S S, (5) T S ST, je Drazinov inverz operatora T i označava se sa T D. Najmanji nenegativan ceo broj k za koji važi (1 k ) je indeks od T (u oznaci k ind(t )). Teorema 2.1. Operator T B(H) je Drazin invertibilan ako i samo ako su uspon i pad operatora T konačni brojevi. U tom slučaju je k ind(t ) desc(t ) asc(t ). Teorema 2.2. Ukoliko postoji, Drazinov inverz je jedinstven. Kada je ind(t ) 1, operator T D je grupni inverz operatora T. 12

GLAVA 2. GRUPNI INVERZ OPERATORA 13 Definicija 2.3. Neka je T B(H). Operator S B(H) koji zadovoljava jednačine (1) T ST T, (2) ST S S, (5) T S ST, je grupni inverz operatora T i označava se sa T #. Teorema 2.3. Operator T B(H) je grupno invertibilan ako i samo ako je ind(t ) 1. Kada je ind(t ) 0, grupni inverz se svodi na običan inverz operatora T, tj. T # T 1. Teorema 2.4. Ako je operator T B(H) grupno invertibilan, onda je R(T ) zatvoren prostor i spektralni idempotent T π je T π I T T #. Teorema 2.5. Operator T B(H) je grupno invertibilan ako i samo ako postoji idempotent P B(H) takav da je T + P invertibilan, T P 0 i T P P T. U ovom slučaju, grupni inverz T # operatora T dat je sa T # (T + P ) 1 (I P ), a idempotent P T π I T T #. Definicija 2.4. Operator T B(H) je EP operator ako je R(T ) R(T ). Dakle, ako je T EP operator, onda je N (T ) N (T ). Teorema 2.6. Ako je T B(H) i R(T ) zatvoren, onda je T EP operator ako i samo ako je T T # ako i samo ako je T T T T. Teorema 2.7. T B(H) je EP operator ako i samo ako T je grupno invertibilan i T # T je samokonjugovan. Sledeća svojstva grupnog inverza biće korišćena kasnije: Lema 2.1. Neka je T, B B(H). (i) Ako je T B, onda je B grupno invertibilan akko je T grupno invertibilan; (ii) Ako je T grupno invertibilan, onda je (T ) # (T # ), (T k ) # (T # ) k, za svaki nenegativan ceo broj k, T π P N (T ),R(T ) i T T # P R(T ),N (T ) ;

GLAVA 2. GRUPNI INVERZ OPERATORA 14 (iii) Sledeća tvrdjenja su ekvivalentna: (a) T je grupno invertibilan; (b) R(T ) R(T k ) i N (T ) N (T k ), k 2; T11 T (c) T 12 u odnosu na dekompoziciju H R(T ) 0 D R(T ), gde je T 11 invertibilan; (d) T T 0 0 u odnosu na dekompoziciju H R(T ) N (T ), gde je T 0 invertibilan. 2.2 Karakterizacija grupno invertibilnih operatora T1 T Posmatrajmo matrični operator 3 na Hilbertovom prostoru T 4 T 2 H 1 H 2. Operator T i je preslikavanje na Hilbertovom prostoru H i, i 1, 2, a operator T 3 (T 4 ) preslikava H 2 u H 1 (H 1 u H 2 ). Pretpostavimo da su svi posmatrani operatori linearni i ograničeni na odgovarajućim prostorima. Za dijagonalni operator M A D poznato je da važi R(M) R(A) R(D), N (M) N (A) N (D) i M je grupno invertibilan ako i samo ako su A i D grupno invertibilni. A B Za gornje trougaonu konačnu matricu, R.E. Hartwig i J.M. Shoaf [11] dokazali su da ( A B 0 D (I AA # )B(I DD # ) 0. U ovom slučaju 0 D ) # postoji ako i samo ako A # i D # postoje i # A B A # Y 0 D 0 D #, gde je Y (A # ) 2 BD π + A π B(D # ) 2 ( A # BD # ). Što se tiče ograničenih linearnih A B operatora, treba istaći da, ako je grupno invertibilan, ne možemo 0 D zaključiti da su i A i D grupno invertibilni. To ilustruje naredni primer: Primer 1. Definišemo M na l 2 l 2 (l 2 Hilbertov prostor kvadratno sumabilnih nizova) sa U I UU M 0 U,

GLAVA 2. GRUPNI INVERZ OPERATORA 15 gde je U desni šift operator definisan sa U(x 0, x 1, x 2,...) (0, x 0, x 1, x 2,...). Tada je M grupno invertibilan (zapravo, M je invertibilan), ali nisu i U i U grupno invertibilni. U je izometrija. Kodomen U nije l 2, već pravi potprostor od l 2. Kako je spektar operatora U zatvoren disk, 0 nije izolovana tačka spektra U. Dakle, ni U ni U nisu grupno invertibilni. Što se tiče grupnog inverza gornje trougaonih matričnih operatora, imamo sledeći rezultat: A B Lema 2.2. Neka su H i K Hilbertovi prostori, M operator na 0 D H K. Važe sledeća tvrdjenja: (i) Pretpostavimo da postoji D # (A # ). Tada postoji M # ako i samo ako postoji A # (D # ) i A π BD π 0. (ii) Pretpostavimo da postoje A # i D #. Tada postoji M # ako i samo ako A π BD π 0. U ovom slučaju je # A B A # Y 0 D 0 D #, gde je Y (A # ) 2 BD π + A π B(D # ) 2 A # BD #. (iii) Pretpostavimo da je H(K) konačno-dimenzionalan. Tada M # postoji ako i samo ako postoje A #, D # i A π BD π 0. Dokaz. (i) ( ) : Pretpostavimo da M # postoji i primetimo da je M 2 A 2 AB + BD 0 D 2, M 3 ( A 3 A 2 B + ABD + BD 2 0 D 3 Kako su M i D grupno invertibilni, R(M) R(M k ), N (M) N (M k ), R(D) R(D k ) i N (D) N (D k ) za svaki ceo broj k 2. Odatle, za svako x N (A 2 ), x 0 N (M 2 ) N (M). Stoga, Ax 0 i N (A 2 ) N (A). Kako je N (A) N (A 2 ), zaključujemo da je N (A 2 ) ).

GLAVA 2. GRUPNI INVERZ OPERATORA 16 N (A). Za svako z R(A), postoji x H takvo da je A B x z R(M) R(M 3 ). 0 D Sledi da postoje u H i v K takvi da ( A 3 A 2 B + ABD + BD 2 0 D 3 ) u v Zaključujemo da je v N (D 3 ) N (D), pa je zato z. 0 z A 3 u + A 2 Bv A 2 (Au + Bv) R(A 2 ). Prema tome, R(A) R(A 2 ). Kako je R(A 2 ) R(A) trivijalno, važi R(A 2 ) R(A), odakle je ind(a) 1, tj. A je grupno invertibilan. Sada, A je kao operator preslikavanje prostora N (A π ) R(A π ), D je kao operator preslikavanje prostora N (D π ) R(D π ), dok B kao operator preslikava N (D π ) R(D π ) u N (A π ) R(A π ), i imaju oblik A A1 0, D D1 0, B B1 B 3 B 4 B 2 (2.1) redom, gde su A 1 i D 1 invertibilni. Neka je I 0 B 1 D1 1 A 1 S I 0 0 I B 4 D1 1 0 0 I 1 B 3 Tada je S invertibilan, I B 1 D1 1 0 A 1 S 1 0 B 4 D1 1 I 0 0 I 0 I 1 B 3. i SMS 1 A 1 A 1 B 1 D1 1 0 D 1 0 B 2. (2.2)

GLAVA 2. GRUPNI INVERZ OPERATORA 17 # 0 B2 Kako je M grupno invertibilan, N postoji. Očigledno je N 2 0, pa važi N N 2 N # 0. Stoga, B 2 0, tj. A π BD π 0. ( ): Pretpostavimo da postoje A # i D #. Na osnovu (2.1) i (2.2) je A π BD π 0 i zato SMS 1 A1 A 1 B 1 D1 1 0 D 1 je grupno invertibilan. Lema 2.1 (i) implicira da je M grupno invertibilan. (ii) Tvrdjenje sledi direktno iz (2.2), a formula za grupni inverz se lako proverava. (iii) Dovoljan uslov je pokazan u (i). Dokažimo potreban uslov. Kako je dimenzija H konačna, asc(a) i desc(a) su konačni i asc(a) desc(a). Ako je M grupno invertibilan, na osnovu dokaza u (i), važi N (A 2 ) N (A), pa je desc(a) acs(a) 1 i A je grupno invertibilan. Potreban uslov sledi direktno iz (i) i činjenice da su M i A grupno invertibilni. A B Prethodna lema pokazuje da je grupno invertibilan ako i samo ako postoji A # i B A # AB. U tom slučaju je # A B A (A # ) 2 B. Za proizvoljan operator T B(H), predstavljamo sledeći pomoćni rezultat: Lema 2.3. Neka su L i M zatvoreni potprostori od H i P L,M idempotent na L duž M, tada: (i) P L,M T T akko R(T ) L; (ii) T P L,M T akko N (T ) M. Primetimo da, ako je A grupno invertibilan, onda je A + A π invertibilan i važi AA π A π A A # A π A π A # A π (I A π ) 0. Teorema 2.8. Neka su A, B B(H).

GLAVA 2. GRUPNI INVERZ OPERATORA 18 (i) Ako je A grupno invertibilan, onda je max{ A π B(I A π ), (I A π )BA π } [A, B] A #. (ii) Ako su A, B grupno invertibilni i [A, B] 0, onda je (AB) # B # A # A # B # i [A #, B] [A, B # ] [A #, B # ] [A π, B] [A, B π ] [A π, B π ] 0. (iii) Ako je A grupno invertibilan i AB BA 0, onda je A π B B BA π i A # B BA # 0. Specijalno, ako je i B grupno invertibilan, onda je Dokaz. AB # B # A 0, (A + B) # A # + B #, (A + B) π A π + B π I. (i) Kako je A π [A, B](I A π ) A π (AB BA)(I A π ) A π BA, sledi A π B(I A π ) A π BAA # A π BA A # A π [A, B](I A π ) A # [A, B] A #. Analogno, (I A π )BA π [A, B] A #. (ii) Neka A ima matričnu reprezentaciju na H R(A) N (A) u obliku A A 1 0, gde je A 1 invertibilan. Smatramo da ( je podela ) matrice B koja odgovara podeli matrice A data sa B 3 B1 B. Ako ( B 4 B ) 2 je [A, B] 0, na osnovu (i), važi A π B(I A π ) 0 i B 4 0 0 (I A π )BA π B3 0. Analogno, grupno invertibilan operator B 1 ima matričnu reprezentaciju na R(A) R(B 1 ) N (B 1 ) u obliku B 1 B 11 0. Na osnovu (i), A 1 ima odgovarajuću matričnu reprezentaciju A 1 A 11 A 22, gde su A 11, A 22 i B 11 invertibilni i [A 11, B 11 ] 0. Sada je A A 11 A 22 0, B B 11 0 B 2, A # A 1 11 A 1 22 0 B # B 1 11 0 B # 2. (2.3)

GLAVA 2. GRUPNI INVERZ OPERATORA 19 Dakle, (AB) # (A 11 B 11 ) 1 0 0 B11 1 A 1 11 0 0 A 1 11 B11 1 0 0 B # A # A # B #. Ostatak se dokazuje analogno. (iii) Na osnovu (ii), ako je AB BA 0, onda je A A 1 0, B 0 B 2, gde je A 1 invertibilan, a B 2 je grupno invertibilan. Dakle, Rezultat sledi direktno. A # A 1 1 0, B # 0 B # 2. Kao što je već poznato, grupni inverz idempotenta je on sam. Ako je AA # BB # BB # AA # ili AA # BB # AA # AA #, onda je (AA # BB # ) 2 AA # BB # i, na osnovu svojstava grupnog inverza, važi AA # BB # (AA # BB # ) #, AB ABB # AA # B, B # A # B # AA # BB # A #. Teorema 2.8 implicira ( da, ) za proizvoljne 2 2 matrične operatore S1 0 T1 T S, T 3 B(H T 4 T 1 H 2 ), ako je S 1 invertibilan i 2 [S, T ] 0, onda je T 3 0, T 4 0 i T T 1 T 2. Koristeći Teoremu 2.8 (i), potražićemo neke ekvivalentne uslove pod kojima važi AA # BB #. Teorema 2.9. Neka su A, B B(H) grupno invertibilni. Sledeći uslovi su ekvivalentni: (1) AA # BB # ; (2) R(A) R(B) i N (A) N (B); (3) A + B π je invertibilan i AA # AA # BB # BB # AA # ; (4) A + B π, A π + BB # su invertibilni i [A, B π ] 0; (5) A + B π, A π + B su invertibilni i [A π, B] 0; (6) A + B π, A π + BB # su invertibilni i [A π, B π ] 0;

GLAVA 2. GRUPNI INVERZ OPERATORA 20 (7) A π B 0 BA π i A π + B je invertibilan; (8) A π B 0 BA π i I + A # (B A) je invertibilan. Dokaz. Neka A ima matričnu reprezentaciju kao u dokazu Teoreme 2.8 (ii). Tada je A # A 1 1 0 i AA # I 0. Sada implikacije (1) (2), (1) (3), (1) (4), (1) (5), (1) (6), (1) (7) slede trivijalno. (2) (1): Očigledno. (3) (1): Ako je AA # AA # BB # BB # AA #, na osnovu Teoreme 2.8 (i), BB # ima oblik BB # I Q 2, gde je Q 2 idempotent. Ako je A + B π invertibilan, onda je I Q 2 invertibilan. Dakle, R(Q 2 ) N (I Q 2 ) {0}, pa je Q 2 0 i AA # BB #. (4) (1): Ako je [A, B π ] 0, na osnovu Teoreme 2.8 (i), B π ima formu B π (I Q 1 ) (I Q 2 ), gde su Q 1 i Q 2 idempotenti. Na osnovu invertibilnosti A + B π sledi da je Q 2 0, dok iz invertibilnosti A π + BB # sledi da je Q 1 I. Zato je BB # I B π I 0 AA #. (5) (1), (6) (1): Slično kao (4) (1). (7) (1): Ako je A π B 0 BA π, na osnovu Teoreme 2.8 (i), B ima formu B B 1 0, gde je B 1 B(R(A)). Ako je A π + B invertibilan, onda je B 1 invertibilan. Dakle, B # B1 1 0 i AA # BB #. (8) (1): Slično kao (7) (1). Ako su A i B n n kompleksne matrice, onda važi Klajnova formula (AB) D A[(BA) D ] 2 B. Za A, B B(H), ako je BA grupno invertibilan, jednostavno dolazimo do sledećeg rezultata: Lema 2.4. Neka su A, B B(H). Ako je BA grupno invertibilan, onda je AB Drazin invertibilan sa ind(ab) 2 i (AB) D A[(BA) # ] 2 B. Ako su i AB i BA grupno invertibilni, onda (AB) # A[(BA) # ] 2 B, (AB) # A A(BA) #, B(AB) # (BA) # B. (2.4) Dokaz. Neka je X A[(BA) # ] 2 B. Jasno je XABX X i ABX XAB A(BA) # B. Na osnovu (AB) 3 X (AB) 2 A(BA) # B A(BA) 2 (BA) # B (AB) 2 sledi da je X {1 2, 2, 5}-inverz od AB. Dakle, (AB) D X i ind(ab) 2. Štaviše, ako su AB i BA grupno invertibilni, onda je (AB) # (AB) D A[(BA) # ] 2 B,

GLAVA 2. GRUPNI INVERZ OPERATORA 21 (AB) # A A[(BA) # ] 2 BA, B(AB) # BA[(BA) # ] 2 B (BA) # B. Ako je AB ili BA grupno invertibilan, dolazimo do sledećih tvrdjenja. Teorema 2.10. (1) Ako su A i AB grupno invertibilni, onda AB(AB) # A A I + A # (B A) je invertibilan; (2) Ako su A i BA grupno invertibilni, onda A(BA) # BA A I + A # (B A) je invertibilan. Dokaz. Dovoljno je dokazati samo (1), jer se (2) dokazuje na isti način. Slično kao u dokazu Teoreme 2.8 (ii), neka A i B imaju matrične reprezentacije B1 B A A 1 0, B 3. B 4 B 2 A Jednostavno sledi da je I + A # 1 1 B (B A) 1 A 1 1 B 3 invertibilan ako 0 I i samo ako je B 1 invertibilan. Na osnovu AB(AB) # A ( A1 B 1 A 1 B 3 (A 1 B 1 ) # [(A 1 B 1 ) # ] 2 A 1 B 3 A1 B 1 (A 1 B 1 ) # A 1 0, ) (A1 0 sledi da je (AB)(AB) # A A A 1 B 1 (A 1 B 1 ) # I A 1 B 1 je invertibilan B 1 je invertibilan, pa sledi (1). Treba napomenuti da svojstva grupnog inverza impliciraju da je BA A 2 BAA # A BA # AA #. Štaviše, važi sledeći rezultat: Teorema 2.11. Neka su A, B, AB B(H) grupno invertibilni i BA A 2. Tada (AB)(AB) # ABB # A # (AB) # B # A # A # B # (A # ) 2. )

GLAVA 2. GRUPNI INVERZ OPERATORA 22 Dokaz. ( ): Očigledno. ( ): Kako ( je ) A grupno invertibilan, A i A # imaju matrične reprezentacije A1 0 A A i A # 1 1 0, u odnosu na razlaganje prostora H R(A) N (A). Sada, posmatramo podelu operatora B koja odgovara podeli ( operatora ) A. Iz BA A 2 znamo da se B može zapisati kao A1 B B 3, gde je B 0 B 3 B(N (A), R(A)) i B 2 B(N (A)). Na osnovu 2 Leme 2.2 važi ( A B # 1 1 A 2 1 B 3 B2 π A 1 1 B 3 B # ) 2 0 B # 2 i Dakle, (AB) # A 2 # 1 A 1 B 3 A 2 1 A 3 1 B 3. (AB)(AB) # ABB # A # I A 3 1 B 3 B 3 0. I 0 Sada je B A 1 B 2, B # A 1 1 B # 2 i (AB) # B # A # A # B # (A # ) 2. Primedba: Dokazi Teorema 2.8, 2.9, 2.11 nam daju više informacija o geometrijskoj strukturi izmedju dva operatora: (1) Teorema 2.8 (ii) implicira da, ako za grupno invertibilne operatore A i B važi [A, B] 0, onda je A A 11 A 22 0 0, B B 11 0 B 22 0 u odnosu na razlaganje prostora H [R(A) R(B)] [R(A) N (B)] [N (A) R(B)] [N (A) N (B)], pri čemu su A ii i B ii, i 1, 2, invertibilni. (2) U Teoremi 2.8 (iii), ako su A i B grupno invertibilni i AB BA 0, onda [R(A) R(B)] {0}, [R(A) N (B)] R(A), [N (A) R(B)] R(B) i A A 22 0 0, B 0 B 22 0 u odnosu na razlaganje prostora H R(A) R(B) [N (A) N (B)]. (3) Teorema 2.9 pokazuje da AA # BB # ako i samo ako A A 1 0, B B 1 0, u odnosu na razlaganje prostora H R(A) N (A), pri čemu su A 1 i B 1 invertibilni.

GLAVA 2. GRUPNI INVERZ OPERATORA 23 (4) Teorema 2.11 pokazuje da, ako je BA A 2, onda je AB(AB) # ABB # A # ako i samo ako A A 1 0, B A 1 B 2, u odnosu na razlaganje prostora H R(A) N (A), pri čemu je A 1 invertibilan, a B 2 grupno invertibilan. 2.3 Grupna invertibilnost proizvoda dva operatora C. Cao i J. Li [4] su pokazali da je BA grupno invertibilan ako je AB grupno invertibilan i AB BA, gde su A, B R n n, a R je Bezuov domen (ako je svaki konačno generisani levi (desni) ideal glavni ideal u nenula prstenu R sa jedinicom 1 i bez pravih delitelja nule). Možemo uopštiti ovaj rezultat za operatore na proizvoljnom Hilbertovom prostoru. Teorema 2.12. Neka su A, B B(H). Ako važe bilo koja dva od narednih uslova, važiće i treći: (i) postoji (AB) # ; (ii) postoji (BA) # ; (iii) AB BA. Dokaz. (i), (ii) (iii): Neka su AB i BA grupno invertibilni, P (AB) π I AB(AB) # i Q (BA) π I BA(BA) #. Tada je operator AB preslikavanje prostora N (P ) R(P ), BA preslikavanje prostora N (Q) R(Q), operator A preslikava N (Q) R(Q) u N (P ) R(P ) i operator B preslikava N (P ) R(P ) u N (Q) R(Q) i zapisujemo X 0 AB, BA ( Y 0 ) A1 A, A 3 B1 B, B 3, A 4 A 2 B 4 B 2 redom, gde su X B(N (P )) i Y B(N (Q)) invertibilni. Kako je Q I BA(BA) # I B(AB) # A (na osnovu Leme 2.4), AQ A AB(AB) # A P A, tj. ( A1 A 3 A 4 A 2 ) 0 I ( A1 A 3 0 A3 0 I A 4 A 2 0 A 2 A 4 A 2 Stoga, A i 0, i 3, 4, i A A 1 A 2. Slično, QB BP, što implicira da je B i 0, i 3, 4, i B B 1 B 2. Dakle, X A 1 B 1 i Y B 1 A 1 su invertibilni, A 2 B 2 0 i B 2 A 2 0. Iz X A 1 B 1 i Y B 1 A 1 zaključujemo da je N (Q) R(BA) R(B 1 A 1 ) R(B 1 ) N (Q) ). i N (B 1 ) N (A 1 B 1 ) {0}.

GLAVA 2. GRUPNI INVERZ OPERATORA 24 Sledi da je B 1 invertibilan. Neka je S B 1 I. Tada je SAB BAS, tj. AB BA. Implikacije (i), (iii) (ii) i (ii), (iii) (i) su očigledne na osnovu Leme 2.1 (i). Teorema 2.13. Ako su A, B B(H) grupno invertibilni i R(A) R(B), onda su AB i BA grupno invertibilni. Štaviše, (AB) # B # A # B # B, (BA) # A # B # A # A. Dokaz. Kako su A, B B(H) grupno invertibilni i R(A) R(B), na osnovu Leme 2.3 (i) važi BB # A A i AA # B B. Neka je X B # A # B # B. Tada XAB B # A # B # BAB B # A # AB B # B, XABX B # BX X, ABX ABB # A # B # B AA # B # B B # B, ABXAB B # BAB AB, tj. X (AB) #. Analogno, (BA) # A # B # A # A. Ako su A, B B(H) EP operatori i R(A) R(B), onda je R(A ) R(A) R(B) R(B ), odakle sledi A # B # B A # i B # A # A B #, na osnovu Leme 2.3 (ii). Posledica 2.1. Ako su A, B B(H) EP operatori i R(A) R(B), onda su AB i BA EP operatori. Štaviše, (AB) # (AB) B A B # A #, (BA) # (BA) A B A # B #. Teorema 2.13 takod e implicira da je A 2 grupno invertibilan i (A 2 ) # (A # ) 2 ako je A B(H) grupno invertibilan. Teorema 2.14. Neka su A, B B(H). Tada su AB i BA grupno invertibilni ako i samo ako su R(AB) i R(BA) zatvoreni, (i) R(AB) R(ABA), (ii) R(A B ) R(A B A ), (iii) R(BA) R(BAB), (iv) R(B A ) R(B A B ). (2.5)

GLAVA 2. GRUPNI INVERZ OPERATORA 25 Dokaz. ( ): Ako su AB i BA grupno invertibilni, onda su R(AB) i R(BA) zatvoreni (na osnovu Leme 2.1 (ii)). Grupna invertibilnost AB implicira da R(AB) R((AB) 2 ) R(ABA) R(AB). (2.6) Odatle je R(AB) R(ABA). Analogno, kako su BA, A B i B A grupno invertibilni, preostale jednakosti iz (2.5) se dokazuju na isti način. ( ): Ako su R(AB) i R(BA) zatvoreni i važi (2.5), onda je R(AB) R(ABA) AR(BA) AR(BAB) R(ABAB) R((AB) 2 ). Kako su R(A B ) i R(B A ) takodje zatvoreni, važi R(B A ) R(B A B ) B R(A B ) B R(A B A ) R(B A B A ) R((B A ) 2 ). Sledi da je N (AB) R(B A ) R((B A ) 2 ) N ((AB) 2 ). Odatle zaključujemo da je ind(ab) 1. Dakle, AB je grupno invertibilan. Analogno, BA je grupno invertibilan. Posledica 2.2. Neka su A, B B(H). (i) Ako je R(A) zatvoren, R(A) R(ABA) i R(A ) R(A B A ), onda su AB i BA grupno invertibilni. (ii) Ako su R(A) i R(B) zatvoreni, R(A) R(AB), R(B) R(BA), R(A ) R(A B ) i R(B ) R(B A ), onda su AB i BA grupno invertibilni. (iii) Ako je R(BA) zatvoren, AB grupno invertibilan, R(A) R(AB) i R(B ) R(B A ), onda je BA grupno invertibilan. Dokaz. (i) Kako je R(A) zatvoren, i R(A) R(ABA) R(AB) R(A) R(A ) R(A B A ) R(A B ) R(A ), onda su R(AB) i R(BA) zatvoreni i (i) i (ii) iz (2.5) važe. Slično, kako je R(BABA) BR(ABA) BR(A) R(BA),

GLAVA 2. GRUPNI INVERZ OPERATORA 26 važi i R(BA) R(BABA) R(BAB) R(BA) R(B A ) R(B A B A ) R(B A B ) R(B A ). Dakle, zadovoljeni su uslovi (iii) i (iv) iz (2.5). Na osnovu Teoreme 2.14, AB i BA su grupno invertibilni. (ii) Primetimo da je R(AB) AR(B) AR(BA) R(ABA). Analogno možemo pokazati da važe uslovi (ii) (iv) iz (2.5). Na osnovu toga i Teoreme 2.14 sledi tvrdjenje. (iii) Ako postoji (AB) #, na osnovu (2.6) je R(AB) R(ABA). Analogno, R(B A ) R(B A B ). Štaviše, i R(BA) BR(A) BR(AB) R(BAB) R(A B ) A R(B ) A R(B A ) R(A B A ). Na osnovu Teoreme 2.14 sledi tvrdjenje. 2.4 Grupna invertibilnost anti-trougaonog matričnog operatora Neka su A, B, D B(H). Definišemo matrične operatore M i M A dimenzije 2 2 na sledeći način A B B A M, M 0 D A. (2.7) D 0 0 I Tada je M A M. Jasno je da je matrica M I 0 A dobijena zamenom kolona matrice M, pa, pri razmatranju grupne invertibilnosti matrice M A, pažnju možemo usmetriti na matricu M. Podsetimo se da važi σ(p Q)\{0} σ(qp ) \ {0}, na osnovu čega sledi da je I + P Q invertibilan ako i samo ako je I + QP invertibilan. Biće nam potrebna naredna lema. Lema 2.5. Neka su A, B, Q B(H) takvi da je R(A) zatvoren i neka je U AQP AA + I AA.

GLAVA 2. GRUPNI INVERZ OPERATORA 27 (i) Ako je U invertibilan i ako postoje P 0, Q 0 B(H) takvi da važi P 0 P A A i AQQ 0 A, onda je T P AQ grupno invertibilan. (ii) Ako su P i Q invertibilni, onda važi T P AQ je grupno invertibilan U je invertibilan. Dokaz. (i) Ako je U AQP AA + I AA I + (AQP A A)A invertibilan, onda je V : I + A (AQP A A) A AQP A + I A A invertibilan. Sledi da je UA AV AQP A i Neka je A U 1 AQP A AQP AV 1. H P U 1 P 0, G Q 0 V 1 Q, X HT G, pri čemu P 0 i Q 0 zadovoljavaju P 0 P A A i AQQ 0 A. Na osnovu i T P AQ P [U 1 AQP A]Q P U 1 P 0 [P AQ][P AQ] HT 2 T P AQ P [AQP AV 1 ]Q [P AQ][P AQ]Q 0 V 1 Q T 2 G, možemo zaključiti da je T G HT 2 G HT i T 2 G 2 T G HT H 2 T 2. Dakle, T X T HT G T 2 G 2 H 2 T 2 HT GT XT, T XT T 2 X T 2 HT G T T 2 G 2 T 2 G T, XT X H 2 T 2 X HT X HT HT G HT 2 G 2 HT G X, odnosno, X je grupni inverz operatora T. Štaviše, T # HT G P U 1 P 0 P AQQ 0 V 1 Q P U 1 AV 1 Q P U 2 AQ P AV 2 Q.

GLAVA 2. GRUPNI INVERZ OPERATORA 28 (ii) Uočimo da je, na osnovu (i), T P AQ invertibilan ako je U invertibilan. Potrebno je još dokazati da je U invertibilan ako je T P AQ invertibilan. Primetimo da operator A preslikava R(A ) N (A) u R(A) N (A ), operator P preslikava R(A) N (A ) u H, dok operator Q preslikava prostor H u prostor R(A ) N (A), i ovi operatori imaju formu A1 0 A, P ( ) Q1 P 1 P 2, Q, Q 2 redom, pri čemu je A 1 B(R(A ), R(A)) invertibilan. Kako su P i Q invertibilni i A postoji, važi ( A A 1 1 A ) 3 P, P 1 1, Q 1 Q A 4 A 2 P 1 Q 2 2 i ( ) P 1P 1 P 1P 2 P 2P 1 P 2P 2 I 0, 0 I Q1 Q 1 Q 1 Q 2 Q 2 Q 1 Q 2 Q 2 I 0, (2.8) 0 I pri čemu su A i, i 2, 3, 4, proizvoljni. Sada je T P AQ P 1 A 1 Q 1 i U AQP AA + I AA A1 Q 1 P 1 [A 1 Q 1 P 1 I]A 1 A 3. (2.9) 0 I Neka je X grupni inverz operatora T. Za X važi (a) P 1 A 1 Q 1 XP 1 A 1 Q 1 P 1 A 1 Q 1, (b) P 1 A 1 Q 1 X XP 1 A 1 Q 1, (c) XP 1 A 1 Q 1 X X. Množenjem, najpre, jednačine (a) sa leve strane sa A 1 1 P 1, a zatim množenjem sa desne strane sa Q 1A 1 1 i primenjujući (2.8), sledi da je Q 1 XP 1 A 1 1. Analogno, na osnovu (2.8) i (b), važi da je Q 1 X A 1 1 P 1XP 1 A 1 Q 1. Stoga je P 1XP 1 A 1 Q 1 P 1 I, odakle sledi da je A 1 Q 1 P 1 levo invertibilan. Primetimo da (a) i (b) impliciraju da važi P 1 A 1 Q 1 XP 1 A 1 Q 1 P 1 A 1 Q 1 A 1 Q 1 X P 1 A 1 Q 1. Na osnovu (2.8) sledi A 1 Q 1 P 1 A 1 Q 1 XQ 1A 1 1 I, odakle je A 1 Q 1 P 1 desno invertibilan. Dakle, A 1 Q 1 P 1 je invertibilan i, na osnovu (2.9), sledi da je U invertibilan.

GLAVA 2. GRUPNI INVERZ OPERATORA 29 Za EP operatore važi naredni rezultat. Teorema 2.15. Neka su M i M A definisani kao u (2.7), a A i D su EP operatori. Tada (i) Sledeći uslovi su ekvivalentni: (a) M je EP operator; (b) A π BD π 0 i A # BD π + A π BD # 0; (c) B AA # B i B BDD # ; (d) R(B) R(A) i N (D) N (B). U ovom slučaju je A M M # # A # BD # 0 D #. (ii) M je EP operator i A π D π ako i samo ako je M A EP operator i M # 0 D A # A # A # BD #. Dokaz. (i) (a) (b): Na osnovu Leme 2.2 (ii), ako je M EP operator, onda je A π BD π 0 i operator ( A B MM # A # (A # ) 2 BD π + A π B(D # ) 2 ) A # BD # 0 D 0 D # AA # A # BD π + A π BD # 0 DD # je samokonjugovan. Sledi da je A # BD π + A π BD # 0. (2.10) (b) (c): Množenjem (2.10) sa desne strane sa D, zaključujemo da je A π B 0. Slično, BD π 0. (c) (d): Videti Lemu 2.3. A (c) (a): Na osnovu Leme 2.2 (ii), M # # A # BD # 0 D #. Kako su A i D EP operatori, direktno se proverava da M # zadovoljava jednačine (1)-(5) iz definicija Moore-Penroseovog i grupnog inverza.

GLAVA 2. GRUPNI INVERZ OPERATORA 30 0 D # (ii) ( ) : Neka su A i D su EP operatori i označimo X A # A # BD #. Na osnovu (i)(c), jednostavno se proverava da važi XM A DD # AA #, M A X AA # DD #, M A XM A M A, XM A X X. Na osnovu činjenice da su A i D EP operatori i da je A π D π, sledi da je M A EP operator. ( ) : Ako je M # 0 D A # A # A # BD #, onda je M A M # AA A # A π BD # 0 DD # i M # A M A DD # 0 A # BD π AA #. Kako je M A EP operator, važi M A M # A M # A M A, pa je A π D π, A π BD # 0 i A # BD π 0. Na osnovu MM # B A DD A M # 0 D 0 A # BD π AA # BDD AA # BD π A D 0 BD D A D 0 M, sledi da je BD # D B, pa je A π B A π BD # D 0. Pomoću (i)(c), zaključujemo da je M EP operator. Grupna invertibilnost operatora M ne implicira uvek grupnu invertibilnost operatora M A. To ilustruje sledeći primer. Primer 2. Definišimo operator M na H H H H sa A B M, 0 D

GLAVA 2. GRUPNI INVERZ OPERATORA 31 I 0 0 I I 0 gde su A, B, D. I 0 Na osnovu Leme 2.2 (ii), M je grupno invertibilan (zapravo, A π BD π 0). Kako je 0 I I 0 B A M A I 0 D 0 I 0, MA 2 0 I I 0 0 I I 0, važi R(M A ) R(MA 2), pa M A nije grupno invertibilan. A C 0 I C A Neka je T B(H H). Tada je T. 0 B I 0 B 0 Ako je R(T ) zatvoren, ( onda ) je, na osnovu Leme 2.5 (ii), anti-trougaoni C A matrični operator grupno invertibilan ako i samo ako je operator B 0 0 I U T T T I 0 + I T T invertibilan. Razmatraćemo naredne zanimljive slučajeve. Teorema 2.16. Neka su A, B B(H) takvi da su R(A) i R(B) zatvoreni i neka su c 1, c 2 C, a k, l N. C A (i) Ako je A invertibilan, onda je grupno invertibilan ako i samo B 0 ako je C(I B B) AB invertibilan. c1 A + c (ii) 2 B A je grupno invertibilan ako i samo ako je B 0 c1 A 2 A + I AA (1 + c 1 c 2 )ABB BAA c 2 B 2 B + I BB invertibilan. (iii) A k B l A je grupno invertibilan ako i samo ako je B 0 I AA ABB BAA BA k B l B + I BB invertibilan.

GLAVA 2. GRUPNI INVERZ OPERATORA 32 A A (iv) Ako je A 2 A, onda je grupno invertibilan ako i samo ako B 0 je I BB BABB invertibilan. Dokaz. (i) Neka je T A C. Ako je A invertibilan, onda je 0 B T A C 0 B A 1 A 1 CB 0 B i I 0 T T 0 BB. C A Na osnovu Leme 2.5 (ii), je grupno invertibilan ako i samo B 0 ako je operator 0 I U T T T + I T T I 0 C A I 0 B BB + 0 I BB C ABB B I BB (2.11) invertibilan. Primetimo da je ( I (CB + ABB ) C ABB ) I B 0 I B I BB C CB B AB 0. B I 0 I Sledi da je U invertibilan ako i samo ako je C(I B B) AB invertibilan. (ii) Kako su R(A) ( i R(B) zatvoreni, ) postoje ( A i B ) i jednostavno se 0 B 0 A proverava da je A {1} inverz od. Uočimo da važi 0 B 0 c1 A + c 2 B A B 0 ( I c2 I 0 I ) ( 0 A B 0 ) ( I 0 c 1 I I ).

GLAVA 2. GRUPNI INVERZ OPERATORA 33 c1 A + c Na osnovu Leme 2.5 (ii), 2 B A je grupno invertibilan ako B 0 i samo ako 0 A I 0 I c2 I 0 A 0 B U B 0 c 1 I I 0 I B 0 A 0 0 A 0 B + I B 0 A 0 c1 A (1 + c 1 c 2 )A AA 0 I AA 0 B c 2 B 0 BB + 0 I BB c1 A 2 A + I AA (1 + c 1 c 2 )ABB BAA c 2 B 2 B + I BB. (iii) Primetimo da je ( A k B l A I A k B l 1 B I Operator ) ( 0 A B 0 ). A k B l A je grupno invertibilan ako i samo ako važi B 0 0 A I A U k B l 1 0 A 0 B B I B 0 A 0 0 A 0 B + I B 0 A 0 0 A AA 0 I AA 0 B BA k B l 1 0 BB + 0 I BB I AA ABB BAA BA k B l B + I BB. A A (iv) Neka je c 1 1 i c 2 0 i primenimo (ii). Sledi da je grupno B 0 I ABB invertibilan ako i samo ako je BAA I BB invertibilan, što je ekvivalentno tome da je I BB BABB invertibilan.

Glava 3 Zakon obrnutog redosleda Ako su A i B invertibilni operatori, tada se jednakost (AB) 1 B 1 A 1 naziva zakon obrnutog redosleda za obične inverze. Med utim, ovaj zakon ne važi uvek za razne klase uopštenih inverza. Zakon obrnutog redosleda je korisno računsko sredstvo u primenama (rešavanje linearnih jednačina u linearnoj algebri ili numeričkoj analizi), a takod e je zanimljiv i sa teorijskog stanovišta. Navodimo, najpre, rezultate koji se tiču zakona obrnutog redosleda za Moore-Penroseov inverz. Poznat je rezultat Grevilla [9], da je (AB) B A ako i samo ako je R(A AB) R(B) i R(BB A ) R(A ), kada su A i B kompleksne (moguće i pravougaone) matrice. Ovaj rezultat uopštili su Bouldin [2] i Izumino [12] na linearne ograničene operatore na Hilbertovim prostorima. U ovom delu, pokazaćemo pod kojim uslovima važi zakon obrnutog redosleda za grupni inverz. Pretpostavimo da A, B, AB, A #, B # i A # AB imaju matrične reprezentacije u odnosu na dekompoziciju H R(A) N (A) date sa A1 0 B1 B A, B 3 A1 B, AB 1 A 1 B 3, B 4 B 2 A A # 1 1 0, B # C1 C 3, A # B1 B AB 3, C 4 C 2 (3.1) redom, pri čemu je A 1 invertibilan i svi operatori koji se pojavljuju su ograničeni linearni operatori izmed u odgovarajućih prostora. Na osnovu Leme 2.2 (i), A # AB je grupno invertibilan ako i samo ako je B 1 grupno invertibilan i B 3 B # 1 B 1 B 3 (ili R(B 3 ) R(B 1 )). 34

GLAVA 3. ZAKON OBRNUTOG REDOSLEDA 35 AB je grupno invertibilan ako i samo ako je A 1 B 1 grupno invertibilan i A 1 B 3 (A 1 B 1 ) # A 1 B 1 A 1 B 3 (ili A 1 R(B 3 ) A 1 R(B 1 )). Na osnovu Leme 2.2(ii) (A # AB) # i (AB) # se mogu zapisati kao ( ) (A # AB) # B # 1 (B # 1 ) 2 B 3, ( ) (AB) # (A 1 B 1 ) # [(A 1 B 1 ) # ] 2 A 1 B 3. (3.2) Koristeći predstavljanja u (3.1) i (3.2), dolazimo do sledećih rezultata. Teorema 3.1. Neka su A, B B(H) takvi da su A, AB i A # AB (ABB # ) grupno invertibilni. Tada (i) (AB) # (AA # B) # A # [AB, A π ] 0 i [A, (AA # B) π ] 0; (ii) (AB) # B # (ABB # ) # [AB, B π ] 0 i [B, (AB # B) π ] 0. Dokaz. (i) ( ): Neka su A, B, AB, A #, (A # AB) # i (AB) # predstavljeni kao u (3.1) i (3.2). Tada je A π I AA # 0 I i (AB) # (AA # B) # A # ( ) (A 1 B 1 ) # [(A 1 B 1 ) # ] 2 A 1 B 3 B # 1 A 1 1 0 { (a)(a1 B 1 ) # B # 1 A 1 1 (b)[(a 1 B 1 ) # ] 2 A 1 B 3 0. Pošto je AB grupno invertibilan, sledi da je A 1 B 3 A 1 B 1 (A 1 B 1 ) # A 1 B 3. Sada je B 3 A 1 1 A 1 B 1 (A 1 B 1 ) # A 1 B 3 A 1 1 (A 1 B 1 ) 2 [(A 1 B 1 ) # ] 2 A 1 B 3 0. Dakle, AB A 1 B 1 0 i [AB, A π ] 0. Na osnovu A 1 B 1 (A 1 B 1 ) # (A 1 B 1 ) # A 1 B 1 i (a), važi da je A 1 B 1 B # 1 A 1 1 B # 1 A 1 1 A 1 B 1,

GLAVA 3. ZAKON OBRNUTOG REDOSLEDA 36 iz čega sledi A 1 B 1 B # 1 B 1 B # 1 A 1. Primetimo da važi A A 1 0 i AA # B B 1 0, pa je (AA # B) π (I B 1 B # 1 ) I i [A, (AA # B) π ] 0. ( ): Na osnovu ( [AB, ) A π ] 0 ABA ( π 0) B 3 0 sledi AA # B1 0 B i (AA # B) π B π 1 0. Uočimo da se grupno invertibilni operator B 1 može zapisati kao B 1 B 11 0 sa B 1 B # 1 I 0. Na osnovu [A, (AA # B) π ] 0 A 1 B 1 B # 1 B 1 B # 1 A 1, iz Teoreme 2.8(i), A 1 se može zapisati kao A 1 A 11 A 22, pri čemu su A 11, A 22, B 11 invertibilni. Koristeći (3.2), zaključujemo (AB) # (A 1 B 1 ) # 0 (A 11 B 11 ) 1 0 0 B11 1 A 1 11 0 0 [B11 1 0 0][A 1 11 A 1 22 0] (AA # B) # A #. (ii) Na osnovu (i) važi da je (B A ) # (A ) # [B (A ) # A ] # ekvivalentno sa [B A, (A ) π ] 0 i [A, (B (A ) # A ) π ] 0. Zamenom A i B sa B i A, redom, važiće (AB) # B # (AB # B) # [AB, B π ] 0 i [B, (AB # B) π ] 0. Primedba: Kao što je već poznato, ako je AB grupno invertibilan, onda je R(AB) zatvoren. Štaviše, važi: (i) R(AB) je zatvoren ako i samo ako R(A # AB) je zatvoren. Zapravo, R[(A # AB) ] R[B A (A # ) ] B R[A (A # ) ] B R(A ) R[(AB) ]. (ii) N (AB) N (A # AB), što se može videti iz reprezentacije u (3.1). Teorema 3.2. Neka su A, B B(H) takvi da su A, AB i A # AB (ABB # ) grupno invertibilni. Tada važi:

GLAVA 3. ZAKON OBRNUTOG REDOSLEDA 37 (i) (AA # B) # B # AA # [A π, B] 0; (ii) (ABB # ) # BB # A # [A, B π ] 0. Dokaz. (i) ( ): Neka su A, B, A #, B # i (A # AB) # predstavljeni kao u (3.1) i (3.2). Na osnovu Leme 2.2, A # AB je grupno invertibilan ako i samo ako je B 1 grupno invertibilan i B 3 B 1 B # 1 B 3 B1(B 2 1) 2 # B 3. Tada Dakle, (AA # B) # B # AA # B1 0 B B 4 B 2 ( ) B # 1 (B # 1 ) 2 B 3 C 1 B # 1 B 3 0. C 4 0 i B # B # 1 C 3. 0 C 2 ( C1 ) 0 C 4 0 Kako su B i B 1 grupno invertibilni, na osnovu Leme 2.2, B 2 je grupno invertibilan, B2 π B 4 B1 π 0 i ( ) # B # B1 0 B # 1 0 B 4 B 2 B2 π B 4 (B # 1 ) 2 + (B # 2 ) 2 B 4 B1 π B # 2 B 4 B # 1 B # 2 B # 1 C 3. 0 C 2 Označimo sa Y B π 2 B 4 (B # 1 ) 2 +(B # 2 ) 2 B 4 B π 1 B # 2 B 4 B # 1. Tada je Y 0 i važi B2Y 2 B1 π 0, B2 π Y B1 2 0, B 2 Y B 1 0, B 2 B # 2 B 4 B1 π 0, B2 π B 4 B # 1 B 1 0, B 2 B # 2 B 4 B # 1 B 1 0, B 4 B1 π 0, B2 π B 4 0, B 2 B # 2 B 4 B # 1 B 1 0, B 4 B 2 B # 2 B 4 B # 1 B 1 0, B B 1 B 2 i [A π, B] 0.

GLAVA 3. ZAKON OBRNUTOG REDOSLEDA 38 ( ): Neka su A i A # predstavljeni kao u (3.1). Ako je [A π, B] 0, na osnovu Teoreme 2.8 (i), B se može napisati kao B B 1 B 2. Sada je B # B # 1 B # 2 i (AA # B) # B # 1 0 B # AA #. (ii) Slično kao u dokazu Teoreme 3.1 (ii). Teorema 3.3. Neka su A, B B(H) takvi da su A, B i A # AB (ABB # ) grupno invertibilni. Tada: (i) (AA # B) # A # B # A # [A π B, I A π ] 0; (ii) B # (ABB # ) # B # A # [AB π, I B π ] 0. Dokaz. (i) Zadržaćemo reprezentacije operatora A, B, A #, B # i (AA # B) # iz (3.1) i (3.2). ( ): Na osnovu (3.1) i (3.2), primetimo da važi i [A π B, I A π ] 0 A π B(I A π ) 0 B 4 0 (AA # B) # A # B # A # ( ) (A B # 1 (B # 1 ) 2 1 B 3 { C 1 B # 1. C 4 0 1 0 ) ( C1 C 3 A 1 C 4 C 2 1 0 Prema tome, ako je (AA # B) # B # A # B # A #, onda je B # 1 C 3. ( 0 C 2 ) B1 B Ostaje da pokažemo da je B 4 0 u reprezentaciji B 3. B 4 B 2 Zapravo )

GLAVA 3. ZAKON OBRNUTOG REDOSLEDA 39 (a) BB # B # B je ekvivalentno sa ( B1 B # ) 1 B 1 C 3 + B 3 C 2 B1 B # B 4 B # 1 + C 3 B 4 B # 1 B 3 + C 3 B 2, 1 B 4 C 3 + B 2 C 2 C 2 B 4 C 2 B 2 (b) B BB # B je ekvivalentno sa B1 B 3 U1 U 2, B 4 B 2 U 3 U 4 (c) B # B # BB # je ekvivalentno sa B # 1 C 3 V1 V 2, 0 C 2 V 3 V 4 pri čemu su U 1 B 1 + B 1 C 3 B 4 + B 3 C 2 B 4, U 2 B 1 B # 1 B 3 + B 1 C 3 B 2 + B 3 C 2 B 2, (3.3) U 3 B 4 B # 1 B 1 +B 4 C 3 B 4 +B 2 C 2 B 4, U 4 B 4 B # 1 B 3 +B 4 C 3 B 2 +B 2 C 2 B 2, V 1 B # 1 + C 3 B 4 B # 1, V 2 B 1 B # 1 C 3 + C 3 B 4 C 3 + B # 1 B 3 C 2 + C 3 B 2 C 2, V 3 C 2 B 4 B # 1, V 4 C 2 B 2 C 3 + C 2 B 2 C 2. Prema tome, (d) C 3 B 4 0 - upored ujući [1,1] elemente u (a) (e) C 2 B 4 B # 1 0 - upored ujući [2,1] elemente u (c) (f) B 4 B # 1 C 2 B 4 - upored ujući [2,1] elemente u (a) (g) B 4 U 3 - upored ujući [2,1] elemente u (b) (h) C 2 B 4 B 4 B # 1 B 4 B # 1 B 1 B # 1 C 2 B 4 B # 1 B 1 0, odakle je B 4 B 4 B # 1 B 1 + B 4 C 3 B 4 + B 2 C 2 B 4 0. ( ): Ako je A π B(I A π B1 B ) 0, onda je B 3. Kako su B i 0 B 2 A # AB grupno invertibilni, B 1 i B 2 su grupno invertibilni i # ( B # B1 B 3 B # ) 1 Y 0 B 2 0 B #, 2 gde je Y (B # 1 ) 2 B 3 B2 π + B1 π B 3 (B # 2 ) 2 B # 1 B 3 B # 2. ( Iz (3.1) i (3.2), važi A # A 1 1 0 i (A # AB) # je (AA # B) # A # B # A #. B # 1 (B # 1 ) 2 B 3 ), pa

GLAVA 3. ZAKON OBRNUTOG REDOSLEDA 40 (ii) Slično kao dokaz Teoreme 3.1 (ii). Primedba: (1) Jasno je da AA # BAA # BAA # R(BAA # ) R(A) A π B(I A π ) 0 [A π B, I A π ] 0 i BB # ABB # BB # A N (BB # A) N (B) (I B π )AB π 0 [AB π, I B π ] 0. (2) Ako važi Teorema 3.2 (i) (Teorema 3.2 (ii)), onda važi Teorema 3.3 (i) (Teorema 3.3 (ii)). Obrnuta implikacija ne važi. (3) Na osnovu Teoreme 3.1 i Teoreme 3.3 možemo zaključiti sledeće: (I) Ako važe Teorema 3.1 (i) i Teorema 3.3 (i), onda je (AB) # B # A # ; (II) Ako važe Teorema 3.1 (ii) i Teorema 3.3 (ii), onda je (AB) # B # A #. Teorema 3.4. Neka su A, B B(H) takvi da su A, B i AB grupno invertibilni. Tada: (i) B # (AB) # A R(B) R(A), [A π, B] 0 i [A, B π ] 0; (ii) A # B(AB) # R(A) R(B), [A π, B] 0 i [A, B π ] 0. Dokaz. (i) Zadržaćemo reprezentacije operatora A, B, AB, A # i (AB) # iz (3.1) i (3.2). Na osnovu B # (AB) # A ( (A 1 B 1 ) # [(A 1 B 1 ) # ] 2 A 1 B 3 ) (A1 ) 0 (A 1 B 1 ) # A 1 0 (3.4)

GLAVA 3. ZAKON OBRNUTOG REDOSLEDA 41 i B # B BB #, važi (A1 B 1 ) # A 1 0 B1 B 3 B1 B 3 (A1 B 1 ) # A 1 0, B 4 B 2 B 4 B 2 odakle sledi (A1 B 1 ) # A 1 B 1 (A 1 B 1 ) # A 1 B 3 ( B1 (A 1 B 1 ) # ) A 1 0 B 4 (A 1 B 1 ) #. A 1 0 Uporedjujući obe strane prethodne jednakosti i koristeći invertibilnost operatora A 1, zaključujemo B 4 (A 1 B 1 ) # 0 (A 1 B 1 ) # A 1 B 3 0 (A 1 B 1 ) # A 1 B 1 B 1 (A 1 B 1 ) # A 1. (3.5) Kako je AB grupno invertibilan, sledi A 1 B 3 A 1 B 1 (A 1 B 1 ) # A 1 B 3. Druga jednakost iz (3.5) implicira da je B 3 A 1 1 A 1 B 1 (A 1 B 1 ) # A 1 B 3 0. Na osnovu BB # B B, primenjujući jednakost iz (3.4), važi B1 0 (A1 B 1 ) # A 1 0 B1 0 B1 0 B 4 B 2 B 4 B 2 B 4 B 2 B1 (A 1 B 1 ) # A 1 B 1 0 B1 0, B 4 B 2 pa sledi B 2 0 i B 4 0. Sada je B B 1 0 i BB # B 1 (A 1 B 1 ) # A 1 0 (A 1 B 1 ) # A 1 B 1 0 B # B, (3.6) na osnovu (3.4) i treće jednakosti iz (3.5). Primetimo da je A A 1 0, gde je A 1 invertibilan i A π 0 I. Jasno je da važi R(B) R(A) i [A π, B] 0. Na osnovu (3.6), važi [A, B π ] AB π B π A B # BA AB # B 0. ( ): Neka A i A # imaju reprezentacije kao u (3.1). Ako je R(B) R(A) i [A π, B] 0, na osnovu Teoreme 2.8 (i), B možemo zapisati u obliku B B 1 0, pri čemu je B 1 grupno invertibilan. Analogno, kako je [A, B π ] 0, na osnovu Teoreme 2.8 (i), važi da B 1 i A 1, kao ograničeni linearni operatori koji preslikavaju prostor R(A) R(B 1 ) N (B 1 ), imaju oblike B 1 B 11 0, A 1 A 11 A 22,

GLAVA 3. ZAKON OBRNUTOG REDOSLEDA 42 pri čemu su A 11, A 22, B 11 invertibilni. Dakle, A A 11 A 22 0, B 1 B 11 0 0, (AB) # (A 11 B 11 ) 1 0 0 B 1 11 A 1 11 0 0, B # B 1 11 0 0 (AB) # A. (ii) Slično dokazu Teoreme 3.1 (ii). Na osnovu dokaza Teoreme 3.4, jasno je da su naredni uslovi dovoljni kako bi važio zakon obrnutog redosleda za grupni inverz (AB) # B # A # : B # (AB) # A (AB) # B # A #, A # B(AB) # (AB) # B # A #. Teorema 3.5. Neka su A, B B(H) takvi da su A, B i A # AB (ABB # ) grupno invertibilni. Tada: (i) AA # B B(AB) # AB [A π B, AB(I A π )] 0; (ii) ABB # AB(AB) # A [AB π, (I B π )AB] 0. Dokaz. (i) Zadržaćemo reprezentacije operatora A, B, A # i (AB) # iz (3.1) i (3.2). Tada je [A π B, AB(I A π )] A π BAB(I A π ) B1 B 3 A1 0 B1 B 3 I 0 0 I B 4 B 2 B 4 B 2. B 4 A 1 B 1 0 Jasno je da važi [A π B, AB(I A π )] 0 B 4 A 1 B 1 0. A1 B Kako je AB 1 A 1 B 3 grupno invertibilan, onda je A 1 B 1 grupno invertibilan, A 1 B 1 A 1 B 1 (A 1 B 1 ) # A 1 B 1