Perspektive BI

Транскрипт

1 Fakultet organizacionih nauka Upravljanje razvojem IS Doc. dr Ognjen Pantelić Analitička obrada: IS za podršku odlučivanju

2 Raskorak u znanju i odlučivanju Izvor: Gartner Group 2/51

3 Transakcioni IS OLTP (On-Line Transaction Processing) Registrovanje, obrada, arhiviranje, prikaz pojedinačnih podataka transakcija Manipulacija transakcijama, procesima koji su frekventni i ponavljajući, paralelno se izvode (primer: bankarski poslovi, rezervacije letova, naručivanje robe). Connection Managers Transakcije najčešće imaju samo jedan ili nekoliko definisanih koraka. Server Clients OLTP 3/51

4 Zašto je teško dobiti kvalitetne izveštaje iz OLTP sistema? Zato što to podrazumeva: Analizu velike količine sirovih podataka, Dugotrajno je, Komplikovano za upotrebu i prikazivanje, Potrebna je uključenost informatičara, Teško je izvodljivo za operativni sistem, OLTP sistem i izveštavanje: nije problem u količini podataka, već u njihovoj dostupnosti! Rezultat - više verzija istine. "Analiza-Paraliza!" 4/51

5 Poslovna inteligencija* (Business Intelligence, BI) *Izraz poslovna inteligencija je najčešće korišćeni prevod engleskog pojma business intelligence, iako se koriste i termini poslovno izveštavanje, poslovno istraživanje i upravljanje poslovnim informacijama. Danas se takoďe koristi I termin Business analytics poslovna analitika.

6 BI - definicije Poslovna inteligencija predstavlja korišćenje svih potencijala podataka i informacija u preduzeću radi donošenja boljih poslovnih odluka i, u skladu sa tim, identifikaciju novih poslovnih mogućnosti. Poslovna inteligencija kao rešenje sadrži tehnologije i proizvode čiji je cilj da obezbede informacionu podršku kada treba doneti operativne i strateške poslovne odluke. 6/51

7 BI - opšti model Izbor podataka iz transakcione baze koji su zanimljivi za analizu Ekstrakcija, transformacija i čišćenje podataka Smeštanje podataka u skladište Data Warehouse Formiranje OLAP kocke Izrada predefinisanih i ad hoc izveštaja. TRANSAKCIONA BAZA PODATAKA Ekstrakcija, transformacija, čišćenje podataka Data Warehouse OLAP 7/51

8 Tipovi aplikacija poslovne inteligencije 1. Izveštajne aplikacije 2. Ad hoc upiti i izveštavanje 3. Multidimenzionalna analiza 4. Statističke analize i data mining 5. Planiranje 8/51

9 BI Poslovna inteligencija 9/51

10 Ključne tehnologije poslovne intelignecije Data Warehousing OLAP (Online analitical processing) Data Mining (neuronske mreže, stabla odlučivanja, klaster analiza i tekst mining) 10/51

11 ETL (extract, transform and load ) proces koji prethodi DW Ekstrakcija programi i alati za ekstrakciju su takvi da se ETL procesi obavljaju što je moguće brže, tako da operativni poslovi trpe što manje. pojava velikog stepena redundanse podataka Transfomacija različiti formati podataka, netačne vrednosti podataka, nekonzistentnost primarnih ključeva, problem sinonima i homonima, skrivena procesna logika Punjenje skladišta podataka programi za inicijalno punjenje, programi za punjenje starijih podataka, programi za inkrementalno punjenje 11/51

12 Arhitektura data warehouse sistema 12/51

13 Konstrukcija OLAP kocke 14/02/97 Ukupno aktiva Blagajnička operativa Gotovina Krediti i investicije Prekoračenja Kratkoročni krediti (<1 god) Srednjoročni krediti (1-5 god) Dugoročni krediti (>5 god) Ukupno ostala potraživanja 6580 Ukupno potraživanja 1650 Ukupno ulaganja Dugovanja po ne FIs Zahtevi za ulaganjima Depoziti (1-6 meseci) Depoziti (3-6 meseci) Depoziti (6 meseci - 1 god) Depoziti (>1 god) 1450 Povraćaj vrednosti Ukupne rezerve Ostale rezerve Bilans tabela: Poslovnica 1 Poslovnica 2 Poslovnica 3... Poslovnica n 13/51

14 Konsolidacija tabela OLAP kocka Poslovnice Podatak Vreme Periodična optimizacija tabela 14/51 Dvodimenzionalne tabele Podaci iz DW-OLTP

15 Primer OLAP kocke KLJUČEVI DIMENZIJE Proizvod Region Mesec Prodaja Slog #1 Film Istok Dec Slog #2 Sočiva Jug Jan Slog #3 Kamere Sever Feb Slog #4 Film Jug Mar Slog #5 Sočiva Istok Apr Slog #6 Film Jug Maj Slog #7 Kamere Sever Jun Slog #8 Sočiva Jug Jul Slog #9 Film Istok Avg Region Mesec Sever Jan Feb Jug Istok PRODAJA Mar Proizvod Film Sočiva Kamere 15/51

16 Kako se razvija BI? Quick-Hit pristup Ovaj pristup je najzastupljeniji kod BI-a. Inicijativa uglavnom dolazi od strane menadžera, tako da je BI izgraďen podjednako od strane menadžera kao i od strane programera. Razvoj korišćenjem tradicionalnog životnog ciklusa Metodologija pogodna za kompleksne sisteme koje koriste mnogi korisnici. Veliki organizacioni BI je modelno orijentisan. Iterativni razvoj Prototip sistema jednostavna inicijalna verzija koja se koristiti prilikom eksperimenata i pomoću koje korisnici uče kako da postignu željene karakteristike sistema. Zasniva se na izgradnji prototipa i njegovom poboljšavanju. Budući korisnik i tvorac BI-a zajedno definišu problem koji žele da reše i identifikuju najpotrebnije elemente. Programer izraďuje jednostavnu verziju sistema, dopunjavajući je kasnije složenijim aspektima. 16/51

17 Načini integracije poslovne inteligencije u poslovne procese Tehnika br.1: Integracija analitičkih aplikacija sa operativnim aplikacijama korišćenjem enterprise portala da bi podacima mogli pristupiti interni i eksterni korisnici. Tehnika br.2: Ugnježdenje analitičkih metoda u operativne aplikacije u procesu razvoja aplikacija. Tehnika br. 3: Uvodjenje Web servisa koji će dinamički integrisati analitičke metode sa internim ili partnerovim operativnim aplikacijama radi podrške zajedničkom poslovanju. 17/51

18 Neka od postojećih komercijalnih rešenja BI Proizvodjači Komponente platforme za poslovnu inteligneciju IBM Microsoft Oracle (SAP) Sybase Websphere Portal, Lotus Workplace, Webshpere Business Integration Modeler, WBI Monitor, WBI server, Websphere MQ Office Sharepoint, BizTalk Orchestrator, BizTalk Server, SQL Server DTS 9iAs Portal and Collaboration Suite, 9iAs Integration Workflow, 9iAs Integration, Oracle Warehouse Builder Power Builder, IQ 18/51

19 Primena BI u različitim industrijama Tip BI aplikacije Enterprise izveštavanje Multi dimenzionalne analize Ad hoc analize Statistika i Data Mining Finansijske usluge Koliko je ukupno nevraćenih kredita? Kolika je njihova ukupna vrednost? Kakav je trend aktivnosti kupaca nakon najnovije marketinške kampanje? Definisati kako će na partnere uticati pojava terorizma. Koliki je rizik za reinvesticiju ostvarene dobiti? Trgovina Telekomunikacije Farmacija Da li je obrt u skladu sa planiranim? Koja su tri naprodavanija proizvoda na jugoistoku zemlje? Odrediti kako će povećanje obima odloženog plaćanja uticati na prodaju. Koliko su ispravne prognoze prodaje u poslednjih 12 meseci? 19/51 Koji procenat zaposlenih je prošao trening na najnovijim tehnologijama? Koji je najprofitabilniji segment? Prikazati grafički broj linkova za spore pakete u cilju optimizacije saobraćaja na mreži. Kako strukturirati medjugradske pozive kako bi zadržali lojalnost klijenata? Da li se razvoj novih lekova odvija po ranije definisanom planu? Kakav je trend prodaje po regionima za novu vrstu leka? Kako će novi način prepisivanja recepta uticati na prodaju po regionima. Da li regresiona analiza može da odgovori da li preći sa fermentacije na hemijsku sintezu?

20 Organizacione barijere za primenu poslovne inteligencije Promene u strukturi moći Kulturološki imperativi Preraspodela autoriteta i problem sa kadrovima 20/51

21 Šema OLAP-a FON-a 21/51

22 BI Portal FON-a 22/51

23 Korisni linkovi: /51

24 DW Data Webhouse

25 Osnovni koncepti Webhouse-a: Praćenje akcija korisnika sajtova, Analiziranje korisničkih komunikacija u realnom vremenu, Analiziranje tehnike za prikupljanje podataka o kupcima, Dizajn veb-sajtova da podrže warehousing, Dizajn web-enabled Data Marts (skladišta podataka organizovanih na data warehousing konceptu, orijentisanih na jedan konkretan problem) 25/51

26 Osnovna Webhouse arhitektura Web Logs Clickstream Loader Warehouse Builder Database OLAP Alati 26/51

27 Clickstream Collector Server Farm Firewall Clickstream Intelligence System Agent http(s) or ftp Agent Collector Server Agent 27/51

28 Primer Log File rekorda 28/51

29 WEBHOUSE MODEL - podaci o vremenu pristupa sajtu, - podaci o korisniku, - stranice koje su posećene, - specijalne kontrole (npr. da li je stranica potpuno učitana), - podaci iz cookie-ja o korisniku. Iz toga se izvlače: - činjenična tabela clickstream-a i - dimenzione tabele u okviru šeme zvezde. 29/51

30 Clickstream analitika Koji je odnos novih i ponovnih posetilaca? 30/51

31 Studija slučaja: Portal NekretnineSrbije Analiza ključnih faktora U Zemunu se uglavnom prodaju kuće i zemjište, a na Novom Beogradu se pretežno prodaju stanovi 31/51

32 Data Webhouse - problemi: Identifikacija posetilaca IP adresa nije uvek pouzdana Cookie identifikuje računar, a ne osobu Sigurnost i zaštita podataka i način njihovog učitavanja i stavljanja na raspolaganje; PrilagoĎavanje interfejsa za višekorisničke varijante; PrilagoĎavanje browser-a za dinamičke analize; Integracija sa postojećim aplikacijama koje nisu razvijene za Web okruženje. 32/51

33 Big data Veliki setovi podataka! Po procenama stručnjaka u odnosu na godinu kada je u svetu postojalo oko 800 eksabajta digitalnih podataka do očekuje se da će se ovaj broj povećati 44 puta i dostići 35 zetabajta Teški za skladištenje, pretragu, razmenu, prikazivanje i analizu. Nestruktuirani,složeni, obimni podaci! 3 ključne tehnologije: Information management, High-performance analytics, Flexible deployment. 33

34 Praćenje Big data 34

35 kapacitet za tip sadržaja do 2015

36 Hadoop 36/51

37 Razlike HIV/PIG Hive Jezik HQL (SQL-like) PigLatin Shema/ Tip Da (eksplicitna) Da (implicitno) Podela Da Ne Server Opciono (Thrift) Ne Definisanje od strane korisnika Da (Java) Prilagođeni serijalizer/ deserijalizer Da Pig Da (Java) DFS direktan pristup Da (implicitno) Da (eksplicitno) Spajanje/Poručivanje/Sortiran je Shell Da Da Streaming (protok) Da Da Veb interfejs Da Ne JDBC/ODBC Da (ograničeno) Ne Da Da Da 37/51

38 Google s BigQuery

39 Razlike BigQuery/MapReduce BigQuery MapReduce Šta je Servis upita za velike setove podataka. Programski model za procesuiranje ogromnih setova podataka. Uobičajena upotreba Ad hoc slanje upita i traženje rešenja grešaka putem pokušaja i pogrešaka u velikim setovima podataka za brze analize i dijagnostikovanje problema. Procesuiranje serija velikih setova podataka za dugotrajnu konverziju ili agregaciju podatajka. Primeri upotrebe OLAP/BI Da Ne Pretraga podataka Delimična Da Brzi odgovori Da Srednje - Hive Ne-Pig (može da traje danima) Laka upotrebe za neprogramere Da Manja Hive Ne- Pig Programiranje procesnih logika za obradu kompleksnih podataka Ne Da Procesuiranje nestrukturiranih podataka Ne (ili tek delimično) Da

40 Hadoop i Hive na Facebook-u