08.11.2022

Ohjeita tietovarastoprojektin auditointiin

Hei,

Olen tehnyt urani aikana paljon data-alaan liittyviä auditointeja ja kerron seuraavaksi hieman tietovarastoihin sekä alustoihin liittyvistä arvioinneista ja mitä niissä kannattaa ottaa huomioon.

Tietovarasto- ja BI-hankkeet ovat usein monimutkaisia, teknisesti vaativia ja aikataulumielessä haastavia.

Nämä hankkeet ovat liiketoiminnalle kuitenkin hyvin tärkeitä, onhan kyseessä organisaation huipputärkeän omaisuuden eli datan saaminen tietojärjestelmien uumenista palvelemaan alati lisääntyviä tietotarpeita päätöksenteon tueksi, koneoppimisen malleihin tai ohjelmistokehitykseen.

Tyypillisesti tietovarastohankkeita kilpailutetaan ja sitten valittu toimittaja toteuttaa. Hankkeet ovat usein pitkiä ja herää kysymys: miksi emme saa tuloksia nopeammin. Tilaajaosapuolta saattaa huolettaa onko valittu oikeat tekemisen menetelmät, teknologiat ja ohjelmistot. Toimittaja haluaa ehkä toteuttaa Data Vault -menetelmällä, joka ei ole tuttu.

Mietityttää syntyykö tässä hankala toimittajalukko – hyvänkään toimittajan kanssa ei haluta joutua lopulliseen pakkoliittoon.

 

Auditointi tilannekatsauksena

Näissä tilanteissa jonkinlainen tilannekatsaus alkaa tuntua tarpeelliselta. Halutaan tietää ollaanko menossa oikeaan suuntaan, kannattaako näillä linjoilla jatkaa vai muutetaanko jotakin. Tai peräti lopetetaan koko hanke ja aloitetaan uusin eväin.

Tietovarastoauditointi on yksi tapa saada asiantuntijoiden tekemä tilanteen kuvaus ja näkemys menossa olevasta hankkeesta sekä jatkosuositukset.

Kerron tässä blogissa ajatuksiamme ja käytännön kokemuksiamme auditointien tekemisestä.

 

Pöydänjalkamalli

Olemme käyttäneet näissä auditoinneissa kehittämäämme pöydänjalkamallia. Tausta-ajatus on se, että pöydässä on oltava neljä jalkaa kunnossa, jotta pöytä ei keiku.

Auditoinnin pöydänjalkamallissa jalat ovat: strategia, arkkitehtuuri + menetelmät, työn organisointi ja työkalut.

Jos vaikka on modernit työkalut mutta liiketoiminnan ja konsulttien kommunikointi ei toimi, ei tule hyvä –  organisointijalka pettää. Tai muut asiat ovat kunnossa, mutta johdon näkemykset eli strategia puuttuu, tulee ehkä teknisesti hyvä tietovarasto, mutta se ei palvele kyseistä liiketoimintaa.

Laajennetussa pöydänjalkamallissa on vielä kaksi komponenttia. Lattian on oltava suora ja tukeva, jotta pöytä seisoo hyvin. Analogia tässä on johdon tuki ja rahoitus hankkeelle, jonka päällä kaikki siis on. Toiseksi, pöydän on oltava valaistu, sitä vastaa jatkuva kouluttautuminen ja kehittyminen.

Pöydänjalkamalli toimii siis viitekehyksenä, jonka avulla arviodaan tietovarastohankkeen eri osa-alueita.

 

Strategia

Strategiassa määritetään tiedonhallinnalle asetetut tavoitteet ja linjaukset. Parhaimmillaan tiedonhallinnan strategia on luonnollisena osana organisaation yleistä strategiamäärittelyä. Toiseksi paras on, että strategia on tehty erikseen.

Tietokeskeisen johtamisen strategia kuvaaa selkeästi johdon tahtotilan ja tavoitteet. Nämä on tärkeää tehdä selväksi koko organisaatiolle.

Yllättävän usein auditoinneissamme jää strategiapöydänjalka lyhyeksi; asiaa on ehkä ajateltu, mutta selkeä määrittely puuttuu. Liiketoiminnan puolella on ehkä uutta paneutua tähänkin asiaan, edelleen usein ajatellaan että ”IT hoitaa”.

Tällaisissa tilanteissa suosittelemme sparrausta ja tietoiskuja johdolle, jossa briifataan tietovarastoinnin ja Bi-alueen ratkaisuja, organisointimalleja ja hieman teknologioitakin. On hyvin tärkeää että tämä tehdään lyhyinä tietoiskuina käyttäen ymmärrettävää kieltä, ei siis IT-alueen ”kolmikirjainsoppaa” joka herättää enemmän turhautumista kuin oppimista.

 

Arkkitehtuuri ja menetelmät

Auditoinnissa käydään läpi valittu arkkitehtuuri ja se osat, joita voivat olla esimerkiksi lastauslaituri, tietoallas (data lake), itse tietovarasto ja esityskerros. Tarkistetaan myös onko käytetty pilvipalveluja ja miten.

Isommissa hankkeissa on yleistä rakentaa keskitettyä, laajempaa tietovarastoa. Näissä on yleistynyt ns. Data Vault -arkkitehtuuri. Itse tietovarasto on yleensä SQL-pohjainen relaatiokanta.

Jos aineistoa syntyy paljon – kuten IoT -alueella – tai se on rakenteeltaan ei-strukturoitua, saatetaan toteuttaa tietoallasteknologioilla. Monasti on vielä kahden edellisen yhdistelmä, jossa tietoja ensin kootaan tietoaltaalle ja sitten ladataan tietovarastoon.

Tietovaraston laajennettavuus arvioidaan, samoin käytetyt tietojen historioinnin menetelmät.

Menetelmistä tärkein on tietovaraston suunnittelun menetelmä. Auditoinnissa käydään läpi miten mallinnus on tehty. Jos on tehty liiketoiminnan kanssa käsitemallinnusta, tulee plussaa. Jos ei, annamme suosituksen panostaa tälle alueelle. Jos arkkitehtuuri on Data Vault, arvioidaan tietovaraston teknisempi Data Vault mallinnus.

Esityskerroksen toteutustapa käydään myös läpi. Tähän saattaa liittyä suosituksia liiketoimintaihmisten omatoimisen kyselyn eli ns. itsepalvelu-BI:n kehittämiseen.

 

Työn organisointi

Organisoinnin auditoinnissa tarkistetaan hankkeen mahdollinen projektointi, kaikenlainen yhteistyö eri sidosryhmien kesken sekä mukana olevien henkilöiden sopivuus kyseisiin tehtäviin.

Liiketoiminnan ja IT:n välinen yhteistyön sujuminen on itse asiassa on ollut pohdinnan alla jo vuosikymmeniä. Tietovarastohankkeet eivät tee poikkeusta.

Toimitusjohtajamme Jari Ylinen on vuosien saatossa kehittänyt erittäin toimivan ns. tiedonhuolto-organisaation mallin. Sekä liiketoimintaan että IT-puolelle määritellään erityisiä datarooleja, kuten tietovastaavan ja tiedonhuoltajan roolit. Myös ehdotus ohjausryhmästä, joka päättää mm. toteutusten priorisoinnista.

Näiden organisointitapojen avulla on saatu kolmikon liiketoiminta – IT – toimittaja yhteistyö toimimaan ratkaisevasti paremmin. Tiedonhallinnan kulttuuri ja organisaation kyky ottaa omat tiedot haltuun nousevat aivan uudelle tasolle!

Edellä mainittuun liittyy oman organisaation koulutuksen ja tietämyksen tason jatkuva kehittäminen.

 

Työkalut

Tämä pöydänjalka pitää sisällään tietokantajärjestelmät, mahdolliset latausohjelmistot ja kiihdyttimet, BI-työkalut, tiedon mallinnustyökalut jne.

Auditoinnissa tarkastetaan, että työkalut ovat sopivat kyseiselle toteutukselle. Työkalujen vaihtaminen ei ole pikku juttu, joten aivan kevyesti auditoijat eivät lähde suosittelemaan isoja muutoksia.

Jos auditointi pitää sisällään myös teknisempää tarkastelua, asiantuntijat tutkivat tietovaraston latausprosesseja, niiden toteutustapoja ja toteutustyön laatua. On tärkeää, että latausprosessit on hyvin kuvattu, eivätkä ole liikaa jonkin henkilön erityistä ”käsialaa” – tämä siksi, että jokin toinen taho pystyy tarvittaessa ottamaan vastuun jatkokehittämisestä.

Edelleen tapauskohtaisesti arvioidaan BI-alueen toteutuksia ja menetelmiä. Tähän saattaa liittyä liiketoimintaihmisten omatoimisen kyselyn työkalut ja toteutustavat.

Teknisempiin tarkistuksiin saattaa liittyä tarve tutkia latauksen suorituskykyongelmia tai ajettavien raporttien hitautta ja esittää näihin parannusehdotuksia.

 

Laajennetun pöydänjalkamallin lisät

Kuten jo mainittiin, pöydän alle tarvitaan tukeva lattia eli rahoitus ja johdon tuki. Jos johto on kiinnostunut hankkeesta osana organisaation tiedolla johtamisen strategioita, ennuste on hyvä. Jos taas johdossa nähdään hanke vain jonkinlaisena pakollisena teknisenä projektina, se yleensä jääkin sellaiseksi ja liiketoiminnan saama hyöty vastaavasti pieneksi.

Meillä on hyviä kokemuksia IT-henkilöille laaditusta pitkäjänteisestä tiedonhallinnan koulutusohjelmasta. Yhdistettynä mainittuun tiedonhuolto-organisaatiomalliin innostus data-asiohin kasvaa silminnähden.

Olemme havainneet suurta tiedonhallinnan koulutustarvetta myös liiketoiminnan puolella. Monilla ei vielä ole ollut alueeseen liittyvää koulutusta tai kokemuksia. Kuitenkin joudutaan  tekemään hintavia ja pitkäkantoisia päätöksiä raportoinnin ja tietovarastoinnin ratkaisuista.

Tämä on siis pöydän yllä tarvittava valaistus.

 

Kokemuksia

Organisaatiot, hankkeet ja tilanteet ovat aina erilaisia, joten suositukset ovat yksilöllisiä. Samankaltaisuuksia kuitenkin löytyy.

Organisointi on pöydänjalka, josta ehkä useimmiten löytyy parannettavaa. IT-henkilöt ja konsultit kokevat usein, että liiketoiminta ei osallistu määrittelyihin, tietojen omistajia ei myöskään tahdo löytyä.

Liiketoiminnassa saatetaan ajatella, että asia on tekninen ja kuuluu IT-osaston hoidettavaksi. IT-osastolla voi ollakin vallalla sinänsä palveluhaluinen ajatus, että tehdään me se tietovarasto, kyllä he sitä sitten käyttävät. Kumpikin yllämainituista ajattelutavoista johtaa epäonnistumiseen.

Organisointi on siis hyvin tärkeässa roolissa tietovaraston onnistumisen kannalta.

Työkalut kiinnostavat monia, mutta aika usein ne ovat olleet varsin hyvässä mallissa. Kannattaa silti tarkastaa, ovatko käytössä olevat työkalut tarkoituksenmukaisia ja elinkelpoisia juuri tähän tilanteeseen – ja mitä vaihtoehtoja yleisesti käytetään.

Mallintaminen on alue, jossa on usein puutteita. Ei ole tavatonta, että konsultit ovat tehneet malleja keskenään, ilman talon IT-henkilöitä ja etenkin ilman liiketoimintaa. Usein käy myös ilmi, että malleja on kyllä tehty, mutta ne ovat vanhentuneet eikä niitä oikein löydykään mistään.

Tehtyjen käsite- ja tietomallien määritelmien tulisi olla yhteistyössä laadittuja, sekä ajan tasalla ja helposti saatavilla. Tämä auttaa yhteistyötä liiketoiminnan, IT-henkilöiden ja konsulttien kanssa sekä estää liiallista toimittajariippuvuutta.

Pilvipalveluiden käyttö on lisääntyynyt rajusti. Tietovaraston ollessa pilvessä säästetään teknistä, vaativaa säätämistä ja saadaan skaalattavuutta. Tietosuoja ei enää ole niin suuri ongelma kuin aiemmin.

Mainittakoon vielä, että pitkäkestoisen tietovarastoympäristön rakentaminen sisältää tietynlaista infran perusrakentamista, jonka tulokset eivät heti näy liiketoiminnalle. Tämäkin selvitetään auditoinnissa.

 

Auditoinneista

Auditoinnin voi tehdä jo hankkeen alkuvaiheessa, silloin päästään vaikuttamaan jo ennakolta.

Tyypillinen tilanne, jossa auditointia kaivataan, on tietovarastohankkeen hidas eteneminen. Rahaa ja aikaa kuluu, mutta tulokset näyttävät laihoilta. Jotkut haluavat jo panna poikki koko hankkeen, mutta toisaalta, menetetäänkö silloin kaikki jo tehdyt investoinnit.

Joskus ollaan uusimassa vanhaa tietovarastoa ja siirrytään uuteen arkkitehtuuriin, teknologiaan ja mahodollisesti uusiin työkaluihin. Tällöin on aluksi tehtävä vanhoja raportteja uusiksi uudessa ympäristössä. Tämä ei käyttäjille päin näytä lainkaan kehitykseltä, samat tiedothan saatiin aiemminkin.  Suosittelemme kehitykseen mukaan myös ns. wow-raportteja eli jotakin mitä ei ikinä ennen ole saatu.

Auditoinnin laajuus sovitaan aina tapauskohtaisesti. Joskus lyhyempi tarkastus riittää, joskus taas paneudutaan eri alueiden asiantuntijoiden voimin hankkeen eri osiin.

Auditoinnin lisäksi voidaan tehdä organisaation tiedonhallinnan kypsyyden arviointi, eli ns. maturiteettitarkistus. Tässäkin olemme soveltaneet poydänjalkamallia.

 

Lopuksi   

Auditoinnit ovat hyödyllinen menettely tietovarasto- ja BI-hankkeen katselmointiin. Ulkopuolinen auditoija näkee tilanteen puolueettomasti ja osaa tehdä oikeita, joskus ns. tyhmiä kysymyksiä.

Tilaajat arvostavat myös auditoijien katsauksia, miten asioita on tehty muualla. On helpottavaa kuulla, että samankaltaisia ongelmia on toisillakin tai että tehty ratkaisu on sittenkin aivan oikeaoppinen.

Auditoinnin jälkeen on helpompi tehdä päätöksiä hankkeen jatkokehittämisestä. Saatujen suositusten avulla päästään aste asteelta eteenpäin kohti arvokkaan tietopääoman hyödyntämistä johtamisen ja kehittämisen tukena.

Hyvä lopputulos on vaivan arvoinen.

Mikäli sinua kiinnostaa  kuulla tarkemmin tekemistämme auditoinneista, niin ota ihmeessä yhteyttä ja niin järjestämme palaverin aiheesta.

Ystävällisin terveisin,

Ari Hovi

Ps. Mikäli haluat toteuttaa tietovarastohankkeen parhaiden käytäntöjen mukaan, kannattaa ehdottomasti osallistua:

Tietojen mallintaminen – Data Modeling 21.12 – 22.12.2022

Kurssi on saatavana myös yrityskohtaisena ja englanniksi.

Tämä ei ole pelkkä tietokannan suunnittelu -kurssi, vaan kattaa käsitteiden mallintamisen liiketoimintaihmisten kanssa, arkkitehtuurityyppisen mallinnuksen sekä laajat, yritystasoiset tietomallinnukset. Myös laajat mallinnukset voi laatia nopeasti ja tehokkaasti – oikeilla menetelmillä ja organisoinnilla.

Lue lisää ja ilmoittaudu tästä.

Saattaisit olla kiinnostunut myös näistä

Microsoft Fabric: Shortcuts

Lue lisää

Data Lakehouse -projektit käytännössä: Kokemuksia asiantuntijoilta

Lue lisää

Eettinen tiedonkäyttö: Vastuullisuuden peruspilarit

Lue lisää