Udomačena statistika

Študenti statistike pišemo blog.


Komentiraj

Vzorčenje v dobi masivnih podatkov

“Kdaj lahko rešeš, da imaš “big data”? Ko je datoteka tako velika, da je ne moreš odpreti na svojem računalniku.” Nekako takole smo se, malo za hec malo za res, do masivnih podatkov (slovenski izraz za “big data”) opredelili na večerji s kolegom, ki dela na Googlu,  ko je pred letom ali dvema obiskal naš raziskovalni center. “Big data” v marsikaterih krogih velja za modno muho (“buzzword”), saj se zadnje čase uporablja vsevprek – bil je na primer ena izmed glavnih tem na lanskih konferencah AAPOR in Webdatanet ter tudi osrednja tema Statističnega dne. Sicer pa imajo masivni podatki že več desetletno zgodovino in za marsikoga, ki se ukvarja z obdelavo podatkov in statistiko, taka podatkovja, niso nič novega. Res pa je, da tako velikost kot obseg tovrstnih podatkov vse hitreje naraščata.

Masivni podati pomenijo številne priložnosti za praktično uporabo na več področjih – o tem je na primer govori Kennet Cukier (urednik pri reviji The Economist)  v TED videu ‘Big data is better data’ – v tej objavi pa nas nasprotno zanimajo predvsem izzivi, ki jih prinašajo za delo nas, statistikov. Čeprav masivni podatki zaradi kompleksnosti in velikosti zahtevajo drugačne pristope k analizi, ti pristopi še vedno stojijo na starih temeljih, so ugotavljali na okrogli mizi na lanskem Statističnem dnevu. Pa tudi zbiranje podatkov s spraševanjem bo še dolgo relevantno.

Kakšna pa je v dobi masivnih podatkov vloga vzorčenja, tj. izbiranja enot iz populacije v vzorec? Zakaj se zadovoljiti  le z vzorcem enot, če lahko dostopamo do celotne populacije? En razlog je seveda to, da je včasih manj več – bolj kot velikost podatkovja je namreč pomembno to, da podatki koneceptualno ustrezajo temu, kar želimo meriti. Toda tudi v primeru, da masovovni podatki niso pristranski, se v praksi še vedno uporablja vzorčenje. Zakaj? Če se vrnem k večerji, s katero sem začela ta prispevek. Kolega z Googla nam je povedal zgodbo, kako je od statistika na sosednjem oddelku potreboval določeno poizvedbo in bil presenečen, da je ta ni pognal na celotni bazi, ampak le na vzorcu podatkov. Podatkovna baza je bila namreč tako masivna, da jih  niti z najboljšimi računalniki ne zmorejo učinkovito obdelati.

Na to anekdoto sem se spomnila lani, med gledanjem tretje sezone ameriške nadaljevanke House of cards. Doug Stamper (Michael Kelly), išče Rachel Posner (Rachel Brosnahan), ki bi lahko bila pomembna priča v morebitnem procesu proti predsedniku Franku Underwoodu (Kevin Spacey). Obrne se na hekerja Gavina Orsaya (Jimmi Simpson), ki je zaposlen na FBI oddelku za kibernetski kriminal. Gavinu uspe dostop do posnetkov prometnih kamer, v katerih potem išče njen obraz. Vendar je podatkov veliko preveč, da bi zmogel obdelati vse, zato s tehnologijo zaznavanja obraza pregleduje samo slučajno izbran vzorec 10% posnetkov. Vzorca ne more povečati, saj bi to sprožilo varnostne alarme.

HoC1-MOTION

Če še kdo ni gledal tretje sezone serije in se želi izogniti kvarnikom, naj ta odstavek preskoči. Za optimizacijo iskanja Gavin potrebuje dodatne informacije o Rachel, zato se spoprijatelji z njeno nekdanjo prijateljico Liso Williams (Kate Lyn Sheil). Od dekleta izve, da sta se pogovarjali o pobegu v zvezno državo Nova Mehika. Na podlagi teh podatkov lahko Gavin iskanje omeji na manjši obseg in mu jo uspe izslediti. Kako se zgodba konča, pa si sami poglejte.

Danes se je začela nova sezona nadaljevanke in zanimivo bo videti, ali bo statistika spet imela kakšno posebno vlogo v zgodbi. Ta se v filmih, nadaljevankah in na sploh v popularni kulturi tako redko pojavlja, da smo toliko bolj pozorni še na najmanjšo omembo.

Svet, kjer ne bi potrebovali inferenčne statistike,  pa je zaenkrat še domena znanstvene fantastike.

Advertisements


5 komentarjev

Štiri anketne napake na primeru predreferendumskih anket

V nedeljo bo potekal zakonodajni referendum, na katerem se bo glasovalo o vprašanju, ali naj se uveljavi Zakon o spremembah in dopolnitvah Zakona o zakonski zvezi in družinskih razmerjih (ZZZDR-D), ki ga je Državni zbor sprejel 3. marca 2015. Glas ZA bo podprl spremembo besedila 3., 12. in 16. člena zakona, kar bo omogočilo, da lahko zakonsko zvezo skleneta tudi osebi istega spola.

IMG_2540

Istospolna poroka v Redwood National Park v Kaliforniji, ki sem ji – povsem po naključju – prisostvovala ob obisku parka maja 2014. V Kaliforniji so istospolne poroke legalne od junija 2008.

Kakšen izid referenduma lahko pričakujemo? Nadaljujte z branjem


Komentiraj

Prejeli smo priznanje odličnosti statističnega poročanja v medijih

Snovalci bloga Udomačena statistika smo prejeli priznanje za Odličnost statističnega poročanja v medijih za leto 2015. To je priznanje, ki ga Statistično društvo Slovenije vsako leto “podeli novinarju ali drugemu poročevalcu, ki v medijih strokovno pravilno poroča o statistiki ali uporabi statistiko na način, ki presega običajno raven. Priznanje se lahko podeli tudi za medijsko poročanje o statistiki, ki prispeva k večjemu ugledu statistične stroke v najširši javnosti,” je zapisano v društvenem pravilniku o podeljevanju priznanj.

20151208_161522

Ana Slavec in prof. dr. Andrej Blejec, predsednik Statističnega društva Slovenije

Veseli smo, da je naše delo na področju promocije statistike cenjeno in v čast nam je, da smo se se s tem znašli v imenitni družbi nagrajencev iz preteklih let, uredništva Dnevnikovega Objektiva, Slavka Jeriča, avtorja portala Športni SOS in uredništva časnika Delo. Čeprav sami nimamo takega dosega kot prejšnji dobitniki – v aktivnih mesecih nas glede na WordPress statisitko obišče okrog Nadaljujte z branjem


Komentiraj

Pogovor s Tino Zupanič

Statistike v Sloveniji ni možno študirati le na 3. stopnji, ampak na tudi na 2. bolonjski stopnji. Magistrski študijski program Uporabna statistika se izvaja od leta 2013/2014, že pred tem pa je obstajal stari magistrski program, ki se je izvajal od leta 2002/2003. V rubriki Pogovori, se bomo lotili tudi alumnov magistrskega programa. Na njem je leta 2011 magistrirala naša naslednja sogovornica, Tina Zupanič.

tinaz

Tina Zupanič (vir: osebni arhiv)

Mag. Tina Zupanič je bila po diplomi najprej zaposlena na kot raziskovalka na Centru za metodologijo in informatiko na FDV (v podcentru, ki je sedaj Center za družboslovno informatiko), kjer se je ukvarjala z raziskovanjem rabe interneta v Sloveniji, mobilno rabo internetamobilno telefonijo, spletno obiskanostjo, pa tudi z bolj statističnimi temami, kot na primer napaka zaradi neodgovorov v anketah in uteževanje podatkov. Leta 2007 se je zaposlila na na takratnem Inštitutu za varovanje Zdravja (sedaj Nacionalni inštitut za javno zdravje), kjer je zaposlena še danes, in v tem času tudi magistrirala na temo neodgovorov v raziskavah, povezanih z zdravjem.

Na FDV sva kratek bili sodelavki, julija letos pa sva se srečali na konferenci ESRA, kjer sta s sodelavko Darjo Lavtar predstavljali na temo učinka spodbud respondentom na stopnje odgovorov v zdravstveni anketi CINDI ter o primerjavi zdravja nerespondentov in respondentov v treh slovenskih zdravstvenih anketah. Prosila sem jo, da za blog odgovori na nekaj vprašanj Nadaljujte z branjem


1 komentar

Moji vtisi s 6. konference ESRA

Letos sem se že tretjič udeležila konference evropskega združenja za anketno raziskovanje ESRA, ki smo jo nazadnje, pred dvema letoma, gostili v Ljubljani. Tokrat je potekala v Reykjaviku na Islandiji (od 13. do 17. julija), udeležilo pa se je je preko 750 raziskovalcev iz 45 različnih držav iz celega sveta. Program je tudi tokrat sestavljalo več vzporednih sej s stotinami predstavitev  – v nadaljevanju opišem le kratek tečaj, ki sem se ga udeležila, obe vabljeni predavanji ter moji predstavitvi.

Reykjavik, najservernejša prestolnica na svetu, ima nekaj čez 120.000 prebivalcev, celotna Islandija pa nekaj čez 300.000. Zato so jim, kot se radi pošalijo, najljubše statistike per capita (na prebivalca). Zaradi močne demokratične tradicije, imajo ankete v njihovi družbi pomembno vlogo.


Na prvi dan konference Nadaljujte z branjem


2 komentarja

Zaključna konferenca mreže Webdatanet

Od 26. do 28. maja je v Salamanci potekala zaključna konferenca COST akcije Webdatanet,  mreže raziskovalcev različnih disciplin in iz 31 evropskih držav, ki jih povezuje zanimanje za zbiranje podatkov preko spleta – to se ne konča pri spletnih anketah, ampak zajema tudi analizo vsebin na spletu, od računanja inflacije na podlagi cen v spletnih trgovinah do napovedovanja izidov volitev na podlagi tvitov. Če bi, po Anžetovem zgledu, želela izbrati besedo, s katero bi na tej konferenci nabrala največ napitnine, bi tokrat to bil buzzword “big data”.

2015-05-28 20.05.54

Pročelje Universidad de Salamanca (1134), ki je najstarejša univerza v Španiji in čerta v Evropi

Preden predstavim ključne utrinke s konference, nekaj besed o mreži Webdatanet. Nadaljujte z branjem


5 komentarjev

Včasih je manj več ali uvod v inferenčno statistiko

Kar ne morem verjeti, da že več kot dve leti pišemo blog in se še nismo lotili vzorčenja. Sama sem to temo že večkrat skoraj načela pa sem si vsakič premislila. O tem ne morem pisati, ne da bi prej povedala zgodbo, ki me je navdušila za inferenčno statistiko, tj. sklepanje o lastnostih populacije na podlagi vzorca enot. Zgodbo o anketi, ki je spremenila način, kako se delajo ankete.Prvič sem jo slišala v 2. letniku študija družboslovne informatike, nato pa spet v 1. letniku študija Statistike. Nadaljujte z branjem