Rétturinn til að láta ljúga að sér Elfa Ýr Gylfadóttir skrifar 10. júní 2021 11:31 Haustið 2019 fór myndband af ítalska stjórnmálamanninum Matteo Renzi á flug á samfélagsmiðlum. Það sem var sérstakt við myndbandið var að þetta var svokölluð djúpfölsun (e. deep fake) þar sem gervigreind var notuð til að falsa myndband af Renzi og leggja honum orð í munn sem hann hafði aldrei látið af munni falla fyrir framan myndavélar. Í myndbandinu leit út fyrir að Renzi væri að tala í myndavél án þess að vita að um upptöku væri að ræða. Þar talaði hann m.a. með niðrandi hætti um ýmsa ítalska stjórnmálamenn. Myndbandið var sýnt í satírskum fréttaþætti í ítalska sjónvarpinu en var einnig sett á vefinn og fór þá fljótlega á flug á samfélagsmiðlum. Netverjar vissu margir hverjir ekki að um satírska djúpfölsun væri að ræða og gerðu alvarlegar athugasemdir við hegðun Renzis á samfélagsmiðlum. Þetta atvik opnaði augu margra í álfunni fyrir því hvað djúpfölsunartæknin er orðin sannfærandi og að e.t.v. sé það tímaspursmál hvenær slík myndbönd verði framleidd og sett í dreifingu rétt fyrir kosningar. Slík dreifing gæti haft afar neikvæð áhrif á viðkomandi stjórnmálamenn og flokka og ekki víst að það næðist að upplýsa alla kjósendur fyrir kjördag um að þess konar myndband væri í reynd djúpfölsun. Þetta dæmi frá Ítalíu sýnir að það er vart hægt að ætlast til þess að almenningur sé í stakk búinn til að greina djúpfalsanir sem kunna að birtast á samfélagsmiðlum. Hinn ríkisvæddi sannleikur? Á síðustu misserum hefur talsvert verið rætt um hugtakið upplýsingaóreiðu og því oft blandað saman við almenn og sjálfsögð skoðanaskipti sem er grunnur samfélagslegrar umræðu í sérhverju lýðræðissamfélagi. Því hefur jafnvel verið hreyft að upplýsingar, þar með talið falsfréttir úr ólíkum áttum, séu í raun annað nafn á lýðræði og sýni að fólk sjái heiminn með ólíkum augum, hafi mismunandi gildismat og forgangsröðun. Jafnframt hefur verið bent á að fólk eigi rétt á því að hafa rangt fyrir sér og að ekki megi með nokkrum hætti ríkisvæða sannleikann. Með öðrum orðum sé það varasamt að stjórnvöld upplýsi almenning um þá lýðræðisógn sem stafi af upplýsingaóreiðu og hvernig eigi að greina hana því falsfréttur séu hluti af tjáningarfrelsinu. Fólk móti sér skoðanir og það sé ákvörðun hvers og eins hvort sú skoðun byggi á réttum og staðreyndum upplýsingum eða falsfréttum sem hafi það að markmiði að villa um fyrir fólki. Fólk hafi rétt á því að láta ljúga að sér. Því hefur einnig verið hreyft að það sé óþarfi að aðhafast gagnvart dreifingu falsfrétta og upplýsingaóreiðu ef almenningur hafi jafnframt aðgang að fullnægjandi upplýsingamiðlun þar sem faglegir og sjálfstæðir fjölmiðlar gegni mikilvægu hlutverki við að miðla faglega unnum fréttum. Upplýsingaóreiða ein stærsta ógn lýðræðisríkja Hugtakið upplýsingaóreiða tekur til þess þegar verið er að deila röngum og misvísandi upplýsingum til almennings, mjög oft til að valda skaða. Hugtakið getur líka átt við ýmiskonar staðleysur sem einstaklingar, hópar eða jafnvel erlend ríki dreifa til að ala á tortryggni. Þá getur það talist upplýsingaóreiða þegar hagsmunaaðilar reyna vísvitandi að afvegaleiða umræðu um flókin viðfangsefni með miðlun rangra upplýsinga til almennings. Samkvæmt könnun fjölmiðlanefndar nota 87,5% Íslendinga, 15 ára og eldri, Facebook daglega eða oft á dag. Rúmlega 56% landsmanna á sama aldri nota Instagram daglega eða oft á dag og tæplega 50% nota aðra samfélagsmiðla eins og Snapchat, Twitter, TikTok og LinkedIn daglega eða oft á dag. Með tilkomu samfélagsmiðla og leitarvéla er upplýsingum um notendur nú safnað kerfisbundið. Upplýsingarnar gefa vísbendingar um áhugasvið, pólitískar skoðanir, vinatengsl, staðsetningu og margt fleira. Upplýst hefur verið að stærstu fyrirtækin flokki notendur í allt að 52.000 mismunandi flokka eftir persónuleika og áhugasviðum þeirra. Mörg fyrirtæki selja nú ítarlegar upplýsingar um netnotendur til aðila sem vilja markaðssetja vörur, þjónustu eða skoðanir til almennings. Markmiðið er að ná til ákveðinna markhópa með nákvæmari hætti en áður. Það hefur því aldrei verið jafn auðvelt að beina markvissum skilaboðum til einstaklinga eða hópa sem eru móttækilegir fyrir þeim. Á þetta jafnt við um upplýsingar sem byggjast á staðreyndum og staðleysum. Þetta er ástæða þess að almennt er talið að upplýsingaóreiða sé nú ein stærsta ógn sem lýðræðisríki standa frammi fyrir. Líkt og djúpfölsunarmyndbandið á Ítalíu sýnir þá verður sífellt erfiðara fyrir almenning að greina upplýsingaóreiðu frá staðreyndum. Slíkri upplýsingaóreiðu er nú miðlað í gegnum samfélagsmiðla eða í einkaskilaboðum og dreifingin getur náð til mjög margra á örskömmum tíma Færni og þekking nauðsynleg til að takast á við upplýsingaóreiðu Tæknibreytingar hafa gert það að verkum að auðveldara er að dreifa upplýsingum og að sama skapi erfiðara að greina uppruna og sannleiksgildi upplýsinga. Rannsóknir sýna að falsfréttir dreifast sex sinnum hraðar en réttar upplýsingar og virðast hafa meiri og dýpri samfélagsleg áhrif. Þess vegna skiptir miklu máli að auka þekkingu og færni almennings, bæði um falsfréttir og ólík form upplýsingaóreiðu, með það að markmiði að fólk geti sjálft tekist á við krefjandi áskoranir í hinum stafræna heimi. Fjölmiðlanefnd hefur látið framkvæma víðtæka spurningakönnun sem byggir á norskri fyrirmynd. Niðurstöður þessarar spurningakönnunar verða kynntar í nokkrum hlutum og í dag birtist samantekt um niðurstöður þess hluta er varða falsfréttir og upplýsingaóreiðu. Niðurstöður könnunarinnar verða notaðar til að styrkja þekkingu og færni ólíkra hópa í samfélaginu í samstarfi við hina ýmsu aðila sem hafa sömu markmið. Niðurstöðurnar sýna m.a. að átta af hverjum tíu sögðust hafa rekist á upplýsingar á netinu á síðustu 12 mánuðum sem þau efuðust um að væru sannar. Þá kom í ljós að rúmlega 83% þeirra, sem sögðust hafa rekist á falsfréttir og upplýsingaóreiðu, sáu slíkt á Facebook. Til samanburðar þá sögðust aðeins 44% hafa rekist á slíkar upplýsingar á sama tímabili í Noregi. Þá sagðist um þriðjungur þátttakenda hafa myndað sér ranga skoðun á opinberri persónu (stjórnmálamanni eða frægri manneskju) vegna villandi upplýsinga um hana í hinum ýmsum miðlum. Þetta hlutfall var einungis 15% í Noregi. Jafnframt kom í ljós að aldurshópurinn 60 ára og eldri átti í mestum erfiðleikum með að bregðast við falsfréttum. Er það í samræmi við niðurstöður kannana erlendis. Réttur fólks til að fá aðgang að staðreyndum Ítalska djúpfölsunarmyndbandið með Matteo Renzi sýnir glöggt að rangar og misvísandi upplýsingar geta komist í mikla dreifingu án þess að fólk átti sig á eðli þeirra og uppruna. Niðurstöður bæði könnunar fjölmiðlanefndar og norsku könnunarinnar sýna ennfremur að það þarf átak til að hjálpa fólki að auka færni sína og þekkingu til að greina sannleiksgildi og uppruna hinna ýmsu upplýsinga þannig að það geti betur tekist á við krefjandi áskoranir í hinum stafræna heimi. Þá sýna niðurstöðurnar jafnframt að aldur, menntun og tekjur eru mikilvægir áhrifaþættir þegar könnuð eru viðbrögð við falsfréttum og sannleiksgildi upplýsinga. Við sem notendur vitum í raun sáralítið um það hvaða upplýsingum samfélagsmiðlarnir og leitarvélarnar hafa safnað um okkur. Við vitum enn minna um það hvernig auglýsingar, upplýsingar og skilaboð eru klæðskerasaumuð út frá persónuleika okkar, áhugasviði og jafnvel út frá því hvaða skapi við erum í þann daginn. Staðan er ójöfn þegar annar aðilinn er með allar upplýsingarnar en hinn nánast engar. Við slíkar aðstæður er vart hægt að ætlast til þess að almenningur átti sig alltaf á því þegar röngum eða villandi upplýsingum er dreift, oft með þeim ásetningi að valda skaða eða villa um fyrir fólki. Við slíkar aðstæður væri nær að leggja áherslu á rétt fólks til að fá aðgang að staðreyndum og hvernig samfélagsmiðlar og leitarvélar klæðskerasauma upplýsingar fyrir notendur, frekar en að kalla eftir réttinum til að láta ljúga að sér. Áhugasömum er bent á að að skoða niðurstöðurnar í skýrslu fjölmiðlanefndar í heild hér. Höfundur er framkvæmdastjóri fjölmiðlanefndar. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Elfa Ýr Gylfadóttir Fjölmiðlar Mest lesið Braggablús Ölmu Eyþór Kristleifsson Skoðun Helvítis Píratarnir Unnar Þór Sæmundsson Skoðun Heilbrigðiskerfi framtíðarinnar Victor Guðmundsson Skoðun Af hverju ætti ég að standa með kennurum? Stefán Birgir Jóhannesson Skoðun Ráðherrann Gísli Hvanndal Jakobsson Skoðun Er „woke-ismi“ genginn of langt? Tanja Mjöll Ísfjörð Magnúsdóttir Skoðun Dýrkeypt jólagjöf Áslaug Arna Sigurbjörnsdóttir Skoðun Sálfræðiþjónusta: Ég var heppinn að pabbi hafi greinst með krabbamein Davíð Brynjar Sigurjónsson Skoðun Ísland - land tækifæranna Ragnhildur Jónsdóttir Skoðun Kosningabaráttan er kostuð af þér Ragnar Sigurður Kristjánsson Skoðun Skoðun Skoðun Hver verða lykilgildin í næsta stjórnarsáttmála? Gunnar Hersveinn skrifar Skoðun Ungt fólk í Hafnarfirði stendur með Rósu Guðbjartsdóttur Hópur ungs fólks í Hafnarfirði skrifar Skoðun Kjósum frið Guttormur Þorsteinsson skrifar Skoðun Af hverju kýs ég frjálslyndi og frelsi? Thelma Rut Haukdal Magnúsdóttir skrifar Skoðun Píratar, frumkvöðlar í íslenskum stjórnmálum Helga Völundardóttir skrifar Skoðun Lilja lofar öllu fögru Björn B Björnsson skrifar Skoðun Siðlaus einkavæðing gegn almannahagsmunum Finnbjörn A. Hermannsson,Sonja Ýr Þorbergsdóttir skrifar Skoðun Reikningskúnstir Ragnars Þórs Björn Leví Gunnarsson skrifar Skoðun Sögulegt tækifæri Logi Einarsson,Eydís Ásbjörnsdóttir,Sæunn Gísladóttir,Sindri S. Kristjánsson skrifar Skoðun X í C fyrir framtíð á Íslandi Lovísa Oktovía Eyvindsdóttir skrifar Skoðun Kosið um stefnu Axel Jón Ellenarson skrifar Skoðun Byggjum og náum niður vöxtum og verðbólgu Eyjólfur Ármannsson skrifar Skoðun Ríkisstjórnir síðustu ára hafa vanrækt barnamál Lúðvík Júlíusson skrifar Skoðun Opnum fjöldahjálparstöð! Aðalheiður Jónsdóttir skrifar Skoðun Öflug garðyrkja – lykill að matvælaöryggi og grænni framtíð Guðrún Hafsteinsdóttir,Vilhjálmur Árnason skrifar Skoðun Vinnum gullið, stór áfangi inn í bjarta framtíð íþrótta á Íslandi Vésteinn Hafsteinsson skrifar Skoðun HSU réttir upp hönd í aðdraganda Alþingiskosninga Díana Óskarsdóttir skrifar Skoðun Sagnaarfur Biblíunnar – Umhverfisvernd og syndaflóð Sigurvin Lárus Jónsson skrifar Skoðun Nei þeir mega það ekki! Helga Dögg Sverrisdóttir skrifar Skoðun Höldum rónni og höldum áfram Hildur Sverrisdóttir skrifar Skoðun Raunveruleiki vændis Drífa Snædal skrifar Skoðun Tryggjum breytingar í málefnum eldri borgara Alma D. Möller skrifar Skoðun Af hverju ætti ég að standa með kennurum? Stefán Birgir Jóhannesson skrifar Skoðun Sjálfstæðisflokkurinn stendur með landsbyggðinni Hildur Sólveig Sigurðardóttir skrifar Skoðun Ísland - land tækifæranna Ragnhildur Jónsdóttir skrifar Skoðun Fimm forgangsatriði í málefnum fatlaðs fólks Guðmundur Ingi Guðbrandsson skrifar Skoðun Dýrkeypt jólagjöf Áslaug Arna Sigurbjörnsdóttir skrifar Skoðun Íslenska, hvað? Gauti Kristmannsson skrifar Skoðun Óður til kennara María Rut Kristinsdóttir skrifar Skoðun Frelsið er yndislegt Gabríel Ingimarsson skrifar Sjá meira
Haustið 2019 fór myndband af ítalska stjórnmálamanninum Matteo Renzi á flug á samfélagsmiðlum. Það sem var sérstakt við myndbandið var að þetta var svokölluð djúpfölsun (e. deep fake) þar sem gervigreind var notuð til að falsa myndband af Renzi og leggja honum orð í munn sem hann hafði aldrei látið af munni falla fyrir framan myndavélar. Í myndbandinu leit út fyrir að Renzi væri að tala í myndavél án þess að vita að um upptöku væri að ræða. Þar talaði hann m.a. með niðrandi hætti um ýmsa ítalska stjórnmálamenn. Myndbandið var sýnt í satírskum fréttaþætti í ítalska sjónvarpinu en var einnig sett á vefinn og fór þá fljótlega á flug á samfélagsmiðlum. Netverjar vissu margir hverjir ekki að um satírska djúpfölsun væri að ræða og gerðu alvarlegar athugasemdir við hegðun Renzis á samfélagsmiðlum. Þetta atvik opnaði augu margra í álfunni fyrir því hvað djúpfölsunartæknin er orðin sannfærandi og að e.t.v. sé það tímaspursmál hvenær slík myndbönd verði framleidd og sett í dreifingu rétt fyrir kosningar. Slík dreifing gæti haft afar neikvæð áhrif á viðkomandi stjórnmálamenn og flokka og ekki víst að það næðist að upplýsa alla kjósendur fyrir kjördag um að þess konar myndband væri í reynd djúpfölsun. Þetta dæmi frá Ítalíu sýnir að það er vart hægt að ætlast til þess að almenningur sé í stakk búinn til að greina djúpfalsanir sem kunna að birtast á samfélagsmiðlum. Hinn ríkisvæddi sannleikur? Á síðustu misserum hefur talsvert verið rætt um hugtakið upplýsingaóreiðu og því oft blandað saman við almenn og sjálfsögð skoðanaskipti sem er grunnur samfélagslegrar umræðu í sérhverju lýðræðissamfélagi. Því hefur jafnvel verið hreyft að upplýsingar, þar með talið falsfréttir úr ólíkum áttum, séu í raun annað nafn á lýðræði og sýni að fólk sjái heiminn með ólíkum augum, hafi mismunandi gildismat og forgangsröðun. Jafnframt hefur verið bent á að fólk eigi rétt á því að hafa rangt fyrir sér og að ekki megi með nokkrum hætti ríkisvæða sannleikann. Með öðrum orðum sé það varasamt að stjórnvöld upplýsi almenning um þá lýðræðisógn sem stafi af upplýsingaóreiðu og hvernig eigi að greina hana því falsfréttur séu hluti af tjáningarfrelsinu. Fólk móti sér skoðanir og það sé ákvörðun hvers og eins hvort sú skoðun byggi á réttum og staðreyndum upplýsingum eða falsfréttum sem hafi það að markmiði að villa um fyrir fólki. Fólk hafi rétt á því að láta ljúga að sér. Því hefur einnig verið hreyft að það sé óþarfi að aðhafast gagnvart dreifingu falsfrétta og upplýsingaóreiðu ef almenningur hafi jafnframt aðgang að fullnægjandi upplýsingamiðlun þar sem faglegir og sjálfstæðir fjölmiðlar gegni mikilvægu hlutverki við að miðla faglega unnum fréttum. Upplýsingaóreiða ein stærsta ógn lýðræðisríkja Hugtakið upplýsingaóreiða tekur til þess þegar verið er að deila röngum og misvísandi upplýsingum til almennings, mjög oft til að valda skaða. Hugtakið getur líka átt við ýmiskonar staðleysur sem einstaklingar, hópar eða jafnvel erlend ríki dreifa til að ala á tortryggni. Þá getur það talist upplýsingaóreiða þegar hagsmunaaðilar reyna vísvitandi að afvegaleiða umræðu um flókin viðfangsefni með miðlun rangra upplýsinga til almennings. Samkvæmt könnun fjölmiðlanefndar nota 87,5% Íslendinga, 15 ára og eldri, Facebook daglega eða oft á dag. Rúmlega 56% landsmanna á sama aldri nota Instagram daglega eða oft á dag og tæplega 50% nota aðra samfélagsmiðla eins og Snapchat, Twitter, TikTok og LinkedIn daglega eða oft á dag. Með tilkomu samfélagsmiðla og leitarvéla er upplýsingum um notendur nú safnað kerfisbundið. Upplýsingarnar gefa vísbendingar um áhugasvið, pólitískar skoðanir, vinatengsl, staðsetningu og margt fleira. Upplýst hefur verið að stærstu fyrirtækin flokki notendur í allt að 52.000 mismunandi flokka eftir persónuleika og áhugasviðum þeirra. Mörg fyrirtæki selja nú ítarlegar upplýsingar um netnotendur til aðila sem vilja markaðssetja vörur, þjónustu eða skoðanir til almennings. Markmiðið er að ná til ákveðinna markhópa með nákvæmari hætti en áður. Það hefur því aldrei verið jafn auðvelt að beina markvissum skilaboðum til einstaklinga eða hópa sem eru móttækilegir fyrir þeim. Á þetta jafnt við um upplýsingar sem byggjast á staðreyndum og staðleysum. Þetta er ástæða þess að almennt er talið að upplýsingaóreiða sé nú ein stærsta ógn sem lýðræðisríki standa frammi fyrir. Líkt og djúpfölsunarmyndbandið á Ítalíu sýnir þá verður sífellt erfiðara fyrir almenning að greina upplýsingaóreiðu frá staðreyndum. Slíkri upplýsingaóreiðu er nú miðlað í gegnum samfélagsmiðla eða í einkaskilaboðum og dreifingin getur náð til mjög margra á örskömmum tíma Færni og þekking nauðsynleg til að takast á við upplýsingaóreiðu Tæknibreytingar hafa gert það að verkum að auðveldara er að dreifa upplýsingum og að sama skapi erfiðara að greina uppruna og sannleiksgildi upplýsinga. Rannsóknir sýna að falsfréttir dreifast sex sinnum hraðar en réttar upplýsingar og virðast hafa meiri og dýpri samfélagsleg áhrif. Þess vegna skiptir miklu máli að auka þekkingu og færni almennings, bæði um falsfréttir og ólík form upplýsingaóreiðu, með það að markmiði að fólk geti sjálft tekist á við krefjandi áskoranir í hinum stafræna heimi. Fjölmiðlanefnd hefur látið framkvæma víðtæka spurningakönnun sem byggir á norskri fyrirmynd. Niðurstöður þessarar spurningakönnunar verða kynntar í nokkrum hlutum og í dag birtist samantekt um niðurstöður þess hluta er varða falsfréttir og upplýsingaóreiðu. Niðurstöður könnunarinnar verða notaðar til að styrkja þekkingu og færni ólíkra hópa í samfélaginu í samstarfi við hina ýmsu aðila sem hafa sömu markmið. Niðurstöðurnar sýna m.a. að átta af hverjum tíu sögðust hafa rekist á upplýsingar á netinu á síðustu 12 mánuðum sem þau efuðust um að væru sannar. Þá kom í ljós að rúmlega 83% þeirra, sem sögðust hafa rekist á falsfréttir og upplýsingaóreiðu, sáu slíkt á Facebook. Til samanburðar þá sögðust aðeins 44% hafa rekist á slíkar upplýsingar á sama tímabili í Noregi. Þá sagðist um þriðjungur þátttakenda hafa myndað sér ranga skoðun á opinberri persónu (stjórnmálamanni eða frægri manneskju) vegna villandi upplýsinga um hana í hinum ýmsum miðlum. Þetta hlutfall var einungis 15% í Noregi. Jafnframt kom í ljós að aldurshópurinn 60 ára og eldri átti í mestum erfiðleikum með að bregðast við falsfréttum. Er það í samræmi við niðurstöður kannana erlendis. Réttur fólks til að fá aðgang að staðreyndum Ítalska djúpfölsunarmyndbandið með Matteo Renzi sýnir glöggt að rangar og misvísandi upplýsingar geta komist í mikla dreifingu án þess að fólk átti sig á eðli þeirra og uppruna. Niðurstöður bæði könnunar fjölmiðlanefndar og norsku könnunarinnar sýna ennfremur að það þarf átak til að hjálpa fólki að auka færni sína og þekkingu til að greina sannleiksgildi og uppruna hinna ýmsu upplýsinga þannig að það geti betur tekist á við krefjandi áskoranir í hinum stafræna heimi. Þá sýna niðurstöðurnar jafnframt að aldur, menntun og tekjur eru mikilvægir áhrifaþættir þegar könnuð eru viðbrögð við falsfréttum og sannleiksgildi upplýsinga. Við sem notendur vitum í raun sáralítið um það hvaða upplýsingum samfélagsmiðlarnir og leitarvélarnar hafa safnað um okkur. Við vitum enn minna um það hvernig auglýsingar, upplýsingar og skilaboð eru klæðskerasaumuð út frá persónuleika okkar, áhugasviði og jafnvel út frá því hvaða skapi við erum í þann daginn. Staðan er ójöfn þegar annar aðilinn er með allar upplýsingarnar en hinn nánast engar. Við slíkar aðstæður er vart hægt að ætlast til þess að almenningur átti sig alltaf á því þegar röngum eða villandi upplýsingum er dreift, oft með þeim ásetningi að valda skaða eða villa um fyrir fólki. Við slíkar aðstæður væri nær að leggja áherslu á rétt fólks til að fá aðgang að staðreyndum og hvernig samfélagsmiðlar og leitarvélar klæðskerasauma upplýsingar fyrir notendur, frekar en að kalla eftir réttinum til að láta ljúga að sér. Áhugasömum er bent á að að skoða niðurstöðurnar í skýrslu fjölmiðlanefndar í heild hér. Höfundur er framkvæmdastjóri fjölmiðlanefndar.
Sálfræðiþjónusta: Ég var heppinn að pabbi hafi greinst með krabbamein Davíð Brynjar Sigurjónsson Skoðun
Skoðun Ungt fólk í Hafnarfirði stendur með Rósu Guðbjartsdóttur Hópur ungs fólks í Hafnarfirði skrifar
Skoðun Siðlaus einkavæðing gegn almannahagsmunum Finnbjörn A. Hermannsson,Sonja Ýr Þorbergsdóttir skrifar
Skoðun Sögulegt tækifæri Logi Einarsson,Eydís Ásbjörnsdóttir,Sæunn Gísladóttir,Sindri S. Kristjánsson skrifar
Skoðun Öflug garðyrkja – lykill að matvælaöryggi og grænni framtíð Guðrún Hafsteinsdóttir,Vilhjálmur Árnason skrifar
Skoðun Vinnum gullið, stór áfangi inn í bjarta framtíð íþrótta á Íslandi Vésteinn Hafsteinsson skrifar
Sálfræðiþjónusta: Ég var heppinn að pabbi hafi greinst með krabbamein Davíð Brynjar Sigurjónsson Skoðun