Kuidas Facebook meie ühiskonda lõhub ja mida sellega teha?

Laupäeva pärastlõuna on käes, tere, ilusat kevadilma kõigile Restarti kuulajatele, saatejuht täna Henrik Roonemaa ja mul on külas Katrin Tiidenberg, kes on Tallinna Ülikooli dotsent ja sotsiaalmeedia uurija, tere Katrin. Tervist. Sellest, et, et me elame oma elusid sotsiaalmeedias, sest vist ei saa praegu üle ega ümber, ma ei tea, kas sinul on mingeid numbreid, mis need tunnid on maailmas või Eestis, aga ma arvan, et need on pigem suured kui väikesed.

Nad on pigem suured kui väiksed jah, nii Eestis kui mujal maailmas. Ja isegi mitte tunninumbrid, vaid lihtsalt ütleme, kasutajate arvud on, on täiesti sellised üllatavad, et. Kui meil on maailmas umbes neli miljardit, oota, ma vaatan mul siin numbreid ka. Umbes neli miljardit inimest, kes üldse kasutab internetti, mis on siis pisut üle poole maailma elanikkonnast, siis sotsiaalmeediat kasutab sellest kolm koma kaks miljardit ja Facebooki kaks koma kolm miljardit, et selles mõttes see on nagu ennekuulmatu, et ühel. Ütleme siis, nimetame seda meediakanaliks või suhtlusplatvormiks, on korraga käes kaks koma kolm miljardit inimest maailmast.

Noh, et see on noh, kui nii võtta, et siis tehnoloogiafänn ja ajakirjanik minus ütleb, et see on fantastiline, et noh, kujuta ette, et meil on selline globaalne platvorm, et meil on üks koht, kus ma põhimõtteliselt noh. Pool arenenud maailma elanikkonnast saan lihtsalt kätte ühe klikiga, panen nime, nime otsingukasti ja juba ta tuleb, seda ei ole varem olnud kunagi ju.

Ei ole kunagi varem olnud ja ega ka internetijuurijana ma ühemõtteliselt ei vaidle, eks ole, vastu ja ei ütleks, et ei, see ei ole fantastiline, sellel on väga palju fantastilisi omadusi ja külgesid, lihtsalt on ka problemaatilisi.

Vot, ja sellest problemaatilisest ma eelkõige tahakski täna sinuga rääkida, et sa oled Eestis see inimene, kes. Või ütleme üks nendest inimestest, kes, kes mõtestab seda, et mis seal noh, sotsiaalmeedias siis nagu toimub või et, et mis, kas see on hea või halb või kuidas see mõjutab inimest, kuidas see mõjutab ühiskonda ja. Noh, me ju näeme, et, et ma ei tea, kas on ametlikud sellised numbrid või tulemused või uuringud olnud, aga kas need, kui palju need probleemid, mis täna demokraatiate ees seisavad, et ühiskonnad on pooleks ja. Ja mingisugused, mingisugused mõjud käivad ühtepidi ja teistpidi ja, ja, ja levib valeinfo ja inimesed usuvad jumal teab mida. Selle asemel, et uskuda fakte ja, et kas, kas seal on nagu võimalik tõmmata seos sotsiaalmeediaga, nad lihtsalt, nad tekkisid samal ajal.

No ütleme niimoodi, et on suur hulk väga haritud, tarku inimesi, kes on näinud väga palju süstemaatilist vaeva selleks, et uurida, kas neid seoseid on võimalik tõmmata ja väidavad, et need seosed on olemas. Et meil ei ole nagu selliseid ühemõttelisi selgitusi või selliseid sada, saja protsendi kindlusega protsente, millega saab öelda, et. On kindlad kausaalsed seosed, et nii palju sellest mõjust tuleneb sellest asjast, et sellist asja meil ei ole võimalik selgelt öelda. Aga meil on võimalik öelda, et, et sotsiaalmeedia on olulisel määral vorminud seda, kuidas toimivad olulised ühiskondlikud protsessid. Nende hulgas ka need, mida me tavapäraselt peame siis ütleme, demokraatia jaoks olulisteks.

Minu arust väga kihvt on see sotsiaalmeedia selline noh, kultuuriline taust või, või see kultuuriline kontekst, et kuhu ta tekkis, on ju, et ta. Ta tekkis USA läänerannikul, seal on noh, kogu see hipikultuur on taustaks, eks ole, against the man, olek, vabadus. See, et ma saan noh, et, et riik ei tea, mida ma teen ja ei peagi teadma, et kuskil ei ole mingeid suuri väljaandeid, kes kontrollivad, mis on need sõnumid, mis avalikkuse ette jõuavad, et kõik on vaba, info on vaba. Inimesed saavad olla noh, üksikisiku jõud on hästi suur, et need ideaalid on ju sellised huvitavad, ma ütleks.

No juba internet ise, selles mõttes, et interneti loomise ideaalid ja siis VVV loomise ideaalid ja sotsiaalmeedia sinna peale need kõik tegelikult on korranud sedasama sellist vaba toimija. Teatud selliste õigustega toimija suhtlus ja info liigutamise võimalusi. Ja, ja nendes ei ole midagi halba, need ongi olulised väärtused. Aga jällegi, siin ongi küsimus selles, et mis on sellest saanud siis, kui sellest sai äri. Ja siis, kui sellest sai tööstus nii-öelda. Ehk et see, et info tahab olla vaba ja sõna tahab olla vaba või mis iganes, erinevad väärtused seal all on. Need annavad erinevaid resultaate või tulemusi siis, kui. Selle vaba info kõrvalnäht on mingisugune data või mingid andmed, mida kasutatakse mingiks kolmandaks eesmärgiks. Ehk siis sisuliselt valdavalt selleks, et müüa meile reklaami või õigemini, müüa meie silmapaare reklaami ostjatele. Ja see on muutnud. Ütleme siis juba sellist nagu ülesehitust või seda, kuidas neid platvorme disainitakse ja muudab seda pidevalt sellisel väikesel timmival moel aina paremaks, aina täpsemaks, aina targemaks, targemaks, targemaks. Ehk siis neid ei ole, need muutused ei ole praktiliselt kunagi tulnud sellest, et keegi kuri inimene kuskil kõrges klaasmajas otsustas, et. Nüüd ma tahan õõnestada demokraatiat või midagi sellist.

Ja kui

lugeda nagu Zuckerbergi väljaütlemisi ja mingeid blogipostitusi, siis ta on, ta on tegelikult selline nagu idealist, kohati nagu isegi naiivseks kuulutatud. Aga see iseloomustab

üldse seda ränioru suhtumist, mulle tundub noh, ühiskondlikes protsessides.

No absoluutselt ja see tuleneb ka selgelt sellest, igaühe suhtumine tuleb tema nii-öelda nagu biograafiast, mis sõltub sellest, kes sa oled, et kas sa oled, mis aastal ja kus sa sündinud oled, mis värvis nahk on, mis soost sa oled. Millisena maailm sulle eluaeg on näinud ja ta on, kuulub nende inimeste hulka, kellele maailm eluaeg on näinud. Sellena, mis on nii-öelda painutatav oma austriks, jah, et kui sa nagu pusid ja need vaeva ajavad tark ja tubli ja teed tööd, siis, siis sa jõuad selleni, et maailm on sinu auster, on ju. Ja selle käigus on olnud siis mingisuguseid nagu üllatusi, eks ole. Et esiteks, mingid asjad lähevad jube hästi tööle, mingid asjad on õigel ajal õiges kohas, inimesed tulevad kaasa hästi, palju inimesi tuleb kaasa, sealt järgmine täiesti loogiline mõte on see, et. Kui nii palju inimesi tuli kaasa ja nendele selgelt see meeldib. No siis võiks selle pealt ju natuke ka raha teenida, siis selgub, et selle pealt on võimalik teenida mitte natuke raha, vaid palju raha. Ja vot selle timmimise või selle nagu sellise nagu hästi peenhäälestamise ja inseneritöö käigus. On siis tulnud välja, et on võimalik timmida mitte üksnes. Teenust paremaks reklaami kliendile, vaid ka tegeleda nii-öelda sotsiaalse insenerlusega või inimeste meelsuse ja inimeste sotsiaalsuse ja inimeste kogemuse, maailmanägemuse. Kas see

kõik on, kas, kas sa tahad, ütled, et see, see, mida me praegu ka selles saates arutama hakkame, et, et kuidas need sotsiaalmeedia asjad on, on mõjutanud ühiskondi ja, ja ma ei tea, inimeste pereelu kasvõi ja kõike seda. Ja demokraatiaid, et see on pigem nagu selline kõrvalnäht.

Mina väidan ja, ja mitte üksi ma ei ole selles, et see on nii-öelda ärilise tegevuse jaoks asjade väljatöötamise kõrvalnäht.

Ja üsna, üsna suure mõjuga kõrvalne.

Ja isegi nende samade platvormide omanike ja, ja siis loojate jaoks üllatav kõrvalne. Selles mõttes, et me näeme kohati jällegi mingitest intervjuudest nende samade inimestega, kes on nende platvormide loojad. Et nad on näiteks aastaid raiunud mingit üht kindlat asja oma platvormi kohta või selle platvormi rolli kohta ühiskonnas või selle kohta, kas seda peaks või ei peaks reguleerima. Ja siis nüüd, ütleme viimase kahe aasta jooksul on riburadapidi tulnud selliseid nagu oma seisukoha ümbermõtlemisi. Et noh, viimane oligi seesama Zuckerberg, kes märtsi lõpus, see oli vist kolmkümmend märts, kui ta järsku avaldas Washington Postis minu meelest sellise nagu arvamus. Loo, mis oli radikaalselt erinev mitmel moel sellest, mis ta on viisteist aastat järjest öelnud selle kohta. Mis on Facebooki roll erinevates asjades ja kas seda peaks või ei peaks reguleerima. Või ta on alati väitnud, et Facebook pole meediaorganisatsioon. Jah, me

ei taha vastutada, on ju, et kui teil on mingi jama või probleem sellega, mida inimesed siin kirjutavad, et siis pöörduge selle inimese poole, et mis te minust tahate?

Täpselt, et meie ei ole toimetajad ega ajakirjanikud, meie seda sisu pole ei tellinud ega loonud, meie selle eest ei vastuta. Me oleme

lihtsalt üks koht, üks plank.

Täpselt, täpselt ja ta on öelnud, et internet. Ei, interneti ei peaks riigid reguleerima või ütleme, valitsused ei peaks reguleerima, et seesama, et internet on vaba ja info on vaba ja nii edasi. Ja siis nüüd ühtäkki ta ütles, et, et ei, et nii see ei tööta, põhimõtteliselt internet on katki, on ju. Ja siis pakkus välja need mingid neli asja, mis tema meelest on olulised. Mis, mida on vaja reguleerida valitsuste tasandil, mis on jälle noh, nagu vaieldavalt nagu naiivne seisukoht, sellepärast et kuidas peaks näiteks. Hiina valitsus leppima kokku USA valitsuse ja Vene valitsuse ja ma ei tea, Eesti valitsusega, et olla ühel nõul sellest, kuidas seda ühist internetti reguleerida.

Et, aga

siis ta nüüd siis ütleski, et nii-öelda siis see kahjulik või toksiline või selline nagu halb sisu on üks asi, mida tuleb reguleerida. Valimiste puutumatus, noh, mille eest neid on hirmsasti süüdistatud, eks ole. Privaatsus ja siinkohal ta tõi nagu näiteks või tõstis esile hea eeskujuna selle Euroopa Liidu. GDPR-i mudeli ja siis andmete liikuvus. Ehk siis see, et kasutajana ma peaksin saama nii-öelda võtta oma andmed kaenlasse ja minema, minna nendega teisele platvormile. Mis noh, selliste eesmärkidena on nagu toredad, keegi ei vaidleks vastu, keegi ütleks, et ei, need on pahad. Valimiste puutumatust me ei taha, on ju. Aga lihtsalt see on jälle selline natuke, et. Ta on viisteist aastat öelnud, et probleemi ei ole ja siis nüüd ütleb, et probleem on, aga nüüd siis teie lahendage see ära, et mina oma, oma kahe koma kolme miljardi kasutajaga ja põhimõtteliselt ühe. Planeedi jõukama ja mõjuvõimsama ettevõtte omanikuna, lihtsalt tunnistan, et ma olen hädas.

Kui palju sulle sotsiaalse teadlasena tundub või muidu, kui palju sul on nüüd okas hinges seetõttu, et, et, et noh, ütleme reaalteadlased, insenerid, arvutiteadlased. Nad tihtipeale suhtuvad sotsiaalteadustesse sellise kerge üleolekuga, et noh, te ei ole ju mingi teadus ja mis te siin ütlesite, te lihtsalt kulutate raha ja toodate mingit sooja õhku. Aga et, et tegelikult palju sellest probleemist on noh, tulenenud just sellest, et nad on olnud reaalteadlased, nad on teinud oma inseneritööd ja nad on teinud seda väga hästi. Aga et neil ei ole noh, mitte mingisugust erilist arusaama sellest, et mis on ühiskond ja, ja mis see sotsiaalsfäär üldse on ja. Et kuidas nende need inseneriteod reaalselt mõjutavad ühiskondi, mis on ju sotsiaalteaduse küsimused. Kas sulle ei tundu, et halloo, et te oleks võinud kümme aastat tagasi meie käest seda küsida?

Mulle tundub küll, aga mul ei ole nagu mingit otsest okast hinges sellepärast, sest et mind kasvatati sotsioloogiks pärast seda, mis olid nii-öelda need paradigma sõjad sotsioloogia siseselt, ehk et nagu. Jube sellise teadmisega, et, et sellised vastuolud nagu alati on. Mis on minu jaoks lootusrikas, on see, et ma töötasin põgusalt, mul oli võimalus töötada Microsoft Researchis. Teaduspraktikandina, kui ma tegin alles oma doktori. See

ei olnud siis Eestis?

Ei, see oli USA-s, Bostonis. Kui ma tegin alles oma doktorikraadi ja seal oli nihuke selline täiesti fantastiline näide siis. Hoonest, kus enamikel korrustel olid inimesed, kes ehitasid asju, jah, insenerid. Ja siis üks korrus oli siis teadlased, kellest enamik olid endiselt reaalteadlased, ehk siis inimesed, kes tegelesid näiteks. Arvutusliku noh, ütleme visuaalse arvutuslikkusega, ehk siis kuidas ehitada algoritme, kes, mis tunnevad piltide pealt asju ära. Hästi palju matemaatikuid, kes tegelesid tegelikult selliste asjade nagu vähiravi ja nii edasi. Ja siis oli väike grupp. Sotsiaalteadlasi, umbes kümme, kes tegeles, tegelevad siis nende kõikide erinevate asjade mõtestamisega, mõjude, võimalike mõjude läbimõtlemisega ja sellise kriitilise analüüsiga.

Ei olnud

ja see oligi nagu suurepärane näide sellest, kus need dialoogid toimisid igapäevaselt. Nii, ütleme siis mitteformaalselt lõunat süües, kui ka formaalsemalt seal olid mingisugused sellised ettekannete sarjad ja nii edasi. Ja kõikidel oli kogu aeg huvitav, selles mõttes, et seal ei ole mingit sellist sisseehitatud asja, et kui insener, insener räägib sotsiaalteadlasega, siis ühel on kindlasti igav või midagi sellist. Et seal on osa, on ka nagu selliseid nagu kultuurilisest tereotuhüpp, aga ma arvan, et hästi palju saab ära teha juba sellel tasandil, et. Millised tudengid näiteks õpivad koos ja millised on kohustuslikud ained, mida kõik peavad koos võtma. Et absoluutselt on vaja nendel inimestel omavahel rääkida, aga mulle tundub, et nad räägivad aina rohkem ja mulle tundub, et aina rohkem kaasatakse näiteks etnograafe. Nendes suurtes ränioru ettevõtetes tegelikult ka nii arendusmeeskondadesse kui ka siis sellistesse nagu kommunikatsiooni- ja turundusmeeskondadesse. See viimane on nagu just nagu loogilisem või? Me oleme seda kauem näinud, sellepärast et seal saab seda etnograafia teadmist just nagu ära kasutada. Aga see, ütleme siis nagu arendustegevusse kaasamine aina enam suureneb. Ja noh, mul on hea näide sellest, et eetika on ju, uurimiseetika või ka siis ütleme siis nagu internetieetikaga selline, et kui sa ehitad mingi toote. Siis sellesse on sisseehitatud sageli mingisugused eeldused ja ootused selle kasutaja suhtes. Ja tal on seega mingisugused sellised eetilised lubavused, jah, me võime sellesama Facebooki puhul rääkida. Et nendel asjadel, mis teevad sellest parema reklaamiteenuse, on mingid eetilised lubavused, on ju, mille peale siis noh, oletame, et ei mõeldud. Et kui rääkida nende samade, ütleme siis inseneridega või IT-inimestega eetikast. Siis on hiljuti mul paar kolleegi viinud läbi paar sellist nagu huvitavat katset, et kõige kasulikumad või sellised kõige viljakamad olnud, on olnud need vestlused, kus räägitakse sellest, et mis on, ma mõtlen, mis on heaestikene sõna, creepy. Et need vestlused töötavad imehästi, selles mõttes, et noh, kõik saavad aru, nii need, kes ehitavad neid platvorme, kui need, kes kasutavad seda, et. Kui sa ehitad selle nii, siis selle tulemus on see, et see on creepy. See vastu, kui sa räägid mingitest. Muide, tehnoloogiasse sisse ehitatud Integrity ja eetika asjadest, siis need on kuidagi tunduvad sellised nagu, ah, see ei puutu minusse

nagu,

see ei puutu sellesse kasutajaliidesesse, see ei puutu sellesse, mis nende nuppude pealkirjas on, see ei puutu sellesse, millised. Allalangevast menüüst, milliseid asju ma saan valida, aga see nii-öelda nagu creepy, see kõneleb nagu kõigiga.

Ja sellest on muidugi vist osadel inimestel mulle tundub olnud väga raske aru saada, et kui ma noh, kui ma teen mingi sellise asja, mis ma ei tea, minu kui. Reaalteadlase jaoks on see, see on kõik loogiline ja see on okei ja see on arvutiga saab ka aru, et aga et inimeste jaoks tundub see imelik, et see, seda, mulle tundub, et nad seda ühendust mõnikord ei ole ikkagi oma peas ära teinud, et mis inimesed sellest arvavad, kuidas see tundub?

No ja teine asi on see, et see on ka seotud ennustamisega, mis on teatavasti väga tänavatu töö, on ju. Selles mõttes, et, et me sageli ju ei tea, kuidas inimesed seda kasutama hakkavad ja asi, mis töötab väga hästi, ehk et ta on ehitatud väga hästi. Ehk see, kes selle ehitas, võib endale patsutada, õlal ei öelda, et see teeb, mida see pidi tegema. Aga siis inimesed, tänu sellele, et inimesed on. Vaimustavad ja mitmekülgsed, aga ka imelikud ja mõnikord pahad ja sageli nõrgad kasutavad seda mingisugusel mitte sada protsenti ettenähtud moel või avastavad, et seda, selle kasutamisega saab muuhulgas teha midagi, mis on halb või mida iganes. Et siin ongi see, et kas meil on nagu, ütleme siis selles disaini ja ehitamisprotsessis sissejäetud need lõtkud või need momendid, kus me korraks kas või korraks peatume ja tõmbame hinge. See asi pole isegi selles, et mingisugune päästev sotsiaalteadlane peab tulema lendama kohale keebiga ja ütlema, et ma ütlen teile, kuidas on. See piisab juba sellest lihtsalt, et kus selles nagu tohutult kiires turnaround nagu ütleme siis disainist kuni müügini protsessis. On pausid, väiksed pausid, selleks, kus me istume ja mõtleme, okei, nii, kujutame nüüd ette seda maailma, kus see töötab nii nagu me tahame. Mis võiks minna nässu? Okei, meil tuleb kohe pähe kolm asja, miks või, mis võiks minna nässu. Kas me saame kuidagi muuta seda, kuidas see on ehitatud, nii et nad ei läheks nässu või seda saaks kuidagi kontrollida või mida iganes.

Hüva, me peame siia tegema esimese pausi ja siis jätkame.

Restart jätkub ja meil on külas sotsiaalmeedia uurija Katrin Tiidemärk Tallinna Ülikoolist. Ma ei mäleta, kes, aga keegi ütles väga huvitava, minu arvates väga tabava mõtte, et kui viimased kümme aastat oli, oli selline sotsiaalmeedia ja noh, kõigi nende platvormide ja tehnoloogia ehitamise kümnend. Et siis nüüd me oleme järgmise kümnendi ees, et mis, mis on. See inglisekeelne sõna oli governance, mida ta kasutas, et, et me oleme nüüd siis noh, mõnes mõttes nagu portsu otsas, et need on valmis tehtud, me näeme, et nendel on head mõjud ja neil on halvad mõjud. Aga et nüüd mingid teistsugused inimesed või mingi teistsugune loogika peab hakkama siis mõtestama seda, et, et kuidas me neid tooteid, teenuseid kasutame. Et, et need oleks pigem kasulikud nii üksikisiku tasandil kui, kui ühiskondlikul tasandil, et me ei avastaks mingil hetkel, et noh. Et Facebook või sotsiaalmeedia on uus asbest või midagi sellist või, või uus kasiinosõltuvus. Mis sa arvad sellest, kas sa näed, et järgmine kümme aastat me tegeleme selle supi söömisega mõnes mõttes?

Ma arvan, et me tegeleme raudselt selles mõttes, et mis meil üle jääb. Aga küsimus on siin selles, et praeguste nende inimeste seas, kes on tegelenud viimased, ütleme kümme aastat, kas sellise manipuleeriva, pahatahtliku ja trolliva internetikasutuse uurimisega. Või ka näiteks sisu haldus, ehk selle nagu content moderation uurimisega. Kui ka ütleme siis platvormide enda arusaama uurimisena oma vastutusest ja sellest, kuidas nende algoritmid töötavad. Siis kõikide nende teadlaste seas hetkel levib nagu selline suhteliselt pessimistlik lootusetus. Et ei

saagi midagi teha või?

No natukene selles suunas, et, et ütleme, need asjad, mida sageli nagu pannakse lauale, et ütleme pärast neid, pärast Brexitit, pärast kahe tuhande kuueteistkümnenda aasta USA valimisi. Pärast Cambridge Analytica, et pärast seda, mis toimus. Myanmaris ja Filipiinidel, seoses selle Facebooki nii-öelda tasuta interneti levikuga nendes riikides. On pandud lauale ütleme kahte või kolme tüüpi võimalikke lahendusi, millesse siis erinevad grupid ühiskonnas erineval tasemel usuvad. Üks on, ütleme siis, parem sisu filtreerimine ja parem sisuhaldus ja, ja parem siis, ütleme siis nagu platvormide korrastatus. See on sisuliselt selline tehniline lahendus, jah. Et me loodame, et me suudame ehitada paremad algoritmid, mis paremini suudavad välja sortida ja filtreerida mingil moel kahjuliku ja eriti veel nagu nimelt kahjulikuks loodud sisu. Selle kohta ütlevad kriitikud, et esiteks see paneb nagu liiga palju lootusi sellele, et platvormid ise reguleerivad ennast, sellepärast et sageli kaasneks tõhusa reguleerimisega oma kasumimarginaali vähendamine. Ja mis alust on meil oodata, et eraettevõte seda

teeks? Avalikkuse surve, et ega Youtube on ka ülisuure surve all ju Ameerikas, et nad kardavad ka ikka natuke, ma arvan.

Ei no eks nad kardavad ikka ja selles mõttes, kui kriitika läheb, no Facebook on ka teinud mitu sammu nagu, et, et on näha, et nad ei ole nagu immuunsed, aga siin ongi küsimus selles, et meil puudub ülevaade sellest, et kui nad ütlevad, et me tegime. Jah, ja me, ja me ka näeme, et nagu neid samme, mis nad on teinud, et need on sageli sellised, et no tore, aga esiteks. Mitte piisav, või teisel juhul on natuke selline ülepingutamine või selline, seda teeb muidugi seadusandja rohkem kui platvormiomanik, seda ülepingutamist, kus läheb nagu nii-öelda titkos vanniveega, visatakse välja. Mingisugusesse sellises hästi ärevasse, et keerame kõik kinni nagu ja tüüpiliselt need lahendused hakkavad peegeldama jällegi selliseid ajaloolisi ärevusi või ajaloolisi normatiivseid ja moraalseid jooni. Et selle asemel, et tegeleda näiteks mingisuguse väga vihkamist õhutava, vägivalda õhutava sisuga, tsenseeritakse ära koguseks nagu. Et me lähme jälle tagasi sinna, et mõelge laste peale ja kaitseme lapsi, on ju, just nagu mingisugused tõesti nagu. Genotsiidile õhutavad või mingit tüüpi inimeste vastu vägivalda õhutavad postitused oleks nendele samadele lastele kuidagi kasulikumad. Kui need õnnetud tissid, on ju, ainult naiste tissid ja noh, seal on nagu terve hulk mingit imelikult.

Aga see lähebki nii absurdseks, et, et noh, mina. Olles ka ise noh, sotsiaalala lõpetanud ülikoolis ja mitte, mitte inseneeria, siis aga mina ei kujuta ausalt öeldes päris täpselt ette, et kuidas need kaks, kaks distsipliini saaks nagu nüüd rõõmsasse abiellu panna, et noh, kuidas me koostame mingisuguse masina, mingi algoritmi, ma ei tea, noh, mingid. Reaalteadusliku lähenemise, mis, mis hakkab, mis saab aru inimeste mõtetest ja allhoovustest ja kogu sellest kultuurikontekstist, mida me oleme siin tuhandeid aastaid ehitanud, mis. No alates, nagu sa ütlesid, kõik need teemad on ju pluss sellest, et noh, mis on nali, mis on sarkasm. Mis on sobiv, mis ei ole, minu meelest ei ole võimalik, mina küll ei usu, et oleks võimalik koostada mingi arvuti, mis, mis ütleks, et vot see on hea, see on halb.

Ja noh, siis ongi see, see, mis sa tegelikult ütlesid, see, seal on omamoodi vastus olemas, vastus on see, et masin üksi ei saa reguleerida. Sellepärast, et masin toetub mustritele, isegi iseõppiv masin, meil on ju näited olemas sellest, nendest samadest. Twitteri chat'i robotist, kes kahe päevaga muutusid seksistlikeks ja rassistlikeks, sellepärast nad peegeldasid mustreid, mis nad nägid. Et need õpivad sageli nagu meie need halvad kombed ära. Et ühesõnaga, masinatega seda masinaprobleemi lahendada ei saa, üksinda vähemalt, nii. Siis teine asi, mis lahendusena pannakse kõrvale kogu aeg, on siis see nii-öelda. Ja

selle

kohta on ka juba öeldud, et see tegelikult ei tööta väga hästi, sellepärast et kriitilise kirjaoskuse põhipoint on see, et ta ütleb, et kahtle ja küsi küsimusi. Mis on super, aga seda on väga lihtne kaaperdada ja kui see jällegi, kui seda, kui selle kahtlemisest. Jäävasse tühimikku ei aita keegi panna sellel inimesel midagi mõistlikku. Siis see, see tühimik tühjaks ei jää, see tühimik täidetakse siis mingisuguse sellise vahtu pekstud jamaga. Ja, ja selle kohta on hästi palju näiteid jällegi sellise nagu tähelepanu kaaperdamise kohta. Kuidas väga lihtne on manipuleerida inimestega, jättes mingisugused võtmesõnad või ehitades mingisugused hashtagid mingite ärevust külvavate postituste sisse. Sest me teame, et inimene, kes loeb sellist nagu, neid nimetatakse kleepuvateks sisu, jah, mingid selline kleepuv sisu, mis toodab hästi palju afekti, kas positiivset või negatiivset. Kui sa loed seda, siis see afekt jah, see sunnib sind otsima juurde infot, eriti kuna sul kogu aeg ümberringi öeldakse, et nagu otsi infot, ise veendu, otsi juurde, ära usu midagi. Okei, et ma nüüd otsin, sinna sisse on jäetud mingid hashtagid või märksõnad. Ja see sinu jänese urg, kuhu sa sisse lähed, või see riburada, leivaprost rada, on ette disainitud. Ehk, et ma saan ehitada ette terve hulga mingit hashtagitud informatsiooni, mida see inimene siis leiab, arvates, et ta leidis midagi, mis on oluline. Mille ma olen ette nagu manipuleerinud sinna. Et kui sa noh, kui sa niimoodi lähed nagu kõiki neid lahendusi pidi sinna kriitika lõppu välja, siis tõusevad selja peal karvad püsti küll. Ja ei ole päris selline tunne, et ah noh, läks nässu, et noh, teeme siis ära korda nagu.

Mulle tundub, et üks asi, kuhu Zuckerberg üritab praegu lüüa labidat sisse, kust on võimalik teoreetiliselt natuke seda olukorda parandada, on see, et, et me teeme Facebooki oluliselt vähem globaalseks. Et just oli siin paar nädalat tagasi ju eelmisel nädalal, millal oli see suur Facebooki F8 konverents, kus ta ütles, et nii, et noh, sisuliselt, et Newsfeed hakkab nagu kaduma. Mis on tema arvates, ma arvan, siis kõige, kõigi probleemide allikas ja et me asendame selle event'side ja gruppidega. Ehk et mulle tundub, et ta tahab sellest noh, globaalsest Facebookist teha jällegi väga lokaalselt, et, et kui su pilt Facebookis, mis sul avaneb, on seotud sündmustega, kus sa tahad osaleda ja gruppidega. Siis ütleme, grupis osa, noh, grupp, kas või Facebooki grupis osalemise lävend on oluliselt kõrgem kui mingi page'i laikimine või, või, või kui see Newsfeed, kust jumal teab, kust need asjad tulevad. Et, et ta tõmbab selle levimudeli nagu oluliselt kokku ja sellega ta saavutab selle, et mingid sellised noh, ei head ega halvad asjad siis ei lähe noh, niimoodi mööda maailma ringi käima ja, ja ei kogu kahtesadat tuhandet laiki, näiteks.

No siin on jah, ta, ta on öelnud ka, et Facebooki suund on nagu ütleme, privaatsele suhtlusele ja rohkem nagu mingite chat'i, äppide ja asjadega.

Ja see jutt, et me teeme Facebooki tagasi selliseks sõbralikuks noh, sõprade kohaks, et seda ta rääkis juba minu meelest aasta tagasi.

No sellepärast, et needsamad teadlased, kellele ma siin olen viidanud, seesama Siiva raamat ja nii edasi, need on öelnud umbes mingi viimased kuus aastat seda, et sotsiaalmeedia, sotsiaalsuse. Vahendajana on fine. Probleem on siis, kui ta omastab või sulandab endasse erinevad teised ühiskondlikud avaliku ruumi või avaliku sfääri nagu, siis teemad. Aga sellesama, ütleme siis selle lootusrikka Zuckerbergi plaaniga on see küsimus jälle, et. Meil on ju näiteid sellest samast Peterburis asuvast internetiagentuurist täpselt. Et ega see ei ole ainult asjade laikimine, et jah, muidugi asjad, millel on kakssada miljonit laiki, liiguvad kiiresti ja kaugele. Aga neid samu lehekülgi loodi, event'e loodi, loodi sageli. Ütleme siis, see manipuleerimine on nagu. Väga tark tänapäeval ja nii, ütleme siis manipuleerimine selleks, et suunata meid asju ostma, kui manipuleerimine selleks, et innustada meid midagi uskuma. Ükskõik, kas siis uskuma midagi, mis on just nagu ühiskonnale kasulik ja hea, või siis mitte. Ja seda on inimesed harjutanud, ongi viimased viisteist aastat. Et Dana Boyd, kes on. New Yorgis selle data ja society, mille asju tasub alati lugeda, ütleme, kui teid huvitab see kriitiline internetianalüüs. Juht, tema on öelnud, et. See selline häkkimine, tähelepanumajanduse häkkimine, seda on õppinud algselt. Ütleme siis teismelised ja meemikunstnikud ja sellised nagu sõbralikud rollid, mitte poliittrollid. Ongi õppinud viisteist või kakskümmend aastat, see algas sellest, et umbes, et kui. Ta toobki näite sellest samast meemindusest, et kui 4chan, et sinna ei mahtunud lihtsalt nagu see, kelle oma see oli, ta ei tahtnud nagu maksta selle eest, et hoida kõiki neid pilte korraga üleval, siis ta hakkas neid ära kustutama ja inimesed hakkasid neid nii-öelda taas postitama kerge muutusega. Jah, millest tekkis nagu see meemiformaat, siis oluliselt, on ju. Siis järgmise häkina tekkis see nii-öelda upvote'imine, et noh, need, mis meile meeldisid, jääks alles, kui osa kustub ära. Et kõik need asjad on orgaaniliselt. Tähelepanu

häkkimine, et noh,

vaata siia, on ju. Tähelepanu häkkimine ja seesama Teine poolt ütlebki, et meie probleem ei ole mingites võltsuudistes või poliitilises poraliseerumises. Meie probleem on selles, et me oleme ehitanud. Super hästi toimiva tähelepanu majanduse ja me oleme ehitanud seda kahe, mis on nagu innovatsiooni protsessi seisukohast ideaalse näidisena, jah. Et seal on tulnud ühelt poolt nagu korporatsioonide poolt nagu raha peale ja huvi ja teiselt poolt siis alt inimeste seast neid väikeseid häkke. Ja need on nagu väga viljakalt kokku jõudnud ja me oleme ehitanud tähelepanu majanduse mudeli, mis toimib laitmatult. Nüüd probleem on selles, et seda,

et seda halvaks kasutamist on meil noh, võimatu või üli-üliraske kuidagi kontrolli alla saada.

Täpselt, täpselt ja siis ongi see, et, et noh, et mis, mis, mismoodi seda nagu lahendada või kõik lahendused, mis lauale pannakse, on sellised, et. Noh, meil ei ole varianti, me peame proovima selles mõttes, et, et. Või

siis kinni panema, aga seda me ei kujuta ette.

No täpselt, aga siin ongi see, et see Siva, teie perekonnanimi on hästi raske öelda, Vaidjanathan. Kirjutas selle raamatu Anti-Social Media, mis on konkreetselt Facebookist ja ta on öelnud, ma isegi vist. Võtsin välja selle jupi. Mis ta ütles, just Facebooki kohta, et ta ütles, et. Et selline globaalne süsteem, mis toob kokku miljardeid inimesi ja võimaldab inimestel põhimõtteliselt täiesti vabalt, ükskõik millist sisu postitada enam-vähem. Ja on töötanud välja niivõrd targad algoritmid. Ja toimib nagu sellisel perpeetum mobile laadsel jälgimissüsteemil ja enesejälgimissüsteemil. Sellist asja ei saa kuskilt ääre pealt reformida. Et natuke me siit ja natuke sealt ja siis Eesti teeb natuke mingid seadused ja Euroopa Liit teeb natuke seadused, see on liiga suur ja see töötab liiga hästi. See on liiga täiuslik masin, et seda saaks reformida niimoodi natukene. Et noh, siin ongi siis me siis mõnes mõttes nagu oleme nagu Zuckerbergi jalgade ees oma õnnetusega. Ja noh, noh, vähemalt paistab, et ta vähemalt lubab midagi teha, aga noh, eks me siis nagu näeme,

et. Jah, see on natuke kahtlane ka kõik, aga me teeme teise pausi ja siis jätkame.

Restart jätkub ja räägime siis sotsiaalmeedia uurimisest. No Eestis ka, kui sa käid Facebookis ringi või Twitteris ringi, et siis on noh, tekkinud sellised väga vastandlikud grupid ja, ja üks grupp ei saa üldse aru, et kuidas teine grupp saab nii loll olla. Et, et ühed ei saa aru, et, et miks te ometi oma lapsi vaktsineerite ja teised ei saa absoluutselt aru, et kuidas te saate nii rumalad olla, et miks te ei vaktsineeri oma lapsi. Või noh, et ühed usuvad kristalle ja teised ei usu, on ju, ühed usuvad ühte erakonda, teised usuvad teist erakonda. Ja seal vahel on nii suured lõhed, et, et noh, see on, ongi taandunud usu küsimuseks ja, ja sellel faktipõhisel maailmal justkui nagu tundub, et ei olegi erilist tähtsust. Kui sa nüüd vaatad teadlase pilguga, kelle jaoks ju faktid on A ja O, eks ole. Kas sa arvad, et neid inimesi saab süüdistada selles näiteks, et ma ei tea, et nad ei usu vaktsineerimisse või, või et nad usuvad mingit vandenõust, kas, kas inimesed on rumalad või, või sa usud selles mõttes mingisse süvariiki, et. Et need inimesed on lihtsalt kellegi turunduskampaania või ütleme, kellegi kampaania ohvrid ja see kampaania nii hästi tehtud, et meil ei olegi põhjust tegelikult etteheiteid teha sellele inimesele, kes on segaduses ja ei tea, mida uskuda.

Jah, ja ei, ja mõlemad, selles mõttes, et kas osad inimesed on rumalad, absoluutselt. Kas inimesi manipuleeritakse, absoluutselt. Kas see, kuidas sotsiaalmeedia on üles ehitatud, võimendab ütleme siis selliseid teatud inimeste haavatavust ja teiste inimeste võimet seda haavatavust ära kasutada, absoluutselt. Selles mõttes, et selle näpuga näitamise koha otsimine ei ole eriti kasulik, sest et seda näppu tuleb viibutada igas suunas nagu. Et küsimus on nagu selles, et, et kust nagu kinni hakata, on ju. Ja siin on mitu, mitu, ütleme siis selgitust või, või lähenemist. Et ühelt poolt räägitakse sellest, et on need kõlakambrid või kõlakojad, on ju. Mis on sisuliselt sotsiaalpsühholoogiline selgitus, see ütleb, see ütleb, et selline tendents nagu homofiilia. Mis tähendab seda, et sarnasus loob sotsiaalse seose, mis sisuliselt lihtsustatult tähendab lihtsalt seda, et meie kõik, tänu oma mingitele sellistele kognitiivsetele kallutatavustele ja sellistele. Sotsiaalpsühholoogilistele protsessidele nagu grupidünaamika ja suhete loomine.

Meile meeldivad sellised inimesed, kes meile meeldivad.

Meile meeldivad inimesed, kes on sellised nagu meie, meile meeldivad inimesed, kes arvavad nii nagu meie, see on kahtlemata tõsi. Nüüd küsimus on selles, et kui me mõtleme, see kõlakojateooria töötati välja tegelikult sotsiaalmeedia eelselt või ütleme siis, kui sotsiaalmeedia kindlasti ei olnud sellise mõjuvõimuga, nagu ta on praegu. Ja räägiti sellest tegelikult hästi palju seoses näiteks blogimisega. Aga, aga blogidele oli omane siiski selline nagu suurem toimetaja roll ja väga paljud eriti sellised nagu, eriti poliitilised blogid tegelikult väga sageli nimelt tõid nagu kahe erineva seisukoha. Hääled sellesse vestlusesse sisse. Et see, mis me näeme täna nagu selliste gruppidega, mis. Mis usuvad ainult seda, mida nad usuvad ja, ja lausa ei lubagi osaleda teistel, kes teistmoodi arvavad. Et see viitab jälle sellele, et mis me just enne rääkisime sellest, et Zuckerberg ütleb, et ah, et noh, et kui see feed kaob ära ja on grupid, et siis on kõik kohe parem. No kuidas ta siis parem on? Et selles mõttes, et me näeme, et osa sellest nagu polariseerumisest võimendub just nendes gruppides. Ja aga

me loodame, et grupid on lihtsalt väiksed.

Nojah, aga Eesti on nii väike, et Eesti puhul nagu meie sisepolariseerumise jaoks ei tee see grupipõhine disainilahendus, eriti mingit suurt muutust, on ju. Ja siis teiselt poolt räägitakse siis sellest nagu sellest filtrimulli teooriast, on ju, mis väidab, et ei, et see nagu. Mis järjekorras ja mida sa näed, mida siis reguleerib seesama platvorm, ehk siis selle platvormi algorütm. Et see on see, mis suunab selliste arvamuste nagu kinnistumist, kuna see toidab jällegi neid meie kognitiivseid kallutatusi. Et, et noh, seal on terve hulk neid erinevaid kallutatusi, näiteks ankurdamise kallutused, ma usun seda, mida ma selle kohta esimesena kuulsin. Siis selektiivne uskumine, et ma usun seda, mida ma juba enne uskusin ja noh, palju neid erinevaid, on ju. Et ilmselt nagu mõlemad on tõsi, aga selle kõrvale veel, et just nagu meil ei oleks isegi segane asi. Tulebki siis panna see nii-öelda nagu disinformatsioon, ehk et nagu nimelt valena toodetud informatsioon.

Sellised kurjad tegelased.

Ja selle puhul on ju nähtud seda, et noh, eriti palju on seda analüüsitud seoses nende USA valimistega ja. Ja selle Vene trollivabrikuga, et hästi palju oli seal sellist, mitte seda, et, et oleks kakssada miljonit like'i artiklil, mis ütleb, et Hillary on nõme. Vaid seda, et loodigi mingeid selliseid gruppe ja, ja üritusi, mis olid mingisuguse vaate äärmuslikud versioonid, jah. Et tegelikult need ei olnud need inimesed, kes ise nii äärmuslikult millestki mõtleks ja see võib olla vaktsineerimine või see võib olla mis iganes

muud.

Vaid neid julgustati seda tegema, et see nagu seeme tuli kuskilt väljaspoolt ja see võib tulla kas selleks, et manipuleerida poliitiliselt või. Või raha nimel või ka lihtsalt nagu selleks, et kaost külvata.

Mis sina ütled teadlasena või kas sa oled mõelnud selle üle, et, et kui, võtame Eesti näite on ju, et meil on ka neid gruppe ja seltskondi ja page ja Facebookis hästi palju, kus, kus noh, olulised küsimused on taandunud usu küsimuseks ja neid köetakse üles ja, ja on, on palju probleeme. Kas on, kas, kas, kas sellise seltskonnaga on mõtet minna ratsionaalselt arutama, vaidlema, lootused noh, et. Näidata, et kuulge, et ei ole nii, näete, et siin on uuring ja siin on teine uuring, et see on üks asi, mida me praegu teeme, et me üritame usuga ratsionaalselt suhestada, mina. Ma loodan, et see töötab, aga ma eriti ei usu.

Mul, mind õudselt vaevab see, et ma ütlen, et ma ka eriti ei usu, et ma tahaks, et ma usuks selles mõttes, et. Cory doktorov on öelnud väga hästi selle kohta ja öelnud, et meil ei ole hetkel tõekriisi. Vaid meil on kriis selle kohta, kuidas me teame, kas mingi asi on tõsi. Jah, ehk et sisuliselt meil ei ole mitte faktide kriis, vaid meil on epistemoloogia kriis, ehk et kuidas me teame, mida me teame, on ju. Et meil on terve hulk inimesi, kes lähtuvad nagu sellisest pärast valgustuse ajastut traditsiooniliseks muutunud epistemoloogiast, mis on see, et me teame, mis on tõsi selle järgi, et meil on tõendid. Me teame seda sellepärast, et meil on tõendid ja nende tõendite tõesust ja kvaliteeti on nii-öelda nagu heaks kiitnud mingisugused sõltumatud eksperdid.

Targad inimesed ütlevad, et see on tõsi, järelikult see on tõsi.

Just, nii, et see epistemoloogia, aga see toetub usaldusel, sa näed seda, on ju. Keegi ütles, et see, mis keegi teine ütles, on tõsi. Et okei, seal on mitu sammu sisse ehitatud, see toimis vanasti, nüüd see epistemoloogia enam ei toimu, ei toimi. Sellepärast, et nüüd on siis alternatiivse, alternatiivina seal kõrval see, et on terve hulk inimesi, kes ütleb, et need sõltumatud eksperdid. Need on mingid

teie eksperdid.

Just, et need on teie, te olete nad kinni maksnud või nad ei ole sõltumatud sisuliselt. Mis tähendab seda, et lõpuks, kui ei ole võimalik fakte kontrollida, jah, sellepärast, et see on ära õõnestatud. Siis muutub ebaoluliseks see, mis on tõsi. Sellepärast, et oluliseks muutub ainult usk, jah, mida ma usun või mida ma ei usu. Et

ma ei usu sind, on ju. Mina ei kujuta ette, et kes see maailmas siis noh, muidugi on võimalik ette kujutada, et, et tuleb suur sõda ja, või noh, kas otsene sõda või mingis ülekantud tähendab sõda. Et need süsteemid, mis meil täna on, et need ühiskondlikud süsteemid ja protsessid lammutatakse ära ja sinna peale siis ehitatakse midagi muud, et need usaldus tekib tagasi, ta saab tekkida varemetele. See on ka võimalik ette kujutada, seda me eriti vist väga ei tahaks, aga aga kust see peaks siis tulema, et, et poliitikuid me ju ka nii väga palju ei usalda või et noh, Eestis ma vaatasin. Politsei on põhimõtteliselt kõige usaldusväärne organisatsioon, et kui politsei peadirektor ütleb, et midagi on tõsi, noh, siis on lootust, et üheksakümmend protsenti elanikest usub, et see on tõsi. Aga see on ka ausalt öeldes hakkab imeliku riigina mulle tunduma.

No just, ei noh, ja meediasse usaldus on madal, valitsusse usaldus on madal. Ja noh, ütleme siis optimistlikumad internetiuurijad on üritanud väita, et, et meie uus nagu või meie pääsetee on siis nii-öelda nagu. Kogukond või noh, selles mõttes, et teistsugune suhtumine ja suhestumine teineteisesse. Ehk siis nemad rõhutavad seda, et see, kuhu me oleme jõudnud, on olulisel määral sellise nagu individualismi kõrvalmõju. Mida siis muidugi on nagu võimendanud seesama tehnoloogia ja sotsiaalmeedia ja nii edasi ja nii edasi, aga et see, et me, me. Arvame ja meile on õpetatud, et me oleme põhimõtteliselt igas oma otsuses üksi, et me vastutame iseenda eest. Ja seda niisiis nagu selles mõttes, et ainult mina vastutan enda eest, kui ka selles mõttes, et kõik halvad asjad, mis minuga juhtuvad, on minu enda süü. Jah, selles mõttes, et tegelikult ütleme siis, õhuke riik, aga ka needsamad platvormid, keegi ju millegi eest vastutust ei taha võtta, kõik ütlevad, et ise panid selle pall ja pildi kuhugi üle, siis sa oled süüdi, on ju. Et kui tegelikult nagu vaadata neid suuri fenomene, mis toodavad neid halbu ja häid tundeid seal, näiteks privaatsus, on ju. Et kas mu privaatsust hoitakse või ei hoita, siis privaatsus on sotsiaalne norm, see on kokkulepe ja privaatsust üksinda kaitsta ei ole võimalik, sellepärast et kui sina võid kaitsta oma privaatsust, aga mina lähen ja räägin sinu kohta, siis sinu privaatsus on purunenud, on ju. See tähendab seda, et kõik asjad on suhtelised selle sõna kõige otsesemas mõttes. Mitte, et võib-olla nii, võib-olla naa, vaid sina ja mina oleme seotud ja mina ja see kolmas inimene on seotud. Et kui me suudame luua nagu mingi sellise ideoloogilise nihke enda peades, et me arvestame vähemalt mingil minimaalsel määral sellega. Et siis osad optimistid usuvad, et sellega võiks kaasneda oluline.

No, kollektivism on nagu

sa, sina ütled praegu kollektivism rohkem nagu sellise riigihaldusliku või, või, või majandusliku asjana, mida ma ei mõelnud, selles mõttes, et, et. Kogukondlikum või suhtelisem ideoloogiliselt võib-olla ka mitte siis ütleme, mingisuguses kollektivistlikus, poliitilises, autoritaarses riigis või, või kollektivistlikus majanduses. Et see on nagu sihukene, noh, ma tunnen ennast nüüd ühtäkki nagu mingi tohutu hipina, et ma ütlen, empaatia on oluline, aga empaatia on oluline. Ja tegelikult inimesed on hästi empaatilised, lihtsalt küsimus on selles, et, et me oleme hetkel jõudnud sellisesse olukorda, kus inimesed tegelikult nagu. Üsna karmilt keeravad oma empaatia kinni mingite inimeste suunas, jah. Mis on selline klassikaline teisestamine või, või nagu selline, et sina oled teistsugune kui mina ja võõras, seega sa

ei.

Et sa ei olegi just nagu inimene, vaata, et sinule, ma ei ole sulle võlgu nagu. Baas inimõigustel põhinevat suhtumist, mis on täiesti barbaarne, kui me selle peale mõtleme, et kui me mõtleme ajaloo peale, on ju. Ma just

tahtsin mõelda ajaloo peale, siis ma järsku enam ei tahtnud mõelda ajaloo

peale. Et, et, et meil, meil on näiteid sellest, kuidas me oleme kollektiivselt, meie kõik inimesed, oleme oma empaatiavõime teiste inimeste osas lukku keeranud. Sellel on olnud katastroofilised tulemused, täiesti katastroofilised. Siis me tuleme sealt välja. Me loeme neid ajalooõpikuid, me vaatame neid eepilisi filme kinodes ja mõtlema, et issand, kuidas see sai juhtuda. Kuidas

nad said nii rumalad olla.

Ja siis me nagu.

Miks keegi ei öelnud neile või miks keegi ei tõusnud püsti, öelnud, et kuulge, see on jama, mis me. Täpselt,

ja, ja siis me ei pane nagu tähele seda, et, et see, mis kohati toimub internetis ei olegi nii väga erinev.

Ma tahtsin lõpetada optimistlikult, aga saateaeg on selline, et näed, ei saanud lõpetada nii väga optimistlikult. Aga vaatame, loodetavasti läheb elu maamuna peale edasi, aitäh sulle, Katrin ja kuulajatega kohtume nädala pärast.