Din nye app kan mere, end du tror

Skærmbillede af turist-aflytnings-app’en, som bliver installeret hvis man begiver sig til Xinjiang-provinsen.

I denne tid, hvor det kinesiske regime har slået ned på systemkritikere i Hongkong med undertrykkende lovgivning, er det også forstemmende at læse en artikel fra New York Times om hvordan kinesiske app-udviklere udvikler apps, der reelt er malware rettet mod Android-telefoner og beregnet til overvågning af uighurerne i Xinjiang-provinsen.

Hele denne hacker-indsats har stået på siden 2013. Nogle former for overvågning er gemt i tastatur-apps, mens andre er indlejret i bl.a. apps med uighur-sprogede nyheder, skønhedstips eller religiøse tekster som Koranen (uighurerne er muslimer). Disse apps kan f.eks. tænde for telefonens mikrofon uden at brugeren opdager det, optage opkald eller eksportere fotos, GPS-data og samtaler på chat-apps.

Men også andre bliver ramt. Hvis man som udlænding rejser ind i Xinjiang-provinsen med sin smartphone, installerer grænsepolitiet en app på telefonen, der scanner telefonen for indhold og aflytter sms’er.

I Kina er grænserne mellem erhvervslivet og regimet meget uklare, og derfor er det meget uklart, hvem man reelt har med at gøre og i hvilket omfang hackerne egentlig har regimets aktive opbakning. På universiteter verden over bliver der i disse år oprettet uddannelser i cybersikkerhed, og emnet er i de seneste årtier blevet genstand for stor forskningsaktivitet. Især arbejdet med analyser af mobil kode er blevet væsentligt. Xinhua News skrev i 2019, at Kina regnede med at være førende inden for cybersikkerhed i den nærmeste fremtid. Det lyder umiddelbart lovende, for det vil formodentlig bane vejen for ganske meget forskningssamarbejde mellem Kina og omverdenen. Om det så er en god idé at samarbejde med miljøer, hvor hattene så ofte skifter farve fra hvid til sort, er en anden snak.

Min fornemmelse er, at det mest nødvendige krav til apps er, at deres kildekode bør være åbent tilgængelig og analyserbar og at man af app-butikkerne bør kræve, at de foretager sådanne sikkerhedsanalyser. Det kræver så også, at vi som forskere udvikler nye metoder til sikkerhedsanalyse af mobil kode. Der er selvfølgelig en masse spændende nye muligheder for forskning i programmeringssprog gemt her.

Men den slags tager tid. Lige nu er det sikreste formodentlig desværre ikke at tage en smartphone med, hvis man skal til Kina.

“Uddannelsescentre” og forskning

Tashpolat Tiyip (tv.) bliver æresdoktor fra Sorbonne. Foto: Amnesty International.

Tashpolat Tiyip er en fremtrædende forsker i geografi i Xinjiang-provinsen i Kina. Han er bl.a. æresdoktor fra Sorbonne. Fra 2010 til 2017 var han præsident for Xinjiang Universitet, men i 2017 blev han tilbageholdt i Beijings lufthavn, da han sammen med en gruppe studerende skulle rejse til Tyskland. Herefter er han “forsvundet” og er blevet dømt til døden ved en hemmelig domstol. Hans familie kan ikke få at vide, hvor han er.

Tashpolat Tiyip er efter alt at dømme blevet forfulgt, fordi han er uighur og kritisk over for det kinesiske regime. Uighurere er et etnisk mindretal på omkring 11 millioner mennesker; de er muslimer. Uighurerne modsætter sig ligesom tibetanerne det kinesiske overherredømme, og derfor bliver de udsat for voldsom og systematisk forfølgelse. Omkring en million af dem menes at sidde i lejre eller fængsler. Ifølge Amnesty International foregår der tortur og indoktrinering i lejrene, mens de kinesiske myndigheder kalder lejrene for “uddannelsescentre”.

Det er desværre her, datalogiske metoder til analyse af data kommer ind. Kinesiske firmaer udvikler i tæt samarbejde med regimet metoder til analyse af internet-data og mobildata og til ansigtsgenkendelse, så det er muligt at opspore og overvåge dissidenter blandt uighurer og andre etniske mindretal.

USA er et af de vestlige lande, hvor der har været tæt samarbejde mellem datalogiske forskningsmiljøer og kinesiske virksomheder om teknologi, der bliver brugt til overvågning og i sidste ende til forfølgelse. I nogle tilfælde er det kinesiske universiteter, der agerer som en form for mellemmænd.

Ofte er det jagten på forskningsmidler, der er drivkraften hos datalogiske miljøer, og mange af problemerne, man beskæftiger sig med, fremstår fra de kinesiske samarbejdspartnere så generelle, at det bliver sløret hvad formålet egentlig er. I 2019 skred USAs handelsministerium dog ind over for disse samarbejder og sortlistede en række kinesiske virksomheder. Dette skete som reaktion på en række sager.

I 2018 indgik MIT et forskningspartnerskab med det kinesiske firma SenseTime, som er blandt de virksomheder, der i 2019 blev sortlistet af det amerikanske handelsministerium på grund af sin rolle i undertrykkelsen af uighurerne. SenseTime-midlerne hos MIT er forbundet med betydelige donationer fra iFlyTek, som er en anden kinesisk virksomhed inden for overvågningsteknologi. Også iFlyTek er sortlistet af det amerikanske handelsministerium og nævnt af Human Rights Watch i 2017 for sin masseindsamling af data i forbindelse med politiets overvågning i Xinjiang .

MIT er på ingen måde det eneste universitet i USA, der har haft forbindelser til forfølgelsen af uighurerne, og som har hentet eksterne forskningsmidler gennem samarbejde med kinesiske firmaer. Et andet eksempel er University of Illinois at Urbana-Champaign, hvor der har været forskning delvist finansieret af CloudWalk, der arbejder med software til ansigtsgenkendelse af uighurer og tibetanere.

USAs politik om sortlistning kan blive et generelt redskab i det større billede, men det er vigtigt, at forskningsmiljøer også selv tager aktiv stilling til de potentielle anvendelser af de teknologiske løsninger, de arbejder med, og tager et etisk ansvar i stedet for at risikere at ende som en form for naive redskaber for andre. I bl.a. USA har afhængigheden af ekstern finansiering nu nået et niveau, hvor det er vigtigt med en kritisk stillingtagen til interessenterne, ikke mindst hvis de kommer fra lande med voldsom undertrykkelse.

Et akademisk ideal – og realiteten

Et af de idealer i forskningsverdenen, der er vigtigst, er at en påstands sandhed og vigtighed ikke afgøres af hvem der fremfører den, men alene af påstanden selv. Det er derfor, man ikke alene kan appellere til autoriteten hos en person som argument for at en påstand er sand. Samtidig ved vi dog godt, at vi er mere tilbøjelige til at stole på personer med dokumenteret indsigt. Et aktuelt eksempel er den forskel i umiddelbar skepsis, der bør være over for en lægperson og over for en forsker i epidemiologi, der fremfører påstande om spredningen af COVID-19.

Dobbelt-blind-bedømmelse af indsendte manuskripter er et forsøg på at sikre at dette ideal bliver efterlevet; lige nu er der en sag om en konference i datalogi, hvor denne beskyttelse er forsøgt omgået af en kendt forsker i USA, og det viser hvor vigtigt princippet ofte bliver taget.

Men disse påstande om at alle er lige og potentielt tages lige alvorligt og om at god forskning ikke er et spørgsmål om hvem man er, men om hvad man finder ud af, bliver modsagt af den faktiske tildeling af forskningsresurser i form af af forskningsmidler. Den bliver i stadigt større grad personafhængig; ikke mindst bedømmelsen af ansøgninger om midler afhænger af, at man ved, hvem ansøgeren er. Det er meget sværere at anonymisere ansøgninger om forskningsmidler, for her er man nødt til at vedlægge en publikationsliste og fortælle, hvilken institution man er ansat ved.

Samtidig skaber den store afhængighed af eksterne forskningsmidler en situation, hvor der er stor ulighed mht. mulighederne for at kunne bedrive forskning. De personer, der har mange resurser, har ganske enkelt bedre muligheder for at fremstå troværdige, fordi de har bedre muligheder for at undersøge og underbygge deres påstande og for at formidle dem videre. Det bliver reelt ofte et spørgsmål om hvem, ikke om hvad.

Derfor er den store ulighed i tildelingen af forskningsmidler et potentielt problem for det akademiske ideal. Er det godt, at der bliver skabt så stor en ulighed mellem forskerne, som tilfældet er?

Tanker fra et interview

Som jeg tidligere har nævnt her, modtager jeg i år sammen med Søren Christensen og Colin Stirling en “Test of Time Award” ved konferencen CONCUR2020 for vores artikel “Bisimulation Equivalence is Decidable for All Context-Free Processes” fra 1992. Luca Aceto, der i dag er professor ved Reykjavik Universitet, men engang var ansat samme sted som mig, lavede i den anledning et interview pr. mail med mig.

Luca stillede (som så ofte før) gode spørgsmål, og interviewet var en god anledning for mig til at se tilbage på min tid i Edinburgh, mindes folk jeg har mødt og tegne de store linjer i det, jeg trods alt har nået at lave i min forskning.

I det sidste afsnit spørger Luca til mine tanker om undervisning, der er et aspekt af mit arbejde, som jeg også anser for vigtigt. Herunder er min oversættelse til dansk af dette afsnit.

Personligt synes jeg, at der er en tendens til at præsentere akademiske emner – og ikke mindst emner i de matematiske fag, generelt betragtet – på en sådan måde, at definitionerne og sætningerne ser ud som om de faldt ned fra himlen, fuldt færdige. Som enhver forsker ved, er det bestemt ikke, hvordan teoridannelsen blev til. På denne måde fokuserer vi da også meget på det, Imre Lakatos og Karl Popper kaldte for context of justification. En velstruktureret præsentation af en teori kan forekomme smuk, men efter min mening er den egentlige skønhed den, man oplever, når man endelig har forstået en teori og forstår, hvorfor definitionerne og sætninger var nødt til at se ud, som de gjorde – dvs. at man også forstår context of discovery. Jeg er af den opfattelse at problembaseret læring (som man taler meget om på nogle danske universiteter) er nøglen her, fordi denne form kan sætte fokus på aktiv læring hvor den studerende er i centrum og på opdagelseselementet i læring.

Jeg har holdt masser af forelæsninger igennem årene, men siden 2013 er jeg bevæget mig væk fra traditionelle forelæsninger og over til flipped undervisning, hvor jeg bruger podcasts (som jeg selv har lavet), som man kan se, når man vil. Jeg bruger i stedet plenum til aktiviteter, der fokuserer på aktiv læring. Jeg foretrækker langt at have en dialog, der fokuserer på de problemer, der er, frem for den monolog, forelæsninger ofte har det med at føre med sig. Alle mine undervisningsaktiviteter er nu flippede, og jeg er glad for at kunne sige, at der er andre, der nu også er begyndt at tænke i de samme baner. Det er altid godt at have nogen at tale med.

Man kan læse interviewet i sin helhed på https://processalgebra.blogspot.com/2020/06/an-interview-with-hans-huttel-concur.html.

Norbert Wiener

Jeg sidder for tiden og er ved at lægge sidste hånd på kursusmateriale om etik i datalogi og softwareudvikling i forbindelse med et kursus i videnskabsteori. Det er underligt, at jeg først i dette forår er blevet opmærksom på de tanker, som den amerikanske matematiker og filosof Norbert Wiener (1894-1964) har gjort sig her.

Mange, der har læst matematik, kender Wiener som en vigtig skikkelse i det 20. århundredes anvendte matematik, og en del, der har læst datalogi, ved at Wiener er ophavsperson til ordet kybernetik, der lever videre i populærudtryk som cyberspace. Nogle ved også, at Norbert Wiener var særdeles fremmelig som ung. Han fik sin bachelorgrad i matematik fra Harvard som 14-årig, studerede derefter zoologi og filosofi (på Cornell) og brugte så et år på en PhD i matematik. Den blev han færdig med i en alder af 18. (Norbert Wieners far Leo Wiener er faktisk også en interessant skikkelse; han forlod sit hjemland Polen for at stifte et vegetarisk kollektiv i Britisk Honduras, men havnede i USA – og lærte sig efterhånden at tale tredive sprog og blev professor i filologi, selv om han ikke havde nogen formel uddannelse.)

Norbert Wiener ville gerne have været soldat i 1. verdenskrig, men han blev kasseret. I 2. verdenskrig arbejdede han med udvikling af antiluftskytskanoner. Men efter krigen blev Wiener pacifist. Og det var vel her, hans filosofiske virke begyndte. Han tænkte over problemstillinger som konsekvenserne for mennesket af øget automatisering og over mennesket som informationsbehandler. Det er nu tydeligt for mig, at han på mange måder var langt forud for sin tid, og han fortjener at blive genopdaget. Prøv at se dette citat fra hans bog The Human Use of Human Being fra 1950 og tænk på de kriser, menneskeheden står i lige nu.

Hvad mange af os ikke har indset, er, at de sidste fire hundrede år er en meget speciel periode i verdenshistorien. Det tempo, hvormed ændringer i disse år har fundet sted, har intet modstykke i tidligere historie, ej heller selve ændringernes natur. Dette er til dels resultaterne af øget kommunikation, men også af en øget mestring af naturen, som på en begrænset planet som Jorden på sigt kan vise sig at være et øget slaveri af naturen. For jo mere vi kommer ud af verden, jo mindre efterlader vi, og i det lange løb bliver vi nødt til at betale vores gæld på et tidspunkt, der kan være meget upraktisk for vores egen overlevelse.

Fra The Human Use of Human Beings (1950) (min oversættelse)

Ikke god nok?

Hvorfor er der så få kvinder, der studerer datalogi på universitetet eller er ved andre it-uddannelser? Jeg har tit skrevet om det problem, som den skæve kønsfordeling udgør. Nogle vil stadig hævde, at der ikke er tale om et problem eller at det hele skyldes en eller anden indbygget forskel mellem kønnene. Den slags sovepudesvar giver jeg ikke meget for. Der er til gengæld et ubehageligt svar, som man alt for sjældent taler om. Jeg har hørt om ubehagelige oplevelser fra kvinder i disse fagområder og har altid været noget rystet over beretningerne, men jeg har ikke haft et godt overblik over problemets omfang i Danmark. En undersøgelse fra USA fra 2018 viste at kvinder i it-branchen oplevede diskrimination og chikane i meget stort omfang – omkring tre ud af fire kvinder havde sådanne erfaringer.

Rikke Voergård-Olesen, der er mangfoldighedstræner og samarbejder med forskere og specialister inden for ledelsesudvikling, kulturforandring, mangfoldighed og ligestilling, har nu sammen med Kvinfo udarbejdet en omfattende undersøgelse for PROSA af oplevelser af krænkende handlinger blandt dem, der er studerende på it-uddannelser eller arbejder i it-branchen i Danmark. Undersøgelsen omfatter både kvinder og mænd. Tallene, der i denne uge blev omtalt af PROSA, er ikke rar læsning.

36,7 procent af kvindelige studerende angiver at have været udsat for en eller flere krænkende handlinger. For kvinder i arbejde er det 44,5 procent. For mænds vedkommende er tallene henholdsvis 7,5 procent og 12 procent. 78,9% af de kvinder, der har fået kommentarer om krop, seksualitet eller udseende, angiver at kommentarerne kom fra en kollega. 42,2% angiver, at de kom fra en leder.

Hyppigst får kvinder at vide, at de “ikke er fagligt dygtige” og “hellere må holde sig til sekretæropgaver”. 34 procent af kvinderne har været udsat for den slags.

Det er bestemt ikke nok at sige at “vi skal passe bedre på kvinderne” – for hvem er “vi”? Begyndelsen på en løsning må bestå i, at vi alle tager problemet alvorligt. Mange af reaktionerne på PROSAs undersøgelse var heldigvis positive, men desværre kom der også kommentarer fra mænd med et indhold, som jeg ikke har lyst til at gengive her.

Jeg skal ikke til Wien alligevel

Den 25. februar kunne jeg fortælle her, at jeg er blandt modtagerne af den såkaldte Test of Time Award, som uddeles ved konferencen CONCUR2020 i Wien til september.

Men jeg kommer ikke til Wien. Det er nu blevet meddelt, at CONCUR2020 ikke bliver afholdt på sædvanlig vis på grund af COVID-19-pandemien; præsentationerne skal optages i forvejen og vises på nettet. Der bliver selvfølgelig heller ikke nogen prisoverrækkelse. Jeg kan nemt forstå begrundelsen, men jeg er nu alligevel skuffet, for jeg havde glædet mig meget til dette. Ikke mindst havde jeg glædet mig til at se mine medforfattere igen.

Der er rigtig mange akademiske konferencer nu, der går over til at finde sted på denne måde. POPL (Principles of Programming Languages), der finder sted næste gang til januar 2021, har allerede nu meddelt, at konferencen muligvis får denne form. SAS (Static Analysis Symposium) er blevet annonceret som en konference i Chicago til november, men det er helt uklart for mig og sikkert også for mange andre, om det kommer til at ske.

Det gode, der kan komme ud af alt dette, er erfaringer med nye måder at holde konferencer på og dermed måske også en strategi for en omstilling, der kan gøre det muligt at undgå al den rejseaktivitet med fly, der er så skadelig for miljøet.

Jeg er allerede nu ved at tænke over, om ikke jeg kan finde en anden måde at gense mine medforfattere Søren og Colin på, når vi engang igen kan rejse. En togrejse til Edinburgh ville være noget at se frem til.

Et virksomhedsbesøg på Malta

I dag besøgte jeg sammen med Adrian Francalanza, der er professor på University of Malta og som jeg samarbejder med, softwareudviklingsfirmaet Ixaris for at fortælle om igangværende arbejde om typesystemer for Java, som jeg er involveret i. Trods min igangværende bronkitis (der har fået det lidt bedre, måske også ansporet af det gode Middelhavsvejr med temperaturer på 21°C) fik jeg holdt et nogenlunde sammenhængende kort foredrag om det, jeg og andre lige nu har fundet ud af, ikke mindst hvad der er kommet ud af kandidatprojekter om dette emne.

Diskussionen, der fulgte, var også interessant for mig. Det var interessant at få et indblik i hvordan softwareudviklere på Malta griber deres arbejde an og hvilke problemstillinger, de bøvler med. De fremhævede det omfattende arbejde med tests og med at prøve at tage højde for alle fejlsituationer. Det er faktisk fra ord til andet de samme ting, som softwareudviklere i Danmark (og dermed sikkert også andre steder) slås med.

Ordstyring – og vasketøj

Af og til ved konferencer og workshops er jeg ordstyrer, eller session chair, som det hedder. En af disse lejligheder var i dag på den sidste dag af ICISSP2020. Organisatorerne havde skrevet og spurgt, om jeg mon ville være ordstyrer, og det sagde jeg ja til.

Når man er session chair, skal man introducere dem, der præsenterer, og holde øje med om de overholder tiden. Jeg fik udleveret en lille pakke med de tre artikler, der skulle præsenteres, biografier for de tre deltagere, der skulle fremlægge og to ark papir med henholdsvis teksten 5 minutes og Conclusions. Så er det bare at holde øje med tiden og række skiltene op, henholdsvis når der er 5 minutter tilbage af tiden og når der skal rundes af. Helst skal man også have et spørgsmål parat, hvis der nu ikke kommer spørgsmål fra salen. En lidt mere mærkelig tradition, som findes ved nogle konferencer, er at man som session chair skal bedømme kvaliteten af fremlæggelser.

Det gik som det skulle – det var tre meget forskellige fremlæggelser af meget forskelligt stof. Det var interessant alt sammen, men i det foredrag, der handlede om et angreb på en whitebox encryption-algoritme med maskering, måtte jeg indrømme at jeg på et tidspunkt ikke kunne følge med længere. Jeg har engang været med til at holde et PhD-kursus om kryptering, men jeg indså hurtigt, at dette var noget mere videregående og specialiseret. Alle tre deltagere fik en pæn bedømmelse; de havde gjort sig umage og var bestemt også værd at høre på. Bagefter gav jeg de tre hver deres diplom som bevis på at de havde været til stede og fremlagt. Selv fik jeg faktisk også et diplom, fordi jeg havde været session chair. Hvad jeg så skal bruge det til, ved jeg ikke, men det ser da pænt ud.

Efter frokostpausen gik jeg tilbage til mit værelse, proppede alt mit vasketøj i to indkøbsposer og tog hen på et møntvaskeri godt gemt af vejen i en af Vallettas stejle gader for at tage mig af den meget prosaiske syssel, det er at vaske tøj. Efter vel overstået gerning tog jeg poserne med det rene tøj med tilbage til konferencen og lyttede til det afsluttende indbudte foredrag – det handlede om de to store trylleord i vore dage, nemlig blockchain og Internet of Things. De to trylleord kan man nemlig åbenbart altid sige mere om.

Og det blev min tur

I går aftes var der middag for alle konferencedeltagere i Mdina lidt uden for Valletta. Det eneste, jeg og andre savnede lidt, var muligheden for at gå en lille tur rundt i Mdinas bykerne i stedet for bare at blive placeret ved bordene i restauranten. Jeg endte med at snakke med en deltager fra USA, der oprindelig er fra Pakistan, men også havde tilbragt 12 år i Sydkorea. I den akademiske verden er der mange mennesker, der på denne måde er på gennemrejse.

I dag var det tid for min egen fremlæggelse til ICISSP2020. I kan se mine slides herunder, hvis I er interesseret. Bidraget handler om en analyse af protokollerne i det betalingsnetværk, der hedder Lightning Network og kan anvendes sammen med blockchain-løsninger. Analysen viser, at der en sikkerhedsfejl i en af protokollerne; det er interessant og selvfølgelig også lidt ærgerligt.

Inden jeg selv skulle på, var der et et indbudt foredrag med Stefan Schmid, der er professor på Universität Wien. Men for nogle få år siden var Stefan faktisk ansat samme sted som der, hvor jeg er nu, så foredraget var også et gensyn. Vi hilste da også på hinanden bagefter, og Stefan inviterede mig til at kigge forbi instituttet, hvor han arbejder nu, når jeg besøger Wien.

Mit foredrag gik vel som det skulle; der var ikke nogen spørgsmål bagefter, men jeg er ikke sikker på, om det var et godt eller et dårligt tegn. Ordstyreren kom med en interessant kommentar bagefter, så der var mindst én, der havde forstået mit hovedbudskab.

Bagefter var der endnu af de poster-sessions, man ser så ofte, og som kan give et mere uformelt indblik i ny og igangværende forskning. ICISSP bliver holdt sammen med nogle andre datalogikonferencer om bl.a. sundhedsteknologi, så der var postere om lidt af hvert.