Forskere vil have «etiske overvågningsbokse» som rapporterer til politiet

1984: En gruppe forskere tilknyttet Universitetet i Bergen i Norge har foreslået udviklingen af AI-styrede «moralbokse» til private hjem, som skal lytte til alt som bliver sagt og tage stilling til hvorvidt det er lovligt eller ulovligt – og rapportere det til myndighederne.

Google Home Mini lytter (CC BY-SA 4.0)

En forskningsgruppe tilknyttet Universitetet i Bergen, ledet af Marija Slavkovik, foreslår nu udviklingen af ​​såkaldte moralske autonome enheder, styret af kunstig intelligens (AI). Disse er apparater som skal findes i private hjem, skal lytte til hvad der bliver sagt og på eget initiativ overveje, om det er moralsk acceptabelt eller om det endda bryder loven. Endelig skal enheden anmelde ejeren til «rette instans».

Disse «autonome enheder» er for nyligt set dagens lys med produkterne Amazon Echo og Google Home, to «gadgets», der markedsføres med argumentet, at de forenkler hverdagen i hjemmet ved centralt at kunne styre og strukturere vores liv.

Der blev tidligere udtrykt bekymring for, at disse kunne blive misbrugt, da både kameraet og mikrofonen er forbundet med deres respektive selskabers computersystemer. Derudover har de andre funktioner som talegenkendelse og registrering af vaner, så de næsten kan forudsige, hvad vi vil foretage os.

Google har i øvrigt været alt andet end åben vedrørende dette, også  tidligere. I 2017 kom Google Nest Secure; et centralt sikkerhedssystem til hjemmet, hvor man via et digitalt tastatur kan styre blandt andet tyverialarmen i hjemmet. Nu er en ekstra funktion blevet kendt: via en indbygget mikrofon kan man også styre systemet med stemmen. Problemet er, at denne mikrofon også var der før opdatering af softwaren til talestyrede funktioner, og denne oplysning var ikke tilgængelig for de personer, der købte produktet. «Vi glemte det», siger en officiel udtalelse fra Google.

Marija Slavkovik har længe arbejdet på dette felt, og fra de allerførste publikationer hun har bidraget til eller endda offentliggjort, taler hun varmt om disse muligheder. Det er stadig uvist, om folk fremover stadig vil være lige så begejstrede over disse «gadgets» efter dette er blevet kendt.

Kilder:
Mailonline
The Sun