Brad Smith er en af topplederne i Microsoft, og svært bekymret for udviklingen af kunstig intelligens. Han mener det er helt nødvendig at kontrollere udviklingen gennem lovgivningen. Hvis ikke kan vi opleve et 1984-samfund allerede i 2024.

Smith har det øverste ansvar for juridiske spørgsmål hos Microsoft. I et interview med BBC Panorama advarer Smith mod at livet kan blive som beskrevet i George Orwells klassiske dystopi ”1984”: Et samfund præget af total kontrol og massiv overvågning.

Det vil ikke blive let, men lovgiverne må forsøge at hænge med i svingene, nu hvor udviklingen af kunstig intelligens (AI) og overvågningsteknologi går stadig hurtigere.

‘If we don’t enact the laws that will protect the public in the future, we are going to find the technology racing ahead.’

Kina har allerede udviklet et system hvor befolkningen overvåges tæt.

Det nye system blev annonceret af kommunistpartiet i 2014 og er allerede delvist implementeret. Efterhånden vil den kinesiske stat have adkomst til hvert et skridt, hvert et ord som skrives online, hvad man ”liker” og ikke ”liker” etc.

Mulighederne er både uendelig store men også voldsomt skræmmende. For kinesernes tiltag vil give hver kineser en ”social rating”. Denne kan afgøre hvilke job du kan få, og om man får lov til at rejse udenlands.

Panorama afdækker nye elementer ved det kinesiske overvågningssystem. Kina vil have teknologi som er i stand til at genkende følelser og afgøre skyld. En anonym software-ingeniør, som har arbejdet med udviklingen af det kinesiske system, som overvåger uighurene fortæller:

‘We placed the emotion detection camera three meters from the subject. It is similar to a lie detector but this is a far more advanced technology.’

‘It is used to confirm the authorities’ prejudgment without any credible evidence. The computer score reveals the suspect is dangerous, therefore he or she must be guilty of many wrongdoings which have not been confessed yet.’

Smith siger at science fiction er i færd med at blive en realitet, meget hurtigere end de fleste folk fatter.

‘I’m constantly reminded of George Orwell’s lessons in his book 1984. You know the fundamental story…was about a government who could see everything that everyone did and hear everything that everyone said all the time.’

‘Well, that didn’t come to pass in 1984, but if we’re not careful that could come to pass in 2024,’

Eric Schmidt er tidligere topchef for Google og var rådgiver i AI-spørgsmål for US National Security Commission.

Han siger det bliver afgørende at udkonkurrere Kina i udviklingen af kunstig intelligens.

‘We’re in a geo-political strategic conflict with China,’ he said. ‘The way to win is to marshal our resources together to have national and global strategies for the democracies to win in AI.’

‘If we don’t, we’ll be looking at a future where other values will be imposed on us.’

Men dette kan blive vanskeligt, hvis tech-giganterne er i lommen på Kina. Den amerikanske forretningsmand Peter Thiel hævdede i 2019, at Google delte sin mest avancerede forskning indenfor kunstig intelligens med Kina, men afslog at samarbejde med det amerikanske forsvar.

I juli 2020 advarede Thiel’s tidligere Pay Pal-partner Elon Musk at kunstig intelligens ville overgå menneskelig intelligens i løbet af kun fem år. Musk frygtede at dette ville udgøre en «eksistensiell trussel» for menneskeheden.

Peter Thiel: Google deler kunstig intelligens med Kina, ikke med USA 

Professor Stuart Russel er en britisk AI-ekspert tilknyttet University of California. Han siger til Panorama at vi står ved en skillevej for menneskeheden.

‘If we get it right it could be a golden era for humanity, we could abolish poverty and disease. If we get it wrong we could create a technology-reinforced global dictatorship, we could even lose control over the world to our own technology.’

Document skrev for nylig om hvordan Bellona har tatt i bruk kunstig intelligens for at standse kritik af klimahysteriet. I april skrev vi om hvordan militære styrker kan sende sverme av stridsdroner ud, som kontrolleres af denne teknologi.

Forskere ved Oxford frygter i 2018 at terrorister, hackere og autoritære ledere vil bruge den nye teknologi. Og Facebook siger de vil benytte kunstig intelligens til at identifisere ekstremisme, noget som i høj grad vil ramme borgerlige stemmer.

Et andet skræmmende perspektiv er muligheden for at Big Tech benytter sig af kunstig intelligens for at sikre, at republikanerne aldrig får muligheden for at vinde et valg i fremtidens USA. Disse selskaber lægger jo ikke akkurat skjul på deres politiske præferencer.

Samtidig er det moderne menneske villig til at lade sig overvåge frivilligt. Vi overvåges på utallige måder. Hver gang vi sender en SMS, bruger kreditkort, går forbi et overvågningskamera, ”liker” noget på Facebook: Alt bliver registreret og al denne information kan blive brugt mod os.

Som nogen for nylig udtrykte det: Brugerne af sociale medier som Facebook er ikke længere kunder. Brugerne er det produkt, Facebook sælger for utallige milliarder dollar.

Vi overvåges af myndighederne, som snart vil rulle sine vaccinepas ud. Danmark lancerede i dag sin app «Coronapas». Enkelte indopererer allerede microchips i hånden, noget som åbner for skræmmende perspektiver.

Du kan se programmet i sin helhed nedenfor.