Når maskinerne bliver bedst, hvad gør de så med os?

En af det forgangne års mest interessante bøger om teknologi er James Barrats ”Our Final Invention: Artificial Intelligence and the End of the Human Era.”

Som titlen antyder, handler bogen om kunstig intelligens (AI), og hvordan den truer med at overtage vores liv. Det lyder som science-fiction, endda af den rigtig brugte slags, men det giver desværre mening, når man lytter til James Barrat, hvis bog bygger på interview med førende eksperter inden for AI.

Fra Watson til det industrielle internet

Allerede i dag har vi delvist selvtænkende systemer online i form af algoritmer, der danner profiler og træffer valg på vores vegne.

Vi har et globalt finansmarked, hvor langt de fleste transaktioner foregår uden menneskelig indblanding.

En af tidens mest omtalte tech-visioner er den selvkørende bil, hvis grundlæggende princip er, at mennesket blander sig udenom.

En virksomhed som GE poster i disse år milliarder af dollar i det industrielle internet, smart machines med enorme netværk af industrielle maskiner, der fungerer og kommunikerer på egen hånd.

Det mest prominente eksempel på selvstændighed i computerstanden er nok IBM’s supercomputer Watson, der er verdensmester i Jeopardy, dvs. i stand til at forstå kontekst og levere egenproducerede svar.

Er det så kunstig intelligens? Det er lige så relevant at diskutere, om en ubåd kan svømme. Faktum er, at teknologien udvikler sig med enorm hast, og spørgsmålet er, om vi er klar over, hvad der foregår, og om det er et problem?

Hvem skal bestemme?

Til det sidste svarer Barrat med et rungende ja. De intelligente maskiner, som Watson der i dag allerede er en læge intellektuelt overlegen, vil fortsætte med at udvikle sig i høj fart, i modsætning til menneskeracen.

Maskinerne vil med tiden blive mere intelligente og selvstændige. .

Således diskuterer det amerikanske militær allerede de etiske problemstilinger ved at have 100 procent autonome droner, der må dræbe uden at spørge om lov hos en menneskelig beslutningstager.

Hvordan kvantificerer og injicerer man et menneskeligt værdisæt (som afhænger af vidt forskellige faktorer) i en maskine?

Vi mennesker har altid været den klogeste skabning på planeten, men for første gang i racens historie er det måske ved at ændre sig. Vi vil være omgivet af maskiner, der hele tiden bliver klogere og mere selvstændige.

Problemet ingen taler om

Hvordan skal vi indrette os i en sådan verden, og ønsker vi noget sådant i det hele taget?

Det er en nødvendig diskussion, og den er indtil videre udeblevet. Barrat beretter, at selv de klogeste eksperter på området erkender risikoen for ”runaway AI,” men ingen bruger tid eller andre ressourcer på at undersøge det nærmere.

Risikoen er reel, fortæller Barrat. ”Det er alarmerende, hvor mange af de mennesker, jeg har talt med, højt placerede personer inden for AI, som har arrangeret tilflugtssteder til overlevelse, hvis det går galt.”

Barrat er i øvrigt ikke alene. Klik for eksempel forbi The Cambridge Centre for the Study of Existential Risk.

Næste station: Singularity

Lidt længere ude i fremtiden, måske om et par årtier, begynder vi for alvor at rykke med singularity, altså sammensmeltning af menneske og teknologi.

Hvor vi bliver klogere ved at få installeret/indopereret en digital enhed, der formår at kommunikere med det menneskelige system. Eller noget i den retning.

En af tænkerne inden for dette felt er opfinderen Ray Kurzweil, der i 2006 udgav ”The Singularity Is Near: When Humans Transcend Biology,” hvor han peger på netop udviklingshastigheden på det digitale område, der gør vores tidsalder forskellig fra alle tidligere. Kurzweil arbejder i dag hos Google, der ifølge Barrat satser voldsomt på AI.

2 responses to “Når maskinerne bliver bedst, hvad gør de så med os?

Skriv et svar

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *