Når maskinerne bliver bedst, hvad gør de så med os?

Af Sten Løck 2

En af det forgangne års mest interessante bøger om teknologi er James Barrats ”Our Final Invention: Artificial Intelligence and the End of the Human Era.”

Som titlen antyder, handler bogen om kunstig intelligens (AI), og hvordan den truer med at overtage vores liv. Det lyder som science-fiction, endda af den rigtig brugte slags, men det giver desværre mening, når man lytter til James Barrat, hvis bog bygger på interview med førende eksperter inden for AI.

Fra Watson til det industrielle internet

Allerede i dag har vi delvist selvtænkende systemer online i form af algoritmer, der danner profiler og træffer valg på vores vegne.

Vi har et globalt finansmarked, hvor langt de fleste transaktioner foregår uden menneskelig indblanding.

En af tidens mest omtalte tech-visioner er den selvkørende bil, hvis grundlæggende princip er, at mennesket blander sig udenom.

En virksomhed som GE poster i disse år milliarder af dollar i det industrielle internet, smart machines med enorme netværk af industrielle maskiner, der fungerer og kommunikerer på egen hånd.

Det mest prominente eksempel på selvstændighed i computerstanden er nok IBM’s supercomputer Watson, der er verdensmester i Jeopardy, dvs. i stand til at forstå kontekst og levere egenproducerede svar.

Er det så kunstig intelligens? Det er lige så relevant at diskutere, om en ubåd kan svømme. Faktum er, at teknologien udvikler sig med enorm hast, og spørgsmålet er, om vi er klar over, hvad der foregår, og om det er et problem?

Hvem skal bestemme?

Til det sidste svarer Barrat med et rungende ja. De intelligente maskiner, som Watson der i dag allerede er en læge intellektuelt overlegen, vil fortsætte med at udvikle sig i høj fart, i modsætning til menneskeracen.

Maskinerne vil med tiden blive mere intelligente og selvstændige. .

Således diskuterer det amerikanske militær allerede de etiske problemstilinger ved at have 100 procent autonome droner, der må dræbe uden at spørge om lov hos en menneskelig beslutningstager.

Hvordan kvantificerer og injicerer man et menneskeligt værdisæt (som afhænger af vidt forskellige faktorer) i en maskine?

Vi mennesker har altid været den klogeste skabning på planeten, men for første gang i racens historie er det måske ved at ændre sig. Vi vil være omgivet af maskiner, der hele tiden bliver klogere og mere selvstændige.

Problemet ingen taler om

Hvordan skal vi indrette os i en sådan verden, og ønsker vi noget sådant i det hele taget?

Det er en nødvendig diskussion, og den er indtil videre udeblevet. Barrat beretter, at selv de klogeste eksperter på området erkender risikoen for ”runaway AI,” men ingen bruger tid eller andre ressourcer på at undersøge det nærmere.

Risikoen er reel, fortæller Barrat. ”Det er alarmerende, hvor mange af de mennesker, jeg har talt med, højt placerede personer inden for AI, som har arrangeret tilflugtssteder til overlevelse, hvis det går galt.”

Barrat er i øvrigt ikke alene. Klik for eksempel forbi The Cambridge Centre for the Study of Existential Risk.

Næste station: Singularity

Lidt længere ude i fremtiden, måske om et par årtier, begynder vi for alvor at rykke med singularity, altså sammensmeltning af menneske og teknologi.

Hvor vi bliver klogere ved at få installeret/indopereret en digital enhed, der formår at kommunikere med det menneskelige system. Eller noget i den retning.

En af tænkerne inden for dette felt er opfinderen Ray Kurzweil, der i 2006 udgav ”The Singularity Is Near: When Humans Transcend Biology,” hvor han peger på netop udviklingshastigheden på det digitale område, der gør vores tidsalder forskellig fra alle tidligere. Kurzweil arbejder i dag hos Google, der ifølge Barrat satser voldsomt på AI.

2 kommentarer RSS

  1. Af Detailhandlens spåkone og andre fortællinger fra en datatid | Tech tjek - teknologi til folket

    -

    [...] tallet ikke skulle være så højt, er det ikke desto mindre en skræmmende realitet, at maskiner bliver bedre langt hurtigere, end vi selv gør. Og nutidens samfund er ikke gearet til denne forandring, [...]

  2. Af En computer som chef | Tech tjek - teknologi til folket

    -

    [...] bliver overtaget af robotter og selvkørende software, et faktum jeg regelmæssigt blogger om. Maskiner bliver læger, chauffører og kundeservicemedarbejdere, hvilket er en imponerende [...]

Skriv kommentar

Kun fornavn og efternavn bliver vist i forbindelse med kommentaren. Dog skal alle felter med * (stjerne) udfyldes

Læs vilkår for kommentarer og debat på Berlingske Tidendes websites

RETNINGSLINJER

Berlingske ønsker at sikre, at debatten på b.dk føres i en ordentlig tone, som gør det inspirerende og udfordrende for alle at bidrage og deltage. Vi efterlyser gerne klare, skarpe, holdningsmæssige stærke indlæg med stor bredde og mangfoldighed og kritisk blik på sagen. Men vi accepterer ikke indlæg, som er åbenlyst injurierende, racistiske, personligt nedgørende. Sådanne indlæg vil fremover blive slettet. Det samme gælder indlæg, der ikke er forsynet med fuldt og korrekt navn på afsenderen, men som indeholder forkortede navne, opdigtede eller falske navne.

Vi opfordrer samtidig alle debattører til at gøre redaktionen opmærksom på indlæg, som ikke overholder disse retningslinjer.

Redaktionen

Yderligere info