Stephen Hawking, Elon Musk og Bill Gates. (Foto: Getty Images) Noen av de mest populære sci-fi-filmene - 2001: A Space Odyssey, The Terminator, The Matrix, Transcendence, Ex Machina , og mange andre - har vært basert på forestillingen om at kunstig intelligens vil utvikle seg til et punkt der menneskeheten ikke vil være i stand til å kontrollere sine egne kreasjoner, noe som fører til at hele vår sivilisasjon er død. Denne frykten for rask teknologivekst og vår økende avhengighet av den er absolutt berettiget, gitt kapasiteten til dagens maskiner som er bygget for militære formål.
Allerede har teknologi hatt betydelig innvirkning på krigføring siden Irak-krigen startet i 2001. Ubemannede droner sørger for vedvarende overvåking og raske angrep på mål, og små roboter brukes til å avvæpne improviserte eksplosive enheter. Militæret er for tiden finansiering forskning for å produsere mer autonome og selvbevisste roboter å redusere behovet for menneskelige soldater for å risikere livet. Grunnlegger av Boston Dynamics, Marc Raiber, ga ut en video som viser en skremmende seks fot høy, 320 lb. humanoid robot som heter Atlas, løper fritt i skogen. Selskapet, som var kjøpt av Google i 2013 og mottar tilskuddspenger fra Forsvarsdepartementet, jobber med å utvikle en enda mer smidig versjon.
[beskyttet-iframe id = f3ad9cb5d88743d09a7e6c45b1a9b09b-35584880-78363900 ″ info = https: //www.youtube.com/embed/NwrjAa1SgjQ bredde = 560 ″ høyde = 315 ″ frameborder = 0 ″ tillatt skjerm =]
De iboende farene ved en så kraftig teknologi har inspirert flere ledere i det vitenskapelige samfunnet til å uttrykke bekymringer om kunstig intelligens.
Suksess med å skape AI ville være den største begivenheten i menneskehetens historie, skrev Stephen Hawking i en op-ed, som dukket opp i Den uavhengige i 2014. Dessverre kan det også være det siste, med mindre vi lærer hvordan vi kan unngå risikoen. På kort sikt vurderer verdensmilitærene autonome våpensystemer som kan velge og eliminere mål. Professor Hawking la til i 2014 intervju med BBC , mennesker, begrenset av langsom biologisk evolusjon, kunne ikke konkurrere og ville bli erstattet av A.I.
Teknologien beskrevet av Mr. Hawking har allerede begynt i flere former, alt fra amerikanske forskere bruke datamaskiner til å legge inn algoritmer forutsi de militære strategiene til islamske ekstremister til selskaper som Boston Dynamics som har bygget vellykket mobile roboter , forbedrer jevnlig hver prototype de lager.
Mr. Hawking sluttet seg nylig til Elon Musk, Steve Wozniak og hundrevis av andre for å utstede et brev som ble avdekket på den internasjonale felleskonferansen i Buenos Aires, Argentina i forrige måned. Brevet advarer om at kunstig intelligens potensielt kan være farligere enn atomvåpen.
Det etiske dilemmaet med å tildele roboter moralsk ansvar krever streng sikkerhet og forebyggende tiltak som er feilsikre, eller truslene er for betydningsfulle til å risikere.
Elon Musk kalte utsikten til kunstig intelligens vår største eksistensielle trussel i 2014 intervju med MIT-studenter på AeroAstro Centennial Symposium. Jeg er mer og mer tilbøyelig til å tenke at det bør være noe reguleringsovervåking, kanskje på nasjonalt og internasjonalt nivå, bare for å sørge for at vi ikke gjør noe veldig tåpelig. Mr. Musk siterer sin beslutning om å investere i kunstig intelligensfirma DeepMind som en midler å bare holde øye med hva som skjer med kunstig intelligens. Jeg tror det er potensielt et farlig utfall der.
Microsoft medstifter Bill Gates har også uttrykt bekymring for kunstig intelligens. Under en Q & A-økt på Reddit i januar 2015, sa Gates, jeg er i leiren som er opptatt av superintelligens. Først vil maskinene gjøre mange jobber for oss og ikke være superintelligente. Det burde være positivt hvis vi klarer det bra. Noen tiår etter det, selv om etterretningen er sterk nok til å være en bekymring. Jeg er enig med Elon Musk og noen andre i dette og forstår ikke hvorfor noen mennesker ikke er bekymret.
Truslene som er oppregnet av Hawking, Musk og Gates er reelle og verdige vår umiddelbare oppmerksomhet, til tross for de enorme fordelene kunstig intelligens potensielt kan føre til menneskeheten. Etter hvert som robotteknologien øker jevnt og trutt mot de fremskrittene som er nødvendige for å lette utbredt implementering, blir det klart at roboter kommer til å være i situasjoner som utgjør en rekke handlingsmåter. Det etiske dilemmaet med å gi moralsk ansvar til roboter krever streng sikkerhet og forebyggende tiltak som er feilsikre, eller truslene er for betydningsfulle til å risikere.
